Distantie en similariteit

Met distantie en similariteit wordt de mate van verschil de mate en van overeenkomst in kenmerken of attributen van multivariate objecten bedoeld zoals deze berekend kunnen worden op grond van de gemeten variabelen, dus van attributen of kenmerken, van multivariate objecten.

Distanties of dissimilariteiten zijn de verschillen die bepaald worden op grond van waarden (of responsies) voor de kenmerken of attributen bij verschillende objecten. De meest bekende distantie is de euclidische afstand.

Similariteiten zijn juist de overeenkomsten tussen variabelen of tussen objecten. Dergelijke gegevens ten behoeve van de berekening worden weergegeven in tabellen (matrix) met rijen en kolommen voor de variabelen en de objecten. De meest bekende similariteit-maten zijn de correlatiecoëfficienten.

Bij de multivariate objecten gaat het bijvoorbeeld om vogeltellingen, steekproeven, hydrobiologische monsters of vegetatieopnamen, waarbij de attributen bestaan uit de waargenomen soorten, en de waarden bestaan uit waarnemingen van de af- of aanwezigheid of de aantallen voor elke vogel- of plantensoort.

Gebruik

Distanties en similariteiten worden wel gebruikt bij multivariate statistische methoden als clusteranalyse en bij ordinatie van biologische en ecologische gegevens.

Voorafgaand aan de gegevensverwerking is het vaak nodig eerst de distanties of similariteiten tussen de objecten te berekenen, na voorafgaande standaardisatie of normalisatie van de basisgegevens.

Bij een dergelijke berekening gaan de oorspronkelijke data van de variabelen verloren.

Er zijn ook 'directe' analysemethoden beschikbaar, waar deze voorafgaande berekeningen niet nodig zijn.

Indexen

Sjabloon:TekstAchtergrondRandn×m tabel met m objecten (kolommen), n attributen (rijen) en responsies (cellen)Sjabloon:Einde

		m objecten (monsters, samples)								randtotalen variabelen ↓
		ObjectSjabloon:Sub	ObjectSjabloon:Sub		ObjectSjabloon:Sub		ObjectSjabloon:Sub		ObjectSjabloon:Sub
n afhankelijke variabelen $y_1$ t/m $y_n$	Variabele1 $y_1$	$y_{11}$	$y_{12}$		$y_{1f}$		$y_{1g}$		$y_{1m}$	$\sum _{k=1}^m{y}_{1k}$
	Variabele2 $y_2$	$y_{21}$	$y_{22}$		$y_{2f}$		$y_{2g}$		$y_{2m}$	$\sum _{k=1}^m{y}_{2k}$
	Variabelei $y_i$	$y_{i1}$	$y_{i2}$		$y_{if}$		$y_{ig}$		$y_{im}$	$\sum _{k=1}^m{y}_{ik}$
	Variabelej $y_j$	ySjabloon:Sub	$y_{j2}$		$y_{jf}$		$y_{jg}$		$y_{jm}$	$\sum _{k=1}^m{y}_{jk}$
	Variabelen $y_n$	$y_{n1}$	$y_{n2}$		$y_{nf}$		$y_{ng}$		$y_{nm}$	$\sum _{k=1}^m{y}_{nk}$
randtotalen voor de objecten →		$\sum _{h=1}^n{y}_{h1}$	$\sum _{h=1}^n{y}_{h2}$		$\sum _{h=1}^n{y}_{hf}$		$\sum _{h=1}^n{y}_{hg}$		$\sum _{h=1}^n{y}_{hm}$	$\sum _{h=1}^n\sum _{k=1}^m{y}_{hk}$

Voor een objecten-bij-attributentabel zijn voor het berekenen van indexen of coëfficiënten voor distantie en similariteit (verschil en overeenkomst) van de objecten of van de attributen een groot aantal verschillende indexen beschikbaar. Voor de elk van attributen is er slechts één variabele. Als er meer variabelen zijn worden deze gecombineerd tot slechts één variabele.

Similariteiten kunnen vaak worden omgerekend tot distanties en omgekeerd. De rol van objecten en variabelen kan in sommige gevallen worden omgewisseld, zodat niet alleen de distanties en similariteiten tussen de objecten kunnen worden berekend, maar ook tussen attributen of variabelen.

Meetschaal

De keuze van de index hangt af van de meetschaal van de gegevens. Vaak is een mogelijkheid de waarden van de ene schaal te transformeren naar een andere schaal.

Voorbeeld: Bij vegetatieopnamen (de objecten) volgens de Braun-Blanquet-methode worden voor de soorten (de attributen) de variabelen voor bedekking en voor talrijkheid samengevoegd tot een gecombineerde schatting (de variabelen) en ten behoeve van numerieke verwerking daarna getransformeerd.

Men onderscheidt de volgende niveaus waarop gemeten wordt: Sjabloon:Stamboom2 Sjabloon:Stamboom2/einde aftakking

• Kwalitatieve kenmerken (categorische gegevens):
  • Nominaal: benoemen (niet-rangschikbare waarden)
  • Sjabloon:Stamboom2/einde tak Ordinaal: ordening (rangschikbare waarden)
• Binaire (variabelen met twee opties: 0/1, -/+, afwezig/aanwezig, nee/ja, onwaar/waar)
• Kwantitatieve kenmerken (numerieke, scalaire, metrische, kardinale gegevens)
  • Discrete gegevens (aftelbaar aantal numerieke waarden)
    • Natuurlijk getallen (bijvoorbeeld telling)
    • Gehele getallen
    • Sjabloon:Stamboom2/einde tak Reële getallen (getallen op een getallenlijn)
  • Sjabloon:Stamboom2/einde tak Continue gegevens (niet-aftelbaar aantal numerieke waarden)
    • Interval: met gelijke intervallen
    • Sjabloon:Stamboom2/einde tak Ratio: intervallen met een betekenisvol nulpunt
• Sjabloon:Stamboom2/einde tak Circulaire gegevens

De bovenstaande zijn niveaus van gegevens in de genoemde volgorde van toenemende complexiteit en omvat een volgend genoemd niveau steeds de eerdere. Circulaire gegevens zijn hier verder buiten beschouwing gelaten, deze worden hier verder niet besproken. Voorbeelden daarvan zijn: dag van de week, maand van het jaar, het seizoen (voorjaar/zomer/herfst/winter), waterhoogte (eb/vloed), tijdstip op de dag, windrichting.

Waarnemingen nominale variabelen

Waarnemingen met nominale variabelen kunnen ten behoeve van de ggevensverwerking getransformeerd worden in binaire variabelen, door met voor elke nominale waarde een dummy-variabele met 0-1 waarden (binair) aan te maken.

Voorbeeld: de variabele "Oogkleur" (mogelijke waarden: bruin,blauw en zwart) wordt getransformeerd in de variabelen "Oogkleur bruin" (mogelijke waarden: 1/0), "Oogkleur blauw" (mogelijke waarden: 1/0) en "Oogkleur zwart" (mogelijke waarden: 1/0).

Transformatie van 1 nominale naar 3 binaire variabelen
Van 1 nominale variabele Oogkleur	naar 3 binaire variabelen:
	Bruine ogen	Blauwe ogen	Zwarte ogen
bruin	1	0	0
blauw	0	1	0
zwart	0	0	1

Waarnemingen ordinale variabelen

Waarnemingen met ordinale variabelen kunnen worden getransformeerd in binaire variabelen

Voorbeeld: de variabele "Score" (mogelijke waarden van hoog naar laag: goud, zilver en brons) wordt getransformeerd in de variabelen Score brons (waarde=1 als Score=brons, anders waarde=0), Score zilver (waarde=1 als Score=brons of Score=zilver, anders waarde=0) en Score goud (waarde=1 als Score=brons of Score=zilver of Score=goud).

Transformatie van 1 ordinale naar 3 binaire variabelen
Van 1 ordinale variabele Score	naar 3 binaire variabelen:
	Score goud	Score zilver	Score brons
goud	1	0	0
zilver	1	1	0
brons	1	1	1

Waarnemingen binaire variabelen

Een binaire variabele is een variabele die slechts twee, elkaar uitsluitende waarden kan aannemen, zoals Sjabloon:Nowrap, Sjabloon:Nowrap, Sjabloon:Nowrap, of Sjabloon:Nowrap. Bij vergelijking van objecten met binaire variabelen worden de waarnemingen zo nodig getransformeerd naar 0 - 1 waarden en kunnen de formules vereenvoudigd worden, afhankelijk van het al of niet meerekenen van de 'dubbel-afwezige' (dubbel 0, dubbel Afwezig, dubbel Nee) overeenkomsten.

Indien gewenst kunnen ook attributen of variabelen met elkaar vergeleken worden, met vergelijkbare formules (deze zijn hier niet uitgeschreven).

Sjabloon:TekstAchtergrondRandVergelijking van Object_f en Object_g met n binaire variabelenSjabloon:Einde

Sjabloon:TekstAchtergrondRandmet meerekenen van de 'dubbel-afwezigen'Sjabloon:Einde		Sjabloon:TekstAchtergrondRandmet uitsluiting van de 'dubbel-afwezigen'Sjabloon:Einde
objecten Objectg randtotalen ↓ waarden → ↓ 1, Aanwezig, +, Ja 0, Afwezig, —, Nee Objectf 1, Aanwezig, +, Ja A B A + B 0, Afwezig, —, Nee C D C + D randtotalen → A + C B + D N = A + B + C + D		objecten Objectg randtotalen ↓ waarden → ↓ 1, Aanwezig, +, Ja 0, Afwezig, —, Nee Objectf 1, Aanwezig, +, Ja c a - c a 0, Afwezig, —, Nee b - c ø ('dubbel-afwezig') b - c randtotalen → b a - c m = a + b - c
waarin: $y_{hf}$ en $y_{hg}$ hebben de waarden 0 of 1 A = $\sum _{h=1}^n(y_{hf}\cdot y_{hg})$, B = $\sum _{h=1}^n(y_{hf}\cdot (1-y_{hg}))$, C = $\sum _{h=1}^n(1-(y_{hf})\cdot y_{hg})$ en D = $\sum _{h=1}^n(1-y_{hf})\cdot (1-y_{hg})$		waarin: $y_{hf}$ en $y_{hg}$ hebben de waarden 0 of 1 a = $\sum _{h=1}^m{y}_{hf}$, b = $\sum _{h=1}^m{y}_{hg}$ en c = $\sum _{h=1}^m(y_{hf}\cdot y_{hg})$ ø: Onder 'dubbel-afwezig' verstaat men de situatie dat beide binaire variabelen de waarde 0 (—, Afwezig, Nee) hebben. In sommige gevallen hebben deze geen zinvolle betekenis.

Similariteiten

Voorbeelden van similariteiten zijn correlaties en cosinus. Correlatiecoëfficiënten nemen waarden aan van -1 tot +1, waarbij bij de hoogste waarde staat voor de hoogste mate van overeenkomst (similariteit) en de kleinste distantie (dissimilariteit). Om als distantiemaat te kunnen fungeren moeten ze dus getransformeerd worden.

Sjabloon:Afkorting	naam	formule	waarin:	range
$r$	Pearsons product-moment correlatiecoëfficiënt  (algemene formule)	$r_{ij}=\frac{m\cdot \sum _{k=1}^m{y}_{ik}\cdot y_{jk}-\sum _{k=1}^m{y}_{ik}\cdot \sum _{k=1}^m{y}_{jk}}{\sqrt{m\cdot \sum _{k=1}^m{y}_{ik}^2-(\sum _{k=1}^m{y}_{ik}{)}^2}\cdot \sqrt{m\cdot \sum _{k=1}^m{y}_{jk}^2-(\sum _{k=1}^m{y}_{jk}{)}^2}}$	$r_{ij}$ = correlatie $y_{ik}$ = waarde voor object i en variabele k $y_{jk}$ = waarde voor object j en variabele k m = aantal waarden	[-1,+1]
${\rho }_S$	Spearmans rangcorrelatiecoëfficiënt	${\rho }_{ij}=1-\frac{6\cdot \sum _{k=1}^m(y_{ik}-y_{jk}{)}^2}{m\cdot (m^2-1)}$	${\rho }_{ij}$ = rangcorrelatiecoëfficiënt ySjabloon:Sub en ySjabloon:Sub zijn rangnummers binnen de variabelen YSjabloon:Sub en YSjabloon:Sub	[-1,+1]
$phi$, $\phi$	puntcorrelatie, associatiecoëfficiënt	${\phi }_{ij}=\frac{BC-AD}{\sqrt{(A+B)(A+C)(B+C)(C+D)}}$	${\phi }_{ij}$ = puntcorrelatie ySjabloon:Sub en ySjabloon:Sub zijn presenties: 0 of 1	[-1,+1]
$\cos$	cosinus van de hoek α tussen de vectoren door de oorsprong	${\cos }_{ij}=\frac{\sum _{k=1}^m(y_{ik}\cdot y_{jk})}{\sqrt{\sum _{k=1}^m(y_{ik})\cdot \sum _{k=1}^m(y_{jk})}}$ voor binaire variabelen wordt de formule: $Co{s}_{ij}=\frac{c}{\sqrt{a\cdot b}}$	${\cos }_{ij}$ = cosinus $y_{ik}$ = waarde voor object i en variabele k $y_{jk}$ = waarde voor object j en variabele k m = aantal waarden	[-1,+1]

Een andere correlatiecoëfficiënt is de punt-biseriële correlatiecoëfficiënt, evenals de puntcorrelatie een variant van de Pearsons product-momentcorrelatiecoëfficiënt.

Overige maten voor similariteit, zoals de coëfficiënten van Jaccard, Sörensen, Whittaker en Motyka worden besproken bij de distanties.

Distanties

Voorbeelden van indices voor distanties.

afkorting	naam coëfficiënt	formule	waarin: m = aantal variabelen	range
MD	Minkowski distance,  geïnduceerd door de Lr-norm  (algemene formule)	$M{D}_{ij}=(\sum _{k=1}^m{\mid y_{ik}-y_{jk}\mid }^r{)}^{\frac{1}{r}}$	MDSjabloon:Sub = distantie tussen objecten i en j ySjabloon:Sub = waarde voor object i en variabele k ySjabloon:Sub = waarde voor object j en variabele k m = aantal attributen met positieve waarden r is een constante (1 of 2)
CBD	city block distance, Manhattan-metriek	${CBD}_{ij}=\sum _{k=1}^m\mid y_{ik}-y_{jk}\mid$		[0, ∞)
ED	Sjabloon:Sorteer	${ED}_{ij}=(\sum _{k=1}^m{{(y_{ik}-y_{jk})}^2)}^{\frac{1}{2}}$		[0, ∞)
MCD	mean character distance	${MCD}_{ij}=\frac{1}{m}\cdot \sum _{k=1}^m\mid y_{ik}-y_{jk}\mid$		[0, ∞)
GE	gemiddelde euclidische afstand euclidische vorm van MCD	${GE}_{ij}=\frac{1}{m}\cdot (\sum _{k=1}^m{{(y_{ik}-y_{jk})}^2)}^{\frac{1}{2}}$		[0, ∞)
DM	distance metric  (algemene formule)	$D{M}_{ij}={\left(\sum _{k=1}^m\frac{{\mid y_{ik}-y_{jk}\mid }^r}{(y_{ik}+y_{jk}{)}^r}\right)}^{\frac{1}{r}}$	DMSjabloon:Sub = distantie tussen objecten i en j ySjabloon:Sub = waarde voor object i en variabele k ySjabloon:Sub = waarde voor object j en variabele k m = aantal attributen met positieve waarden r is een constante (1 of 2)
CM	Canberra metric	$C{M}_{ij}=\sum _{k=1}^m\frac{\mid y_{ik}-y_{jk}\mid }{(y_{ik}+y_{jk})}$		[0, ∞)
HM	Hodson's metric, euclidische vorm van CM	$H{M}_{ij}={\left(\sum _{k=1}^m\frac{{(y_{ik}-y_{jk})}^2}{(y_{ik}+y_{jk}{)}^2}\right)}^{\frac{1}{2}}$		[0, ∞)
CD	coefficient of divergence	$C{D}_{ij}=\frac{1}{m}\cdot {\left(\sum _{k=1}^m\frac{{(y_{ik}-y_{jk})}^2}{(y_{ik}+y_{jk}{)}^2}\right)}^{\frac{1}{2}}$		[0, 1]
M	Sjabloon:Sorteer  (algemene formule)	$M_{ij}=\frac{\sum _{k=1}^m{y}_{ik}+\sum _{k=1}^m{y}_{jk}-2\cdot \sum _{k=1}^m\min (y_{ik},y_{jk})}{\sum _{k=1}^m{y}_{ik}+\sum _{k=1}^m{y}_{jk}}$	MSjabloon:Sub = distantie tussen objecten i en j ySjabloon:Sub = waarde voor object i en variabele k ySjabloon:Sub = waarde voor object j en variabele k m = aantal attributen met positieve waarden	[0, 1]
S	Sjabloon:Sorteer	$S_{ij}=\frac{a+b-2c}{a+b}$		[0, 1]
W	Sjabloon:Sorteer	$W_{ij}=\frac{\sum _{k=1}^m{y}_{ik}+\sum _{k=1}^m{y}_{jk}-2\cdot \sum _{k=1}^m\min (y_{ik},y_{jk})}{\sum _{k=1}^m{y}_{ik}+\sum _{k=1}^m{y}_{jk}-\sum _{k=1}^m\min (y_{ik},y_{jk})}$		[0, 1]
J	Sjabloon:Sorteer	$J_{ij}=\frac{a+b-2c}{a+b-c}$		[0, 1]
H	heterogeniteit	$H_{ij}=\sum _{k=1}^m\mid y_{ik}-y_{jk}\mid$	ySjabloon:Sub en ySjabloon:Sub zijn numerieke waarden	[0, ∞)
		$H_{ij}=a+b-2c$	a, b en c: zie hierbovenstaande tabel
SM'	Sjabloon:Sorteer	${S{M}^{\prime }}_{ij}=\frac{A+D}{A+B+C+D}$	A, B, C en D: zie hierbovenstaande tabel	[0, 1]
YC	Yule-coefficient	$Y{C}_{ij}=\frac{A\cdot D-B\cdot C}{A\cdot D+B\cdot C}$		[-1, 1]
χ2	Chi-kwadraat afstand	${\chi }_{ij}^2=\frac{(A+B+C+D)\cdot (A\cdot D-B\cdot C{)}^2}{(A+B)\cdot (C+D)\cdot (A+C)\cdot (B+D)}$		[0, ∞)

Distantiematrix

Een distantiematrix is een vierkante, symmetrische matrix met voor elk paar van objecten de onderlinge distanties. Een dergelijke matrix is symmetrisch, omdat de distantie tussen objecten $a$ en $b$ gelijk is aan de distanties tussen de objecten $b$ en $a$. Op de diagonaal staan de distanties van de objecten tot zichzelf: 0.

Distantiematrices worden onder andere gebruikt bij ordinatietechnieken op basis van een distantiematrix, zoals polaire ordinatie (PO), principal coordinates analysis, PCoA of metric multidimensional scaling, en nonmetric multidimensional scaling (NMDS).

Een matrix met similariteiten in plaats van distanties wordt ook wel resemblance matrix genoemd.