Wenn der Algorithmus diskriminiert

GESELLSCHAFT:

HBM Juni 2017

Ende der 80er Jah­re woll­ten die ame­ri­ka­ni­schen Rechtspro­fes­so­ren Ian Ay­res und Pe­ter Sie­gel­man her­aus­fin­den, ob Schwar­ze und Frau­en beim Kauf ei­nes neu­en Au­tos die­sel­ben Kon­di­tio­nen er­hiel­ten wie wei­ße Män­ner. Sie lie­ßen 38 Versuchspersonen – weiß und schwarz, männ­lich und weiblich – nach ei­nem vor­ge­ge­be­nen Ver­hand­lungs­mus­ter ein Auto kau­fen. Das Er­geb­nis war be­un­ru­hi­gend: Bei al­len 153 untersuchten Händ­lern zahl­ten Schwar­ze und Frau­en für das glei­che Auto durch­weg mehr als wei­ße Män­ner, wo­bei schwar­ze Frau­en am meis­ten zahlten – im Schnitt fast 900 Dollar mehr als wei­ße Män­ner. Auch wenn die­se Er­geb­nis­se kaum je­man­den wirk­lich überraschten – schon gar nicht Schwar­ze oder Frauen –, so wa­ren sie doch ein ein­drück­li­cher Be­leg da­für, wie stark die Märk­te tat­säch­lich Dis­kri­mi­nie­rung aus­üb­ten.

Ma­chen wir einen Zeit­sprung über ein Dut­zend Jah­re in die An­fangs­zeit des In­ter­net­han­dels, als Ent­re­pre­neu­re mit dem web­ba­sier­ten Ver­kauf je­der er­denk­li­chen Ware ex­pe­ri­men­tier­ten, dar­un­ter na­tür­lich auch Au­tos. Die Öko­no­men Fio­na Scott Mor­ton, Flo­ri­an Zet­tel­mey­er und Jor­ge Sil­va-Ris­so ana­ly­sier­ten die neue Art des Fahr­zeug­ver­kaufs und ka­men zu dem Schluss, dass der In­ter­net­han­del eine Ras­sen- und Ge­schlech­ter­dis­kri­mi­nie­rung – wie auch die­se Wis­sen­schaft­ler sie im sta­tio­nären Au­to­han­del be­ob­ach­tet hat­ten – aus­schloss.
Tat­säch­lich bot die ers­te Ge­ne­ra­ti­on von On­li­ne­markt­plät­zen wie EBay, Ama­zon oder Pri­ce­li­ne den Ver­käu­fern kaum Mög­lich­kei­ten, ein­zel­ne Käu­fer­grup­pen zu be­nach­tei­li­gen. Alle Ge­schäf­te wur­den re­la­tiv an­onym durch­ge­führt. Ohne ir­gend­wel­che In­for­ma­tio­nen über sich of­fen­zu­le­gen, konn­ten Nut­zer einen Kauf­preis aus­han­deln. Mit wem er es zu tun hat­te, er­fuhr der Ver­käu­fer erst, nach­dem er ein­ge­schla­gen hat­te. In ei­nem spä­ter be­rühmt ge­wor­de­nen Car­toon im „New Yor­ker“ aus dem Jahr 1993 er­klär­te ein Hund ei­nem Art­ge­nos­sen vor dem Com­pu­ter: „Im In­ter­net weiß nie­mand, dass du ein Hund bist.“
Heu­te al­ler­dings wis­sen die Be­trei­ber der Plattformen – und neu­er­dings auch ihre Nutzer – ganz ge­nau, ob je­mand schwarz oder weiß, Mann oder Frau, Men­sch oder Vier­bei­ner ist. Und so­mit er­weist sich das In­ter­net als Ort der Dis­kri­mi­nie­rung und nicht mehr als de­ren Ge­gen­pol: Seit­dem ihre Iden­ti­tä­ten of­fen­lie­gen, ha­ben vie­le be­nach­tei­lig­te Grup­pen wie­der mit den Pro­ble­men zu kämp­fen, die sie schon lan­ge aus der Off­li­ne­welt kennen – oft noch ver­stärkt durch feh­len­de Re­gu­lie­rung, die so­for­ti­ge Er­kenn­bar­keit von Haut­far­be und Ge­schlecht auf Fo­tos so­wie die Tat­sa­che, dass die Dis­kri­mi­nie­rer ih­ren Op­fern nie per­sön­lich ge­gen­über­tre­ten müs­sen. Was ist ge­sche­hen? Und was kön­nen wir da­ge­gen tun?
Jetzt kaufen
© Harvard Business Manager
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung der manager magazin Verlagsgesellschaft mbH
Inhalt

Abbildungen und Diagramme

Bilder:
5
Infografiken:
0

Textumfang

Seiten:
10
Zeichen:
36.721
Nachdrucknummer:
201706058
Nachdrucke
Nachdrucke in Medien aller Art
Seitenpreise ab 360 Euro je nach Auflage

Nutzungsrechte im PDF-Format
Ohne Fotos und Illustrationen. Für die Verwendung bei betriebsinternen Fortbildungen, Kundenbroschüren, im Intranet und firmeninternen Pressespiegel: Preisberechnung pro Exemplar beziehungsweise pro Nutzer je nach Auflage.

Sonderdrucke
Möglich ab 500 Exemplaren, Preise auf Anfrage.
Ein Beispiel finden Sie hier.

Nachdrucke von Illustrationen
© Harvard Business Manager: Preise auf Anfrage

Alle Preise verstehen sich zuzüglich Mehrwertsteuer und gegebenenfalls Versandkosten.

Für Artikel mit Copyrightvermerk "Harvard Business School Publishing" gelten besondere urheberrechtliche Bedingungen, die wir Ihnen auf Anfrage gern erläutern.
Hier können Sie nach den Lizenz-Bedingungen fragen.

Alle Themen
ANZEIGE
Nach oben