Ich denke, Sie sollten Cathy O’Neils Waffen der mathematischen Zerstörung lesen: Wie Big Data Ungleichheit verschärft und die Demokratie bedroht. Ich habe sie vor einigen Monaten auf der Miami Book Fair gelesen und sofort ein Exemplar gekauft. Ich ließ es mir sogar von ihr signieren, was irgendwie cool ist ;)
Cathy's Kernthese ist, dass wir absolut von Algorithmen umgeben sind, die wichtige Entscheidungen beeinflussen. Es gibt viele gute Algorithmen, die uns helfen. Leider gibt es viele heimtückische, gefährliche, schlechte Algorithmen, die ernsthaften Schaden anrichten, und sie lauern überall, als gute Algorithmen getarnt.
Ein Aspekt eines *guten* Algorithmus ist eine Art Rückkopplungs- und Korrektursystem. Schon früh nennt Cathy einige Werbealgorithmen als Beispiel für einen gesunden Algorithmus. Wenn beispielsweise ein Algorithmus dafür ausgelegt ist, ein Produkt zu empfehlen, das Sie kaufen sollten, und er dabei schlecht abschneidet, wird er so lange angepasst, bis er funktioniert, und korrigiert damit das, was er sich vorgenommen hat. Moneyball-ähnliche Algorithmen sind dasselbe. Die Daten sind offen. Baseballmanager nutzen Algorithmen, um ihr Team zu rekrutieren und ihre Spielweise zu steuern. Wenn es nicht funktioniert, wird es angepasst, bis es funktioniert.
Ein schlechter Algorithmus kann eine fehlende Rückkopplungsschleife haben. Eines ihrer stärksten Beispiele sind Algorithmen zur Bewertung von Lehrern. Es gibt viele Beweise dafür, dass diese Algorithmen oft falsch liegen und Lehrer verdrängen, die definitiv nicht hätten gehen sollen. Und zwar nicht auf eine „sie haben schlecht abgeschnitten, aber ein Herz aus Gold“-Art, sondern auf eine „der Algorithmus war einfach falsch“-Art. Was etwas wie das zu einer „Waffe der mathematischen Zerstörung“ (WMD) macht, ist die Tatsache, dass es viele Menschen betrifft, schiefgeht und kein Korrekturmechanismus vorhanden ist. Es gibt jedoch viele interessante Kriterien. Ich überlasse es Ihnen, mehr darüber zu lesen.
Es gibt hier sehr viele Überlegungen und Nuancen, und ich denke, Cathy liefert dabei ziemlich anmutig ab. Sie hat ein beeindruckendes akademisches, berufliches und journalistisches Format. Hier wird zwar ein wenig mit der Mistgabel gefuchtelt, aber die Zinken bestehen aus Forschung, Daten und Moral.
Ich bin ein Fan von Buchrezensionen und würde mich über weitere von Ihnen freuen. Dieses Buch steht auf meiner Leseliste.
Dieses Buch wurde diesen Monat viermal in Gesprächen erwähnt, also habe ich mir das Hörbuch gekauft. Ich kann es kaum erwarten, es zu hören! Ein Teil davon klingt wie ein Abschnitt aus *The Undoing Project* von Michael Lewis.