Von der „Diktatur der Zahl“ sprachen 1947 Adorno und Horkheimer in ihrem Klassiker „Dialektik der Aufklärung“ angesichts der Beherrschung der Menschen durch die Technik des 20. Jahrhunderts. Im digitalen Zeitalter erfolgt die Mathematisierung und Quantifizierung der Welt mithilfe von Algorithmen, Reihen von mathematischen Regeln zur Strukturierung von Daten zwecks Problemlösung. „Algorithms rule the world.“ Diese Erkenntnis untermauert Cathy O`Neil in ihrem Buch „Angriff der Algorithmen“ kenntnisreich und eindrücklich anhand von anschaulichen Beispielen, die den Einfluss von Algorithmen im Bildungssystem, Wirtschaftsystem, Rechtssystem und politischen System belegen. Genannt sei zum Beispiel der medial bekannte, manipulative Einsatz von Algorithmen im amerikanischen Wahlkampf 2016. Der promovierten Mathematikerin, ehemaligen Hedgefonds-Managerin, Aktivistin bei Occupy Wall Street und gegenwärtigen Datenanalystin gelingt aufgrund der interdisziplinären Verknüpfung ihrer detaillierten Kenntnisse in Statistik, Informatik, Ökonomie und Politik eine fundierte und umfassende Analyse der Wirksamkeit von Algorithmen.
Dabei widerlegt O`Neil in geradezu ideologiekritischer Weise den These von der Objektivität und Neutralität der Algorithmen, wie sie beispielsweise der Logiker und Informatiker Robert Kowalski 1979 mit seiner Formel „Algorithm = Logic + Control“ vertrat. Anhand überzeugender Belege zur statistischen Manipulierbarkeit von Algorithmen („Simpson-Paradoxon“, Unterscheidung zwischen „Fehler 1. Art“ und „Fehler 2. Art“) sowie ihrer grundsätzlichen Fehlerhaftigkeit entlarvt sie den Mythos von der scheinbaren Objektivität der mathematischen Strukturierungsregeln. Algorithmen sind, auch wenn sie wie von Geisterhand wirken, Produkte von Menschenhand, in deren Programmierung bestimmte psychologische, genauer verhaltensökonomische Annahmen sowie moralische Abwägungsprozesse eingehen, welche aber gegenüber der Öffentlichkeit verschleiert werden. Daher fühlt sich O`Neil zurecht an die Pseudowissenschaft der Phrenologie zu Beginn des 19. Jahrhunderts erinnert.
Die destruktive Kraft der Algorithmen verdeutlicht sie mit dem von ihr geprägten Begriff „WMDs“ = „Weapons of Math Destruction“, der sich auch im englischen Titel des 2016 zuerst den USA erschienenen Werks findet. In der deutschen Ausgabe von „Weapons of Math Destruction. How Big Data Increases Inequality and Threatens Democracy“, übersetzt von Karsten Petersen, werden zurecht die Kürzel „WMD“ bzw. „WMDs“ benutzt und nur einmal zur Begriffserläuterung von „Mathe-Vernichtungswaffen“ gesprochen. WMDs weisen nach O`Neil drei Charakteristika auf: Intransparenz, großer gesellschaftlicher Anwendungsradius und Schädlichkeit. Als „schädliche“ gesellschaftliche, ökonomische, politische und gesundheitliche Folgen der WMDs identifiziert die Datenwissenschaftlerin u.a. Zerstörung von Berufschancen, Exklusion Armer, Rassismus und Diskriminierung, Kapitalvernichtung, Verschärfung sozialer Ungleichheit, Anstieg psychischer Erkrankungen sowie Erosion der Demokratie.
Die Probleme des Einsatzes von Algorithmen sind für O`Neil keine, die allein mit technischen Mitteln gelöst werden können, sondern es bedarf ihrer Ansicht einer intensiven Beschäftigung mit Ethik. So macht sie beim Einsatz von Algorithmen Wertekonflikte zwischen ökonomischen Werten einerseits wie Effizienz und Profit und moralischen bzw. ethischen Werten anderseits wie Gerechtigkeit, Gleichheit und Gemeinwohl aus. Eindrucksvoll beleuchtet sie die Wertekollisionen anhand von „PredPol“, einem Prognoseprogramm für Straftaten, und der Polizeitaktik „Stop- und Frisk“, dem Verfahren verdächtig erscheinende Personen zu kontrollieren, um mögliche Delikte zu verhindern. „PredPol“ ist zugleich ein Beleg für die gefährliche Kopplung von Neoliberalismus und Digitalisierung. Das marktradikale Programm impliziert einen schlanken Staat, was z. B. sich im Personalabbau bei Polizei und Justiz widerspiegelt. Damit die Institutionen den staatlichen Aufgaben bei geringeren Ressourcen gerecht werden können, greifen diese zunehmend zur effizienten Bearbeitung auf Computerprogramme zurück.
Während O`Neil in dem Buch die politische Dimension der Algorithmen fokussiert, kommt die anthropologische Dimension der Algorithmuskulturen in ihrer Analyse zu kurz. Handlungstheoretisch gesehen ist menschliche Autonomie an Intentionalität und Willensfreiheit gebunden, welche die Voraussetzung für die Verantwortungszuschreibung ist. Algorithmische Autonomie von sensorbasierten Akteuren wie Drohnen hingegen erfüllt diese Bedingungen nicht. Welche Verantwortung und welche Handlungsoptionen wir Menschen im Zeitalter der digitalen Revolution haben, eröffnet O`Neil ebenfalls in ihrem Werk.
Vor dem Hintergrund ihrer fulminanten Kritik präsentiert sie praktikable Lösungsvorschläge zur Regulierung der Algorithmen auf technischer, rechtlicher und politischer Ebene. Die Datenwissenschaftlerin ist nicht per se gegen Big-Data, sondern sie fordert Transparenz in die „black box“ der Programme zu bringen sowie die Entwicklung von Algorithmen, die moralische Werte über ökonomische Werte stellen. Datenwissenschaftler sollen einen „Hippokratischen Eid“ leisten. Von staatlicher Seite sind Verbraucherschutzgesetze und Datenschutzgesetze zu verabschieden. Von Unternehmen verlangt O`Neil eine Rechenschaftspflicht, dass deren Algorithmen den Werten Gerechtigkeit und Richtigkeit gerecht werden. Angesichts der algorithmischen Macht plädiert die Datenwissenschaftlerin für eine interdisziplinäre Kooperation von Philosophen, Juristen und Ingenieuren. So könnten die WMDs entschärft, von Gebietern zu Helfern des Menschen werden. Mit ihrem Buch liefert die Datenanalystin überzeugend den Nachweis, dass wir uns im Zeitalter der Postdemokratie und des „postfaktischen Zeitgeists“ nicht alternativlos der algorithmischen Autorität ergeben müssen.
O`Neils lesenswertes, gesellschaftskritisches Werk, erschienen im „Carl Hanser Verlag“, sei aufgrund seiner guten Verständlichkeit allen Ethiklehrkräften zur Gewinnung von medienethischen Wissens zur Anschaffung empfohlen. Wer für eine Unterrichtseinheit der Medienethik oder Technikethik im digitalen Zeitalter unterrichtsrelevante, anschauliche Fälle sucht, um die algorithmische Erkenntnisweise oder die Technik-Neutralitätsthese zu problematisieren, wird ebenfalls in dem Buch fündig. Eine andere Möglichkeit, sich im schulischen Kontext mit der komplexen Thematik „Algorithmen“ problemorientiert auseinander zu setzen, wäre die Durchführung eines fächerübergreifenden Projekts, zusammen mit Mathematik-, Informatik- und Politiklehrern, um der Macht der Algorithmen reflektiert begegnen zu können.

Dr. Marcel Remme, für lehrerbibliothek.de

Von der Hedgefonds-Managerin zur Occupy-Aktivistin: Cathy O'Neil, die führende Datenexpertin, analysiert die zerstörerische Kraft der Algorithmen.

Algorithmen nehmen Einfluss auf unser Leben: Von ihnen hängt es ab, ob man etwa einen Kredit für sein Haus erhält und wie viel man für die Krankenversicherung bezahlt. Cathy O’Neil, ehemalige Hedgefonds-Managerin und heute Big-Data-Whistleblowerin, erklärt, wie Algorithmen in der Theorie objektive Entscheidungen ermöglichen, im wirklichen Leben aber mächtigen Interessen folgen. Algorithmen nehmen Einfluss auf die Politik, gefährden freie Wahlen und manipulieren über soziale Netzwerke sogar die Demokratie. Cathy O’Neils dringlicher Appell zeigt, wie sie Diskriminierung und Ungleichheit verstärken und so zu Waffen werden, die das Fundament unserer Gesellschaft erschüttern.

Inhaltsverzeichnis