|
|
Bei Amazon kaufen|
Umschlagtext
Künstliche Intelligenz verändert unsere Welt schneller als jede Technologie zuvor. Sie verspricht Effizienz, Wohlstand und Fortschritt – und bedroht zugleich Demokratie, Freiheit und menschliche Selbstbestimmung. Während Staaten und Tech-Konzerne um die Vorherrschaft im KI-Zeitalter kämpfen, wächst die Gefahr einer neuen Form der Macht: einer algorithmisch gesteuerten Gesellschaft, in der Entscheidungen zunehmend Maschinen und ihren Betreibern überlassen werden.
Matthias Pfeffer, Jürgen Pfeffer und Paul Nemitz analysieren die politischen, technologischen und philosophischen Grundlagen dieser Entwicklung. Sie zeigen, warum die Vorstellung einer berechenbaren Zukunft eine gefährliche Illusion ist, wie Big Tech und autoritäre Kräfte gemeinsam demokratische Strukturen untergraben – und weshalb die offene Gesellschaft nur bestehen kann, wenn KI demokratisch kontrolliert wird. Ein leidenschaftliches Plädoyer für Menschenwürde, Freiheit und politische Verantwortung im Zeitalter der Künstlichen Intelligenz – und ein Aufruf, die Zukunft nicht den Maschinen zu überlassen, sondern sie aktiv zu gestalten. Dazu machen die Autoren konkrete Handlungsvorschläge. Matthias Pfeffer, geb. 1961, Publizist. Er hat Philosophie bei Herbert Schnädelbach studiert und war 20 Jahre lang Geschäftsführer und Chefredakteur von FOCUS TV. Gründungsdirektor des gemeinnützigen Think- and Do Tanks Council for European Public Space, das sich für eine paneuropäische Plattform für Nachrichten und Informationen einsetzt. Er lebt in München und Berlin. Jürgen Pfeffer, geb. 1976, Lehrstuhlinhaber für Computational Social Science an der Technischen Universität München. Er forscht zu negativen Dynamiken auf Sozialen Netzwerken wie Polarisierung, Fake News und Hassrede sowie zu den Auswirkungen von KI auf Demokratie und Grundrechte. Er lebt im Großraum München. Paul Nemitz, geb. 1962, Jurist und langjähriger Direktor für Grundrechte in der Europäischen Kommission. Verantwortlich für die Einführung der EU-Datenschutzgrundverordnung sowie des EU-US Privacy Shield. Visiting Professor of Law am College of Europe, Brügge. Er lebt in Rom. Rezension
Die gegenwärtige Digitale Transformation verändert alle Bereiche gesellschaftlichen Lebens; diese umfassende Digitalisierung unserer Gesellschaft insbesondere in Form von Künstlicher Intelligenz (KI) und Big Data bringt erhebliche Probleme mit sich, die in diesem Band reflektiert werden: Algorithmengestützte Prognose- und Entscheidungssysteme sind problematisch in Bezug auf Diskriminierung, Privatsphäre und Autonomie, künstliche Systeme (z.B. autonomes Fahren oder autonome Waffen) sind im Hinblick auf ihre moralischen Handlungs- und Verantwortungsfähigkeit problematisch. Künstliche Intelligenz verändert unsere Welt schneller als jede Technologie zuvor. Sie verspricht Effizienz, Wohlstand und Fortschritt – und bedroht zugleich Demokratie, Freiheit und menschliche Selbstbestimmung. Damit verbunden sind soziale und politische Entscheidungen mit weitreichenden Folgen der Gefährdung der freien Gesellschaft und der Gefahr einer KI-Diktatur. Die Autoren analysieren die politischen, technologischen und philosophischen Grundlagen dieser Entwicklung. Sie zeigen, warum die Vorstellung einer berechenbaren Zukunft eine gefährliche Illusion ist, wie Big Tech und autoritäre Kräfte gemeinsam demokratische Strukturen untergraben – und weshalb die offene Gesellschaft nur bestehen kann, wenn KI demokratisch kontrolliert wird. Wenn es gelingt, eine dem Menschen in allen Bereichen überlegene Technik zu erschaffen, die noch dazu autonom agiert, sich also eigene Regeln setzen kann, wie können wir dann sicherstellen, dass wir, die dann unterlegenen Menschen, die Kontrolle über sie behalten? Auch wenn wir von einer solchen autonomen KI noch entfernt sind, befinden wir uns doch inmitten eines gewaltigen Umbruchs, der nur mit der Sesshaftwerdung der Menschen und der Industriellen Revolution vergleichbar ist. Die rasante Entwicklung der KI ist schon heute dabei, alle Bereiche des Lebens zu transformieren.
Dieter Bach, lehrerbibliothek.de Inhaltsverzeichnis
EINFÜHRUNG: DAS KI-PARADOX 7
Zukunft 12 | Täuschung 16 | Macht 18 | Politik 22 | Menschlichkeit 25 1. DROHENDER SYSTEMCRASH — DIE ZUKUNFT EINER GEFÄHRLICHEN ILLUSION 29 Vorwärts in die Vergangenheit 29 | Ideologie 31 | Systemkonflikt 36 | Automatisierte Entscheidungsfindung 37 | Schattenphänomene 39 | Kontrollverlust 41 | KI funktioniert – aber derzeit nicht für die Demokratie 44 2. DIE FEINDE UND IHRE DUNKLE AUFKLÄRUNG 46 Elemente und Ursprünge dunkler Aufklärung 52 | Neoreaktionäre Bewegung und ihre Theorien 59 | Was will die dunkle Aufklärung? 66 | Apokalypse als Geschäftsmodell – Peter Thiels Endzeit 70 3. KI-SYSTEME UND DEREN IMPLIKATIONEN 78 Neuronale Netzwerke für komplexe Aufgaben 80 | Black-Box-Systeme optimieren vorgegebene Ziele 82 | Maschinelles Lernen mit großem menschlichem Einsatz 85 | Intransparenz und Bias »by Design« 88 | Mathematische Verarbeitung von Sprache 91 | Von speziellen KI- Systemen zu KI-Agenten und generellen KI-Systemen 97 | Wie geht es weiter? 99 | Was tun? 104 4. GRENZEN DER TECHNIK 109 Wahrscheinlichkeiten, Klassifikation und Halluzinationen 110 | KI-Mythen 113 | Super-KI und die Schwierigkeiten, diese zu kontrollieren 118 | Gödel und Turing, die Urväter des Kontrollproblems 125 | Praktische Grenzen aus theoretischen Überlegungen 127 | Gödels Loophole 134 | Die Macht der Wunschmaschine 137 5. POLITIK, RECHT UND DER DIGITAL-TECHNOLOGISCH/ÖKONOMISCHE KOMPLEX 145 Regulierung, Rechtsdurchsetzung und Grenzen der Ethik 148 | Rolle und Defizite europäischer KI-Regulierungen 157 | Durchsetzung des Rechts 160 | Demokratische Souveränität und technologische Unabhängigkeit 162 | Grundrechte und Zukunftsgestaltung 168 | Weiterentwicklung des Digitalrechts 173 6. DEMOKRATIE NUR MIT DELIBERATION 178 Die »Habermas-Maschine«? 182 | Das Täuschungsspiel der KI 184 | Algorithmen als Dispositive der Macht in der Cyberöffentlichkeit 187 | Ausblick auf eine digital-demokratische Öffentlichkeit 190 | Von der Raumzeit zu einer menschlichen Traumzeit? 192 | Exkurs: Eine gemeinsame Europäische Öffentlichkeit 200 | Europäische Soziale Netzwerke 204 7. DIE ROLLE VON UNIVERSITÄTEN UND MEDIEN 207 Universitäten 207 | Presse und Medien 227 8. WAS WIR TUN MÜSSEN 238 Bewusstsein von Werten 242 | Technikentwicklung für Demokratie: Machtkonzentration vermeiden »by Design« 244 | Notwendigkeit demokratischer Kontrolle und Stärkung des Gemeinwohls 247 | Wir müssen handeln! 254 | Zurück zur Zukunft 257 | Was tun? Drei Ebenen der Souveränität 260 | Eine neue Erzählung der Zukunft 267 ANMERKUNGEN 271 DANK 284 ÜBER DIE AUTOREN 285 |