Panikmache um die KI

Die großen KI-Player im Silikon Valley warnen vor dem Auslöschen der Menschheit durch ihre geschaffene Künstliche Intelligenz. Sie beteuern, aus ethischer Verantwortung zu handeln, wenn sie jetzt neben einer langsameren Entwicklung der Technologie auch noch staatliche Regulierung fordern. Kritiker sind skeptisch und sehen vor allem handfeste wirtschaftliche und strategische Interessen der selbst ernannten Moralisten. 

Es war knapp. Und es hätte dramatisch ausgehen können – und zwar viel früher, als Jacob Coxon, Entwickler von Künstlicher Intelligenz (KI), es uns ohnehin schon prophezeit: Am Ende der Dekade könnten wir alle tot sein, weil die KI die Macht übernimmt – und den Menschen, den sie für schädlich hält, schlicht und effizient beseitigt. Keine ermutigenden Perspektiven, zu denen auch der erste offiziell bekannt gewordene Vorfall einer KI-Falle passt. 

Mitte September erfuhr die Welt, wie gefährlich KI werden kann, wenn sie unkontrolliert sich selbst überlassen wird. Zum Glück gibt es da ja noch die Menschen. Und manche von ihnen schalten sogar rechtzeitig ihr Hirn ein. So geschehen im Frühjahr während des Konflikts im Nahen Osten, als ein Beinahe-Militärkonflikt direkt durch eine KI-Fehlfunktion ausgelöst wurde. Ein Analyst des US-Kommandos für Spezialoperationen nutzte einen internen KI-Chatbot. Er fütterte das System mit einer Kombination aus geheimdienstlichen Erkenntnissen und öffentlich zugänglichen Daten. Das KI-Modell „halluzinierte“ daraufhin eine dramatische Falschinformation: Ein chinesischer Frachter im Arabischen Meer / Nahen Osten transportiere angeblich Komponenten für ein Atomwaffenprogramm. Der Analyst vertraute dem Ganzen blind und übernahm das Ergebnis der KI ungeprüft, verfasste einen offiziellen Geheimdienstbericht und speiste ihn in das militärische Netzwerk ein. 

Noch mal Glück gehabt

Die US-Streitkräfte reagierten sofort. Immerhin suggerierte die Information eine massive Bedrohung. Sie starteten Militärflugzeuge, und Spezialeinheiten der US-Armee bereiteten sich konkret darauf vor, das chinesische Handelsschiff auf offener See zu stürmen und zu entern. Erst unmittelbar vor dem eigentlichen Zugriff – als die Maschinen bereits in der Luft waren – untersuchten hochrangige Beamte und Analysten die Herkunft der Daten genauer. Dabei stellten sie fest, dass der Bericht auf einer völligen Fehlinterpretation des Chatbots beruhte und der Vorwurf der nuklearen Fracht „komplett erfunden“ war. Die Operation wurde abgebrochen, die Truppen zogen sich zurück. Und die Welt war um einen zusätzlichen Konflikt ärmer, der durchaus in einem weiteren Krieg hätten enden können. Das zumindest ist die Einschätzung von Insidern gegenüber amerikanischen Medien: Das Entern eines chinesischen Schiffs durch US-Truppen hätte unvorhersehbare Vergeltungsmaßnahmen Pekings nach sich gezogen. Noch mal Glück gehabt. Das wird aber nicht unbedingt so bleiben.

Druck auf Analysten

Denn der Vorfall offenbart ein grundsätzliches Risiko: Menschen treffen katastrophale Entscheidungen auf Grundlage irreführender Informationen, die von KI oder anderen automatisierten Systemen generiert wurden. Insbesondere jüngere Analysten neigen dazu, den schnellen Ergebnissen von KI-Systemen zu vertrauen. Kritiker warnen, dass der zunehmende Zeitdruck im modernen Tech-Krieg dazu führt, dass gründliche menschliche Kontrollen - „Human in the Loop“ - zugunsten von Geschwindigkeit übergangen werden. Für einige ältere Geheimdienstvertreter – selbst für jene, die den Einsatz von KI beim Militär grundsätzlich befürworten – hat die KI den Druck auf Analysten erhöht, Erkenntnisse schneller zu gewinnen und zu verbreiten. Das wiederum schafft Raum für Fehler. Insbesondere junge Analysten, so berichtet der Nachrichtensender CNN von mehreren Quellen, seien mit diesen Werkzeugen aufgewachsen und neigten eher dazu, ihnen kritiklos zu vertrauen. „KI ermöglicht es einem, schneller zu einer schlechten Idee zu gelangen“, sagt eine dieser Quellen.

Weiteren CNN-Informanten zufolge setzt das Militär bei der Zielerfassung aber zunehmend auf KI – ein Bereich, der offensichtliche Risiken für fatale Fehlentscheidungen birgt. „Der Einsatz von KI bei der Zielerfassung nimmt definitiv zu, doch es gibt keine wirklichen Richtlinien dafür, wie die Einbindung eines Menschen in den Entscheidungsprozess zivile Opfer oder Beschuss eigener Streitkräfte (Friendly Fire) verhindern soll“, zitiert CNN eine anonyme Quelle, die mit aktuellen militärischen Verfahrensweisen vertraut ist. Dem amerikanischen Nachrichtensender und den hartnäckigen Recherche seiner Reporter verdankt die Welt, überhaupt davon erfahren zu haben. Denn aus dem Pentagon hat es zu dem Vorfall weder im Frühjahr noch später, als die Sache an die Öffentlichkeit gekommen ist, einen Kommentar gegeben. 

Ethische Bedenken?

Dafür melden sich andere lautstark und medienwirksam zu Wort: die führenden Tech-Milliardäre, die urplötzlich ihr Gewissen entdeckt haben. Elon Musk, Gründer von xAI, Sam Altman (OpenAI) oder Demis Hassabis (Google DeepMind) warnen eindringlich vor den tödlichen Gefahren der KI und beteuern, aus ethischer Verantwortung zu handeln, wenn sie jetzt neben einer langsameren Entwicklung auch noch staatliche Regulierung fordern. Als Reaktion auf eigenständige Hacking-Attacken durch KI forderte Dario Amodei, Chef des großen KI-Labors Anthropic, die Entwicklung der Technologie zu verlangsamen – aus Sorge, dass in sechs bis zwölf Monaten ein Schwarm von KI in der Lage sein könnte, das gesamte Internet zu übernehmen und potenziell hunderte Milliarden Dollar Schaden zu verursachen. Auf seinem Blogeintrag erhielt er binnen weniger Stunden Zustimmung von Sam Altman, Chef des ChatGPT-Entwicklers OpenAI. Und Elon Musk mischte sich auch ein, indem er auf seiner Plattform X postete: „Dario hat Recht.“

Ausgerechnet die Männer, die sich sonst nichts schenken und glühende Konkurrenten sind, stimmen unisono das hohe Lied der Sorge um die Menschheit an? KI-Fachleute sind durchaus skeptisch. Aus ihrer Sicht haben die Tech-Giganten oft handfeste wirtschaftliche und strategische Interessen. 

Milliardärs-Alarmismus

Die renommierte KI-Forscherin Theresa Züger, Leiterin des AI & Society Labs am Humboldt Institut für Internet und Gesellschaft, äußert sich beispielsweise kritisch zu den freiwilligen Brems-Vorstößen und Weltuntergangswarnungen der Tech-Milliardäre und KI-Firmenchefs. In einem aktuellen Interview mit der taz bringt sie die Argumente der Wissenschaft gegen diesen „Milliardärs-Alarmismus“ auf den Punkt: „Die Unternehmenschefs behaupten zwar, dass sie sich um die Menschheit sorgen und daher eine Pause oder Verlangsamung bei der Entwicklung wollen. Aber wo war denn ihre Sorge um die Menschheit in den vergangenen Jahren? Natürlich sind die Einsichten zu Gefahren von KI nicht falsch, und auch Ideen, wie jene zu mehr Aufsicht und internationalen Abkommen gehen grob in die richtige Richtung. Aber aus meiner Sicht fehlen zentrale Elemente, um die Aussagen ganz ernst zu nehmen.“ 

Ein Punkt wäre aus ihrer Sicht, „dass externe Aufsicht nur dann effektiv ist, wenn sie unabhängig und gesetzlich verankert ist“. Unternehmen dürften sich also nicht selbst aussuchen, von wem und wie sie überprüft werden, wie beispielsweise Anthropic-Chef Amodei es sich wünsche. Und zweitens: „Um verantwortungsbewusster zu handeln, bräuchten die Firmenchefs ja keine weiteren Gesetze. Sie könnten sich schon lange an völkerrechtlichen Dokumenten orientieren, die bis jetzt ignoriert werden. Beispielsweise der UN-Resolution für sichere KI der UNO-Generalversammlung vom März 2024. Insgesamt wirken die Vorschläge der Firmenchefs eher wie ein Manöver, das sie gut dastehen lassen soll, die Hauptverantwortung auf Andere schiebt und gesetzliche Eingriffe vermeidet“, so Züger. 

Taktische Strategien?

Andere Kritiker und Wettbewerbshüter werfen den Tech-Giganten vor, das Schreckgespenst der Menschheitsauslöschung gezielt zu nutzen, um strenge staatliche Regulierungen zu fordern – und zwar aus rein taktischen Gründen: Wenn Regierungen extrem teure Sicherheitszertifikate und komplexe Compliance-Prüfungen für KI-Modelle vorschreiben, können sich das nur die finanzstarken Giganten leisten. Kleinere Open-Source-Konkurrenten und Start-ups werden dadurch effektiv aus dem Markt gedrängt, weil sie die bürokratischen und finanziellen Hürden nicht stemmen können. Außerdem lenken die Milliardäre mit ihrer Diskussion über „amoklaufende Superintelligenz“ die Aufmerksamkeit der Regulierungsbehörden von realen Problemen ab. Dazu gehören der massive Diebstahl von Urheberrechten zum Training der Modelle. Die Verbreitung von politischer Desinformation und Deepfakes. Die Monopolbildung bei der Rechenleistung und die Ausbeutung von Klickarbeitern im globalen Süden. Der enorme Ressourcen- und Energieverbrauch von KI-Rechenzentren. 

Die beiden weltweit führenden KI-Forscherinnen Meredith Whittaker, AI New Institutt, und Timnit Gebru, DAIR, gehören seit Langem zu den schärfsten Kritikerinnen der Silicon-Valley-Elite. Für sie ist die Panik vor einer „Science-Fiction-KI“ ein bewusstes Ablenkungsmanöver. Timnit Gebru äußerte dazu im Magazin Wired, dass diese Existenzängste ein Versuch sind, gesetzliche Regulierungen für heutige Vergehen zu umgehen. Wenn man Politikern einrede, die Technologie könne in 50 Jahren die Welt zerstören, konzentrierten sich Gesetze auf Science-Fiction-Szenarien statt auf die Vergehen im Hier und Jetzt. Ihre Definition dessen, was sie als existenzielle Bedrohung einstuft, beschreibt sie bei aiweekly so. „Eine echte existenzielle Bedrohung ist KI, die autonome Waffen – Tötungsmaschinen – antreibt, die tatsächlich in Kriegen eingesetzt werden.“ Meredith Whittaker bezeichnet die Erzählung von der menschenähnlichen oder gar „göttlichen“ KI als Marketing-Mythos. Sie sagt: „KI ist nicht menschlich“. Der Hype diene nur dazu, den Tech-Konzernen noch mehr Macht und Investorengelder zu sichern und sie als unantastbare Schöpfer einer unaufhaltsamen Zukunft darzustellen. 

Gefahr vom Menschen

Also nur heiße Luft? Ganz und gar nicht. Nur anders als jetzt propagiert. Auch die Kritiker von Amodai, Musk & Co behaupten nicht, dass KI harmlos ist. Im Gegenteil. Die Gefahr ist real, aber sie ist kein technisches Schicksal, sondern entsteht durch unregulierten, profitorientierten Einsatz der Technologie durch Menschen. Deshalb fordern Kritiker harte Gesetze statt philosophischer Debatten. Beispielsweise drohten konkrete Gefahren vor allem durch echte Deepfakes - Videos, Audio-Aufnahmen - und Millionen von Fake-News-Artikeln, die in Sekundenschnelle erstellt werden können. Das könne Wahlen beeinflussen, das Vertrauen in Medien komplett zerstören und Demokratien destabilisieren. KI ermöglicht es Regierungen und Konzernen, riesige Datenmengen - Chatverläufe, Standortdaten, Kamerabilder - in Echtzeit zu analysieren und Profile über jeden Bürger zu erstellen. Weil das Training moderner KI-Modelle Milliarden kostet, liegt die Kontrolle über diese Technologie in den Händen von extrem wenigen, mächtigen Tech-Konzernen im Silicon Valley und in China. Fairen Wettbewerb gibt es damit nicht.

Auf einen weiteren Punkt reagieren weltweit immer mehr Menschen, die sich gegen den Bau von Rechenzentren stemmen. Denn KI-Rechenzentren verbrauchen gigantische Mengen an Strom und Millionen Liter sauberes Trinkwasser zur Kühlung. Wenn der KI-Boom ungebremst weitergeht, droht er die globalen Klimaziele zu torpedieren und lokale Stromnetze zu überlasten, so die Kritiker. 

Immer mehr Proteste

In Northern Virginia, in der mit 600 Anlagen weltweiten „Hauptstadt der Rechenzentren“, kämpfen bereits überparteiliche Bürgerinitiativen wie „Humans First“ gegen den Dauermast-Lärm der Kühlanlagen und die Luftverschmutzung durch riesige Diesel-Notstromgeneratoren. Und im Staat New York hat Gouverneurin Kathy Hochul per Dekret einen einjährigen Baustopp für alle neuen Großanlagen durchgesetzt, um dem enormen Energiehunger der Branche nicht weiter Tür und Tor zu öffnen. Auch hierzulande regt sich Protest: In Maintal bei Frankfurt formierte sich heftiger Bürgerprotest gegen ein geplantes, milliardenschweres Rechenzentrum des US-Konzerns EdgeConnex, weil dafür ein eigenes, riesiges Gaskraftwerk gebaut werden sollte. Die Anwohner setzten das Projekt erfolgreich vorerst auf Eis. Und im hessischen Groß-Gerau lehnte das Stadtparlament ein 2,5 Milliarden Euro schweres Rechenzentrumsprojekt des Anbieters Vantage Data Centers nach erheblichem Druck komplett ab. Im spanischen Aragon haben Anwohner Klage gegen ein gigantisches Rechenzentrumsprojekt von Amazon eingereicht, um ihre ohnehin knappen Wasserressourcen vor der Austrocknung durch die Server-Kühlung zu schützen. Im niederländischen Zeewolde stoppte eine Allianz aus Landwirten und Umweltschützern nach monatelangem Protest erfolgreich ein geplantes Mega-Rechenzentrum des Facebook-Mutterkonzerns Meta. Amsterdam hat wegen der Netzüberlastung sogar einen temporären Baustopp verhängt. Und im irischen Dublin erzwang politischer und zivilgesellschaftlicher Druck einen weitgehenden Anschlussstopp für neue Serverfarmen bis mindestens 2028, weil die Rechenzentren das nationale Stromnetz kollabieren zu lassen drohten. 

Strengere Regeln

Die Europäer beobachten die Entwicklung der KI mit besonderem Augenmerk, sicherlich nicht zuletzt, weil alle großen Tech-Unternehmen aus dem nicht-europäischen Ausland kommen. Ansonsten wenig für Einigkeit zu gewinnen, haben sie den EU AI Act, die europäische KI-Verordnung, auf den Weg gebracht. Es ist das weltweit erste umfassende Gesetz dieser Art und basiert auf einem risikobasierten Ansatz: Je gefährlicher der Einsatz einer KI für den Menschen ist, desto strenger sind die Regeln. Beispiel Echtzeit-Massenüberwachung: Die biometrische Fernidentifizierung wie automatisierte Gesichtserkennung über Überwachungskameras im öffentlichen Raum ist für Unternehmen verboten. Für die Polizei gelten extrem hohe Hürden und richterliche Vorbehalte, die nur bei schweren Straftaten wie Terrorismus greifen.

Es gibt auch strenge Auflagen für Hochrisiko-Systeme – mit Umsetzung bis Ende 2027. Wenn KI in sensiblen Bereichen eingesetzt wird, in denen Diskriminierung droht, gilt sie als „Hochrisiko-KI“. Dazu zählen KI-Software für Bewerbungsverfahren (HR), Kreditwürdigkeitsprüfungen bei Banken, die Verteilung von Studienplätzen oder der Einsatz in der Justiz und bei der Grenzkontrolle. Bei Verstoß drohen drastische Strafen, die sich am weltweiten Umsatz orientieren. Wer gegen die Verbote wie illegale Massenüberwachung verstößt, riskiert Bußgelder von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes – je nachdem, welcher Wert höher ist. Überwacht wird das Ganze vom neuen EU AI Office sowie nationalen Behörden.

Susanne Osadnik, 
freie Journalistin