KI-Regulierung zwischen Sicherheitsrisiken und Machtinteressen

Red. Als Vizekanzlerin im Bundeshaus von 1991 bis 2005 leitete die Autorin verschiedene Digitalisierungsprojekte. Heute verfolgt Hanna Muralt Müller die Entwicklung der künstlichen Intelligenz in ihren Newslettern.

Die jüngsten, äusserst leistungsfähigen KI-Tools von Anthropic haben Alarm ausgelöst. Sie wurden nur wenigen Tech-Unternehmen zugänglich gemacht, da sie in der Hand von Hackern und Terroristen enormen Schaden anrichten könnten (siehe Infosperber vom 11.4.2026). Um dies zu verhindern, wären weltweite Regulierungen für die Freigabe dieser potenten KI-Modelle nötig.

Gemäss einem Bericht der «New York Times» vom 4. Mai 2026 werden neuerdings KI-Regulierungen in der Trump-Regierung diskutiert. Diese wurden am Gipfeltreffen der USA mit China vom 13. bis 15. Mai 2026 in Beijing angesprochen, aber ihre Behandlung wurde vorerst vertagt.

Die Regulierungsfrage ist in den USA heiss umstritten und deshalb für einen internationalen Aushandlungsprozess nicht spruchreif. US-intern gibt es Dissens im Zusammenhang mit dem immer noch hängigen Rechtsstreit mit Anthropic und rund um die fortschreitende KI-Gesetzgebung auf der Ebene von Bundesstaaten, die den wachsenden Sorgen der Bevölkerung Rechnung trägt. 

Starke Gegenkräfte gegen KI-Regulierungen kommen vor allem aus dem Umfeld einiger Tech-Milliardäre. Ein Blick in die Ideenwelt der führenden KI-Regulierungsgegner enthüllt ein erschreckend antidemokratisches Gedankengut.

KI-Regulierungen – plötzlich ein Thema in der Trump-Regierung

Bisher war die Trump-Regierung gegen jegliche KI-Regulierungen. Bereits beim Amtsantritt im Januar 2025 hob Trump die von Präsident Biden erlassene Executive Order auf, die Sicherheitsbewertungen bei KI-Modellen vorsah. Vizepräsident Vance schockierte am dritten AI-Summit Anfang 2025 in Paris die EU mit seiner Ablehnung jeglicher KI-Regulierungen und doppelte kurz darauf an der Sicherheitskonferenz in München vom Februar 2025 nach.

Einen Wendepunkt gab es nun mit dem neuen KI-Agenten von Anthropic, mit «Claude Mythos Preview» (siehe Infosperber vom 11.4.2026). Erstmals lag ein so leistungsfähiges Tool zum Auffinden von Sicherheitslücken vor, dass sich die Frage stellte, ob solche und künftig noch potentere Modelle aus Sicherheitsgründen getestet werden müssen, sollten sie überhaupt breiten Kreisen freigegeben werden. Inzwischen haben Tests des britischen AI Security Institute und Rückmeldungen von Labors die eindrucksvollen Leistungen dieser Tools bestätigt. Sie dürfen nicht in falsche Hände geraten.

Immer potentere KI-Tools werden zur weltweiten Gefahr

Besonders erschreckend war, dass Anthropic-CEO Dario Amodei bereits im April 2026 warnte, dass andere, insbesondere chinesische Labors innerhalb eines Jahres ähnlich potente Tools entwickeln könnten. Tatsächlich stellte OpenAI kurz nach der Ankündigung von «Mythos» mit GPT-5.4-Cyber ein vergleichbares Tool aus Sicherheitsgründen ebenfalls nur einem eingeschränkten Kreis zur Verfügung.

Es droht plötzlich akute Gefahr von dritter Seite, von nicht-staatlichen Organisationen und von Hackern und Kriminellen. Gefeit vor verheerenden Cyberattacken sind auch die beiden Grossmächte nicht, die diese potenten KI-Tools entwickeln. Um Angriffe weltweit zu verhindern, müssten sie die Freigabe sehr potenter KI-Tools mit gemeinsamen Standards und Sicherheitskontrollen regeln respektive einschränken. US-Finanzminister Scott Bessent informierte am 14. Mai 2026 auf CNBC, dass in Beijing vereinbart wurde, ein entsprechendes Protokoll zu erarbeiten. Die USA seien zurzeit im Lead und könnten deshalb vorangehen.

Vorerst ist Eile angesagt, um mit «Mythos» gezielt die Sicherheit aller wichtigen Systeme zu überprüfen und Reparaturen vorzunehmen. Das Zeitfenster hierfür könnte sich eventuell rasch schliessen. Mitte Mai 2026 verlangten US-Kongressabgeordnete in einem überparteilichen Brief an den Cyberdirektor Richtlinien und koordinierte Massnahmen für einen erweiterten Zugang zu «Mythos» und für Unterstützung von Unternehmen, weil diese mit dem Schliessen aufgedeckter Lücken nicht Schritt halten könnten. «Mythos» wurde nur rund 40 US-Institutionen und einigen Partnern freigegeben. Die EU verhandelt, hat aber noch keinen Zugriff.

Pentagon und Trump-Regierung im Streit mit Anthropic

Weil Dario Amodei dem Pentagon die Nutzung seines Sprachmodells für die Massenüberwachung der US-Bevölkerung und für vollautomatisierte Waffensysteme verweigerte, kündigte das Pentagon den 200-Millionen-Vertrag mit Anthropic und stufte das Unternehmen als «Risiko für die Lieferkette» ein (siehe Infosperber vom 26.2.2026). Dagegen erhob Anthropic Klage.

Sobald der Vertrag mit Anthropic hinfällig war, nutzten der CEO von OpenAI, Sam Altman, und der Tech-Gigant Elon Musk ihre Chance und schlossen Verträge mit dem Pentagon. Sam Altman erklärte, dass er dieselben Bedingungen wie Anthropic in seinemnachträglich verbesserten Vertrag, ausgehandelt habe. 

Eine gemeinnützige Allianz für Sicherheit hielt in einem Brief an den Kongress fest, dass eine frühzeitig aufgestellte und klare KI-Richtlinie eventuell den Rechtsstreit verhindert hätte. Der CEO von Anthropic lehnte voll autonome Waffen nie generell ab. Er argumentierte in einer längeren Abhandlung, er könne nicht, wie verlangt, jeder rechtmässigen Nutzung zustimmen, solange, wie im vorliegenden Fall, die Gesetzgebung der dynamischen Technologie nachhinke. Das Pentagon erklärte, dass es den von Anthropic befürchteten Einsatz gar nicht plane, könne aber das Diktat eines zivilen Unternehmens nicht hinnehmen. Darin liegt der grosse Streitpunkt.

Anthropic wächst – Bevölkerung will KI-Regulierungen

Wegen des raschen Deals von OpenAI mit dem Pentagon deinstallierten zahlreiche Nutzerinnen und Nutzer ihren Account und wechselten zu Anthropic. Dessen Wachstum – auch wegen seiner Tools – ist phänomenal. CNBC hielt Ende April fest, Anthropic werde inzwischen mit rund 900 Milliarden Dollar höher als OpenAI bewertet. Das Pentagon nutzt trotz der zahlreichen inzwischen abgeschlossenen Verträge mit anderen Tech-Firmen und zahlreichen Vorwürfen weiterhin die Tools von Anthropic.

Gemäss einem Bericht vom März 2026 zu einer Umfrage von Fathom, einer unabhängigen gemeinnützigen US-Organisation, verlangen parteiübergreifend zwei Drittel der Befragten KI-Sicherheitsregeln, insbesondere für Arbeitsplätze und für Kinderschutz. Sie wollen aber auch, dass die USA im KI-Wettlauf führend bleiben. Diesbezüglich gibt es parteiübergreifenden Konsens.

Es ist für die Regulierungsfrage bedeutsam, dass sich viele Mitarbeitende verschiedener Tech-Firmen für mehr Sicherheit einsetzen. Hunderte forderten in einem offenen Brief, die Einstufung von Anthropic als «Risiko für die Lieferkette» sei zurückzuziehen. Es gab Proteste von zahlreichen Mitarbeitenden, als Google Ende April 2026 als drittes grosses Unternehmen nach OpenAI und Elon Musks xAI eine Vereinbarung mit dem Pentagon unterzeichnete. Im Wettkampf um Talente ist es für Tech-Unternehmen entscheidend, ob sie die besten KI-Mitarbeitenden rekrutieren und halten können.

Es liegt eine gewisse Ironie darin, dass Sam Altmans grösster Rivale, das Tech-Unternehmen Anthropic, von den Geschwistern Amodei gegründet wurde, die OpenAI verliessen, weil dieses die Sicherheitsfrage vernachlässigt habe (siehe Infosperber vom 18.7.2025).

Bisher nur bundesstaatliche Regulierungen

Die fehlende nationale KI-Regulierung hat zu Aktivitäten der Bundesstaaten geführt. Einzelne demokratisch regierte Bundesstaaten – so Kalifornien und New York – haben zum Ärger von Trump weitgehende KI-Regulierungen mit Transparenzvorschriften für die Tech-Unternehmen verabschiedet. Gemäss der von Trump im Dezember 2025 erlassenenExecutive Order sind innovationshemmende KI-Gesetze der Bundesstaaten ausser Kraft zu setzen. Innerhalb einer Frist von 90 Tagen sollten diese ermittelt werden. Die Frist verstrich bisher ohne Folgen.

Aber nicht nur demokratisch regierte, auch republikanisch dominierte Bundesstaten sahen sich auf Druck der Bevölkerung veranlasst, KI-Regulierungen zu erlassen. Auslöser waren der wachsende Widerstand gegen Rechenzentren und fehlende Regulierungen von Social Media, insbesondere zum Schutz von Kindern. Mit dem Hinweis auf ein von Algorithmen gesteuertes Suchtverhalten wurden erste wegweisende Gerichtsentscheide gefällt.

Das im März 2026 von Trump erlassene National Policy Framework als Rahmen für ein nationales Gesetz akzeptiert die niederschwelligen KI-Gesetze, hält aber fest, dass bundesstaatliche KI-Regulierungen ausser Kraft zu setzen sind, falls sie im KI-Wettrennen bremsend wirken. Gemäss Kommentaren dürfte diese Verletzung föderaler Kompetenzen im Kongress nicht mehrheitsfähig sein.

Starke Gegenkräfte gegen KI-Regulierungen

Die Regulierungsfrage ist längst ein wichtiges Thema im Vorfeld der Midterm-Wahlen vom kommenden November geworden. Für Kampagnen werden Fonds in sogenannten Political Action Committees, PAC’s, geäufnet. Aktiv sind vor allem die Regulierungsgegner von Big Tech. Zu den Unterstützern des Super-PAC «Leading the Future» zählen unter anderen der Präsident und Mitbegründer von OpenAI, Greg Brockman, der Risikokapitalgeber und Mitbegründer von Palantir, Joe Lonsdale und die Risikokapitalfirma Andreessen Horowitz. Im April 2026 wurden Zusagen für Spenden im Umfang von 140 Millionen Dollarausgewiesen. «Leading the Future» ist vernetzt mit «Build American AI», das Influencer finanziert, die vor China als Gefahr im KI-Wettlauf warnen, ohne dass die Geldgeber bekannt gemacht werden. Diese Warnung ist parteiübergreifend in den USA sehr wirksam.

Wie diese PAC’s ihre Mittel im Vorfeld der Kongresswahlen einsetzen, zeigt sich in folgendem Beispiel: Alex Bores, ein ehemaliger Mitarbeiter von Palantir, der die Firma wegen ihrer Aktivitäten verliess, geriet ins Schussfeld. Er unterstützte das oben bereits erwähnten KI-Gesetz im Bundesstaat New York. Dieses trat im Dezember 2025 in Kraft und verlangt von KI-Labors öffentlich zugängliche Sicherheitspläne. Unterstützt wird Alex Bores von Public First Action, mitfinanziert von Anthropic. Der PAC steht für Transparenz und öffentliche Kontrolle. Er hebt sich klar von anderen PAC’s ab, wie zum Beispiel von den beiden Super-PAC’s gegen KI-Regulierungen, die Meta mit 65 Millionen Dollar unterstützt.

Unter den kapitalkräftigen Tech-Firmen hinter diesen PAC’s mischt Palantir kräftig mit. Diese Firma hat kürzlich mit dem 22-Punkte-Programm ihres CEO’s und Mitbegründers Alex Karp ihr Weltbild offengelegt. Das antidemokratische, als KI-Technofaschismus bezeichnete politische Modell von Alex Karp wurde in zwei Infosperberartikeln ausgeleuchtet (vom 5./8. Mai 2026: Palantir: Die unheimliche Firma geht in die Offensive und (Palantir: Das KI-Zeitalter löst das Atombomben-Zeitalter ab).

Mit KI den Antichristen und damit die Apokalypse aufhalten

Die Ideen eines Alex Karp werden von einer Reihe weiterer einflussreicher Tech-Milliardäre geteilt, insbesondere auch vom Palantir-Mitbegründer Peter Thiel. Er verbindet autoritäres, durch KI gesteuertes Denken mit einer bei den evangelikalen Christen der USA verbreiteten Endzeiterwartung. Gestützt auf biblische Quellen soll am Ende aller Zeiten der Antichrist – ein falscher Prophet – eine Weltherrschaft errichten. Es droht die Apokalypse, falls diese nicht durch eine Gegenkraft, bezeichnet als Katechon, aufgehalten wird.

Peter Thiel sieht in internationalen Organisationen und Regulierungen das Werk des Antichristen, den die USA dank KI aufhalten können. Deshalb darf KI nicht mit Regulierungen gebremst werden. Die Wirkung dieser abstrusen Ideen in den USA darf nicht unterschätzt werden. Tausende, mit Beteiligung der Trump-Regierung, zeigten sich am 17. Mai 2026 an einem Gebetstag in Washington überzeugt, dass die USA als christliche Nation das Böse der Welt besiegen würden. Thiel arbeitet im Hintergrund mit viel Erfolg. Sein Einfluss reicht in die Trump-Regierung. Er unterstützte Vance, der ähnlich denkt, mit Millionen im Wahlkampf für den Kongress und empfahl ihn Trump als Vizepräsidenten.

Zum Ärger von Trump verwahrt sich Papst Leo gegen eine Vereinnahmung des Evangeliums durch die Politik Trumps. Man kann sich fragen, ob Peter Thiel selber der Antichrist sei, denn sein Werk, die Software von Palantir, ist in der Hand von Despoten das ideale Tool für eine unheimliche Weltregierung, die er mit der KI-Dominanz der USA ja gerade verhindern will.

Wie die KI-Regulierung der Trump-Regierung konkret aussehen wird, ist noch unklar. Der Spagat zwischen der Eindämmung von Sicherheitsrisiken und einem Machtpoker mit zum Teil religiösem Überbau dürfte schwierig werden.