Die USA verlieren im KI-Wettrennen mit China den Lead

Geschockt von jüngsten Ereignissen rücken in den USA Open-Source-Modelle ins Zentrum und markieren eine Wende. Im bisherigen KI-Wettlauf ging es um eine Artificial General Intelligence, AGI. Auf dieses Ziel ausgerichtet waren die proprietären US-KI-Modelle und die enormen Investitionen. Jetzt verschiebt sich der Wettlauf in Richtung kostengünstiger Open-Source-Modelle, die sich auf den Bedarf von Unternehmen anpassen lassen. Zentral wird die Frage, wer weltweit gültige Standards für die Sicherheit durchsetzen kann.

Open-Source-KI gegen den Hackerangriff eines proprietären Systems

Open-AI testete seine neusten KI-Modelle – «GPT-5.6 Sol» sowie ein noch neueres in der Pilotphase – in einer vermeintlich sicheren Umgebung, im sogenannten Sandkasten. Damit die Agenten ihre Fähigkeiten voll entfalten können, wurden Sicherheitsschranken reduziert. Das hatte gravierende Folgen. Die Agenten rissen durch eine bisher nicht bemerkte Sicherheitslücke aus, agierten im Internet und brachen zur Erfüllung ihres Auftrags beim KI-Unternehmen Hugging Face ein, einer der wichtigsten Open-Source-Plattformen. Wie sich später herausstellte, wurden auch weitere Systeme gehackt. 

Es gelang dem CEO von Hugging Face, den Angriff zu stoppen, allerdings nicht mit den besten US-KI-Modellen, da deren Sicherheitsfunktionen eine Gegenattacke verweigerten. Die Verteidigung erfolgte – welch eine Ironie – mit dem von Hugging Face heruntergeladenen und selbst gehosteten chinesischen Open-Source-Modell «GLM-5.2».

Beeindruckende Leistung – Versagen der Sicherheitsmassnahmen

Hugging Face informierte am 16. Juli 2026, dass es sich um den ersten Angriff handle, den KI-Agenten völlig autonom gesteuert hätten. Das Unternehmen dokumentierte mit seiner eigenen KI die mehr als 17’000 erfolgten Angriffsereignisse. Vorerst blieb die Quelle dieses Angriffs unklar. Erst eine Woche später gab Open-AI bekannt, dass ihre Tests den ungewöhnlichen Vorfall ausgelöst hatten. Die beeindruckenden Fähigkeiten dieser Tools verschafften Open-AI Werbewirkung. Gleichzeitig wurden die mangelhaften Sicherheitsmassnahmen kritisiert. Open-AI verlor offensichtlich die Kontrolle, andernfalls hätte es rascher den Vorfall entdecken müssen.

Schocks mit chinesischen Open-Source-Modellen

Zur Zeit dieses Ereignisses stand das Silicon Valley unter dem Schock neuer chinesischer Open-Source-Modelle. Auf «GLM-5.2», das im Juni 2026 von Z.ai veröffentlicht wurde, folgte «Kimi K3», entwickelt von Moonshot AI, das am 27. Juli zum Download freigegeben wurde. Und kürzlich schockte Deep-Seek das Silicon Valley mit seinem neusten Modell, «V4-Flash». 

Diese Modelle können es mit den besten US-Modellen aufnehmen – dies zu Betriebskosten, die im Vergleich mit den teuren proprietären KI-Modellen viel tiefer sind. Der Preis bei «V4-Flash», gemessen in Tokens, betrage ein Prozent der Kosten für Anthropics «Claude Opus 4.8». Und es folgen laufen neue, noch leistungsfähigere Modelle.

Eigentlich handelt es sich um Open-Weight-Modelle. Open Source und Open Weight werden vielfach synonym verwendet, obwohl als wichtigster Unterschied die Trainingsdaten bei Open Weight nicht offen sind. Aber alle diese Modelle lassen sich herunterladen, verändern und auf eigenen Servern hosten, womit sie auch nicht gesperrt werden können. Der Einfachheit halber bleiben wir beim Begriff «Open Source».

Open Source als neue Herausforderung für die USA

Bisher postulierten Anthropic und Open-AI, ihre proprietären Systeme würden mehr Sicherheit als Open-Source-Modelle gewährleisten. Wie Infosperber berichtete, sind ihre leistungsfähigsten Modelle – «Mythos 5» und «GPT-5.6» – aus Sicherheitsgründen weiterhin nur eingeschränkt verfügbar. Bei allgemein zugänglichen Modellen, so bei «Fable 5», bauten sie strenge Sicherheitsmassnahmen ein, um eine kriminelle Nutzung zu verhindern.

Die ebenso leistungsfähigen, kostengünstigen chinesischen Modelle waren nun offen verfügbar, obwohl bei ihnen Sicherheitsmassnahmen kaum greifen. Sofort drehte sich die Diskussion um die Frage, ob diese Modelle aus Sicherheitsgründen nicht ebenfalls einzuschränken seien oder ihre Nutzung gar verboten werden müsse.

Zudem bedrohen die chinesischen Modelle das Businessmodell der teuren proprietären US-Modelle. Das könnte die enormen KI-Investitionen gefährden. Es droht ein wirtschaftlicher Crash.

Trump-Regierung im Minenfeld

Die Trump-Regierung befand sich plötzlich in einer verzwickten Situation, und es erwies sich als schwierig, rasch mit klugen Massnahmen zu reagieren.

Die US-Regierung ging vorerst mit Beschuldigungen in die Offensive. Ins Zentrum rückte der Vorwurf der Wissensdestillation. Das Wissen des besten US-Modells – «Fable 5» – sei mit dieser Methode auf chinesische Modelle transferiert worden, und zwar in einem Ausmass, dass dies als Diebstahl geistigen Eigentums gelte. KI-Forschende bezweifelten allerdings, ob die Destillation von «Fable 5» in der kurzen Zeit seit dessen Freigabe am 1. Juli überhaupt möglich gewesen wäre. Sie erklärten überdies, dass Destillation eine gängige Praxis unter KI-Unternehmen sei.

Auch die angekündigten US-Sanktionen können die weltweiten Sicherheitsprobleme nicht lösen. Vielmehr drohen direkte negative Rückwirkungen. So trifft das rasch erlassene Verbot des Imports von Robotern und Drohnen auch Nvidia, das eine Partnerschaft mit dem grössten chinesischen Roboterhersteller Unitree einging, dessen Roboter in US-Hochschulen für die Forschung genutzt werden.

Engagement praktisch aller Big-Tech für Open-Source-Modelle

Die Gefahr allfälliger Restriktionen bei der Nutzung der chinesischen KI-Modelle führte sofort zu Reaktionen. Unter dem Lead von Nvidia forderten Mitte Juli praktisch alle grossen KI-Unternehmen in einem offenen Brief die Politik auf, nicht voreilig die Nutzung von Open-Source-Modellen zu beschränken. Diese förderten Innovation und Wettbewerb und seien unerlässlich für Start-ups und Forschung. Sicherheitsrisiken seien bei Open-Source nicht grösser als bei proprietären Systemen, weil viele Augen in der Community mithelfen, Schwachstellen zu entdecken.

In der Liste der zahlreichen Unterzeichner, die mit Mistral und Black Forest Labs auch zwei europäische Start-ups aufführt, fehlt einzig Anthropic, das eine Unterschrift ablehnte.

Offener Brief der Little Tech Association

Nur eine Woche später wandten sich rund 200 Start-ups der Little Tech Association mit einem offenen Brief an die Trump-Regierung: Einschränkungen von Open-Source-Modellen würden zu einem gravierenden Wettbewerbsnachteil gegenüber Entwicklerinnen und Entwicklern im Ausland führen, denen diese KI-Modelle für Weiterentwicklungen offenstehen. Open-Source sei nicht weniger sicher, Destillation zudem innovationsfördernd.

Gemäss der US-Zeitung Politico sagte ein Verbandsmitglied von Little Tech Association, dass Hunderte Start-ups aufgeben müssten, stünden ihnen die chinesischen Open-Source-Modelle nicht mehr zur Verfügung. Sie können sich die teuren proprietären Modelle nicht leisten.

Sichere Testumgebungen mit Protokollierung

Die Sicherheit von Open Source soll eine Open Secure AI Alliance erhöhen, die in kürzester Frist wurde. Es gelang Nvidia, namhafte Big-Tech-Firmen zusammenzubringen. Gemäss der Vereinbarung wollen die beteiligten Unternehmen gemeinsam einen allgemein verfügbaren Sicherheitsbaukasten (Sandbox) und Standards für besonders abgesicherte Testumgebungen entwickeln. So sorgt zum Beispiel Nvidia für ein Sicherheits-Framework, IBM für digitale Signaturen als Sicherheitselement und Microsoft für ein System, das Sicherheitslücken aufdecken kann. Mit dieser Testumgebung sollen die Aktionen der KI-Agenten ständig nachvollziehbar sein und protokolliert werden.

Die Open Secure AI Alliance kann auf langjährige Vorarbeiten aufbauen, so auf Aktivitäten der Linux Foundation und der von ihr im Juni 2026 lancierten Akrites-Initiative sowie auf der Arbeit der Open-SSF-Community, die sich speziell Sicherheitsfragen widmet.

Die Selbstregulierung soll wohl auch verhindern, dass staatliche Behörden Vorschriften erlassen.

Anthropics Position

Bald tauchten Gerüchte auf, Anthropic wolle sein einträgliches Business sichern und sei deshalb für starke Sicherheitskontrollen. Anthropic-CEO Amodei sah sich veranlasst, Position zu beziehen. Er sei nicht gegen Open Source. Aber diese Modelle könnten, einmal veröffentlicht, nicht mehr zurückgezogen werden und es gebe keine Hinweise im Fall einer kriminellen Nutzung. Nötig seien weltweit wirksame Tests aller besonders leistungsfähigen Modelle, sowohl offener wie geschlossener beziehungsweise proprietärer Systeme und unabhängig von ihrem Herkunftsland. Bei Biowaffen halte er eine Zusammenarbeit auch mit China für möglich.

Jailbreaks bei offenen wie geschlossenen Systemen

Tricks zur geschickten Umgehung von gesperrten Nutzungen, sogenannte Jailbreaks, sind sowohl bei offenen wie bei geschlossenen Modellen ein Risiko. FAR.AI, eine in Kalifornien basierte gemeinnützige Organisation, testete mehrere KI-Modelle mit Prompts darauf, ob sie sich zu potenziell schädlichen Informationen verleiten lassen, beispielsweise zu Angaben über die Entwicklung gefährlicher biologischer Waffen. Das Ergebnis war erschreckend. Elon Musks Grok war mit 448 festgestellten Jailbreaks am anfälligsten, gefolgt von Googles Gemini mit 249 Jailbreaks, während Anthropics Claude «Fable 5» und OpenAIs «GPT-5.6 Sol» diese Prompts ins Leere laufen liessen.

Dieser Test ergab zwar laut FAR.AI, dass Sicherheitsmassnahmen in der Regel wirksam seien. Aber sie garantierten nicht, dass besonders ausgeklügelte Prompts ihr Ziel doch erreichen können. Um eine grössere Katastrophe auszulösen, genüge zudem ein einziges KI-Model, das sich zu einem Jailbreak verleiten lässt. Zu denken gebe, dass die Kosten für Prompts sehr tief sind und diese massenweise gestartet werden können.

KI-Entwicklung abbremsen – breit unterstützte Petition

Die Spitzenforschung der proprietären US-Modelle führte in kürzester Zeit zu erstaunlichen Durchbrüchen. Diese Spitzenforschung wird zweifellos weitergeführt, zu verlockend ist das noch unbekannte Potenzial künftiger Forschungsfortschritte. Aber die bisher exponentielle Entwicklung führte zu gravierenden Sicherheitsproblemen, die gelöst werden sollten, bevor neue Entwicklungsschübe angeschoben werden. 

Die Aussenseiterrolle scheint Anthropic nicht zu schaden. Eine Petition vom 27. Juli 2026 nahm die Anliegen von Amodei auf und vereinte innert kürzester Zeit über 1300 KI-Mitarbeitende von Open-AI, Google Deep-Mind, Meta und anderen Konkurrenten. Darin wird die US-Regierung aufgefordert, auf internationaler Ebene tätig zu werden, um mit geeigneten Instrumenten die KI-Entwicklung weltweit abzubremsen. Der Konkurrenzdruck verunmögliche dies den einzelnen Unternehmen oder Ländern.

Für den KI-Wettlauf wird entscheidend sein, wer weltweit wirksame Sicherheitsstandards definieren wird – falls die federführenden Staaten sich eines Tages darauf einigen.

Erstes US-Start-up steuerte um

Nicht das weltbeste proprietäre Modell, sondern auf den Bedarf der Unternehmen anpassbare Open-Source-Angebote ermöglichen die Eroberung des Weltmarkts. Ein US-Start-up hat den Paradigmenwechsel bereits vor neun Monaten begriffen. Mitte Juli 2026 veröffentlichte Mina Murati, früher in einer Führungsfunktion bei Open-AI und heute CEO von Thinking Machines Lab, ihr erstes Modell «Inkling», ein Open-Source-Modell. Geld verdienen will sie mit Tinker, mit einer Plattform, auf der Unternehmen das Modell für ihre eigenen spezifischen Bedürfnisse anpassen können. Thinking Machines Lab soll die Methode der Destillation angewandt und andere Modelle, darunter «Kimi K2.5», genutzt haben.

Die USA verlieren den Lead – technisch und politisch

Bei der Entwicklung von Open Source sind die USA gegenüber China in Verzug. Sie scheinen auch den Lead bei den Sicherheitsstandards zu verlieren.

An der Eröffnungszeremonie der World Artificial Intelligence Conference (WAIC) Mitte Juli in Shanghai positionierte Staatschef Xi Jinping China als führende Kraft einer neuen, auf Sicherheit ausgerichteten globalen KI-Governance. Der neu gegründeten World AI Cooperation Organisation (WAICO), die mit Open-Source-Modellen den globalen Süden unterstützen will, sind bereits 29 Länder beigetreten.

Man kann gespannt sein, ob die Trump-Regierung im Hinblick auf das für September 2026 anberaumte Treffen mit Xi Jinping eine neue Strategie erarbeitet. KI-Sicherheitsfragen sind bei diesem Treffen auf der Traktandenliste.