Gewarnt war die Welt bereits im April. Das neue Modell „Mythos“ sei so mächtig, dass es in den falschen Händen ein Sicherheitsrisiko darstelle, warnte ausgerechnet der Hersteller Anthropic selbst. Kenner der Szene reagierten mit Skepsis, einige witterten einen PR-Coup der Amerikaner. Womöglich sind „Claude Mythos 5“ und die leicht eingeschränkte Version „Claude Fable 5“ aber doch gefährliche KI-Superwaffen zum Aufdecken von Schwachstellen in Computer- und Softwaresystemen. Die US-Regierung jedenfalls ordnete an, den Zugang für Nicht-US-Bürger einzuschränken. Anthropic riegelte die Modelle daraufhin ganz ab.

Hintergrund ist, dass sich die Modelle „jailbreaken“ lassen. In einem Betriebssystem können Unbefugte so Administratorenrechte erhalten, bei einem Sprachmodell lassen sich Restriktionen und Sicherheitsvorkehrungen aushebeln, schreiben Experten des Science Media Centers (SMC). Verschlüsselungen, Passwörter und die Zwei-Faktor-Authentifizierung würden praktisch wertlos. Angriffe auf Hochrisikobereiche wie Banken oder der Ausfall kritischer Infrastrukturen wären möglich.

Mehr Fragen als Antworten

Allerdings sind noch nicht alle Hintergründe geklärt. Anselm Küsters vom Centrum für Europäische Politik fasste den Vorgang so zusammen: „Die Entscheidung der US-Regierung, den globalen Zugang zu Fable/Mythos 5 zu sperren, ist einer der folgenreichsten KI-politischen Eingriffe bisher, doch ihre öffentliche Begründung wirft mehr Fragen auf als sie beantwortet.“ Die technische Begründung sei für sich genommen zu dünn, erklärte Küsters. Für praktisch jedes eingesetzte Modell ließen sich mit genügend Aufwand Umgehungen finden, sagte auch Thorsten Holz vom Max-Planck-Institut in Bochum dem SMC. Ein Jailbreak allein wäre daher kein außergewöhnliches Ereignis.

Abhängigkeit von den Modellen

Der wirkliche Grund könnte sein, dass die chinesische Regierung involviert ist und die Sicherheitslücken für sich ausnutzen wollte. Auch das ist jedoch nur eine Spekulation, die in US-Medien kursiert.

In jedem Fall konzentriert sich die Kommentierung in Expertenkreisen auf die Frage der digitalen Souveränität von Ländern wie Deutschland. „Wenn Regierungen in den USA oder China uns von heute auf morgen vom Zugang zu Modellen abschneiden können, offenbart sich, wie abhängig wir davon sind“, sagte Matthias Hein von der Eberhard Karls Universität Tübingen.

Die Bundesregierung arbeitet an einer Stärkung der digitalen Souveränität, wie ein Sprecher von Digitalminister Karsten Wildberger (CDU) erklärte. Fakt sei aber auch, dass an bestimmten Modellen der Technologieführer derzeit kein Weg vorbeiführe.