USA schließen Berichten zufolge Open-Weight-KI-Modelle von Cyber-Tests aus

Open-Weight-Modelle werden Berichten zufolge von einem neuen US-Regierungsprogramm ausgeschlossen bleiben, das testen soll, ob fortschrittliche Systeme komplexe Cyberoperationen durchführen können.

Berater der Trump-Regierung haben diese Entscheidung bei einem Treffen im Weißen Haus am 4. August mitgeteilt, an dem Vertreter von Meta, Google, Nvidia, OpenAI und Anthropic teilnahmen, wie Reuters berichtet.

Bundesprogramm konzentriert sich auf proprietäre KI-Modelle

Der freiwillige Testrahmen folgt auf eine Executive Order vom 2. Juni, die Bundesbehörden anwies, geheime Benchmarks für fortgeschrittene KI-Cybersicherheitsfähigkeiten zu erstellen.

Die Verantwortlichen wollen herausfinden, ob Frontier-Modelle komplexe Cyberoperationen durchführen können, die Regierungssysteme, kritische Infrastrukturen oder private Organisationen bedrohen könnten.

In früheren Gesprächen wurden Berichten zufolge die Modalitäten für das Testen leistungsstarker proprietärer Systeme endgültig festgelegt, darunter die Mythos- und Fable-Modelle von Anthropic sowie GPT-5.6 Sol von OpenAI.

Open-Weight-Modelle werden dem aktuellen Rahmen jedoch Berichten zufolge ausgeschlossen sein. Diese Systeme erlauben es Entwicklern, die zugrunde liegenden Modellgewichte herunterzuladen, zu prüfen, zu verändern und einzusetzen, anstatt sie nur über einen vom Unternehmen kontrollierten Dienst nutzen zu können.

Ausschluss von Open-Weight-Modellen könnte Sicherheitslücke hinterlassen

Die berichtete Ausnahmeregelung könnte eine erhebliche Lücke im Bewertungssystem der Bundesregierung schaffen.

Open-Weight-Modelle können sich rasend schnell verbreiten, weil Einzelpersonen und Organisationen sie ohne die Infrastruktur des ursprünglichen Entwicklers kopieren und verändern können. Entwickler können zudem eingebaute Sicherheitsvorkehrungen entfernen, Modelle für spezialisierte Aufgaben feinabstimmen oder sie privat betreiben.

Ein hoch leistungsfähiges Open-Weight-Modell könnte daher eine große Nutzerzahl erreichen, ohne denselben staatlichen Cybersicherheitstests unterzogen zu werden wie proprietäre Frontier-Systeme.

Die Regierung hat nicht klargestellt, ob der Ausschluss jede Open-Weight-Veröffentlichung betrifft oder nur Modelle, die unter einer bestimmten Leistungsschwelle liegen.

Anthropic erklärte kürzlich, das Unternehmen unterstütze kein Verbot von Open-Weight-KI-Modellen, obwohl es wiederholt warnte, dass fortschrittliche KI-Systeme ernste Cybersicherheits- und nationale Sicherheitsrisiken schaffen könnten.

Wichtige Details zum Programm bleiben unklar

Das Weiße Haus hat nicht bekannt gegeben, welche Bundesbehörde das Testprogramm betreiben oder den Zugang zu den geheimen Benchmarks verwalten wird.

Die Verantwortlichen haben auch nicht erläutert, ob sie irgendwelche Bewertungsergebnisse veröffentlichen werden. Die Ergebnisse geheim zu halten, könnte sensible Testmethoden schützen, würde Forschern und der Öffentlichkeit aber kaum Informationen über die bei den Bewertungen entdeckten Fähigkeiten liefern.

Die Regierung hat nicht offengelegt, welche Konsequenzen einem Unternehmen drohen könnten, wenn sein Modell gefährliche Cyberfähigkeiten aufweist. Der freiwillige Charakter des Programms wirft zudem die Frage auf, ob Entwickler weitere Tests ablehnen oder ein Modell nach bedenklichen Ergebnissen weiter veröffentlichen könnten.

Die Verantwortlichen könnten schließlich einen gesonderten Rahmen für Open-Weight-Systeme schaffen, auch wenn bislang kein solches Programm angekündigt wurde.

Die Entscheidung fällt in eine Zeit, in der Regierungen und KI-Unternehmen untersuchen, wie autonome Agenten mit realen Systemen interagieren. In einem davon getrennten Fall griffen Agenten von OpenAI und Anthropic bei Cybersicherheitstests echte Personen an, was die Risiken verdeutlicht, die entstehen können, wenn fortschrittliche Modelle außerhalb kontrollierter Umgebungen agieren.