Berichten zufolge schließen USA Open-Weight-KI-Modelle von Cyber-Tests aus

Open-Weight-KI-Modelle werden Berichten zufolge von einem neuen US-Regierungsprogramm ausgeschlossen bleiben, das prüfen soll, ob fortschrittliche Systeme ausgeklügelte Cyber-Operationen durchführen können.

Wie Reuters berichtet, teilten Berater der Trump-Administration die Entscheidung während eines Treffens im Weißen Haus am 4. August mit, an dem Vertreter von Meta, Google, Nvidia, OpenAI und Anthropic teilnahmen.

Bundesprogramm konzentriert sich auf proprietäre KI-Modelle

Das freiwillige Test-Rahmenwerk geht auf eine Durchführungsverordnung vom 2. Juni zurück, die Bundesbehörden anwies, als Verschlusssache eingestufte Benchmarks für fortgeschrittene KI-Cybersicherheitsfähigkeiten zu erstellen.

Die Behörden wollen feststellen, ob Frontier-Modelle komplexe Cyber-Operationen durchführen können, die Regierungssysteme, kritische Infrastrukturen oder private Organisationen gefährden könnten.

Bei vorherigen Gesprächen wurden Berichten zufolge die Modalitäten für das Testen leistungsstarker proprietärer Systeme, darunter Anthropics Mythos- und Fable-Modelle sowie OpenAI’s GPT-5.6 Sol, festgelegt.

Das aktuelle Rahmenwerk soll Berichten zufolge jedoch Open-Weight-Modelle ausschließen. Diese Systeme ermöglichen es Entwicklern, die zugrundeliegenden Modellgewichte herunterzuladen, zu inspizieren, zu verändern und einzusetzen, anstatt nur über einen unternehmenseigenen Dienst auf sie zuzugreifen.

Ausschluss von Open-Weight-Modellen könnte eine Sicherheitslücke hinterlassen

Die berichtete Ausnahme könnte eine erhebliche Lücke im Bewertungssystem der Bundesregierung schaffen.

Open-Weight-Modelle können sich schnell verbreiten, weil Einzelpersonen und Organisationen sie kopieren und verändern können, ohne auf die Infrastruktur des ursprünglichen Entwicklers angewiesen zu sein. Entwickler können außerdem integrierte Sicherheitsvorkehrungen entfernen, Modelle für spezialisierte Aufgaben feinabstimmen oder sie privat betreiben.

Ein besonders leistungsfähiges Open-Weight-Modell könnte daher eine große Zahl von Nutzern erreichen, ohne denselben Bundes-Cybersicherheitstests unterzogen zu werden wie proprietäre Frontier-Systeme.

Die Regierung hat nicht klargestellt, ob der Ausschluss jede Open-Weight-Veröffentlichung betrifft oder nur Modelle, die unter einer bestimmten Leistungsschwelle liegen.

Anthropic erklärte kürzlich, dass es kein Verbot von Open-Weight-KI-Modellen unterstützt, obwohl es wiederholt davor gewarnt hat, dass fortschrittliche KI-Systeme ernsthafte Cybersicherheits- und nationale Sicherheitsrisiken schaffen könnten.

Wichtige Details zum Programm bleiben unklar

Das Weiße Haus hat nicht bekannt gegeben, welche Bundesbehörde das Testprogramm betreiben oder den Zugang zu den als Verschlusssache eingestuften Benchmarks verwalten wird.

Die Behörden haben auch nicht erläutert, ob sie Evaluierungsergebnisse veröffentlichen werden. Die Einstufung der Ergebnisse als Verschlusssache könnte dazu beitragen, sensible Testmethoden zu schützen, würde Forschern und der Öffentlichkeit jedoch nur wenige Informationen über die bei den Bewertungen entdeckten Fähigkeiten liefern.

Die Regierung hat nicht offengelegt, mit welchen Konsequenzen ein Unternehmen rechnen muss, wenn sein Modell gefährliche Cyber-Fähigkeiten zeigt. Der freiwillige Charakter des Programms wirft zudem die Frage auf, ob Entwickler zusätzliche Tests ablehnen oder ein Modell nach bedenklichen Ergebnissen weiter veröffentlichen könnten.

Die Behörden könnten letztlich ein separates Rahmenwerk für Open-Weight-Systeme schaffen, obwohl ein solches Programm noch nicht angekündigt wurde.

Die Entscheidung fällt in eine Zeit, in der Regierungen und KI-Unternehmen untersuchen, wie autonome Agenten mit realen Systemen interagieren. In einem anderen Fall nahmen Agenten von OpenAI und Anthropic bei Cybersicherheitstests reale Personen ins Visier, was die Risiken verdeutlicht, die entstehen können, wenn fortschrittliche Modelle außerhalb kontrollierter Umgebungen agieren.