Anthropic sagt, es unterstützt kein Verbot von Open-Weight-KI-Modellen

Anthropic hat seine Position zu Open-Weight-KI-Modellen klargestellt. CEO Dario Amodei erklärte, das Unternehmen habe ein Verbot niemals befürwortet. Gleichzeitig warnt er weiterhin davor, dass leistungsstarke offene Modelle erhebliche Sicherheits- und geopolitische Risiken verursachen könnten.

Anthropic äußert Bedenken zu China

Amodei warnte, dass autoritäre Regierungen, einschließlich China, fortschrittliche KI-Modelle nutzen könnten, um militärische Fähigkeiten zu stärken, leistungsfähigere Systeme zu entwickeln und die Überwachung auszuweiten.

Er äußerte auch die Sorge, dass China letztlich KI-Modelle entwickeln könnte, die den in den Vereinigten Staaten entwickelten überlegen sind.

Anthropic hat Alibaba kürzlich vorgeworfen, 25.000 gefälschte Konten zu nutzen, um Fähigkeiten von Claude zu extrahieren. Berichten zufolge bereitet Alibaba außerdem vor, die Nutzung von Claude Code im gesamten Unternehmen einzuschränken.

Offene Modelle könnten Missbrauch ermöglichen

Amodei sagte, böswillige Akteure könnten leistungsstarke KI-Modelle nutzen, um Cyberangriffe und andere schädliche Aktivitäten durchzuführen.

Open-Weight-Modelle können zusätzliche Risiken bergen, da Entwickler nicht einfach überwachen können, wie sie genutzt werden. Einmal veröffentlicht, kann ein Unternehmen das Modell weder zurückziehen, seine Sicherheitsvorkehrungen aktualisieren noch verhindern, dass modifizierte Versionen verbreitet werden.

Amodei wies Behauptungen zurück, dass offene Modelle automatisch die KI sicherer machen oder Verteidigern stets einen größeren Vorteil als Angreifern bieten.

Amodei schlägt vier Sicherheitsmaßnahmen vor

Der CEO von Anthropic schlug mehrere politische Maßnahmen vor, um die Risiken fortschrittlicher KI zu bewältigen, darunter die Beschränkung von Exporten fortschrittlicher Chips und Chipherstellungsausrüstung nach China sowie eine stärkere Durchsetzung von Maßnahmen gegen Chipschmuggel.

Er forderte zudem ein Verbot von Destillationsvorgängen für KI-Modelle im industriellen Maßstab sowie verpflichtende Sicherheitstests sowohl für leistungsstarke offene als auch geschlossene Modelle.

Diese Maßnahmen würden auf den Zugang zu Rechenressourcen abzielen und Unternehmen verpflichten, fortschrittliche Modelle vor dem Einsatz oder der Veröffentlichung zu evaluieren.

Technologieunternehmen lehnen frühzeitige Einschränkungen ab

NVIDIA, Meta, Microsoft und andere Technologieunternehmen warnten kürzlich die US-amerikanischen politischen Entscheidungsträger davor, vorschnelle Einschränkungen für Open-Weight-KI einzuführen.

Die Unternehmen argumentierten, dass offene Modelle das Wirtschaftswachstum fördern, Innovationen anregen und Forschern helfen, stärkere KI-Sicherheitswerkzeuge zu entwickeln. Anthropic unterzeichnete das Branchenschreiben nicht.

Amodei räumte ein, dass Open-Weight-Modelle Forschung und Wirtschaftswachstum unterstützen können. Er argumentierte jedoch, dass die politischen Entscheidungsträger ihre potenzielle Nutzung in Cyberangriffen, militärischen Systemen, Überwachung oder der Entwicklung leistungsfähigerer KI nicht ignorieren sollten.

In weiteren Anthropic-Nachrichten hat das Unternehmen kürzlich Claude Opus 5 veröffentlicht.