Anthropic erklärt, ein Verbot von Open-Weight-KI-Modellen nicht zu unterstützen

Anthropic hat seine Position zu Open-Weight-KI-Modellen klargestellt: CEO Dario Amodei erklärte, das Unternehmen habe niemals ein Verbot unterstützt. Er warnt jedoch weiterhin davor, dass leistungsstarke offene Modelle erhebliche Sicherheits- und geopolitische Risiken mit sich bringen könnten.

Anthropic äußert Bedenken hinsichtlich China

Amodei warnte, dass autoritäre Regierungen, darunter China, fortschrittliche KI-Modelle nutzen könnten, um militärische Fähigkeiten zu stärken, leistungsfähigere Systeme zu entwickeln und die Überwachung auszuweiten.

Er äußerte zudem die Sorge, dass China eines Tages KI-Modelle bauen könnte, die die in den USA entwickelten übertreffen.

Anthropic hat Alibaba kürzlich vorgeworfen, 25.000 gefälschte Konten genutzt zu haben, um Fähigkeiten aus Claude zu extrahieren. Berichten zufolge bereitet Alibaba zudem vor, die Nutzung von Claude Code am Arbeitsplatz einzuschränken.

Offene Modelle könnten Missbrauch ermöglichen

Amodei sagte, böswillige Akteure könnten leistungsstarke KI-Modelle nutzen, um Cyberangriffe und andere schädliche Aktivitäten durchzuführen.

Open-Weight-Modelle könnten zusätzliche Risiken bergen, da Entwickler nicht leicht überwachen können, wie sie genutzt werden. Einmal veröffentlicht, kann ein Unternehmen das Modell nicht mehr zurückziehen, seine Sicherheitsvorkehrungen aktualisieren oder die Verbreitung modifizierter Versionen verhindern.

Amodei wies Behauptungen zurück, dass offene Modelle KI automatisch sicherer machen oder Verteidigern durchgängig einen größeren Vorteil gegenüber Angreifern verschaffen.

Amodei schlägt vier Sicherheitsmaßnahmen vor

Der CEO von Anthropic schlug mehrere Maßnahmen zum Umgang mit den Risiken fortschrittlicher KI vor, darunter Exportbeschränkungen für fortschrittliche Chips und Chipfertigungsanlagen nach China sowie eine verstärkte Durchsetzung gegen Chipschmuggel.

Er forderte außerdem ein Verbot von KI-Modell-Destillationsvorgängen im industriellen Maßstab und verpflichtende Sicherheitstests sowohl für leistungsstarke offene als auch geschlossene Modelle.

Diese Maßnahmen würden auf den Zugang zu Rechenressourcen abzielen und Unternehmen verpflichten, fortschrittliche Modelle vor dem Einsatz oder der Veröffentlichung zu evaluieren.

Technologieunternehmen lehnen frühe Beschränkungen ab

NVIDIA, Meta, Microsoft und weitere Technologieunternehmen warnten kürzlich US-amerikanische Politiker davor, voreilige Beschränkungen für Open-Weight-KI einzuführen.

Die Unternehmen argumentierten, dass offene Modelle das Wirtschaftswachstum fördern, Innovationen anregen und Forschern helfen, stärkere KI-Sicherheitswerkzeuge zu entwickeln. Anthropic unterzeichnete den Branchenbrief nicht.

Amodei räumte ein, dass Open-Weight-Modelle Forschung und Wirtschaftswachstum unterstützen können. Er argumentierte jedoch, dass die Politik deren potenziellen Einsatz bei Cyberangriffen, in militärischen Systemen, bei der Überwachung oder der Entwicklung leistungsfähigerer KI nicht ignorieren sollte.

In weiteren Nachrichten von Anthropic: Das Unternehmen hat kürzlich Claude Opus 5 vorgestellt.