Anthropic sagt, es unterstütze kein Verbot von Open-Weight-KI-Modellen

Anthropic hat seine Position zu Open-Weight-KI-Modellen klargestellt. CEO Dario Amodei sagt, das Unternehmen habe niemals ein Verbot unterstützt. Er warnt jedoch weiterhin davor, dass leistungsstarke offene Modelle erhebliche Sicherheits- und geopolitische Risiken schaffen könnten.

Anthropic äußert Bedenken hinsichtlich China

Amodei warnte, dass autoritäre Regierungen, einschließlich China, fortschrittliche KI-Modelle nutzen könnten, um militärische Fähigkeiten zu stärken, leistungsfähigere Systeme zu entwickeln und die Überwachung auszuweiten.

Er äußerte auch die Sorge, dass China irgendwann KI-Modelle entwickeln könnte, die die in den USA entwickelten übertreffen.

Anthropic hat kürzlich Alibaba beschuldigt, 25.000 gefälschte Konten verwendet zu haben, um Fähigkeiten aus Claude zu extrahieren. Berichten zufolge bereitet Alibaba auch vor, die Nutzung von Claude Code an seinem Arbeitsplatz einzuschränken.

Offene Modelle könnten Missbrauch ermöglichen

Amodei sagte, dass böswillige Akteure leistungsstarke KI-Modelle nutzen könnten, um Cyberangriffe und andere schädliche Aktivitäten durchzuführen.

Open-Weight-Modelle könnten zusätzliche Risiken bergen, weil Entwickler nicht einfach überwachen können, wie sie genutzt werden. Einmal veröffentlicht, kann ein Unternehmen das Modell auch nicht zurückziehen, seine Sicherheitsvorkehrungen aktualisieren oder verhindern, dass modifizierte Versionen sich verbreiten.

Amodei wies Behauptungen zurück, dass offene Modelle KI automatisch sicherer machen oder Verteidigern stets einen größeren Vorteil als Angreifern bieten.

Amodei schlägt vier Sicherheitsmaßnahmen vor

Der Anthropic-CEO schlug mehrere Richtlinien für den Umgang mit fortgeschrittenen KI-Risiken vor, darunter die Einschränkung des Exports fortschrittlicher Chips und Chipherstellungsausrüstung nach China sowie eine verstärkte Durchsetzung gegen Chip-Schmuggel.

Er forderte außerdem ein Verbot der Destillation von KI-Modellen im industriellen Maßstab und verpflichtende Sicherheitstests sowohl für leistungsstarke offene als auch geschlossene Modelle.

Diese Maßnahmen würden auf den Zugang zu Rechenressourcen abzielen und von Unternehmen verlangen, fortschrittliche Modelle vor der Bereitstellung oder Veröffentlichung zu bewerten.

Technologieunternehmen lehnen frühzeitige Beschränkungen ab

NVIDIA, Meta, Microsoft und andere Technologieunternehmen haben kürzlich US-Politiker davor gewarnt, voreilige Beschränkungen für Open-Weight-KI einzuführen.

Die Unternehmen argumentierten, dass offene Modelle das Wirtschaftswachstum unterstützen, Innovation fördern und Forschern helfen, stärkere KI-Sicherheitstools zu entwickeln. Anthropic unterzeichnete den Branchenbrief nicht.

Amodei räumte ein, dass Open-Weight-Modelle Forschung und Wirtschaftswachstum unterstützen können. Er argumentierte jedoch, dass politische Entscheidungsträger ihren potenziellen Einsatz in Cyberangriffen, militärischen Systemen, Überwachung oder der Entwicklung leistungsfähigerer KI nicht ignorieren sollten.

In weiteren Anthropic-Nachrichten hat das Unternehmen kürzlich Claude Opus 5 vorgestellt.