Satya Nadella: Superintelligenz ist ohne menschliche Kontrolle und Nutzen für die Menschheit nicht erstrebenswert

Obwohl Microsoft offen mit dem Einsatz von KI umgeht und seine hauseigenen KI-Modelle in seine Produkte und Dienste integriert, hat der CEO des Unternehmens, Satya Nadella, öffentlich über die nächste Phase der KI gesprochen. Dabei will er ein Prinzip im Mittelpunkt sehen: Jedes Streben nach Superintelligenz müsse letztlich der Menschheit helfen und die Kontrolle bei den Menschen lassen.

Nadella will KI-Vorteile im gesamten Ökosystem verteilen

In einem Beitrag auf X argumentierte Nadella, dass die Vorteile der KI Ländern, Gemeinschaften und Unternehmen in der Breite zugutekommen sollten. Zudem forderte er ein KI-Ökosystem, in dem sich sowohl geschlossene als auch Open-Source-Modelle entwickeln können.

Dieser Ansatz könnte die Vorstellung infrage stellen, dass immer leistungsfähigere KI auf eine kleine Gruppe von Unternehmen konzentriert bleiben sollte. Nadella sagte, eine breite Vertretung sei über Länder, Branchen, Wissenschaft und das gesamte KI-Ökosystem hinweg erforderlich.

Er hob außerdem ein zentrales Anliegen für Unternehmen hervor, die KI-Systeme entwickeln: Unternehmen sollten die Kontrolle über ihr eigenes, einzigartiges Wissen behalten, statt von einem einzelnen Modellanbieter abhängig zu werden. Laut Nadella sollten Organisationen in der Lage sein, eigene kontinuierliche Lernschleifen aufzubauen. Außerdem sollten sie Möglichkeiten haben, proprietäres Wissen in Modelle und Gewichte einzubetten, die sie selbst kontrollieren.

Microsoft bereitet einen eigenen KI-Verhaltenskodex vor

Nadella begrüßte zudem mehr Forschung zum KI-Alignment und zu dem, was er als bewusste Steuerung des Tempos beschrieb. Er verwies dabei ausdrücklich auf Konzepte wie „eingebettete Evaluatoren“ als Teil der Bemühungen, KI-Sicherheitsprinzipien in praktische Mechanismen zu überführen.

Die Äußerungen erfolgen, während Microsoft seine eigenen MAI-Modelle weiterentwickelt. Nadella sagte, das Unternehmen plane, einen Verhaltenskodex für seine First-Party-MAI-Modelle zur öffentlichen Konsultation zu veröffentlichen.

Das könnte Forschern, Unternehmen und anderen KI-Entwicklern einen genaueren Einblick in die Prinzipien geben, die Microsofts Modelle leiten sollen. Es passt auch zu Nadellas übergeordnetem Argument, dass die KI-Entwicklung auf jeder Ebene des Stacks Wahlmöglichkeiten bieten sollte.

In einer Zeit, in der sich das Rennen um immer leistungsfähigere KI beschleunigt, stellen Nadellas Äußerungen Kontrolle und Zugang neben die reine Leistungsfähigkeit. In den vergangenen Tagen gab es einige erschreckende Warnungen aus der KI-Branche sowie neueste Erkenntnisse, die darauf hindeuten, dass KI katastrophale Folgen für die Menschheit haben könnte, wenn sie nicht kontrolliert wird.