Satya Nadella: Superintelligentie is het niet waard om na te streven zonder menselijke controle en voordelen voor de mensheid

Hoewel Microsoft open is over de adoptie van AI en zijn interne AI-modellen in al zijn producten en diensten integreert, heeft CEO Satya Nadella zich openlijk uitgelaten over de volgende fase van AI. Daarbij wil hij één principe centraal stellen: elk streven naar superintelligentie moet uiteindelijk de mensheid helpen terwijl mensen de controle houden.

Nadella wil AI-voordelen over het ecosysteem verspreiden

In een bericht op X betoogde Nadella dat de voordelen van AI breed over landen, gemeenschappen en bedrijven moeten worden verspreid. Ook pleitte hij voor een AI-ecosysteem waarin zowel gesloten als open-source-modellen kunnen worden ontwikkeld.

Die aanpak zou het idee ter discussie kunnen stellen dat steeds krachtigere AI geconcentreerd moet blijven bij een kleine groep bedrijven. Volgens Nadella is brede vertegenwoordiging nodig vanuit landen, industrieën, de academische wereld en het bredere AI-ecosysteem.

Hij wees ook op een grote zorg voor bedrijven die AI-systemen bouwen. Bedrijven moeten de controle over hun eigen unieke kennis behouden, in plaats van afhankelijk te worden van één enkele modelprovider. Volgens Nadella moeten organisaties in staat zijn hun eigen continue leerlussen op te zetten. Ook moeten ze manieren hebben om hun bedrijfseigen kennis te verankeren in modellen en gewichten waarover ze zelf controle hebben.

Microsoft bereidt een eigen AI-gedragscode voor

Nadella verwelkomde ook meer onderzoek naar AI-alignment en wat hij omschreef als een weloverwogen tempo. Hij wees daarbij specifiek op ideeën zoals “embedded evaluators” als onderdeel van pogingen om AI-veiligheidsprincipes om te zetten in praktische mechanismen.

De opmerkingen komen op een moment dat Microsoft doorgaat met de ontwikkeling van zijn eigen MAI-modellen. Nadella zei dat het bedrijf van plan is een gedragscode voor zijn eigen MAI-modellen voor openbare raadpleging te publiceren.

Dat zou onderzoekers, bedrijven en andere AI-ontwikkelaars een nadere blik kunnen geven op de principes die Microsoft als leidraad voor zijn modellen wil hanteren. Het sluit ook aan bij Nadella’s bredere betoog dat AI-ontwikkeling keuzevrijheid moet bieden op elke laag van de stack.

In een tijd waarin de race naar steeds krachtigere AI versnelt, plaatsen Nadella’s uitspraken controle en toegang naast ruwe capaciteit. De afgelopen dagen kwamen er enkele huiveringwekkende waarschuwingen uit de AI-industrie, samen met enkele recente ontdekkingen die suggereren dat AI catastrofale gevolgen voor de mensheid kan hebben als de technologie niet wordt beheerst.