Satya Nadella: Superintelligentie is niet de moeite waard om na te streven zonder menselijke controle & voordelen voor de mensheid

Hoewel Microsoft open is over de adoptie van AI en zijn eigen AI-modellen in zijn producten en diensten heeft geïntegreerd, heeft Satya Nadella, ceo van het bedrijf, zich openlijk uitgesproken over de volgende fase van AI. Daarbij wil hij één principe centraal stellen. Elk streven naar superintelligentie, zegt hij, moet uiteindelijk de mensheid helpen en mensen de controle laten behouden.

Nadella wil AI-voordelen over het hele ecosysteem verspreiden

In een bericht op X betoogde Nadella dat de voordelen van AI breed bij landen, gemeenschappen en bedrijven terecht moeten komen. Ook pleitte hij voor een AI-ecosysteem waarin zowel gesloten als open-source modellen tot ontwikkeling kunnen komen.

Die aanpak zou het idee ter discussie kunnen stellen dat steeds capabelere AI geconcentreerd moet blijven bij een kleine groep bedrijven. Volgens Nadella is er brede vertegenwoordiging nodig in landen, sectoren, de academische wereld en het bredere AI-ecosysteem.

Hij wees ook op een belangrijk punt van zorg voor bedrijven die AI-systemen bouwen. Bedrijven moeten de controle over hun eigen unieke kennis behouden in plaats van afhankelijk te worden van één enkele modelaanbieder. Volgens Nadella moeten organisaties in staat zijn om hun eigen continue leerlussen op te bouwen. Ook moeten ze manieren hebben om hun bedrijfseigen kennis in modellen en gewichten te verankeren waarover ze zelf de controle hebben.

Microsoft werkt aan een eigen AI-gedragscode

Nadella verwelkomde ook meer onderzoek naar AI-afstemming en wat hij omschreef als een weloverwogen tempo. Hij wees specifiek op ideeën zoals “ingebedde evaluatoren” als onderdeel van inspanningen om AI-veiligheidsprincipes om te zetten in praktische mechanismen.

De opmerkingen komen op een moment dat Microsoft doorgaat met de ontwikkeling van zijn eigen MAI-modellen. Nadella zei dat het bedrijf van plan is een gedragscode voor zijn first-party MAI-modellen te publiceren voor openbare raadpleging.

Dat zou onderzoekers, bedrijven en andere AI-ontwikkelaars een beter inzicht kunnen geven in de principes die Microsoft voor zijn modellen wil hanteren. Het sluit ook aan bij Nadella’s bredere betoog dat AI-ontwikkeling keuzevrijheid moet bieden op elke laag van de stack.

Op een moment waarop de race naar steeds krachtigere AI versnelt, plaatsen Nadella’s opmerkingen controle en toegang naast ruwe capaciteit. De afgelopen dagen zijn er enkele huiveringwekkende waarschuwingen vanuit de AI-industrie gekomen, samen met enkele recente ontdekkingen, wat suggereert dat AI, als deze niet onder controle wordt gehouden, catastrofale gevolgen voor de mensheid kan hebben.