Satya Nadella: Superintelligens er ikke verdt å satse på uten menneskelig kontroll og nytte for menneskeheten

Selv om Microsoft er åpen om KI-adopsjon og har integrert sine interne KI-modeller på tvers av sine produkter og tjenester, har selskapets konsernsjef Satya Nadella åpent snakket om den neste fasen av KI, og han vil ha ett prinsipp i sentrum. Enhver jakt på superintelligens, sier han, må til syvende og sist hjelpe menneskeheten samtidig som mennesker beholder kontrollen.

Nadella vil at KI-fordelene spres over hele økosystemet

I et innlegg på X argumenterte Nadella for at KI-fordelene bør komme land, lokalsamfunn og selskaper bredt til gode. Han etterlyste også et KI-økosystem der både lukkede modeller og modeller med åpen kildekode kan utvikle seg.

Den tilnærmingen kan utfordre ideen om at stadig mer kapabel KI bør forbli konsentrert hos en liten gruppe selskaper. Nadella sa at det er behov for bred representasjon på tvers av land, bransjer, akademia og det bredere KI-økosystemet.

Han trakk også frem en viktig bekymring for selskaper som bygger KI-systemer. De bør beholde kontrollen over sin egen unike kunnskap i stedet for å bli avhengige av én enkelt modellleverandør. Ifølge Nadella bør organisasjoner kunne bygge sine egne kontinuerlige læringssløyfer. De bør også ha måter å bygge inn sin proprietære kunnskap i modeller og vekter de kontrollerer.

Microsoft forbereder sine egne etiske retningslinjer for KI

Nadella hilste også mer forskning om KI-innretting og det han beskrev som bevisst tempo velkommen. Han pekte spesifikt på ideer som «innebygde evaluatorer» som en del av arbeidet med å gjøre KI-sikkerhetsprinsipper om til praktiske mekanismer.

Kommentarene kommer samtidig som Microsoft fortsetter å utvikle sine egne MAI-modeller. Nadella sa at selskapet planlegger å publisere etiske retningslinjer for sine egne MAI-modeller til offentlig høring.

Det kan gi forskere, selskaper og andre KI-utviklere et nærmere innblikk i prinsippene Microsoft ønsker skal styre modellene sine. Det passer også med Nadellas bredere argument om at KI-utviklingen bør tilby valgmuligheter i alle lag av stakken.

På et tidspunkt der kappløpet mot stadig kraftigere KI akselererer, setter Nadellas kommentarer kontroll og tilgang på linje med rå kapasitet. De siste dagene har det kommet noen iskalde advarsler fra KI-bransjen, sammen med noen nyere oppdagelser, som antyder at hvis KI ikke blir kontrollert, kan det få katastrofale konsekvenser for menneskeheten.