Satya Nadella: Superintelligens er ikke værd at forfølge uden menneskelig kontrol og fordele for menneskeheden

Selvom Microsoft er åbent omkring AI-adoption og har integreret sine interne AI-modeller på tværs af produkter og tjenester, har virksomhedens administrerende direktør Satya Nadella åbent talt om den næste fase af AI, og han ønsker et princip i centrum. Enhver stræben efter superintelligens, siger han, skal i sidste ende hjælpe menneskeheden, samtidig med at mennesker bevarer kontrollen.

Nadella ønsker AI-fordele spredt på tværs af økosystemet

I et opslag på X argumenterede Nadella for, at AI’s fordele bredt bør nå ud til lande, lokalsamfund og virksomheder. Han efterlyste også et AI-økosystem, hvor både lukkede og open source-modeller kan udvikle sig.

Denne tilgang kan udfordre idéen om, at stadig mere avanceret AI bør forblive koncentreret hos en lille gruppe virksomheder. Nadella sagde, at der er behov for bred repræsentation på tværs af lande, industrier, den akademiske verden og det bredere AI-økosystem.

Han fremhævede også en væsentlig bekymring for virksomheder, der bygger AI-systemer. Virksomheder bør bevare kontrollen over deres egen unikke viden i stedet for at blive afhængige af en enkelt modeludbyder. Ifølge Nadella bør organisationer kunne opbygge deres egne kontinuerlige læringssløjfer. De bør også have muligheder for at indlejre deres proprietære viden i modeller og vægte, som de selv kontrollerer.

Microsoft forbereder sit eget AI-adfærdskodeks

Nadella hilste også mere forskning i AI-alignment og det, han beskrev som bevidst tempo, velkommen. Han pegede specifikt på idéer som “indlejrede evaluatorer” som led i bestræbelserne på at omsætte AI-sikkerhedsprincipper til praktiske mekanismer.

Kommentarerne kommer, mens Microsoft fortsætter med at udvikle sine egne MAI-modeller. Nadella sagde, at virksomheden planlægger at offentliggøre et adfærdskodeks for sine first-party MAI-modeller til offentlig høring.

Det kan give forskere, virksomheder og andre AI-udviklere et nærmere indblik i de principper, som Microsoft ønsker skal guide sine modeller. Det passer også med Nadellas bredere argument om, at AI-udvikling bør tilbyde valgmuligheder på alle lag i stakken.

På et tidspunkt, hvor kapløbet mod stadig mere kraftfuld AI accelererer, sætter Nadellas kommentarer kontrol og adgang på linje med rå kapacitet. I de seneste dage er der kommet nogle skræmmende advarsler fra AI-industrien sammen med nogle nye opdagelser, der antyder, at hvis AI ikke kontrolleres, kan det få katastrofale konsekvenser for menneskeheden.