Satya Nadella: la superintelligenza non vale la pena perseguirla senza controllo umano e benefici per l’umanità

Sebbene Microsoft sia trasparente riguardo all’adozione dell’IA e stia integrando i propri modelli di IA interni in prodotti e servizi, il CEO dell’azienda Satya Nadella ha parlato apertamente della prossima fase dell’IA e vuole che un principio resti al centro. Qualsiasi ricerca della superintelligenza, afferma, deve in ultima analisi aiutare l’umanità mantenendo le persone al controllo.

Nadella vuole che i benefici dell’IA siano diffusi nell’intero ecosistema

In un post su X, Nadella ha sostenuto che i benefici dell’IA dovrebbero raggiungere ampiamente Paesi, comunità e aziende. Ha anche auspicato un ecosistema dell’IA in cui possano svilupparsi sia modelli chiusi sia modelli open source.

Questo approccio potrebbe mettere in discussione l’idea che un’IA sempre più capace debba rimanere concentrata in un piccolo gruppo di aziende. Nadella ha affermato che è necessaria un’ampia rappresentanza tra Paesi, settori industriali, mondo accademico e l’intero ecosistema dell’IA.

Ha inoltre evidenziato una preoccupazione importante per le aziende che realizzano sistemi di IA. Le imprese dovrebbero mantenere il controllo sulle proprie conoscenze esclusive invece di diventare dipendenti da un unico fornitore di modelli. Secondo Nadella, le organizzazioni dovrebbero poter creare i propri cicli di apprendimento continuo. Dovrebbero inoltre disporre di modi per integrare le proprie conoscenze proprietarie in modelli e pesi da loro controllati.

Microsoft sta preparando un proprio codice di condotta per l’IA

Nadella ha inoltre accolto con favore ulteriori ricerche sull’allineamento dell’IA e su quello che ha descritto come un ritmo deliberato. Ha indicato in particolare idee come i «valutatori integrati» come parte degli sforzi per trasformare i principi di sicurezza dell’IA in meccanismi pratici.

Le dichiarazioni arrivano mentre Microsoft continua a sviluppare i propri modelli MAI. Nadella ha affermato che l’azienda prevede di pubblicare un codice di condotta per i suoi modelli MAI di prima parte, sottoponendolo a consultazione pubblica.

Ciò potrebbe offrire a ricercatori, aziende e altri sviluppatori di IA uno sguardo più ravvicinato ai principi che Microsoft vuole adottare per i propri modelli. Si inserisce inoltre nella tesi più ampia di Nadella secondo cui lo sviluppo dell’IA dovrebbe offrire una possibilità di scelta a ogni livello dello stack.

In un momento in cui la corsa verso un’IA sempre più potente sta accelerando, le parole di Nadella mettono il controllo e l’accesso accanto alla pura capacità. Negli ultimi giorni, dal settore dell’IA sono arrivati alcuni avvertimenti inquietanti, insieme ad alcune scoperte recenti, che suggeriscono che, se non controllata, l’IA potrebbe avere conseguenze catastrofiche per l’umanità.