Satya Nadella: non vale la pena perseguire la superintelligenza senza controllo umano e benefici per l’umanità

Sebbene Microsoft sia trasparente riguardo all’adozione dell’IA e stia integrando i propri modelli di IA interni in prodotti e servizi, il CEO Satya Nadella ha parlato apertamente della prossima fase dell’IA e vuole che un principio resti al centro. Qualsiasi ricerca della superintelligenza, afferma, deve in ultima analisi aiutare l’umanità mantenendo il controllo nelle mani delle persone.

Nadella vuole che i benefici dell’IA siano diffusi nell’intero ecosistema

In un post su X, Nadella ha sostenuto che i benefici dell’IA dovrebbero raggiungere ampiamente paesi, comunità e aziende. Ha inoltre chiesto un ecosistema dell’IA in cui possano svilupparsi sia modelli chiusi sia modelli open source.

Questo approccio potrebbe mettere in discussione l’idea che un’IA sempre più capace debba rimanere concentrata in un ristretto gruppo di aziende. Nadella ha affermato che è necessaria un’ampia rappresentanza tra paesi, settori industriali, mondo accademico e il più ampio ecosistema dell’IA.

Ha inoltre evidenziato una preoccupazione importante per le aziende che realizzano sistemi di IA. Le imprese dovrebbero mantenere il controllo sulle proprie conoscenze esclusive invece di diventare dipendenti da un unico fornitore di modelli. Secondo Nadella, le organizzazioni dovrebbero poter creare i propri cicli di apprendimento continuo. Dovrebbero anche avere modo di integrare le proprie conoscenze proprietarie nei modelli e nei pesi che controllano.

Microsoft sta preparando un proprio codice di condotta per l’IA

Nadella ha inoltre accolto con favore una maggiore ricerca sull’allineamento dell’IA e su quello che ha descritto come un ritmo deliberato. Ha indicato in particolare idee come i “valutatori integrati” nell’ambito degli sforzi per trasformare i principi di sicurezza dell’IA in meccanismi pratici.

Le dichiarazioni arrivano mentre Microsoft continua a sviluppare i propri modelli MAI. Nadella ha affermato che l’azienda prevede di pubblicare un codice di condotta per i suoi modelli MAI di prima parte, per una consultazione pubblica.

Questo potrebbe offrire a ricercatori, aziende e altri sviluppatori di IA uno sguardo più ravvicinato ai principi che Microsoft vuole porre alla guida dei suoi modelli. Questo è inoltre in linea con la tesi più ampia di Nadella secondo cui lo sviluppo dell’IA dovrebbe offrire possibilità di scelta a ogni livello dello stack.

In un momento in cui la corsa verso un’IA sempre più potente sta accelerando, le dichiarazioni di Nadella mettono il controllo e l’accesso accanto alla pura capacità. Negli ultimi giorni sono emersi dal settore dell’IA alcuni avvertimenti agghiaccianti, insieme ad alcune recenti scoperte, che suggeriscono che, se non controllata, l’IA potrebbe avere conseguenze catastrofiche per l’umanità.