Satya Nadella: no vale la pena perseguir la superinteligencia sin control humano ni beneficios para la humanidad

Aunque Microsoft es transparente en cuanto a la adopción de la IA y ha estado integrando sus modelos de IA propios en todos sus productos y servicios, el director ejecutivo de la compañía, Satya Nadella, ha hablado abiertamente de la siguiente fase de la IA y quiere que un principio se mantenga en el centro. Cualquier búsqueda de la superinteligencia, afirma, debe ayudar en última instancia a la humanidad manteniendo a las personas con el control.

Nadella quiere que los beneficios de la IA se extiendan por todo el ecosistema

En una publicación en X, Nadella sostuvo que los beneficios de la IA deberían llegar a países, comunidades y empresas de forma amplia. También abogó por un ecosistema de IA en el que puedan desarrollarse tanto modelos cerrados como de código abierto.

Ese planteamiento podría cuestionar la idea de que una IA cada vez más capaz deba permanecer concentrada en un grupo reducido de empresas. Nadella afirmó que se necesita una representación amplia en todos los países, las industrias, el mundo académico y el ecosistema de IA en general.

También destacó una preocupación importante para las empresas que crean sistemas de IA. Las compañías deberían conservar el control sobre su propio conocimiento único en lugar de volverse dependientes de un único proveedor de modelos. Según Nadella, las organizaciones deberían poder crear sus propios bucles de aprendizaje continuo. También deberían disponer de formas de integrar su conocimiento propio en modelos y pesos que controlen.

Microsoft prepara su propio código de conducta para la IA

Nadella también acogió con buenos ojos más investigación en torno a la alineación de la IA y lo que describió como un ritmo deliberado. Señaló específicamente ideas como los “evaluadores integrados” como parte de los esfuerzos por convertir los principios de seguridad de la IA en mecanismos prácticos.

Las declaraciones llegan mientras Microsoft continúa desarrollando sus propios modelos MAI. Nadella dijo que la compañía tiene previsto publicar un código de conducta para sus modelos MAI propios para consulta pública.

Eso podría ofrecer a investigadores, empresas y otros desarrolladores de IA una visión más cercana de los principios que Microsoft quiere que guíen sus modelos. También encaja con el argumento más amplio de Nadella de que el desarrollo de la IA debería ofrecer opciones en cada capa de la pila.

En un momento en que la carrera hacia una IA cada vez más potente se acelera, los comentarios de Nadella sitúan el control y el acceso al mismo nivel que la capacidad bruta. En los últimos días ha habido algunas advertencias escalofriantes procedentes de la industria de la IA, junto con algunos descubrimientos recientes, que sugieren que, si no se controla la IA, podría tener resultados catastróficos para la humanidad.