Satya Nadella: no vale la pena perseguir la superinteligencia sin control humano y beneficios para la humanidad

Aunque Microsoft se muestra abierta a la adopción de la IA y ha estado integrando sus modelos de IA propios en todos sus productos y servicios, el director ejecutivo de la compañía, Satya Nadella, ha hablado abiertamente sobre la siguiente fase de la IA y quiere que un principio se mantenga en el centro. Cualquier búsqueda de la superinteligencia, afirma, debe ayudar en última instancia a la humanidad manteniendo a las personas en control.

Nadella quiere que los beneficios de la IA se repartan por todo el ecosistema

En una publicación en X, Nadella defendió que los beneficios de la IA deberían llegar de forma amplia a países, comunidades y empresas. También abogó por un ecosistema de IA en el que puedan desarrollarse modelos tanto cerrados como de código abierto.

Ese enfoque podría cuestionar la idea de que una IA cada vez más capaz deba permanecer concentrada en un pequeño grupo de empresas. Nadella afirmó que se necesita una representación amplia en los países, las industrias, el ámbito académico y el ecosistema de IA en su conjunto.

También destacó una gran preocupación para las empresas que crean sistemas de IA. Las compañías deberían conservar el control sobre su propio conocimiento único en lugar de volverse dependientes de un único proveedor de modelos. Según Nadella, las organizaciones deberían poder crear sus propios ciclos de aprendizaje continuo. También deberían disponer de formas de integrar su conocimiento propietario en modelos y pesos que controlen.

Microsoft prepara su propio código de conducta para la IA

Nadella también acogió con satisfacción una mayor investigación en torno a la alineación de la IA y a lo que describió como un ritmo deliberado. Señaló en concreto ideas como los «evaluadores integrados», en el marco de los esfuerzos por convertir los principios de seguridad de la IA en mecanismos prácticos.

Estas declaraciones llegan mientras Microsoft sigue desarrollando sus propios modelos MAI. Nadella afirmó que la compañía tiene previsto publicar un código de conducta para sus modelos MAI de primera parte con fines de consulta pública.

Esto podría ofrecer a investigadores, empresas y otros desarrolladores de IA una visión más detallada de los principios que Microsoft quiere que guíen sus modelos. También encaja con el argumento más amplio de Nadella de que el desarrollo de la IA debería ofrecer opciones en cada capa de la pila.

En un momento en que la carrera hacia una IA cada vez más potente se está acelerando, las declaraciones de Nadella sitúan el control y el acceso al mismo nivel que la capacidad bruta. En los últimos días, ha habido algunas advertencias escalofriantes procedentes de la industria de la IA, junto con algunos descubrimientos recientes, que sugieren que, si no se controla la IA, podría tener resultados catastróficos para la humanidad.