Satya Nadella: no vale la pena perseguir la superinteligencia sin control humano y beneficios para la humanidad

Aunque Microsoft mantiene una actitud abierta ante la adopción de la IA y ha ido integrando sus modelos de IA propios en todos sus productos y servicios, el CEO de la compañía, Satya Nadella, ha hablado abiertamente sobre la siguiente fase de la IA y quiere que un principio se mantenga en el centro. Cualquier búsqueda de la superinteligencia, afirma, debe ayudar en última instancia a la humanidad y mantener el control en manos de las personas.

Nadella quiere que los beneficios de la IA se extiendan por todo el ecosistema

En una publicación en X, Nadella argumentó que los beneficios de la IA deberían llegar de forma amplia a países, comunidades y empresas. También abogó por un ecosistema de IA en el que puedan desarrollarse tanto modelos cerrados como de código abierto.

Ese enfoque podría cuestionar la idea de que una IA cada vez más capaz deba permanecer concentrada en un pequeño grupo de empresas. Nadella afirmó que se necesita una representación amplia entre países, industrias, el mundo académico y el ecosistema de IA en general.

También destacó una preocupación importante para las empresas que crean sistemas de IA. Las empresas deberían conservar el control sobre su propio conocimiento único en lugar de volverse dependientes de un único proveedor de modelos. Según Nadella, las organizaciones deberían poder crear sus propios bucles de aprendizaje continuo. También deberían disponer de formas de integrar su conocimiento propietario en modelos y pesos que controlen.

Microsoft está preparando su propio código de conducta para la IA

Nadella también acogió con satisfacción una mayor investigación en torno a la alineación de la IA y lo que describió como un ritmo deliberado. Se refirió específicamente a ideas como los «evaluadores integrados» como parte de los esfuerzos por convertir los principios de seguridad de la IA en mecanismos prácticos.

Estas declaraciones se producen mientras Microsoft continúa desarrollando sus propios modelos MAI. Nadella afirmó que la compañía tiene previsto publicar un código de conducta para sus modelos MAI propios y someterlo a consulta pública.

Eso podría permitir a investigadores, empresas y otros desarrolladores de IA examinar más de cerca los principios que Microsoft quiere que guíen sus modelos. También encaja con el argumento más amplio de Nadella de que el desarrollo de la IA debería ofrecer opciones en cada capa de la pila tecnológica.

En un momento en el que la carrera hacia una IA cada vez más potente se acelera, las declaraciones de Nadella sitúan el control y el acceso junto a la capacidad bruta. En los últimos días, han surgido algunas advertencias escalofriantes procedentes de la industria de la IA, junto con algunos descubrimientos recientes, lo que sugiere que, si la IA no se controla, podría tener resultados catastróficos para la humanidad.