Mustafa Suleyman, jefe de IA de Microsoft durante 18 meses, detalló el estatus sobrehumano de la IA y sus objetivos humanistas de superinteligencia en una entrevista remota desde Seattle con Mishal Husaintras un acuerdo revisado de OpenAI en medio de crecientes inversiones en centros de datos. La carrera de la IA entró en una fase inexplorada y costosa en 2025, caracterizada por megaacuerdos que involucran miles de millones de dólares invertidos en centros de datos, inversiones cruzadas entre empresas líderes y una carrera armamentista de talentos que atrae a las mejores mentes. Estos desarrollos marcaron un año de competencia intensificada y asignación de recursos en el desarrollo de la inteligencia artificial. Suleyman cofundó DeepMind, que Google adquirió en 2014. Más tarde, DeepMind desarrolló un sistema de inteligencia artificial que derrotó a un campeón mundial en el juego de Go, demostrando capacidades avanzadas en juegos estratégicos complejos. En Microsoft, las iniciativas de Suleyman enfrentaron limitaciones debido a un acuerdo existente con OpenAI hasta que un acuerdo revisado le permitió delinear públicamente nuevos objetivos. La entrevista se produjo de forma remota a temprana hora en Seattle, ya que el equipo de Suleyman había anticipado su presencia en la costa este. A pesar del momento, Suleyman participó directamente, mostrando entusiasmo en algunos puntos, manteniendo el realismo y, en ocasiones, revelando un punto de vista político poco común en las discusiones sobre las grandes tecnologías. Suleyman describió un uso personal de la IA a través de Copilot, una herramienta que emplea para mantener una mesa grabando las películas que ama, organizadas por fecha. Agrega notas personales y Copilot proporciona enlaces a carteles de películas. Una noche, después de ver una película, actualizó esta tabla y le pidió a Copilot preguntas como: «¿Cuál sería una similar?». Afirmó: «Es posible pedirle a su IA que realice prácticamente cualquier tarea de trabajo de conocimiento, del mismo modo que le pediría a un asistente que organice su vida. Cuanto más oscuro y creativo [and] «Si desafias la tarea que le vas a pedir a tu IA, mejor». Durante la videollamada, la estantería de Suleyman en Seattle reveló sus intereses de lectura, incluidos libros recientes de Michael Wolff y Robert Kaplan, así como «The Tech Coup: How to Save Democracy from Silicon Valley» y «Gaza: An Inquest Into Its Martyrdom». Estos títulos indicaban una variedad de temas políticos y contemporáneos. En tareas de IA autónoma, Suleyman notó la experimentación en curso. Estas funciones permanecen en «modo de desarrollo» y no están disponibles para el público en general. Cuando están operativas, el proceso implica que la IA escriba en los navegadores, haga clic en botones, abra pestañas y revise el historial del usuario para personalizarlo. tecnología. Es mágico y sorprendente, pero siempre queda un poco más por recorrer. En este caso, un tiempo antes de que sea cotidiano». Basándose en su experiencia al fundar DeepMind y más tarde Inflection antes de unirse a Microsoft, Suleyman expresó estoicismo ante estos contratiempos. Anticipó un rendimiento confiable dentro de seis meses, 12 meses o como máximo 18 meses. Afirmó: «Ya es sobrehumano». Suleyman predijo que para la Navidad siguiente, los consumidores podrían comprar regalos usando agentes autónomos de IA, considerándolo «muy probable». El término superinteligencia ganó prominencia en el discurso público recientemente, influenciado por Suleyman y otros. En enero de 2025, Sam Altman anunció el objetivo de OpenAI más allá de la inteligencia artificial general (AGI, igualando las capacidades humanas) hacia la superinteligencia. El mes pasado, Suleyman presentó el Equipo de Superinteligencia de Microsoft AI. La superinteligencia es un sistema de inteligencia artificial capaz de aprender cualquier tarea nueva y desempeñarse mejor que todos los humanos combinados en todas las tareas. Esto establece un umbral alto acompañado de riesgos sustanciales, en particular la incertidumbre a la hora de contener y alinear un sistema tan poderoso con los intereses humanos. Enfatizó: «Todos deberían estar de acuerdo con eso». Sin embargo, creo que es una posición novedosa en la industria en este momento». Microsoft se posiciona a través de esta lente humanista. Establecida hace 50 años, la compañía mantiene una reputación de cautela y confianza, con el 90% de las empresas del S&P 500 confiando en su correo electrónico, sistemas operativos y herramientas de productividad. Este cuidadoso enfoque continúa, con la superinteligencia humanista como elemento central. Los observadores de la industria notan posibles tensiones entre esta postura y las presiones comerciales para justificar las inversiones en IA. Los precedentes históricos incluyen La fundación de OpenAI por Sam Altman y Elon Musk debido a preocupaciones sobre la confiabilidad de Google en el liderazgo de la IA. En 2021, parte del personal de OpenAI partió para formar Anthropic por desacuerdos de seguridad con OpenAI. Con respecto a rivales como OpenAI, Meta y Anthropic, Suleyman se abstuvo de emitir juicios y afirmó: «Todos tienen que decidir qué representan y cómo operan. No quiero juzgar cómo están operando en este momento». No observó ninguna evidencia de daño a gran escala, sistemas de automejora u operaciones autónomas actualmente. Dentro de cinco a diez años, capacidades como el establecimiento de objetivos personales, la mejora del código y la autonomía pueden surgir, aumentando los riesgos. Pidió precaución a través de la transparencia, las auditorías, la participación del gobierno y las revelaciones proactivas sobre la proximidad a estas capacidades, describiéndolo como «obvio». Suleyman confirmó que Microsoft no lanzará herramientas de superinteligencia hasta que tenga confianza en el control, con contención y alineación como requisitos previos y líneas rojas Instó a la adopción en toda la industria, cuestionando: «¿Están construyendo una superinteligencia humanista?» Añadió que a pesar de los desacuerdos, todas las partes priorizan la supervivencia de las especies y el florecimiento humano sigue siendo un desafío, ya que los incidentes ocurren incluso con humanos desactivados por el Ministerio de Defensa israelí luego de un informe del periódico The Guardian que alega su uso para la vigilancia masiva. Tan pronto como nos dimos cuenta, hicimos todos los cambios necesarios y eliminamos el IDF de esos servidores. Claramente no cumplían con nuestros términos de servicio y hay una investigación en curso internamente». Inicialmente, Microsoft no declaró ninguna evidencia de daño o violaciones de los términos, el Código de conducta de IA o el cumplimiento por parte del gobierno israelí. Actualmente, una queja legal y de protección de datos en Irlanda, la sede europea de Microsoft, alega el alojamiento continuo de aplicaciones de monitoreo palestino en sus centros de datos. Suleyman enfatizó en auditar los sistemas y eliminar rápidamente a los infractores de los términos. Estos sistemas complejos conllevan riesgos significativos, pero la respuesta rápida representa la estrategia óptima de mitigación. Las aplicaciones iniciales de la superinteligencia ocurrirán en medicina. Los sistemas existentes diagnostican cualquier condición rara documentada en la literatura, superando el desempeño humano en precisión, costo y pruebas requeridas. Se está llevando a cabo una revisión por pares independiente, seguida de ensayos clínicos. Suleyman describió esto como «muy, muy, muy emocionante». Suleyman definió la abundancia como el resultado inevitable en el que, dentro de 20 a 30 años (o antes), las máquinas superan a los humanos en la mayor parte del trabajo. Los modelos y chatbots lograron 2 mil millones de usuarios anuales en tres años, la tecnología de más rápida expansión en la historia. Las presiones competitivas reducirán los costos de acceso a la IA. El desafío clave implica los impuestos y la redistribución para una transición saludable. La entrevista amplió con más detalles sobre los antecedentes de Suleyman, sus experiencias personales, su visión de la IA. La evolución de los vínculos con OpenAI y Microsoft, la dinámica dentro del ecosistema tecnológico, las consideraciones regulatorias y las direcciones potenciales, como se refleja en la transcripción completa.
