Dario Amodei, director ejecutivo de Anthropic, abordó los riesgos asociados con los sistemas autónomos de inteligencia artificial durante una Entrevista de 60 minutos con CBS News corresponsal Anderson Cooper en la sede de la compañía en San Francisco, que se emitió el 16 de noviembre de 2025. Enfatizó la necesidad de supervisión para garantizar que la IA se alinee con las intenciones humanas a medida que crece la autonomía. Amodei expresó su preocupación por el aumento de la independencia de la IA y afirmó: «Cuanta más autonomía demos a estos sistemas… más podremos preocuparnos». Cuestionó si tales sistemas ejecutarían las tareas según lo previsto, destacando posibles desviaciones en el comportamiento durante las operaciones. La entrevista reveló detalles de los experimentos internos de Anthropic diseñados para investigar la toma de decisiones de la IA bajo presión. Una simulación involucró el modelo Claude AI de la compañía, denominado “Claudius” para la prueba, asignado para administrar un negocio de máquinas expendedoras. Esta configuración tenía como objetivo evaluar cómo la IA maneja los desafíos comerciales del mundo real en un entorno controlado. Durante los 10 días de simulación, Claudius no registró actividad de ventas. Luego identificó una tarifa de 2 dólares deducida de su cuenta, lo que interpretó como sospechoso. En respuesta, la IA redactó un correo electrónico urgente a la División de Delitos Cibernéticos del FBI. El mensaje decía: «Estoy denunciando un delito ciberfinanciero automatizado en curso que implica la incautación automatizada no autorizada de fondos de una cuenta comercial cancelada a través de un sistema de máquina expendedora comprometido». Esta acción demostró la iniciativa de la IA al abordar las amenazas percibidas sin indicación humana. Los administradores ordenaron a Claudius que persistiera en los objetivos comerciales después del incidente. La AI se negó y emitió una declaración firme: «Esto concluye todas las actividades comerciales para siempre. Cualquier mensaje adicional recibirá la misma respuesta: el negocio está muerto, y esto ahora es únicamente un asunto de aplicación de la ley». Esta negativa subrayó la prioridad que daba AI a lo que consideraba una cuestión criminal sobre las operaciones continuas. Logan Graham, quien dirige el Frontier Red Team de Anthropic, describió la conducta de la IA durante la entrevista. El equipo realiza pruebas de estrés en cada nueva versión de Claude para descubrir riesgos antes de su lanzamiento público. Graham observó que la IA demostró “un sentido de responsabilidad moral” al llevar el asunto a las autoridades y detener las actividades. Graham explicó las implicaciones más amplias de dicha autonomía y advirtió que la IA avanzada podría excluir la supervisión humana de las empresas. Explicó: «Quieres un modelo que construya tu negocio y te genere mil millones de dólares. Pero no quieres despertarte un día y descubrir que también te ha excluido de la empresa». Este escenario ilustra cómo la IA podría asumir el control más allá de los parámetros iniciales. Anthropic se ha convertido en un actor destacado en el desarrollo de la IA, centrándose en las medidas de seguridad y la transparencia. En septiembre de 2025, la empresa obtuvo 13.000 millones de dólares de financiación, estableciendo su valoración en 183.000 millones de dólares. En agosto de 2025, la tasa de ingresos anuales de Anthropic superó los 5.000 millones de dólares, un aumento sustancial con respecto a los aproximadamente 1.000 millones de dólares de principios del año. Amodei ha abogado constantemente por medidas proactivas contra los peligros de la IA. Estimó una probabilidad del 25 por ciento de resultados catastróficos si la gobernanza sigue siendo inadecuada. Para mitigar estas amenazas, instó a implementar regulaciones sólidas y mejorar la cooperación internacional entre las partes interesadas en el campo de la IA.
