Richard Ho, jefe de hardware de OpenAi, declaró que la futura infraestructura de IA debe incluir características de seguridad a nivel de hardware como interruptores de muerte para administrar modelos de IA potencialmente impredecibles. Hablando en la Cumbre de Infra AI en Santa Clara, argumentó que las medidas de seguridad basadas en software actuales son insuficientes porque confían en el supuesto de que el hardware subyacente es seguro y puede controlarse fácilmente.
¿Por qué la seguridad del software no es suficiente para la futura IA?
Ho explicó que la mayoría de los protocolos de seguridad de IA actuales funcionan a nivel de software y suponen que el hardware puede cerrarse simplemente cortando la energía. Advirtió que esta suposición puede no ser cierto a medida que los modelos de IA se vuelven más avanzados y exhiben lo que describió como un comportamiento «tortuoso».
«Hoy, mucho trabajo de seguridad está en el software. Supone que su hardware es seguro … asume que puede tirar de la enchufe del hardware. No digo que no podamos tirar de ese hardware, pero le digo que estas cosas son tortuosas, las modelos son realmente tortuosas, y así como un tipo de hardware, quiero asegurarme de eso».
Este potencial para que los sistemas de IA eluden los controles de software tradicionales hacen que las salvaguardas integradas directamente en el silicio sean una necesidad.
Nueva infraestructura necesaria para agentes de IA persistentes
Ho describió un futuro en el que los agentes de IA funcionan como entidades de larga duración, operando de manera persistente en segundo plano para manejar tareas sin entrada constante del usuario. Este modelo requiere un cambio significativo en el diseño de infraestructura. Los sistemas futuros deberán ser ricos en la memoria con capacidades de baja latencia para administrar sesiones continuas donde múltiples agentes colaboran en tareas complejas. Ho enfatizó que las redes serán un componente crítico, ya que los agentes necesitarán comunicarse y usar herramientas en tiempo real simultáneamente para actividades como búsquedas en la web y toma de decisiones coordinadas.
Características y desafíos de seguridad de hardware propuestos
Para abordar los riesgos, OpenAI propone integrar medidas de seguridad específicas directamente en grupos de hardware de IA. Estos incluyen:
- Los interruptores de muerte en tiempo real para detener las operaciones de inmediato.
- Sistemas de telemetría para monitorear y alertar sobre el comportamiento anormal de IA.
- Las rutas de ejecución seguras dentro de los chips para aislar procesos críticos.
Sin embargo, la escala de esta infraestructura presenta varios desafíos. HO identificó limitaciones de memoria de alto ancho de banda, la necesidad de interconexiones ópticas confiables para una transferencia de datos más rápida y demandas de energía severas, proyectadas para alcanzar hasta 1 megavatio por bastidor, como las limitaciones principales.
Desarrollo de nuevos estándares para hardware y redes
Ho pidió la creación de nuevos puntos de referencia específicamente para las arquitecturas de «agente consciente». Estos estándares deben medir el rendimiento de la latencia, la eficiencia y el consumo de energía para guiar el desarrollo de hardware. También enfatizó que la observabilidad debe ser una característica de hardware constante e incorporada, no solo una herramienta temporal para la depuración.
«Necesitamos tener una buena observabilidad como característica de hardware, no solo como una herramienta de depuración, sino incorporada y monitoreando constantemente nuestro hardware».
Concluyó destacando los problemas de confiabilidad actuales con las tecnologías de redes emergentes como las interconexiones ópticas, instando a la industria a realizar pruebas extensas para garantizar que estos sistemas sean lo suficientemente confiables para las aplicaciones de IA crítica de misión.
