Una iniciativa de investigación dirigida por Microsoft, conocida como la Proyecto parafraseadoha demostrado que la inteligencia artificial se puede utilizar para rediseñar las toxinas biológicas de manera que evite el software actual de detección de bioseguridad. El proyecto, detallado en un artículo publicado en la revista Cienciaidentificó un «día cero biológico», una vulnerabilidad previamente desconocida, y desarrolló una defensa para aplicar principios de ciberseguridad. La preocupación inicial, planteada por Eric Horvitz de Microsoft, era que las herramientas de IA de código abierto podrían usarse teóricamente para reingenieras de toxinas que serían invisibles para los sistemas de bioseguridad existentes.
Cómo funcionan la biología sintética y sus salvaguardas
El campo de la biología sintética permite a los científicos ordenar hilos de ADN impresos personalizados de las compañías de síntesis. Antes de que una empresa envíe el material genético, ejecuta la secuencia de ADN solicitada a través del software de detección de bioseguridad. Este software compara la secuencia con bases de datos reguladas de amenazas conocidas, como toxinas o patógenos, para evitar el mal uso. El consorcio internacional de síntesis de genes (IGSC) ayuda a curar estas bases de datos. Sin embargo, a medida que las herramientas de IA se vuelven más poderosas, el riesgo aumenta que alguien podría diseñar una proteína novedosa que se vea inofensiva para el software pero se comporta como una toxina una vez creada.
Prueba del sistema con un día cero biológico
Para investigar este riesgo, Horvitz se asoció con el científico aplicado de Microsoft, Bruce Wittmann. Usaron un modelo de IA llamado Evodiff para generar miles de variantes sintéticas de la potente toxina ricina. El objetivo no era hacer que la toxina sea más peligrosa, sino probar los límites de los sistemas de detección actuales. El proceso fue similar a parafraseando una oración: el significado (la función de la proteína y los sitios activos) sigue siendo el mismo, pero las palabras (la secuencia de aminoácidos) cambian. Cuando estas secuencias reformuladas se probaron contra los sistemas de detección de dos compañías de síntesis de ADN líderes, Twist BioScience y Technologías de ADN integradas, pasaron sin detectar.
«No creo que estuviéramos necesariamente sorprendidos de que navegara. Cualquier cosa que pueda usarse para el bien se puede usar para mal. Pero proporcionar una solución ayuda a evitar una reacción instintiva que evite el uso de estas herramientas para el bien».
Wittmann dijo al blog de investigación de Microsoft.
Desarrollar una defensa utilizando un marco de ciberseguridad
Después de probar la vulnerabilidad, el equipo trabajó para crear una solución. Jake Beal, un científico de RTX BBN Technologies, tuvo la tarea de desarrollar salvaguardas digitales que pudieran atrapar estas toxinas reformuladas. El proyecto adoptó un marco del libro de jugadas de seguridad cibernética, tratando la vulnerabilidad biológica como un día cero de software y organizando una respuesta similar a un equipo de respuesta a emergencias de computadoras (CERT). La solución fue desarrollar algoritmos de detección actualizados. El cambio clave fue ir más allá de simplemente verificar cómo se ve una secuencia de ADN y una comprensión más profunda y semántica de lo que realmente codifica la proteína que codifica. Al entrenar los sistemas de detección para reconocer las características funcionales de una amenaza, pudieron detectar las variantes generadas por IA.
El camino hacia adelante y la divulgación responsable
El proyecto demostró con éxito la existencia de la vulnerabilidad y una ruta viable para parchearla. El resultado fue un alivio para las compañías de síntesis de ADN involucradas.
«El público en general quiere poder confiar en que las empresas que usan estas increíbles tecnologías para construir nuevos productos y servicios son seguros y efectivos, y tienen su mejor interés en mente. Una gran parte de esto es asegurarse de que sea un administrador responsable de la tecnología que está desarrollando».
dijo James Diggans, vicepresidente de política y bioseguridad en Twist Bioscience. El proyecto de parafraseo estableció un protocolo para las herramientas de bioseguridad del equipo rojo y administró una respuesta global a una amenaza de bioseguridad habilitada para AI. También sirve como modelo sobre cómo publicar una investigación sensible de una manera que equilibre la apertura con precaución. Los investigadores tienen claro que esto es solo el comienzo. A medida que avanza la tecnología, las medidas de protección deben evolucionar con ella. El proyecto destaca la necesidad de un enfoque continuo y adaptativo para la bioseguridad.
«Se trata de lo que hace la secuencia, no solo de cómo se ve. Incluso si dos secuencias se ven diferentes, aún podrían hacer lo mismo, como causar enfermedades o realizar el mismo trabajo en una celda».
dijo Horvitz.
