Google detallado su enfoque de seguridad para funciones de agente dentro de su navegador Chrome, que puede realizar acciones en nombre de los usuarios. La compañía presentó previamente estas capacidades en septiembre, y en los próximos meses se producirá una implementación más amplia. La empresa ha implementado modelos de observador y mecanismos de consentimiento del usuario para gestionar estas acciones de agencia. Esta estrategia aborda posibles riesgos de seguridad, que podrían incluir pérdida de datos o implicaciones financieras asociadas con dichas características. Google emplea varios modelos para monitorear las acciones de agencia. Ha desarrollado un User Alignment Critic, impulsado por Gemini, que evalúa elementos de acción generados por un modelo de planificación para una tarea específica. Si el modelo crítico considera que las tareas propuestas no están alineadas con el objetivo del usuario, le indica al modelo planificador que revise su estrategia. El modelo crítico accede sólo a los metadatos de la acción propuesta, no al contenido web real. Para evitar que los agentes accedan a sitios web no autorizados o no confiables, Google utiliza Agent Origin Sets. Estos conjuntos restringen los modelos a orígenes designados de solo lectura y de lectura y escritura. Los orígenes de solo lectura permiten a Gemini consumir contenido, como listados de productos en un sitio de compras, excluyendo elementos irrelevantes como anuncios publicitarios. De manera similar, el agente solo puede interactuar con iframes específicos en una página.
Imagen: Google«Esta delimitación obliga a que el agente sólo tenga a disposición del agente los datos de un conjunto limitado de orígenes, y estos datos sólo pueden transmitirse a los orígenes grabables», dijo la compañía en una publicación de blog. «Esto limita el vector de amenaza de las fugas de datos entre orígenes. Esto también le da al navegador la capacidad de imponer parte de esa separación, como por ejemplo ni siquiera enviar al modelo datos que están fuera del conjunto legible». Google también monitorea la navegación de la página utilizando otro modelo de observador, que examina las URL. Este mecanismo tiene como objetivo evitar la navegación a URL dañinas generadas por modelos. Para tareas delicadas, Google requiere el permiso del usuario. Cuando un agente intenta acceder a sitios que contienen información médica o bancaria, primero solicita el consentimiento del usuario. Para los sitios que requieren inicio de sesión, Chrome solicita permiso del usuario para utilizar el administrador de contraseñas, lo que garantiza que el modelo del agente no acceda a los datos de la contraseña. La empresa también buscará la aprobación del usuario antes de realizar acciones como realizar una compra o enviar un mensaje. Además, Google tiene un clasificador de inyección rápida para evitar acciones no deseadas y prueba continuamente sus capacidades de agente contra ataques desarrollados por investigadores. Otros desarrolladores de navegadores de IA también se han concentrado en la seguridad; Perplexity lanzó un nuevo modelo de detección de contenido de código abierto a principios de este mes para contrarrestar los ataques de inyección rápida contra agentes.
