Antrópico tiene presentado Una vista previa de investigación de Claude para Chrome, un agente de IA basado en el navegador alimentado por sus modelos Claude AI. El despliegue inicial está limitado a 1,000 suscriptores en el plan MAX de Anthrope, mientras que se ha establecido una lista de espera para usuarios adicionales interesados en acceder a la nueva función.
La extensión Claude para Chrome permite a los usuarios seleccionados interactuar con Claude a través de una ventana Sidecar. Mantiene la conciencia de la actividad del navegador del usuario. Los usuarios pueden autorizar a Claude a realizar acciones dentro del navegador, facilitando la finalización de la tarea en su nombre.
La integración de la IA en los navegadores se ha convertido en un área competitiva para AI Labs. El objetivo es crear conexiones más perfectas entre los sistemas de IA y los usuarios. Perplexity introdujo recientemente Comet, su propio navegador con un agente de IA diseñado para ayudar a los usuarios con diversas tareas. La especulación sugiere que OpenAi también está desarrollando un navegador con AI con capacidades similares al Comet. Google ya ha comenzado a integrar sus modelos Gemini en Chrome.
Este impulso para los navegadores mejorados con AI obtiene importancia adicional a la luz del caso antimonopolio continuo de Google. En breve se anticipa una decisión final en el caso. El juez presidente ha indicado la posibilidad de ordenar a Google que desintegue su navegador Chrome. En respuesta, Perpleity presentó una oferta no solicitada de $ 34.5 mil millones para Chrome. El CEO de Operai, Sam Altman, también expresó interés potencial en adquirir el navegador.
Anthrope abordó posibles preocupaciones de seguridad asociadas con los agentes de IA que tienen acceso al navegador. El equipo de seguridad de Brave identificó una vulnerabilidad en el agente del navegador de Comet. Esta vulnerabilidad lo hizo susceptible a los ataques indirectos de inyección inmediata. Dichos ataques involucran código malicioso en un sitio web que podría manipular al agente para ejecutar instrucciones no deseadas al procesar la página.
La perplejidad respondió a la vulnerabilidad informada. Jesse Dwyer, jefe de comunicaciones por perplejidad, comunicado a TechCrunch Por correo electrónico que la vulnerabilidad identificada planteada por Brave había sido abordada y resuelta. La resolución subraya la importancia de las medidas de seguridad proactivas en el paisaje evolutivo de los agentes del navegador impulsados por la IA.
Anthrope tiene como objetivo utilizar esta vista previa de investigación para identificar y abordar nuevos riesgos de seguridad. La compañía ya ha implementado defensas contra ataques de inyección inmediata. Estas intervenciones han reducido la tasa de éxito de tales ataques del 23.6% al 11.2%. Esto demuestra un compromiso con mitigar las posibles vulnerabilidades a medida que los agentes de IA se integran más con la funcionalidad del navegador.
Los usuarios tienen la opción de restringir el acceso de Claude a sitios web específicos dentro de la configuración de la aplicación. Anthrope ha implementado restricciones predeterminadas, evitando que Claude acceda a sitios web que ofrecen servicios financieros, contenido para adultos y contenido pirateado. Estas medidas están diseñadas para proteger a los usuarios de entornos en línea potencialmente dañinos o inapropiados.
Antes de ejecutar acciones de alto riesgo, como publicar, comprar o compartir datos personales, el agente de navegador de Claude solicitará el permiso del usuario. Esta medida agrega una capa adicional de seguridad y garantiza que los usuarios retengan el control sobre las operaciones sensibles realizadas a través del agente de IA.
Esta no es la primera empresa de Anthrope en modelos de IA capaces de controlar las pantallas de la computadora. En octubre de 2024, la compañía presentó a un agente de IA con la capacidad de controlar una PC. Sin embargo, las pruebas iniciales revelaron limitaciones. El modelo exhibió un rendimiento lento y una falta de confiabilidad consistente.
Los modelos de IA de agente han visto una mejora. Los agentes modernos de IA que usan el navegador, incluidos Comet y ChatGPT Agent, se han vuelto más confiables en la realización de tareas simples. Si bien es capaz de manejar funciones básicas, estos sistemas enfrentan limitaciones. Muchos sistemas de agente todavía luchan con problemas complejos debido a las complejidades de los escenarios del mundo real.
