Una encuesta de líderes de ciberseguridad muestra que el 62 por ciento reportó ataques impulsados por la IA contra el personal en el último año. Estos incidentes, que involucran inyección inmediata y audio o video de Deepfake, han causado importantes interrupciones comerciales, incluidas las pérdidas de propiedades financieras e intelectuales. El vector de ataque más común fue las llamadas de audio de Deepfake dirigidos a los empleados, con el 44 por ciento de las empresas que informaron al menos un incidente. El seis por ciento de estos ocurrencias condujo a la interrupción comercial, la pérdida financiera o la pérdida de propiedad intelectual. Los datos indicaron que la implementación de un servicio de secuestro de audio se correlacionó con una reducción en estas tasas de pérdida al dos por ciento. El 36 por ciento de las organizaciones encuestadas informaron incidentes que involucraron videos profundos. Entre estos casos, el cinco por ciento se clasificó por haber causado un problema grave para el negocio. Esto representa una amenaza persistente, aunque menos frecuente, en comparación con los intentos de suplantación de audio. Chester Wisniewski, Global Field CISO de la firma de seguridad Sophos, explicó que Deepfake Audio se está volviendo muy convincente y económico. «Con el audio puedes generar estas llamadas en tiempo real en este momento», afirmó, y señaló que puede engañar a un compañero de trabajo que interactúa ocasionalmente. Wisniewski cree que las cifras de Audio Deepfake pueden subestimar el problema, y encontró las cifras de video más altas de lo esperado, dado que un video en tiempo real falso de un individuo específico puede costar millones de dólares para producir. Sophos ha observado tácticas en las que un estafador utiliza brevemente un CEO o Video CFO Deepfake en una llamada de WhatsApp antes de reclamar problemas de conectividad, eliminar la alimentación y cambiar a texto para continuar un ataque de ingeniería social. Las falsificaciones de video genéricas también se usan para ocultar una identidad en lugar de robar una. Se ha informado que Corea del Norte gana millones al hacer que su personal use convencer a AI Fakery para obtener empleo con empresas occidentales. Otra amenaza en ascenso es el ataque de inyección inmediata, donde las instrucciones maliciosas están integradas en el contenido procesado por un sistema de IA. Esto puede engañar a la IA para que revele información confidencial o herramientas de uso indebido, lo que potencialmente conduce a la ejecución del código si las integraciones lo permiten. Según una encuesta de Gartner, el 32 por ciento de los encuestados informó tales ataques contra sus aplicaciones. Ejemplos recientes ilustran estas vulnerabilidades. Los investigadores han demostrado que el chatbot Gemini de Google se utiliza para dirigirse al correo electrónico de un usuario y a los sistemas de casa inteligente. El modelo de lenguaje Claude de Anthrope también ha experimentado problemas con la inyección inmediata. En otras investigaciones, ChatGPT fue engañado con éxito para resolver Captchas, que están diseñados para diferenciar a los usuarios humanos y de la máquina, y para generar tráfico que podría usarse para ataques de estilo de denegación de servicio contra sitios web.
