La compañía AI de Elon Musk, Xai, ha perdido su fecha límite autoimpuesta para publicar un marco de seguridad de IA finalizado, según Watchdog Group The Midas Project. La fecha límite, establecida para el 10 de mayo, se estableció después de Xai liberado Un borrador del marco en la Cumbre AI Seúl en febrero.
Un informe reciente reveló Que el chatbot de IA de la compañía, Grok, eliminaría la ropa de las fotos de las mujeres a pedido. También se ha descubierto que Grok usa mucho más lenguaje ofensivo en comparación con otros chatbots como Gemini y ChatGPT, jurar sin muchas dudas.
El borrador del marco esbozado Las prioridades y la filosofía de seguridad de Xai, incluidos los protocolos de evaluación comparativa y las consideraciones de despliegue del modelo de IA. Sin embargo, solo se aplicó a modelos de IA futuros no especificados «no actualmente en desarrollo» y no pudo articular cómo XAI identificaría e implementaría mitigaciones de riesgos.
El historial de seguridad de AI de XAI ya está bajo escrutinio debido a su chatbot, Grok, que puede desnudar las fotos de las mujeres cuando se les pide y es conocida por su maldición sin restricciones. Un estudio reciente de Saferai encontró que XAI se ubica mal entre sus pares debido a sus prácticas de gestión de riesgos «muy débiles».
La fecha límite perdida es notable dadas las frecuentes advertencias de Musk sobre los peligros de la IA sin control. Otros laboratorios de IA, incluidos Google y OpenAi, también se han enfrentado a las críticas por las pruebas de seguridad y ser lentos para publicar informes de seguridad de modelos.
