Cisco Systems Inc. tiene introducido Proyecto CodeGuard, un marco de código abierto diseñado para proteger el software desarrollado con agentes de codificación de inteligencia artificial. El sistema integra controles de seguridad a lo largo del ciclo de vida del software para reforzar el código desde su creación inicial. El marco está diseñado para ser unificado e independiente del modelo, lo que le permite funcionar con varias herramientas de inteligencia artificial. Su objetivo es ofrecer código «seguro por defecto» entrelazando barreras de seguridad en múltiples etapas de desarrollo. Cisco especificó que Proyecto CodeGuard no pretende reemplazar el juicio de ingeniería, sino que sirve como una «capa adicional de defensa en profundidad». Este enfoque complementa la supervisión humana en lugar de reemplazarla, reforzando la seguridad durante todo el proceso de codificación asistido por IA. En el lanzamiento, CodeGuard incluye un conjunto de reglas básicas derivadas de la guía establecida de la industria, incluido el Proyecto abierto mundial de seguridad de aplicaciones (OWASP) y la Enumeración de debilidades comunes (CWE). Este conjunto inicial apunta a fallas recurrentes de software. Las vulnerabilidades específicas abordadas incluyen secretos codificados, validación de entrada faltante o inadecuada, el uso de métodos criptográficos obsoletos y dependencias de componentes de software que han llegado al final de su vida útil. Estas reglas se aplican en distintas fases de desarrollo para proporcionar una aplicación continua de la seguridad. Durante la fase de planificación y especificación, dirigen a los agentes de IA hacia patrones de codificación más seguros. Mientras el código se genera activamente, el marco puede bloquear la creación de fragmentos inseguros en tiempo real. Después de la generación, las reglas se utilizan para una revisión y validación exhaustivas. Project CodeGuard también proporciona un conjunto de reglas impulsado por la comunidad, traductores para agentes de codificación de IA populares y validadores para ayudar a los equipos a automatizar estas medidas de seguridad. Cisco enfatizó que esta metodología de múltiples etapas es fundamental porque los asistentes de IA están cada vez más involucrados en todo el ciclo de vida del software, desde la redacción de diseños iniciales y servicios de andamiaje hasta la propuesta de correcciones de código. Una sola regla, como una que rige la validación de entradas o la gestión de secretos, está diseñada para influir en cada paso. Esto incluye sugerir alternativas más seguras durante la generación, marcar construcciones riesgosas a medida que aparecen y, finalmente, verificar que el código completo externalice adecuadamente los secretos y desinfecte todas las entradas. Los representantes de la empresa afirmaron que CodeGuard no garantiza resultados perfectamente seguros y que la revisión por pares humanos y los controles de seguridad estándar siguen siendo necesarios. El objetivo principal del marco es reducir la probabilidad de que se introduzcan vulnerabilidades “fáciles” en los entornos de producción a medida que la IA acelera los cronogramas de entrega de software. La hoja de ruta de la compañía para el proyecto incluye una cobertura de idiomas más amplia, adaptadores para plataformas de codificación de IA adicionales, validación automatizada de reglas y circuitos de retroalimentación para perfeccionar las reglas según el uso de la comunidad. Para respaldar esta evolución, Cisco está invitando a ingenieros de seguridad, desarrolladores e investigadores de inteligencia artificial a contribuir al proyecto. La compañía ha solicitado la presentación de nuevas reglas, la construcción de traductores adicionales y mejoras basadas en telemetría a través de su repositorio público.
