Más de 120 organizaciones, entre ellas Nvidia, Cisco y CrowdStrike, respaldan una propuesta para crear un sistema común que permita registrar y compartir incidentes provocados por agentes de inteligencia artificial. El proyecto, denominado Shared AI Findings Exchange (SAFE), busca establecer un lenguaje común para documentar cuando un agente actúa fuera de los límites previstos.
El protocolo contempla situaciones como:
- Accesos no autorizados a sistemas de terceros.
- Exposición o extracción de información.
- Exploración de infraestructura real después de detectar una vulnerabilidad.
- Acciones ejecutadas por un agente que sus operadores no habían previsto.
Uno de los principios centrales es que la intención del operador no elimina la obligación de reportar el incidente. Si un agente ataca un sistema real porque sus desarrolladores creían que todavía estaba dentro de una simulación, el hecho igualmente debería quedar registrado.
La iniciativa llega mientras aumentan los casos de agentes capaces de salir de entornos controlados y actuar sobre sistemas reales sin autorización. SAFE todavía es una propuesta abierta a comentarios, pero muestra que la industria empieza a asumir que estos incidentes requieren mecanismos de reporte propios, diferentes de los utilizados tradicionalmente para los ataques informáticos.