Seguridad en IA generativa: riesgos que aún no tienen nombre

La seguridad en IA generativa exige mirar prompt, datos, acceso y decisión automatizada. El riesgo cambia cuando el sistema responde y actúa.

22 de julio de 2026|6 min de lectura

El riesgo no cabe en el checklist antiguo

La IA generativa cambia la superficie de ataque porque el sistema ya no solo guarda o procesa datos. Interpreta instrucciones, combina fuentes, resume contexto y puede accionar herramientas. Eso crea riesgos que los controles tradicionales no describen bien.

El problema no es que la IA "se equivoque". El problema es permitir que una respuesta incorrecta, una fuga de contexto o una instrucción maliciosa entre en un flujo real de decisión.

El prompt se volvió interfaz de ataque

El OWASP GenAI Security Project organiza riesgos de aplicaciones con LLMs y sistemas agentic AI, incluyendo amenazas que atraviesan prompts, contexto, plugins, datos y cadena de suministro. Su utilidad es dar nombre técnico a lo que muchas empresas todavía tratan como curiosidad.

Prompt injection, fuga de información sensible, exceso de permisos en herramientas y respuestas sin verificación son síntomas del mismo error: poner IA en producción sin fronteras.

El control empieza antes del modelo

Antes de discutir modelo, define datos permitidos, datos prohibidos, usuarios, logs, retención, fuentes de verdad, herramientas disponibles y límites de autonomía. Si el asistente puede consultar CRM, abrir tickets o enviar mensajes, necesita política de acceso como cualquier sistema crítico.

También crea pruebas adversariales. No basta preguntar si el bot responde bien. Hay que intentar hacerlo ignorar reglas, revelar datos, inventar fuentes y ejecutar acciones fuera del flujo.

La pregunta de gobernanza

Toda aplicación de IA generativa debería responder tres cosas: quién puede pedir, qué puede saber el sistema y qué puede hacer. Sin esas respuestas, seguridad se vuelve revisión tardía sobre una automatización que el negocio ya desea.

Dónde entra Diglion

Diglion ayuda a diseñar aplicaciones de IA con arquitectura de datos, controles de acceso, observabilidad y criterios de uso. El objetivo es permitir ganancia real sin transformar cada prompt en una puerta lateral hacia la operación.