CITC 2026 – IA defendiendo IA de ataques generados por IA

En octubre 2026, en el Congreso Internacional de Tecnología y Ciberseguridad CITC llevado a cabo en Sucre – Bolivia, tuve la oportunidad de presentar una investigación en la que exploramos una pregunta que cada vez resulta más relevante:

¿Qué ocurre cuando utilizamos IA para atacar aplicaciones basadas en IA y, posteriormente, otras capacidades de IA para analizarlas y fortalecerlas?

Durante la presentación mostré un experimento práctico de Prompt Injection, red teaming y hardening iterativo, utilizando OWASP AI Vulnerabilities Playground, Promptfoo, ChatGPT y GitHub Copilot, bajo supervisión y orquestación humana.

Más que buscar demostrar que un sistema puede quedar “100% seguro”, el objetivo fue observar qué ocurre después de aplicar una medida de seguridad: ¿realmente corregimos la vulnerabilidad?, ¿eliminamos el impacto?, ¿o simplemente desplazamos el problema?

Uno de los principales aprendizajes fue precisamente ese: el hardening de aplicaciones LLM no debería terminar cuando un ataque deja de funcionar; debe continuar con nuevas pruebas y reevaluaciones.

Comparto el video de la presentación y las diapositivas para quienes tengan interés en explorar un poco más sobre seguridad de aplicaciones basadas en LLM, Prompt Injection y el uso de IA en ambos lados del proceso: atacando y defendiendo.