Hackeando agentes de IA

​Los agentes de IA ya no solo responden preguntas: también consultan información, usan herramientas y ejecutan acciones. Eso abre capacidades muy útiles, pero también nuevas superficies de ataque.

​En esta charla del AI Incident Response Sprint, Christian Urcuqui mostrará cómo pueden comprometerse agentes mediante prompt injection, abuso de RAG, manipulación de decisiones y uso indebido de herramientas conectadas, y qué controles pueden reducir estos riesgos en producción.

​También presentará una metodología práctica de pentesting para sistemas de IA, aplicable en escenarios de caja negra, gris y blanca.