Hackeando agentes de IA
Organizado por AI Safety Colombia
Inscripción
Acerca del evento
Los agentes de IA ya no solo responden preguntas: también consultan información, usan herramientas y ejecutan acciones. Eso abre capacidades muy útiles, pero también nuevas superficies de ataque.
En esta charla del AI Incident Response Sprint, Christian Urcuqui mostrará cómo pueden comprometerse agentes mediante prompt injection, abuso de RAG, manipulación de decisiones y uso indebido de herramientas conectadas, y qué controles pueden reducir estos riesgos en producción.
También presentará una metodología práctica de pentesting para sistemas de IA, aplicable en escenarios de caja negra, gris y blanca.