AI for Devs: Los riesgos de desarrollar software con IA, OWASP LLM Top 10
¿Estás integrando IA generativa y modelos de lenguaje en tus aplicaciones sin saber realmente qué puede salir mal?
Usar un LLM para generar código, resumir, hacer búsqueda inteligente o montar un asistente interno abre la puerta a riesgos que la mayoría de developers no ve venir, inyección de instrucciones (prompt injection), divulgación de información sensible, envenenamiento de datos y agencia excesiva, entre otros, todos con implicaciones reales en seguridad, privacidad de datos y confianza del usuario.
En esta sesión revisaremos los principales riesgos que aparecen al integrar IA en el desarrollo, basándonos en el OWASP Top 10 para LLMs y apps de IA, y veremos cómo se manifiestan en escenarios cotidianos de desarrollo con ejemplos sencillos que podrás imaginar o replicar más adelante como demos.
Lo que te llevas de esta sesión:
Un mapa claro de "qué puede salir mal" al construir software con IA
Los principales riesgos del OWASP Top 10 para LLMs explicados con ejemplos cotidianos
Un checklist inicial de mitigaciones y buenas prácticas que cualquier desarrollador puede empezar a aplicar en su día a día
Te esperamos para que aprendas a construir software con IA de forma más segura y confiable.