Dale una computadora a tu agente: IA que escribe y ejecuta su propio código
📅 Jueves 29 de octubre · 13:00 h
📍 C. Lucerna 34, Juárez, CDMX
Gratis · en español
Si has construido un agente de IA, seguro te pasó esto: cada vez que quieres que haga algo nuevo, le tienes que escribir una tool nueva. Una para buscar clientes, otra para mandar un mensaje, otra para sacar un reporte. Cada una se diseña, se prueba, se revisa y se deploya. Al final tu agente solo puede hacer lo que tu equipo alcanza a escribir. Y tu equipo nunca alcanza.
Los agentes que hoy sí se sienten mágicos, como Claude Code o Muse de Meta, no funcionan así. No tienen una lista fija de tools. Escriben código, lo corren, ven qué pasó y lo vuelven a intentar. Si necesitan una herramienta, se la construyen. Básicamente les diste una computadora.
Y ahí se pone interesante (y un poco aterrador 😅). Una cosa es dejar que Claude Code corra scripts en tu laptop. Otra muy distinta es dejar que un agente escriba y ejecute código en producción, con datos reales de clientes reales.
La respuesta de siempre es "pues lo metes en un sandbox". Y sí, lo necesitas. Pero un agente que no puede escaparse de su microVM igual puede borrar datos, mandarle un correo a quien no debe o filtrar tu base de clientes, si tiene permiso para hacerlo. Basta un mensaje de un desconocido con instrucciones escondidas para que lo intente.
Los incidentes reales con agentes casi nunca han sido escapes del sandbox. Han sido agentes con demasiado poder.
Les voy a contar cómo le dimos a un agente en producción la capacidad de escribir y correr su propio código, y todo lo que tuvimos que construir para no arrepentirnos:
Por qué dejamos de escribir tools a mano y le dimos al agente un SDK de toda la API?
Qué va adentro del sandbox? (Spoiler: ni una credencial y cero red.)
Tratar al modelo como un insider: no es malo, pero se equivoca y lo pueden manipular.
La lethal trifecta y cómo romperla en la práctica.
Cuándo pedir permiso antes y cuándo basta con poder deshacer?
Conectar un agente a WhatsApp: cuando cualquiera le puede escribir, cada mensaje es una posible inyección de prompt.
Para quién es?
Para builders que ya tienen un agente (o un prototipo) y se están preguntando cuánto poder darle. No necesitas saber qué es una microVM. Si ya peleaste con un tool call, le vas a sacar provecho.
Te vas con un criterio claro para decidir qué puede hacer tu agente solo y qué no.
Quién soy? Soy Alejandro Krasovsky. Llevo más de 10 años desarrollando software en USA y México, y el último año y medio desarrollando agentes de IA a producción (y apagando los incendios que eso trae). También escribo Código Abierto, un newsletter de tech en español.
Al final nos quedamos a platicar. Si estás construyendo agentes (o pensando en hacerlo), vente.