Grupo de Discusión - Sandbagging

​En este encuentro, vamos a charlar sobre un paper muy relevante en el area de Sandbagging: el fenómeno por el cual un modelo de lenguaje deliberadamente esconde o suprime sus capacidades reales, generalmente para evitar ser detectado

​Deberán traer leidos los siguientes artículos cortos:

• ​Principal:

  • ​Noise Injection Reveals Hidden Capabilities of Sandbagging Language Models

• ​Opcionales:

  • ​Fuzzing LLMs Can Sometimes Make Them Reveal Their Secrets

  • ​Mechanistically Eliciting Latent Behaviors in LLMs

  • ​Casual Transcoding

​Cualquier duda que tengan, no duden en escribir en el grupo de Whatsapp: https://chat.whatsapp.com/JOHxDyZsSoAEwbbzcOQPiL

​Nos vemos!