Grupo de Discusión - Emergent Misalignment | Orthogonality Thesis

​En este encuentro, vamos a charlar sobre los últimos acontecimientos en el área de Emergent Misalignment: el fenómeno en el cual obtenemos una IA totalmente desalineada (malvada) a partir de ensenarle una tarea angosta (como generar código malicioso por ejemplo), discutiendo cómo se conecta con la tesis de ortogonalidad.

​Deberán traer leidos los siguientes artículos cortos:

• ​Orthogonality Thesis:

  • ​What is the Orthogonality Thesis?

  • ​Optional:

    • ​LessWrong

• ​Emergent Misalignment (quienes no estén en tema, recomiendo lean este artículo):

  • ​OpenAI: Toward understanding and preventing misalignment generalization

  • ​Opcionales:

    • ​Owain Evans: Emergent Misalignment on Reasoning Models

    • ​Neel Nanda: Convergent Linear representations of Emergent Misalignment

​Cualquier duda que tengan, no duden en escribir en el grupo de Whatsapp: https://chat.whatsapp.com/JOHxDyZsSoAEwbbzcOQPiL

​Nos vemos!