Mental Health & AI Chatbots: From Silos to Safeguards
AI chatbots are designed to simulate care, empathy, and companionship, and as such, have begun to take on increasingly significant emotional and social roles in peoples’ lives, including and especially young users. Because of this, and a growing body of research on the mental health impacts of sustained and dependent chatbot use, their unregulated deployment has started to raise concern amongst educators, clinicians, and youth themselves.
Co-organized by the Mila AI Safety Studio and the Mila AI Policy Fellowship, this event brings together cross-cutting expertise from technology, mental health, education, and public policy to address the risks posed by AI chatbots as an interconnected challenge. As a pre-conference event for Mila’s inaugural AI Policy Conference, The AI Policy Frontline: Driving Evidence-Based Solutions, the conversation focuses on how AI safety, youth wellbeing, and governance converge: how design choices shape psychological outcomes, how educational and clinical insights can inform technical safeguards, and how working interdisciplinarity to address these issues can inform proactive and meaningful policy response.
The event will feature three expert presentations spanning four interconnected pillars: technology, mental health, education, and policy. It will be followed by a moderated panel discussion and audience Q&A to create space for dialogue across sectors and disciplines.
Attendees will leave with: 1) a clearer understanding of the emerging mental health risks associated with AI chatbots and digital companions; 2) insight into how design choices, safety guardrails, and educational interventions intersect; 3) and a shared vocabulary to discuss AI, empathy, and youth digital rights across disciplines.
Agenda
9:30am Opening Remarks - Isadora Hellegren
9:45am Part I: Raising Awareness
9:45am The Context: AI Chatbots & Risks to Mental Heal - Presentation by Étienne Brisson
10:00am The Technology: Technical Approaches to Chatbot Safety - Presentation by Simona Gandrabur
10:15am The Governance: Legislation, Policy, and Education for AI Safety - Presentation by Helen Hayes and Fergus Linley-Mota
10:30am Part II: Building Bridges
10:30am Panel Discussion: Youth Engagement in Policy Development
11:00am Audience Q&A
11:15am Panel Discussion: Safeguards for Mental Health
11:45am Audience Q&A
12:00pm Adjournment
Santé mentale et robots conversationnels d'IA : une sécurisation socio-technologique
Les robots conversationnels d’IA sont conçus pour simuler l’attention, l’empathie et la compagnie. À ce titre, ils ont commencé à occuper des rôles émotionnels et sociaux de plus en plus importants dans la vie des gens, en particulier chez les jeunes. En raison de cette évolution — et d’un corpus croissant de recherches sur les effets de l’utilisation prolongée et dépendante des robots conversationnels sur la santé mentale — leur déploiement sans encadrement suscite des préoccupations grandissantes chez les éducateur·rice·s, les clinicien·ne·s et les jeunes eux-mêmes.
Coorganisé par le Mila AI Safety Studio et la Mila AI Policy Fellowship, cet événement réunit des expertises croisées en technologie, en santé mentale, en éducation et en politiques publiques afin d’aborder les risques posés par les agents conversationnels d’IA comme un enjeu interconnecté. Activité préalable à la toute première Conférence sur les politiques de l’IA de Mila, The AI Policy Frontline: Driving Evidence-Based Solutions, la discussion porte sur les points de convergence entre la sécurité de l’IA, le bien-être des jeunes et la gouvernance : la manière dont les choix de conception influencent les effets psychologiques, comment les connaissances issues des milieux éducatif et clinique peuvent éclairer les mesures de protection techniques, et comment une approche interdisciplinaire peut soutenir des réponses politiques proactives et porteuses de sens.
L’événement comprendra trois présentations d’expert·e·s couvrant quatre piliers interreliés : la technologie, la santé mentale, l’éducation et les politiques publiques. Ces présentations seront suivies de tables rondes animées et de périodes de questions avec le public, afin de favoriser le dialogue entre secteurs et disciplines.
Les personnes participantes repartiront avec :
une meilleure compréhension des risques émergents pour la santé mentale associés aux agents conversationnels d’IA et aux compagnons numériques ;
des pistes de réflexion sur l’intersection entre les choix de conception, les garde-fous de sécurité et les interventions éducatives ;
un vocabulaire commun pour aborder l’IA, l’empathie et les droits numériques des jeunes à travers différentes disciplines.
Ordre du jour
9 h 30 Mot d’ouverture - Isadora Hellegren
9 h 45 Partie I : Sensibilisation
9 h 45 Le contexte : les agents conversationnels d’IA et les risques pour la santé mentale - Présentation par Étienne Brisson
10 h 00 La technologie : approches techniques pour la sécurité des agents conversationnels - Présentation par Simona Gandrabur
10 h 15 La gouvernance : législation, politiques publiques et éducation pour la sécurité de l’IA - Présentation par Helen Hayes et Fergus Linley-Mota
10 h 30 Partie II : Créer des ponts
10 h 30 Table ronde : l’engagement des jeunes dans l’élaboration des politiques publiques
11 h 00 Période de questions avec le public
11 h 15 Table ronde : mesures de protection pour la santé mentale
11 h 45 Période de questions avec le public