Ecological AI safety

​This roundtable session will explore how environmental impacts can be meaningfully integrated into AI safety and governance frameworks. Building on emerging debates around AI safety—which currently emphasize long-term, catastrophic risks from frontier models—the session will focus on the immediate ecological harms of AI systems, including energy use, water consumption, resource extraction, and data-center expansion.

​The workshop will introduce the concept of “Ecological AI Safety,” a policy-oriented framework that connects environmental accounting, climate risk, and AI-sector emissions to AI governance and national safety strategies. The goal is to surface gaps in current AI safety approaches, discuss how environmental metrics could be incorporated into model evaluations and risk assessments, and identify concrete policy directions relevant to Canada. Key takeaways include a shared understanding of ecological blindspots in AI safety, initial principles for integrating planetary boundaries into AI policy, and practical insights that could inform AI safety research and policy work going forward.

​Agenda

​1:00 – 1:10 Welcome & Framing 1:10 – 1:25 Opening: What Is Missing from AI Safety? (Sonja Solomun) 1:25 – 2:20 Moderated Roundtable Discussion (Alex Hernandez-Garcia) 2:20 – 2:30 Closing

​Cette séance de table ronde explorera comment les impacts environnementaux peuvent être intégrés de manière significative dans les cadres de sûreté et de gouvernance de l’IA. S’appuyant sur les débats émergents autour de la sûreté de l’IA — qui mettent actuellement l’accent sur les risques catastrophiques à long terme liés aux modèles de pointe — la séance se concentrera sur les dommages écologiques immédiats des systèmes d’IA, notamment la consommation d’énergie, l’utilisation de l’eau, l’extraction de ressources et l’expansion des centres de données.

​L’atelier présentera le concept de «Sûreté Écologique de l’IA», un cadre orienté vers les politiques qui relie la comptabilité environnementale, le risque climatique et les émissions du secteur de l’IA aux stratégies nationales de gouvernance et de sécurité. L’objectif est de mettre en lumière les lacunes des approches actuelles de sûreté de l’IA, de discuter de la manière dont les indicateurs environnementaux pourraient être intégrés aux évaluations de modèles et aux analyses de risques, et d’identifier des orientations politiques concrètes pertinentes pour le Canada. Les principaux résultats incluent une compréhension commune des angles morts écologiques dans la sûreté de l’IA, des principes initiaux pour intégrer les limites planétaires dans les politiques d’IA, et des pistes pratiques pouvant éclairer les travaux futurs en recherche et en politiques de sûreté de l’IA.

​Agenda

​13 h 00 – 13 h 10 Accueil et cadrage
13 h 10 – 13 h 25 Ouverture : Que manque-t-il à la sûreté de l’IA? (Sonja Solomun)
13 h 25 – 14 h 20 Discussion modérée en table ronde (Alex Hernandez-Garcia)
14 h 20 – 14 h 30 Clôture