Atelier: Canadian AI Incident Monitor Review
What goes wrong with AI in Canada, and who's keeping track?
We introduce the Canadian AI Incident Monitor (CAIM) as a pilot to document AI incidents and hazards affecting Canada. So far we found 25 incidents and 14 hazards, from RCMP facial recognition and CRA chatbot errors to election deepfakes, algorithmic rent coordination, and AI-generated abuse material.
The data is preliminary and needs critical review before it can be used more broadly. In this working session, we'll:
Debate borderline cases: is AI involvement actually material?
Calibrate severity ratings: does "critical" vs. "significant" feel right?
Identify gaps: what major Canadian AI incidents are we missing?
Flag the weakest records: which ones require further work and how?
https://caim.horizonomega.org/
—
Qu'est-ce qui est problématique avec l'IA au Canada, et qui en fait le suivi?
Nous présentons le Canadian AI Incident Monitor (CAIM) comme projet pilote pour documenter les incidents et risques liés à l'IA au Canada. Jusqu'ici, nous avons répertorié 25 incidents et 14 risques, de la reconnaissance faciale par la GRC aux erreurs du robot conversationnel de l'ARC, en passant par les hypertrucages électoraux, la coordination algorithmique des loyers et le matériel d'abus généré par l'IA.
Les données sont préliminaires et nécessitent un examen critique avant d'être plus utilisées. Lors de cette session, nous allons:
Examiner les cas limites : l'implication de l'IA est-elle significative?
Calibrer les niveaux de sévérité : « critique » vs « significatif », est-ce que ça tient?
Identifier les lacunes : quels incidents majeurs d'IA au Canada ne sont pas présentes?
Signaler les fiches qui nécessitent davantage de travail, et comment?
https://caim.horizonomega.org/
—
Où / Where
UQAM - Pavillon President-Kennedy
PK-1140 (first floor) Instructions: https://docomomoquebec.ca/wp-content/uploads/2024/03/Localisation-de-la-salle-PK.pdf
Contact host if you need assistance or for questions