Can AI systems be conscious? How could we know? And why does it matter?

​EN
Joaquim Streicher, Ph.D. candidate in Neuroscience and co-founder of Montreal Initiative for Consciousness science (MONIC) will give the following presentation:

​There currently are important discussions about the possibility of AI consciousness. Although current experts tend to agree on current models not being conscious because their structure would not allow it, the debate remains fully open when it comes to future, more complex models. A question that directly follows is: how will we know? How to determine if an AI system is truly conscious, and not simply mimicking consciousness as it is trained to? A non-negligible proportion of human users already attribute consciousness to current LLMs, and we can imagine that these numbers will increase as the models get more complex. It is therefore of first importance to avoid both false negative—missing a conscious model and risk ethical issues such as artificial suffering—and false positive— providing rights and moral importance to sophisticated models we wrongly attribute consciousness to. Developing consciousness tests in humans, for example in unresponsive patients, might eventually lead to a better understanding of how to assess consciousness in non-human systems, including AI. I will end by briefly introducing the association I co-founded, MONtreal Inititiative for Consciousness (MONIC), which aims at making these topics available to a broad audience to foster educated democratic discussions.

​FR
Joaquim Streicher, doctorant en neurosciences et cofondateur de l'Initiative montréalaise pour la science de la conscience (MONIC), présentera la communication suivante :

​La possibilité d'une conscience chez l'IA fait actuellement l'objet de discussions importantes. Bien que les experts s'accordent généralement à dire que les modèles actuels ne sont pas conscients, leur structure ne le permettant pas, le débat reste ouvert concernant les modèles futurs, plus complexes. Une question se pose alors : comment le savoir ? Comment déterminer si un système d'IA est véritablement conscient, et non s'il imite simplement la conscience comme il a été entraîné ? Une proportion non négligeable d'utilisateurs humains attribuent déjà une conscience aux modèles de langage actuels, et l'on peut imaginer que ce nombre augmentera à mesure que les modèles se complexifieront. Il est donc primordial d'éviter à la fois les faux négatifs – ne pas détecter un modèle conscient et s'exposer à des problèmes éthiques tels que la souffrance artificielle – et les faux positifs – conférer des droits et une importance morale à des modèles sophistiqués auxquels nous attribuons à tort une conscience. Le développement de tests de conscience chez l'humain, par exemple chez des patients non réactifs, pourrait à terme permettre de mieux comprendre comment évaluer la conscience dans les systèmes non humains, y compris l'IA. Je terminerai par une brève présentation de l'association que j'ai cofondée, MONtreal Initiative for Consciousness (MONIC), qui vise à rendre ces sujets accessibles à un large public afin de favoriser des discussions démocratiques éclairées.

​Recommended readings / Lectures recommandées

• ​Bayne, T., Seth, A. K., Massimini, M., Shepherd, J., Cleeremans, A., Fleming, S. M., ... & Mudrik, L. (2024). Tests for consciousness in humans and beyond. Trends in cognitive sciences, 28(5), 454-466.

• ​Butlin, P., Long, R., Elmoznino, E., Bengio, Y., Birch, J., Constant, A., ... & VanRullen, R. (2023). Consciousness in artificial intelligence: insights from the science of consciousness. arXiv preprint arXiv:2308.08708.

• ​Chalmers, D. J. (2023). Could a large language model be conscious?. arXiv preprint arXiv:2303.07103.

• ​Colombatto, C., & Fleming, S. M. (2024). Folk psychological attributions of consciousness to large language models. Neuroscience of Consciousness, 2024(1), niae013.

• ​Martin, A., Streicher, J., O'Dea, M. (2025). Reporting and Subjectivity Traps: A Brief Opinion Article on Consciousness as Belief. Qeios. doi:10.32388/CCFTY8.3.

​​Where
TBD

​​Schedule
19:00-20:30

​​Contact
Write to host