Aujourd’hui a lieu la Journée de la protection des données (ou, comme on l’appelle dans certaines parties du monde, la Journée de la protection des données), une occasion de réfléchir à l’état de la protection de la vie privée au Canada et dans le monde entier.
Aujourd’hui, nous tenons presque pour acquis que la protection de la vie privée est mise à rude épreuve, car les technologies émergentes trouvent de nouveaux moyens de transformer les récits d’avertissement d’hier en réalités vécues aujourd’hui. Cela fait en effet près de vingt ans que notre plus haute juridiction a reconnu que si les craintes de George Orwell concernant une société de surveillance ne s’étaient pas encore pleinement concrétisées, il était certainement un observateur précoce et avisé de la direction que prenaient les choses, et que le paysage de la protection de la vie privée n’a fait que se dégrader depuis lors.
Parmi les menaces croissantes qui pèsent sur la vie privée, l’une d’entre elles mérite une attention particulière : une série de neurotechnologies développent la capacité de lire les pensées des gens, mettant ainsi l’un des derniers refuges de la vie privée sur la sellette.
Dès 2017, un groupe de chercheurs de premier plan a publié un manifeste sur la technologie dans Nature, avertissant que « les directives éthiques existantes sont insuffisantes pour ce domaine », tandis qu’un rapport du CIGI de 2024 s’inquiète de ce qui se passera si les gens sont soumis à une manipulation basée sur la pensée lorsque cette technologie commencera à évoluer vers une adoption de masse non médicale. Ces inquiétudes sont malheureusement fondées : lapersuasion fondée sur les données, où chaque interaction numérique est surveillée et utilisée pour nous manipuler, est déjà devenue une caractéristique bien trop familière de notre écosystème en ligne.
Si la technologie de lecture du cerveau est le cauchemar dystopique de la semaine prochaine, l’IA est sans aucun doute celui d’aujourd’hui. Les systèmes d’IA exploitent nos données personnelles pour tout remodeler, de nos écoles à nos lieux de travail, en passant par nos interactions avec le gouvernement. Au Canada et dans le monde entier, cette dépendance à l’égard de l’automatisation alimentée par les données obscurcit la manière dont les décisions sont prises, un examen approfondi n’intervenant souvent qu’après que la vie de nombreuses personnes a été gâchée.
Trop souvent, les systèmes d’IA sont sujets aux erreurs et intègrent la discrimination dans leurs évaluations automatisées. Les systèmes de reconnaissance faciale, par exemple, identifient par erreur les femmes autochtones 120 fois plus souvent que les hommes blancs. Malgré cette tendance, les systèmes d’IA sont adoptés à une vitesse fulgurante, sans que l’on se préoccupe des conséquences qui en découlent.
Certains de ces algorithmes prétendent prédire ce que les gens vont faire, avec des conséquences potentielles désastreuses telles que des séjours plus longs en prison ou le refus d’accorder le statut d’immigrant.
L’IA modifie également la nature du maintien de l’ordre en renforçant les anciennes capacités de surveillance. Les flux vidéo en direct des caméras de circulation ou de vidéosurveillance municipale sont transformés (par la police de Montréal et d’autres) en réseaux automatisés capables de nous suivre et d’être constamment à l’affût des menaces perçues.
La police d’Edmonton a récemment annoncé qu’ elle testerait la reconnaissance faciale sur les flux vidéo en direct de ses caméras corporelles, transformant ce qui était autrefois un mécanisme de responsabilisation de la police en une capacité de surveillance puissante, bien qu’imparfaite.
Les conséquences de ces changements s’aggraveront à mesure que nous évoluerons vers un monde où la police s’appuiera sur des évaluations technologiques opaques en temps réel.
En octobre dernier, un adolescent de Baltimore, qui ne se doutait de rien, a été encerclé par des policiers armés après qu’un outil d’intelligence artificielle a pris un sac de chips pour une arme à feu sur un flux vidéo en direct et a déployé la police locale. Heureusement, personne n’a été blessé, mais nous pouvons nous attendre à d’autres incidents de ce type.
L’adoption et l’utilisation de cet arsenal de capacités se font de manière inconsidérée, sans aucun cadre significatif, et l’approche « adoption d’abord » du gouvernement fédéral à l’égard de l’IA laisse peu de place aux règles dont nous avons besoin pour limiter les nombreuses implications négatives de la technologie.
Loin de là : une disposition enfouie dans le projet de loi C-15 (la proposition de budget fédéral) pourrait exempter toute entreprise, tout fonctionnaire ou toute agence de se conformer à toute loi fédérale (autre que le Code pénal) pendant une période pouvant aller jusqu’à six ans, pour autant que le gouvernement estime que cela encouragerait l’innovation, la concurrence ou la croissance économique. Dans sa hâte d’adopter l’IA, le gouvernement pourrait utiliser cette disposition de grande envergure pour balayer les obstacles minimes à la protection de la vie privée ou d’autres obstacles juridiques déjà en place et mener des essais d’IA dans le monde réel, ce qui aurait des répercussions sur des millions de personnes.
Le gouvernement est également en train d’exempter les partis politiques fédéraux des lois provinciales sur la protection de la vie privée, tout en ne mettant en place aucune règle fédérale significative. À une époque où les campagnes politiques basées sur les données et l’IA créent déjà de dangereuses opportunités de manipulation politique, cette démarche visant à immuniser les partis politiques contre les protections juridiques de base est troublante.
Mais il y a aussi des développements encourageants.
Dès 2026, le commissaire à la protection de la vie privée de l’Ontario et la Commission des droits de l’homme ont publié conjointement un cadre pour guider l’utilisation responsable de l’IA et le commissaire à la protection de la vie privée de la Colombie-Britannique a empêché la ville de Richmond de construire un réseau de caméras pour le compte de la GRC en l’absence d’une autorisation légale claire. La Commission du droit de l’Ontario est également à la tête d’ un projet visant à guider l’adoption et l’utilisation de ces outils puissants dans le système de justice pénale.
La semaine dernière, l’ACLC a rejoint une vaste initiative de la société civile en lançant une consultation publique sur l’IA afin de mieux comprendre toutes les différentes façons dont l’IA a un impact sur la vie des gens.
Nous sollicitons également l’avis du public et des experts sur les types de contrôles à mettre en place pour garantir que l’adoption de l’IA se fasse dans le respect des libertés civiles et en réduisant les conséquences négatives de la technologie.
Les solutions à nos multiples défis en matière de protection de la vie privée ne sont pas simples.
En cette journée de la protection des données, prenez le temps de lire les défis posés par l’IA et de partager vos réflexions sur les implications de cette technologie émergente.
