Publication du rapport de l’ETHI sur les technologies de reconnaissance faciale

Le Canada ne dispose pas d’un cadre juridique approprié pour réglementer la technologie de reconnaissance faciale et, en l’absence d’un tel cadre, le risque de préjudice individuel et social est si élevé que nous avons besoin d’un moratoire sur son utilisation. L’ACLC a présenté cet argument dans ses soumissions à la récente étude sur la technologie de reconnaissance faciale (FRT) par le Comité permanent de l’accès à l’information, de la protection des renseignements personnels et de l’éthique (ETHI). Nous sommes tout à fait d’accord avec les conclusions du Comité dans son rapport publié le 4 octobre 2022 :

L’étude du Comité a confirmé que le cadre législatif actuel du Canada ne réglemente pas adéquatement le TFR et l’IA. En l’absence d’un cadre approprié, le FRT et d’autres outils d’IA pourraient causer un préjudice irréparable à certaines personnes.

Le Comité est donc d’avis que l’utilisation de FRT ou d’autres technologies d’IA doit se faire de manière responsable, dans un cadre législatif solide qui protège les droits à la vie privée et les libertés civiles des Canadiens. Étant donné qu’un tel cadre législatif n’existe pas à l’heure actuelle, une pause nationale devrait être imposée sur l’utilisation des TFR, en particulier en ce qui concerne les services de police.

Le comité formule 19 recommandations généralement fortes. Parmi les points saillants, citons les recommandations interdisant l’acquisition d’informations personnelles obtenues illégalement et exigeant un rapport public lorsque des institutions gouvernementales acquièrent des outils de TFR ou d’autres outils algorithmiques, y compris des essais gratuits. Ces recommandations permettraient d’éviter à l’avenir un scandale comme celui qui s’est produit lorsque la GRC a secrètement utilisé le logiciel d’IA Clearview, et qui a ensuite été déterminé par une enquête conjointe des commissaires à la protection de la vie privée a déterminé que ce logiciel était illégal en vertu de la loi canadienne.

D’autres recommandations clés sont axées sur la responsabilité et la transparence, notamment la création d’un registre public de l’IA des outils utilisés par les entités opérant au Canada, l’engagement accru des parties prenantes de la société civile dans les processus existants d’évaluation de l’impact de l’IA, et l’établissement de « mesures politiques robustes au sein du secteur public pour l’utilisation de la technologie de reconnaissance faciale qui pourrait » [nous dirions devrait] « inclure une notification publique immédiate et préalable et des commentaires publics, une consultation avec les groupes marginalisés et des mécanismes de surveillance indépendants ».

Pour faire face aux risques bien connus de partialité et d’impact discriminatoire des systèmes de TFR, des recommandations appellent le gouvernement à investir dans l’étude de l’impact de l’intelligence artificielle sur différents groupes, et à garantir « la divulgation complète et transparente des préjugés raciaux, d’âge ou autres préjugés inconscients qui peuvent exister dans la technologie de reconnaissance faciale utilisée par le gouvernement, dès que le préjugé est découvert dans le contexte de scénarios de test ou d’applications en direct de la technologie, sous réserve de préoccupations de sécurité nationale ». Bien entendu, l’exclusion de la sécurité nationale est problématique, étant donné que les risques de discrimination sont particulièrement élevés dans des contextes tels que la sécurité des frontières.

Il existe une série de recommandations concernant la nécessité de légiférer en matière de protection :

• Définir les utilisations acceptables de la technologie de reconnaissance faciale ou d’autres technologies algorithmiques et interdire d’autres utilisations, y compris la surveillance de masse ;
• Exiger, avant d’adopter ou d’utiliser le FRT, que les agences consultent le Commissaire à la protection de la vie privée, et de déposer des évaluations de l’impact sur la vie privée ;
• Mettre à jour la loi canadienne sur les droits de l’homme pour s’assurer qu’elle s’applique à la discrimination causée par l’utilisation de la technologie de reconnaissance faciale et d’autres technologies d’intelligence artificielle.
• Mise en œuvre d’un droit à l’effacement des informations personnelles, y compris des images ;
• Mettre en œuvre une obligation de consentement préalable pour la collecte d’informations biométriques par des entités du secteur privé et ne pas permettre à ces entités d’exiger des données biométriques comme condition de service ;
• Renforcer la capacité du commissaire à la protection de la vie privée à imposer des sanctions significatives en cas d’infraction à la loi.
• Élaborer un cadre réglementaire concernant les utilisations, les interdictions, la surveillance et le respect de la vie privée des technologies de reconnaissance faciale, y compris des mesures de surveillance proactive.

Enfin, l’une des recommandations les plus importantes porte sur la nécessité de protéger les photos de personnes, qu’elles soient en ligne ou prises dans des espaces publics, contre l’utilisation non consensuelle de ces photos par des systèmes d’intelligence artificielle. La recommandation 17 stipule ce qui suit : Que le gouvernement du Canada modifie la loi sur la protection de la vie privée et la loi sur la protection des renseignements personnels. La loi sur la protection de l’information et les documents électroniques interdit la pratique consistant à capturer des images de Canadiens sur l’internet ou dans des espaces publics en vue de les utiliser dans le cadre d’une campagne de publicité ou d’une campagne d’information. de la technologie de reconnaissance faciale ou de la technologie d’identification artificielle. algorithmes d’intelligence artificielle.

Le comité ETHI a fait du bon travail en synthétisant et en reflétant les préoccupations des témoins qui se sont présentés devant lui et a formulé des recommandations qui contribueraient grandement à protéger les citoyens du Canada contre les utilisations du FRT et d’autres technologies basées sur l’IA qui portent atteinte aux droits de l’homme. Il appartient désormais au gouvernement de donner suite à ces recommandations. Le rapport arrive à point nommé, puisque le nouveau projet de loi C-27 sur la protection de la vie privée dans le secteur privé est en cours d’examen par le comité. Des amendements à ce projet de loi pourraient et devraient être apportés en réponse à certaines de ces recommandations, et des réformes de la loi sur la protection de la vie privée sont également indiquées. En attendant cette législation, le moratoire sur l’utilisation des TSF par les services de police fédéraux et les industries canadiennes, recommandé par ETHI et soutenu par un large éventail de témoins, y compris l’ACLC, devrait être décrété immédiatement. Comme le note le Comité, les dommages sont imminents si l’on n’agit pas rapidement.