Les preuves secrètes à l’ère de l’intelligence artificielle

La forme d’intelligence artificielle (IA) la plus répandue aujourd’hui – l’apprentissage automatique – est souvent qualifiée de « boîte noire », car les humains ne peuvent pas en percer les secrets pour comprendre ses décisions. À l’issue d’une nouvelle audience devant l’autorité nationale de régulation des communications, les Canadiens pourraient se retrouver encore plus exclus, laissés dans l’ignorance en raison des règles de confidentialité proposées. L’issue de cette affaire permettra de déterminer si les nouveaux systèmes d’IA peuvent être soumis à un contrôle démocratique par le biais des instruments traditionnels du droit public.

Le Conseil de la radiodiffusion et des télécommunications canadiennes (CRTC) est un organisme administratif quasi judiciaire qui s’appuie sur des procédures publiques ouvertes pour constituer un dossier de preuve public sur la base duquel il rend finalement ses décisions. Les décisions du CRTC sont fondées sur le dossier public qu’il a constitué à la suite d’un avis de consultation et peuvent faire l’objet d’un appel devant la Cour d’appel fédérale (CAF) et/ou le gouverneur en conseil (GEC), selon le motif de l’appel (c’est-à-dire une erreur de droit ou une erreur de politique, respectivement).

L’été dernier, Bell Canada a demandé l’autorisation d’utiliser un système confidentiel d’apprentissage automatique pour filtrer les appels téléphoniques frauduleux et les arnaques. Le CRTC a approuvé la mise en place du système à titre expérimental et, le mois dernier, Bell a demandé à ce que ce système soit mis en place de façon permanente. Nous avons initialement participé à ce projet parce que nous souhaitions améliorer la surveillance publique de l’IA. En raison du niveau inhabituel de confidentialité observé chez Bell et de l’absence de réponse à nos demandes d’informations accessibles au public, nous sommes de plus en plus préoccupés par les implications du système de Bell en matière de vie privée et de sécurité pour les Canadiens.

La demande de Bell Canada a été largement caviardée, ne fournissant que peu d’informations sur le type de données qu’elle recueille auprès des Canadiens pour entraîner son système d’IA et classer les appels. Selon Bell, un tel secret est nécessaire pour éviter d’alerter les « acteurs malveillants ». Nous nous y opposons. Cette affaire crée un précédent inquiétant, puisqu’il s’agit du premier cas connu d’utilisation de l’IA dans les systèmes de communication réglementés du Canada. L’IA est déjà difficile à expliquer sans ce secret supplémentaire.

Or, au lieu d’un débat public ouvert sur les avantages et les risques du système de Bell, l’audience du CRTC s’est transformée en un débat sur l’avenir de la communication des preuves au public et de la participation du public aux procédures réglementaires. Bell a présenté aux intervenants ce qu’elle appelle un « compromis », selon lequel les intervenants « légitimes » ont la possibilité de signer un accord de non-divulgation (AND) avec Bell s’ils souhaitent consulter les preuves confidentielles qu’elle a fournies au CRTC.

Étant donné le peu d’informations accessibles au public concernant les éléments fondamentaux du système, les intervenants qui refusent de signer l’accord de confidentialité par principe n’auront aucune idée du fonctionnement du système, des types d’informations qu’il recueille, de son risque de bloquer des appels légitimes, ni des menaces qu’il fait peser sur la vie privée des Canadiens. Le problème est que, pour nous, signer l’accord de confidentialité de Bell limiterait la publicité d’une procédure publique. Si nous signions l’accord de confidentialité de Bell pour consulter les preuves qu’elle a présentées au CRTC, nous ne pourrions pas discuter des risques potentiels dans le domaine public ni informer la population comme nous le faisons ici. Du point de vue de la procédure judiciaire, on ne voit pas clairement comment des décisions fondées en première instance sur des informations secrètes par le CRTC pourraient faire l’objet d’un recours ultérieur devant une cour publique et/ou via les mécanismes de recours publics du Conseil des gouverneurs (CG) que le Parlement a mis en place pour garantir la responsabilité des décisions réglementaires.

Nous avons récemment déposé notre opposition au système d’accords de confidentialité proposé par Bell. Jusqu’à présent, le CRTC s’est montré favorable à l’approche proposée par Bell, mais nous espérons qu’il reviendra sur sa position. Nous estimons que notre intervention contribue à mettre en lumière l’enjeu fondamental de cette instance. Elle explique en quoi le recours aux accords de confidentialité dans les instances publiques est incompatible avec les objectifs fondamentaux du Parlement, qui exige des instances publiques ouvertes et une prise de décision administrative fondée sur des preuves. Si les systèmes d’IA ne peuvent être discutés qu’à huis clos, ils sont alors en décalage avec les principes de la gouvernance démocratique et deviendront de plus en plus insensibles aux volontés collectives des êtres humains, telles qu’elles se reflètent dans nos lois publiques et les institutions qui les appliquent.

Vous souhaitez en savoir plus ? Voici la soumission au CRTC

Fenwick McKelvey est maître de conférences en politiques des technologies de l’information et de la communication au département des sciences de la communication de l’université Concordia.

Reza Rajabiun (maîtrise, LL.M., doctorat) est un expert en politique de la concurrence et en stratégie des télécommunications, dont les travaux de recherche portent sur la mise en place d’infrastructures à haut débit, l’évaluation de la qualité des réseaux à haut débit et la connectivité en milieu rural.

Ce blog rend compte des travaux réalisés dans le cadre d’un projet financé par le CRSH, intitulé « Media Goverance After AI », auquel participe l’ACLC.