Blog invité : Les décideurs en matière d’IA devraient encourager les suppléments d’avis vidéo pour favoriser un consentement valable en ligne

Auteurs : Jonathan Obar et David Gelb, Université de York

Jonathan A. Obar est professeur associé au département des études sur la communication et les médias de l’université York. Ses recherches et son enseignement portent sur les politiques d’information et de communication, et sur la relation entre les technologies numériques, les libertés civiles et l’inclusivité des cultures publiques. Ses publications universitaires portent sur le big data et la vie privée, les interfaces de consentement en ligne, la transparence de la confidentialité des données des entreprises et l’activisme numérique.

David Gelb est professeur associé au département de design de l’université York. Ses recherches portent sur les interfaces éthiques et la pédagogie de la conception. Il enseigne la conception centrée sur l’utilisateur, la conception de la communication visuelle et la théorie de la conception de l’interaction au niveau du premier et du deuxième cycle. Au cœur de sa pratique professionnelle se trouve la recherche sur l’expérience utilisateur pour des clients dans les secteurs des sciences de la santé, de l’éducation et de la culture.

La conception d’une procédure de consentement en ligne est essentielle pour garantir que les personnes puissent décider de la protection de leurs propres informations.

Pour que les décisions en matière de consentement soient valables, il faut avoir accès aux informations (c’est-à-dire aux documents de notification) concernant l’organisation qui tente d’obtenir le consentement d’une personne. En ce qui concerne l’intelligence artificielle (IA), ces documents de notification devraient contenir, au minimum, des informations sur les données utilisées pour former une IA, les algorithmes qui conduisent les analyses et les résultats automatisés qui conduisent à la prise de décision organisationnelle. Si ces détails sont disponibles, c’est un pas en avant pour aider les gens à réfléchir à la question de savoir s’ils consentent aux pratiques organisationnelles en question, et aux implications de l’accord sur la durée des services.

À l’heure où l’IA est envisagée par les employeurs, les institutions financières, les universités, les spécialistes du marketing et d’autres acteurs pour prendre des décisions automatisées, les individus ont besoin d’informations accessibles et utiles pour s’engager dans des protections de contrôle. Les menaces de discrimination liée au big data et les iniquités liées à l’IA sont des préoccupations croissantes, en particulier pour les membres des communautés marginalisées.

Cependant, rendre l’information publiquement disponible n’est pas la même chose que de s’assurer que les individus peuvent accéder à cette information ou la comprendre.

Le défi des avis textuels

Les « documents de notification » font souvent référence aux conditions de service et aux politiques de confidentialité communiquées publiquement par l’intermédiaire de sites web statiques et riches en texte. La recherche suggèrent que que peu de personnes lisent les avis sous forme de texte. Les raisons sont diverses. Les politiques textuelles sont souvent longues, compliquées et ennuyeuses. La conception trompeuse de l’interface utilisateur détourne l’attention des politiques et l’oriente vers des boutons « d’accord » attrayants par le biais de clickwraps. Les gens sont pressés d’accéder rapidement à des services, de faire des achats, de jouer, de se connecter à des réseaux sociaux et ne peuvent pas s’embêter à passer des heures à lire le processus algorithmique d’une organisation.

Dans ses Lignes directrices pour l’obtention d’un consentement valablele Commissariat à la protection de la vie privée du Canada (CPVP) invite les organisations à faire preuve d’innovation et de créativité lorsqu’elles conçoivent des processus de consentement en ligne. L’objectif est de rendre les documents de notification plus attrayants, plus engageants et plus dynamiques. Le CPVP insiste sur le fait que « les organisations ne doivent pas se contenter de transposer sous forme numérique leurs politiques sur papier issues de l’environnement hors ligne ». De nouvelles recherche financées par le CPVP suggèrent que les vidéos de type médias sociaux peuvent apporter des améliorations aux notifications qui contribuent réellement à la prise de conscience individuelle, essentielle à la mise en place de protections de consentement significatives en ligne.

Conception de suppléments d’avis vidéo

« Des vidéos plutôt que des documents, n’importe quand » : tel est le commentaire d’un participant à l’étude discuté dans un rapport préliminaire rédigé par des chercheurs de l’université de York. De nombreux participants ont exprimé des sentiments similaires, suggérant que les avis vidéo sont préférés aux avis textuels.

FFinancé par le Commissariat à la protection de la vie privée du Canada et le Conseil de recherches en sciences humaines, les résultats préliminaires de l’étude sont inclus dans le rapport intitulé « La protection de la vie privée au Canada ». sont incluses dans un rapport intitulé Video Notice Design to Support Meaningful Consent Online : Une analyse des vidéos des médias sociaux sur l’intelligence artificielle et la protection de la vie privée et hébergé sur le nouveau site AI In Focus sur le nouveau site web du projet AI In Focus.

Note : La couverture d’un nouveau rapport sur les documents de notification vidéo de l’Université York, financé par le CPVP et le CRSH. Le rapport est disponible à l’adresse suivante : https://ainfocus.net. Conception graphique par Hannah Palmier Blizzard.

Les chercheurs ont créé quatre vidéos de type TikTok destinées à compléter les politiques de protection de la vie privée sous forme de texte et à les rendre plus faciles à comprendre. Chaque vidéo aborde une question de protection de la vie privée liée au développement et à l’utilisation de l’IA. Ils ont demandé aux participants des groupes de discussion ce qu’ils pensaient des vidéos et comment elles contribuaient à des processus de consentement significatifs en ligne.

Les conclusions préliminaires des groupes de discussion ont été regroupées sous forme de recommandations à l’intention des organisations intéressées par la conception d’avis vidéo. Le rapport souligne que, d’après les réponses des participants, il existe une préférence pour des compléments vidéo brefs (moins d’une minute) et en prise de vue réelle plutôt que pour des politiques de protection de la vie privée sous forme de texte. Les participants ont clairement indiqué que les vidéos pouvaient compléter les notices textuelles, en attirant leur attention sur les détails de l’information sur la vie privée et en les incitant à examiner plus en détail les documents textuels. Bien que les préférences en matière de longueur des vidéos posent des problèmes pour expliquer en détail les systèmes d’IA, les résultats suggèrent que des vidéos de type médias sociaux devraient être créées pour aider à informer sur les systèmes d’IA.

Une autre recommandation du rapport souligne l’importance d’assurer la représentation des communautés marginalisées dans les documents de notification vidéo. Les participants aux groupes de discussion ont suggéré que cette représentation à l’écran pourrait contribuer à la notification et aider à établir des liens avec le contenu. En effet, il est essentiel de veiller à ce que le contenu vidéo communique les risques liés à l’IA et les implications pour les membres des groupes les plus susceptibles d’être victimes d’iniquités liées à l’IA.

Enfin, le rapport recommande que les vidéos de type médias sociaux s’appuient sur les mèmes en vogue pour attirer l’attention sur les documents de notification de l’IA. Par rapport aux avis textuels ennuyeux, le contenu tendance peut aider à lancer le processus de notification et contribuer à la compréhension essentielle à un consentement valable. La création d’une série de vidéos itératives s’inscrit dans cette approche et peut aider à relever le défi consistant à tenter de transmettre les complexités de l’IA en moins d’une minute.

Les décideurs en matière d’IA devraient donner la priorité à l’amélioration des avis dans tous les contextes de l’IA

Le projet de loi canadien sur l’intelligence artificielle et les données (AIDA) exige que les organisations privées qui distribuent et utilisent l’IA « à fort impact » communiquent publiquement des informations sur le système sur un site web. Cet élément du projet de loi C-27 indique que des explications en langage clair sont requises, décrivant le fonctionnement de l’IA, le contenu et les décisions produites, ainsi que les procédures d’atténuation.

Les exigences en matière d’avis devraient s’étendre bien au-delà des systèmes d’IA dits « à fort impact », car divers systèmes d’IA dits « à faible impact » peuvent également causer des préjudices. Cela suggère que toute organisation espérant tirer profit de l’IA devrait investir dans des améliorations matérielles en matière de notification.

L’amélioration des documents de notification et des processus de consentement significatifs qui y sont associés nécessite plus qu’un texte statique sur un site web enterré derrière un clickwrap trompeur. Comme l’indique la Maison Blanche dans son Blueprint for an AI Bill of Rightsvous devez savoir qu’un système automatisé est utilisé et comprendre comment et pourquoi il contribue à des résultats qui ont un impact sur vous ». Bien que des recherches supplémentaires soient nécessaires pour déterminer comment les vidéos de type médias sociaux peuvent guider les individus au-delà de la notification vers l’explication, les décideurs en matière d’IA qui s’engagent à soutenir des protections de consentement significatives devraient donner la priorité à la création de documents de notification que les gens liront réellement.

Remerciements : Merci à Desirée de Jesús, Guilherme Cavalcante Silva, Hannah Palmier Blizzard, Grace Noua, Sam Loiselle et Brenda McPhail. Merci également à l’ACLC pour sa collaboration à ce projet.