Blog invité : Les développeurs d’intelligence artificielle doivent s’engager en faveur d’un consentement valable

Jonathan A. Obar, PhD, est professeur associé au département des études sur la communication et les médias de l’université York. Ses recherches et son enseignement portent sur les politiques d’information et de communication, et sur la relation entre les technologies numériques, les libertés civiles et l’inclusivité des cultures publiques. Ses publications universitaires portent sur le big data et la vie privée, les interfaces de consentement en ligne, la transparence de la confidentialité des données des entreprises et l’activisme numérique.

Les ensembles de données destinés à l’apprentissage de l’intelligence artificielle (IA) peuvent contenir des informations obtenues sans consentement valable. Qu’une organisation recueille des données directement auprès des utilisateurs ou d’une autre organisation, il est essentiel de s’assurer du consentement valable des personnes représentées dans les données. Alors que le gouvernement canadien débat du projet de loi C-27 et s’interroge sur l’avenir de l’intelligence artificielle éthique, cette question doit être une priorité.

Les développeurs peuvent tenter de former des systèmes d’IA pour aider un magasin à vendre des produits, une banque à déterminer les prêts hypothécaires, une compagnie d’assurance à fixer les primes, la police à identifier les suspects ou un juge à calculer les taux de récidive. Dans chacun de ces cas – et dans bien d’autres – si les personnes dont les données alimentent ces systèmes n’ont pas consenti à ce que leurs données soient utilisées dans le développement de l’IA, il s’agit d’une violation potentielle des libertés civiles. En outre, le manque de surveillance associé à l’absence de consentement valable pourrait entraîner des préjudices liés à la discrimination liée au big data.

Dans un article sur la collecte et l’utilisation problématiques des données par les développeurs d’IA, Kate Crawford, éminente spécialiste de l’IA, met en garde:

L’industrie de l’IA a favorisé une sorte de pragmatisme impitoyable, avec un minimum de contexte, de prudence ou de pratiques de données basées sur le consentement, tout en promouvant l’idée que la collecte massive de données est nécessaire et justifiée pour créer des systèmes d' »intelligence » informatique rentables (p. 95).

Lorsqu’une personne partage une photo en ligne, est-elle d’accord pour que la photo puisse entraîner l’IA pour les ressources humaines ? Lorsqu’une personne ouvre la porte d’un centre commercial, est-elle d’accord pour que les images des caméras de surveillance servent à la prise de décision automatisée pour les systèmes de justice pénale ? Le transfert de données d’un contexte à un autre soulève des questions quant au rôle du consentement en tant que mécanisme de contrôle. Les personnes qui tentent de donner leur consentement après avoir téléchargé une application comprennent-elles comment les informations personnelles peuvent circuler au sein d’une organisation ? Par exemple, du programme PC Optimum de Loblaws aux entreprises de services de santé et de services financiers au sein de l’organisation Loblaw ? D’une organisation à l’autre, par exemple du suivi de la localisation mobile de Foursquare à KFC ? Dans les deux cas, la réponse est probablement négative si les gens ne lisent pas les conditions d’utilisation et les politiques de protection de la vie privée.

Le consentement éclairé et « le plus grand mensonge de l’internet ».

Pour que le consentement soit valable, il faut que les personnes soient conscientes de la manière dont les informations personnelles sont utilisées à un moment donné et qu’elles en comprennent les implications pour l’avenir. Développer cette compréhension peut s’avérer difficile si les développeurs d’IA refusent d’enseigner aux gens les pratiques de l’industrie, et impossible si les gens ignorent les opportunités d’engagement et d’apprentissage.

Relevant une « logique extractive » au cœur de la manière dont les développeurs d’IA collectent et utilisent les données, Crawford écrit : « Il est devenu tellement normal dans l’industrie de prendre et d’utiliser tout ce qui est disponible que peu de gens s’arrêtent pour remettre en question les politiques sous-jacentes » (p. 93).

Ces politiques sous-jacentes comprennent ce que l’on appelle « le plus grand mensonge de l’internet », à savoir « J’accepte les termes et conditions » (voir : www.biggestlieonline.com). Ce mème Internet suggère que les gens « mentent » en acceptant les conditions des services sans les consulter, les lire ou les comprendre. La taille (c’est-à-dire « le plus gros ») est due à l’omniprésence des services numériques, dont les conditions sont acceptées en permanence.

Dans le cadre de deux études visant à démêler « le plus grand mensonge d’Internet », des étudiants de premier cycle et des adultes de plus de 50 ans se sont vus présenter un processus fictif de consentement en ligne pour un site de médias sociaux fictif. Dans les deux études, les participants ont systématiquement ignoré le processus de consentement en ligne et l’ont parcouru à toute vitesse, soit en sautant les politiques sans les consulter, soit en passant peu de temps à les lire. Pour évaluer si les participants comprenaient les implications de l’accord, les conditions de service incluaient des « clauses pièges ». Dans l’étude menée auprès des étudiants de premier cycle, les conditions d’utilisation comprenaient une clause relative au « premier enfant », qui obligeait les participants à renoncer à un enfant pour pouvoir utiliser le service de médias sociaux. Sur les 543 participants, 93 % ont accepté. Dans l’étude sur les adultes plus âgés, 83,4 % des 500 participants ont accepté de renoncer à un rein pour utiliser un service de médias sociaux similaire. Dans les deux études, plus de 98 % des participants n’ont pas identifié ces clauses problématiques lorsqu’on leur a demandé s’il y avait quelque chose de préoccupant dans les politiques.

Si les personnes interrogées dans le cadre des deux études ont pu passer à côté des clauses « pièges » et ne pas identifier deux implications très extrêmes de ce que l’on appelle un accord, il est probable qu’elles aient également manqué des occasions de s’informer sur le partage des données en vue du développement de l’IA.

Les raisons du « plus grand mensonge de l’internet » sont nombreuses, notamment la longueur et la complexité des politiques en matière de services numériques, ainsi que la résignation et le désintérêt de l’individu. Le « clickwrap » (voir ci-dessus), porte d’entrée des écosystèmes numériques façonnés et exploités par les capitalistes de la surveillance et autres bénéficiaires de l’IA, est particulièrement préoccupant. Au lieu d’innover en matière de conception pour favoriser la prise de conscience et la compréhension, cette interface utilisateur trompeuse encourage les comportements d’ignorance – en accélérant les gens dans les processus de consentement en ligne et vers les parties des services numériques qui génèrent des revenus.

Recommandations

Le gouvernement canadien semble maintenir la position selon laquelle un consentement valable est fondamental pour la protection des informations personnelles. Le consentement est au cœur de la législation actuelle sur la protection de la vie privée et semble être au cœur du projet de loi C-27. Mais il y a une différence considérable entre le consentement implicite ou explicite et le consentement valable. Le fait de s’appuyer sur le consentement implicite facilite l’absence d’autoréglementation organisationnelle, ce qui fait qu’il est difficile pour les gens de prendre conscience des implications de l’accord, puisqu’il n’y a pas de notification de l’acceptation de la politique. Le consentement explicite, qui se manifeste souvent par des accords de type « clickwrap », est également problématique, car la recherche suggère (voir la vidéo ci-dessus) que les accords de type « clickwraps » encouragent les comportements d’ignorance de la durée des services au profit des développeurs d’IA.

Le seul moyen éthique de progresser est d’obtenir un consentement valable.

Que les données nécessaires au développement de l’IA soient obtenues directement auprès d’individus ou d’une autre organisation, tous les efforts liés à la construction de l’IA doivent s’engager à garantir que les informations ont été obtenues par le biais d’un consentement valable. Les organisations doivent améliorer les processus de consentement en ligne en s’attaquant aux accords « clickwrap » problématiques. Elles doivent investir dans des stratégies réfléchies et engageantes pour informer et éduquer le public sur le développement de l’IA. Cela aidera les gens à comprendre les implications de l’accord et réduira « le plus grand mensonge sur Internet ». Sans ces efforts, un avenir défini par l’intelligence artificielle, réalisé par un manque de contrôle public, pourrait apporter des avantages aux développeurs et aux investisseurs, au détriment du contrôle individuel et des libertés civiles.

Pour plus d’informations, veuillez consulter le site www.biggestlieonline.com. Financé par le Commissariat à la protection de la vie privée du Canada, le Conseil de recherches en sciences humaines et l’Université York.