Le manque d’éthique, incarnée par les grandes entreprises, dirige une grande partie de l’économie canadienne. Du mépris flagrant démontré par le secteur extractif envers l’environnement et les droits humains à la fabrication de systèmes et de composants d’armes utilisés pour la guerre au Yémen, le Canada profite de la destruction et des conflits.
Au cours des dernières années, un nouveau secteur a gagné du terrain dans l’économie canadienne. Le nombre de start-ups technologiques et de laboratoires de recherche travaillant au développement de l’intelligence artificielle croît à un rythme impressionnant.
Ces nouveaux campus reluisants d’IA surgissent partout au Canada, notamment à Montréal, au plus grand plaisir des gouvernements fédéral et provincial qui visent à faire du Canada un chef de file dans le développement de cette nouvelle technologie.
Dans le quartier embourgeoisé du Mile-Ex à Montréal, plusieurs nouveaux centres d’IA dominent désormais le paysage urbain. Parmi eux, le centre de recherche de l’Institut des algorithmes d’apprentissage de Montréal (Mila), présidé par Yoshua Bengio, l’un des chercheurs les plus éminents de l’industrie.
Cependant, bien qu’il se présente comme un établissement d’enseignement financé par les fonds publics, les liens de Mila avec les intérêts privés sont clairs. En 2016, Bengio était parmi les rares Canadiens invités à la conférence annuelle de Bildeberg (en Allemagne) ; une réunion secrète à laquelle assistent les personnalités les plus puissantes du monde, allant des personnalités politiques, aux PDG et aux anciens directeurs d’agences de renseignement. Au sein de Mila, plusieurs professeurs sont également directement affiliés aux géants de la technologie Google, Microsoft et Facebook.
L’IA est généralement présentée comme une innovation pratique et passionnante alimentée par la vision de l’entreprise technologique. Les cinq premières sociétés technologiques mondiales, Google, Amazon, Facebook, Apple et Microsoft (GAFAM) ont toutes investi dans l’IA et chacune a incorporé une série de start-ups, dont plusieurs ont leur siège social à Montréal et Toronto.
Or, nous ne pouvons que rester sceptiques quant à la prétendue promesse de l’IA. Que cette innovation soit saluée avec tant d’enthousiasme par les sociétés les plus puissantes du monde qui poursuivent manifestement leurs propres intérêts et profits au détriment du bien-être collectif devrait inspiré un regard critique.
L’IA n’est pas seulement une mode technologique inoffensive. Cette nouvelle technologie est utilisée pour alimenter le capitalisme, le manque d’éthique ainsi que pour décourager la dissidence. Et donc, de permettre que l’IA soit développée librement et sans contraintes au Canada est éthiquement problématique.
Le panoptique technologique
Au 18ème siècle, le théoricien libéral anglais Jeremy Bentham a développée une conception de prison efficace qui permettrait à très peu de personnes de surveiller simultanément de nombreux prisonniers. Le panoptique de Bentham était l’aboutissement logique d’une idéologie libérale qui cherchait à priver de leur liberté les personnes les plus marginalisées par le capitalisme.
Nous pourrions faire une comparaison avec ce qui se passe sous le « capitalisme de surveillance » — un terme introduit par Shoshana Zuboff, pour décrire les conditions uniques de la marchandisation et de la collecte massive de données sous le capitalisme technologique avancé. Le transfert omniprésent et consensuel de notre vie quotidienne et de nos interactions vers le monde numérique a rendu les structures physiques inutiles. Non seulement nous sommes constamment sous surveillance, mais en grande partie nos vies numériques sont automatiquement enregistrées et utilisées pour créer des profils personnels détaillés de tous les individus grâce à la technologie de l’IA.
On nous dit que cette collecte de données intrusive ne sert qu’à nous identifier en tant que consommateurs, permettant aux entreprises de faire de la publicité plus efficacement. Ces assurances servent à masquer les moyens par lesquels la technologie de l’IA est déjà utilisée pour porter atteinte aux libertés et droits fondamentaux.
Une menace croissante pour les droits civils et humains
Au Canada, l’utilisation de l’IA est déplorablement non réglementée. Cela est troublant, d’autant plus que l’utilisation de programmes d’IA, tels que la reconnaissance faciale, est déjà déployée par les forces de l’ordre dans les espaces publics. Calgary et Toronto ont admis utiliser la technologie de reconnaissance faciale, tandis que d’autres villes comme Montréal et Halifax refusent de confirmer ou de nier son utilisation. Les individus peuvent donc être identifiés à leur insu par les services de police lorsqu’ils sont dans l’espace public. De plus, on ignore encore ce qui arrive aux données générées par ces programmes.
L’utilisation de la reconnaissance faciale est problématique pour plusieurs raisons, notamment puisqu’il s’agit d’une atteinte à la vie privée et aux droits civils. En effet, dans une démocratie à proprement dite, les citoyens devraient avoir le droit d’occuper les espaces publics sans être surveillés.
La technologie est également souvent inexacte et biaisée. Selon plusieurs études menées aux États-Unis et au Royaume-Uni, la technologie de reconnaissance faciale souvent ne fait pas la différence entre les femmes et les personnes racisées. Dans une expérience menée au pays de Galles, des milliers de personnes ont été identifiées à tort comme des criminels par les forces de l’ordre. Il est très inquiétant d’imaginer la technologie avec un biais intégré déployé par une institution déjà biaisée. En raison de ces préoccupations, l’Union européenne envisage une interdiction de cinq ans de l’utilisation de la technologie de reconnaissance faciale.
Au Canada, l’IA est également utilisée par les agents d’immigration dans leur processus de sélection. Les résultats publiés par des chercheurs de l’Université de Toronto ont identifié l’utilisation de ces programmes automatisés et biaisés comme une grave préoccupation pour les droits humains, déclarant que « Ces systèmes auront des conséquences qui représentent une question de vie ou de mort pour les gens ordinaires, dont beaucoup fuient leur survie ». Leurs recherches mettent également en évidence les préoccupations liées à la transparence et à la responsabilité des entreprises.
L’IA est en outre déployée par des entreprises comme Facebook et Twitter pour surveiller et censurer ce qui est considéré comme du contenu inapproprié. Cependant, il y a peu ou pas d’informations sur les algorithmes utilisés pour effectuer ces déterminations. En tant que tel, notre capacité à parler et à communiquer efficacement et librement sur ces plates-formes est étroitement et secrètement contrôlée par leurs propriétaires. Le manque de transparence qui en résulte, combiné au pouvoir grotesque détenu par ces intérêts privés, est profondément troublant. Nous pourrions bientôt découvrir que le seul discours acceptable sur Internet est celui qui correspond à la vision du monde promulguée par ces léviathans technologiques.
Écraser les mouvements sociaux
On sait depuis plusieurs années maintenant que la GRC et le SCRS surveillent et recueillent des données sur les militants écologistes, à l’appui des sociétés pétrolières et gazières. À l’ère de la surveillance de masse, il est facile d’imaginer que les pouvoirs d’espionnage accrus dérivés de la technologie de l’IA conduiront au contrôle plus marqué des mouvements sociaux.
La capacité de se rassembler librement en public est essentielle à la liberté d’expression démocratique, mais ceux qui se rassemblent pour protester sont presque toujours la cible de harcèlement et de surveillance par les forces de l’ordre. Lors des grèves étudiantes de 2012 au Québec, la police a régulièrement filmé des visages de manifestants sans leur consentement. Ces tactiques intrusives et illégales seraient massivement facilitées par l’introduction de la technologie de reconnaissance faciale de l’IA. Associée à une collecte de données automatisée, l’IA facilite le ciblage de ceux qui expriment leur désaccord. Tout cela compromet considérablement la capacité de s’organiser efficacement sur le plan politique.
Une utilisation douteuse des fonds publics
Les problèmes éthiques qui entourent l’utilisation de l’IA et qui entraînent des violations des droits humains devrait justifier un examen public approfondi. Cependant, loin de faire pression pour une réglementation sur le développement de l’IA, de nombreux niveaux de gouvernement subventionnent activement l’industrie.
Depuis 2016, plus de 2 milliards de dollars de fonds publics ont été dépensés par les gouvernements fédéral et provinciaux pour soutenir des entreprises privées menant des activités de recherche et développement en IA. En 2017, le gouvernement fédéral a annoncé sa stratégie pancanadienne d’intelligence artificielle, financée par 125 millions de dollars de fonds publics pour subventionner la recherche en IA. Au-delà des profits privés générés pour les sociétés qui reçoivent ces fonds, le gouvernement canadien finance la recherche au détriment de la réalisation des droits civils et humains au Canada.
L’IA et l’avenir de la démocratie
Bien que le Canada ait adopté une charte numérique en 2019, le document se limite actuellement à quelques principes généraux qui n’ont pas été traduits en actions efficaces. Kean Birch a fait remarquer dans le Globe and Mail que « ce qui nous reste en ce qui concerne la Charte numérique est vraiment juste des mots, pas grand-chose d’autre — pas de réglementation, pas de législation, pas de nouveaux droits ».
Une vague reconnaissance théorique des risques de l’IA est dangereusement insuffisante. Il est ridicule d’imaginer que Google et Amazon soient capables d’autorégulation et de responsabilité éthique, compte tenu de leurs actions passées. Il est ridicule de permettre à une entreprise qui a supprimé le slogan « don’t be evil » de sa philosophie d’entreprise de donner libre cours à son pouvoir et à son contrôle sur la société.
De plus, les risques de laisser cette industrie consolider des liens intimes avec les institutions étatiques sont immenses et devraient être une préoccupation urgente pour tous ceux qui tiennent à une société libre et démocratique. Nous devons reconnaître que ces campus de recherche canadiens en IA ne travaillent pas dans l’intérêt de « l’innovation » canadienne, mais au service du capitalisme de surveillance.
Article d’abord paru dans Canadian Dimension, en langue originale anglaise.
Traduction : Elizabeth Leier
Crédit photo : EFF Photos (Flickr)
