Auteurs: J. Stackhouse

Quand le monde s’est engagé dans la course à l’intelligence artificielle (IA), le Canada a commencé en force, comme un Andre De Grasse, en prenant les devants en recherche et développement.

Aujourd’hui, sommes-nous en mesure de gérer les incidences éthiques et sociales de l’IA ?

Les ratés de l’IA font régulièrement les manchettes. Pensons aux algorithmes qui avantagent les candidats masculins ou aux logiciels de reconnaissance faciale incapables de détecter correctement le visage de personnes de couleur.

La semaine dernière, on a annoncé la nomination de Foteini Agrafioti, dirigeante de Borealis AI et fervente partisane d’une IA éthique, au poste de coprésidente du nouveau Conseil consultatif en matière d’intelligence artificielle du Canada. Elle a animé la dernière séance Les innovateurs RBC, qui portait sur la nécessité de lutter contre les biais en IA, en compagnie d’Elissa Strome, directrice générale de la Stratégie pancanadienne en matière d’intelligence artificielle à l’Institut canadien de recherches avancées (ICRA), et de Layla El Asri, directrice de recherche au laboratoire de recherche Microsoft à Montréal.

Voici leurs réflexions sur ce que le milieu scientifique, les gouvernements et les simples citoyens peuvent faire pour s’attaquer aux biais de l’IA, et sur le positionnement du Canada comme chef de file en matière d’éthique dans ce domaine.

1. Utiliser la technologie pour exhiber les biais

Les biais ont toujours existé dans notre société, et ils se sont naturellement introduits dans nos données. Mme El Asri y voit une occasion à saisir. À défaut d’arriver à mettre à nu nos propres biais, c’est-à-dire nos préjugés inconscients, nous pouvons mettre au jour les biais de nos algorithmes. Pour ce faire, les entreprises doivent procéder à des audits de leurs outils d’IA pour y détecter les biais à chaque étape du processus, comme le font désormais les grands laboratoires. Mme El Asri a souligné les efforts de dirigeants canadiens comme Yoshua Bengio, un pionnier de l’IA, visant à susciter dans le secteur canadien des technologies une volonté de développer l’IA de manière responsable.

2. Diversifier le secteur

À l’heure actuelle, l’intelligence artificielle est développée par un cercle très restreint d’individus : essentiellement des hommes ayant fait des études supérieures dans les mêmes établissements et qui vivent aujourd’hui dans les mêmes villes. Les femmes comptent pour seulement 18 % des chercheurs en IA, une situation que Mme Strome qualifie de « désastreuse ». Des organismes comme l’ICRA veulent amener plus de personnes à participer à la discussion sur le développement de l’IA, grâce à des initiatives telles que le laboratoire d’été AI for Good, un programme de formation de sept semaines à l’intention des étudiantes de premier cycle en IA.

3. Diversifier les données

La valeur de l’IA ne se mesure que par celle des données sur lesquelles elle s’appuie. « Si vos données ne sont pas suffisamment représentatives, votre modèle ne sera pas viable », fait valoir Mme El Asri. La vigilance est de mise pour assurer le caractère représentatif des données – un domaine dans lequel le Canada a su se démarquer. Si les données que vous utilisez sont recueillies dans un pays multiculturel comme le Canada, elles représenteront vraisemblablement des personnes d’origines ethniques différentes. De telles données seront indispensables à la mise au point d’une technologie qui profite à tous, surtout dans un domaine comme celui des soins de santé.

4. Consulter les chercheurs en sciences sociales

Pour le moment, la discussion sur les enjeux qui vont transformer notre société est l’affaire des acteurs du milieu des technologies et des décideurs, essentiellement. Nous devons avoir une vue d’ensemble en intégrant au processus de développement le point de vue des chercheurs en sciences sociales. Dans le cadre d’une initiative récente de l’ICRA, informaticiens et chercheurs en sciences sociales se sont réunis pendant une journée pour aborder les dimensions sociales, juridiques et éthiques de l’IA. « Les informaticiens étaient impatients d’avoir leur avis et leurs conseils », souligne Mme Strome. De même, Mme El Asri affirme que les comités sur l’IA et l’éthique à Microsoft sont composés de personnes issues de différentes disciplines, dont l’anthropologie et l’histoire.

5. Sensibiliser le public

« On constate qu’il y a beaucoup de crainte, de sources de malentendu et de mythes à propos de l’IA », indique Mme Strome. D’ici quelques années, il sera indispensable d’inviter le public à prendre part au débat sur l’IA. Les gens doivent connaître les répercussions positives de l’IA sur leur quotidien, mais aussi les risques qu’elle pose. Mieux la prochaine génération comprendra l’IA et ses conséquences sociales et éthiques, mieux elle sera préparée à poser les bonnes questions à ses dirigeants. Selon Mme Agrafioti, on est particulièrement sensibilisé à la question de l’équité au Canada, et on porte un regard critique sur la technologie avant l’étape d’implantation. La mise en marché de produits éthiques repose sur ce juste équilibre entre notre savoir-faire technique et nos valeurs comme société.

6. Assurer une solide gouvernance

L’IA a progressé beaucoup plus rapidement que les pouvoirs de réglementation. C’est pourquoi nous voyons d’un bon œil l’adoption, fin mai, d’un ensemble de principes en IA par l’OCDE. Les pays membres se sont en effets engagés à respecter des normes de développement de l’IA s’appuyant sur des valeurs. Nos dirigeants ont un rôle extrêmement important à jouer dans l’élaboration de politiques et d’une réglementation encadrant le recours à l’IA, tant au Canada qu’à l’étranger. Mme Strome affirme que le Canada, grâce à sa réputation enviable à l’échelle mondiale, est bien positionné pour exhorter la communauté internationale à rattraper le temps perdu. L’été dernier, le premier ministre Trudeau et le président Macron ont annoncé la création du Groupe international d’experts en IA, une initiative conjointe visant à soutenir et à orienter l’adoption responsable des technologies de l’IA, dans le respect des droits de la personne. Le tout premier symposium se tiendra à Paris cet automne.

L’élimination des biais liés aux machines nécessitera une approche humaine, et aucun pays n’est mieux placé que le Canada pour prendre le relais.

Source originale.

Auteurs