Dossier préparé par Martin Gibert

La Déclaration de Montréal pour un développement responsable de l’Intelligence Artificielle a été lancée le  3 novembre 2017 lors d’un forum IA responsable organisé par l’Université de Montréal au Palais des Congrès. Il s’agissait par là de susciter un débat public et de « proposer une orientation progressiste et inclusive du développement de l’IA. » Après plusieurs mois de réflexions et de consultations, dix principes et près de soixante sous-principes on été dévoilés le 3 décembre 2018 à la société des arts technologiques, en marge du congrès NeurIPS.

De nombreux chercheurs et chercheuses du CRÉ ont été directement impliqués, à commencer par Marc-Antoine Dilhac qui fût l’instigateur de la Déclaration, mais aussi Christophe Abrassart, Martin Gibert, Jocelyn Maclure et Christine Tappolet qui ont été membre du comité scientifique au côté notamment du chercheur en intelligence artificielle Yoshua Bengio (voir sa tribune sur la Déclaration dans the Conversation).

On trouve la Déclaration complète et les différents rapports sur le site de la Déclaration. Ce dossier du CRÉ vise à présenter de façon synthétique la Déclaration ainsi que les nombreuses publications qui l’on accompagnée.

Le préambule commence par prendre acte du bouleversement: « Pour la première fois dans l’histoire de l’humanité, il est possible de créer des systèmes autonomes capables d’accomplir des tâches complexes que l’on croyait réservées à l’intelligence naturelle : traiter de grandes quantités d’informations, calculer et prédire, apprendre et adapter ses réponses aux situations changeantes, et reconnaître et classer des objets. » Le préambule se poursuit en explicitant les défis éthiques et sociaux que soulève les systèmes d’IA : « En effet, les machines intelligentes peuvent contraindre les choix des individus et des groupes, abaisser la qualité de vie, bouleverser l’organisation du travail et le marché de l’emploi, influencer la vie politique, entrer en tension avec les droits fondamentaux, exacerber les inégalités économiques et sociales, et affecter les écosystèmes, l’environnement et le climat. Bien qu’il n’y ait pas de progrès scientifique ni de vie sociale sans risque, il appartient aux citoyennes et aux citoyens de déterminer les finalités morales et politiques qui donnent un sens aux risques encourus dans un monde incertain. » La Déclaration se décline ensuite dans les dix principes suivants :

• Principe de bien-être

Le développement et l’utilisation des systèmes d’intelligence artificielle (SIA) doivent permettre d’accroître le bien-être de tous les êtres sensibles.

• Principe de respect de l’autonomie

Les SIA doivent être développés et utilisés dans le respect de l’autonomie des personnes et dans le but d’accroître le contrôle des individus sur leur vie et leur environnement.

• Principe de protection de l’intimité et de la vie privée

La vie privée et l’intimité doivent être protégées de l’intrusion de SIA et de systèmes d’acquisition et d’archivage des données personnelles (SAAD).

• Principe de solidarité

Le développement de SIA doit être compatible avec le maintien de liens de solidarité entre les personnes et les générations.

• Principe de participation démocratique

Les SIA doivent satisfaire les critères d’intelligibilité, de justifiabilité et d’accessibilité, et doivent pouvoir être soumis à un examen, un débat et un contrôle démocratiques.

• Principe d’équité

Le développement et l’utilisation des SIA doivent contribuer à la réalisation d’une société juste et équitable.

• Principe d’inclusion de la diversité

Le développement et l’utilisation de SIA doivent être compatibles avec le maintien de la diversité sociale et culturelle et ne doivent pas restreindre l’éventail des choix de vie et des expériences personnelles.

• Principe de prudence

Toutes les personnes impliquées dans le développement des SIA doivent faire preuve de prudence en anticipant autant que possible les conséquences néfastes de l’utilisation des SIA et en prenant des mesures appropriées pour les éviter.

• Principe de responsabilité

Le développement et l’utilisation des SIA ne doivent pas contribuer à une déresponsabilisation des êtres humains quand une décision doit être prise.

• Principe de développement soutenable

Le développement et l’utilisation de SIA doivent se réaliser de manière à assurer une soutenabilité écologique forte de la planète.

Pour consulter la version préliminaire de la Déclaration et ses sept principes (Novembre 2017).

Les chercheurs du CRÉ au cœur de la Déclaration :

En tant qu’instigateur et responsable du comité d’élaboration de la Déclaration, Marc-Antoine Dilhac a été présent sur de nombreuses tribunes : présentation de la Déclaration (vidéo de 20 minutes) lors du lancement le 4 décembre 2017, Intervention pour le magazine RAD de Radio Canada, capsule sur l’importance de l’éthique en IA (vidéo 3 min), capsule pour les influenceurs. On peut également lire son entrevue dans le Devoir et écouter celle à Medium large (audio 21 min) et au journal de Radio Canada (audio 9 min).

Pour sa part, Christophe Abrassart fut responsable de la délibération citoyenne et de la coconstruction et membre du comité scientifique. Il présente ici (vidéo 18 min) le principe des cafés citoyens et des scénarios prospectifs et on peut l’écouter en podcast (audio, à partir de la 43^e min).

Martin Gibert a été coordonnateur du comité scientifique de la version préliminaire avant de participer au comité d’élaboration. Il présente la Déclaration dans cette conférence (vidéo 12 minutes), dans cette capsule IVADO (vidéo 2 min), dans cette entrevue télévisé (vidéo 10 min) et dans La Presse.

Jocelyn Maclure  (avec Martin Gibert) a participé à La Sphère sur Radio Canada, le 18 novembre 2017 et a publié une tribune dans le Devoir.

Dominic Martin a contribué de son côté en organisant une soirée de réflexion à l’UQAM autour de la déclaration dont on peut lire le compte rendu ici.

Christine Tappolet, enfin, qui a été membre du comité directeur commente ici la Déclaration pour CBC news.

Les rapports

La déclaration est accompagnée de six rapports :

• Une présentation de la démarche et de la méthodologie (62 pages), rédigée par Marc-Antoine Dilhac et Christophe Abrassart.
• Un portrait 2018 des recommandations internationales en éthique de l’IA (26 pages), sous la direction de Martin Gibert.
• Les résultats des ateliers de coconstruction de l’hiver 2018 (55 pages).
• La coconstruction de l’automne 2018 : les activités clés (65 pages), avec des contributions de Christophe Abrassart.
• La coconstruction en ligne et les mémoires reçus (43 pages), rédigé par Martin Gibert.
• Les chantiers prioritaires et leurs recommandations pour le développement responsable de l’IA (64 pages), largement rédigé par Marc-Antoine Dilhac et Christophe Abrassart. Les chantiers en questions portent sur la gouvernance participative de l’IA, la littératie numérique, l’inclusion numérique et la diversité, et l’environnement. Ce dernier rapport se conclue par 8 recommandations pour des politiques publiques dont voici les intitulés:
• Un organisme indépendant de veille et de consultation citoyenne.
• Une politique d’audit et de certification des systèmes d’IA.
• Encapacitation et automatisation
• Une formation en éthique
• Favoriser un développement inclusif de l’IA
• Protéger la démocratie des manipulations politiques de l’information
• Développement international de l’IA
• Empreinte environnementale directe et induite des systèmes d’IA.

Mention dans des publications scientifiques :

• Europe’s AI researchers launch professional body over fears of falling behind, Nature, 10 décembre 2018.
• Floridi, L., Cowls, J., Beltrametti, M. et al. Minds & Machines (2018) 28: 689. https://doi.org/10.1007/s11023-018-9482-5
• Gelinas et al. 2019, Rapport de l’IRIS: Financer l’intelligence artificielle, quelles retombées économiques et sociales pour le Québec? 
• Green, D., Hoffmann A.L., Stark, L. (2019) «Better, Nicer, Clearer, Fairer: A Critical Assessment of the Movement for Ethical Artificial Intelligence and Machine Learning», Proceedings of the 52nd Hawaii International Conference on System Sciences.
• Gibert, M. (2019), « Ethique artificielle », version Grand Public, dans M. Kristanek (dir.), l’Encyclopédie philosophique, URL: http://encyclo-philo.fr/etique-artificielle-gp/
• Hagendorff, Thilo. “The Ethics of AI Ethics: An evaluation of Guidelines“.
• Maclure, J. et Saint-Pierre, M-N. Le nouvel âge de l’intelligence artificielle : une synthèse des enjeux éthique, Les Cahiers de propriété intellectuelle, volume 30, numéro 3, novembre 2018, pages 741-765
• Winfield, A., & Jirotka, M. (2018). Ethical governance is essential to building trust in robotics and artificial intelligence systems. Philosophical transactions. Series A, Mathematical, physical, and engineering sciences, 376 (2133), 20180085. doi:10.1098/rsta.2018.0085
• Zeng, Yi, Enmeng Lu, and Cunqing Huangfu. “Linking Artificial Intelligence Principles.” Proceedings of the AAAI Workshop on Artificial Intelligence Safety (AAAI-Safe AI 2019), 2019.

Mention dans les médias généralistes:

• Déclaration de Montréal : pour que l’humain reprenne le contrôle sur la machine, Le Devoir, 8 décembre 2018.
• Intelligence artificielle : les cinq défis de la déclaration de Montréal, L’Actualité, 7 décembre 2018.
• The Montréal Declaration : Why we must develop AI responsability (par Yoshua Bengio), The Conversation, 5 décembre 2018.
• La Déclaration de Montréal est lancée, Udem nouvelles, 4 décembre 2018.
• Don’t outsource killing to AI, and other principles in the Montreal declaration for ethical tech, CBC News, 4 décembre 2018.
• #AIforhumanity, be, juillet 2018.
• Intelligence artificielle : Microsoft renforce sa présence à Montréal, La Presse, 22 juin 2018.
• Des citoyens veillent au développement responsable de l’IA, Udem nouvelles, 19 juin 2018.
• Deep Learning : Why it’s time for AI to get philosophical, The Globe and Mail, 25 avril 2018.
• Actus Science : Pour une intelligence artificielle responsable, La Presse, 5 avril 2018.
• L’intelligence artificielle en débat, journal Métro, 21 mars 2018.
• Qui a tué Elaine Harzberg?, La Presse, 22 mars 2018.
• Se préoccuper des impacts sociaux de l’IA, Le Devoir, 14 mars 2018
• Déclaration de Montréal : la coconstruction avec les citoyens est commencée!, Udem nouvelles, 28 février 2018.
• La course à l’éthique est lancée, Le Monde, 2 février 2018.
• Quebec is well placed to become a leader in AI ethics, The Gazette, 19 décembre 2017.
• Montréal veut devenir un chef de file dans l’éthique en IA, Le Soleil, 17 décembre 2017.
• Le Canada en tant que leader en IA, Affaires Universitaires, 6 décembre 2017.
• La communauté de l’IA a bien fait ses devoir (par Yoshua Bengio), Le Devoir, 2 décembre 2017.
• Déclaration de Montréal pour un développement responsable de l’IA, Udem nouvelles, 3 novembre 2017.