Les développements récents en intelligence artificielle (IA) laissent présager des transformations importantes dans les sphères économique, politique et sociale, ainsi que dans le domaine de la recherche scientifique. Ces développements soulèvent des enjeux éthiques importants. Peut-on utiliser un algorithme de recrutement ou de prédiction des risques s’il comporte un biais sexiste, raciste ou lié à d’autre formes de discrimination? Quelles sont nos obligations d’utiliser ces algorithmes de manière transparente et équitable? Comment un robot médical peut-il respecter l’autonomie et la dignité d’un patient? Quelles sont les bonnes politiques publiques pour se préparer au déploiement de la voiture autonome, des algorithmes d’apprentissage machine ou autres technologies de l’IA?

Face à ces divers types d’enjeux, l’éthique de l’IA s’intéresse à ce qui est bon, juste ou vertueux dans la mise en œuvre des systèmes d’IA. C’est une discipline récente et transversale qui combine des éléments de philosophie de la technique, d’éthique des robots, d’éthique des données massives et de l’information, mais aussi d’éthique publique, d’éthique des affaires, d’éthique de la guerre, de bioéthique, de philosophie sociale et politique, etc. De façon générale, l’éthique de de l’IA se demande quels principes moraux devraient guider les développements des technologies qui simulent certaines fonctions de l’intelligence humaine. Des initiatives comme la Déclaration de Montréal pour un développement responsable de l’IA visent précisément à répondre à ce type de préoccupations.

L’IA soulève aussi des questions d’éthique fondamentale. Par exemple, un système d’IA pourrait-il être un agent moral? Une difficulté consiste à amener les systèmes d’IA à agir pour les bonnes raisons. Par ailleurs, un système d’IA ne pourrait-il pas être un patient moral ayant des droits protégeant ses intérêts? Cela suppose-t-il qu’un système d’IA possède des états affectifs ou des états mentaux artificiels? On peut en outre se demander s’il serait possible ou souhaitable d’automatiser la prise de décision morale. Bref, les chercheuses et les chercheurs en éthique de l’IA ont assurément du travail pour de nombreuses années.

Pour obtenir plus d’information ou pour communiquer avec des chercheurs en éthique de l’IA, vous pouvez contacter Martin Gibert.

Liens utiles :

La Déclaration de Montréal pour un développement responsable de l’IA

Dossier du CRÉ sur la Déclaration de Montréal, par Martin Gibert

La quatrième blessure, le blogue de Martin Gibert

Pour s’inscrire à la liste de diffusion Ethique-IA, c’est ici.