Appel à communications 

Cinquième journée CRÉ et OBVIA en éthique de l’IA: Surveillance

(Université de Montréal, 2 février 2024)

Cette journée d’étude en éthique de l’IA est organisée par Martin Gibert (U. de Montréal), Hazar Haidar (UQAR) et Alexandra Prégent (U. Leiden) avec le Centre de recherche en éthique (CRÉ) et l’Observatoire international sur les impacts sociétaux de l’IA et du numérique (OBVIA). Proposition à envoyer avant le 2 octobre 2023. 

À l’ère de la Révolution Technologique, la surveillance est devenue omniprésente dans nos vies. En 2006, le SSN (Surveillance Studies Network) définissait, dans son rapport au Commissaire à l’information britannique, la surveillance ainsi: “Nous sommes en présence d’une surveillance lorsque nous constatons qu’une attention délibérée, routinière, systématique et ciblée est portée aux détails personnels, à des fins de contrôle, de droit, de gestion, d’influence ou de protection,” (p.4).

Dépassant les frontières de la sécurité (Lyon, 1998, Goodman, 2022; Zuboff, 2019), la surveillance est désormais aussi un outil précieux pour le marketing, la santé publique et la vie quotidienne (repérage sur une carte électronique, partage de localisation en temps réel, etc.). Il est désormais rare d’être dans des contextes dépourvus d’outils technologiques qui observent, collectent et analysent nos moindres mouvements (Murakami Wood, (ed.), 2006); Doyle et Macnish, 2020; Saheb, 2022).

Cette extension du domaine de la surveillance a engendré de nouveaux phénomènes sociaux contrastés sinon contradictoires. L’exhibitionnisme (Koskela, 2002) numérique et le cyber-activisme (ou hacktivism)  (Nissenbaum, 2009; Delmas 2018) en sont deux exemples. Alors que de nombreuses personnes se portent volontaires pour exhiber les moindres détails de leur vie (constante mise à jour des profils et story Instagram, TikTok, Facebook, participation aux télé-réalités), les cyber activistes développent des stratégies sophistiquées pour se soustraire à la surveillance imposée aux individus. La surveillance technologique de plus en plus performante se retrouve ainsi au centre des tensions entre pouvoir, savoir, culture et droits humains (Foucault, 1975, Nissenbaum, 2009).

Lors de cette 5ième journée en éthique de l’IA, nous invitons les auteur.es à explorer les enjeux de surveillance soulevés par les nouvelles technologies. 

Les propositions de communication à remettre avant le 2 octobre 2023 peuvent aborder des questions générales sur l’éthique de la surveillance ou propres à des domaines spécifiques comme la surveillance du travail (en entreprise), de la santé (Halsband et Heinrichs, 2022), pour des fins de sécurité civile et militaire, pour l’agriculture ou l’environnement ou encore au regard des droits humains (Hildebrandt, 2013).  

Voici quelques pistes (ne pas s’y restreindre): 

• Comment classer les différents types de surveillance?
• La surveillance ciblée (via les profils sur les réseaux sociaux, internet of things, montre connectée, application de santé, anti-suicide…) posent-elle des questions éthiques spécifiques? 
• Que penser des nouvelles formes de présentation de soi, voire d’exhibitionnisme (en est-ce?), qui émergent en même temps que les nouvelles formes de surveillance?
• Comment préserver la confiance envers un état ou un employeur qui surveille ses citoyens ou ses employés? 
• Jusqu’où le besoin de sécurité peut-il justifier la surveillance? L’hypothèse du monde vulnérable de Nick Bostrom  (2019) est-elle réaliste? Est-il légitime de ne pas diffuser en open source les larges modèles de langue (comme GPT4)? 
• Le respect de la vie privée est-il compatible avec les nouvelles technologies de surveillance (reconnaissance automatique des émotions, reconnaissance par la voix)? Faut-il interdire la reconnaissance faciale (ex. Clearview AI ) (Almeida et al. 2022)?
• Quel bilan éthique tirer des applications de traçage (Alerte Covid, TousAntiCovid,…) contre la Covid-19? 
• Quelles mesures peuvent être prises pour traiter les biais potentiels et les disparités qui peuvent survenir lors de l’utilisation de la surveillance dans les interventions de santé publique?
• Comment les systèmes de surveillance par IA peuvent-ils aider les autorités de santé publique à répartir les ressources et à établir des priorités en cas d’urgence?

Les présentations d’une durée maximale de 20 minutes seront suivies d’une période de questions de 15 minutes. L’atelier du 2 février 2024 se déroulera en mode hybride, de 9:00 à 17:00 (heure du Québec).

Envoyez votre proposition avant le 2 octobre 2023 à : hazar_haidar@uqar.ca

Elle doit comporter :

• Un titre (maximum 10 mots)
• Un résumé (maximum 300 mots)
• Nom et titre, établissement, affiliation ou organisation.

À noter que les candidatures peuvent venir de différents domaines, incluant entre autres : philosophie, sciences politiques, criminologie,  science cognitive, psychologie, bioéthique, droit, informatique, génie, communication et sociologie. Nous encourageons les candidatures étudiantes.

Références

​​Ali, M. A. and Mann, S. (2013) « The inevitability of the transition from a surveillance-society to a veillance-society: Moral and economic grounding for sousveillance, » (ISTAS) Social Implications of Wearable Computing and Augmented Reality in Everyday Life, Canada, pp. 243-254, doi: 10.1109/ISTAS.2013.6613126.

Almeida, D., Shmarko, K. & Lomas, E. (2022) The ethics of facial recognition technologies, surveillance, and accountability in an age of artificial intelligence: a comparative analysis of US, EU, and UK regulatory frameworks. AI Ethics 2, 377–387. https://doi.org/10.1007/s43681-021-00077-w

Arendt, H. (1972) “Civil Disobedience” In “Crises of the Republic”.

Bandara P. (2023) “This Clothing Line Tricks AI Cameras Without Covering Your Face” PetaPixel. https://petapixel.com/2023/01/20/this-clothing-line-tricks-ai-cameras-without-covering-your-face/. 

Bostrom, N. (2019), The Vulnerable World Hypothesis. Glob Policy, 10: 455-476. https://doi.org/10.1111/1758-5899.12718.

Cobbe, J. (2021) Algorithmic Censorship by Social Platforms: Power and Resistance. Philos. Technol. 34, 739–766. https://doi.org/10.1007/s13347-020-00429-0

Delmas, C. (2018).« Is Hacktivism the New Civil Disobedience? », Raisons politiques 2018/1 (N° 69), p. 63-81

Doyle, T. et Macnish, K. (2020) The ethics of surveillance: an introduction. Ethics Inf Technol 22, 39–42 (2020). https://doi.org/10.1007/s10676-019-09513-2

Feenberg, A. (2003) Democratic Rationalization: Technology, Power, and Freedom. IN R. Scharff & V. Dusek (Eds.), Philosophy of Technology (pp.652-665), Malden, MA, Blackwell Publishing. (Première publication  en 1992).

Foucault, M.(1975) Surveiller et punir: Naissance de la prison. Gallimard, 352 p.

Goodman, B. (2022) Privacy without persons: a Buddhist critique of surveillance capitalism. AI Ethics. https://doi.org/10.1007/s43681-022-00204-1

Halsband, A., Heinrichs, B. (2022) AI, Suicide Prevention and the Limits of Beneficence. Philos. Technol. 35, 103. https://doi.org/10.1007/s13347-022-00599-z. 

Hildebrandt, M. (2013) Balance or Trade-off? Online Security Technologies and Fundamental Rights. Philos. Technol. 26, 357–379. https://doi.org/10.1007/s13347-013-0104-0 

Königs, P. Government Surveillance, Privacy, and Legitimacy. Philos. Technol. 35, 8 (2022). https://doi.org/10.1007/s13347-022-00503-9

Koskela, H. (2003) ‘Cam Era’ – The Contemporary Urban Panopticon Surveillance & Society, 1(3), 292-313. https://ojs.library.queensu.ca/index.php/surveillance-and-society/article/view/3342/3304. 

Lyon, D.(1998) The world wide web of surveillance: The internet and off‐world power‐flows, Information, Communication & Society, 1:1, 91-105, DOI: 10.1080/13691189809358955. 

Murakami Wood, D. (ed.) (2006) A Report on the Surveillance Society. For the Information Commissioner by the Surveillance Studies Network. UK

Nissenbaum, H. (2009) Privacy in Context: Technology, Policy, and the Integrity of Social Life, Stanford Law Books, 304p. 

Saheb, T. (2022) “Ethically contentious aspects of artificial intelligence surveillance: a social science perspective”. AI Ethics. https://doi.org/10.1007/s43681-022-00196-y.

Vitak J. et Zimmer M. (2023) Power, Stress, and Uncertainty: Experiences with and Attitudes toward Workplace Surveillance During a Pandemic. Surveillance & Society, vol.21, n.1. https://ojs.library.queensu.ca/index.php/surveillance-and-society/article/view/15571/10610.

Zuboff, S. (2019) The Age of Surveillance Capitalism. The Fight for a Human Future at the New Frontier of Power. Profile Books.