Anaïs Nony, philosophe et écrivaine française, s’est imposée comme une voix singulière dans le champ de la philosophie des technologies. Intervenant dans notre établissement, elle a captivé son auditoire de lycéens en abordant les promesses mais aussi les limites et les dangers de l’Intelligence artificielle (IA) au prisme de la société, de l’éthique et de l’environnement.
Le 5 novembre 2024, sur le site de Tarabya du Lycée français Pierre Loti d’Istanbul, les Terminales ont eu le plaisir de profiter d’une rencontre avec la philosophe Anaïs Nony, invitée par l’Institut français de Turquie pour une série de conférences. Chercheuse associée à l’Institut d’études avancées de Johannesburg, elle est l’auteure de Performative Images. A Philosophy of Video Art Technology in France, publié aux Presses Universitaires d’Amsterdam en 2023. Avec un parcours académique riche qui la mène de la Sorbonne-Nouvelle à l’université du Minnesota (Etats-Unis), où elle rédige sa thèse sous la direction du célèbre philosophe Bernard Stiegler, en poursuivant par la Florida State University (Etats-Unis), l’University of Western Cape (Afrique du Sud) et la University College Cork (Irlande), Nony est une figure d’autorité lorsqu’il s’agit de comprendre les dynamiques de pouvoir et de représentation dans la technologie contemporaine.
Une IA pas si intelligente que cela
La conférence a d’abord exploré la capacité de l’Intelligence artificielle (IA) à simuler une forme d’intelligence qui, bien qu’impressionnante, est encore loin de la compréhension humaine véritable. Nony rappelle que l’IA, qui repose sur des calculs statistiques et des algorithmes probabilistes, ne « comprend » pas au sens humain, mais exécute des tâches complexes de manière mécanique. Cette illusion d’intelligence crée un effet de « machine savante » susceptible d’induire en erreur, surtout dans des domaines sensibles comme la santé ou la justice. La philosophe qu’est Nony fait même écho à la méfiance de Platon envers l’écriture dans Phèdre, voyant dans l’IA une technologie de la « répétition » et non de la véritable compréhension. La distinction est capitale : si l’IA peut imiter l’intelligence, elle n’en possède aucune, ce qui pourrait amener ses utilisateurs à lui accorder une confiance aveugle et à négliger ses limites.
Des problèmes éthiques
Les questions éthiques se sont imposées comme l’un des volets les plus sensibles de l’intervention de Nony, particulièrement en ce qui concerne les risques de partialité et les implications pour la vie privée. Elle a expliqué que les algorithmes d’apprentissage, bien que présentés comme « objectifs », sont en réalité fortement influencés par les données qu’ils traitent. Ces données, souvent issues de contextes biaisés, peuvent reproduire des inégalités sociales, ethniques et économiques, perpétuant ainsi des discriminations et renforçant des préjugés. En matière de reconnaissance faciale, par exemple, les systèmes ont montré des taux d’erreur bien plus élevés pour certaines minorités, ce qui pose un problème de discrimination algorithmique potentiellement très grave dans des domaines comme l’emploi ou le contrôle policier.
Nony insiste également sur la question de la vie privée, de plus en plus menacée par les progrès de l’IA. La collecte de données personnelles et l’analyse comportementale deviennent des pratiques omniprésentes, facilitant une surveillance accrue des individus. Que ce soit via les entreprises privées ou les gouvernements, la collecte de données et les pratiques d’intelligence artificielle contribuent à éroder l’anonymat, créant des défis éthiques majeurs. La philosophe a ainsi souligné la responsabilité des concepteurs et des utilisateurs d’IA dans la manière dont ces technologies sont employées. Une vigilance accrue est nécessaire pour que l’IA ne devienne pas un outil de surveillance invasive, mais reste une technologie respectueuse de la vie privée et des droits humains.
Une empreinte écologique lourde
Enfin, Nony a abordé l’impact environnemental de l’IA, un aspect souvent sous-estimé dans les discussions sur la technologie. L’entraînement des modèles d’IA, en particulier ceux dits « de pointe », demande une quantité d’énergie considérable, nécessitant des infrastructures imposantes telles que des centres de données. Ces centres consomment non seulement de l’électricité, mais également des ressources en eau pour refroidir les serveurs, contribuant ainsi à une empreinte écologique lourde. Ce phénomène s’aggrave alors que des entreprises technologiques continuent d’ériger de nouveaux centres pour répondre aux besoins croissants en traitement de données, avec des impacts durables sur l’environnement. Dans un contexte où les ressources énergétiques sont limitées et où l’urgence climatique devient pressante, il devient crucial de repenser la manière dont l’IA est développée et déployée.
Une intervention pertinente
À titre personnel, j’ai apprécié cette conférence qui, au-delà de la question technologique, a soulevé des enjeux philosophiques et éthiques. L’IA est un outil que j’utilise régulièrement, que ce soit pour des recherches ou pour d’autres usages. Cependant, si l’on m’avait posé des questions sur cette technologie avant l’intervention de Madame Nony, je n’aurais pas su comment répondre. Je n’étais pas aussi conscient des enjeux de l’IA que je le suis maintenant. Je trouve que de telles interventions sont très pertinentes, surtout pour ma génération, pour qui l’environnement est – bien malgré elle – un sujet central. La crise majeure aujourd’hui est la crise environnementale, et il m’attriste de constater que, malgré les « grands efforts » écologiques des entreprises, les nouvelles technologies ne prennent pas toujours en compte notre avenir. Certes, l’IA est un outil très utile, et je m’en sers moi-même, mais il est nécessaire de le remettre en question pour s’assurer de son utilisation responsable.
Pour Nony, l’urgence d’une IA éthique et écologique est devenue incontournable. Elle invite à une réflexion collective sur l’usage des technologies et appelle à une régulation efficace pour éviter que les progrès de l’IA ne se fassent au détriment des droits humains ou de l’environnement. En présentant l’IA comme un défi social, politique et environnemental, la philosophe laisse entrevoir un avenir où la technologie pourrait être compatible avec les valeurs de justice, de respect et de durabilité.
Merci à l’Institut français d’Istanbul et à Anaïs Nony pour cette très belle intervention qui a assurément sensibilisé des élèves d’une génération ayant un accès plus massif à l’information et à cette technologie que celle de leurs prédécesseurs.
Pour aller plus loin :
Mise en page par Buse Balçık
