Ce que l'IA fait à la pensée

L'IA a pris d'assaut nos facultés de penser, de créer, d'imaginer, d'écrire... Elle surplombe notre imaginaire et, par la force de la paresse, réfléchît à notre place et nous suggère ce que nous croyons être une certitude. Si l'Intelligence artificielle nous propose du bon contenu dans l'ensemble, ce contenu doit être interrogé, vérifié parce qu'il est empli d'erreurs et d'approximations, parfois même de confusion. Ce contenu doit être soumis à la lecture critique, sinon nous tombons dans des travers grossiers et manipulatoires de la vérité ou, du moins, de la réalité. En tous les cas, l'IA colonise notre univers de pensées. Voici une lecture parmi d'autres qui nous en avertit.

Photo Metamorworks / iStock / Getty - Traitement fond d'image Ebooks Univers

Par Virgine Tournay I Sciences Humaines

La quantification du monde a commencé bien avant l’intelligence artificielle. Mais l’interface humains-machines pose une question très politique : jusqu’où peut-on déléguer nos capacités de réflexion ?

Depuis l’arrivée d’Internet, le marché mondial de l’information a été dérégulé, souvent au détriment de la vérité. Comment s’y repérer, sachant que « la fonction de penser ne se délègue point », écrivait le philosophe Alain dans son recueil philosophique au titre évocateur, Minerve ou De la sagesse (1939).

Conserver un esprit vivant exige la pratique continue du doute : il faut se garder de toute ivresse de vérité qu’apporterait l’adhésion inconditionnelle à des visions du monde ne résultant pas d’une déduction personnelle. Alain, à l’époque où il écrivait ce texte, songeait à la foi aveugle dans les grands mythes politiques du socialisme ou du communisme.

Ce regard critique reste criant d’actualité. Les institutions politiques, véhicules traditionnels des grands récits, sont en effet concurrencées par les interfaces homme-machine issues des plateformes du Web. La montée en puissance des réseaux sociaux s’avère indiscutable : ces outils de captation de l’attention touchent plus de 67 % de la population mondiale en octobre 2024.

Elle met à l’épreuve l’autonomie de l’esprit d’examen si chère aux penseurs s’inscrivant dans la tradition cartésienne. Du fait de cette importance prise par les échanges en ligne, les élaborations de l’esprit humain sont subordonnées aux relations que chacun engage avec son écran.

Trop d’espoirs, trop de craintes

L’outil numérique est devenu, en quelques années seulement, un tiers de confiance irremplaçable. Il constitue déjà la principale médiation permettant à l’humanité de générer des contenus. Avec l’arrivée des systèmes dits d’intelligence artificielle (SIA), se pose la question de l’étendue et de la réversibilité de cette délégation des capacités humaines à la machine dans la production des idées. Elle met aussi à l’épreuve la régulation de tels développements technologiques.

L’entrée en vigueur en février 2025 du règlement européen sur l’intelligence artificielle (« AI Act ») est un tournant dans la réglementation européenne. Il s’agit du premier cadre juridique spécifique à ces systèmes techniques, dont la visée est de faciliter une convergence internationale autour de leurs principales caractéristiques.

Quand l’Europe définit l’IA

Qu’est-ce qu’un Système IA ? : « Le "système IA" est un système basé sur une machine conçue pour fonctionner selon différents niveaux d’autonomie et pouvant faire preuve d’adaptabilité après son déploiement. Pour des objectifs explicites ou implicites, il déduit, à partir des données qu’il reçoit, la façon de générer des résultats tels que des prédictions, du contenu, des recommandations ou des décisions susceptibles d’influencer des environnements physiques ou virtuels ».

L’entrée en vigueur de l’« AI Act » en février 2025 apporte une définition légale des systèmes d’intelligences artificielles au niveau européen. Voulue souple afin d’intégrer les évolutions rapides du domaine, elle reste toutefois suffisamment précise pour délimiter le périmètre du champ d’application de ces outils technologiques avec le moins d’ambiguïté possible. Elle ne couvre pas les systèmes dont la fonction se limiterait à exécuter automatiquement des opérations basées sur des règles fixées uniquement par les humains. La capacité de déduction de la machine définit une caractéristique majeure des systèmes d’IA.

NB : Cet article a été initialement publié sur Sciences Humaines sous le titre « Production d'idées, Ce que l'IA fait à la pensée »