chatgpt

Il y a déjà quelques années, j’ai eu mon premier contact avec l’intelligence artificielle (IA) générative de texte en surprenant une étudiante en train de préparer, durant le TD que j’animais, un devoir d’anglais sur deepL Translate qui lui traduisait instantanément les réponses qu’elle rédigeait en français. J’avais alors trouvé impressionnante l’efficacité du traducteur en ligne dont la qualité, m’a-t-on dit par la suite, surpassait largement celle de l’outil de traduction de Google. Je m’étais alors empressé de cafter auprès de ma collègue d’anglais en lui disant que cela me semblait signer la fin de l’utilité des travaux de version ou d’expression à préparer chez soi.

En 2023, où « IA » fut choisi comme mot de l’année par le dictionnaire Collins, les sujets sur l’IA et ses applications nouvelles au travail et dans notre vie quotidienne, se sont multipliés, tandis que l’UE s’emparait du sujet pour réguler les pratiques les plus risquées, tout en cherchant à favoriser l'innovation en Europe.

Comme 100 millions d’utilisateurs en deux mois, en février, j’ai testé l’agent conversationnel Chatgpt d’OpenAI mis en ligne gratuitement sur la question de la stérilisation masculine comme moyen égalitaire de contraception qui ne cessait alors de revenir dans les médias : la rapidité et la qualité rédactionnelle de ses réponses à mes questions toujours plus précises m’avaient bluffé... et forcément déçu sur le fond.

Quelques mois plus tard, dans un article sur la vérité (« Vrai ou faux ? »), je me suis fait l’écho de Gaspard Koenig, le philosophe, pour qui l’IA (générative) était « une bombe cognitive » puisque pour la première fois on pouvait accéder à partir d’une « boite noire » à du savoir sans indications de sources de qualité le validant, ce qui constituait une rupture épistémologique majeure. Déjà, je notais que ça ne devait pas être insurmontable puisque Bing chat de Microsoft (Copilot) indiquait déjà des sources, et que depuis, je sais qu’on peut même demander à une IA génératrice de texte de travailler sur des sources qu’on lui a fournies.

La triche scolaire métamorphosée

Et puis j’ai oublié Chatgpt, jusqu’à ce qu’il se rappelle à moi récemment, un jour de correction de copies où il m’apparut évident qu’un certain nombre que j’étais en train de noter provenaient d’un prompt Chatgpt. Le sujet consistait en la résolution chiffrée par des calculs de deux questions s’appliquant à un cas original inspiré des séjours qu’organisent Maxime et Anna, et que les étudiants tricheurs ont résolu grâce à deux équations du premier degré à une inconnue nommée N, alors qu’ils sont habituellement proches de l’évanouissement pour le moindre calcul et tombent dans le coma chaque fois que je leur propose ce mode de résolution avec une inconnue nommé X.

Valentin, avec qui nous partagions un couscous dans notre quartier le jour suivant, m’a montré qu’avec l’application, il suffisait de faire une photo du sujet, de la charger dans l’appli et de demander à l’IA de résoudre les questions. L’utilisation des portables étant interdite en devoir surveillé, je me suis de nouveau émerveillé des compétences qu’ont développé certains au cours de leur 14 ans de scolarité pour tricher et s’adapter au nouvel environnement technologique.

En fait, je lis qu’en deux ans l’utilisation de l’IA générative s’est généralisée chez les étudiants, les lycéens et même les collégiens, en premier lieu pour qu’elle fasse le travail à leur place.

Nos classes venant d’être opportunément équipées d’un meuble à dépôt de portables, le lancement d’un devoir noté a depuis pris des allures de passage des contrôles de sécurité dans un aéroport : on n’a pas encore les portiques pour détecter le 2^e portable ou la montre connectée mais à terme, il va falloir s’y mettre… ou supprimer les devoirs, car évaluer uniquement sous la forme d’oraux, ça reste gérable avec un effectif de master, pas de classe du secondaire. Reste encore la faille des sorties aux toilettes, car, peut-être l’ignorez-vous, mais une partie de notre jeunesse a désormais quelque chose de commun avec le grand âge : elle est frappée d’incontinence.

Alors que l’innovation technologique m’a toujours intéressé, en premier lieu la révolution numérique, les potentialités de cette IA générative me fascinent autant qu’elles m’inquiètent, à l’instar de plus de 1000 experts et personnalités internationales qui réclamaient en mars 2023 une pause d’au moins six mois dans la recherche sur les intelligences artificielles (IA), évoquant des « risques majeurs pour l’humanité ». Sam Altman, patron d’OpenAI et concepteur de ChatGPT, lui-même reconnaissait être « un petit peu effrayé » par sa création si elle était utilisée pour de «la désinformation à grande échelle ou des cyberattaques».

Vers un monde de crétins ?

Il y a de nombreuses raisons de freiner. Avant tout, il y a celle que l’intelligence artificielle rende le plus grand nombre encore plus crétin qu’il n’est déjà.

Quand je vois les gens dans l’espace public toujours cramponnés à leur téléphone portable ou en train de scroller à l’infini enfermés dans leurs bulles de filtre de réseaux sociaux, j’ai tendance à les percevoir comme des handicapés ou des abrutis.

Je nous considère, dans une certaine mesure, à l’abri de cette dérive car nous avons, de par notre âge, un pied dans les deux mondes, l’ancien et ce nouveau. Deux exemples. Il y a peu à Majorque, où à l’occasion d’une visite à Manuel et sa femme, à deux reprises on s’est trouvé à se galérer en voiture dans les ruelles extrêmement étroites de centres historiques, en suivant l’itinéraire proposé par Google Maps, sans parvenir à notre destination, la première fois parce que le service n’avait pas l’information de travaux rendant son itinéraire impossible, la 2^e parce qu’il avait bogué puisqu’il nous faisait toujours repasser au même endroit sans nous faire arriver à destination. Dans les 2 cas, on a fini par se sortir de l’impasse dans laquelle nous nous trouvions en réfléchissant en regardant la carte, notre localisation et la localisation de notre destination, et en choisissant un autre itinéraire, ce qui requiert de savoir encore lire une carte et d’avoir développé un certain sens de l’orientation, ce qu’on n’apprend plus.

De même, ça fait un bail que j’ai remarqué que mes étudiants ont désormais l’attention et la mémoire d’un poisson rouge, toutefois quelles occasions ont-ils encore aujourd’hui de devoir mémoriser quelque chose, et d’entretenir ainsi leurs dispositions en matière de mémorisation ? Les numéros de téléphone de leurs proches ? Enregistrés. Leurs mot de passe ? Enregistrés, etc. Des facultés cognitives qui sont délaissées et, donc, finissent par faire paresser leur mécanique intellectuelle générale.

Plus sérieusement, une récente étude internationale conjointe de Microsoft – qu’on ne peut suspecter de technophobie à l'égard de l’intelligence artificielle – et de l’université Carnegie-Mellon, conclut que plus les personnes utilisent l’IA générative dans leur travail, moins elles feront preuve d’esprit critique. Et que plus elles font appel à ces algorithmes moins elles sollicitent leurs capacités d’analyse. Au point que cela peut "entraîner la détérioration de facultés cognitives qui devraient être préservées".

Au-delà, à force d'économiser nos fonctions cérébrales, explique Gaspard Koenig dans son essai paru en 2019 « La fin de l'individu : voyage d'un philosophe au pays de l'intelligence artificielle », l'humain perdrait pour de bon l'habitude de prendre ses propres décisions. Ainsi, il renoncerait sans même s'en apercevoir à sa liberté de choisir. Or le libre arbitre « se trouve peu ou prou au fondement de nos sociétés occidentales depuis les Lumières, et qui justifie à la fois les droits individuels, les mécanismes de marché, le droit de vote et la justice pénale. »

entre 10% et 40% d'erreurs dans les réponses des intelligences artificielles

Après la triche Chatgpt, « j’ai rebondi pédagogie », en faisant faire à mes étudiants un TD requérant l’utilisation de l’agent conversationnel. Pour finir, je leur ai demandé de l’interroger sur la justesse de ses réponses. Il n’a pas manqué de les inviter à toujours les vérifier.

En février 2025, différentes études relevaient entre 10% et 40% d'erreurs dans les réponses des intelligences artificielles. « Ce qui est globalement mieux que les êtres humains », mais qui contraint à vérifier toutes ses réponses, ce qui réduit énormément leur intérêt (et accroît mon inquiétude, vu la propension au moindre effort prévalant chez les humains).

En effet, quand on pose une question à une IA génératrice de texte, elle ne réfléchit pas, elle génère une suite de mots plausibles en fonction de tout un corpus de textes qu'elle a appris et de probabilités, de la question qui lui a été posée, voire de toutes les questions qui ont précédé. Résultat, l’IA générative fait parfois ce qu'on appelle des "hallucinations", autrement dit elle invente.

Reste la question de l’agent conversationnel qui cite des sources tel que Le Chat de Mistral AI ou Copilot sur Bing de Microsoft : « le système Bing traite la requête, effectue une ou plusieurs recherches web et utilise les premiers résultats de la recherche web pour générer un résumé des informations à présenter aux utilisateurs. Ces résumés incluent des références permettant aux utilisateurs de voir et d’accéder facilement aux résultats de recherche utilisés pour faciliter la présentation du résumé ».

Gains de productivité, suppressions d’emplois, forçats du clic, jobs de merde et robots massacreurs

Face à l’offensive IA, il y a de nombreuses autres raisons de freiner. Pour moi dont le métier a consisté à enseigner, à transmettre des savoirs (avec une autorité d’expertise certes de plus en plus fragile), c’est en quelque sorte le coup de grâce : n’allons-nous pas devenir inutile ? La question vaut d’être posée pour un grand nombre de métiers du tertiaire. Sans surprise, pour l’heure, les effets de l'intelligence artificielle sur le marché du travail et la croissance économique demeureraient « indéterminés ». Cette innovation porte la promesse d'une augmentation de la productivité peu compatible avec l’emploi, mais aussi de création de nouveaux emplois. Si on n’est pas inquiets pour le haut du panier, le management par IA des livreurs des plateformes comme Uber Eats ou Deliveroo, est un véritable repoussoir que des migrants subissent au détriment de leur santé.

En 2023 par exemple, un rapport de Goldman Sachs indiquait que si l'IA générative pouvait créer de nouveaux emplois et stimuler la productivité mondiale, elle pouvait aussi conduire à une « perturbation significative du marché du travail », avec une estimation de 300 millions d'emplois exposés à l'automatisation. Un autre exemple est celui de British Telecom qui a annoncé son intention de supprimer jusqu'à 55 000 emplois d'ici 2030, avec la possibilité de remplacer 10 000 de ces emplois par l'IA. En outre, l'utilisation de l'IA pourrait avoir un impact disproportionné et négatif sur les groupes socio-économiques qui ont historiquement rencontré le plus d'obstacles sur le marché du travail.

Toujours concernant les nouveaux emplois créés par l’IA, « Mechanical Kurds » l’installation vidéo de Hito Steyerl, montrée à l’exposition que le Musée du Jeu de Paume consacre au « Monde selon l’IA » fait plus que documenter la nécessité des « travailleurs du clic », en l’occurrence ici dans un camp de réfugiés au Kurdistan, ces nouveaux prolétaires, essentiels pour ajuster les modèles d’IA analytique (qui permet d’analyser et catégoriser des données par exemple pour des applications militaires de robots tueurs ou de reconnaissance faciale), mais aussi d’IA générative. 

Green washing sur l’empreinte écologique de l’IA

Des enjeux de la place que l’IA est en train de prendre dans nos sociétés, l’enjeu écologique n’est pas le moindre, les modèles d’IA reposent sur des processus de calcul extrêmement énergivores et sur l’extraction massive de ressources naturelles non renouvelables, que firmes de la tech et gouvernements minimisent en prônant la « limitation de son impact environnemental » selon la bonne vieille technique du « green washing », alors que les températures mondiales se maintiennent au-dessus de la barre de 1,5°C de réchauffement et que la planète a connu en 2024 des catastrophes climatiques en chaîne. Des artistes de cette exposition présentent des œuvres visant à nous sensibiliser à cet enjeu en lui donnant une matérialité.

Atteinte à la vie privée et au droit d’auteur, intensification de la surveillance des populations, désinformation à grande échelle

Par ailleurs, pour entraîner les modèles d’IA, on collecte des quantités considérables de données sans recueillir le consentement informé de leurs producteurs, ce qui soulève la question de la vie privée et du droit d’auteur. A cet égard, la grève historique qu’a connu Hollywood en 2023 s’est conclue notamment par un accord encadrant l’IA sur les droits des studios sur l'image et la voix des acteurs stars après leur mort.

Enfin, la mise en œuvre de l’IA analytique entraîne une intensification spectaculaire de la surveillance des populations (savez-vous par exemple, qu’à l’occasion des JO de Paris, il a été autorisée une vidéosurveillance algorithmique ?). Sans surprise également, des œuvres d’artistes de l’exposition du Jeu de Paume mettent en évidence toutes sortes de préjugés préexistants perpétués et renforcés par les biais algorithmiques des IA. J’écris « sans surprise » car les IA génératives s’entraînent sur les données existantes notamment sur le web, et une étude vient déjà de mettre en évidence que le tentaculaire réseau de désinformation russe est parvenu à manipuler les principaux robots conversationnels occidentaux pour qu’ils diffusent massivement la propagande pro-Kremlin.

Alors avec tout ça, l’IA à haute dose sans régulation, ça vous tente toujours ? On peut être technophile et comprendre les néo-luddites. Ceci dit, si vous le pouvez, allez voir cette exposition « le monde selon l’IA », vraiment stimulante, même si elle offre davantage un plaisir de tête qu’un plaisir des sens : ainsi, « explorer les espaces latents », sous-titre du catalogue, indique qu’elle peut s’avérer ardue.