Intelligence Artificielle

L'IA c'est quoi ? ↑ 

Il est difficile définir le terme "intelligence artificielle" d'autant que le terme "intelligence" est lui même quasiment indéfinissable (1). Une pirouette consiste à définir l'IA comme la réalisation par une machine de tâches considérées comme exigeant des processus mentaux de haut niveau tels que ceux que les humains peuvent mettre en œuvre (Minsky, 1972), ce qui ne définit pas l'intelligence... Cette page n'aura pas la prétention de définir l'intelligence (qu'elle soit artificielle ou non), mais dans un dialogue avec de jeunes auditeurs, Jean-Gabriel Ganascia (Ganascia, 2024) cite quelques composants: la perception (qui suppose une interprétation des sensations) et la mémoire (qui dépasse le simple stockage d'information des mémoires informatiques): c'est la source de l'apprentissage, de l'imagination et de la créativé.

L'intelligence est aussi la capacité à raisonner qui permer de dialoguer, de décider et d'agir; il faut sûrement ajouter des éléments comme la complicité à ce vaste ensemble. L'énumération est incomplète, mais suffisante pour sentir que l'intelligence à des choses en commun avec l'esprit au sens de Spinoza (pour qui l'esprit est une des facettes, une façon d'aborder ce qui existe). Pourtant, "partager quelque chose" et "être" ne sont pas du même ordre et il se pourrait que le point commun ne soit que de l'apparence.

Même si certaines recherches concernant l'IA peuvent avoir comme objet de comprendre les processus cognitifs mis en œuvre par les êtres vivants, l'IA ne se limite pas à imiter ces processus; c'est le résultat qui compte et la plupart des IA utilisent des processus qui n'ont rien à voir avec ceux d'un humain. Dans artificiel il y a art; d'une certaine façon l'IA n'est pas scientifique.

En l'état une machine susceptible d'accomplir (ou d'imiter les résultats de) l'ensemble des processus mentaux de haut niveau n'existe pas (et n'est sans doute pas près d'exister), par contre les machines spécialisées sont nombreuses:
- les agents conversationnels se sont beaucoup développés récemment (leurs prémices se contentaient de traduire d'une langue à une autre ou entre l'écrit et l'oral): leur but est de produire un discours répondant à des demandes elles même formulées sous forme d'un discours. Ils bénéficient d'une forte visiblité dans la mesure où on a toujours considéré que le langage était le propre de l'Homme (2) et qu'il est le support de la pensée abstraite;
- l'analyse et la production d'images, éventuellement animées (une prémice est représentée par la reconnaissance faciale ou l'identification d'objets et les recherches sur la reconnaissance d'images à l'aide de processeurs graphiques ont joué un rôle de pionnier);
- l'écriture musicale, la reproduction de la voix;
- (...).

Eliza est un des premiers agents conversationnels ; il a été créé en 1966 par Joseph Weizenbaum. C'est un agent "fermé" dont tous les algorithmes sont programmés au départ pour simuler un psychothérapeute rogérien; ce choix permet au programme de construire des réponses reprenant en miroir les questions de son interlocuteur, ce qui les dispense d'être basées sur un contenu original. Ironiquement, lorsque le programme ne peut construire une réponse élaborée il la remplace par un laconique "je comprends" (alors qu'en fait il n'a pas "compris" grand chose).

Une autre manière de décrire Eliza est de considérer que cet agent utilise un corpus de données mots et phrases défini au départ et des algorithmes de traitement. L'agent repére certains mots ou phrases proposés à travers les formulations de l'utilisateur et construit à partir d'autres mots et phrases (et parfois les mêmes) une réponse incitant à poursuivre le dialogue. Données et algorithmes de traitements sont entièrement définis au départ.

La multiplication d'agents spécialisés dans des domaines variés a introduit le terme de système expert. Une des limites de cette approche est la nécessité pour un système expert de prévoir toutes les situations ou de trouver une échappatoire face à une situation non gérée; si Eliza s'en sort par un illusoire «je comprend», l'échappatoire pour le pilote automatique d'un avion risque d'être liée à un crash; hors plus les données à traiter sont nombreuses et complexes, moins il est possible d'en faire le tour.

L'évolution a consisté à utiliser les potentialités de la machine pour lui permettre de modifier et d'augmenter elle-même ses données et une partie de ses algorithmes de traitement; cette évolution nécessite une ou plusieurs phases dites "d'apprentissage".

L'auto-modification du traitement est souvent liée à une architecture différente de celle utilisée au début de l'histoire (de l'informatique); l'algorithmique classique se base sur un traitement séquentiel. Un traitement parallèle peut être réalisé par des "réseaux de neurones artificiels" imitant le fonctionnement d'un cerveau biologique; il s'agit plus précisément d'une imitation de la circulation de l'information par une modélisation mathématique (Peyré, ) et non d'une imitation physique du fonctionnement (3), l'architecture restant celle d'une machine de von Neumann. L'information est répartie sur des noeuds du réseau (neurones artificiels) agencés en couches (il existe en fait différents types de neurones formels: linéaires, à seuil, à impulsion, ... et différents types de réseaux correspondant à différent modes de circulation de l'information). Globalement le traitement parallèle permet de modéliser l'apprentissage plus facilement et plus rapidement qu'un traitement séquentiel. L'inconvénient est que le traitement réalisé par la machine devient opaque à un observateur humain et peut ne pas donner de résultats reproductibles.

En prenant l'exemple de Chat GPT, une première phase d'apprentissage consiste à prédire le token suivant (un token est défini comme un morceau de texte: plus finement un mot, une partie d'un mot, ou de la ponctuation). Les tokens sont reliés les uns aux autres dans un "champ sémantique", par un vecteur ce qu'on peut se représenter comme une sorte d'équation (ex: roi - homme + femme = reine). Il s'agit de repérer des motifs répétés dans les données. Après cet entrainement l'outil est capable de produire du texte semblable à celui qui lui a été proposé. Dans la seconde phase, les textes fournis prennent le format d'une requête ce qui oriente l'outil vers la pratique d'un dialogue. La troisième phase consiste à classer les réponses pertinentes et celles qui ne le sont pas (ce qui résulte du travail de centaines de milliers de data workers, (localisés dans les pays du sud pour les contenus les plus "toxiques", générateurs de maladies mentales); qu'ils soient du nord ou du sud les data workers sont sous-payés (Poulain, 2025). Ce dernier type d'entrainement se poursuit en phase d'exploitation, l'utilisateur étant invité à exprimer sa satisfaction ou son insatisfaction par rapport à la réponse de la machine (pouce levé ou abaissé).

Globalement, la réussite s'appuie sur une énorme base de textes analysés, que finalement seule la machine peut se représenter et traiter, alors qu'Eliza s'appuyait sur une base de mots bien plus limitée mais dont l'utilisation conçue par le programmeur était plus performante. La nature du fonctionnement de l'IA "générative" n'est pas fondamentalement différente de celle des premiers agents conversationels et représente, comme Eliza, une sorte de supercherie.

D'une certaine façon l'ensemble de ces relations pourrait ressembler aux réseaux sémantiques construits par les humains pour représenter visuellement des connaissances, sauf que la machine n'a aucune représentation du sens, elle n'a pas de vision du monde et ses choix sont fondés sur un calcul de la probabilité de réussite. Il n'est pas sans intérêt de rappeler ce qu'écrivait le spécialiste du langage Lev Vygotsky à propos d'apprentissages humains:



Pour une machine dont les capacités généralistes sont très loin d'égaler celles d'un cerveau humain l'entrainement des agents conversationnels n'est qu'un entrainement à manipuler des mots qui, pour la machine, restent vides de sens. De plus le développement du cerveau humain ne repose pas que sur la pratique du langage (Varela, 1993).

Malgré toutes ces critiques, la mise à disposition des utilisateurs potentiels d'outils susceptibles de modifier en profondeur les pratiques d'évaluation et d'entrainement (des élèves et des enseignants), parce que plus performants que les tentatives d'enseignement programmé qui l'ont précédée, ne peut évidemment être ignorée par un site comme Didac-TIC.

Note: les références de ce chapitre, bien que déjà nombreuses ne sont qu'une sélection extrêmement limitée de publications dont le nombre a explosé dans les années 2020.

IA et baccalauréat ↑ 

Nous nous sommes livrés à quelques évaluations de la pertinence des réponses de certains agents de conversation (chatbots) généralistes. Ces évaluations ont été réalisés avec comme seules données celles fournies dans la question posée (le prompt). Il est peu probable que ces outils généralistes disponibles sur le web aient étés entrainés spécifiquement sur le domaine que constitue la question de type 1 du baccalauréat de spécialité SVT (les résultats obtenus sont cependant loin d'être déshonorants). En conséquence, d'une part les performances de ces outils dans le domaine qui nous intéresse pourraient facilement être améliorées par un entrainement spécifique, d'autre part en absence de cet entrainement, l'utilisation de ces outils constitue une absudité extraordinairement coûteuse en moyens et en énergie. Certains agents conversationnels disponibles sur le web offrent la posibilité à un utilisateur identifié de les entrainer de manière spécifique, ce qui consomme ensuite très certainement mois de ressources.

Corrigés: question 1 du sujet donné le 19 juin 2024 en métropole, de la question 1 du sujet donné le 20 juin 2024 en métropole, question 1 du sujet donné le 18 juin 2025 en métropole, question 1 du sujet donné le 10 septembre en métropole

L'utilisation de ces agents pour répondre à l'exercice 2 du baccalauréat est moins évidente dans la mesure ou il s'agit d'analyser un ensemble qui peut se présenter sur forme de textes, de tableaux, de diagrammes ou de graphiques (images), de schémas.

Avec certains outils comme ChatDOC il est possible charger le sujet entier (ou mieux la seule question 2) pour ensuite préciser ce qui est attendu sous forme de questions posées. La source principale de données de ChatDOC est un document .pdf. Cet agent est capable de suggérer lui-même des questions. Sans surprise il le fait pour les documents qu'il a le plus de facilités à analyser: ainsi, il peut facilement résumer un texte ou fournir une déduction satisfaisante à partir d'un tableau de données. L'analyse des images est payante.

Les sujets de baccalauréat comportent de nombreuses images (graphiques, parfois des schémas fonctionnels), mais si un logiciel peut facilement proposer une variété de graphiques construits à partir d'un tableau de données (n'importe quel tableur le fait et on ne parle même pas d'IA), l'inverse est complexe: dans un sujet de bac les images sont des bitmap (images par points) c'est à dire que la structure des informations est perdue (et avec elle les données qui ont permis de générer ces images). Le plus rapide pour traiter un exercice de baccalauréat de type 2 avec l'aide d'un agent conversationnel serait sans doute de traduire (décrire) sous forme de texte les différents documents puis de demander à l'agent d'en faire une synthèse, on contourne ainsi tout ce qui concerne la reconnaissance d'image (à suivre).

Les profs vont-ils disparaitre ? ↑ 

Commençons par un commentaire d'élève publié sur le site web de Libération le 7 janvier 2026:

«ChatGPT, c’est parfait pour les cours parce qu’à l’école, avoir des bonnes notes est plus important que le fait de comprendre réellement. Alors, même si je néglige mes révisions, l’IA m’aide à faire des synthèses rapides. Sur le long terme, elles ne me servent à rien mais pour une évaluation, elles me permettent de réussir. Ou au moins, de ne pas échouer.»

Je trouve ce commentaire extraodinairement lucide et c'est en même temps une critique radicale de l'école d'aujourd'hui. En étant très optimiste, l'IA pourrait nous obliger à changer fondamentalement nos méthodes et notre vision de l'éducation (ce que les pédagoges progressistes essaient de faire depuis des dizaines et des dizaines d'années en échouant toujours... Mais attention ChatGPT n'est pas toute l'IA, (seulement l'un de ses avatars).

Le plus grand danger lié à l'IA serait probablement d'utiliser cet outil principalement pour évaluer (trier) les élèves.

Et la tentation est grande d'utiliser l'IA comme une aide dans des activités qui ne remettent pas en cause le fonctionnement actuel (ou pire le confortent); c'est évidemment la facilité. Utiliser l'IA pour produire des QCM ou des cours "en première main" serait non seulement catastrophique, mais me gène profondément: comment reprocher ensuite aux élèves d'utiliser l'IA pour faire leurs devoirs ?

Pour généraliser, le danger signalé depuis longtemps, dans le cadre des nouvelles technologies de l'éducation, est d'utiliser l'IA pour masquer une évolution qu'on refuserait dans un autre contexte (par exemple au service d'une compétition de plus en plus exacerbée). L'IA n'est qu'un outil, mais parfois les outils nous échappent et souvent les outils sont utilisés à mauvais escient.

Encore faut-il que l'IA ne soit pas source (involontaire) de conservatisme: les données les plus fréquentes dont les IA génératives se nourrisssent ont peu de chance de se classer parmi les plus innovantes: un exemple est représenté par la place que la société donne aux femmes et que l'IA reproduit (sans filtre). L'IA n'a aucune imagination. L'IA est conservatrice par définition.

Pourtant l'IA, si elle est suffisament performante, peut (pourrait) -être un formidable outil d'autoévaluation (c'est à dire en priorité pour l'élève): elle permet de différencier l'enseignement; elle permet aussi bien sûr à l'enseignant d'améliorer la préparation des exercices ou des cours, à condition d'être utilisée, cette fois, en "seconde main". Ce ne sont que des exemples, bien d'autres développements intéressants sont possibles.

Par ailleurs dans le rapport sur l'IA coordonné par Cédric Villani (Villani, 2018 pp. 184-192) remis au premier ministre en 2018, un des chapitres est consacré à l'éducation. Ce chapitre insite sur le fait qu'en parallèle de l'utilisation de l'IAl, il est absolument nécessaire, pour équilibrer cette utilisation, de consacrer bien plus de temps à tout ce qui développe la créativité et l'imagination. On revient toujours à la citation d'Albert Einstein:

Respect des données personnelles ↑ 

Comme de nombreux outils disponibles gratuitement sur le web, nombre d'agents intelligents sont opaques sur l'utilisation des données personnelles. Au mieux l'outil utilisera les questions posées pour s'entrainer et enrichir ses bases de données, au pire...

La plupart de ces outils sont fournis par des entreprises basées au Etats-Unis: par les temps qui courent cette dépendance doit plus que nous interroger.

Une limitation partielle de l'intrusion de ces outils dans vos donnéers personnelles est praticable en utilisant un intermédiaire: DuckDuckGo offre un moteur de recherche alternatif (utilisant ou non l'indexation de Google), mais aussi une interface garantissant la non utilisation des conversations par les agents conversationnels vers lesquels, elle transmet les requêtes (GPT-4o, Llama 3.3, Claude 3, o3-mini, Mistral), l'absence d'identification (connection) de l'utilisateur et le non enregistrement de l'adresse IP (Duck AI). Vous pouvez aussi supprimer les cookies enregistrés par le navigateur d'une session à l'autre, mais si l'agent conversationnel vous oblige à vous identifier, c'est à peu près inutile.

Toute entreprise basée en Europe offre évidemment de meilleures garanties de respect de la législation européenne sur le respect des données personnelles qu'une entreprise américaine ou chinoise. Une incitation à encourager l'entreprise française Mistral dont l'agent conversationnel est directement accessible par l'interface web "Le Chat". Les reproches fait à l'Europe qualifiant la protection des données comme une entrave à la liberté d'entreprendre (au nom d'un libertarisme exacerbé), par certains citoyens des Etats-Unis et en particulier leur président (en 2026) appellent des réponses fermes de notre part dans nos actions quotidiennes. A vous d'agir.

A noter aussi que le moteur de recherche sur le web Qwant derrière lequel est une société française, utilise l'IA pour présenter une information directe en rapport avec les liens (redirections sur des sites web) présentés ensuite. Un gros reproche que j'ai à faire à Qwant est qu'il indexe très mal le site Didac-TIC ! Qwant s'appuie aussi beaucoup en l'état sur l'indexation du web par Bing (Microsoft) et sur GPT 3.5 (OpenAI), tout en soulignant que d'autres modèles sont en cours d'évaluation, à commencer par des modèles européens. Malgré ces limites, l'utilisation de moteurs de recherche non originaires des Etats-Unis est évidemment à encourager.

Le pire n'est pas inéluctable à condition d'en être averti ↑ 

Ne soyons quand même pas trop optimistes, les choses sont mal parties...

Un an avant de recevoir conjointement le prix Nobel de physique, en 2024 (pour leurs recherches sur les réseaux artificiels de neurones), Geoffrey Hinton et John_Hopfield ont publié des descriptions apocalyptiques du futur de l'intelligence artifielle. Hinton met en garde sur le risque d'apparition d'une machine qui modifierait les objectifs que lui ont assigné les programmeurs, et s'inquiète aussi à plus court terme de l'utilisation de l'IA par des humains mal intentionnés. Les dangers ne sont pas du même ordre.

Hinton et John_Hopfield ne sont pas seuls. Les déclarations de chercheurs en intelligence artificielle ne peuvent passer inaperçues. Plusieurs lettres ouvertes ont été publiées comme celle qui suit:


Aux avertissements qui précèdent s'ajoutent les déclarations apparement contradictoires de quelques génies autoproclamés de la tech (californienne, mais pas uniquement). La difficulté est qu'elles recouvrent des analyses aussi variées que les formes d'intelligence. Les analyses à long terme sont les plus allucinantes. Le terme singularité est popularisé en 1993 sous la plume de Vernor Vinge, mathématicien mais surtout auteur de science fiction: la puissance de calcul des ordinateurs croissant selon une exponentielle, la singularité désigne le point de bascule pour lequel les capacités d'intelligence générale des machines dépassent celle de l'être humain (technological singularity).

Vinge envisage 4 possibilités:

Il ne s'agit plus de science fiction mais de prédiction; seule la quatrième qui s'inscrit dans un corps humain est soumise au temps biologique, mais même pour cette dernière Vinge semble envisager un perfectionnement des apprentissages qui échapperait à la lenteur de l'évolution des structures biologiques: en 1993 et lui semble que la singularité sera atteinte au plus tard en 2030.

Raymond Kurzweil et Nick Bostrom reprennent ces prédictions et vont convertir des hommes parmi les plus puissants du monde comme Elon Musk (Poulain, 2025). Dès 2000, Kurzweil envisage la migration de notre conscience depuis notre corps biologique vers des machines, ce qui nous procura une forme d'immortalité. Bostrom, fondateur de l'Institut pour le futur de l'humanité (université d'Oxford) et de l'association Humanity+, veut lui, augmenter les capacités cognitives du corps humain en sélectionnant les embryons issus de fécondations in vitro. Nommées transhumanisme, longtermisme..., ces propositions recouvrent des idées anciennes comme l'eugénisme ou le mythe du surhomme (Nietzsche), présentées sur la page Brave New World de ce site.

Les Kurzweil, Bostrom et autres techniciens fous ne font que transposer des scénarios de fiction. Le film Forbidden Planet (Planète interdite) sorti en 1956 et considéré comme le premier film de science fiction sorti des studios hollywodiens met en scène un technicien, le Dr Morbius qui a construit un robot humanoïde (Robby) respectant les 3 lois de la robotique qu'Isaac Asimov à formulé dans les années 1940. Selon ces lois un robot ne peux porter atteint aux humains. Si Morbius a pu construire Robby, c'est parce qu'il a développoé d'extraordinaires capacités intellectuelles (avec l'aide d'éléments retrouvés d'une civilisation disparue). Dans le film, ce n'est pas le robot qui prend le pouvoir mais un monstre issu de l'inconscient de Morbius et que Morbius ne pourra vaince qu'en provoquant sa propre mort. Il est admis que la pièce The tempest de William Shakespeare a inspiré le scénario.

Dans 2001, l'Odyssée de l'espace un autre film culte sorti en 1968, HAL, un ordinateur construit pour assiter les astronautes d'un vaisseau spatial prend le pouvoir (mais son rôle n'intervient que sur la troisième partie du film qui en compte quatre).

(en cours de rédaction)

Toutes ces croyances impliquent une vision réductrice et naïve de l'intelligence (assimilée à une puissance de calcul) et de l'idée très discutée de progrès. La machine autoréplicante est un concept circulaire, la machine évolutive (mais évoluant dans quelle direction ?) est un concept creux.

Le danger immédiat est surtout la mauvaise utilisation volontaire de l'IA dans un but de domination (qui va de la dictature au terrorisme) ou de façon indirecte pour faire (à n'importe quel prix) des profits à court-terme; malheureusement il ne s'agit pas de science-fiction, c'est déjà plus que commencé (passez-vous incognito dans la rue à Beijing ? échappez-vous aux GAFAM ?).

S'y ajoute le fait que du point de vue énergétique l'IA est basée sur une architecture matérielle considérablement moins efficace qu'un cerveau vivant (imparfait, mais fruit de plus de 3 milliards d'années d'évolution). L'IA ne va pas nous préserver du réchauffement climatique, elle l'aggrave. L'IA sobre n'existe pas.

Bibliographie ↑