Intelligence Artificielle

L'IA c'est quoi ? ↑ 

Il est difficile définir le terme "intelligence artificielle" d'autant que le terme "intelligence" est lui même quasiment indéfinissable (1). Une pirouette consiste à définir l'IA comme la réalisation par une machine de tâches considérées comme exigeant des processus mentaux de haut niveau tels que ceux que les humains peuvent mettre en œuvre (Minsky, 1972), ce qui ne définit pas l'intelligence... Cette page n'aura pas la prétention de définir l'intelligence (qu'elle soit artificielle ou non), mais dans un dialogue avec de jeunes auditeurs, Jean-Gabriel Ganascia (Ganascia, 2024) cite quelques composants: la perception (qui suppose une interprétation des sensations) et la mémoire (qui dépasse le simple stockage d'information des mémoires informatiques): c'est la source de l'apprentissage, de l'imagination et de la créativé.

L'intelligence est aussi la capacité à raisonner qui permer de dialoguer, de décider et d'agir; il faut sûrement ajouter des éléments comme la complicité à ce vaste ensemble. L'énumération est incomplète, mais suffisante pour sentir que l'intelligence à des choses en commun avec l'esprit au sens de Spinoza (pour qui l'esprit est une des facettes, une façon d'aborder ce qui existe). Pourtant, "partager quelque chose" et "être" ne sont pas du même ordre et il se pourrait que le point commun ne soit que de l'apparence.

Même si certaines recherches concernant l'IA peuvent avoir comme objet de comprendre les processus cognitifs mis en œuvre par les êtres vivants, l'IA ne se limite pas à imiter ces processus; c'est le résultat qui compte et la plupart des IA utilisent des processus qui n'ont rien à voir avec ceux d'un humain. Dans artificiel il y a art; d'une certaine façon l'IA n'est pas scientifique.

En l'état une machine susceptible d'accomplir (ou d'imiter les résultats de) l'ensemble des processus mentaux de haut niveau n'existe pas (et n'est sans doute pas près d'exister), par contre les machines spécialisées sont nombreuses:
- les agents conversationnels se sont beaucoup développés récemment (leurs prémices se contentaient de traduire d'une langue à une autre ou entre l'écrit et l'oral): leur but est de produire un discours répondant à des demandes elles même formulées sous forme d'un discours. Ils bénéficient d'une forte visiblité dans la mesure où on a toujours considéré que le langage était le propre de l'Homme (2) et qu'il est le support de la pensée abstraite;
- l'analyse et la production d'images, éventuellement animées (une prémice est représentée par la reconnaissance faciale ou l'identification d'objets et les recherches sur la reconnaissance d'images à l'aide de processeurs graphiques ont joué un rôle de pionnier);
- l'écriture musicale, la reproduction de la voix;
- (...).

Eliza est un des premiers agents conversationnels ; il a été créé en 1966 par Joseph Weizenbaum. C'est un agent "fermé" dont tous les algorithmes sont programmés au départ pour simuler un psychothérapeute rogérien; ce choix permet au programme de construire des réponses reprenant en miroir les questions de son interlocuteur, ce qui les dispense d'être basées sur un contenu original. Ironiquement, lorsque le programme ne peut construire une réponse élaborée il la remplace par un laconique "je comprends" (alors qu'en fait il n'a pas "compris" grand chose).

Une autre manière de décrire Eliza est de considérer que cet agent utilise un corpus de données mots et phrases défini au départ et des algorithmes de traitement. L'agent repére certains mots ou phrases proposés à travers les formulations de l'utilisateur et construit à partir d'autres mots et phrases (et parfois les mêmes) une réponse incitant à poursuivre le dialogue. Données et algorithmes de traitements sont entièrement définis au départ.

La multiplication d'agents spécialisés dans des domaines variés a introduit le terme de système expert. Une des limites de cette approche est la nécessité pour un système expert de prévoir toutes les situations ou de trouver une échappatoire face à une situation non gérée; si Eliza s'en sort par un illusoire «je comprend», l'échappatoire pour le pilote automatique d'un avion risque d'être liée à un crash; hors plus les données à traiter sont nombreuses et complexes, moins il est possible d'en faire le tour.

L'évolution a consisté à utiliser les potentialités de la machine pour lui permettre de modifier et d'augmenter elle-même ses données et une partie de ses algorithmes de traitement; cette évolution nécessite une ou plusieurs phases dites "d'apprentissage".

L'auto-modification du traitement est souvent liée à une architecture différente de celle utilisée au début de l'histoire (de l'informatique); l'algorithmique classique se base sur un traitement séquentiel. Un traitement parallèle peut être réalisé par des "réseaux de neurones artificiels" imitant le fonctionnement d'un cerveau biologique; il s'agit plus précisément d'une imitation de la circulation de l'information par une modélisation mathématique (Peyré, ) et non d'une imitation physique du fonctionnement (3), l'architecture restant celle d'une machine de von Neumann. L'information est répartie sur des noeuds du réseau (neurones artificiels) agencés en couches (il existe en fait différents types de neurones formels: linéaires, à seuil, à impulsion, ... et différents types de réseaux correspondant à différent modes de circulation de l'information). Globalement le traitement parallèle permet de modéliser l'apprentissage plus facilement et plus rapidement qu'un traitement séquentiel. L'inconvénient est que le traitement réalisé par la machine devient opaque à un observateur humain et peut ne pas donner de résultats reproductibles.

En prenant l'exemple de Chat GPT, une première phase d'apprentissage consiste à prédire le token suivant (un token est défini comme un morceau de texte: plus finement un mot, une partie d'un mot, ou de la ponctuation). Les tokens sont reliés les uns aux autres dans un "champ sémantique", par un vecteur ce qu'on peut se représenter comme une sorte d'équation (ex: roi - homme + femme = reine). Il s'agit de repérer des motifs répétés dans les données. Après cet entrainement l'outil est capable de produire du texte semblable à celui qui lui a été proposé. Dans la seconde phase, les textes fournis prennent le format d'une requête ce qui oriente l'outil vers la pratique d'un dialogue. La troisième phase consiste à classer les réponses pertinentes et celles qui ne le sont pas. Ce dernier type d'entrainement se poursuit en phase d'exploitation, l'utilisateur étant invité à exprimer sa satisfaction ou son insatisfaction par rapport à la réponse de la machine (pouce levé ou abaissé).

Globalement, la réussite s'appuie sur une énorme base de textes analysés, que finalement seule la machine peut se représenter et traiter, alors qu'Eliza s'appuyait sur une base de mots bien plus limitée mais dont l'utilisation conçue par le programmeur était plus performante. La nature du fonctionnement n'est pas fondamentalement différente et représente, comme Eliza, une sorte de supercherie.

D'une certaine façon l'ensemble de ces relations pourrait ressembler aux réseaux sémantiques construits par les humains pour représenter visuellement des connaissances, sauf que la machine n'a aucune représentation du sens, elle n'a pas de vision du monde et ses choix sont fondés sur un calcul de la probabilité de réussite. Il n'est pas sans intérêt de rappeler ce qu'écrivait le spécialiste du langage Lev Vygotsky à propos d'apprentissages humains:


Pour une machine dont les capacités généralistes sont très loin d'égaler celles d'un cerveau humain l'entrainement des agents conversationnels n'est qu'un entrainement à manipuler des mots qui, pour la machine, restent vides de sens. De plus le développement du cerveau humain ne repose pas que sur la pratique du langage (Varela, 1993). Si l'intelligence est l'esprit, une machine n'a pas d'esprit, donc une machine n'est pas intelligente (ce dont il est question dans cette page est ce que certains apppellent l'IA faible, mais d'autres croient à une IA forte, c'est à dire à une IA intelligente, je n'y crois pas, et c'est une question philosophique).

Malgré toute cette critique, la mise à disposition des utilisateurs potentiels d'outils susceptibles de modifier en profondeur les pratiques d'évaluation et d'entrainement (des élèves et des enseignants), parce que plus performants que les tentatives d'enseignement programmé qui l'ont précédée, ne peut évidemment être ignorée par un site comme Didac-TIC.

Note: les références de ce chapitre, bien que déjà nombreuses ne sont qu'une sélection extrêmement limitée de publications dont le nombre a explosé dans les années 2020.

IA et baccalauréat ↑ 

Nous nous sommes livrés à quelques évaluations de la pertinence des réponses de certains agents de conversation (chatbots) généralistes. Ces évaluations ont été réalisés avec comme seules données celles fournies dans la question posée (le prompt). Il est peu probable que ces outils généralistes disponibles sur le web aient étés entrainés spécifiquement sur le domaine que constitue la question de type 1 du baccalauréat de spécialité SVT (les résultats obtenus sont cependant loin d'être déshonorants). En conséquence, d'une part les performances de ces outils dans le domaine qui nous intéresse pourraient facilement être améliorées par un entrainement spécifique, d'autre part en absence de cet entrainement, l'utilisation de ces outils constitue une absudité extraordinairement coûteuse en moyens et en énergie. Certains agents conversationnels disponibles sur le web offrent la posibilité à un utilisateur identifié de les entrainer de manière spécifique, ce qui consomme ensuite très certainement mois de ressources.

Corrigés: question 1 du sujet donné le 19 juin 2024 en métropole, de la question 1 du sujet donné le 20 juin 2024 en métropole, question 1 du sujet donné le 18 juin 2025 en métropole.

L'utilisation de ces agents pour répondre à l'exercice 2 du baccalauréat est moins évidente dans la mesure ou il s'agit d'analyser un ensemble qui peut se présenter sur forme de textes, de tableaux, de diagrammes ou de graphiques (images), de schémas.

Avec certains outils comme ChatDOC il est possible charger le sujet entier (ou mieux la seule question 2) pour ensuite préciser ce qui est attendu sous forme de questions posées. La source principale de données de ChatDOC est un document .pdf. Cet agent est capable de suggérer lui-même des questions. Sans surprise il le fait pour les documents qu'il a le plus de facilités à analyser: ainsi, il peut facilement résumer un texte ou fournir une déduction satisfaisante à partir d'un tableau de données. L'analyse des images est payante.

Les sujets de baccalauréat comportent de nombreuses images (graphiques, parfois des schémas fonctionnels), mais si un logiciel peut facilement proposer une variété de graphiques construits à partir d'un tableau de données (n'importe quel tableur le fait et on ne parle même pas d'IA), l'inverse est complexe: dans un sujet de bac les images sont des bitmap (images par points) c'est à dire que la structure des informations est perdue (et avec elle les données qui ont permis de générer ces images). Le plus rapide pour traiter un exercice de baccalauréat de type 2 avec l'aide d'un agent conversationnel serait sans doute de traduire (décrire) sous forme de texte les différents documents puis de demander à l'agent d'en faire une synthèse, on contourne ainsi tout ce qui concerne la reconnaissance d'image (à suivre).

Les profs vont-ils disparaitre ? ↑ 

Commençons par un commentaire d'élève publié sur le site web de Libération le 7 janvier 2026:

«ChatGPT, c’est parfait pour les cours parce qu’à l’école, avoir des bonnes notes est plus important que le fait de comprendre réellement. Alors, même si je néglige mes révisions, l’IA m’aide à faire des synthèses rapides. Sur le long terme, elles ne me servent à rien mais pour une évaluation, elles me permettent de réussir. Ou au moins, de ne pas échouer.»

Je trouve ce commentaire extraodinairement lucide et c'est en même temps une critique radicale de l'école d'aujourd'hui. En étant très optimiste, l'IA pourrait nous obliger à changer fondamentalement nos méthodes et notre vision de l'éducation (ce que les pédagoges progressistes essaient de faire depuis des dizaines et des dizaines d'années en échouant toujours... Mais attention ChatGPT n'est pas toute l'IA, (seulement l'un de ses avatars).

Le plus grand danger lié à l'IA serait probablement d'utiliser cet outil principalement pour évaluer (trier) les élèves.

Et la tentation est grande d'utiliser l'IA comme une aide dans des activités qui ne remettent pas en cause le fonctionnement actuel (ou pire le confortent); c'est évidemment la facilité. Utiliser l'IA pour produire des QCM ou des cours "en première main" serait non seulement catastrophique, mais me gène profondément: comment reprocher ensuite aux élèves d'utiliser l'IA pour faire leurs devoirs ?

Pour généraliser, le danger signalé depuis longtemps, dans le cadre des nouvelles technologies de l'éducation, est d'utiliser l'IA pour masquer une évolution qu'on refuserait dans un autre contexte (par exemple au service d'une compétition de plus en plus exacerbée). L'IA n'est qu'un outil, mais parfois les outils nous échappent et souvent les outils sont utilisés à mauvais escient.

Encore faut-il que l'IA ne soit pas source (involontaire) de conservatisme: les données les plus fréquentes dont les IA génératives se nourrisssent ont peu de chance de se classer parmi les plus innovantes: un exemple est représenté par la place que la société donne aux femmes et que l'IA reproduit (sans filtre). L'IA n'a aucune imagination. L'IA est conservatrice par définition.

Pourtant l'IA, si elle est suffisament performante, peut (pourrait) -être un formidable outil d'autoévaluation (c'est à dire en priorité pour l'élève): elle permet de différencier l'enseignement; elle permet aussi bien sûr à l'enseignant d'améliorer la préparation des exercices ou des cours, à condition d'être utilisée, cette fois, en "seconde main". Ce ne sont que des exemples, bien d'autres développements intéressants sont possibles.

Par ailleurs dans le rapport sur l'IA coordonné par Cédric Villani (Villani, 2018 pp. 184-192) remis au premier ministre en 2018, un des chapitres est consacré à l'éducation. Ce chapitre insite sur le fait qu'en parallèle de l'utilisation de l'IAl, il est absolument nécessaire, pour équilibrer cette utilisation, de consacrer bien plus de temps à tout ce qui développe la créativité et l'imagination. On revient toujours à la citation d'Albert Einstein:

Respect des données personnelles ↑ 

Comme de nombreux outils disponibles gratuitement sur le web, nombre d'agents intelligents sont opaques sur l'utilisation des données personnelles. Au mieux l'outil utilisera les questions posées pour s'entrainer et enrichir ses bases de données, au pire...

La plupart de ces outils sont fournis par des entreprises basées au Etats-Unis: par les temps qui courent cette dépendance doit plus que nous interroger.

Une limitation partielle de l'intrusion de ces outils dans vos donnéers personnelles est praticable en utilisant un intermédiaire: DuckDuckGo offre un moteur de recherche alternatif (utilisant ou non l'indexation de Google), mais aussi une interface garantissant la non utilisation des conversations par les agents conversationnels vers lesquels, elle transmet les requêtes (GPT-4o, Llama 3.3, Claude 3, o3-mini, Mistral), l'absence d'identification (connection) de l'utilisateur et le non enregistrement de l'adresse IP (Duck AI). Vous pouvez aussi supprimer les cookies enregistrés par le navigateur d'une session à l'autre, mais si l'agent conversationnel vous oblige à vous identifier, c'est à peu près inutile.

Toute entreprise basée en Europe offre évidemment de meilleures garanties de respect de la législation européenne sur le respect des données personnelles qu'une entreprise américaine ou chinoise. Une incitation à encourager l'entreprise française Mistral dont l'agent conversationnel est directement accessible par l'interface web "Le Chat". Les reproches fait à l'Europe qualifiant la protection des données comme une entrave à la liberté d'entreprendre (au nom d'un libertarisme exacerbé), par certains citoyens des Etats-Unis et en particulier leur président (en 2026) appellent des réponses fermes de notre part dans nos actions quotidiennes. A vous d'agir.

A noter aussi que le moteur de recherche sur le web Qwant derrière lequel est une société française, utilise l'IA pour présenter une information directe en rapport avec les liens (redirections sur des sites web) présentés ensuite. Un gros reproche que j'ai à faire à Qwant est qu'il indexe très mal le site Didac-TIC ! Qwant s'appuie aussi beaucoup en l'état sur l'indexation du web par Bing (Microsoft) et sur GPT 3.5 (OpenAI), tout en soulignant que d'autres modèles sont en cours d'évaluation, à commencer par des modèles européens. Malgré ces limites, l'utilisation de moteurs de recherche non originaires des Etats-Unis est évidemment à encourager.

Le pire n'est pas inéluctable à condition d'en être averti ↑ 

Ne soyons quand même pas trop optimistes, les choses sont mal parties et le pire est de plus en plus probable.
(en cours de rédaction)

Un an avant de recevoir conjointement le prix Nobel de physique, en 2024 (pour leurs recherches sur les réseaux artificiels de neurones), Geoffrey Hinton et John_Hopfield ont publié des descriptions apocalyptiques du futur de l'intelligence artifielle.

En l'état l'IA n'est qu'un reflet de l'intelligence humaine mais on peut raisonnablement penser qu'elle pourrait la dépasser (en fait, elle la dépasse déjà) en termes de perception, de capacité de mémorisation. Cela ne suffit pas à la rendre créative (on peut toujours concevoir que des IA qui ne seraient pas basées sur l'accumulation de données d'origine humaine se comporteraient autrement, mais elles seraient difficiles à contrôler).

Et une IA qui est capable de modifier ses méthodes de traitement de données (pour le pas parler d'algorithmes) existe déjà; elle est en l'état opaque et incontrôlable... les trois lois de la robotique célébreés par Isaac Asimov (Asimov & Campbell, 1942) dans Runaround (Cercle vicieux) et le Cycle de Fondation nous rassurent mais tiennent de la pure fiction.

Le danger immédiat est surtout la mauvaise utilisation volontaire de l'IA dans un but de domination (qui va de la dictature au terrorisme) ou de façon indirecte pour faire (à n'importe quel prix) des profits à court-terme; malheureusement il ne s'agit pas de science-fiction, c'est déjà plus que commencé (échappez-vous aux GAFAM ? passez-vous incognito dans la rue à Beijing ?).

S'y ajoute le fait que du point de vue énergétique l'IA est basée sur une architecture matérielle considérablement moins efficace qu'un cerveau vivant (qui est le fruit de plus de 3 milliards d'années d'évolution). L'IA ne va pas nous préserver du réchauffement climatique, elle l'aggrave. L'IA sobre n'existe pas.