Vous imaginez peut-être ChatGPT fouillant dans un immense classeur pour en sortir la bonne réponse. Ce n'est pas ainsi qu'il travaille. Selon deux chercheurs en sciences cognitives publiés par le média The Conversation, ces systèmes ressemblent davantage à un cerveau qui reconstruit qu'à une base de données qui retrouve. Leur histoire l'explique.
En bref
- Les idées fondatrices de l'IA actuelle viennent de chercheurs qui voulaient comprendre l'esprit humain, pas de simples ingénieurs informaticiens.
- Ces systèmes sont issus d'exemples et non de règles écrites à la main, donc moins prévisibles qu'un logiciel classique.
- Croire à une base de données pousse à ne pas vérifier des réponses qui ne sont parfois que des suppositions assurées.
Le chiffre clé : 1958, année où le psychologue Frank Rosenblatt construit le Perceptron, machine qui apprend par l'exemple.
Les bases de l'IA actuelle viennent de psychologues, pas d'ingénieurs
Le réflexe est naturel : on se représente un ordinateur qui ouvre un fichier ou déroule une suite d'étapes logiques. Pour les deux chercheurs, cette image est fausse, et c'est l'histoire de la discipline qui le montre.
En 1956, lors d'un atelier à l'université Dartmouth, le terme d'intelligence artificielle est inventé. À l'époque, on pense qu'une machine deviendra intelligente si on lui écrit le bon ensemble de règles à suivre.
Deux ans plus tard, le psychologue Frank Rosenblatt prend le contraire pour point de départ. Absent de l'atelier de Dartmouth, il construit le Perceptron, une machine qui apprend à partir d'exemples. Son idée : un réseau de neurones artificiels, un algorithme inspiré de façon lâche de l'architecture du cerveau.
Hebb, Rumelhart, Hinton : une lignée née de l'étude de l'esprit
Rosenblatt s'appuyait sur des psychologues comme Donald Hebb, qui étudiait cerveau et comportement. Hebb avait montré que les connexions entre neurones se renforcent quand on les utilise. Cette intuition a nourri plus tard l'apprentissage automatique.
Dans les années 1980, des psychologues cherchent à expliquer comment on accomplit des tâches mentales complexes, comme reconnaître des mots ou former des souvenirs. Des chercheurs en sciences cognitives et en informatique, David Rumelhart, Geoffrey Hinton et Ronald Williams, trouvent alors comment entraîner des réseaux à plusieurs couches. C'est l'ancêtre de ce qu'on appelle l'apprentissage profond.
| Date | Étape |
|---|---|
| 1956 | Le terme intelligence artificielle naît à Dartmouth, avec l'idée de machines pilotées par des règles |
| 1958 | Rosenblatt construit le Perceptron, qui apprend par l'exemple |
| Années 1980 | Rumelhart, Hinton et Williams entraînent des réseaux à plusieurs couches |
Les ingénieurs ont ensuite fait passer l'ensemble à l'échelle : puces graphiques, architecture transformer et autres avancées. Sans eux, ces systèmes peineraient encore à reconnaître lettres et mots, loin d'une conversation réaliste. Mais les idées de départ, apprendre par l'exemple et s'inspirer du cerveau, viennent de l'étude de l'esprit.
Ce qui est élevé à partir d'exemples reste moins prévisible
Les auteurs résument : l'IA moderne ne naît pas de règles, elle est cultivée à partir d'exemples. Et ce qui est cultivé est moins prévisible qu'un système bâti sur des règles.
Cela éclaire d'abord les erreurs. Les chatbots énoncent souvent des faussetés, ce qu'on appelle des hallucinations. Si l'on croit à une base de données, c'est déroutant : comment retrouver une réponse qui n'existe pas ?
Or votre propre mémoire ne retrouve rien non plus. Elle reconstruit, imparfaitement, en comblant les trous avec des détails plausibles. Les travaux de la psychologue Elizabeth Loftus ont établi que les faux souvenirs sont fréquents et peuvent être implantés assez facilement.
Un système qui consulte un fichier donne toujours la même réponse, mais il ne peut répondre qu'à un nombre fini de questions. Pouvoir généraliser à des questions nouvelles a un prix : une tendance à la confabulation.
Des réponses qui changent, comme celles d'un enfant à qui l'on demande le dîner
Cette comparaison explique aussi un autre comportement déroutant : poser deux fois la même question et obtenir deux réponses différentes. Les auteurs font un parallèle avec un jeune enfant à qui vous demandez deux fois ce qu'il veut pour dîner. Vous n'aurez pas forcément la même demande.
La formulation compte aussi. Ces systèmes peuvent être orientés vers la réponse que vous préférez. Ils fonctionnent de façon probabiliste, comme la mémoire humaine, et non de façon déterministe, comme une calculatrice.
Attention toutefois : les chercheurs ne disent pas que l'IA pense comme nous, à supposer qu'elle pense. Humains et machines n'interprètent pas toujours le monde de la même manière. La vision par ordinateur peut repérer des anomalies subtiles que des dépisteurs humains manquent, mais elle peut aussi se tromper sur un panneau routier dégradé.
Ce que ce changement de modèle mental change pour vous
Notre représentation d'une technologie gouverne notre manière de l'utiliser. Les auteurs relèvent d'abord un risque de confiance mal placée. Une part significative des utilisateurs de ChatGPT dit s'en servir comme d'un moteur de recherche. Ils traitent alors la sortie comme un fait retrouvé, alors qu'il s'agit d'une supposition fluide et assurée.
Conséquence : on saute l'étape de vérification que l'on appliquerait à une personne, et l'on peut prendre des décisions, y compris financières, sur la base d'une confabulation.
Le second effet touche les institutions. Dans l'enseignement supérieur, les enseignants restent partagés entre interdire ces outils et les intégrer aux cours. Selon le modèle mental retenu, on y voit des réponses à contrôler ou une source à croire.
- Traitez une réponse comme celle d'un interlocuteur sûr de lui, pas comme une fiche retrouvée.
- Vérifiez ce qui compte avant d'agir.
- Reformulez : la manière de poser la question influence la réponse.
Vos questions
ChatGPT consulte-t-il une base de données pour répondre ?
Non, selon les deux chercheurs. Ces systèmes sont issus d'exemples et fonctionnent de façon probabiliste, un peu comme la mémoire humaine, qui reconstruit plutôt qu'elle ne retrouve.
Pourquoi ChatGPT donne-t-il parfois des réponses fausses ?
Parce qu'il ne recherche pas une réponse existante. Comme la mémoire humaine, il comble les trous avec du plausible. Cette capacité à généraliser à des questions nouvelles a pour contrepartie un risque de confabulation.
Pourquoi la même question donne-t-elle des réponses différentes ?
Le système est probabiliste et non déterministe, contrairement à une calculatrice. La formulation de la question compte aussi : ces outils peuvent être orientés vers la réponse que vous préférez.
Sources : theconversation.com.
