Les intelligences artificielles ont du mal à raisonner
Libre Eco week-end | Une chronique de Roald Sieberath, entrepreneur, investisseur pour Noshaq, professeur invité à l'UCLouvain et l'UNamur, et président de l'Agence du Numérique (Digital Wallonia)
- Publié le 16-12-2023 à 18h40
- Mis à jour le 18-12-2023 à 11h57
Le monde entier a été stupéfait par la capacité de ChatGPT et des LLM (Large Language Model) en général à produire du texte en réponse à des questions. Enfin, une intelligence artificielle qui ressemble à ce que l'on voyait dans les films de science-fiction ! Qui peut nous comprendre et nous répondre. Petite révolution dans beaucoup de métiers où l'on y voit un accélérateur pour rédiger, résumer, structurer, rephraser.
Peu à peu, on réalise les limites de ce nouveau type d'IA : elles tombent dans le piège de ce que l'on a appelé "hallucinations", c'est-à-dire qu'elles peuvent disserter longuement sur des choses qui n'existent pas. Ainsi, on a vu ChatGPT pouvoir parler un paragraphe entier au sujet des mérites d'un duvet en plume de stylo, ou des œufs de vache… Ces exemples ont été "colmatés" entre-temps mais cela doit nous donner à réfléchir sur la nature de ces "intelligences".
Elles sont surtout une (remarquable) régurgitation statistique des immenses réservoirs textuels qu'elles ont digérés. Les LLM ne sont, par exemple, pas dotés d'une représentation du monde qui leur permettrait de faire des raisonnements, en particulier dans l'espace et le monde physique (si ce n'est la version très limitée qui est capturée par le langage). Plus grave ou significatif, une étude récente a montré qu'il leur manque des primitives de base du raisonnement, telles que "si A est B, alors B est A". Si dans un texte, par exemple, on a une déclaration de type "Dupont a été le premier patron de l'entreprise X", le LLM saura répondre à "qui est Dupont ?", mais peinera à répondre à la question "qui a été le premier patron de l'entreprise X ?". Si elles trébuchent sur des choses aussi simples que cela, qui sont à la portée d'un enfant de 8 ans, a fortiori elles vont s'avérer incapables de procéder à de véritables raisonnements plus complexes. Plus graves, elles s'avèrent généralement incapables de poursuivre un raisonnement et de se corriger (à l'inverse d'un humain… intelligent).
Ces manquements des LLM sont dénoncés par des experts de l'IA et des neurosciences, comme Gary Marcus, qui n'en voient la solution qu'en revenant à des architectures dites "neuro-symboliques", c'est-à-dire qui réintroduisent dans les réseaux neuronaux actuels les capacités de manipulations symboliques (entités, relations entre elles, etc.) qu'avaient les IA primitives des années 70 et 80. Bien entendu, tous les grands labos d'IA travaillent d'arrache-pied sur ces questions, et peu à peu trouvent des solutions. D'ici là, il reste prudent de prendre avec une pincée de sel ce que les IA nous présenteraient comme des raisonnements logiques…
