Physical Address
304 North Cardinal St.
Dorchester Center, MA 02124
Physical Address
304 North Cardinal St.
Dorchester Center, MA 02124

Alors que les modèles de langage (LLM) impressionnent par leur capacité à rédiger des poèmes ou coder des logiciels complexes, ils tombent parfois dans des erreurs triviales. Ce paradoxe — une intelligence capable de générer des concepts abstraits mais incapable de résoudre des problèmes logiques basiques — est au cœur des débats actuels sur la véritable nature de l’intelligence artificielle.
Le chercheur Jean-Claude Heudin explique que le problème réside dans la méthode même de conception des IA actuelles. Ces modèles ne « pensent » pas au sens humain ; ils fonctionnent sur une base de prédiction statistique. Pour une IA, répondre à une question n’est pas une question de compréhension du monde, mais une question de probabilité : quel est le mot suivant le plus plausible dans cette séquence ?
Par conséquent, lorsqu’une tâche demande une cohérence logique stricte plutôt qu’une fluidité de langage, l’IA peut s’égarer, car elle n’a pas de « modèle du monde » interne pour vérifier si la réponse est physiquement ou logiquement possible.
Ce débat est crucial car il remet en question l’idée que la puissance de calcul équivaut à une véritable intelligence. En observant des erreurs absurdes sur des tâches simples, les chercheurs réalisent que nous avons créé des « perroquets stochastiques » : des systèmes qui imitent parfaitement le langage humain sans en saisir les règles sous-jacentes. Cela souligne la différence entre la performance (résultat obtenu) et la compréhension (processus interne).
Pour franchir cette étape, la recherche s’oriente vers des modèles hybrides. L’objectif est d’intégrer des capacités de raisonnement symbolique (règles logiques) aux réseaux de neurones actuels. Cela permettrait aux IA de « vérifier » leurs propres pensées avant de les exprimer, réduisant ainsi les erreurs triviales qui les caractérisent aujourd’hui.
Sources :
– Futura, le média qui explore le monde
Photo : Sumaid pal Singh Bakshi sur Unsplash