Comprendre. Décider. Agir. Trois mots. Trois objectifs de l'IA. Trois niveaux de risque

Il y a deux semaines, j’échangeais avec Isabelle Rome — Ambassadrice de France pour les droits humains et le devoir de mémoire de la Shoah. Une conviction partagée, formulée simplement : la technologie n’est pas neutre. Elle peut amplifier les injustices comme les combattre.

Et ce choix est avant tout politique — et humain.

En parallèle, deux actualités sont venues percuter cette conversation.

- Yann LeCun a quitté Meta et levé 1 milliard de dollars pour construire, avec AMI, des IA capables de comprendre le monde physique, pas seulement de le prédire. 

- Et la semaine derniere au GTC, Jensen Huang l’a dit sans détour : “L’IA dépasse la génération — elle passe à l’action.” Pour la première fois, un protocole standardisé permet à des agents IA d'acheter en notre nom — sans validation humaine à aucune étape. 1000 marques retail l'ont intégré en une semaine.

Y a-t-il encore un humain dans la salle ? C’est là que la question devient philosophique. Et urgente. 

Comprendre — LLMs & World Models

Les LLMs simulent la compréhension. Ils prédisent, génèrent, impressionnent. Mais ils ne comprennent pas la causalité. Ils savent qu'on écrit souvent "tomber" après "lâcher". Ils ne savent pas pourquoi un objet tombe.

Tout modèle entraîné sur des données physiques est déjà, en un sens, ancré dans le réel. Ce n'est pas là la rupture.

Ce que visent aujourd'hui les World Models — AMI, World Labs, ou les travaux de Google DeepMind — c'est autre chose : une représentation interne causale du monde. Non plus "après A vient souvent B" — mais "si je fais A, alors B se produit, parce que C". Un système capable de simuler les conséquences d'une action avant de l'exécuter. D'anticiper, pas seulement de prédire.

— Bénéfice : une IA qui « raisonne » sur le monde, pas seulement sur les traces qu'il laisse dans les données. 

— Risque : cette représentation causale reste enfouie dans des espaces internes opaques, puisque ces modèles restent des réseaux de neurones, donc opaques. Plus puissante — pas plus lisible.

Agir — l’IA agentique

Les agents planifient, exécutent, s’auto-corrigent. À grande échelle. En temps réel. C’est la promesse la plus concrète. Et la plus vertigineuse.

- Bénéfice : productivité démultipliée, tâches complexes déléguées, cycles compressés.

- Risque : on dit que les agents “décident”. C’est faux. Et c’est précisément le problème. Un agent optimise un objectif. Il ne reformule pas la question. Il n’assume pas la responsabilité du choix.

Et il y a plus grave encore : un LLM n'est pas déterministe. Pour le même input, il peut produire des outputs différents. Sa logique interne n'est pas reproductible, donc pas auditable au sens classique. 

Quand la chaîne causale entre objectif et résultat devient opaque et non reproductible — qui décide vraiment ? Et surtout : qui répond de l'erreur ?

Ce que l'on appelle "action" a toujours été mécanisable. Ce qui reste difficile — et non résolu — c'est l’explicitation de la stratégie de la décision qui la précède.

Décider — la part irréductible de l’humain

Décider, au sens fort, c’est trois choses qu’aucun système IA ne possède aujourd’hui :

• la liberté de faire autrement

• l’intentionnalité — vouloir quelque chose pour soi

• la responsabilité d’être tenu pour auteur du choix.

Kant distinguait comprendre, juger, raisonner.

Le jugement — naviguer entre règle et exception — reste la faculté la plus difficile à mécaniser. Et la plus critique. Surtout quand les décisions ont des conséquences sur des vies humaines.

L’angle mort

LLMs, World Models agents : Trois paradigmes puissants. Mais aucun ne propose de logique décisionnelle transparente — parce qu'aucun n'est conçu pour l'être. Le non-déterminisme n'est pas un bug à corriger : c'est une propriété fondamentale de ces architectures.

Ce qui n'est pas reproductible ne peut pas être audité. Ce qui ne peut pas être audité ne peut pas être assuré. Et ce qui ne peut pas être assuré ne sera pas déployé là où les enjeux sont réels.

C’est là que des approches comme l’ IA raisonnnante XTRACTIS changent le cadre.

Elles ne visent pas l’intelligence générale avec un modèle unique. Elles visent quelque chose de plus rare : pour n’importe quel processus complexe, rendre la logique décisionnelle intelligible, auditable, et la décision explicable, contestable. C’est ce que l’expert peut lire et comprendre. Ce que le régulateur peut auditer et certifier.

Dans la santé, la finance, le transport, les droits fondamentaux — ce n’est pas un détail. C’est une condition d’usage.

Alors — y a-t-il encore un humain dans la salle ?

La mauvaise question serait : “jusqu’où l’IA peut-elle aller ? ”La bonne est : comment l’IA nous maintient-elle en position de décider ?

Comprendre — oui, laissons l’IA nous y aider.

Agir — oui, avec des garde-fous clairs et des systèmes auditables.

Décider — cela reste notre responsabilité — Irréductible.

La technologie n'est pas neutre. 

Elle peut révéler les injustices comme les rendre invisibles.

Elle peut maintenir l'humain en position de décider — ou l'en déposséder, discrètement. 

Ce choix de conception est politique. Et il reste humain.