La distinction qu'il pose d'emblée : une réponse générée, ou une réponse retrouvée. Dans son périmètre, l'IA ne compose pas. Elle cherche, elle sélectionne, elle rapporte.
Là on sera vraiment sur des solutions qui vont être déterminées. On va avoir une IA qui va aller rechercher des données, qui va ramener juste les informations dont on a besoin. Elle ne va pas réinventer, parce que ça c'est totalement interdit.
La vidéo de cet épisode n'est pas encore publiée. Écouter le passage en attendant.
L'erreur est dans la source, pas dans le modèle
La conséquence est inattendue, et c'est le cœur de sa démonstration.
Si on a une IA aujourd'hui qui rédige une mauvaise donnée, le problème ce n'est pas l'IA qui a mal fait son travail, c'est juste que dans la source sur laquelle elle a pioché, il y a une information qui est erronée. Et là, il faut remonter à cette source-là, qui peut être citée.
Donc on ne demande pas au système d'avoir raison. On lui demande de montrer d'où il tient sa réponse, pour qu'un humain remonte la chaîne jusqu'à la personne qui a saisi la mauvaise valeur. Anthony insiste sur le risque inverse : la confiance totale dans l'outil, dans un environnement où quelqu'un a pu inscrire une donnée fausse dans un document, devient un risque de production.
Pourquoi un secteur régulé impose ça
Anthony décrit la pharma, parce que c'est son terrain. La mécanique vaut partout où une erreur se paie sur quelqu'un : santé, finance, énergie, aéronautique. Avant de qualifier un équipement, il y a un cheminement, des qualifications, des approbations par plusieurs corps de métier. La raison n'est pas bureaucratique.
On est dans les industries pharmaceutiques, on produit des médicaments, donc il y a quand même un risque par rapport aux patients. C'est pour ça qu'il y a des procédures, des réglementations mises en place pour s'assurer que ce qu'on produit répond aux exigences.
Remplacez le patient par un passager, un épargnant, un réseau électrique. Même contrainte. Il faut pouvoir montrer d'où vient la réponse, et qui l'a saisie.
Un coût de fonctionnement différent
Dernier effet, économique celui-là. Un système qui interroge des bases et rapporte des documents ne consomme pas comme un système génératif.
Anthony oppose les deux usages. Construire un rapport de toutes pièces brûle des crédits. Faire de la recherche documentaire encadrée coûte beaucoup moins. Donc le périmètre étroit, c'est aussi un choix de facture.