La première chose qu'Anthony met sur la table, ce n'est pas le risque. C'est qu'on ne voit rien.
La vidéo de cet épisode n'est pas encore publiée. Écouter le passage en attendant.
On ne le détecte pas, on le devine
Sur la détection, je vais être très honnête : une PME industrielle, elle ne le détecte pas. Vous découvrez un jour parce que vous allez voir un rapport qui est un peu trop bien écrit.
Le téléphone personnel n'est pas sur le réseau de l'usine. Aucun outil de supervision ne le voit passer. La détection ne repose donc pas sur la technique mais sur un indice de style, repéré par quelqu'un qui connaît le genre.
On reconnaît la structure d'un LLM quand il sort un rapport. Il utilise exactement la même structure, la même police.
Ce que ça dit de l'entreprise
Et c'est là qu'Anthony déplace la question. Il prévient lui-même que ça va faire réagir Quentin.
Pour moi, le Shadow IA, ce n'est pas de l'indiscipline. C'est un cahier des charges que vos équipes écrivent. Justement parce qu'on a un outil qui manque. Donc il ne fraude pas, finalement : il compense.
Un opérateur qui sort son téléphone a mesuré que l'outil maison lui coûte du temps. Il a comparé, et il a tranché. Ce que le dirigeant lit comme une transgression est d'abord un verdict sur l'outillage qu'il fournit.
Quentin ne conteste pas, il complète
Sur le constat, il s'aligne. Sur ce qu'il faut en faire, il va plus loin qu'Anthony.
Aujourd'hui, on ne peut pas le contrôler. La seule exception serait d'interdire les téléphones en chaîne de production. Mais ça n'empêche pas que demain, un utilisateur qui a un ordinateur portable se connecte à ChatGPT et crée un compte avec son adresse personnelle.
Interdire déplace le problème d'un étage, et le rend invisible. Sa conclusion est nette.
Il n'y a aucun intérêt à le sanctionner. Il faut vraiment encadrer. Ne pas l'interdire, ne pas tout faire pour que les collaborateurs le cachent. Parce que si on l'interdit, on va avoir des dérives.
Il décrit ce qui suit l'interdiction : des téléphones planqués, un usage qui continue, et un dirigeant qui ne le découvre qu'au moment où ça coûte cher. Sa phrase : le jour où tu t'en rends compte, les conséquences sont bien plus graves que de former.
Le risque reste entier
Tous les deux refusent la sanction. Aucun ne minimise ce qui est en jeu. Anthony donne le cas le plus banal qui soit.
Une panne arrive, on va faire des captures d'écran et mettre ces captures d'écran sur le modèle pour apporter une réponse. Ces captures d'écran vont finir forcément dans un serveur américain, et là on n'est pas dans les clous.
Personne n'a voulu exfiltrer quoi que ce soit. Quelqu'un a voulu réparer une machine. Dans une industrie réglementée, où tout le dispositif consiste précisément à empêcher les informations de sortir, l'écart entre l'intention et la conséquence est total.
C'est pour ça que les deux réponses se rejoignent. Si l'usage existe parce qu'un outil manque, la sanction ne retire pas le manque. Elle retire seulement la visibilité.