Anthony commence par un biais qu'il dit rarement évoqué. Un modèle entraîné sur l'historique d'une usine apprend aussi ses mauvaises habitudes. Dix ans de réglages approximatifs, et le modèle tient ces réglages pour la norme.
L'IA, elle ne vous corrige pas, finalement, elle vous confirme.
C'est la phrase la plus citable de l'épisode. Et elle vaut bien au-delà de l'industrie : un système entraîné sur vos données vous renvoie votre propre pratique, avec l'autorité d'une machine.
La vidéo de cet épisode n'est pas encore publiée. Écouter le passage en attendant.
La ligne rouge
Le jour où vous utilisez l'IA pour noter vos opérateurs, là, vous pouvez être sûr que l'IA ne sera jamais adoptée. Si un jour vous perdez la confiance de l'atelier, tout ce qui sera lié à l'IA, l'utilisateur ne l'adoptera jamais.
Son argument n'est pas moral. Il est opérationnel. La confiance de l'atelier est un actif non reconstituable : perdue sur un projet, elle est perdue pour tous les suivants.
Finalité et proportionnalité
Quentin arrive au même endroit par un autre chemin. Il prend une détection de port des EPI : l'objectif, c'est d'identifier qui ne porte pas son casque, et de rappeler la procédure.
Il y a une frontière entre la finalité et la proportionnalité. Ce n'est pas la technologie en elle-même qui pose problème. Elle doit rester dans l'angle de la protection légitime, avec une supervision. Les collaborateurs, on les protège, on ne les flique pas, on ne leur applique pas de scoring.
Sa condition, c'est la transparence. Annoncer ce que le système observe, et pourquoi. Et il ajoute un point de gouvernance qui prolonge le débat du début de l'épisode.
Ce n'est pas le responsable GRC ou le chargé de conformité qui doit prendre la décision. C'est vraiment une décision commune. Toujours. Côté IT, côté OT. Parce que la conformité n'a pas toutes les compétences. Et inversement.
Demandez ce que l'outil déclenche
Anthony termine l'épisode sur un conseil de cadrage. En pharma, ce qui bloque un projet, c'est pas la réglementation sur l'IA. C'est le moment où l'outil touche à la décision qualité : il entre alors dans le périmètre validé du GAMP 5, et un projet chiffré à trois semaines bascule à neuf.
Avant de demander combien coûte l'outil, demandez plutôt ce qu'il déclenche comme dossier. C'est pour ça que la plupart des projets meurent : pas par rapport à la technologie, mais en termes de budget et de projets mal cadrés.
Trois semaines à neuf. Personne n'avait budgété ça.