Épisode 01 · Risque

Le cas Samsung : ce que coûte un copier-coller

Je demande à Quentin comment on limite les fuites quand presque tout le monde utilise l'IA. Il répond par un exemple que personne n'a inventé.

Avant d'en arriver au cas, Anthony pose une phrase qui remet le sujet à sa place.

La vidéo de cet épisode n'est pas encore publiée. Écouter le passage en attendant.

Le contournement n'a rien de neuf

Les contournements, c'est une règle qui est vieille comme l'industrie. L'IA n'a rien inventé. C'est juste qu'elle a rendu le contournement plus facile, c'est tout.

Anthony Lubaki écouter à 13:28

Ce qui a changé, c'est l'échelle et la vitesse. Un raccourci qui restait dans l'atelier traverse maintenant un océan en une seconde.

Ce qui est arrivé chez Samsung

Des collaborateurs chez Samsung qui ont mis des données dans ChatGPT : finalement, elles ont été retrouvées par des concurrents.

Quentin Cozette écouter à 14:28

Ce que ça impose, et ce que ça n'impose pas

La réponse de Quentin ne porte ni sur un outil de filtrage, ni sur une charte. Elle porte sur la fréquence.

La sensibilisation ne se résume pas qu'à une seule formation annuelle, c'est une formation sur toute l'année. Il faut régulièrement former les collaborateurs, régulièrement discuter. Ça peut prendre ne serait-ce qu'un échange dans une pause café.

Quentin Cozette écouter à 14:57

Une formation par an produit une signature dans un registre, pas un réflexe devant un champ de saisie. Et c'est devant le champ de saisie que la décision se prend.

Son second point est plus concret : réduire le nombre de portes.

Expliquer que l'IA, on va la limiter à certains outils en entreprise. Dire qu'on n'utilise que ChatGPT en entreprise et non d'autres, pour éviter ce risque qui est très important.

Quentin Cozette écouter à 15:26

Un outil désigné, connu de tous, dont on connaît les conditions de traitement. Ce n'est pas la sécurité absolue, c'est un périmètre qu'on peut nommer. La différence avec le Shadow IA tient là : on ne supprime pas l'usage, on le ramène à un endroit où on peut le regarder.