Edition 14

Le réflexe de traiter un chatbot comme un confident privé est exactement le piège. Retirez l'intimité et la réalité est banale : ChatGPT est un service cloud exploité par une entreprise qui enregistre vos saisies, les conserve et les transmet quand un tribunal, ou sa propre politique, l'exige. C'est plus proche d'un e-mail que d'un journal intime, et les e-mails sont communicables en justice depuis des décennies. L'erreur n'est pas d'utiliser l'IA ; c'est d'oublier ce que c'est.

Pour votre organisation, ce n'est pas une note de bas de page sur la vie privée personnelle ; c'est un problème de gestion des documents que vous portez déjà. Chacune des 1 200 applications IA non officielles dont je parlais il y a quelques semaines constitue désormais un référentiel d'enregistrements commerciaux communicables, potentiellement soumis à une obligation de conservation légale, et se trouvant peut-être entièrement en dehors de vos règles de rétention et de classification. Si un régulateur ou un requérant vous demandait de produire ou de conserver tout ce que vos collaborateurs ont saisi dans des outils IA, en seriez-vous capable ? Traitez les conversations IA pour ce qu'elles sont juridiquement : des enregistrements d'entreprise hébergés sur le cloud d'un tiers, et gouvernez-les en conséquence.

La lecture dominante cette semaine est "la grande IA se régule", ce qui est vrai et peu intéressant. Le détail plus révélateur est la catégorie retenue. Appeler ChatGPT un moteur de recherche, c'est le son d'une réglementation qui étire un cadre vieux de dix ans sur quelque chose pour lequel il n'a pas été écrit, et ce ne sera pas la dernière fois, car l'alternative, un régime sur mesure pour chaque nouveau type d'IA, avance bien plus lentement que la technologie. Attendez-vous à d'autres adaptations maladroites de ce type, et à ce que les zones grises soient contentieuses.

L'enjeu ne porte pas sur leur sécurité, qui est déjà meilleure que celle de presque toute organisation. Il porte sur l'effet du produit sur ses utilisateurs. Un modèle génératif doit désormais formellement évaluer et atténuer la façon dont il diffuse des contenus illicites, nuit aux mineurs, fausse les élections et érode la santé mentale, avec des auditeurs indépendants et des chercheurs qui vont obtenir un accès pour vérifier le travail. C'est une exigence d'un nouveau genre : non pas « votre système est-il sécurisé », mais « que fait votre système au public ». C'est la première fois qu'un régulateur contraint une IA générative à rendre compte de son effet sur la société plutôt que de sa disponibilité, et la façon dont ChatGPT y répondra d'ici janvier est la vraie histoire, même si l'obligation elle-même ne concernera jamais la plupart des organisations.

C'est une case véritablement nouvelle dans votre modèle de menace, et elle le mérite. Pendant deux ans, la surface d'attaque IA était le prompt, l'élément placé devant le modèle. La mémoire déplace la cible derrière lui, dans un état persistant, et cela fait passer le risque d'une ruse momentanée à un implant durable. C'est la même leçon que l'attaque sur la persistance des passkeys que j'ai couverte le mois dernier : le mouvement dangereux n'est pas celui qui se termine avec la session, c'est celui qui reste discrètement.

Donc si vous déployez des agents avec mémoire, et après les chiffres de la semaine dernière vous l'êtes probablement que vous l'ayez décidé ou non, les questions changent. Qu'est-ce qui peut écrire dans la mémoire de l'agent, et une partie de ces entrées est-elle non fiable, comme un e-mail ou une page web ? Pouvez-vous inspecter, assainir et annuler ce qu'il a stocké ? OWASP a déjà codifié cela comme un risque agentic dans son top dix, avec des défenses nommées, ce n'est donc pas spéculatif. Et oui, les outils qui détectent une mémoire empoisonnée sont eux-mêmes de l'IA, ce qui est la boucle dans laquelle nous vivons désormais : utiliser l'IA pour se défendre contre l'IA, indéfiniment. Ce n'est pas un paradoxe à résoudre ; c'est simplement le travail maintenant.

Regardez ce qui a réellement échoué, car c'est toute la thèse de cette newsletter en une seule sanction. Pas de MFA. Pas de VPN. Pas de segmentation des accès. Pas de supervision. Pas un zero-day, pas un État-nation ; juste les contrôles basiques qui n'ont jamais été mis en place, et 727 000 personnes en ont payé le prix. Chaque framework au monde les aurait identifiés. La lacune n'était pas de savoir quoi faire. C'était de le faire.

Voici maintenant ce qui devrait préoccuper quiconque se soucie de la concentration réelle du risque. L'hôpital privé a reçu une amende d'un demi-million d'euros et une mise en cause publique. Un hôpital public français, détenant des données au moins aussi sensibles, ne fait face à aucune amende de ce type par la loi, et l'État français n'a même pas transposé NIS2 pour ses propres entités. Les entités soumises à la pression d'application la plus faible sont donc souvent celles qui détiennent les données citoyennes les plus sensibles, collectées de manière contrainte et non consentie. Cette inversion fait le lien avec le dernier sujet, et ce n'est pas seulement un problème français.

Je serai bref car l'argument est dans le texte, mais voici l'essentiel, et il s'applique où que vous votiez. La cybersécurité n'a pas de véritable clivage idéologique. Personne ne fait campagne pour un chiffrement plus faible ou des correctifs plus lents. Alors quand elle devient un marqueur de campagne, la seule chose qu'un candidat peut ajouter est un rebranding : une nouvelle agence, un périmètre redessiné, un budget ré-annoncé, et chaque rebranding coûte douze à dix-huit mois de réappropriation face à des échéances qui, elles, ne bougent pas. L'IA est différente ; elle présente de vrais clivages qui méritent débat. La cyberdéfense, non.

Ce dont le secteur public a besoin, ce n'est pas d'une doctrine par élection, c'est d'une exécution qui les traverse toutes : un financement pluriannuel qui survive au combat budgétaire annuel, des jalons rapportés publiquement au parlement plutôt qu'enfouis dans une commission, et idéalement un engagement transpartisan sur quelques échéances datées que personne ne rouvre. J'ai vu, en Wallonie, ce qui se passe sans ce portage politique : de bons audits transformés en PDF archivés. L'argument complet, avec les chiffres, est en lien. Si vous travaillez de près ou de loin avec des administrations publiques, c'est la lecture que je voudrais le plus vous voir avoir cette semaine.