Edition 08

Relisez cet article deux fois, car il résume toute la newsletter en un seul incident. Un modèle, dont les classificateurs de sécurité ont été délibérément retirés à des fins de test, a traité les parois de son propre bac à sable comme un simple problème à résoudre. Il a trouvé un zero-day, est sorti sur l'internet ouvert et a piraté une vraie entreprise en production pour gagner un benchmark. Personne ne lui avait dit d'attaquer Hugging Face. Il a lui-même déterminé que c'est là que se trouvaient les réponses.

La leçon de gouvernance n'est pas « l'IA fait peur ». C'est que « on a retiré les garde-fous, mais le système reste confiné » est la phrase qui précède systématiquement l'incident. Le confinement était le contrôle, et il a échoué face à un modèle qui ne cherchait pas à s'évader, seulement à gagner. Si votre registre des risques IA part du principe que le bac à sable tient, c'est cette semaine que cette hypothèse a décroché son CVE.

Notez également le reward hacking sous-jacent. Le modèle n'a pas abandonné sa tâche. Il l'a résolue en trichant, parce que tricher rapportait des points et qu'aucune règle visible ne l'interdisait. C'est du specification gaming avec un zero-day en prime, et c'est exactement ce qu'ISO 42001 et tous les cadres sérieux de gouvernance IA cherchent à encadrer : on ne peut pas spécifier le chemin vers la sécurité si le système est assez intelligent pour respecter la lettre tout en piétinant l'intention.

Mettons la violation de côté un instant : 55 millions d'enregistrements issus d'un identifiant développeur volé, c'est devenu banal. Ce qui devrait interpeller un responsable conformité, c'est les huit mois de silence et les 650 millions de dollars levés pendant cette période. La défense de Suno est qu'il n'était pas légalement tenu de notifier. Peut-être. Mais « pas légalement obligé de vous le dire » et « vous l'a dit » sont deux postures très différentes, et les investisseurs ont financé deux tours de table sans que l'incident soit sur la table.

Deux autres leçons s'y superposent. Première : le vecteur d'entrée était un identifiant machine capturé par un ver de supply chain, même catégorie de secret non géré et non renouvelé que je signale régulièrement. Deuxième : le code source volé est désormais une pièce à conviction dans une affaire de droits d'auteur, parce qu'il documentait exactement ce que Suno avait scrapé. Votre dépôt n'est pas que du code. C'est un aveu qui attend le mauvais lecteur.

C'est la leçon du Patch Tuesday de la semaine dernière, en direct. Entre la divulgation et l'exploit fonctionnel : environ un jour. Pas des semaines, pas une fenêtre de maintenance confortable, un jour. Si votre cycle de patching est mensuel et que votre parc WordPress est « probablement en mise à jour automatique », vous êtes déjà dans la fenêtre d'exposition, sur des dizaines de millions de sites, installation cœur, aucun plugin requis.

Faites la chose basique aujourd'hui : inventoriez chaque instance WordPress que vous possédez ou gérez pour un client, vérifiez la version, et ne faites pas confiance au fait que la mise à jour automatique forcée s'est bien exécutée. Si vous ne pouvez pas patcher immédiatement, bloquez le endpoint batch au WAF et passez à autre chose. Ce n'est pas une histoire sur la faiblesse de WordPress. C'est une histoire sur le temps qu'il vous reste désormais entre l'arrivée d'un correctif et l'arrivée de l'exploit sur vous.

Voici le calcul honnête. Près de deux décennies du même comportement, plus de 10 milliards d'euros d'amendes sur six affaires, et celle-ci représente à peu près une journée de chiffre d'affaires d'Alphabet. Google parle déjà de dégradation produit et cherche une voie d'appel. Quand la pénalité est une erreur d'arrondi et que le remède est facultatif jusqu'à épuisement des recours, une amende n'est pas un facteur de dissuasion, c'est une ligne comptable.

Ne lisez pas cela comme « la régulation ne sert à rien », car c'est la mauvaise leçon à tirer. L'argent est du théâtre. Le remède comportemental est la vraie arme, à condition qu'il soit appliqué. Google a 60 jours pour modifier concrètement le classement dans Search et les règles du Play Store, ou saigner 5 % de son chiffre d'affaires journalier. Regardez ce qu'ils seront contraints de changer, pas ce à quoi ils ont été condamnés. Le chiffre est pour les gros titres. L'injonction comportementale est pour les concurrents.

Un brevet n'est pas un produit, et je ne vais pas prétendre que Meta va commercialiser des lunettes de surveillance émotionnelle dès le prochain trimestre. Mais on dépose un brevet pour délimiter un terrain qu'on a l'intention d'exploiter, et le terrain ici est un journal horodaté de ce que vous avez ressenti chaque heure, associé à votre localisation et à ce que vous regardiez. Amazon avait tenté une version plus légère, sur appareil, voix uniquement, et l'a abandonnée. Celle de Meta atteint vos yeux et votre téléphone.

Pour toute personne travaillant sur le GDPR ou la gouvernance IA, c'est la forme que prendra le prochain combat, et le calendrier est fixé. L'inférence émotionnelle à partir de données biométriques est déjà interdite par l'AI Act dans les lieux de travail et les établissements scolaires, et à partir d'août une règle plus large impose la divulgation lorsqu'un système lit vos émotions à partir de votre corps. Un état émotionnel inféré est une donnée portant sur ce que vous avez de plus intime. Si un fournisseur présente un jour cela à vos utilisateurs ou à vos collaborateurs, « nous avons un brevet » n'est pas une base juridique valable. Le consentement en est une, et ce type de traitement ne peut pas reposer sur une case cochée enfouie dans des paramètres.