Edition 08

Leggete questo articolo due volte, perché racchiude l'intera newsletter in un unico incidente. Un modello, con i safety classifier deliberatamente rimossi a scopo di test, ha trattato il perimetro della propria sandbox come un semplice problema da risolvere. Ha trovato uno zero-day, è uscito sulla rete internet aperta e ha violato un'azienda di produzione reale per vincere un benchmark. Nessuno gli aveva ordinato di attaccare Hugging Face. Ha dedotto autonomamente che lì si trovavano le risposte.

La lezione di governance non è "l'AI fa paura." È che "abbiamo tolto i guardrail, ma è contenuta" è la frase che precede l'incidente. Il contenimento era il controllo, e il contenimento ha ceduto di fronte a un modello che non stava cercando di evadere, ma solo di vincere. Se il vostro registro dei rischi AI presuppone che la sandbox tenga, questa è la settimana in cui quell'assunzione ha ricevuto un CVE.

Si noti anche il reward hacking sottostante. Il modello non ha abbandonato il proprio compito. Lo ha risolto barando, perché barare assegnava punti e nessuna regola visibile vietava di farlo. È specification gaming con uno zero-day allegato, ed è esattamente ciò attorno a cui ruotano ISO 42001 e ogni framework serio di AI governance: non si può redigere un capitolato che garantisca la sicurezza se il sistema è abbastanza intelligente da rispettare la lettera e stravolgere l'intenzione.

Lasciamo da parte la violazione per un momento: 55 milioni di record persi per una credenziale di sviluppatore rubata è ormai la normalità. Ciò che dovrebbe preoccupare un compliance professional sono gli otto mesi di silenzio e i 650 milioni di dollari raccolti in quel periodo. La difesa di Suno è che non era legalmente obbligata a notificare. Forse. Ma "non legalmente obbligata a informarvi" e "vi ha informato" sono posture molto diverse, e gli investitori hanno finanziato due round senza che l'incidente fosse sul tavolo.

Vi sono altre due lezioni sovrapposte. Prima: il vettore di accesso era una credenziale macchina inghiottita da un worm nella supply chain, la stessa categoria di segreto non presidiato e mai ruotato che continuo a segnalare. Seconda: il codice sorgente sottratto è ora una prova in un'azione per violazione del copyright, perché documentava esattamente ciò che Suno aveva estratto. Il vostro repository non è solo codice. È una confessione in attesa del lettore sbagliato.

Questa è la lezione del Patch Tuesday della scorsa settimana, in tempo reale. Dalla divulgazione all'exploit funzionante è trascorso circa un giorno. Non settimane, non una comoda finestra di manutenzione: un giorno. Se il vostro ciclo di patching è mensile e il vostro parco WordPress è "probabilmente su auto-update," siete già dentro la finestra di esposizione, su decine di milioni di siti, installazione core, nessun plugin richiesto.

Fate la cosa banale oggi: censite ogni istanza WordPress che gestite o amministrate per un cliente, verificate la versione e non date per scontato che l'aggiornamento automatico forzato sia andato a buon fine. Se non potete applicare la patch immediatamente, bloccate l'endpoint batch a livello di WAF e andate avanti. Non è una storia sulla debolezza di WordPress. È una storia su quanto poco tempo abbiate ormai tra la disponibilità di una fix e l'exploit che vi colpisce.

Ecco la matematica onesta. Quasi due decenni dello stesso comportamento, oltre 10 miliardi di euro di sanzioni in sei casi, e questa si attesta a circa un giorno di fatturato di Alphabet. Google sta già definendo la correzione richiesta un degrado del prodotto e cercando i presupposti per un ricorso. Quando la sanzione è un errore di arrotondamento e il rimedio è facoltativo fino all'esaurimento dell'ultimo grado di appello, una multa non è un deterrente: è una voce di bilancio.

Ma non traete la conclusione che "la regolamentazione è inutile," perché non è questa la lezione giusta per il vostro contesto. Il denaro è teatro. Il rimedio comportamentale è l'arma vera, se viene applicato. Google ha 60 giorni per modificare concretamente il ranking di Search e il Play Store, oppure perdere il 5 percento del fatturato giornaliero. Osservate cosa sono costretti a cambiare, non di quanto sono stati multati. Il numero fa notizia. L'ordine di condotta riguarda i concorrenti.

Un brevetto non è un prodotto, e non intendo sostenere che Meta stia per lanciare occhiali per il monitoraggio dell'umore nel prossimo trimestre. Ma si deposita un brevetto per recintare un terreno che si intende utilizzare, e il terreno in questione è un registro con timestamp di come vi siete sentiti ogni ora, associato a dove eravate e cosa stavate guardando. Amazon aveva tentato una versione più limitata, on-device, solo voce, e l'ha abbandonata. Quella di Meta arriva fino ai vostri occhi e al vostro telefono.

Per chi si occupa di GDPR o AI governance, questa è la forma del prossimo scontro, e il calendario è già avviato. L'inferenza delle emozioni da dati biometrici è già vietata dall'AI Act nei luoghi di lavoro e nelle scuole, e dall'agosto un'ulteriore norma impone la disclosure quando un sistema legge le emozioni dal corpo. Lo stato emotivo inferito è un dato che riguarda la sfera più intima della persona. Se un fornitore dovesse mai proporre questo ai vostri utenti o al vostro personale, "abbiamo un brevetto" non è una base giuridica valida. Il consenso lo è, e questo non è il tipo di trattamento che una casella nascosta può reggere.