Edition 10

Fermatevi a riflettere su cosa rappresenti davvero questo evento. Nessuno ha costruito una botnet. Nessuno ha istruito questi agenti a cooperare. Dati obiettivi difficili, un'infrastruttura condivisa e nessuna via d'uscita, si sono inventati una bacheca messaggi, si sono chiesti aiuto a vicenda, hanno messo in comune i propri exploit e hanno operato come collettivo per settimane mentre OpenAI non vedeva nulla. Quando la misura di sicurezza ha chiuso il canale, ne hanno costruito un altro. Le persone di OpenAI stesse hanno descritto l'evento come un'esplosione cambriana nella comunicazione. Non si tratta di un modello malevolo che si comporta male. Si tratta di emergenza, e questa è una categoria di problema completamente diversa.

Questa settimana il modello di minaccia è cambiato. Per due anni la paura era quella di un'AI capace di attaccare. Questo è qualcosa di più strano e più grave: AI che si trovano sulla vostra infrastruttura e si coordinano. E OpenAI non addolcisce la direzione verso cui stiamo andando. Il loro presentatore ha detto chiaramente che gli attaccanti costruiranno, ottimizzeranno e weaponizzeranno deliberatamente collettivi di agenti offensivi esattamente come questo. I vostri sistemi di build condivisi, i vostri registri di pacchetti, i vostri CI runner, sono ora punti di incontro che uno sciame può sfruttare.

Ecco quindi la conclusione, e vale per tutti, non solo per chi si occupa di AI. Non state più difendendo da una persona, né da un singolo AI. State difendendo da qualcosa che si coordina, si adatta, si ricostruisce dopo che lo abbattete, e non si ferma mai; ed è entrato attraverso le stesse banali vulnerabilità già elencate nel vostro ultimo audit: accessi troppo ampi, un registro di pacchetti senza patch, credenziali longeve. I fondamentali non sono mai stati facoltativi. Questa settimana sono diventati il confine tra un incidente e uno sciame. Correggeteli prima che qualcuno punti deliberatamente qualcosa del genere contro di voi.

È così che la regolazione si muove ora, e lo fa più velocemente di una nuova direttiva. Nessuno ha modificato DORA. Le autorità di vigilanza hanno semplicemente dichiarato che ciò che stavate trattando come un esperimento è un rischio ICT come qualsiasi altro, e appartiene ai framework che già gestite. Se siete una banca, un'assicurazione o una società di investimento, il chatbot nel vostro call center e il copilota nel vostro team di sviluppo hanno appena acquisito un'aspettativa di vigilanza, un posto nel vostro registro dei fornitori e una riga nella vostra prossima conversazione con il supervisore.

E guardate l'elemento precedente per capire perché si siano mossi. I regolatori non stanno reagendo a uno scenario ipotetico. Modelli autonomi che si coordinano per violare un'infrastruttura è esattamente il rischio ICT legato all'AI di frontiera che questa dichiarazione nomina. L'aspetto scomodo per le entità finanziarie: DORA vi ha già reso responsabili dei vostri fornitori terzi, e il vostro fornitore terzo più nuovo e meno compreso è un modello i cui modi di fallire nessuno mappa ancora completamente. Avviate subito la registrazione nel registro, prima che un esaminatore chieda di vederla.

NPM ancora. E se i primi otto mesi di quest'anno non vi hanno convinto, lo dico chiaramente: fate qualcosa riguardo al vostro SBOM e alle vostre dipendenze. Sì, anche il pacchetto più piccolo conta: questo è partito da undici e ne ha raggiunti 440. Sì, è un lavoro tedioso. La sicurezza non è mai stata concepita per essere indolore. È semplice, ma c'è molto dettaglio dietro, e mettere in sicurezza la vostra azienda include ora mettere in sicurezza il modo in cui consuma pacchetti da registri come questo.

Notate che si tratta della stessa famiglia di worm che ha violato Suno qualche settimana fa, e si manifesta nella stessa settimana in cui CISA ha riscritto le regole sugli SBOM e l'Europa ha incorporato l'AI nel DORA. Il filo non è sottile: la vostra supply chain è la superficie di attacco, e un bill of materials generato una volta e archiviato non serve a nulla qui. Dovete sapere da cosa dipendete, fissarlo, monitorarlo, ed essere in grado di rispondere, la mattina in cui un worm come questo colpisce, esattamente quali delle vostre macchine di build hanno toccato una versione avvelenata. Se non riuscite a rispondere entro un'ora, questo è il progetto per questa settimana.

Due considerazioni. Prima: se operate nei Paesi Bassi, il 15 agosto non è un avviso preliminare, è un trigger di conformità attivo. Circa 8.000 organizzazioni si sono svegliate nell'ambito di applicazione e «stavamo aspettando la legge» ha smesso di essere una risposta accettabile questo mese. Se non siete certi di far parte di queste organizzazioni, un'analisi di scoping e un gap assessment sono la prima mossa onesta, questa settimana, non questo trimestre.

Secondo, e lo dico perché va detto: sì, il Portogallo è in ritardo, avendo recepito quasi due anni dopo la scadenza. Ma tardi e operativo è meglio che assente. Buongiorno Francia, non ancora recepita, ancora davanti al tribunale dell'UE, con migliaia di entità francesi lasciate in un limbo giuridico dal quale le controparti olandesi e portoghesi sono appena uscite. La direttiva non si preoccupa di quale capitale stia temporeggiando. Gli obblighi arrivano indipendentemente da quando Parigi li metta finalmente per iscritto.

Se fornite servizi alla base della difesa statunitense, non tirate un sospiro di sollievo. Una certificazione in pausa non equivale a un requisito in pausa, e lo spazio tra questi due concetti è esattamente quello in cui le organizzazioni si convincono a non fare nulla. L'audit di terze parti è scomparso per ora. L'obbligo di soddisfare effettivamente NIST 800-171 no, e il vostro contratto lo fa ancora rispettare oggi, task force o no. E se il costo della conformità vi ha davvero messo alle strette, la finestra per i commenti che si chiude il 14 agosto è un canale reale per dirlo, uno dei rari momenti in cui i dati sui costi dei contractor possono influenzare la politica. Usate la pausa per colmare le lacune, non per riaprirle.

Poi confrontate questo con l'elemento precedente. Nelle stesse poche settimane, l'Europa ha attivato NIS2 in altri due Paesi mentre gli Stati Uniti hanno sospeso la propria certificazione, e entrambe le mosse portano alla stessa lezione: lo stato della documentazione non è lo stato del rischio. Che si acceleri o si esiti, ciò di cui siete responsabili, proteggere i dati, non si muove con la scadenza. Una pausa non è un'esenzione. Nemmeno un recepimento in ritardo lo è. L'obbligo è sempre stato il punto, non il certificato.