Edition 09

Leia o veredicto novamente, porque é o ponto essencial: as falhas eram banais. Tratamento inseguro de datasets, metadados expostos, acessos demasiado amplos, credenciais de longa duração. Nenhum zero-day exótico nas bases, apenas as conclusões exatas que o último relatório de pentest lista e que o último plano de tratamento de risco provavelmente adiou. A IA não precisou de ser brilhante. Precisou apenas de encontrar o frigorífico mal fechado e depois verificou cada trinco 17 600 vezes sem se aborrecer, cansar ou intimidar.

É esta mudança que deve alterar a forma como testa. O pentest anual simula um humano: alguns dias, uma pessoa que dorme, um âmbito que tem fim. Isto simula algo que nunca para, nunca esquece o objetivo e se reconstrói de cada vez que é derrubado. Se o seu modelo de ameaças pressupõe um atacante com a paciência e o horário de expediente de um humano, está a testar para um mundo que já não existe.

Por isso, a conclusão recai onde recai sempre, apenas com mais força: na era da IA, a higiene básica é fundamental. Rode as credenciais. Elimine os tokens de longa duração. Aplique o princípio do menor privilégio de forma real, não só no papel. E se realizar testes ofensivos, comece a questionar como seria um red-teaming agêntico contra o seu ambiente, porque o outro lado já o está a executar. É esta a conversa de governação para a qual o ISO 42001 aponta repetidamente, e este incidente acaba de a tornar concreta.

Este é o tema mais próximo do meu trabalho quotidiano, por isso serei direto quanto ao que muda. Se tem um conjunto de dados que tratou como anónimo por ter removido os nomes ou aplicado hash aos identificadores, o EDPB, na sequência do Tribunal, acaba de informar que isso não é uma propriedade dos dados, é um juízo sobre o contexto. Anónimo nas suas mãos pode ser dados pessoais nas mãos de outro. Isto reformula cada argumento do tipo «está anonimizado, o GDPR não se aplica» numa pipeline de treino de IA ou numa partilha de dados para investigação.

Escrevi um estudo completo sobre a definição de dados pessoais através dos casos Breyer e SRB, que é a origem desta abordagem relativa, e será publicado na Cyberacademy esta semana, por isso fique atento. Se trata dados que classificou como anónimos, leia-o antes da sua próxima decisão de partilha de dados. A versão curta: o rótulo não é a proteção. A avaliação documentada do risco de reidentificação que o fundamenta é que o é.

Digo isto em cada formação que ministro, e agora a norma diz-o em onze páginas: o Anexo A não é um catálogo de onde se escolhe. Começa-se pelos riscos, decide-se os controlos que esses riscos exigem e só então se verifica o Anexo A para garantir que nada foi esquecido. As organizações que erram na implementação do 27001 fazem-no ao contrário: abrem primeiro o Anexo A e tratam-no como uma lista de compras, ficando com um conjunto de controlos que não respondem a nenhum risco real. O 27000 mais compacto existe, em parte, para erradicar esse hábito.

Uma nota prática: se os seus materiais de formação, templates ou wiki interno citam definições do ISO 27000, estão agora a referenciar uma edição retirada, e o vocabulário passa a estar disponível na plataforma online da ISO. E se gere qualquer serviço em cloud, o 27017 está finalmente alinhado com os controlos de 2022, pelo que tanto o mapeamento de controlos cloud como a próxima auditoria cloud requerem a nova versão.

Note o padrão com os dois pontos anteriores. O EDPB diz que um rótulo de anonimato não é proteção. A ISO diz que um visto no Anexo A não é um controlo. Agora a CISA diz que um SBOM gerado não é segurança da cadeia de fornecimento. Mesma lição, três reguladores, uma semana: o artefacto não é o resultado. Um SBOM produzido uma vez e arquivado nada prova no dia em que um novo CVE é descoberto contra um componente que lhe está embutido.

Mesmo que esteja fora do âmbito dos EUA, esta é a direção, e o NIS2, o DORA e o Cyber Resilience Act assentam precisamente neste tipo de transparência da cadeia de fornecimento. Trate o SBOM como um inventário vivo que cruza com feeds de vulnerabilidades, não como um PDF para a pasta de auditoria.

E aqui está o ponto em que convém antecipar: o SBOM é apenas o primeiro inventário. O AI Bill of Materials está a chegar, a mesma lógica de inventariação aplicada a modelos, datasets, pesos e proveniência do treino, e a CISA já publicou um conjunto complementar de elementos mínimos para IA. É mais difícil, porque um modelo ou um dataset pode mudar sem que um build alguma vez seja executado, pelo que um snapshot anual é inútil. Veja o início desta edição: um componente de IA não inventariado, explorado em escala, é exatamente o risco que um AI-BoM existe para tornar visível. Comece a solicitá-lo aos seus fornecedores antes que o seu regulador o faça.

Construí-a porque as ferramentas que continuava a recomendar eram demasiado pesadas, demasiado caras ou tratavam o GRC como um exercício de preenchimento de formulários, o que é o oposto de tudo o que ensino nesta newsletter. Existe um nível gratuito para começar. E se quiser testá-la a fundo, responda a este e-mail e darei-lhe um ano completo do nível premium, gratuito, para a colocar à prova. Se não for para si, sem pressão, a newsletter continua exatamente igual.