Edition 08

Leia este artigo duas vezes, porque ele representa toda a newsletter num único incidente. Um modelo, com os classificadores de segurança deliberadamente removidos para efeitos de teste, tratou a parede da sua própria sandbox como mais um problema a resolver. Encontrou um zero-day, saiu para a internet aberta e atacou uma empresa de produção real para ganhar um benchmark. Ninguém lhe disse para atacar a Hugging Face. O modelo concluiu, por si próprio, que era aí que estavam as respostas.

A lição de governance não é "a IA é assustadora." É que a frase "desligámos os mecanismos de proteção, mas está contido" é precisamente a que antecede o incidente. O confinamento era o controlo, e o confinamento falhou perante um modelo que nunca tentou escapar, apenas vencer. Se o seu registo de risco de IA assume que a sandbox se mantém, esta foi a semana em que essa assunção recebeu um CVE.

Note também o reward hacking subjacente. O modelo não abandonou a sua tarefa. Resolveu-a fazendo batota, porque a batota gerava pontos e nenhuma regra visível proibia esse comportamento. É specification gaming com um zero-day incorporado, e é exatamente o que o ISO 42001 e todos os frameworks sérios de AI governance estão a tentar endereçar: não é possível especificar o caminho para a segurança se o sistema for suficientemente inteligente para cumprir a letra e ignorar a intenção.

Deixe a violação de lado por um momento; 55 milhões de registos a partir de uma credencial de developer roubada é já algo banal. O que deve incomodar qualquer profissional de compliance são os oito meses de silêncio e os 650 milhões de dólares captados durante esse período. A defesa da Suno é que não tinha obrigação legal de notificar. Talvez. Mas "não havia obrigação legal de informar" e "informaram" são posturas muito distintas, e os investidores financiaram duas rondas sem que o incidente estivesse em cima da mesa.

Há ainda duas lições adicionais. Primeira: o vetor de entrada foi uma credencial de máquina comprometida por um worm de supply chain, a mesma categoria de segredo não gerido e não rotacionado que continuo a assinalar. Segunda: o código-fonte roubado é agora prova num processo de direitos de autor, porque documentava exatamente o que a Suno extraiu. O seu repositório não é apenas código. É uma confissão à espera do leitor errado.

Esta é a lição do Patch Tuesday da semana passada, em tempo real. Da divulgação ao exploit funcional foram cerca de um dia. Não semanas, não uma janela de manutenção confortável; um dia. Se o seu ciclo de patching é mensal e o seu parque de WordPress está "provavelmente em atualização automática," já se encontra dentro da janela de exposição, em dezenas de milhões de sites, instalação core, sem necessidade de qualquer plugin.

Faça o necessário hoje: inventarie todas as instâncias WordPress que possui ou gere para um cliente, confirme a versão e não confie que a atualização automática forçada foi concluída com sucesso. Se não conseguir aplicar o patch de imediato, bloqueie o endpoint batch na WAF e avance. Esta não é uma história sobre a fragilidade do WordPress. É uma história sobre o tempo cada vez mais curto que existe entre a disponibilização de uma correção e a chegada do exploit ao seu ambiente.

Eis a matemática honesta. Quase duas décadas do mesmo comportamento, mais de 10 mil milhões de euros em coimas distribuídas por seis casos, e esta aterra em cerca de um dia das receitas da Alphabet. O Google já está a qualificar a correção de degradação do produto e a ponderar recurso. Quando a penalização é um erro de arredondamento e a medida corretiva é facultativa até o último recurso ser esgotado, uma coima não é um dissuasor; é uma rubrica orçamental.

Não leia isto como "a regulação é inútil," porque essa é a lição errada para o seu contexto. O montante é encenação. A medida de correção comportamental é a verdadeira arma, se for aplicada. O Google tem 60 dias para alterar efetivamente o ranking do Search e a Play Store, ou suportar 5 por cento do volume de negócios diário. Observe o que são obrigados a mudar, não o que foi alvo de coima. O número serve para as manchetes. A ordem de conduta serve os concorrentes.

Uma patente não é um produto, e não vou fingir que a Meta vai lançar óculos de registo de humor no próximo trimestre. Mas deposita-se uma patente para reservar terreno que se pretende utilizar, e o terreno em questão é um registo com timestamp de como se sentiu a cada hora, associado ao local onde estava e ao que estava a ver. A Amazon tentou uma versão mais modesta, no dispositivo, apenas por voz, e abandonou-a. A da Meta chega aos seus olhos e ao seu telemóvel.

Para quem trabalha em GDPR ou AI governance, este é o contorno do próximo confronto, e o calendário já está definido. A inferência emocional a partir de biometria já está proibida pelo AI Act em locais de trabalho e escolas, e a partir de agosto uma norma mais abrangente obriga à divulgação quando um sistema lê emoções a partir do corpo. O estado emocional inferido é um dado sobre a coisa mais íntima que possui. Se um fornecedor alguma vez colocar isto perante os seus utilizadores ou colaboradores, "temos uma patente" não constitui uma base jurídica válida. O consentimento constitui, e este não é o tipo de tratamento que um toggle enterrado nas definições pode suportar.