A ISO/IEC 27090 foi publicada em outubro. Li as 66 páginas. A minha conclusão cabe em três linhas.
É uma boa norma que chega tarde. É superficial onde devia ser densa e densa onde não importa. Deve lê-la na mesma, porque está prestes a tornar-se o vocabulário que o seu auditor, o seu conselho de administração e os seus fornecedores de IA vão usar, e convém dominá-lo antes deles.
Aqui está o que a norma acerta, onde falha, como vou usá-la em auditorias, e a tabela que devia ter incluído e não incluiu.
O que é, num parágrafo
Orientação do comité que mantém a ISO 27001, dirigida a qualquer organização que desenvolva ou utilize sistemas de IA. Situa-se ao lado da 27001 e da 27002 para o SGSI, da 42001 para o sistema de gestão de IA, da 23894 para o risco em IA e da 27091 para IA e privacidade. O seu papel é o catálogo de ameaças que as outras normas não tinham: nove formas de comprometer um sistema de IA, cada uma com falhas, deteção e mitigações. Não existe certificação associada. Se alguém lhe oferecer um "certificado 27090" no próximo trimestre, pergunte o que está exatamente a ser certificado.
O que acerta
Diz-lhe para resolver primeiro o que é básico. Antes de qualquer ataque específico a IA, a norma recorda que um sistema de IA é software que corre sobre uma stack, e que os controlos da 27002 têm prioridade. Depois diz algo que gostava que todo o fornecedor de segurança para IA lesse: proteger a stack de software pode ser "um ponto de partida mais eficiente para o investimento em segurança" do que defender contra extrações sofisticadas via prompts. Tradução para a reunião de orçamento: verifique quem consegue copiar os pesos do seu modelo antes de comprar uma firewall de prompts.
Admite que as mitigações se contradizem. A cláusula 7 é a parte mais honesta do documento. Afirma claramente que "as mitigações que envolvem treino podem demonstrar efeitos secundários prejudiciais inesperados", citando trabalho do NIST em que o treino adversarial contra um ataque tornou um modelo muito mais exposto a outro. Acrescenta que as defesas construídas através de treino degradam-se à medida que os modelos derivam. As normas raramente admitem que os seus próprios controlos podem ter efeito contrário. Esta fá-lo, e a lição para o seu registo de controlos é direta: uma linha por mitigação não diz nada. Testa-se o conjunto.
Dá ao throttling uma nova função. Limitar a taxa de acesso ao modelo por utilizador, diz a norma, não tem "como objetivo evitar a sobrecarga do sistema, mas dificultar a experimentação". A maioria dos ataques de extração e inversão de modelos exige milhares de tentativas. Atrasá-las aumenta o custo do ataque, com um controlo que já sabe como operar.
A orientação sobre agentes é precisa. Os privilégios pertencem ao agente ou serviço que atua, limitados à tarefa, expiram quando a tarefa termina, sob a identidade própria do agente em vez dos direitos plenos do utilizador. Os agentes de API recebem uma verificação antes da execução, os agentes de utilização de computador uma lista de ações permitidas, e os orquestradores isolamento entre componentes. Cada recuperação RAG é autorizada individualmente, para que uma aplicação autorizada não entregue a um utilizador um documento que nunca teve permissão de ler. Se implementar agentes, esta subcláusula vale por si só o preço da norma.
Onde falha
A cláusula 6 não ensina muito a um profissional. Se já trabalhou com o OWASP Top 10 for LLM Applications, o MITRE ATLAS ou a taxonomia de machine learning adversarial do NIST, os nove tipos de comprometimento são terreno familiar. O valor da 27090 está noutro lado: coloca esses ataques na linguagem de um SGSI, que é a linguagem que auditores, comités de risco e equipas de procurement já aceitam. Isso é valor real. É apenas um valor diferente do que as notícias vão vender.
Os agentes têm uma subcláusula. A aprendizagem federada tem um anexo. O maior risco operacional de 2026 são os agentes de IA com permissões reais em sistemas reais. A orientação sobre privilégios de agentes, boa como é, cabe numa página. A aprendizagem automática federada, que muito poucas das organizações que lêem isto alguma vez vão implementar, tem um anexo informativo inteiro. A cronologia de redação lê-se nesse desequilíbrio: o documento foi concebido antes de os agentes se tornarem mainstream, e o material sobre agentes foi acrescentado depois.
Algumas secções param antes de começar. Veja o caso dos outputs sensíveis do modelo, o risco de um modelo devolver dados pessoais ou material protegido por direitos de autor do seu conjunto de treino. A análise completa das falhas resume-se a: "A confidencialidade dos dados de treino é afetada." A deteção resume-se a filtrar outputs em busca de padrões reconhecíveis, sendo um número de telefone o exemplo dado. É um ponto de partida, e a norma devia tê-lo dito.
O "se" que devia ter sido eliminado. Sobre outputs que transportam ataques de injeção, a norma afirma que o output do modelo "deve ser considerado não fidedigno se os dados de treino puderem ser considerados não fidedignos". Para qualquer modelo de linguagem treinado na web aberta, essa condição é sempre verdadeira. Elimine o "se". Qualquer aplicação que encaminhe output do modelo para um browser, uma shell, um ticket ou um e-mail tem uma nova superfície de injeção, e a sua equipa de AppSec deve tratar o modelo como mais um utilizador não fidedigno.
Contradiz-se na questão do logging. Numa cláusula, a 27090 lista a minimização de dados e a retenção limitada como controlos de segurança por direito próprio. Três cláusulas mais tarde, recomenda o registo de cada interação com o modelo, incluindo o input, o output, o identificador do utilizador, o timestamp e a versão do modelo. Nenhuma palavra sobre retenção, nenhuma palavra sobre as consequências para a privacidade. Prompts e respostas estão entre os dados mais pessoais que uma organização alguma vez registará. Se leu o artigo da semana passada, sabe que já identifico a ausência do DPO como uma constatação recorrente. Implemente a cláusula 7.5 sem ele e estará a redigir essa constatação contra si próprio.
Dois "shall" num documento cheio de "should". Contei. O corpo do documento usa "should" mais de cem vezes e "shall" duas vezes, ambas na cláusula 5.1: os controlos convencionais devem ser implementados, e os comprometimentos específicos de IA devem ser tidos em conta ao longo do ciclo de vida. Num documento de orientação, é uma escolha estranha. O seu auditor vai ler essas duas palavras, e você também devia.
Como vou usá-la em auditorias
Em três momentos, a começar pela próxima auditoria ISO 27001 que tenha IA em âmbito.
A avaliação de risco. Se uma organização opera sistemas de IA e o seu catálogo de ameaças não contempla poisoning, extração, inversão ou injeção, esse catálogo está incompleto. A 27090 é agora a referência que vou indicar.
Permissões de agentes. A 27090 ancora a sua orientação de privilégio mínimo no controlo 8.2 da 27002, direitos de acesso privilegiado. Por isso, um agente a correr com os direitos plenos de um utilizador, ou com credenciais permanentes que nunca expiram, deixa de ser uma preocupação teórica. É uma constatação contra um controlo para o qual já está certificado. A pergunta que vou colocar: escolha o seu agente mais capaz, e diga-me o que poderia fazer se alguém o convencesse a agir.
Logging de IA. Registar a utilização do modelo é boa prática e a 27090 tem razão em exigi-lo. Vou verificar que existe um período de retenção, uma finalidade, e a opinião do DPO documentada.
A tabela que a norma devia ter incluído
A 27090 remete para a 27002 aqui e ali. Nunca apresenta a visão consolidada. Aqui está a nossa: onde cada tipo de comprometimento aterra num SGSI existente e numa implementação 42001. Use-a para ligar a 27090 à avaliação de risco que já tem.
| Tipo de comprometimento 27090 | Controlos ISO/IEC 27002:2022 | Anexo A ISO/IEC 42001 |
|---|---|---|
| Data poisoning | 5.21 Cadeia de fornecimento TIC, 8.25 Ciclo de vida de desenvolvimento seguro, 8.32 Gestão de alterações | A.7.4 Qualidade dos dados, A.7.5 Proveniência dos dados, A.10.3 Fornecedores |
| Envenenamento direto do modelo | 8.4 Acesso ao código-fonte, 8.31 Separação de ambientes, 8.32 Gestão de alterações | A.6.2.5 Implementação |
| Exfiltração do modelo | 8.3 Restrição de acesso à informação, 8.16 Atividades de monitorização | A.6.2.6 Operação e monitorização |
| Inferência de pertença, inversão de modelo | 5.34 Privacidade e proteção de PII, 8.11 Mascaramento de dados | A.7.6 Preparação de dados |
| Output sensível do modelo | 8.12 Prevenção de fuga de dados, 5.34 Privacidade e proteção de PII | A.6.2.6 Operação e monitorização |
| Evasão | 8.26 Requisitos de segurança de aplicações, 8.29 Testes de segurança | A.6.2.4 Verificação e validação |
| Injeção de prompt | 8.26 Requisitos de segurança de aplicações, 8.28 Codificação segura | A.6.2.4 Verificação e validação |
| Output com injeção | 8.28 Codificação segura | A.6.2.4 Verificação e validação |
| Privilégios de agentes | 8.2 Direitos de acesso privilegiado, 5.15 Controlo de acesso, 5.18 Direitos de acesso | A.9.4 Utilização prevista do sistema de IA |
| Logging de utilização do modelo | 8.15 Logging, 8.16 Atividades de monitorização | A.6.2.8 Registo de logs de eventos |
Sugestão: Comece pelas linhas onde já tem um controlo em vigor. A maioria das organizações vai verificar que quatro ou cinco destas dez estão cobertas por controlos que já operam hoje, alargados ao parque de IA. As lacunas costumam ser a proveniência dos dados, os privilégios de agentes e o logging que ninguém dimensionou para prompts.
Nota Final
O aspeto mais útil da 27090 é o quão pouco glamorosa é. Começa por dizer que os sistemas de IA são software, que os controlos existentes continuam a aplicar-se, e que as defesas exóticas vêm depois do essencial. Onde é fraca, é-o de formas que um profissional consegue compensar numa tarde.
Os novos ataques são reais. Raramente são a porta de entrada mais barata no seu sistema de IA. Feche as óbvias, ligue as restantes ao SGSI que já opera, e pare de esperar que uma framework específica de IA o salve de fazer o trabalho.
Se está a integrar IA num SGSI, ou a construir o sistema de gestão em torno dela, o nosso ISO 42001 Lead Implementer e o ISO 27001 Lead Implementer são lecionados por profissionais que implementam e auditam estas normas todas as semanas. Sairá a saber quais das dez linhas a sua organização pode fechar na segunda-feira.
