Ir para o conteúdo principal

ISO/IEC 27090 Foi Publicada. O Que Muda Para os Seus Sistemas de IA.

Li as 66 páginas para que saiba por onde começar. Uma norma razoável, tardia, superficial onde devia ser exigente, com duas contradições que o seu auditor vai encontrar antes de si.

Christophe MazzolaChristophe Mazzola· CISO em exercício · Fundador da Cyber Academy7 min de leitura
Um exemplar impresso da ISO/IEC 27090, primeira edição 2026-10, com separadores de notas adesivas, numa secretária ao lado de uma caneca da Cyber Academy e um caderno de listas de verificação

A ISO/IEC 27090 foi publicada em outubro. Li as 66 páginas. A minha conclusão cabe em três linhas.

É uma boa norma que chega tarde. É superficial onde devia ser densa e densa onde não importa. Deve lê-la na mesma, porque está prestes a tornar-se o vocabulário que o seu auditor, o seu conselho de administração e os seus fornecedores de IA vão usar, e convém dominá-lo antes deles.

Aqui está o que a norma acerta, onde falha, como vou usá-la em auditorias, e a tabela que devia ter incluído e não incluiu.

O que é, num parágrafo

Orientação do comité que mantém a ISO 27001, dirigida a qualquer organização que desenvolva ou utilize sistemas de IA. Situa-se ao lado da 27001 e da 27002 para o SGSI, da 42001 para o sistema de gestão de IA, da 23894 para o risco em IA e da 27091 para IA e privacidade. O seu papel é o catálogo de ameaças que as outras normas não tinham: nove formas de comprometer um sistema de IA, cada uma com falhas, deteção e mitigações. Não existe certificação associada. Se alguém lhe oferecer um "certificado 27090" no próximo trimestre, pergunte o que está exatamente a ser certificado.

O que acerta

Diz-lhe para resolver primeiro o que é básico. Antes de qualquer ataque específico a IA, a norma recorda que um sistema de IA é software que corre sobre uma stack, e que os controlos da 27002 têm prioridade. Depois diz algo que gostava que todo o fornecedor de segurança para IA lesse: proteger a stack de software pode ser "um ponto de partida mais eficiente para o investimento em segurança" do que defender contra extrações sofisticadas via prompts. Tradução para a reunião de orçamento: verifique quem consegue copiar os pesos do seu modelo antes de comprar uma firewall de prompts.

Admite que as mitigações se contradizem. A cláusula 7 é a parte mais honesta do documento. Afirma claramente que "as mitigações que envolvem treino podem demonstrar efeitos secundários prejudiciais inesperados", citando trabalho do NIST em que o treino adversarial contra um ataque tornou um modelo muito mais exposto a outro. Acrescenta que as defesas construídas através de treino degradam-se à medida que os modelos derivam. As normas raramente admitem que os seus próprios controlos podem ter efeito contrário. Esta fá-lo, e a lição para o seu registo de controlos é direta: uma linha por mitigação não diz nada. Testa-se o conjunto.

Dá ao throttling uma nova função. Limitar a taxa de acesso ao modelo por utilizador, diz a norma, não tem "como objetivo evitar a sobrecarga do sistema, mas dificultar a experimentação". A maioria dos ataques de extração e inversão de modelos exige milhares de tentativas. Atrasá-las aumenta o custo do ataque, com um controlo que já sabe como operar.

A orientação sobre agentes é precisa. Os privilégios pertencem ao agente ou serviço que atua, limitados à tarefa, expiram quando a tarefa termina, sob a identidade própria do agente em vez dos direitos plenos do utilizador. Os agentes de API recebem uma verificação antes da execução, os agentes de utilização de computador uma lista de ações permitidas, e os orquestradores isolamento entre componentes. Cada recuperação RAG é autorizada individualmente, para que uma aplicação autorizada não entregue a um utilizador um documento que nunca teve permissão de ler. Se implementar agentes, esta subcláusula vale por si só o preço da norma.

Onde falha

A cláusula 6 não ensina muito a um profissional. Se já trabalhou com o OWASP Top 10 for LLM Applications, o MITRE ATLAS ou a taxonomia de machine learning adversarial do NIST, os nove tipos de comprometimento são terreno familiar. O valor da 27090 está noutro lado: coloca esses ataques na linguagem de um SGSI, que é a linguagem que auditores, comités de risco e equipas de procurement já aceitam. Isso é valor real. É apenas um valor diferente do que as notícias vão vender.

Os agentes têm uma subcláusula. A aprendizagem federada tem um anexo. O maior risco operacional de 2026 são os agentes de IA com permissões reais em sistemas reais. A orientação sobre privilégios de agentes, boa como é, cabe numa página. A aprendizagem automática federada, que muito poucas das organizações que lêem isto alguma vez vão implementar, tem um anexo informativo inteiro. A cronologia de redação lê-se nesse desequilíbrio: o documento foi concebido antes de os agentes se tornarem mainstream, e o material sobre agentes foi acrescentado depois.

Algumas secções param antes de começar. Veja o caso dos outputs sensíveis do modelo, o risco de um modelo devolver dados pessoais ou material protegido por direitos de autor do seu conjunto de treino. A análise completa das falhas resume-se a: "A confidencialidade dos dados de treino é afetada." A deteção resume-se a filtrar outputs em busca de padrões reconhecíveis, sendo um número de telefone o exemplo dado. É um ponto de partida, e a norma devia tê-lo dito.

O "se" que devia ter sido eliminado. Sobre outputs que transportam ataques de injeção, a norma afirma que o output do modelo "deve ser considerado não fidedigno se os dados de treino puderem ser considerados não fidedignos". Para qualquer modelo de linguagem treinado na web aberta, essa condição é sempre verdadeira. Elimine o "se". Qualquer aplicação que encaminhe output do modelo para um browser, uma shell, um ticket ou um e-mail tem uma nova superfície de injeção, e a sua equipa de AppSec deve tratar o modelo como mais um utilizador não fidedigno.

Contradiz-se na questão do logging. Numa cláusula, a 27090 lista a minimização de dados e a retenção limitada como controlos de segurança por direito próprio. Três cláusulas mais tarde, recomenda o registo de cada interação com o modelo, incluindo o input, o output, o identificador do utilizador, o timestamp e a versão do modelo. Nenhuma palavra sobre retenção, nenhuma palavra sobre as consequências para a privacidade. Prompts e respostas estão entre os dados mais pessoais que uma organização alguma vez registará. Se leu o artigo da semana passada, sabe que já identifico a ausência do DPO como uma constatação recorrente. Implemente a cláusula 7.5 sem ele e estará a redigir essa constatação contra si próprio.

Dois "shall" num documento cheio de "should". Contei. O corpo do documento usa "should" mais de cem vezes e "shall" duas vezes, ambas na cláusula 5.1: os controlos convencionais devem ser implementados, e os comprometimentos específicos de IA devem ser tidos em conta ao longo do ciclo de vida. Num documento de orientação, é uma escolha estranha. O seu auditor vai ler essas duas palavras, e você também devia.

Como vou usá-la em auditorias

Em três momentos, a começar pela próxima auditoria ISO 27001 que tenha IA em âmbito.

A avaliação de risco. Se uma organização opera sistemas de IA e o seu catálogo de ameaças não contempla poisoning, extração, inversão ou injeção, esse catálogo está incompleto. A 27090 é agora a referência que vou indicar.

Permissões de agentes. A 27090 ancora a sua orientação de privilégio mínimo no controlo 8.2 da 27002, direitos de acesso privilegiado. Por isso, um agente a correr com os direitos plenos de um utilizador, ou com credenciais permanentes que nunca expiram, deixa de ser uma preocupação teórica. É uma constatação contra um controlo para o qual já está certificado. A pergunta que vou colocar: escolha o seu agente mais capaz, e diga-me o que poderia fazer se alguém o convencesse a agir.

Logging de IA. Registar a utilização do modelo é boa prática e a 27090 tem razão em exigi-lo. Vou verificar que existe um período de retenção, uma finalidade, e a opinião do DPO documentada.

A tabela que a norma devia ter incluído

A 27090 remete para a 27002 aqui e ali. Nunca apresenta a visão consolidada. Aqui está a nossa: onde cada tipo de comprometimento aterra num SGSI existente e numa implementação 42001. Use-a para ligar a 27090 à avaliação de risco que já tem.

Tipo de comprometimento 27090Controlos ISO/IEC 27002:2022Anexo A ISO/IEC 42001
Data poisoning5.21 Cadeia de fornecimento TIC, 8.25 Ciclo de vida de desenvolvimento seguro, 8.32 Gestão de alteraçõesA.7.4 Qualidade dos dados, A.7.5 Proveniência dos dados, A.10.3 Fornecedores
Envenenamento direto do modelo8.4 Acesso ao código-fonte, 8.31 Separação de ambientes, 8.32 Gestão de alteraçõesA.6.2.5 Implementação
Exfiltração do modelo8.3 Restrição de acesso à informação, 8.16 Atividades de monitorizaçãoA.6.2.6 Operação e monitorização
Inferência de pertença, inversão de modelo5.34 Privacidade e proteção de PII, 8.11 Mascaramento de dadosA.7.6 Preparação de dados
Output sensível do modelo8.12 Prevenção de fuga de dados, 5.34 Privacidade e proteção de PIIA.6.2.6 Operação e monitorização
Evasão8.26 Requisitos de segurança de aplicações, 8.29 Testes de segurançaA.6.2.4 Verificação e validação
Injeção de prompt8.26 Requisitos de segurança de aplicações, 8.28 Codificação seguraA.6.2.4 Verificação e validação
Output com injeção8.28 Codificação seguraA.6.2.4 Verificação e validação
Privilégios de agentes8.2 Direitos de acesso privilegiado, 5.15 Controlo de acesso, 5.18 Direitos de acessoA.9.4 Utilização prevista do sistema de IA
Logging de utilização do modelo8.15 Logging, 8.16 Atividades de monitorizaçãoA.6.2.8 Registo de logs de eventos

Sugestão: Comece pelas linhas onde já tem um controlo em vigor. A maioria das organizações vai verificar que quatro ou cinco destas dez estão cobertas por controlos que já operam hoje, alargados ao parque de IA. As lacunas costumam ser a proveniência dos dados, os privilégios de agentes e o logging que ninguém dimensionou para prompts.

Nota Final

O aspeto mais útil da 27090 é o quão pouco glamorosa é. Começa por dizer que os sistemas de IA são software, que os controlos existentes continuam a aplicar-se, e que as defesas exóticas vêm depois do essencial. Onde é fraca, é-o de formas que um profissional consegue compensar numa tarde.

Os novos ataques são reais. Raramente são a porta de entrada mais barata no seu sistema de IA. Feche as óbvias, ligue as restantes ao SGSI que já opera, e pare de esperar que uma framework específica de IA o salve de fazer o trabalho.

Se está a integrar IA num SGSI, ou a construir o sistema de gestão em torno dela, o nosso ISO 42001 Lead Implementer e o ISO 27001 Lead Implementer são lecionados por profissionais que implementam e auditam estas normas todas as semanas. Sairá a saber quais das dez linhas a sua organização pode fechar na segunda-feira.

Quer receber a próxima nota de campo na sua caixa de entrada?

A newsletter The GRC Brief. Cinco ligações e um breve comentário, todas as segundas-feiras às 8h CET. Leitura de três minutos.