Como Integrar o Risco de IA no Seu ISMS e Registo de Riscos Existentes

A IA não quebrou o seu ISMS; simplesmente expôs os seus pontos cegos.

A maioria das organizações tenta gerir o risco de IA com os mesmos modelos e a mesma lógica que utiliza para os sistemas de TI. Não funciona. A IA introduz novos modos de falha, novas dependências, novas expectativas de governação e novas formas de dano.

A solução não é substituir o seu ISMS. É atualizá-lo, integrando o risco de IA na estrutura existente.

Eis como fazê-lo corretamente.

O seu ISMS já sabe lidar com risco. Precisa apenas de novos dados de entrada.

O risco de IA enquadra-se naturalmente no ISO 27001, ISO 27005 e ISO 31000, desde que:

• defina ativos de IA
• compreenda os modos de falha da IA
• alargue os seus critérios de risco
• adicione controlos específicos de IA
• atualize as suas evidências e monitorização
• ligue os riscos de IA à segurança da informação tradicional

Não precisa de um sistema paralelo de risco de IA. Precisa de ligar a IA ao sistema que já tem.

Vamos detalhar o método passo a passo.

1. Comece por Identificar os Ativos de IA (Este É o Passo que Falta)

O risco de IA começa com a visibilidade. A maioria das empresas não sabe onde a IA se encontra na sua arquitetura.

Liste quatro categorias de ativos de IA:

1. Modelos de IA LLMs, classificadores, motores de recomendação, modelos de pontuação.
2. Pipelines de IA e Fluxos de Dados Dados de treino, dados de inferência, etapas de pré-processamento.
3. Sistemas com IA Integrada Chatbots, ferramentas de apoio à decisão, funcionalidades de IA em RH, finanças e interfaces com clientes.
4. Serviços de Terceiros / GPAI Azure OpenAI, Claude, Gemini, modelos via API, IA incorporada em SaaS.

Não é possível avaliar o risco de IA sem conhecer:

• que IA utiliza
• onde está localizada
• como afeta os processos
• que dados toca
• que decisões influencia

Inventário antes da análise, sempre.

2. Classifique Cada Ativo de IA com Dimensões Específicas de IA

A classificação tradicional de ativos (confidencialidade, integridade, disponibilidade) não é suficiente.

A IA introduz novas dimensões:

• autonomia (grau de independência do modelo)
• impacto nas decisões (consultivo vs. crítico)
• sensibilidade dos dados (treino e inferência)
• criticidade do modelo (impacto no negócio em caso de erro)
• potencial de deriva do modelo
• necessidades de explicabilidade
• exposição a viés
• categoria regulatória (AI Act: mínimo / limitado / alto risco)

Estas classificações permitem priorizar riscos numa fase posterior.

Um chatbot de uso interno equivale a baixa criticidade. Um modelo de deteção de fraude em banca equivale a alto risco. Um modelo de triagem de RH equivale a uso regulado. Um LLM voltado para clientes equivale a impacto médio a elevado.

O seu ISMS necessita destas categorias para ajustar os critérios de risco de forma inteligente.

3. Enriqueça os Seus Critérios de Risco com Modos de Falha de IA

É aqui que a maioria dos registos de risco falha. Os riscos de IA não se parecem com os riscos tradicionais.

Adicione estes modos de falha específicos de IA aos seus critérios:

Riscos Relacionados com Dados

• envenenamento dos dados de treino
• fuga através de prompts
• memorização não intencional
• exposição de dados sensíveis nos outputs
• rotulagem incorreta de dados

Riscos Relacionados com o Modelo

• alucinações
• viés e discriminação
• deriva do modelo
• perda de explicabilidade
• descalibração
• ataques adversariais
• dependência excessiva / viés de automação

Riscos Operacionais

• outputs incorretos em processos críticos
• alterações não supervisionadas no comportamento do modelo
• interrupções de serviços de IA na nuvem
• dependência de fornecedor
• subprocessadores ocultos

Riscos de Governação

• ausência de supervisão humana
• decisões do modelo não documentadas
• conjuntos de dados não verificados
• ausência de controlo de versões
• utilização indevida de modelos por colaboradores
• incumprimento regulatório (EU AI Act)

Estes elementos passam a integrar o seu dicionário de riscos.

Uma vez definidos, o risco de IA torna-se gerível, tal como o risco cibernético ou o risco de privacidade.

4. Adicione Cenários de IA ao Seu Método de Risco ISO 27005 Existente

Os riscos de IA enquadram-se perfeitamente na avaliação de risco clássica baseada em cenários.

Exemplo de estrutura:

Ameaça: Alucinação do modelo no apoio ao clienteVulnerabilidade: Ausência de mecanismo de revisão humanaImpacto: Conselho errado → dano ao cliente → responsabilidadeProbabilidade: Média (baseada no caso de uso)Controlo: Fluxo de trabalho com supervisão humanaRisco residual: Baixo

Outro cenário:

Ameaça: Deriva do modelo altera a precisão da deteção de fraudeVulnerabilidade: Sem monitorização do desempenho ao longo do tempoImpacto: Perda financeiraControlo: Monitorização de deriva e gatilhos de re-treino

A IA não exige um novo método; apenas novos cenários, novas ameaças, novos controlos.

5. Integre o Risco de IA no Registo de Risco Utilizando as Colunas Existentes

O seu registo de risco não precisa de novos campos; mas precisa de uma lógica alargada.

Utilize a mesma estrutura:

• ativo
• ameaça
• vulnerabilidade
• probabilidade
• impacto
• controlos
• responsável pelo risco
• risco residual
• plano de tratamento

Basta adicionar elementos específicos de IA à análise.

Exemplos que pode integrar diretamente:

Risco: "O LLM devolve aconselhamento jurídico incorreto." Risco: "O modelo de triagem de IA discrimina grupos protegidos." Risco: "O fornecedor de GPAI altera os termos ou o comportamento do modelo sem aviso prévio." Risco: "Código gerado por IA introduz vulnerabilidades de segurança." Risco: "Viés no conjunto de dados prejudica a equidade e a confiança." Risco: "Prompts não controlados conduzem a fuga de dados."

Seguem a mesma arquitetura, apenas com novo conteúdo.

6. Ligue os Riscos de IA aos Controlos Existentes do ISO 27001 / 27002

Os riscos de IA mapeiam naturalmente para os controlos existentes:

• Controlo de acesso → previne fuga via prompts ou dados
• Gestão de alterações → abrange atualizações de modelos
• Registo e monitorização → abrange o comportamento do modelo
• Desenvolvimento seguro → aplica-se aos pipelines de treino
• Gestão de fornecedores → abrange a dependência de GPAI
• Continuidade de negócio → abrange interrupções de serviços de IA

É por isso que o ISO 27001 não precisa de ser reescrito para a IA; os seus controlos já suportam as bases necessárias.

Basta adicionar interpretações específicas de IA.

Exemplo: Controlo 8.28 (Codificação Segura) → passa a incluir a revisão de código gerado por IA. Controlo 5.7 (Inteligência sobre Ameaças) → passa a incluir inteligência sobre ameaças de IA. Controlo 8.16 (Monitorização) → passa a incluir a monitorização da deriva do modelo.

Alarga-se o ambiente de controlos, não se reconstrói.

7. Adicione Medidas de Governação de IA do ISO 42001 (Opcional mas Inteligente)

O ISO 42001 é o gémeo de governação de IA do ISO 27001. Não precisa de certificação completa; mas deve adotar a sua lógica.

Adicione estes elementos de governação:

• regras de supervisão humana
• governação de conjuntos de dados
• documentação do ciclo de vida
• expectativas de explicabilidade
• funções para responsáveis por IA
• controlo de versões do modelo
• reporte de incidentes relativos a falhas de IA

Estes elementos integram-se facilmente no seu ISMS e no seu modelo de gestão de risco.

8. Atualize os Seus Planos de Tratamento de Risco com Controlos de IA

Os tratamentos típicos incluem:

• adição de pontos de verificação com intervenção humana
• implementação de verificações de qualidade dos dados
• restrição de prompts
• adição de controlos de acesso para sistemas de IA
• introdução de mecanismos de explicação
• limitação da autonomia em processos críticos
• monitorização de deriva
• técnicas técnicas anti-alucinação
• testes de viés
• melhoria do conjunto de dados de treino
• documentação da linhagem do modelo

Estes são os equivalentes em IA da aplicação de patches, segmentação ou registo em cibersegurança.

9. Integre a Monitorização do Risco de IA nos Processos do Seu ISMS

O risco de IA deve ser monitorizado de forma contínua porque os sistemas de IA mudam ao longo do tempo.

Adicione tarefas de monitorização em:

• revisões de risco
• gestão de alterações
• auditorias internas
• gestão de incidentes
• revisões de fornecedores
• programas de formação
• ciclos de melhoria contínua

O seu ISMS já dispõe destes processos; o risco de IA passa simplesmente a integrá-los.

10. Torne o Risco de IA Visível para a Gestão de Topo

Os executivos devem compreender:

• os riscos de IA
• o impacto nas operações
• os requisitos de governação
• a exposição regulatória (EU AI Act)
• as dependências de fornecedores de GPAI

Adicione a IA como secção em:

• relatórios de risco para o Conselho de Administração
• revisões trimestrais do ISMS
• revisões de gestão

A mensagem para os executivos é simples:a IA aumenta simultaneamente a oportunidade e a exposição; e a organização tem de a governar.

Reflexão Final

O risco de IA não é uma nova disciplina. É uma extensão da gestão de risco existente.

Assim que definir os ativos de IA, adicionar novos tipos de ameaça e integrar controlos de IA, o seu ISMS torna-se preparado para o futuro, pronto para as obrigações do AI Act, as expectativas do mercado e a governação interna.

A IA não exige desmontar o seu ISMS. Exige ensinar ao seu ISMS um novo músculo.

Esta é a evolução da governação moderna.

Se pretende integrar o risco de IA no ISO 27001, ISO 27005 e no seu registo de risco existente (sem complexidade desnecessária), é exatamente isso que ensinamos no Cyber Academy AI Risk Manager e ISO 42001 Lead Auditor e Lead Implementer. Junte-se à próxima sessão e prepare a sua governação para o futuro.