A maioria das organizações já tem um registo de riscos. Quase nenhuma tem um registo de riscos de IA verdadeiro.
Copiam riscos de cibersegurança, acrescentam "IA" no título e esperam que resulte. Não resulta. A IA cria novos comportamentos, novas dependências, novos modos de falha e novas obrigações regulatórias para as quais o registo existente não foi concebido.
A boa notícia: não precisa de uma nova framework de risco; precisa de uma melhor, adaptada às realidades da IA.
Aqui está o método prático e testado em campo para construir um registo de riscos de IA que funciona de facto.
O risco de IA não é "risco cibernético com um toque diferente". Os sistemas de IA:
- mudam ao longo do tempo,
- dependem de conjuntos de dados que nem sempre controla,
- apoiam-se em fornecedores que nem sempre identifica,
- produzem resultados que não consegue prever totalmente,
- afetam decisões que nem sempre consegue rastrear.
O seu registo de riscos tem de refletir isso.
O segredo é simples:Combine o raciocínio do ISO 27005 + ISO 31000 + ISO/IEC 42001; sem reinventar tudo.
Vamos detalhar o método passo a passo.
1. Comece por Identificar os Seus Ativos de IA
O registo de riscos de IA começa com um inventário claro. Não é possível avaliar o que não se consegue identificar.
Liste quatro categorias de ativos:
Sistemas de IA LLMs, classificadores, modelos preditivos, chatbots, motores de pontuação.
Pipelines de IA e Fontes de Dados Conjuntos de dados de treino, dados de inferência, pré-processamento.
Serviços com IA Integrada Ferramentas de triagem de RH, modelos de deteção de fraude, motores de recomendação, copilotos de IA.
Modelos Externos e GPAI Azure OpenAI, Claude, Gemini, APIs HuggingFace, funcionalidades SaaS com IA integrada.
Se saltar este passo, o registo de riscos colapsa.
2. Categorize os Ativos de IA por Exposição ao Risco
Nem toda a IA é igual.
Utilize métricas de criticidade específicas para IA:
- autonomia (qual o grau de independência do sistema?)
- criticidade das decisões
- impacto no negócio
- sensibilidade dos dados
- explicabilidade exigida
- probabilidade de desvio (drift)
- exposição dos utilizadores
- categoria regulatória (EU AI Act: mínimo, limitado, alto risco)
Isto fornece a lente que utilizará para priorizar os riscos.
3. Expanda o Seu Catálogo de Ameaças para Incluir Modos de Falha de IA
As bibliotecas de ameaças tradicionais ignoram 80% do risco de IA. São necessárias ameaças e vulnerabilidades específicas de IA.
Ameaças relacionadas com dados
- enviesamento nos dados de treino
- envenenamento de dados
- etiquetas incorretas
- fuga de informação através de prompts
- exposição de PII nos resultados
Ameaças relacionadas com o modelo
- alucinações
- prompts adversariais
- desvio do modelo (model drift)
- perda de reprodutibilidade
- falta de explicabilidade
Ameaças operacionais
- interrupções do serviço de IA
- atualizações de modelo não controladas
- utilização indevida por parte de colaboradores
- dependência excessiva dos resultados de IA
Ameaças de Governação e Conformidade
- incumprimento dos requisitos do AI Act
- documentação do modelo em falta
- limites de supervisão humana pouco claros
- ferramentas de IA em utilização sem aprovação
- ausência de trilha de auditoria para decisões de IA
Estas ameaças alimentam diretamente os seus cenários de risco.
4. Escreva Cenários de Risco Utilizando uma Estrutura ISO 27005 Padrão
Não precisa de um novo método. Precisa de novos cenários.
Cenário de Exemplo 1
Ameaça: Chatbot de IA alucina aconselhamento médico incorreto.Vulnerabilidade: Sem revisão humana nem validação dos resultados.Impacto: Responsabilidade legal, danos reputacionais, dano para o paciente.Probabilidade: MédiaControlos: Revisão com intervenção humana, filtragem de prompts, restrições de utilização.Risco Residual: Baixo
Cenário de Exemplo 2
Ameaça: O desvio do modelo reduz a precisão da deteção de fraude.Vulnerabilidade: Sem monitorização do desempenho do modelo ao longo do tempo.Impacto: Perda financeira, incidente regulatório.Controlos: Monitorização de desvio, calendário de re-treino, limiares.Risco Residual: Médio
Cenário de Exemplo 3
Ameaça: Colaboradores partilham dados sensíveis com um LLM externo.Vulnerabilidade: Sem política de utilização de IA nem controlos de prompts.Impacto: Fuga de dados, violação do GDPR.Controlos: Restrições de acesso, política, formação, monitorização.Risco Residual: Baixo/Médio
Este é o nível de clareza que os auditores vão exigir durante a aplicação do AI Act.
5. Pontue os Riscos Corretamente (a IA Requer Dimensões Adicionais)
Probabilidade e impacto continuam a aplicar-se, mas com fatores adicionais específicos da IA.
Acrescente as seguintes dimensões à sua lógica de pontuação:
- risco de desvio (drift)
- risco de qualidade dos dados
- requisito de explicabilidade
- dependência de IA de terceiros
- nível de autonomia
- previsibilidade do modelo
- potencial de discriminação
- exposição transfronteiriça de dados
Estes fatores influenciam a pontuação de probabilidade/impacto.
Não precisa de novas colunas; apenas de uma avaliação mais aprofundada.
6. Mapeie Cada Risco para Controlos Específicos de IA
Os riscos de IA exigem controlos tanto de segurança como de governação.
Os controlos típicos de IA incluem:
- validação de conjuntos de dados
- filtragem de conteúdo
- testes de enviesamento
- supervisão humana
- controlo de acesso baseado em funções
- monitorização de desvio
- políticas de utilização
- registo e rastreabilidade
- controlo de versões do modelo
- resposta a incidentes de falhas de IA
- mecanismos de explicabilidade
- avaliação de fornecedores de IA
Associe os controlos aos riscos da mesma forma que faz com o ISO 27001.
7. Integre o Risco de IA no Seu Registo de Riscos Existente
Não precisa de um registo separado. Precisa de enriquecer o que já tem.
Acrescente os riscos de IA ao seu registo principal, incluindo:
- "ativo de IA" como categoria de ativo
- "modelo de IA" ou "pipeline de dados de IA" como tipo de ativo
- ameaças e vulnerabilidades específicas de IA
- controlos específicos
- pontuação atualizada
- responsável pelo sistema de IA
- implicações regulatórias (AI Act, GDPR, regras sectoriais)
Isto garante que a governação da IA passa a fazer parte do seu ISMS; não uma iniciativa isolada.
8. Incorpore o Risco de IA nos Processos GRC Existentes
O registo de riscos só é útil se estiver integrado na governação.
Os riscos de IA devem alimentar:
- gestão de mudanças
- gestão de fornecedores
- resposta a incidentes
- auditoria interna
- sensibilização e formação
- revisões do ISMS
- reporte ao Conselho de Administração
Os riscos de IA evoluem mais rapidamente do que os sistemas de TI tradicionais; a governação tem de acompanhar.
9. Reveja os Riscos de IA com Maior Frequência do que os Riscos Tradicionais
Os sistemas de IA mudam:
- através de re-treino,
- através de desvio,
- através de novos casos de utilização,
- através de atualizações de modelo pelo fornecedor,
- através de marcos regulatórios.
A revisão trimestral é o mínimo. Mensal para sistemas de IA de alto impacto.
Os riscos de IA não são algo que se configura uma vez e se esquece.
10. Disponibilize um Modelo Simples e Legível para Todas as Equipas
Aqui está um Modelo de Registo de Riscos de IA pronto a usar que pode adotar hoje. Utilize-o no Excel, Notion, Confluence ou na sua plataforma GRC existente.
📄 Modelo de Registo de Riscos de IA (Descarregar)
Reflexão Final
Um registo de riscos de IA não é um exercício de conformidade. É uma ferramenta de visibilidade, um mecanismo de controlo, e o alicerce da sua governação de IA.
Se o construir corretamente, não se limita a proteger a organização. Permite uma adoção de IA segura, escalável e confiante.
A governação da IA não consiste em travar a inovação. Consiste em garantir que a inovação não explode na sua cara.
Se pretende construir um programa completo de gestão de riscos de IA, incluindo modelos, controlos e alinhamento com ISO/IEC 42001, é exatamente isso que ensinamos no curso AI Risk Manager da Cyber Academy. Junte-se à próxima sessão e construa um registo de riscos de IA que resista ao escrutínio.