Sistemas de Gestão de Inteligência Artificial (SGIA)

ISO/IEC 42001

A ISO/IEC 42001:2023 é a primeira norma internacional para Sistemas de Gestão de Inteligência Artificial (AIMS). Define requisitos para governar, desenvolver, usar e monitorizar sistemas de IA de forma responsável, ética, segura e conforme ao risco, ao longo de todo o ciclo de vida.

Aplica-se a qualquer organização que:

desenvolva IA (modelos, algoritmos, LLM, ML);
integre IA em produtos/serviços;
utilize IA de terceiros com impacto em pessoas, processos ou decisões.

Componentes centrais do SGIA

Contexto e partes interessadas (impacto em utilizadores, clientes, sociedade).
Política de IA (princípios, limites, uso aceitável).
Avaliação de riscos de IA (técnicos, éticos, legais e organizacionais).
Gestão do ciclo de vida da IA (conceção → treino → validação → operação → retirada).
Governança e responsabilidades (papéis claros, separação de funções).
Transparência e explicabilidade adequadas ao risco.
Gestão de dados (qualidade, viés, proveniência).
Monitorização contínua e resposta a incidentes.
Auditorias, revisão pela gestão e melhoria contínua.

Principais vantagens da implementação

Controlo real de riscos de IA (Reduz riscos como viés, alucinações, decisões opacas, uso indevido e deriva de modelo).
Evita dependência cega de modelos (human-in-the-loop quando necessário).
Preparação direta para o EU AI Act
Estrutura quase “espelhada” com a lógica do regulamento europeu
Credibilidade e confiança
Demonstra IA responsável por desenho (responsible by design).
Vantagem clara em clientes empresariais, saúde, finanças, setor público.
Integração com sistemas existentes