PMV-IA-04 · Ficha técnica de produto
Supervisão Humana e Explicabilidade
A decisão continua a ser do titular do órgão competente. Provar que foi exige registo.
- Código
- PMV-IA-04
- Prazo de execução
- 12 a 20 dias úteis
- Investimento
- € 4 000 – € 12 000
- Aplicabilidade
- Permanente
Prova Destinatários: Entidades que utilizam apoio automatizado na análise de candidaturas ou de propostas
Problema
A necessidade que este produto resolve
O artigo 1.º-C determina que a utilização de sistemas digitais não dispensa a intervenção dos titulares dos órgãos competentes na verificação dos resultados produzidos. Uma entidade que use apoio automatizado na triagem documental ou na análise de propostas tem de conseguir demonstrar que houve verificação humana efectiva, e não meramente formal — e tem de conseguir explicar ao interessado, se este perguntar, como funcionou o sistema.
Artigo 1.º-C, n.º 2, alíneas a) e d), do CCP; Regulamento (UE) 2024/1689; artigo 22.º do Regulamento (UE) 2016/679
Entregáveis
O que é entregue
Todos os entregáveis são produzidos em formato editável e acompanhados de nota de utilização.
- Procedimento de supervisão humana por tipo de utilização, com definição do que constitui verificação efectiva.
- Registo de supervisão, com identificação do titular, do momento e do resultado da verificação.
- Textos de transparência a incluir nas peças do procedimento e nas notificações aos interessados.
- Procedimento de resposta a pedido de explicação sobre o modo de funcionamento do sistema.
- Ensaio documentado de detecção de erro e de efeito discriminatório.
- Articulação com o direito a não ficar sujeito a decisões exclusivamente automatizadas.
Método
Como é executado
- Enquadramento
Identificação das utilizações que suportam decisões com efeitos externos.
- Construção
Produção do procedimento, do registo e dos textos de transparência.
- Ensaio
Execução de um ensaio de detecção de erro sobre dados reais anonimizados.
- Instalação
Sessão com os titulares dos órgãos competentes.
Contratação
Condições e pressupostos
Este produto integra o catálogo de contratacaopublica.ai e é executado no âmbito de governação de inteligência artificial na contratação pública.
O investimento indicado é um intervalo de referência que depende da dimensão da carteira contratual, do número de unidades orgânicas envolvidas e do grau de organização da informação existente. A proposta formal é emitida após uma reunião de enquadramento sem encargo.
Os trabalhos são executados por um profissional que assume a função de responsável pela conformidade e accountability regulatória, com produção documental integral e transmissão de conhecimento à equipa interna. Quando a questão exigir patrocínio judiciário ou acto próprio de advogado, o âmbito é expressamente remetido para essa via.
Todos os entregáveis são inscritos no registo de vigilância normativa, com indicação da norma de que dependem e do local onde se corrigem. A vigilância identifica e propõe; a execução de qualquer correcção carece de decisão do cliente.
Solicitar proposta para PMV-IA-04
Reunião de enquadramento sem encargo, com resposta em um dia útil.