Do princípio legal ao instrumento
Soluções
Cada um dos cinco princípios do artigo 1.º-C exige um instrumento concreto. Estes são os instrumentos.
Um princípio legal não se cumpre por adesão. Cumpre-se por um instrumento que produza a prova do cumprimento. A tabela seguinte estabelece, princípio a princípio, qual é esse instrumento.
| Princípio do artigo 1.º-C | O que tem de existir para o demonstrar | Produto |
|---|---|---|
| Transparência e explicabilidade | Inventário de sistemas; texto de informação nas peças; procedimento de resposta a pedido de explicação | PMV-IA-01 · PMV-IA-04 |
| Segurança e ausência de efeitos discriminatórios | Avaliação de risco documentada e ensaio de detecção de erro e de enviesamento | PMV-IA-02 |
| Protecção de dados e de segredos | Registo de tratamento actualizado; avaliação de impacto quando exigível; medidas quanto a segredos dos concorrentes | PMV-IA-02 |
| Supervisão e contributo humano | Procedimento de verificação com registo do titular, do momento e do resultado | PMV-IA-04 |
| Interoperabilidade | Análise de integração com o portal dos contratos públicos e requisito fixado em caderno de encargos | PMV-IA-05 |
| Obrigações do Regulamento (UE) 2024/1689 | Qualificação por categoria de risco e por papel; mapa de obrigações; roteiro calendarizado | PMV-IA-03 |
| Manutenção da conformidade ao longo do tempo | Vigilância das fontes oficiais nacionais e europeias, com nota de impacto | PMV-IA-06 |
Advertência
O erro que se paga mais caro
Entre todos os erros possíveis neste domínio, há um que se paga desproporcionadamente: usar apoio automatizado na análise de propostas sem procedimento de supervisão documentado.
A razão é simples. A análise de propostas produz actos que afectam directamente a esfera jurídica de terceiros — exclusões, ordenações, adjudicações — e esses actos são impugnáveis. Um concorrente excluído que suspeite de que a exclusão resultou de processamento automatizado tem, hoje, três fundamentos convergentes para o alegar: o direito ao conhecimento do modo de funcionamento do sistema, previsto na alínea a) do n.º 2 do artigo 1.º-C; a exigência de intervenção dos titulares dos órgãos competentes na verificação dos resultados, prevista na alínea d); e o regime das decisões exclusivamente automatizadas do artigo 22.º do Regulamento (UE) 2016/679.
A entidade que não consiga demonstrar a verificação humana efectiva fica numa posição frágil nos três planos ao mesmo tempo. E a demonstração não se improvisa: ou existe registo do acto de verificação, ou não existe.
Se a organização usa qualquer forma de apoio automatizado na análise de propostas — incluindo verificação automática de completude documental —, o procedimento de supervisão humana é a primeira coisa a instalar, antes de qualquer outro instrumento deste sítio.
Comprar sistemas com inteligência artificial
Quem adquire um sistema com componente de inteligência artificial assume, enquanto utilizador, obrigações próprias. Se o caderno de encargos não exigir ao fornecedor os meios para as cumprir, a entidade fica com o dever e sem instrumentos.
- Documentação técnica do sistema, em detalhe suficiente para permitir a supervisão humana.
- Informação sobre a natureza dos dados de treino e sobre as limitações conhecidas do sistema.
- Mecanismos de explicabilidade que permitam responder a um pedido de explicação de um interessado.
- Proibição de utilização dos dados da entidade para treino, validação ou melhoria de modelos, salvo autorização expressa e revogável.
- Registo de eventos que permita reconstituir o funcionamento do sistema num momento passado.
- Dever de notificação de incidentes e de alterações materiais ao modelo.
- Condições de reversibilidade e de eliminação dos dados no termo do contrato.
Estas exigências estão traduzidas em cláusulas prontas a integrar em caderno de encargos no PMV-IA-05. A estruturação geral do caderno de encargos para software e nuvem está tratada em contratacaodigital.pt.
Delimitação
O que este sítio não faz
Este sítio trata a governação de inteligência artificial no ciclo de contratação pública. Não trata, e remete expressamente:
- A digitalização do ciclo em geral, plataformas, assinatura e arquivo — pertence a contratacaodigital.pt.
- O regime da contratação pública — pertence a contratacaopublica.com.
- A conformidade geral com o Regulamento (UE) 2024/1689 fora do contexto da contratação.
- O desenvolvimento, a avaliação técnica ou a auditoria algorítmica de modelos.
Não é prestado aconselhamento técnico sobre arquitectura de modelos nem realizada auditoria algorítmica. O âmbito é o da conformidade jurídica e da governação documental da utilização.