Horizonte Europa: Combater Vieses de Género e Raça na IA

O que é o tópico HUMAN-01-24

O tópico HORIZON-CL4-2021-HUMAN-01-24 financiou ações de investigação e inovação (RIA) do Horizonte Europa dedicadas a prevenir e mitigar os vieses de género, raça e outros nos sistemas de inteligência artificial. O ponto de partida é uma evidência incómoda: o viés na IA agrava desigualdades existentes e reforça estereótipos no mercado de trabalho, na educação, na publicidade online, nas redes sociais e na justiça.

O viés pode ocorrer em três dimensões, nos dados de treino, nos algoritmos e na interpretação dos resultados. O tópico investigava a sua prevenção em sistemas de recomendação e personalização, em decisão algorítmica e em software de vigilância, incluindo reconhecimento facial.

Necessidades que este instrumento resolve

O tópico cruza desenvolvimento técnico de IA com um objetivo social explícito de não discriminação. Por isso responde a três necessidades complementares.

• I&D e ciência: desenvolvia tecnologias e algoritmos para avaliar e corrigir o viés, e processos padronizados para medir e quantificar a fiabilidade dos sistemas de IA, atingindo pelo menos TRL 5-6 no final do projeto.
• Digitalização e IA: construía ferramentas de design, teste e validação, incluindo metodologias de engenharia de software, para apoiar a implementação, a auditoria e a certificação de soluções de IA sem viés em vários setores industriais e digitais.
• Impacto social e inclusão: aumentava a igualdade digital e a inclusão social de mulheres e raparigas e de outros grupos em risco de discriminação, como minorias étnicas e a comunidade LGBTIQ, envolvendo pessoas sub-representadas no próprio desenho dos sistemas.

O que os projetos deviam entregar

As propostas alinhavam-se com a prioridade da Comissão Europeia de uma União da Igualdade, com o Pilar Europeu dos Direitos Sociais e com as estratégias de igualdade de género, antirracismo e igualdade LGBTIQ. Deviam concretizar resultados verificáveis, não declarações de princípio.

• Tecnologias e algoritmos para avaliar e endereçar o viés de género, raça, idade, deficiência e origem social nos sistemas de IA.
• Processos padronizados para avaliar a confiança, a diversidade, a não discriminação e a interseccionalidade, com base em diferentes medidas de viés.
• Sistemas de recomendação e de decisão algorítmica que reduzam o viés no caso de uso selecionado.
• Formação e sensibilização para investigadores, estudantes e profissionais de IA, em cooperação com a Parceria Público-Privada em IA, Dados e Robótica.

Quem se podia candidatar

Sendo uma ação de investigação e inovação, financiada a 100%, o tópico dirigia-se a consórcios que reunissem universidades, centros de investigação, empresas, startups e PME de alta tecnologia e associações profissionais do setor digital. As condições de admissibilidade e os países elegíveis seguiam os anexos gerais do programa de trabalho.

A IA responsável e sem viés deixou de ser tema de nicho e tornou-se requisito regulatório e de mercado. Para empresas portuguesas que desenvolvem ou integram IA, este tópico antecipa exigências que o Regulamento da IA da União Europeia veio depois tornar obrigatórias.

Uma chamada encerrada, um tema que se tornou lei

A chamada abriu a 22 de junho de 2021 e encerrou a 21 de outubro de 2021. Está fechada. O que era investigação de fronteira em 2021 é hoje, em larga medida, requisito legal: o tema do viés, da transparência e da não discriminação na IA atravessa o quadro regulatório europeu.

O que recomendamos

Empresas que desenvolvem ou usam sistemas de IA têm de tratar o viés como risco operacional e regulatório, não como questão ética abstrata. Um modelo enviesado em recrutamento, crédito ou seguros expõe a empresa a litígio, a sanção e a dano reputacional. A prevenção começa nos dados e na metodologia, não na auditoria final.

Recomendamos que as empresas adotem desde cedo processos de avaliação de viés e de documentação dos sistemas, alinhados com as exigências do Regulamento da IA. Mesmo com esta chamada fechada, as metodologias e os resultados de projetos europeus neste domínio são uma base sólida para quem precisa de demonstrar conformidade.