Viabilidade da aplicação de sistemas de inteligência artificial aos atos administrativos discricionários

Resumo

Os algoritmos têm evoluído exponencialmente nas últimas décadas e a sua implementação em todos os setores de atividade resulta simultaneamente de uma vontade – um ato voluntário - e de uma inevitabilidade. Porém quanto mais evoluídos e potentes se tornam, quantos mais dados conseguem analisar e quanto mais conseguem trabalhar com bases de dados não estruturadas, maiores são os seus efeitos resultantes das suas previsões e decisões. Existem muitos riscos associados a bases de dados enviesadas ou não representativas da sociedade, uma vez que desfavorecem grupos de risco ou minorias, provocando a discriminação, o enviesamento decisório, exponenciados pela escalabilidade e massificação dos outputs produzidos por sistemas automatizados e não dando garantias de equidade. Por outro lado, existem questões associadas à opacidade algorítmica ou efeito “black-box”, em que existe falta de transparência, de explicabilidade e interpretabilidade inteligível por todos, mas fundamentalmente pelos utilizadores intermédios ou pelos finais, das decisões e do porquê das mesmas, num direito à fundamentação. Se este contexto é já de si complexo, a sua aplicação ao campo da Administração Pública, imbuída dos seus poderes de “autonomia valorativa”, a procura de respostas à questão da viabilidade da aplicação de sistemas de IA aos atos administrativos discricionários, parece ser um desafio excessivo. Para abordar tal desafio, propusemos uma metodologia jurídico-administrativa própria, estruturada em 4 dimensões, de abordagem ao tema da automatização dos atos administrativos por níveis de decisão, de acordo com o grau de complexidade e de discricionariedade. Essa metodologia assenta num processo de automatização colaborativa e corresponsável, entre o agente público e os sistemas de IA, através de um modelo de inteligência colaborativa homem-máquina, suportado por aquilo que de mais recente existe no campo da IA - que não apenas os algoritmos de autoaprendizagem Machine e Deep Learning, mas outros bem mais evoluídos e responsivos aos requisitos que se impõem na implementação destas ferramentas no âmbito do Direito e, em particular do Direito Administrativo, em termos transparência, da IA explicável, da IA causal, de algoritmos interativos, ou dos algoritmos de computação cognitiva.

Data do prémio	25 set. 2023
Idioma original	Portuguese
Instituição de premiação	Universidade Católica Portuguesa
Supervisor	Pedro Cerqueira Gomes (Supervisor)