Overcoming algorithmic bias
: the role of bias awareness, knowledge, and minority status on human decision-making

  • Tiago José Freitas Marques (Aluno)

Tese do aluno

Resumo

Algoritmos, seja para aumentar ou automatizar decisões humanas, são utilizados por um número crescente de organizações para executar várias tarefas. Os algoritmos criam valor porque permitem analisar volumes massivos de dados, explorar e identificar relações não lineares e contraintuitivas, sendo mais consistentes nas suas decisões do que os humanos. No entanto, esse processo de tomada de decisão também tem o potencial de perpetuar e exacerbar enviesamentos históricos e sociais, uma vez que os algoritmos são treinados com dados que refletem enviesamentos humanos. Esta tese analisa as limitações e desafios associados à tomada de decisão humana e algorítmica e explora como a tomada de decisão humana pode ser alavancada para abordar e mitigar os efeitos prejudiciais do enviesamento algorítmico. Particularmente, esta tese investiga os efeitos da consciência de enviesamentos da tomada de decisão, de ser conhecedor de inteligência artificial, e pertencer a uma minoria, na capacidade humana de perceber e incluir variáveis potencialmente tendenciosas que levam a decisões algorítmicas injustas e discriminatórias. Os resultados sugerem que uma intervenção simples de conscientização de enviesamento pode ser uma estratégia eficaz de redução de enviesamentos; ter conhecimento de inteligência artificial pode ajudar a detetar potenciais enviesamentos, mas não se traduz, necessariamente, em excluir fontes potenciais de enviesamento algorítmico; pertencer a uma minoria pode não ser um fator vantajoso para melhorar a tomada de decisão. Assim, a solução proposta por esta tese para superar o enviesamento algorítmico consiste em promover a consciência do enviesamento como uma estratégia viável para melhorar a tomada de decisão humana.
Data do prémio26 abr. 2021
Idioma originalEnglish
Instituição de premiação
  • Universidade Católica Portuguesa
SupervisorFilipa de Almeida (Supervisor)

Keywords

  • Debiasing
  • Enviesamento algorítmico
  • Enviesamento cognitivo
  • Tomada de decisão humana
  • Tomada de decisão algorítmica
  • Conscientização de enviesamento

Designação

  • Mestrado em Gestão e Administração de Empresas

Citação

'