The blame game

: attribution of responsibility in human, black box and explainable AI in the context of successful and unsuccessful managerial decision-making

Resumo

O surgimento do ChatGPT, dos deepfakes e de técnicas de aprendizagem automática são a prova da procura crescente de métodos utilizáveis de IA. Quanto mais sofisticadas essas aplicações se tornam, mais difícil é criar transparência ao longo da cadeia de responsabilidade. Esta tese de mestrado analisa o complexo mundo da atribuição de responsabilidades na tomada de decisões colaborativas entre humanos e IA, com ênfase nos diferentes tipos de IA e nos diferentes resultados das decisões em contextos de gestão. Os resultados apoiam uma tendência geral: em comparação com entidades de IA, as pessoas tendem a atribuir mais culpa aos decisores humanos, o que é consistente com o erro de atribuição fundamental. Contrariamente às previsões, a investigação não encontra diferenças significativas na atribuição de culpa entre a IA explicável e a IA de caixa negra. Isto desafia a noção de que a atribuição de responsabilidades é reduzida pela transparência da IA e realça a natureza complexa deste fenómeno. O estudo desafia o pensamento comum ao mostrar que o sucesso de um resultado de decisão não afecta significativamente a atribuição de responsabilidades, inferindo que a responsabilidade se mantém relativamente constante na tomada de decisões de gestão, independentemente do resultado. Em conclusão, esta tese enfatiza o papel crucial dos decisores humanos em contextos de gestão e promove o investimento contínuo na formação de decisores humanos éticos. Estas conclusões constituem um contributo importante para o debate sobre a ética e a responsabilidade da IA na tomada de decisões.

Data de atribuição	16 out. 2023
Idioma original	English
Instituição de premiação	Universidade Católica Portuguesa
Supervisor	Cristina Mendonça (Supervisor)