The impact of ChatGPT on reliance on AI advice

Resumo

Para melhorar a tomada de decisões, as organizações têm vindo a utilizar cada vez mais ferramentas de IA. A utilização da IA na tomada de decisões humanas originou aversão aos algoritmos ou confiança excessiva na IA quando os utilizadores não confiam adequadamente nos conselhos da IA. A literatura refere a falta de familiaridade com a IA como uma razão para a incapacidade dos utilizadores de confiarem adequadamente nos conselhos da IA. Desde que o ChatGPT ganhou interesse a nível mundial, tem havido preocupações quanto à utilização incorrecta do ChatGPT e de outros LLM. Esta tese defende que a familiaridade com a IA melhora a confiança adequada na mesma. Esta tese apresenta dois estudos que medem o impacto da experência com o ChatGPT na confiança noutras ferramentas de IA, a confiança adequada e a detecção de informações incorrectas. Os resultados destes estudos sugerem que a experiência com o ChatGPT melhora a confiança adequada no mesmo, o que, por sua vez, melhora a tomada de decisões, sugerindo que o ChatGPT e outras ferramentas de IA podem ser utilizadas para aumentar a capacidade dos utilizadores para distinguir entre conselhos de IA correctos e incorrectos e para agir em conformidade, confiando neles quando estão correctos. Além disso, ver o ChatGPT errar diminui a confiança nele e melhora a verificação futura das informações que fornece, melhorando ainda mais a confiança adequada na IA. No entanto, continua a ser mais fácil para os indivíduos determinar quando outro indivíduo errou do que quando o ChatGPT errou.

Data do prémio	27 jun. 2023
Idioma original	English
Instituição de premiação	Universidade Católica Portuguesa
Supervisor	Filipa de Almeida (Supervisor)