Portrayals of artificial intelligence (AI)

: assessing patient reliance in high-risk medical decision-making

Resumo

À medida que a área da saúde adota a inteligência artificial (IA) para apoio à decisão, o sucesso dos sistemas de IA depende da confiança dos utilizadores e da sua disposição em seguir as recomendações, especialmente em cenários médicos de alto risco. Este estudo utilizou um experimento com diferentes representações visuais de IA 4 baseadas em código, forma morfa ou semelhantes a humanos 4 para avaliar o impacto na confiança dos pacientes nas recomendações de IA. Os resultados mostram que a forma visual da IA não afeta significativamente a motivação utilitária, a conveniência da interação ou a adequação tarefa-tecnologia. Em vez disso, a perceção de competência é o fator mais relevante na construção de confiança, aumentando a aceitação das recomendações de IA. Os resultados salientam que os utilizadores valorizam a competência funcional e a fiabilidade da IA em vez de características estéticas ou antropomórficas, especialmente quando a precisão e a confiança são essenciais. O estudo oferece insights para a gestão de organizações que integram IA, sublinhando a importância da transparência, precisão e fiabilidade para promover a confiança. Embora melhorias estéticas possam atrair atenção inicial, estas não devem comprometer a entrega de resultados claros e fiáveis. Ao focar-se na competência e na confiança, as organizações podem facilitar a adoção da IA, particularmente no setor da saúde, onde o apoio preciso à decisão é fundamental. Esta investigação destaca a importância de projetar sistemas de IA que cumpram padrões técnicos e preservem a confiança dos utilizadores.

Data de atribuição	23 out. 2024
Idioma original	English
Instituição de premiação	Universidade Católica Portuguesa
Supervisor	Filipa de Almeida (Supervisor)