AI trustworthiness under agency theory: a theoretical approach

Resumo

Este estudo examina a relação crescente entre humanos e IA, com foco no papel da confiabilidade da IA em lidar com questões da Teoria da Agência. A pesquisa destaca a necessidade de alinhar a autonomia da IA com os riscos e consequências potenciais de suas decisões, observando o impacto prejudicial de vieses e outros resultados negativos. Os principais atributos de confiabilidade da IA analisados são: Justiça, Responsabilização, Transparência e Ética. Cinco proposições são apresentadas: 1) A confiabilidade facilita a confiança humana nas decisões da IA, 2) A transparência reduz a assimetria de informações entre humanos e IA, 3) A justiça diminui o viés e os riscos morais da IA, 4) A responsabilização melhora o alinhamento da IA com os objetivos humanos, e 5) A ética na IA mitiga os problemas de agência entre todas as partes interessadas. Esta pesquisa conecta a confiabilidade da IA com a Teoria da Agência dentro da colaboração entre humanos e IA oferecendo insights teóricos. Além disso, discute o papel da IA como ferramenta, membro da equipe ou gestor, explorando as causas, os efeitos dos riscos e estratégias de mitigação para gestores que utilizam a IA.