Agência Autônoma de IA
Desafios de Governança em Redes Sociotécnicas
Palavras-chave:
Agência autônoma de IA, Governança Algoritmica, Actor-Network Theory, Redes sociotécnicas, action-researchResumo
A ascensão de sistemas de inteligência artificial capazes de atuar de forma autônoma inaugura um novo desafio para as organizações: a redistribuição da agência entre humanos e algoritmos. Ao assumirem papéis decisórios, esses agentes autônomos não apenas otimizam processos, mas também reconfiguram responsabilidades, mecanismos de confiança e formas de governança. Apesar de sua relevância crescente, ainda faltam referenciais teóricos e evidências empíricas que expliquem como a autonomia algorítmica se estabiliza em redes sociotécnicas organizacionais.
Este estudo investiga a agência autônoma de IA em processos de compliance de uma organização do terceiro setor, a partir de pesquisa-ação ancorada na Teoria Ator-Rede. A coleta de dados triangula observação participante, entrevistas, análise documental e gravavações e documentos, acompanhando a introdução de agentes autônomos e as controvérsias que emergem de sua incorporação.
Os resultados preliminares indicam ganhos significativos de eficiência, mas também tensões em accountability e confiança, uma vez que operadores humanos continuam absorvendo responsabilidades por falhas algorítmicas.
As contribuições situam-se em três dimensões: (i) teórica, ao conceituar a agência autônoma de IA como fenômeno organizacional emergente; (ii) empírica, ao fornecer evidências de sua implantação em práticas de compliance; e (iii) prática, ao discutir implicações para a governança em redes sociotécnicas mediadas por algoritmos.
