Interação humano-computador e inteligência artificial ética:
revisão sistemática e estudo heurístico na Ciência da Informação
DOI:
https://doi.org/10.22478/ufpb.1809-4783.2025v35.76660Palavras-chave:
ética, interação humano-computador, Inteligência artificial, TransparênciaResumo
Este estudo investigou os desafios ético-regulatórios relacionados à integração da Inteligência Artificial na Interação Humano-Computador, com foco na Ciência da Informação. A pesquisa adotou uma abordagem metodológica mista, composta por uma revisão sistemática da literatura e um estudo heurístico aplicado à funcionalidade de recomendação algorítmica da plataforma Gupy. A análise bibliográfica indicou que o campo permanece fragmentado, com predominância de abordagens normativas sobre ética da IA, como justiça, transparência e explicabilidade, mas com baixa tradução prática nas interfaces digitais. O estudo heurístico evidenciou fragilidades em aspectos como visibilidade do funcionamento algorítmico, controle do usuário e mecanismos de contestação, comprometendo a confiança e a autonomia informacional. Concluiu-se que há necessidade urgente de instrumentos metodológicos que operacionalizem princípios éticos no design de sistemas interativos, promovendo maior auditabilidade, justiça e responsividade nas tecnologias baseadas em IA.
Downloads
Referências
ADAMS, R. et al. Global index on responsible AI: final technical report. Pretória: Global Center on IA Governance, 2024. Disponível em: https://girai-report-2024-corrected-edition.tiiny.site/. Acesso em: 25 abr. 2025.
BAROCAS, S.; HARDT, M.; NARAYANAN, A. Fairness and machine learning: limitations and opportunities. Cambridge: MIT Press, 2019.
BINNS, R. Fairness in machine learning: lessons from political philosophy. In: CONFERENCE ON FAIRNESS, ACCOUNTABILITY AND TRANSPARENCY, 2018. Proceedings... [S.l.]: PMLR, 2018. p. 149-159. Disponível em: https://proceedings.mlr.press/v81/binns18a.html. Acesso em: 10 out. 2024.
BOOTH, A.; SUTTON, A.; PAPAIOANNOU, D. Systematic approaches to a successful literature review. London: Sage, 2016. Disponível em: https://www.researchgate.net/publication/235930866. Acesso em: 19 fev. 2025.
BUOLAMWINI, J.; GEBRU, T. Gender shades: intersectional accuracy disparities in commercial gender classification. Proceedings of Machine Learning Research, v. 81, p. 77-91, 2018. Disponível em: http://proceedings.mlr.press/v81/buolamwini18a.html. Acesso em: 10 out. 2024.
CUNHA, L. A. dos S. M. A ciência como fator da igualdade de gênero na era da inteligência artificial: um panorama sobre a pesquisa de IA na pós-graduação no Brasil. 2024. 120 f. Dissertação (Mestrado em Gestão e Organização do Conhecimento) – Universidade Federal de Minas Gerais, Belo Horizonte, 2024. Disponível em: https://repositorio.ufmg.br/handle/1843/79664. Acesso em: 24 fev. 2025.
DIGNUM, V. Responsible artificial intelligence: how to develop and use AI in a responsible way. Cham: Springer, 2019. Disponível em: https://doi.org/10.1007/978-3-030-30371-6. Acesso em: 19 fev. 2025.
DOSHI-VELEZ, F.; KIM, B. Towards a rigorous science of interpretable machine learning. arXiv preprint, 2017. Disponível em: https://arxiv.org/abs/1702.08608. Acesso em: 25 mar. 2025.
EDVÂNIO, T. L. Inteligência artificial e mediação da informação: reflexões para uma Ciência da Informação crítica. Pesquisa Brasileira em Ciência da Informação e Biblioteconomia, v. 11, n. 2, p. 87-104, 2016. Disponível em: https://periodicos.ufpb.br/ojs/index.php/pbcib/article/view/30933. Acesso em: 23 abr. 2025.
FLORIDI, L. et al. AI 4 People: an ethical framework for a good AI society: opportunities, risks, principles, and recommendations. Minds and Machines, v. 28, n. 4, p. 689-707, 2018. Disponível em: https://doi.org/10.1007/s11023-018-9482-5. Acesso em: 10 out. 2023.
MENOS de 1% das inscrições para vaga de trabalho acabam em contratação na Gupy, mostra levantamento. Folha de S.Paulo, 5 jan. 2024. Disponível em: https://www1.folha.uol.com.br/mercado/2024/01/menos-de-1-das-inscricoes-para-vaga-de-trabalho-acabam-em-contratacao-na-gupy-mostra-levantamento.shtml. Acesso em: 19 maio 2025.
FORASCA, R. S.; LIMA, G. A. Uma ontologia de domínio para a prestação de contas dos gestores públicos federais: ONTOACCOUNT. Perspectivas em Ciência da Informação, Belo Horizonte, v. 28, fluxo contínuo, 2023. Disponível em: https://doi.org/10.1590/1981-5344/41347. Acesso em: 28 mar. 2025.
FRIEDMAN, B.; NISSENBAUM, H. Bias in computer systems. Computer Ethics, v. 14, n. 3, p. 330-347, 1996. Disponível em: https://doi.org/10.4324/9781315259697-23. Acesso em: 10 out. 2023.
GUPY. Software de recrutamento e seleção. 2025. Disponível em: https://www.gupy.io/software-de-recrutamento-e-selecao. Acesso em: 19 maio 2025.
JOBIN, A.; IENCA, M.; VAYENA, E. The global landscape of AI ethics guidelines. Nature Machine Intelligence, v. 1, n. 9, p. 389-399, 2019. Disponível em: https://doi.org/10.1038/s42256-019-0088-2. Acesso em: 10 out. 2023.
LIPTON, Z. C. The mythos of model interpretability. arXiv preprint, arXiv:1606.03490, 2016. Disponível em: https://arxiv.org/abs/1606.03490. Acesso em: 25 mar. 2025.
MENDONÇA, C. M. C.; ANDRADE, António Manuel Valente de. Uso da IoT, Big Data e Inteligência Artificial nas capacidades dinâmicas: um estudo comparativo entre cidades do Brasil e de Portugal. Informação & Sociedade: Estudos, [S. l.], v. 29, n. 4, p. 37–60, 2019. Disponível em: https://periodicos.ufpb.br/index.php/ies/article/view/47755. Acesso em: 20 out. 2025.
MITTELSTADT, B. et al. The ethics of algorithms: mapping the debate. Big Data & Society, v. 3, n. 2, p. 1-21, 2016. Disponível em: https://doi.org/10.1177/2053951716679679. Acesso em: 10 out. 2023.
MONTEIRO, S. D.; VIGNOLI, R. G.; ALMEIDA, C. C. O Pós-Humano como paradigma emergente na Ciência da Informação . Informação & Sociedade: Estudos, João Pessoa, v. 30, n. 4, p. 1–28, 2021. DOI: 10.22478/ufpb.1809-4783.2020v30n4.54017. Disponível em: https://periodicos.ufpb.br/index.php/ies/article/view/54017. Acesso em: 20 out. 2025.
NASCIMENTO SILVA, P . Recuperação de informação na Web com o Bard: uma experiência com a inteligência artificial generativa da Google. Informação & Sociedade: Estudos, João Pessoa, v. 33, 2024. DOI: 10.22478/ufpb.1809-4783.2023v33.67458. Disponível em: https://periodicos.ufpb.br/index.php/ies/article/view/67458. Acesso em: 20 out. 2025.
NIELSEN, J. 10 usability heuristics for user interface design. NN/g Nielsen Norman Group, 1995. Disponível em: https://www.nngroup.com/articles/ten-usability-heuristics/. Acesso em: 19 maio 2025.
NORMAN, D. A. The design of everyday things. Rev. ed. New York: Basic Books, 2013.
PARENTONI, L. N.; VALENTINI, R. S.; ALVES, T. C. O. E. Panorama da regulação da inteligência artificial no Brasil: com ênfase no PLS n. 5.051/2019. Revista do Direito, v. 67, p. 1-18, 2022.
POLIDO, F. B. P. Inteligência artificial entre estratégias nacionais e a corrida regulatória global: rotas analíticas para uma releitura internacionalista e comparada. Revista da Faculdade de Direito da UFMG, n. 76, p. 229-256, 2020.
SUCHMAN, L. A. Plans and situated actions: the problem of human-machine communication. Cambridge: Cambridge University Press, 1987.
UNIÃO EUROPEIA. Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Official Journal of the European Union, L, n. 1689, p. 1-266, 12 jul. 2024. Disponível em: https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=OJ:L_202401689. Acesso em: 2 maio 2025.
WACHTER, S.; MITTELSTADT, B.; FLORIDI, L. Why a right to explanation of automated decision-making does not exist in the general data protection regulation. International Data Privacy Law, v. 7, n. 2, p. 76-99, 2017.
Downloads
Publicado
Como Citar
Edição
Seção
Licença
Os originais aceitos e publicados tornam-se propriedade de INFORMAÇÃO & SOCIEDADE, sendo vedada sua reprodução total ou parcial, sem a devida autorização da Comissão Editorial, exceto para uso de estudo e pesquisa.
