HUMAN-COMPUTER INTERACTION AND ETHICAL ARTIFICIAL INTELLIGENCE: a systematic review and heuristic study in information science
revisão sistemática e estudo heurístico na Ciência da Informação
DOI:
https://doi.org/10.22478/ufpb.1809-4783.2025v35.76660Keywords:
ética, interação humano-computador, Inteligência artificial, TransparênciaAbstract
This study investigated the ethical and regulatory challenges related to the integration of Artificial Intelligence into Human-Computer Interaction, with a focus on Information Science. The research employed a mixed-methods approach, consisting of a systematic literature review and a heuristic evaluation applied to the algorithmic job recommendation feature of the Gupy platform. The bibliographic analysis revealed a fragmented field, dominated by normative discussions on AI ethics—such as fairness, transparency, and explainability—but with limited practical implementation in digital interfaces. The heuristic assessment identified weaknesses in areas such as algorithmic transparency, user control, and mechanisms for contestation, which compromise user trust and informational autonomy. It was concluded that there is an urgent need for methodological tools that translate ethical principles into the design of interactive systems, fostering greater auditability, fairness, and responsiveness in AI-based technologies.
Downloads
References
ADAMS, R. et al. Global index on responsible AI: final technical report. Pretória: Global Center on IA Governance, 2024. Disponível em: https://girai-report-2024-corrected-edition.tiiny.site/. Acesso em: 25 abr. 2025.
BAROCAS, S.; HARDT, M.; NARAYANAN, A. Fairness and machine learning: limitations and opportunities. Cambridge: MIT Press, 2019.
BINNS, R. Fairness in machine learning: lessons from political philosophy. In: CONFERENCE ON FAIRNESS, ACCOUNTABILITY AND TRANSPARENCY, 2018. Proceedings... [S.l.]: PMLR, 2018. p. 149-159. Disponível em: https://proceedings.mlr.press/v81/binns18a.html. Acesso em: 10 out. 2024.
BOOTH, A.; SUTTON, A.; PAPAIOANNOU, D. Systematic approaches to a successful literature review. London: Sage, 2016. Disponível em: https://www.researchgate.net/publication/235930866. Acesso em: 19 fev. 2025.
BUOLAMWINI, J.; GEBRU, T. Gender shades: intersectional accuracy disparities in commercial gender classification. Proceedings of Machine Learning Research, v. 81, p. 77-91, 2018. Disponível em: http://proceedings.mlr.press/v81/buolamwini18a.html. Acesso em: 10 out. 2024.
CUNHA, L. A. dos S. M. A ciência como fator da igualdade de gênero na era da inteligência artificial: um panorama sobre a pesquisa de IA na pós-graduação no Brasil. 2024. 120 f. Dissertação (Mestrado em Gestão e Organização do Conhecimento) – Universidade Federal de Minas Gerais, Belo Horizonte, 2024. Disponível em: https://repositorio.ufmg.br/handle/1843/79664. Acesso em: 24 fev. 2025.
DIGNUM, V. Responsible artificial intelligence: how to develop and use AI in a responsible way. Cham: Springer, 2019. Disponível em: https://doi.org/10.1007/978-3-030-30371-6. Acesso em: 19 fev. 2025.
DOSHI-VELEZ, F.; KIM, B. Towards a rigorous science of interpretable machine learning. arXiv preprint, 2017. Disponível em: https://arxiv.org/abs/1702.08608. Acesso em: 25 mar. 2025.
EDVÂNIO, T. L. Inteligência artificial e mediação da informação: reflexões para uma Ciência da Informação crítica. Pesquisa Brasileira em Ciência da Informação e Biblioteconomia, v. 11, n. 2, p. 87-104, 2016. Disponível em: https://periodicos.ufpb.br/ojs/index.php/pbcib/article/view/30933. Acesso em: 23 abr. 2025.
FLORIDI, L. et al. AI 4 People: an ethical framework for a good AI society: opportunities, risks, principles, and recommendations. Minds and Machines, v. 28, n. 4, p. 689-707, 2018. Disponível em: https://doi.org/10.1007/s11023-018-9482-5. Acesso em: 10 out. 2023.
MENOS de 1% das inscrições para vaga de trabalho acabam em contratação na Gupy, mostra levantamento. Folha de S.Paulo, 5 jan. 2024. Disponível em: https://www1.folha.uol.com.br/mercado/2024/01/menos-de-1-das-inscricoes-para-vaga-de-trabalho-acabam-em-contratacao-na-gupy-mostra-levantamento.shtml. Acesso em: 19 maio 2025.
FORASCA, R. S.; LIMA, G. A. Uma ontologia de domínio para a prestação de contas dos gestores públicos federais: ONTOACCOUNT. Perspectivas em Ciência da Informação, Belo Horizonte, v. 28, fluxo contínuo, 2023. Disponível em: https://doi.org/10.1590/1981-5344/41347. Acesso em: 28 mar. 2025.
FRIEDMAN, B.; NISSENBAUM, H. Bias in computer systems. Computer Ethics, v. 14, n. 3, p. 330-347, 1996. Disponível em: https://doi.org/10.4324/9781315259697-23. Acesso em: 10 out. 2023.
GUPY. Software de recrutamento e seleção. 2025. Disponível em: https://www.gupy.io/software-de-recrutamento-e-selecao. Acesso em: 19 maio 2025.
JOBIN, A.; IENCA, M.; VAYENA, E. The global landscape of AI ethics guidelines. Nature Machine Intelligence, v. 1, n. 9, p. 389-399, 2019. Disponível em: https://doi.org/10.1038/s42256-019-0088-2. Acesso em: 10 out. 2023.
LIPTON, Z. C. The mythos of model interpretability. arXiv preprint, arXiv:1606.03490, 2016. Disponível em: https://arxiv.org/abs/1606.03490. Acesso em: 25 mar. 2025.
MENDONÇA, C. M. C.; ANDRADE, António Manuel Valente de. Uso da IoT, Big Data e Inteligência Artificial nas capacidades dinâmicas: um estudo comparativo entre cidades do Brasil e de Portugal. Informação & Sociedade: Estudos, [S. l.], v. 29, n. 4, p. 37–60, 2019. Disponível em: https://periodicos.ufpb.br/index.php/ies/article/view/47755. Acesso em: 20 out. 2025.
MITTELSTADT, B. et al. The ethics of algorithms: mapping the debate. Big Data & Society, v. 3, n. 2, p. 1-21, 2016. Disponível em: https://doi.org/10.1177/2053951716679679. Acesso em: 10 out. 2023.
MONTEIRO, S. D.; VIGNOLI, R. G.; ALMEIDA, C. C. O Pós-Humano como paradigma emergente na Ciência da Informação . Informação & Sociedade: Estudos, João Pessoa, v. 30, n. 4, p. 1–28, 2021. DOI: 10.22478/ufpb.1809-4783.2020v30n4.54017. Disponível em: https://periodicos.ufpb.br/index.php/ies/article/view/54017. Acesso em: 20 out. 2025.
NASCIMENTO SILVA, P . Recuperação de informação na Web com o Bard: uma experiência com a inteligência artificial generativa da Google. Informação & Sociedade: Estudos, João Pessoa, v. 33, 2024. DOI: 10.22478/ufpb.1809-4783.2023v33.67458. Disponível em: https://periodicos.ufpb.br/index.php/ies/article/view/67458. Acesso em: 20 out. 2025.
NIELSEN, J. 10 usability heuristics for user interface design. NN/g Nielsen Norman Group, 1995. Disponível em: https://www.nngroup.com/articles/ten-usability-heuristics/. Acesso em: 19 maio 2025.
NORMAN, D. A. The design of everyday things. Rev. ed. New York: Basic Books, 2013.
PARENTONI, L. N.; VALENTINI, R. S.; ALVES, T. C. O. E. Panorama da regulação da inteligência artificial no Brasil: com ênfase no PLS n. 5.051/2019. Revista do Direito, v. 67, p. 1-18, 2022.
POLIDO, F. B. P. Inteligência artificial entre estratégias nacionais e a corrida regulatória global: rotas analíticas para uma releitura internacionalista e comparada. Revista da Faculdade de Direito da UFMG, n. 76, p. 229-256, 2020.
SUCHMAN, L. A. Plans and situated actions: the problem of human-machine communication. Cambridge: Cambridge University Press, 1987.
UNIÃO EUROPEIA. Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Official Journal of the European Union, L, n. 1689, p. 1-266, 12 jul. 2024. Disponível em: https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=OJ:L_202401689. Acesso em: 2 maio 2025.
WACHTER, S.; MITTELSTADT, B.; FLORIDI, L. Why a right to explanation of automated decision-making does not exist in the general data protection regulation. International Data Privacy Law, v. 7, n. 2, p. 76-99, 2017.
Downloads
Published
How to Cite
Issue
Section
License
Os originais aceitos e publicados tornam-se propriedade de INFORMAÇÃO & SOCIEDADE, sendo vedada sua reprodução total ou parcial, sem a devida autorização da Comissão Editorial, exceto para uso de estudo e pesquisa.
