LibreOffice/6.4.3.2$Linux_X86_64 LibreOffice_project/747b5d0ebf89f41c860ec2a39efd7cb15b54f2d8 0 0 14099 9999 true $(brandbaseurl)/share/palette%3B$(userpath)/config/standard.sob 0 $(brandbaseurl)/share/palette%3B$(userpath)/config/standard.soc $(brandbaseurl)/share/palette%3B$(userpath)/config/standard.sod 1270 true true false true false $(brandbaseurl)/share/palette%3B$(userpath)/config/standard.sog $(brandbaseurl)/share/palette%3B$(userpath)/config/standard.soh false false true true false false true false false false $(brandbaseurl)/share/palette%3B$(userpath)/config/standard.soe false 7 4 false 0 low-resolution false true false 1 1 true ‘‘RASTREANDO OS PERSEGUIDORES’’: O ABUSO DO USO DA INFORMAÇÃO POR MEIO DA INTELIGÊNCIA ARTIFICIAL (IA) E OS SEUS IMPACTOS NAS RELAÇÕES INTERNACIONAIS ‘‘TRACKING PERSECUTORS’’: INFORMATION ABUSE THROUGH ARTIFICIAL INTELLIGENCE (AI) AND ITS IMPACTS ON INTERNATIONAL RELATIONS Flávio Timar Rodrigues 1 Victor de Matos Nascimento 2 RESUMO A inteligência artificial tem se tornado um fenômeno cada vez mais recorrente nas relações internacionais. Este artigo busca discutir a implicação política do uso de métodos de Inteligência Artificial (IA) nos regimes democráticos. Para tanto, será utilizada uma metodologia baseada na revisão de literatura e no método de Estudo de Caso. Mobilizar-se-á conceitos-chaves como Big Data , machine learning e discriminação algorítmica para analisar o escândalo da Cambridge Analytica (CA) de 2016 como um episódio de interferência das novas tecnologias um processo eleitoral. A hipótese desse trabalho advoga que esses métodos podem mudar a forma como se entende a privacidade e a coleta de informações nos regimes democráticos. A partir desse estudo, foi possível concluir que a utilização de métodos de IA em processos eleitorais detém a capacidade de corroer a democracia e influenciar a opinião pública. Palavras-chave: Inteligência Artificial. Relações Internacionais. Democracia. Cambridge Analytica. ABSTRACT Artificial intelligence has become a phenomenon increasingly present in international relations. This paper aims to discuss the political implications of Artificial Intelligence (AI) new technologies in democratic regimes. In this sense, it will develop a literature review methodology and a study case method in order to achieve the goals of this research. Core concepts such as Big Data, machine learning and algorithm bias will be presented with the intent to analyze Cambridge Analytica’s scandal as an episode of AI methods interference in the election process. This paper hypothesis argues that AI methods change privacy and personal data collection in democratic regimes and also the form we understand that process. Therefore, it was possible to conclude that the use of AI methods in electoral processes has the ability to erode democracy and influence public opinion. Keywords: Artificial Intelligence. International Relations. Democracy. Cambridge Analytica. 1 Pontifícia Universidade Católica de Minas Gerais (flatimar@hotmail.com) 2 Pontifícia Universidade Católica de Minas Gerais (victormatosnasc@gmail.com) Rodrigues e Nascimento 131 iVBORw0KGgoAAAANSUhEUgAAA6YAAAAGCAYAAADQdoOYAAAAP0lEQVR42u3XMREAAAwCMfwr qNt2rQKmcBcDbJ9JFgAAAJry5xAAAACEKQAAAMIUAAAAhCkAAADCFAAAAJphevB0st3l3AF/ AAAAAElFTkSuQmCC INTRODUÇÃO Ferramentas de inteligência artificial 3 conduzem mudanças abruptas na atualidade. Com o advento da Internet e com o uso mais intensivo dos dados ao redor do mundo, a disposição de mecanismos inteligentes começa a abranger diferentes áreas como aprendizado de máquina, visão computacional, processamento de linguagem natural, reconhecimento de padrões em imagens, robótica e dentre outras (Cobé et al., 2020). Logo, a presença desses mecanismos gera também desdobramentos nas relações internacionais. A ideia de entidades não-humanas detendo qualquer capacidade de agência se torna motivo de preocupação. Na medida em que há formas limitadas de inteligência artificial coexistindo com a humanidade, auxiliando a navegar pelo tráfego, a traduzir textos, a encontrar voos mais baratos, identificar um determinado produto apenas pela sua imagem, os princípios dessa abordagem devem ser colocados em questionamento (Cummings et al . , 2018). Este artigo, que se propõe a discutir o conceito de Inteligência Artificial (IA) e analisar a implicação política de sua utilização, tem o objetivo de entender seu impacto em regimes democráticos e, consequentemente, para as relações internacionais. Para atingir este objetivo, metodologicamente será feita uma revisão de literatura sobre o tema, bem como mobilizar-se-á a estratégia de Estudo de Caso para analisar o caso Cambridge Analytica (CA), episódio que ficou conhecido por sua relação com o Brexit 4 e com as eleições estadunidenses em 2016. Este trabalho parte da hipótese de que o uso de mecanismos de IA, como Big Data e outros dispositivos que serão explicados a posteriori , pode mudar a forma como se entende a privacidade e a coleta de informações nos regimes democráticos, impactando diretamente em processos eleitorais, como no caso que será demonstrado da CA. 3 Quando se trata de inteligência artificial, em minúsculo, o termo deve ser lido como um instrumento tecnológico para determinados fins e objetivos. Em contrapartida, quando redigida em maiúsculo (Inteligência Artificial) o trabalho está se referindo ao campo de estudos dessa área. 4 Em 23 de junho de 2016, 51,9% da população inglesa votou em um referendo a favor da saída do Reino Unido da União Europeia (UE). Embora tenha sido um dos membros fundadores da Comunidade Econômica Europeia (CEE), de 1957, que depois originou a UE, o país nunca se integrou totalmente ao bloco, mantendo, por exemplo, a própria moeda. Nos anos que antecederam o referendo, cresceu a insatisfação de parte da população com posturas do grupo envolvendo, por exemplo, questões econômicas e a pauta dos refugiados, o que levou à saída do país da integração (Pedroza; Obregon, 2020). RICRI, Volume 10, Número 19, 2022 132 iVBORw0KGgoAAAANSUhEUgAAA6YAAAAGCAYAAADQdoOYAAAAP0lEQVR42u3XMREAAAwCMfwr qNt2rQKmcBcDbJ9JFgAAAJry5xAAAACEKQAAAMIUAAAAhCkAAADCFAAAAJphevB0st3l3AF/ AAAAAElFTkSuQmCC A discussão está dividida em três seções. Na primeira seção é feito um debate conceitual sobre o termo IA, sobre outros conceitos da área e qual a aplicabilidade que possuem atualmente. Em seguida, será discutido o elo entre a IA e as relações internacionais, de modo a descrever quais são as pautas vigentes e quais são as suas implicações futuras, tendo em vista a conexão desta discussão com os regimes democráticos. Depois, faz-se o Estudo do Caso CA, chamando a atenção para as implicações deste exemplo para a discussão em torno da IA. Por fim, serão apresentadas as considerações finais. INTELIGÊNCIA ARTIFICIAL E BIG DATA: CONCEITOS E IDEIAS BASILARES Uma mudança tecnológica não deve ser dramática ou repentina, indicando novos formatos nas estruturas sociais. Ao se pensar em inteligência artificial, muitos ainda possuem um imaginário centrado nas experiências hollywoodianas como os filmes Matrix ou ExMachina , em que o uso intensivo dessas tecnologias pode resultar no fim da humanidade. Entretanto, o avanço desses instrumentos é muitas vezes sutil e gradual, e seus impactos se mostram muito mais a longo do que a curto prazo (Cummings et al., 2018). Nesse sentido, torna-se necessário esclarecer qual é a origem da inteligência artificial, delinear de maneira mais objetiva a sua definição, e demonstrar quais são os impactos e as suas aplicações práticas na atualidade. O estudo de Inteligência Artificial estabelece a Segunda Guerra Mundial (1939-1945) como o marco zero da sua área. Segundo o cientista da computação, John McCarthy (2007) o matemático britânico Alan Turing foi o ‘‘precursor dos estudos da área de IA’’ (McCarthy, 2007: 4). O nome de Turing ficou conhecido não apenas durante a guerra, mas por conta dela. A partir de inúmeros estudos, o matemático articulou um mecanismo capaz de retardar a guerra, criando uma máquina que codificava e interceptava códigos nazistas 5 . Denominada como Máquina de Turing , esse mecanismo é entendido como um dos primeiros modelos de computadores digitais modernos construídos pela humanidade. Mais precisamente, o 5 Essa narrativa é melhor ilustrada nos filmes Breakingthecode da BBC lançado em 1996, e no britânico- estadunidense O Jogo da Imitação ( The Imitation Game ) do ano de 2014, um drama histórico-biográfico, dirigido por MortenTyldum, com roteiro de Graham Moore baseado no livro biográfico Alan Turing: The Enigma, de Andrew Hodges , por sua vez inspirado na vida do jovem britânico. Rodrigues e Nascimento 133 iVBORw0KGgoAAAANSUhEUgAAA6YAAAAGCAYAAADQdoOYAAAAP0lEQVR42u3XMREAAAwCMfwr qNt2rQKmcBcDbJ9JFgAAAJry5xAAAACEKQAAAMIUAAAAhCkAAADCFAAAAJphevB0st3l3AF/ AAAAAElFTkSuQmCC que foi construído é um modelo abstrato de computador, na medida em que se limitava apenas aos aspectos lógicos do seu funcionamento, tais como memória, estado e transcrição, e não a sua implementação física. Ou seja, visualmente, o que é concebido como um modelo convencional de computador na atualidade, ainda era algo muito difícil de ser implantado naquele momento (Harari, 2015). Em resposta a essa criação, após a guerra, o britânico articulou trabalhos acadêmicos e formulações teóricas sobre o assunto. Um de seus trabalhos mais famosos foi o seu artigo publicado em 1950, ComputingMachineryandIntelligence, abordando pela primeira vez o que se chamaria de um mecanismo de inteligente. Nessa discussão, o autor argumenta que “no momento em uma máquina consegue fingir e aparentar ser humana para um ‘observador experiente’, ou seja, um humano, você certamente deve considerá-la inteligente” 6 (McCarthy, 2007: 4, tradução nossa). Nesse sentido, a IA tem a sua definição intimamente relacionada ao comportamento humano. Sistematicamente falando, é: [...] a capacidade de um computador digital ou aparelho robótico controlado por um computador a cumprir tarefas normalmente associadas com processos intelectuais superiores, características de seres humanos, tais como capacidade de raciocinar, descobrir significados, generalizar ou aprender a partir de experiências do passado. Se usa a expressão para se referir aquele ramo da ciência da computação que cuida do desenvolvimento de sistemas dotados com tais capacidades 7 (BRITANNICA, 2020: [s/p]. Tradução nossa). Dado este termo, passaremos a tratar sobre a área da IA e das suas aplicações práticas. Em 1956, com o surgimento do Dartmouth Summer Research Project , na universidade de Dartmouth, New Hampshire, nos Estados Unidos, tem-se o que pode ser entendido como o evento que deu início ao campo da IA como uma disciplina. Matemáticos, programadores, filósofos e especialistas das áreas mais variadas se juntaram a fim de, segundo o precursor do evento, John McCarthy, prosseguir com um estudo baseado na conjectura de que todos os aspectos da aprendizagem ou qualquer outra característica de inteligência pode, em princípio, ser tão precisamente descrito que uma máquina pode ser usada para simular isso (Moor, 2006). 6 He argued that if the machine could successfully pretend to be human to a knowledgeable observer then you certainly should consider it intelligent. 7 [...] the ability of a digital computer or computer-controlled robot to perform tasks commonly associated with intelligent beings. The term is frequently applied to the project of developing systems endowed with the intellectual processes characteristic of humans, such as the ability to reason, discover meaning, generalize, or learn from past experience. RICRI, Volume 10, Número 19, 2022 134 iVBORw0KGgoAAAANSUhEUgAAA6YAAAAGCAYAAADQdoOYAAAAP0lEQVR42u3XMREAAAwCMfwr qNt2rQKmcBcDbJ9JFgAAAJry5xAAAACEKQAAAMIUAAAAhCkAAADCFAAAAJphevB0st3l3AF/ AAAAAElFTkSuQmCC Partindo de um mesmo referencial, esses estudiosos de inúmeras áreas começaram a propor palestras e cursos de ação para que essa temática fosse abordada cada vez mais a fundo. Essas reuniões continuaram congregando mais pesquisadores interessados na área, abrangendo o campo de IA para a robótica, tomadas de decisão, pesquisa, linguagem e videogames (Moor, 2006). Em virtude disso, o campo da IA começou a adentrar na área das Ciências Sociais. A mídia, juntamente das redes sociais, se tornou um reflexo da potencialidade da IA. As propagandas, a política e a área de tomada de decisão se depararam com métodos utilizados pela IA capazes de desdobrar impactos significativos sobre os indivíduos. Segundo Castells (1999) a ação do homem na era informacional tem contribuído para o surgimento de novas formas de interação; novas comunicações; novas maneiras de se relacionar. O autor, em virtude do acúmulo de informação gerado pelo meio virtual, faz a leitura de que ‘‘o que é específico ao modo informacional de desenvolvimento é a ação de conhecimentos sobre os próprios conhecimentos como principal fonte de produtividade’’ (Castells, 1999: 35). Nesse sentido, o sociólogo já previa uma forma de lucratividade que, atualmente, é resultado da utilização de um conhecimento pré-existente para gerar novos conhecimentos: a Big Data . Antes de se adentrar nos pormenores do que é a Big Data , é interessante indagar: qual é a sua relação com a inteligência artificial? No momento em que a definição de inteligência artificial diz respeito à repetição de práticas e ações humanas por mecanismos inteligentes, é necessário que haja informações suficientes para que uma máquina possa aprender esses comportamentos. Na ótica de alguns especialistas, a IA funcionaria como o cérebro humano – capaz de armazenar e processar informações que recebe a partir de uma respectiva experiência – e a Big Data consistiria, neste caso, nas experiências cumulativas, ou seja, os dados que são gerados a partir dessas vivências. Podemos dizer, portanto, que há uma intersecção entre IA e Big Data tendo em vista a comunicação efetiva entre esses dois campos que são, ao mesmo tempo, diferentes e complementares (OECD, 2020). Segundo a International Data Corporation (2011) os mecanismos de Big Data “descrevem uma nova geração de tecnologias e arquiteturas projetadas para extrair economicamente o valor de volumes muito grandes e de uma grande variedade de dados, permitindo alta Rodrigues e Nascimento 135 iVBORw0KGgoAAAANSUhEUgAAA6YAAAAGCAYAAADQdoOYAAAAP0lEQVR42u3XMREAAAwCMfwr qNt2rQKmcBcDbJ9JFgAAAJry5xAAAACEKQAAAMIUAAAAhCkAAADCFAAAAJphevB0st3l3AF/ AAAAAElFTkSuQmCC velocidade de captura, descoberta e/ou análise” (INTERNATIONAL DATA CORPORATION, 2011: [s/p]). Embora a Big Data esteja associada a grandes volumes de dados, há outros elementos que precisam de maior atenção em sua classificação. Fernando Amaral (2016) descreve o fenômeno Big Data , onde “sua definição formal é dada por um conjunto de três a cinco ‘ V s’: velocidade, volume, valor, variedade e veracidade’’ (Amaral, 2016: 7). Todas essas seis características dizem respeito a uma descrição mais fidedigna do que é a Big Data. A primeira característica diz respeito a velocidade (1), que se refere ao processamento dos dados, que devem ser ágeis para gerar as informações necessárias; a segunda, o volume (2), já discorre sobre a quantidade deles de que se dispõe; o valor (3) dialoga com a ideia daquilo pode ser extraído ou não, classificando o que pode ser ‘’informação útil’’ ou não; a variedade (4) aponta para as fontes de dados que são mais variadas, aumentando a complexidade das análises; e, por fim, a veracidade (5), que dita o quão verdadeira é aquela informação (Amaral, 2016). Entretanto, essas características possuem um certo grau de mutabilidade. Por exemplo, a característica volume pode ser entendida como uma variável no tempo. Em outras palavras, o que é grande hoje, em termos de volume de dados, não é o mesmo que era há vinte e dois anos atrás. Há vinte anos, um terabyte (1012 bytes 8 ) era considerado Big Data . Nos dias atuais, sabe-se que o volume de informação digital gira na ordem de grandeza dos zettabytes (1021 bytes ), sendo este um valor infinitamente maior. Dito isto, a Big Data se manifesta como o conhecimento da IA. Ao recolher informações disponibilizadas e armazenadas na internet, se torna possível que uma máquina possa mapear e reproduzir os mesmos comportamentos humanos (Amaral, 2016). No século XXI, redes sociais e plataformas como Facebook, WhatsApp e Instagram utilizam-se de metodologias baseadas em sistemas de IA para entreter e gerar novas formas de se comunicar. Com uma maior circulação de dados na esfera virtual, essas plataformas começaram a se apropriar dos recursos desse ambiente online para determinados fins. Os métodos de classificação de usuários, por exemplo, que são ferramentas que se utilizam de práticas como algoritmos e Big Data, podem surtir efeitos significativos na percepção e 8 Os computadores "entendem" impulsos elétricos, positivos ou negativos, que são representados por 1 ou 0. A cada impulso elétrico damos o nome de bit ( BI narydigi T ). Um conjunto de 8 bits reunidos como uma única unidade forma um byte (Alecrim, 2011: [s/p]). RICRI, Volume 10, Número 19, 2022 136 iVBORw0KGgoAAAANSUhEUgAAA6YAAAAGCAYAAADQdoOYAAAAP0lEQVR42u3XMREAAAwCMfwr qNt2rQKmcBcDbJ9JFgAAAJry5xAAAACEKQAAAMIUAAAAhCkAAADCFAAAAJphevB0st3l3AF/ AAAAAElFTkSuQmCC comportamento das pessoas (Cortiz, 2019). Em suma, a inteligência artificial passou, principalmente a partir da segunda metade do século XX, a se aperfeiçoar de modo constante e acelerado. A Big Data , nesse sentido, é um dos mecanismos desse processo que exemplifica o poder dos instrumentos da IA e qual o seu impacto na vida de diferentes populações ao redor do mundo. INTELIGÊNCIA E A POLÍTICA: A TECNOLOGIA E ÀS RELAÇÕES INTERNACIONAIS Na primeira seção discutiu-se os conceitos de inteligência artificial e Big Data , conceitos estes que serão importantes para o estudo do caso da Cambridge Analytica . Dado esses pontos, esta seção se dedicará a demonstrar as preocupações existentes nas relações internacionais com a Inteligência Artificial e quais são as características presentes no seu funcionamento que sinalizam a sua influência em processos políticos. Em âmbito doméstico, é necessário que sejam feitos alguns recortes, começando por conceituar o que se entende por democracia. Segundo Bobbio (1983), há nove formas para entender a aplicação de um regime democrático sobre um determinado território: a primeira (1) diz respeito a uma composição de um órgão político superior que deve ser composto por membros eleitos direta ou indiretamente pelo povo em eleições de primeiro ou de segundo grau. A segunda (2) contempla um órgão legislativo supremo que é acompanhado de outras instituições com dirigentes eleitos, como os órgãos da administração local ou o chefe de Estado. O terceiro (3) urge que todos os cidadãos que tenham atingido a maioridade, sem distinção de religião, raça, censo e possivelmente sexo, devem ser eleitores. O quarto (4), nesse sentido, afirma que todos aptos a votar devem ter voto igual. Por sua vez, o quinto princípio (5), nesse mesmo sentido, destaca a participação do eleitor dentro do processo democrático. De acordo com essa lógica, se discute que todos os eleitores devem ser livres para votar conforme a própria opinião formada de forma mais livre possível, isto é, numa disputa livre de partidos políticos que lutam pela formação de uma representação nacional. O sexto (6) afirma que todos os eleitores devem ser livres também no sentido de terem condições de ter reais alternativas ao escolher o seu candidato Rodrigues e Nascimento 137 iVBORw0KGgoAAAANSUhEUgAAA6YAAAAGCAYAAADQdoOYAAAAP0lEQVR42u3XMREAAAwCMfwr qNt2rQKmcBcDbJ9JFgAAAJry5xAAAACEKQAAAMIUAAAAhCkAAADCFAAAAJphevB0st3l3AF/ AAAAAElFTkSuQmCC ou candidata. Em sequência, o sétimo princípio (7) discute que tanto para as eleições dos representantes como para as decisões do órgão político supremo, prevalecendo o princípio da maioria numérica, podendo ser estabelecidas várias formas de maioria, de acordo com critérios de oportunidade não definidos de uma vez para sempre. Finalmente, o oitavo (8) afirma que nenhuma decisão tomada por maioria deve limitar os direitos da minoria, especialmente o direito de tornar-se maioria, em paridade de condições. E, por fim, o nono princípio que se atenta à questão de que o órgão do governo deve gozar de confiança do parlamento ou do chefe do poder executivo, por sua vez, ter sido eleito pelo povo (Bobbio, 1983). A democracia, sendo um regime influenciado por diversas variáveis, desde movimentos sociais internos até crises externas, dependendo do país que a adote, pode ser impactada pela presença da inteligência artificial. No âmbito das eleições presidenciais, a Big Data se mostrou uma ferramenta muito útil para fins propagandísticos e estratégicos dentro de uma campanha. Ela foi utilizada por partidos políticos ao redor de todo mundo, visando a manipulação da opinião pública e favorecendo determinados candidatos. O uso da ciência de dados para prever o comportamento dos usuários na internet não é uma prática nova. O tecnólogo Gary Kovacs, um dos CEO da AVG Technologies , empresa produtora de software subsidiária da Avast, já apontava sobre as possíveis consequências desse método. Ele trabalhou para a Mozilla Corporation , Adobe , SAP e IBM e liderou a Zi Corporatio n, sendo essa última uma empresa de mensagens de texto para celular. Gary apresentou um TedTalks 9 no ano de 2012, chamado de ‘‘Rastreando os perseguidores’’, se referindo ao rastreio comportamental que grandes empresas fazem a partir da coleta de dados das pessoas nas redes sociais. Nessa apresentação, o tecnólogo já previa a potencialidade que a ciência de dados teria. Ele mostrou uma das extensões do Firefox, chamada Collusion , capaz de rastrear sites que pudessem ter acesso aos seus dados (Gary, 2012). Dessa forma, a pessoa seria capaz de monitorar o seu próprio comportamento e, consequentemente, evitar entrar em determinadas páginas. 9 TED (Tecnologia, Entretenimento e Design) é uma organização sem fins lucrativos que promove palestras curtas sobre diversos assuntos e as divulga na internet. Já promoveu apresentações em mais de 100 idiomas (TED, 2022). Para acessar o site: ted.com. RICRI, Volume 10, Número 19, 2022 138 iVBORw0KGgoAAAANSUhEUgAAA6YAAAAGCAYAAADQdoOYAAAAP0lEQVR42u3XMREAAAwCMfwr qNt2rQKmcBcDbJ9JFgAAAJry5xAAAACEKQAAAMIUAAAAhCkAAADCFAAAAJphevB0st3l3AF/ AAAAAElFTkSuQmCC O Instituto de Pesquisa Inter-regional das Nações Unidas para o Crime e Justiça (UNICRI) 10 é um órgão responsável, dentre vários outros, por lidar com a temática da IA. Em virtude de sua relevância para o tema e de seu alcance enquanto centro de estudos e pesquisa, assume-se que é um dos mais notórios para lidar com essa questão. Esse instituto foi criado em 1968, em conformidade com a Resolução 1086 B (XXXIX) do Conselho Econômico e Social das Nações Unidas (ECOSOC) que exigia a expansão das atividades das Nações Unidas na prevenção do crime e da justiça criminal ao redor mundo. Atualmente, o instituto funciona como uma ala autônoma da Organização das Nações Unidas (ONU) e é governado pelo Conselho de Administração Fiduciária da ONU. Neste mesmo instituto, foi criado um comitê específico para se tratar das questões relativas à inteligência artificial, chamado de Centro de Inteligência Artificial e Robótica 11 (UNITED NATIONS INTERREGIONAL CRIME AND JUSTICE RESEARCH INSTITUTE, 2020). Em 2017, a UNICRI assinou um acordo com os Países Baixos, para a hospedagem do seu Centro de Inteligência Artificial e Robótica em Haia. Embaixadores e representantes de organizações internacionais se reuniram no Palácio da Paz para lançar formalmente o Centro de Inteligência Artificial (IA) e Robótica e para discutir o trabalho realizado desde 2017. O evento foi organizado pelo Ministério dos Negócios Estrangeiros dos Países Baixos, pelo Município de Haia e pela própria UNICRI. Segundo o comitê, as funções relacionadas a esse centro de pesquisa podem se estender para diferentes abordagens (UNITED NATIONS INTERREGIONAL CRIME AND JUSTICE RESEARCH INSTITUTE, 2020). Do ponto de vista da segurança, a IA e a robótica possuem um grande potencial. Essas tecnologias podem ajudar na identificação de pessoas; previsão das tendências na criminalidade e apoio a aplicação da lei para otimizar recursos; interpretação de irregularidades nas transações financeiras que possam indicar fraude, corrupção ou financiamento do terrorismo; identificar e denunciar material de abuso sexual infantil; e, por fim, sinalizar e responder ao uso terrorista da internet. Entretanto, o seu uso não está isento de desafios. A garantia dos direitos humanos, em particular o direito à privacidade, 10 A sigla UNICRI se dá em virtude do nome dado em inglês para a instituição, sendo essa United Nations Interregional Crime and Justice ResearchInstitute (UNICRI). 11 Centre for Artificial Intelligence and Robotics Rodrigues e Nascimento 139 iVBORw0KGgoAAAANSUhEUgAAA6YAAAAGCAYAAADQdoOYAAAAP0lEQVR42u3XMREAAAwCMfwr qNt2rQKmcBcDbJ9JFgAAAJry5xAAAACEKQAAAMIUAAAAhCkAAADCFAAAAJphevB0st3l3AF/ AAAAAElFTkSuQmCC ainda é um assunto pendente nas agendas internacionais (UNITED NATIONS INTERREGIONAL CRIME AND JUSTICE RESEARCH INSTITUTE, 2020). Ao serem utilizadas indevidamente, a IA e a robótica podem permitir novas ameaças digitais, físicas e políticas. Embora a integração dessas tecnologias no crime e no terrorismo ainda não tenha sido substancialmente identificada, a preparação para o surgimento de novas ameaças e crimes deve ser uma prioridade, pois essas tecnologias estão se tornando cada vez mais acessíveis e difundidas na sociedade. Por exemplo, os chamados deepfakes 12 , ou vídeo gerado por programação, já demonstram a adição de uma nova dimensão ao problema da desinformação, sendo esse um ponto de convergência entre o caso da CA e o comitê de IA (UNITED NATIONS INTERREGIONAL CRIME AND JUSTICE RESEARCH INSTITUTE, 2020). Embora a UNICRI tenha grupos de trabalhos voltados para o combate às deepfakes e preocupe-se internamente com elementos que possam fomentar práticas de desinformação, o comitê possui um caráter majoritariamente técnico. Focado em propor análises e diagnósticos para futuros problemas, o caso da CA, pensando especificamente na questão da Big Data , não foi um ponto mencionado. Assim, a agenda de pesquisa do comitê, criado em 2017, ainda parece estar restrita a outras atividades. Desde a sua criação, o centro construiu uma base sólida de conhecimentos e uma extensa rede internacional que é utilizada para realizar atividades, convocar reuniões, cursos, workshops e treinamentos com especialistas da área (UNITED NATIONS INTERREGIONAL CRIME AND JUSTICE RESEARCH INSTITUTE, 2020). Tendo a percepção de que o uso envolvendo a Big Data ainda é muito recente, toma-se como necessário adotar outras duas vertentes para lidar com esse problema: a da privacidade e a da desinformação. O abuso do uso de dados nas redes sociais prejudicou milhares de estadunidenses e britânicos, de forma a se tornar um ponto fundamental no entendimento dos direitos básicos. Esses que devem ser resguardados no ambiente virtual. Na atualidade, empresas privadas praticam uma dinâmica chamada de “capitalismo de vigilância”, termo cunhado pela estadunidense Shoshana Zuboff (2015), em que ela descreve o surgimento de uma 12 Deepfake é uma siglonimização de "deeplearning" e "fake", que se torna uma técnica de síntese de imagens ou sons humanos baseada em técnicas de inteligência artificial. É mais usada para combinar a fala qualquer a um vídeo já existente (Cabral, 2018). RICRI, Volume 10, Número 19, 2022 140 iVBORw0KGgoAAAANSUhEUgAAA6YAAAAGCAYAAADQdoOYAAAAP0lEQVR42u3XMREAAAwCMfwr qNt2rQKmcBcDbJ9JFgAAAJry5xAAAACEKQAAAMIUAAAAhCkAAADCFAAAAJphevB0st3l3AF/ AAAAAElFTkSuQmCC nova ordem econômica baseada na capitalização dos dados pessoais, em que a experiência humana é o material utilizado para práticas comerciais ocultas e de finalidades diversas, estranhas aos usuários. Dessa maneira, um caminho viável para se mitigar as práticas de IA dentro do processo político e democrático, pensando ainda no método da Big Data , é a proteção dos seus dados pessoais e o combate à desinformação. Referente a esse cuidado com os dados, a organização que mais se atenta a esse problema hoje é a Organização para Cooperação e Desenvolvimento Econômico (OCDE). Atualmente, a organização é referência internacional na regulação do uso de dados pessoais e foi uma das primeiras a lidar com orientações legislativas. Com orientações publicadas no ano de 1980, e posteriormente atualizadas em 2013, a cartilha Guidelines on the protection of privacy and transborder flows of personal data 13 ofereceu orientações valiosas para a adequação ideal de segurança da informação. As diretrizes da OCDE não são mandatórias, mas os países que almejam integrar a organização devem ser capazes de demonstrar que a legislação nacional sobre proteção de dados se adequa às diretrizes estabelecidas (ORGANISATION FOR ECONOMIC COOPERATION AND DEVELOPMENT, 2013). Já a pauta da desinformação possui um aspecto muito mais multifacial e menos centralizador que o resguardo da proteção de dados pessoais. Para fins teóricos e conceituais, é muito difícil definir objetivamente esse problema. Em virtude da palavra fakenews ter se tornado politicamente muito carregada, jornalistas e especialistas em comunicação utilizam-se do termo desinformação para descrever o processo de utilização de técnicas de comunicação e informação para induzir ao erro ou dar uma falsa imagem da realidade (Empoli, 2019; Mello, 2020). Assim como foi citado anteriormente, as próprias deepfakes se tornam uma ameaça nesse ponto. Ao editar vídeos, fotos e até mesmo sons de um dado fenômeno e se referir à ele como um fato, isso se configura como um caso de desinformação. O olhar dado a esse tema adveio mais significativamente das áreas do Jornalismo e do próprio Direito Internacional. A Organização das Nações Unidas para a Educação, Ciência e Cultura (UNESCO) possui hoje cursos de ação para investigar e identificar melhor esse 13 Diretrizes sobre a proteção de privacidade e fluxos transfronteiriços de dados pessoais (tradução dos autores). Rodrigues e Nascimento 141 iVBORw0KGgoAAAANSUhEUgAAA6YAAAAGCAYAAADQdoOYAAAAP0lEQVR42u3XMREAAAwCMfwr qNt2rQKmcBcDbJ9JFgAAAJry5xAAAACEKQAAAMIUAAAAhCkAAADCFAAAAJphevB0st3l3AF/ AAAAAElFTkSuQmCC problema. Com orientações publicadas em 2018, a cartilha Journalism, fakenews & disinformation: handbook for journalis, education and training 14 tornou-se um material de referência de como estudar e educar profissionais na área da comunicação com enfoque para a temática da desinformação. Esse material possui a finalidade de capacitar pessoas para lidar com a questão de desinformação e combatê-la com propriedade. Na cartilha, há diretrizes que explicam como aplicar isso em veículos de comunicação de grande alcance e como fazer o diagnóstico se uma notícia é falsa ou não (Cherilyn; Julie, 2018). A partir disso, nota-se a preocupação de agentes no âmbito internacional, de forma a olhar para esse tema e entendê-lo como um problema a ser resolvido. Dada essa perspectiva pelo campo da comunicação, torna-se necessário ressaltar também a presença desse problema também para o Direito Internacional. Em março de 2017, o escritório do Alto Comissariado para os Direitos Humanos da Organização das Nações Unidas (ACNUDH), juntamente de três outras organizações governamentais e duas organizações não-governamentais, emitiu a chamada Joint Declarationon Freedom Of Expression and “Fake News”, Disinformation and Propaganda 15 . Essa declaração demonstra claramente o repúdio às diferentes manifestações de discurso de ódio e as desvantagens trazidas no âmbito virtual para o consumo da informação. No preâmbulo da declaração, nota-se que há um ponto que ressalta a capacidade de transformação da Internet de produzir conteúdo com tamanha rapidez e como isso deve ser mais bem fiscalizado (ORGANIZATION FOR SECURITY AND CO-OPERATION IN EUROPE, 2017). Ademais, ao publicar as temáticas de cada reunião periodicamente, o mesmo demonstra o seu engajamento com as temáticas de IA envolvendo a liberdade de expressão e opinião dos indivíduos. Isso é observado na sessão ocorrida em agosto de 2018, pela emissão do relatório Artificial Intellige nce Technologies and implications for freedom of expression and the information environment 16 (UNITED NATIONS HUMAN RIGHTS OFFICE OF THE HIGH COMMISSIONER, 2018). 14 Jornalismo, fake news e desinformação: manual de treinamento para educação jornalística (tradução nossa). 15 Declaração Conjunta sobre Liberdade de Expressão, “Notícias Falsas”, Desinformação e Propaganda (tradução nossa). 16 Relatório sobre tecnologias de Inteligência Artificial e implicações para a liberdade de expressão e o ambiente de informação (tradução nossa). RICRI, Volume 10, Número 19, 2022 142 iVBORw0KGgoAAAANSUhEUgAAA6YAAAAGCAYAAADQdoOYAAAAP0lEQVR42u3XMREAAAwCMfwr qNt2rQKmcBcDbJ9JFgAAAJry5xAAAACEKQAAAMIUAAAAhCkAAADCFAAAAJphevB0st3l3AF/ AAAAAElFTkSuQmCC Diante dessas mobilizações, nota-se como diferentes atores no âmbito internacional têm agido no sentido de fiscalizar a presença de métodos de IA na vida cotidiana. Referente à desinformação, é válido retomar a discussão de Bobbio (1983) sobre democracia - especificamente seus pontos cinco (5) e seis (6) supracitados. Segundo o supracitado, (5) todos os eleitores devem ser livres em votar segundo a própria opinião formada o mais livremente possível, isto é, numa disputa livre de partidos políticos que lutam pela formação de uma representação nacional; e eles (6) devem ser livres também no sentido em que devem ser postos em condição de ter reais alternativas (Bobbio, 1983). O que se percebe, portanto, é que a desinformação impacta diretamente na percepção dos indivíduos sobre a realidade, afetando a liberdade de formulação de opinião própria e livre de influências destoantes da realidade. Ademais, a desinformação também impacta nas alternativas reais de formação de opinião, pois o indivíduo acaba optando por uma das opções que possui ao seu alcance, ainda que ela não seja devidamente adequada. Assim, o consumo e o repasse da informação em um regime democrático, independentemente do veículo, devem ser legítimos, ou seja, deve ser fidedigno ao que se passa na realidade e ser passível de crítica. A interferência dos métodos de IA, para além de segmentar as pessoas e impulsionar o discurso de ódio em um ambiente online , prejudica como os cidadãos agem e atuam politicamente. Dessa maneira, eles creem que a informação passada, sem nenhuma forma de checagem, é o que ocorre de fato na realidade. Sendo que, no caso dos processos eleitorais do Brexit e das eleições estadunidenses em 2016, o conteúdo disseminado era bruscamente editado e responsável por causar animosidade nos eleitores por meio de mensagens odiosas. No ambiente virtual, portanto, percebe-se que a violação de princípios democráticos é uma ação constante nas informações do nosso dia a dia. Esta seção cumpriu dois propósitos: demarcou o que se entende por regime democrático e qual a relação que este conceito possui com as práticas de inteligência artificial. O outro propósito foi o de mostrar outros atores, vinculados ou não às instituições do sistema ONU, que lidam com essa questão. Acredita-se que fazer esse itinerário teórico analítico foi importante pois esclareceu algumas discussões sobre a IA e às relações internacionais, Rodrigues e Nascimento 143 iVBORw0KGgoAAAANSUhEUgAAA6YAAAAGCAYAAADQdoOYAAAAP0lEQVR42u3XMREAAAwCMfwr qNt2rQKmcBcDbJ9JFgAAAJry5xAAAACEKQAAAMIUAAAAhCkAAADCFAAAAJphevB0st3l3AF/ AAAAAElFTkSuQmCC além de fornecer o aparato analítico que irá sustentar a discussão que será feita na próxima seção. O CASO CAMBRIDGE ANALYTICA A Cambridge Analytica surgiu a partir da SCL Group , que por sua vez surgira do Behavioural Dynamics Institute (BDI). Esse instituto era um consórcio de sessenta instituições acadêmicas que eram compostas por centenas de psicólogos. Isso fez com a CA adotasse outros formatos de coleta de dados em vez das velhas pesquisas de opinião. Eles desenvolveram métodos de análise preditiva e usaram os resultados para classificar as pessoas. Em seguida, por meio da modelagem de dados (a criação de modelos a partir das informações coletadas) um determinado setor da equipe criou algoritmos 17 capazes de prever de forma certeira o comportamento das pessoas ao receber determinadas mensagens (Kaiser, 2019). O caso CA foi escolhido em virtude do envolvimento que a empresa teve com processos decisórios simbólicos, tais como as eleições presidenciais estadunidenses e a saída do Reino Unido do bloco europeu, conhecida como Brexit . A participação da empresa nesses eventos evidenciou a influência que a Inteligência Artificial possui enquanto um instrumento de pesquisa e persuasão. Mesmo tendo atuado em outros eventos, como as eleições presidenciais de Trindade e Tobago, Colômbia e alguns países da África, a notoriedade da CA enquanto uma empresa de publicidade estratégica foi marcada pelas eleições de 2016 (Kaiser, 2019). Graças ao avanço da ciência de dados e da análise preditiva, a empresa poderia saber cada vez mais sobre cada usuário. Se na década de 1960 a publicidade era orientada por uma abordagem chamada de top-down (de cima para baixo), em 2014 ela foi orientada pela metodologia contrária. O então chamado bottom-up (de baixo para cima) se preocupava em mapear as pessoas e suas respectivas personalidades. Após essa procura, eram feitos anúncios e propagandas destinados a essas pessoas. E em seguida, cada uma dessas pessoas era atingida por uma mensagem diferente, influenciando o seu voto (Kaiser, 2019). 17 Em ciência da computação, um algoritmo é uma sequência finita de ações executáveis que visam obter uma solução para um determinado tipo de problema. RICRI, Volume 10, Número 19, 2022 144 iVBORw0KGgoAAAANSUhEUgAAA6YAAAAGCAYAAADQdoOYAAAAP0lEQVR42u3XMREAAAwCMfwr qNt2rQKmcBcDbJ9JFgAAAJry5xAAAACEKQAAAMIUAAAAhCkAAADCFAAAAJphevB0st3l3AF/ AAAAAElFTkSuQmCC Para além desses métodos, a diferença da CA às outras empresas de comunicação estratégica foi o seu grande banco de dados. O banco de dados “era vasto e sem precedentes, tanto em profundidade quanto em volume, e ficava maior todo dia” (Kaiser, 2019: Pg. 38). Esses dados eram adquiridos na compra relacionada à vida financeira dos estadunidenses, desde os estabelecimentos de compra (bares, restaurantes) até os locais onde passavam férias. Referente ao Facebook, sendo um dos parceiros mais renomados da empresa, fez com que a CA possuísse 570 pontos de dados individuais a respeito de cada usuário da rede social. Logo, ao combinar tudo isso, a multinacional obtinha cerca de 5 mil pontos de dados de todos os estadunidenses acima dos 18 anos, resultando em informações sobre 240 milhões de pessoas do país (Kaiser, 2019). Esse banco de dados serviu para dois grandes eventos envolvendo a empresa publicitária: as eleições estadunidenses em 2016 e o Brexit . Ambos os projetos foram feitos em parceria com a empresa. O Brexit , projeto que foi articulado pelo grupo leavers no Parlamento Europeu, também contratou os serviços da empresa e efetuou a compra de dados. As eleições estadunidenses, referente à candidatura de Donald Trump, utilizou-se das metodologias da empresa e também de boa parte da equipe no projeto de campanha. Em 2014, a Cambridge tinha como vice-presidente Steve Bannon, um assessor político estadunidense que serviu como assistente do presidente Trump e estrategista-chefe da Casa Branca na época da eleição (FOLHA DE SÃO PAULO, 2018; Guimón, 2018). Entretanto, o que essa experiência indica sobre a forma como se lida com a IA? A Big Data transcreve uma prática que, antigamente, era feita manualmente e com pouca assistência tecnológica. Ao invés de ir em busca da opinião pública e fazer com que as pessoas soubessem da existência do candidato, a Internet foi capaz de minimizar esse processo. Um cientista de dados já é capaz de persuadir os usuários a votar em um determinado candidato na medida em que ele segmenta as pessoas e encaminha o anúncio para os eleitores mais suscetíveis às ideias desse candidato. Ao separá-las, ele lança uma propaganda específica e direcionada para esse mesmo grupo (Kaiser, 2019). Assim, a CA já dispunha de uma série de vantagens das quais poderiam mobilizar para influenciar qualquer candidato a obter notoriedade em uma eleição. Em virtude disso, ela Rodrigues e Nascimento 145 iVBORw0KGgoAAAANSUhEUgAAA6YAAAAGCAYAAADQdoOYAAAAP0lEQVR42u3XMREAAAwCMfwr qNt2rQKmcBcDbJ9JFgAAAJry5xAAAACEKQAAAMIUAAAAhCkAAADCFAAAAJphevB0st3l3AF/ AAAAAElFTkSuQmCC se tornou um caso emblemático no uso da Big Data , gerando novas implicações no processo democrático tanto dos Estados Unidos como do Reino Unido. Os problemas da Cambridge Analytica começaram quando seu ex-diretor de tecnologia, Christopher Wylie, um canadense de 28 anos, contou ao jornal The Guardian, que a companhia tinha comprado dados de milhões de usuários do Facebook sem o consentimento deles. Os dados foram obtidos por meio de um aplicativo psicológico desenvolvido por um pesquisador da Universidade Cambridge (Cadwalladr; Graham-Harrison, 2018; CAMBRIDGE, 2019). O aplicativo, chamado de Friends API , permitia ter acesso a informações não apenas de quem utilizava a ferramenta, mas também dos amigos de quem o utilizava. Isso desencadeou acusações à empresa, de forma que os depoimentos de Christopher Wylie foram confirmados tardiamente com mais uma delação, as de Brittany Kaiser. A empresa não comunicou o vazamento das informações às autoridades e não avisou os usuários que os dados tinham sido roubados. Após ser questionado pelo The New York Times sobre o caso, o Facebook, um de seus maiores parceiros durante a campanha eleitoral, anunciou a suspensão das contas da CA e da SCL na sua rede (Cadwalladr; Graham-Harrison, 2018; CAMBRIDGE, 2019). A metodologia utilizada pela CA evidenciou com mais clareza um ponto frágil da democracia. A inteligência artificial, mas especificamente a área de ciência de dados, demonstrou a sua capacidade em mudar a opinião das pessoas a respeito da política e, consequentemente, da própria democracia. Tomando como base os elementos ressaltados pelo teórico Norberto Bobbio (1983), um dos pontos era de que todos os eleitores devem ser livres em votar segundo a sua própria opinião; que as pessoas devem ser livres também no sentido de serem postas em condição de ter reais alternativas; e, por fim, de que nenhuma decisão tomada por maioria deve limitar os direitos da minoria. O papel da CA indica a interferência de uma empresa no processo democrático estadunidense e britânico. Em virtude dessa ação, a segmentação de grupos e de personalidades na internet se tornaram fatores naturais desse ambiente, fomentando a polarização. Assim, isso demonstra que um dos elementos de união de um determinado grupo é a aversão extrema ao outro. Datada do ano de 2016, a campanha eleitoral de Donald Trump mostrou particularidades que afetaram de forma significativa o país. Para RICRI, Volume 10, Número 19, 2022 146 iVBORw0KGgoAAAANSUhEUgAAA6YAAAAGCAYAAADQdoOYAAAAP0lEQVR42u3XMREAAAwCMfwr qNt2rQKmcBcDbJ9JFgAAAJry5xAAAACEKQAAAMIUAAAAhCkAAADCFAAAAJphevB0st3l3AF/ AAAAAElFTkSuQmCC que possamos nos aprofundar nessas particularidades, os autores do livro ‘‘Como as Democracias Morrem’’, Levitsky e Leblatt (2018), citam duas regras que deveriam ser consensuais dentro do jogo democrático, sendo elas a tolerância mútua e a reserva constitucional: Tolerância mútua é reconhecer que os rivais, caso joguem pelas regras institucionais, têm o mesmo direito de existir, competir pelo poder e governar. A reserva institucional significa evitar as ações que, embora respeitem a letra da lei, violam claramente o seu espírito. Portanto, para além do texto da Constituição, uma democracia necessitaria de líderes que conheçam e respeitem as regras informais (Levitsky; Leblatt, 2018: 4). Dados estes termos, pode-se citar episódios que corroboram com a violação dessas regras. Um feito notório relacionado a isso, ainda no ano de 2012, acabou envolvendo o candidato Donald Trump no programa Today. No programa, o republicano dizia que tinha ‘‘sérias dúvidas’’ sobre o fato de seu antecessor, Barack Obama, ser um cidadão estadunidense, ou seja, nascido de fato nos Estados Unidos (Levitsky; Leblatt, 2018). Comportando-se dessa maneira, o então candidato à presidência desclassificava o seu oponente e descumpria com o que foi citado anteriormente como a regra da tolerância mútua: o desmerecimento de seus oponentes como competidores legítimos. Assim, não se abre espaço para o diálogo ou muito menos para a criação de um debate construtivo baseado no respeito mútuo. Portanto, esse tipo de prática, que consiste no uso da Big Data para esquematizar propagandas e anúncios levianos para engajar as pessoas a votar em um determinado candidato, demonstra uma falha da democracia de prover a liberdade de opinião e expressão da sua população. Um problema frequente dos algoritmos na atualidade é o chamado filterbubbles. Bubbledemocracy ou filterbubbles é um estado de isolamento intelectual que pode resultar de pesquisas personalizadas online , que é quando um algoritmo adivinha seletivamente quais informações um usuário gostaria de ver com base em informações sobre ele, como localização, comportamento de cliques e histórico de pesquisas. Como resultado, os usuários ficam separados de informações que não concordam com seus pontos de vista, isolando-os efetivamente em suas próprias bolhas culturais ou ideológicas (Pariser, 2011). A construção do debate público é um ponto fundamental nesta discussão. Como mencionado, a construção da desinformação feita por Donald Trump não se preocupa com Rodrigues e Nascimento 147 iVBORw0KGgoAAAANSUhEUgAAA6YAAAAGCAYAAADQdoOYAAAAP0lEQVR42u3XMREAAAwCMfwr qNt2rQKmcBcDbJ9JFgAAAJry5xAAAACEKQAAAMIUAAAAhCkAAADCFAAAAJphevB0st3l3AF/ AAAAAElFTkSuQmCC o amparo em fatos. A ideia é minar a chance de o oponente participar do debate público. Para combater este processo, Galhardi et. al. (2020) indica dois caminhos que podem ser seguidos: o indivíduo deve ser instruído a conferir o conteúdo que recebe antes de replicá- lo; e é responsabilidade das instituições vinculadas ao Estado aumentar a quantidade de informação confiável a disposição da população (Galhardi et. al., 2020). Além disso, a regulação deve atuar diretamente no debate público no sentido de aumentar a consciência social sobre as consequências da desinformação (Galhardi et. al., 2020). Assim como o Estado e as estruturas democráticas ficam sujeitas a abalos advindos desses processos, eles também são dotados de recursos e, muitas vezes, de amparo legal para reagirem no sentido de reduzir as implicações do espalhamento de desinformação. Retomando o caso da Cambridge , sabe-se que ela se apropriou dos recursos já disponíveis na formulação dos algoritmos para segmentar e direcionar melhor as suas propagandas. Entende-se, portanto, que é necessário um olhar mais cuidadoso com o modo que as empresas de tecnologia utiliza os dados dos usuários. As redes sociais hoje se baseiam em formatos de operacionalização em que há algoritmos tendenciosos e com funcionalidades problemáticas. Nesse sentido, essas ferramentas têm sido cada vez mais instrumentalizadas para ditar a forma como entende-se e se repassa informação. Nota-se, portanto, a gravidade e a ameaça que esses aparatos apresentam para uma manutenção da democracia. Os eventos citados anteriormente levaram alguns setores da sociedade a se mobilizar e a questionar o funcionamento da IA nas informações disponíveis online , buscando cursos de ação para mitigar os seus efeitos. A constante vigilância sobre esse tema, para além das organizações internacionais, têm sido feitas por parte de membros da sociedade civil e por Organizações Não-Governamentais (ONGs). No que tange a Big Data e as implicações que envolvem o seu uso, há uma mobilização significativa que surgiu após o escândalo da CA. Brittany Kaiser, após os incidentes envolvendo a empresa de comunicação estratégica, se rebelou contra o abuso de dados, se autodenominando uma ‘‘ativistas de dados’’ e iniciando pequenos projetos envolvendo o uso mais ético das plataformas digitais. Após delatar o abuso de privacidade aos jornalistas e desvincular-se da CA, tornou-se uma das criadoras da fundação OwnYour Data . Essa fundação se tornou uma instituição sem fins lucrativos, criada em 2019, que tem como RICRI, Volume 10, Número 19, 2022 148 iVBORw0KGgoAAAANSUhEUgAAA6YAAAAGCAYAAADQdoOYAAAAP0lEQVR42u3XMREAAAwCMfwr qNt2rQKmcBcDbJ9JFgAAAJry5xAAAACEKQAAAMIUAAAAhCkAAADCFAAAAJphevB0st3l3AF/ AAAAAElFTkSuQmCC objetivo garantir a implementação de programas que possam democratizar a educação em inteligência digital e criar um impacto social significativo no ambiente virtual (Guarda, 2020; OWN YOUR DATA FOUNDATION, 2019). Desse modo, a fundação de Brittany Kaiser é entendida como um reflexo da sua preocupação com a privacidade de milhares de indivíduos. Entretanto, qual é o diálogo dessa ideia com a IA? Sendo a ciência de dados um ramo da IA, ela acaba englobando discussões que permeiam o seu entendimento, o que consequentemente implica nos seus impactos sociais. Assim como foi alertado pelo Centro de Inteligência Artificial (IA) e Robótica, as tecnologias estão se tornando cada vez mais acessíveis e difundidas na sociedade, tal como é o caso dos deepfakes , que é feito a base do método da big-data (UNITED NATIONS INTERREGIONAL CRIME AND JUSTICE RESEARCH INSTITUTE, 2020). Para além da fundação Own Your Data , outras entidades também surgiram com a proposta do uso mais ético das plataformas digitais. Um grupo que ganhou destaque no ano de 2020 foi o coletivo conhecido como SleepingGiants . Logo após a vitória do atual presidente estadunidense, Donald Trump, em novembro de 2016, um coletivo formado por ciberativistas lançou uma conta no Twitter. Essa conta tinha como objetivo boicotar o Breitbart News, um site de notícias de extrema-direita estadunidense, responsável por espalhar constantemente notícias falsas a respeito dos adversários políticos de Trump. A partir daí, o grupo se engajou em combater discursos de ódio e anúncios falsos em outros sites de notícias, persuadindo as empresas a removerem suas propagandas dos meios de comunicação que publicasse esse tipo de notícia (Dias, 2020). O coletivo SleepingGiants pode ser entendido como uma expressão da sociedade civil global no combate ao uso indevido das novas tecnologias. O grupo já ganhou adesão pela União Europeia, representando o bloco como um todo, e pelo Brasil, sendo identificados atualmente como SleepingGiants Brasil (Dias, 2020). Para além das organizações não governamentais, há também a presença de comunidades epistêmicas agindo sobre esses casos. À exemplo disso, pode-se citar o Instituto Artificial Intelligence (AI) NowInstitute . O AI Now é um instituto de pesquisa que estuda as implicações sociais da inteligência artificial, sendo a sua sede localizada na Universidade de Nova Iorque (NYU), nos Estados Rodrigues e Nascimento 149 iVBORw0KGgoAAAANSUhEUgAAA6YAAAAGCAYAAADQdoOYAAAAP0lEQVR42u3XMREAAAwCMfwr qNt2rQKmcBcDbJ9JFgAAAJry5xAAAACEKQAAAMIUAAAAhCkAAADCFAAAAJphevB0st3l3AF/ AAAAAElFTkSuQmCC Unidos. Eles têm como objetivo analisar como a inteligência artificial e as tecnologias relacionadas são usadas para fazer determinadas previsões em domínios de alto risco, como a justiça criminal; a aplicação da lei; contratação e educação, e se há um potencial significativo de impacto nos direitos e nas liberdades básicas dos cidadãos (AI NOW INSTITUTE, 2020). O caso CA é emblemático pois marcou uma expressão nunca antes vista da capacidade da IA de interferir em processos políticos. Como citado anteriormente, os desdobramentos do caso acarretaram no surgimento de grupos da sociedade civil preocupados com a questão dos direitos digitais, auxiliando na inserção desta discussão no debate público. De todo modo, o que se percebe é a fragilidade e os desafios das estruturas democráticas para lidarem com esta questão, uma vez que precisam encontrar um equilíbrio entre a manutenção das liberdades e dos direitos dos indivíduos e das instituições, e a manutenção da própria democracia. Não obstante, o que fica dessa discussão é a distinta afirmativa de Alfred Smith: “todos os males da democracia se podem curar com mais democracia” 18 (Koyzis, 2003: 139, tradução nossa). CONSIDERAÇÕES FINAIS A Inteligência Artificial (IA) e as Relações Internacionais possuem diálogos significativos. Este trabalho buscou analisar a incorporação no ambiente político de métodos de IA visando a coleta, a modelagem e o enviesamento de dados para influenciar eleitores, processo que demonstra o perigo ao qual as democracias estão suscetíveis. Experiências simbólicas, tais como a da Cambridge Analytica , demonstraram a gravidade dessa interferência e as implicações destas dinâmicas para as relações internacionais. Como sinalizado anteriormente, métodos de IA possuem a capacidade de corroer a democracia. Segundo Sartori (1987), as democracias se diferem das autocracias pelos procedimentos decisórios que são empregados em um caso e no outro. Procedimentos tais como eleições livres, alternância de poder, respeito às regras informais do jogo e dentre outros (Sartori, 1987). É necessário que se amplie as discussões sobre como essa 18 All the ills of democracy can be cured by more democracy. RICRI, Volume 10, Número 19, 2022 150 iVBORw0KGgoAAAANSUhEUgAAA6YAAAAGCAYAAADQdoOYAAAAP0lEQVR42u3XMREAAAwCMfwr qNt2rQKmcBcDbJ9JFgAAAJry5xAAAACEKQAAAMIUAAAAhCkAAADCFAAAAJphevB0st3l3AF/ AAAAAElFTkSuQmCC participação da IA afetou a liberdade de escolha de milhares de indivíduos, e afeta as próprias premissas de liberdade e debate público nos regimes políticos contemporâneos. A tolerância mútua e a reserva institucional, assim como tratam Levitsky e Leblatt (2018), são pontos que reiteram a discussão iniciada por Sartori: em que medida esses procedimentos estão sendo respeitados? Os aspectos informais da construção do regime político democrático devem ser mais bem observados com a vinda das novas tecnologias. Conclui-se, portanto, que a hipótese trabalhada neste artigo foi corroborada, na medida em que foi possível visualizar, através do caso CA, que a presença de métodos de IA é capaz de gerar novas inflexões sobre a coleta e o tratamento de dados pessoais em processos políticos. Um dos pontos contemplados neste artigo foi a presença desses métodos no dia a dia dos indivíduos: nas redes sociais; nas compras online ; na interação nas plataformas digitais, dentre várias outras atividades cotidianas. Nesse sentido, este artigo buscou perpassar estas discussões, se aprofundando sobretudo nas implicações políticas do uso de métodos de IA, um debate que ainda carece de muito estudo no campo das RI. Ademais, por meio do caso CA, foi possível esclarecer de que forma este processo ocorre na prática e como é um desafio rastrear as origens e as consequências desses processos. Entretanto, entende-se que ainda há uma série de pontos que devem ser explorados e discutidos no âmbito da Relações Internacionais. Encoraja-se que sejam desenvolvidas pesquisas voltadas para entender o protagonismo das organizações internacionais e da sociedade civil global no combate à desinformação e a aplicação indiscriminada de métodos de IA em processos políticos. Com a presença de coletivos, tais como os do SleepingGiants e de fundações como a de Brittany Kaiser, observa-se a existência de uma mobilização em âmbito societal e governamental em busca de caminhos, não apenas para fiscalizar o tratamento desses dados, mas também para gerar um uso mais consciente e deliberado sobre as plataformas digitais. Rodrigues e Nascimento 151 iVBORw0KGgoAAAANSUhEUgAAA6YAAAAGCAYAAADQdoOYAAAAP0lEQVR42u3XMREAAAwCMfwr qNt2rQKmcBcDbJ9JFgAAAJry5xAAAACEKQAAAMIUAAAAhCkAAADCFAAAAJphevB0st3l3AF/ AAAAAElFTkSuQmCC REFERÊNCIAS AI NOW INSTITUTE. Rights Liberties. Disponível em: https://ainowinstitute.org/. Acesso em 27 de jul. 2020. ALECRIM, E. 2011. “O que são bits e bytes?”. Infowebster. Disponível em: https://www.infowester.com/bit.php. Acesso em 26 de ago. 2020. AMARAL, F. 2016 Introdução à ciência de dados: mineração de dados e Big Data. Rio de Janeiro: Alta Books. BRITANNICA. 2020. Artificial Intelligence. Disponível em: https://www.britannica.com/technology/artificial-intelligence/Reasoning. Acesso em: 28 out. 2020. BOBBIO, N. 1983 Dicionário de Política. 11. ed. Brasília: Editora UnB. CABRAL, I. 2018. “O que é deepfake? Inteligência artificial é usada pra fazer vídeo falso”. TECHTUDO, 28 de jul. 2018. Disponível em: https://www.techtudo.com.br/noticias/2018/07/o-que-e-deepfake-inteligencia-artificial-e- usada-pra-fazer-videos-falsos.ghtml. Acesso em 27 de ago. 2020. CASTELLS, M. 1999. A Era da Informação: Economia, Sociedade e Cultura. Sociedade em Rede. São Paulo: Paz e Terra. CADWALLADR, C. 2019. “Cambridge Analytica a yearon: ‘a lesson in institutionalfailure’”. The Guardian. Disponível em: https://www.theguardian.com/uk- news/2019/mar/17/cambridge-analytica-year-on-lesson-in-institutional-failure-christopher- wylie. Acesso em 27 de jul. 2020. CADWALLADR, C.; GRAHAM-HARRISON, E. 2018. “Revealed: 50 million Facebook profiles harvested for Cambridge Analytica in major data breach”. The Guardian, 17 mar. 2018. Disponível em: https://www.theguardian.com/news/2018/mar/17/cambridge- analytica-facebook-influence-us-election. Acesso em 27 de jul. 2020. CHERILYN, I.; JULIE, P. 2018. Journalism, Fake News and Desinformation: handbook for journalism education and training. UNESCO. Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000265552. Acesso em: 03 nov. 2020. COBÉ, R.; NONATO, L.; NOVAES, S; ZIEBARTH, J. 2020. “Rumo a uma política de Estado para inteligência artificial”. Revista USP, São Paulo, n. 124, pp. 37-48. Disponível em: <http://www.revistas.usp.br/revusp/article/view/167914/159995>. Acesso em: 30 mai. 2020. CORTIZ, D. 2020. O design pode ajudar na construção de Inteligência Artificial humanística? 17º Congresso Internacional de Ergonomia e Usabilidade de Interfaces Humano-Tecnologia/Humano-Computador, v. 06, n. 06. Disponível em: <http: //pdf.blucher.com.br.s3-sa-east- 1.amazonaws.com/designproceedings/ergodesign2019/1.02.pdf>. Acesso em: 03 nov. RICRI, Volume 10, Número 19, 2022 152 iVBORw0KGgoAAAANSUhEUgAAA6YAAAAGCAYAAADQdoOYAAAAP0lEQVR42u3XMREAAAwCMfwr qNt2rQKmcBcDbJ9JFgAAAJry5xAAAACEKQAAAMIUAAAAhCkAAADCFAAAAJphevB0st3l3AF/ AAAAAElFTkSuQmCC CUMMINGS, M; ROFF, H.; CUKIER, K.; PARAKILAS, J; BRYCE, H. 2018. Artificial Intelligence and International Affairs Disruption Anticipated. Chatham House Report: Royal Institute of International Affairs, Londres. DIAS, M. 2020. “Propaganda em massa pela internet leva boas marcas ao pior da rede, diz fundador de SleepingGiants”. Folha de São Paulo. Disponível em: https://www1.folha.uol.com.br/mercado/2020/05/propaganda-em-massa-pela-internet-leva- boas-marcas-ao-pior-da-rede-diz-fundador-de-sleeping-giants.shtml. Acesso em 27 de jul. 2020. EMPOLI, G. 2019. Os engenheiros do caos: Como as fakenews, as teorias da conspiração e os algoritmos estão sendo utilizados para disseminar ódio, medo e influenciar eleições. Primeira edição. São Paulo: Companhia das Letras. FOLHA DE SÃO PAULO. 2018. Empresa que ajudou Trump roubou dados de 50 milhões de usuários do Facebook. Folha de São Paulo. Disponível em: <https://www1.folha.uol.com.br/mundo/2018/03/empresa-que-ajudou-trump-roubou- dados-de-50-milhoes-de-usuarios-do-facebook.shtml>. Acesso em 27 de jul. 2020. GALHARDI, C. et al. 2020. “Fato ou Fake? Uma análise da desinformação frente à pandemia da Covid-19 no Brasil”. Ciência & Saúde Coletiva, v. 25, n.2, pp. 4201-4210. GUARDA, D. 2020. Profiles: Brittany Kaiser, co-founder Own Your Data Foundation, former Director Cambridge Analytic [Video]. YouTube. Disponível em: <https://www.youtube.com/watch?v=DWjp03lq2f0&ab_channel=DinisGuarda>. Acesso em: 06 de jul. 2020. GUIMÓN, Pablo. O ‘‘Brexit’’ não teria acontecido sem a Cambridge Analytica. EL PAÍS, 26 de mar. 2018. Disponível em: https://brasil.elpais.com/brasil/2018/03/26/internacional/1522058765_703094.html. Acesso em 27 de jul. 2020. HARARI, N. 2015. Homo Deus: Uma Breve História do Amanhã. Brasil: Companhia das Letras. INTERNATIONAL DATA CORPORATION. 2011. The 2011 Digital Universe Study: extracting value from chaos. Disponível em: http://www.emc.com/collateral/analystreports/idc-extracting-value-from-chaos-ar.pdf. Acesso em: 28 maio 2020. KAISER, B. 2020. Manipulados: como a Cambridge Analytica e o Facebook invadiram a privacidade de milhões e botaram a democracia em xeque. Estados Unidos, Harper Collins. KOYZIS, D. Political Visions and Illusions: a Survey and Christian Critique of Contemporary Ideologies. Intervarsity Press, 2003. LEVITSKY, S.; LEBLATT, D. 2018. Como As Democracias Morrem. 1. ed. [S.l.]: Zahar. MELLO, P. 2020. Máquina do Ódio: notas de uma repórter sobre fakenews e violência digital. Primeira edição. São Paulo: Companhia das Letras. Rodrigues e Nascimento 153 iVBORw0KGgoAAAANSUhEUgAAA6YAAAAGCAYAAADQdoOYAAAAP0lEQVR42u3XMREAAAwCMfwr qNt2rQKmcBcDbJ9JFgAAAJry5xAAAACEKQAAAMIUAAAAhCkAAADCFAAAAJphevB0st3l3AF/ AAAAAElFTkSuQmCC MCCARTHY, J. 2017. “What Is Artificial Intelligence?”. Computer Science Department Stanford University. OECD. 2020. The Impact of Big Data and Artificial Intelligence (AI) in the Insurance Sector. Disponível em: <www.oecd.org/finance/Impact-Big-Data-AI-in-the-Insurance- Sector.html>. Acesso em 24 de jul. 2020. ORGANISATION FOR ECONOMIC CO-OPERATION AND DEVELOPMENT (OECD). The OECD privacy framework. [S. l.]: OECD, 2013. Disponível em: https://www.oecd.org/sti/ieconomy/oecd_privacy_framework.pdf. Acesso: 2 jul. 2020. ORGANIZATION FOR SECURITY AND CO-OPERATION IN EUROPE. 2017. Joint declaration of freedom of expression and “fake news”, disinformation and propaganda. OSCE, OAS, ACHPR. Disponível em: https://www.osce.org/files/f/documents/6/8/302796.pdf. Acesso em: 03 nov. 2020. OWN YOUR DATA FOUNDATION. Our Mission, 2019. Disponível em: https://ownyourdata.foundation/. Acesso em: 06 de jul. 2020. PEDROZA, B.; OBREGON, M. 2020. “Brexit: uma análise acerca da saída do Reino Unido da União Europeia”. Derecho y Cambio Social, n. 59. SARTORI, G. 1987. A teoria da democracia revisitada: O debate contemporâneo. São Paulo, Editora Ática. SIMON, H. 2001. Artificial Intelligence. Encyclopedia Britannica. TED. 2012. Gary Kovacs: Rastreando os perseguidores [Vídeo]. Youtube. Disponível em: <https://www.youtube.com/watch?v=f_f5wNw-2c0&t=200s>. Acesso 29 jun. de 2020. TED - Ideas Worth Spreading. Our Organization. 2022. Disponível em: https://www.ted.com/about/our-organization. Acesso em: 28 abr. 2022. UNITED NATIONS HUMAN RIGHTS OFFICE OF THE HIGH COMMISSIONER. 2018. Report on Artificial Intelligence technologies and implications for freedom of expression and the information environment. Disponível em: <https://www.ohchr.org/EN/Issues/FreedomOpinion/Pages/ReportGA73.aspx>. Acesso em: 03 nov. 2020. UNITED NATIONS INTERREGIONAL CRIME AND JUSTICE RESEARCH INSTITUTE (UNICRI). 2020. Artificial Intelligence and Robotics. Disponível em: http://www.unicri.it/institute/. Acessoem: 02 jul. 2020. UNITED NATIONS INTERREGIONAL CRIME AND JUSTICE RESEARCH INSTITUTE (UNICRI). 2020. What is UNICRI?. Disponível em: http://www.unicri.it/institute/. Acesso em: 02 jul. 2020. ZUBOFF, S. 2020. “Big Other: Surveillance Capitalism and the Prospects of an Information Civilization”. Journal of Information Technology, v. 30, pp. 75–89.