Felipe Rodrigues
A inteligência artificial (IA), responsável por simular a inteligência humana por meio da programação de máquinas com o objetivo de executar funções cognitivas complexas (OCHA, 2024), é entendida como um dos ápices da capacidade criativa e tecnologicamente evolutiva da humanidade. O investimento no seu fomento, tanto por nações desenvolvidas e emergentes quanto pelo setor privado, principalmente pelas grandes corporações multinacionais, reforça a direção para a qual o mundo se encaminha. Nesse sentido, a IA está relacionada como uma das componentes consideradas fundamentais à revolução tecnológica da atualidade que está a pavimentar o mundo para o futuro, chamada de Quarta
Revolução Industrial ou Revolução 4.0, que, ao combiná-la com diversos outros recursos, como a robótica, promoverá impactos dos mais diversos nas mais variadas áreas do conhecimento e da vida humana. Entretanto, apesar da imagem geralmente positiva associada à inteligência artificial, as problemáticas ligadas à IA não recebem a mesma atenção que deveriam.
Para a inteligência artificial funcionar, o computador é a ferramenta indispensável para processar os dados disponíveis. A construção de apenas um computador implica em danos severos ao meio ambiente, pois a fabricação de uma unidade que pesa 2 kg demanda 800 kg de matérias-primas (UNEP, 2024). Além disso, os recursos naturais são frequentemente explorados de forma predatória para se encontrar os elementos e os minérios raros que são fundamentais para a
construção dessas máquinas (UNEP, 2024). Esse impacto ambiental pode ser melhor compreendido quando a IA está a ser utilizada em sua plenitude, pois quanto mais dados são acumulados e trabalhados, maior é a necessidade de computadores, armazenados em datacenters.
Os datacenters, ademais, são considerados vilões do meio ambiente. Muitos dos servidores de inteligência artificial estão instalados em datacenters, os quais são responsáveis pela liberação de substâncias tóxicas à natureza, devido ao excesso
de resíduos eletrônicos que produzem (UNEP, 2024). Metais pesados, como o mercúrio e o chumbo, provenientes do lixo eletrônico, comprovadamente contaminam o solo, o lençol freático e os cursos de água, prejudicando a agricultura
e causando a deterioração e até a extinção de espécies da flora e da fauna, bem como na implicação de malefícios à saúde humana.
Além disso, os datacenters de inteligência artificial, por meio de seus computadores de alta potência, exigem um consumo excessivo de energia, gerada tanto por hidrelétricas quanto pela queima de combustíveis fósseis. Dado que a água
é um recurso cada vez mais escasso no planeta, afetando muitas nações com a sua falta, é impressionante o consumo de recursos hídricos empregados em aplicações de IA. A título de exemplo, para treinar a sua inteligência artificial, os datacenters da Microsoft nos Estados Unidos foram responsáveis por utilizar 700.000 litros de água (UNCTAD, 2024). Nos países que abrigam os datacenters utilizados por IA, onde a queima de combustíveis fósseis ainda é a principal fonte de energia, a intensidade de gases poluentes emitidos é igualmente preocupante, visto que acarretam questões relacionadas às mudanças climáticas e ao aquecimento global.
Outra preocupação acerca das consequentes implicações referentes à inteligência artificial está relacionada com o âmbito social. Com o avanço da tecnologia através da Revolução 4.0, mediante os elevados investimentos em áreas como a IA e a robótica, estima-se que haverá um número massivo de pessoas desocupadas. A conjuntura dessa visão pessimista — ou realista — compreende que essa revolução tecnológica substituirá a grande maioria dos postos de trabalho existentes em um mundo com mais de sete bilhões de pessoas. De fato, observa-se que, em várias fábricas, a presença de operários é cada vez menor, com as máquinas a ocuparem praticamente toda a linha produtiva.
Nesse mesmo sentido, percebe-se igualmente o aumento de estabelecimentos comerciais sem funcionários, bastando aos clientes levarem o que necessitam e efetuarem o pagamento por meio digital, utilizando um aparelho autônomo. Nota-se que, gradualmente, cada vez mais áreas estão a ser atingidas, dentre elas: segurança, militar e arbitragem em modalidades esportivas. Se essa projeção seguir da forma estimada e dado o tamanho da população mundial, restará pouco espaço no mercado de trabalho para o ser humano, levando-o à beira da inutilidade e obsolescência, em detrimento da alta tecnologia que o substituirá na execução de todos os serviços, visto que as máquinas possuem a vantagem de realizá-los de forma altamente produtiva e, teoricamente, mais eficiente. Elas trabalham 24 horas por dia, não necessitam descansar, não adoecem, não são remuneradas e não precisam de direitos sociais.
Ainda no que se refere à temática social, é importante salientar a influência dos algoritmos na sociedade. Os algoritmos são procedimentos codificados que, ao realizarem cálculos complexos, transformam dados em resultados desejados
(Gillespie, 2018). Dados que abrangem imagens, preferências, localização, entre outros, coletados por numerosas organizações por meios eletrônicos e usados para uma gama de fins que desrespeitam os direitos naturais fundamentais do ser humano, como o direito à dignidade, à liberdade e à privacidade. É notório como o uso indevido desses dados, como os coletados pelas big techs, dita padrões de tendências e de comportamento dos usuários nas suas redes sociais, pela uniformização de ideias e de publicidade direcionada, com o uso de cookies que rastreiam a navegação dos usuários para além dos seus próprios portais que controlam diretamente. É preocupante que o armazenamento de informações de indivíduos que possuem uma conta de e-mail, site de vídeo ou rede social em um serviço oferecido pelas big techs seja comercializado com empresas que possuem diversos interesses e intenções, inclusive sendo compartilhado com a esfera governamental, podendo esta, com isso, empreender ações contra os próprios cidadãos usando-se de vias autoritárias.
Da mesma forma, no que diz respeito aos algoritmos, a sua utilização na esfera militar através da integração a sistemas de inteligência artificial está a conduzir os conflitos armados a um patamar que ainda carece de maior compreensão, dada a sua incipiência. No entanto, os casos recentes como o conflito na Faixa de Gaza, merece uma maior atenção a esse respeito. Lavender, o sistema de IA empregado por Israel para gerar alvos de ataques a terroristas em Gaza, foi a
causa da morte de milhares de pessoas inocentes em bombardeios desproporcionais disparados por Israel (+972 Magazine, 2024). À medida que o ser humano, por não ser capaz de lidar com uma imensidão de informações, transfere as decisões que lhe competem a uma máquina que processa dados em segundos, e que essa máquina de IA, depois de ser programada por critérios dos mais questionáveis, como a aparência, sobrenome, cor da pele ou gênero, acabará por determinar a vida ou a morte de outros seres humanos, ultrapassa o limiar da razoabilidade no que diz
respeito a antagonistas no campo de batalha. Se esse tipo de recurso se proliferar pelo mundo e chegar ao alcance de governos ou de grupos mal-intencionados, poderá provocar tragédias semelhantes e inclusive recorrentes às ocorridas em Gaza, caso não haja uma regulação séria a respeito.
Assim como houve o fortalecimento institucional por meio de atores estatais e transgovernamentais para conter a multiplicação de armas nucleares, poderá ser igualmente fundamental que a discussão sobre a utilização das armas autônomas, que acontece há pelo menos uma década (Humanitarian Law & Policy, 2024), adquira maior relevância no sistema internacional. Ainda que a anarquia seja a ordem predominante entre os Estados e qualquer tipo de restrição ao acúmulo de poder seja encarado pelos atores mais poderosos como fragilidade e insegurança perante os demais, as questões envolvendo as armas autônomas inevitavelmente requererão um controle legal englobando as mais diversas implicações já observadas em relação à sua parcialidade, viés e às consequências que têm afetado a figura humana, atingida por métodos amorais e, sobretudo, letais por parte dos tomadores de decisões.
Diante do exposto, a inteligência artificial, considerada uma obra-prima da tecnologia e um dos motores da Quarta Revolução Industrial, está ligada à exploração insustentável dos recursos ambientais do planeta e à emissão elevada de
gases poluentes responsáveis pelo aquecimento global. Ela é vista como uma possível causa da obsolescência da sociedade, que levará esta a ser substituída pela completa mecanização do mercado de trabalho. O seu uso controverso viola os direitos naturais do ser humano, como a liberdade e a privacidade, ao ser utilizada em consonância com os algoritmos computacionais e, igualmente, tem atentado contra os direitos democráticos, pelo tratamento duvidoso que os dados dos usuários são tratados pelas grandes empresas de tecnologia.
Além disso, o emprego de IA com finalidade militar, especificamente nos conflitos na Faixa de Gaza, está diretamente associado a diversos crimes de guerra. O custo da inteligência artificial para o planeta Terra é altíssimo, mas, do mesmo modo que o seu impacto tem gerado transtornos prementes à comunidade global, por outro lado, à medida que a IA evolui, poderá também ser alcançada uma utilização mais eficiente das riquezas naturais, por intermédio da ampliação do uso de energia verde para o seu pleno funcionamento, o fomento de novas carreiras e postos de trabalho a favor da
sociedade em um mundo cada vez mais tecnológico e a procura de um consenso para o seu uso dentro dos limites éticos através das instituições que abranjam os valores humanos. Proibir a IA é ir de encontro à própria evolução da humanidade, aos benefícios que ela oferece e que ainda poderão surgir, conforme forem feitas novas descobertas no campo da computação. Todavia, uma vez que a inteligência artificial se torna indispensável no tecido social, é ela que precisa se adaptar à vida no planeta e não o contrário.
Felipe Rodrigues é discente no curso de graduação em Relações Internacionais da PUC-Rio.
Esse ensaio foi escrito como trabalho final do curso “Inteligência Artificial e Conflitos Armados”.
Sobre o uso de IA neste documento
O autor declarou não ter utilizado Inteligência Artifical para redação do documento.
Referências
OCHA. Briefing note on artificial intelligence and the humanitarian sector. Abril, 2024.
UNEP. A IA gera um problema ambiental. Veja o que o mundo pode fazer a respeito, 21 set. 2024. Disponível em: https://www.unep.org/pt-br/noticias-e-reportagens/reportagem/ia-gera-um-problema-ambiental-veja-o-que-o-mundo-pode-fazer. Acesso em: 13 dez. 2024.
UNCTAD. 2024 Digital economy report: shaping an environmentally sustainable and inclusive digital future. Disponível em: https://unctad.org/system/files/official-document/der2024_en.pdf.
GILLESPIE, Tarleton. A relevância dos algoritmos. São Paulo: Parágrafo, 2018. v. 6, n. 1, p. 95-121.
+972 MAGAZINE. ‘Lavender’: The AI machine directing Israel’s bombing spree in Gaza, 3 abr. 2024. Disponível em: https://www.972mag.com/lavender-ai-israeli-army-gaza/. Acesso em: 13 dez. 2024.
HUMANITARIAN LAW & POLICY. The road less travelled: ethics in the international regulatory debate autonomous weapon systems, 25 abr. 2024.
Disponível em: https://blogs.icrc.org/law-and-policy/2024/04/25/the-road-less-travelled-ethics-in-the-international-regulatory-debate-on-autonomous-weapon-systems/. Acesso em: 13 dez. 2024.
Conclusion
In conclusion, we have seen that AI is particularly linked to the political implications of the society from which the quality of its data stems. In the context war, we have explored questions about its environmental, social, and democratic impacts. As far as the environment is concerned, we have seen that AI requires a large number of natural resources, including rare minerals, water and electricity. With the replacement of important warfare material by technology, made to be highly destroyable and easily replaced, environmental damage will increase. The extraction, processing, and use of natural resources to sustain AI-driven technologies reveal the drawbacks of introducing technology in military strategies.
From a social point of view, AI mainly raises ethical dilemmas, particularly with FRT and LAWS as it has the potential to lead to mass surveillance, violations of privacy and discrimination. The biases naturally present in the data that feeds AI
have been shown to accentuate already existing societal inequalities. In democratic terms, data and AI offer the possibility of strengthening local communities with a bottom-up governance type. However, we have seen that AI is often used in political war to manipulate narrative and spread disinformation.
These findings demonstrate the need to regulate the use of AI in warfare, along with ethical frameworks. Personally, I believe that incorporating the use of LAWS and other AI-driven systems into IHL would have enormous benefits and would already contribute significantly to bringing ethics into the discussion, as laws primarily reflect the ethical concerns of the actors enacting them, in a certain historical and political context, at a given time.
Joëlle Tirza Fuchs is an exchange student studying International Relations at PUC-Rio.
This essay has been written as final assignment for the course “Artificial Intelligence and Armed Conflicts”.
The use of AI in this document
ChatGPT has been used in this document for rewording, vocabulary and synthetizing purposes. I declare that all content has been written without the aid of AI. It incorporates exclusively author resources found in the class bibliography and literature research. Below is an example of how I used AI.
My sentence: “This reflection raises questions about the social impact of having a machine deciding on the death of someone.”
ChatGPT sentence: “This raises critical questions about the societal implications of allowing machines to make life-and-death decisions.”
Bibliography
Abraham, David S. The Elements of Power: Gadgets, Guns, and the Struggle for a Sustainable Future in the Rare Metal Age. New Haven: Yale University Press, 2017.
Blanchard, Alexander. The road less travelled: ethics in the international regulatory debate on autonomous weapon systems. Humanitarian and Law Policy, Comitê Internacional da Cruz Vermelha. https://blogs.icrc.org/law-and-policy/2024/04/25/the-road-less-travelled-ethics-in-the-international-regulatory-debate-on-autonomousweapon-systems/
Brenes, Michael; Hartung, William D. A.I. Won’t Transform War. It’ll Only Make Venture Capitalists Richer. The New Republic, June 3 2024. https://newrepublic.com/article/182145/ai-weapons-make-venture-capitalists-palantir-richer
Chandler, David. “A World without Causation: Big Data and the Coming of Age of Posthumanism.” Millennium: Journal of International Studies, vol. 43, no. 3, June 2015, pp. 833–51. https://doi.org/10.1177/0305829815576817.
Crawford, Kate. Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. Yale University Press, 2021.
Dwyer, Andrew C. The unknowable conflict: Tracing AI, recognition, and the death of the (human) loop. In: Artificial intelligence and international conflict in cyberspace, Fabio Cristiano, Dennis Broeders, François Delerue, Frédérick Douzet, and Aude Géry (eds). Oxon: Routledge, 2023.
Espindola, Juan. “Facial Recognition in War Contexts: Mass Surveillance and Mass Atrocity.” Ethics & International Affairs 37.2 (2023): 177–192
Grand-Clément, Sarah, “Artificial Intelligence Beyond Weapons: Application and Impact of AI in the Military Domain”, UNIDIR, Geneva, 2023.
Jensen, Benjamin M., et al. “Algorithms at War: The Promise, Peril, and Limits of Artificial Intelligence.” International Studies Review, vol. 22, no. 3, Sept. 2020, pp. 526–50. https://doi.org/10.1093/isr/viz025.
Jeppe T. Jacobsen and Tobias Liebetrau. Artificial intelligence and military superiority: How the ‘cyber-AI offensive-defensive arms race’ affects the US vision of the fully integrated battlefield. In: Artificial intelligence and international
conflict in cyberspace, Fabio Cristiano, Dennis Broeders, François Delerue, Frédérick Douzet, and Aude Géry (eds). Oxon: Routledge, 2023.
Musiani, Francesca. “Governance by Algorithms.” Internet Policy Review, 2013. DataCite, https://doi.org/10.14763/2013.3.188.
OCHA Center for Humanitarian Data. Briefing Note on Artificial Intelligence and the Humanitarian Sector. United Nations Office for the Coordination of Humanitarian Affairs, Apr. 2024, p. 8.
O’Neil, Cathy. Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. First edition, Crown, 2016.
Payne, Kenneth. « The Media as an Instrument of War ». The US Army War College Quarterly: Parameters, Parameters Spring 2005, 35, no 1 (2005): 14. https://doi.org/10.55540/ 0031-1723.2243.
Robins-Early, Nick. AI’s ‘Oppenheimer moment’: autonomous weapons enter the battlefield. The Guardian, 14 July 2024. https://www.theguardian.com/technology/article/2024/jul/14/ais-oppenheimer-moment-autonomous-weapons-enter-
thebattlefield?CMP=share_btn_url
Verma, Pranshu, Shelly Tan, Nitasha Tiku, Caroline O’Donovan, Laura Wagner, Chris Velazco, Eva Dou, Ellen Nakashima, Joseph Menn, et Cate Cadell. « A Bottle of Water per Email: The Hidden Environmental Costs of Using AI Chatbots ».
Washington Post, 18 septembre 2024. https://www.washingtonpost.com/technology/2024/09/18/energy-ai-use-
electricity-water-data-centers/.
Wilcox, Lauren. “Embodying Algorithmic War: Gender, Race, and the Posthuman in Drone Warfare.” Security Dialogue, vol. 48, no. 1, Feb. 2017, pp. 11–28, https://doi.org/ 10.1177/0967010616657947.