Luiza Bulhões Olmedo
Na segunda-feira passada (27), em uma carta aberta, cientistas e pesquisadores renomados alertaram o mundo sobre os potenciais perigos da utilização de armas com Inteligência Artificial (IA). Eles consideram que a tecnologia já está muito avançada, e que a única solução para evitar a destruição que esse tipo de sistema poderá causar é o seu banimento. Para compreendermos mais sobre o assunto, conversamos com Thiago Borne, doutorando em Estudos Estratégicos Internacionais na UFRGS, que estuda os robôs de uso militar.
A carta foi escrita durante uma conferência internacional sobre inteligência artificial, que aconteceu essa semana, em Buenos Aires. Mais de 10 mil pessoas assinaram o documento, a maioria pesquisadores de IA e robótica. Dentre os signatários estão celebridades como o astrofísico britânico, Stephen Hawking, o diretor executivo da Tesla Motors, Elon Musk, o cofundador da Apple, Steve Wozniak, e o linguista americano, Noam Chomsky.
Para eles, o desenvolvimento da inteligência artificial chegou a um ponto em que o uso de sistemas totalmente autônomos para fins militares deve ocorrer não daqui a décadas, mas daqui a alguns anos. Por isso, na carta, apontam os riscos desses avanços, indicando que armas autônomas poderiam ser “a terceira revolução da guerra, depois de pólvora e das armas nucleares”.
Segundo eles, se potências militares investirem em armas inteligentes, uma corrida armamentista seria “praticamente inevitável”. Essas máquinas iriam reduzir os constrangimentos para que os países entrassem em guerra e poderiam, inclusive, contribuir para a promoção de genocídios. Assim, a solução seria proibir armas autônomas: “iniciar uma corrida militar de armamentos com IA é uma má ideia, e deve ser prevenida por um banimento de armas autônomas que estejam além do controle humano”, concluem no texto.
Futuro incerto
Para Thiago Borne, que estuda o assunto, a carta é importante, pois demonstra lucidez da comunidade científica em chamar atenção para a necessidade de se regular o uso dessas armas no futuro. Entretanto, ele considera que o texto é um pouco exagerado, pois ignora algumas tendências militares e impactos importantes que a regulamentação desse tipo de tecnologia pode trazer para a política internacional.
Borne lembra que apesar de hoje em dia haver uma expansão da IA, não existem ainda sistemas totalmente autônomos como prevê a carta. “O que temos são semiautônomos, ou seja, eles ainda dependem da ação do ser humano para funcionar”, explica. Em última instância, o ser humano ainda tem papel fundamental na decisão se essas máquinas vão ou não tirar a vida de outro ser humano.
Como estamos distantes dessa realidade, ainda é muito difícil conhecer as consequências do uso de robôs com IA. Por isso, Thiago Borne pondera: a carta aberta desses cientistas parte da ideia de que essa tecnologia aumentaria a incidência de guerras; já outros acadêmicos acreditam que, por matar mais gente, a tecnologia aumentaria os custos das guerras a ponto de elas deixariam de existir. “É muito natural que haja uma comoção tão grande sobre essa tecnologia, pois ninguém sabe o que vai acontecer. Temos vários cenários possíveis, então a discussão é importante”, ressalta.
Política Internacional
Borne considera, ainda, que, ao sugerir o banimento desse tipo de sistema, os pesquisadores estariam ignorando uma possível consequência adversa da regulação: o congelamento das relações de poder no mundo. Ou seja, os países que já estão na vanguarda da IA, como EUA, Israel, Rússia, China e Japão, continuariam no topo, e dificilmente haveria uma equalização. “O mundo continuará dividido entre duas categorias de países: os que têm e os que não têm acesso à tecnologia”, afirma.
Além disso, aqueles que dispõem de uma tecnologia bélica não costumam ser os primeiros a concordarem em bani-la. Por exemplo, armas químicas e biológicas foram proibidas em um protocolo em 1925, mas Japão e EUA só o assinaram na década de 1970. E em relação às armas nucleares o que se conseguiu não foi um banimento, mas um acordo de não proliferação, que define: “quem tem, tem. Quem não tem, não vai ter”.
Para Borne, esse cenário seria sim seria preocupante, pois implicaria guerras travadas por humanos de um lado e robôs de outro, ou seja, guerras assimétricas potencialmente destrutivas. “No limite, teremos exércitos de robôs lutando contra exércitos humanos. Talvez a guerra ficasse ainda mais sangrenta”, afirma. “Se tivermos essa tecnologia sem uma governança internacional em que os países sejam capazes de cooperar, será um grande problema” acrescenta.
Portanto, mesmo com as ressalvas, Borne considera a carta importante por levantar o debate. Além disso, vê como positivo o posicionamento da comunidade acadêmica, que pretende atuar como ator com poder de veto na difusão de tecnologias. Ele acredita que o diálogo deve continuar, e ir além do campo da robótica e da ciência da computação, envolvendo também políticos, militares, internacionalistas, etc.
