Cientistas alertam sobre os riscos do uso de inteligência artificial em armas

O manifesto de mais de mil cientistas e especialistas em tecnologia contra o desenvolvimento de armas militares autônomas, durante a Conferência Internacional de Inteligência Artificial, em Buenos Aires, no último mês, trouxe de volta o debate sobre o uso de inteligência artificial em materiais bélicos e o temor dos "robôs assassinos". Para especialistas entrevistados pela RFI, essa discussão, em um momento que tecnologias para materiais bélicos "inteligentes" já estão sendo utilizadas, é essencial na comunidade científica e na sociedade civil.

A ong britânica Stop Killer Robots faz campanhas contra o desenvovimento de armas autônomas, que chama de "robôs assassinos". © AFP

O debate sobre a questão não é recente. Projetos e pesquisas sobre armas autônomas vêm sendo deselvolvidos nos últimos 30 anos. Esses mecanismos são principalmente utilizados em sistemas de defesa e o ser humano está no controle desses mecanismos até o momento. Há quem acredite, no entanto, que esse cenário tão comum em filmes de ficção científica pode sair das telas do cinema e virar realidade.

Uma questão de tempo

Para os especialistas como o linguista americano Noam Chomsky, o físico inglês Stephen Hawking, e o cofundador da Apple, Steve Wozniak, entre vários outros signatários da carta aberta da Conferência Internacional de Inteligência Artificial, é apenas uma questão de tempo para que as armas possam por si só selecionar sozinhas seus alvos e atacá-los sem qualquer intervenção humana.

Segundo o professor do Departamento de Engenharia Mecatrônica da Escola Politécnica da USP, Fabio Gagliardi Cozman, que participou da conferência em Buenos Aires, essa preocupação é legítima, mas é preciso que o debate seja realizado com cautela para não gerar histeria. "O desenvolvimento de várias tecnologias que utilizam inteligência artificial tem obtido sucesso. Mas isso não quer dizer que esses mecanismos serão utilizados de forma inadequada, apenas para matar pessoas. Isso iria de encontro até mesmo aos interesses da ciência", avalia.

O pesquisador Jean-Gabriel Ganascia do Laboratório de Informática da Sorbonne Paris 6, lembra que o objetivo dos estudos e projetos de inteligência artificial não é dar às máquinas uma consciência superior à humana. "De fato, há máquinas que, às vezes, são melhores que os humanos. Mas daí a afirmar que o objetivo das pesquisas é dar total controle às armas é algo que está hoje muito longe da realidade. Até porque, cada vez que tentamos ir além na exploração da inteligência artificial para transferi-la às máquinas, mais compreendemos a complexidade da inteligência humana", diz.

Stop Killer Robots

Esse discurso, no entanto, não convence os mais temerosos com a evolução da inteligência artificial para materiais bélicos. É o caso da ONG britânica Stop Killer Robots (Parem os Robôs Assassinos, em inglês), que faz há alguns anos uma intensa campanha contra armas autônomas. Em vídeos divulgados na internet, a organização explica que o que chama de "robôs assassinos" são mecanismos que estão sendo desenvolvidos e que, no futuro, poderão escolher e atirar por conta própria em seus alvos sem nenhuma intervenção humana.

Embora acredite que falar de "robôs assassinos" seja exagerado, Cozman defende que o debate sobre a ética no desenvolvimento dessas tecnologias é essencial. "Será que as armas inteligentes são conscientes?Estamos longe de ter um consenso sobre essa questão. Hoje em dia é difícil até para os próprios cientistas definir o que são as armas autônomas. Por isso é necessário discutir e estabelecer regras que dizem respeito não somente à tecnologia, mas a questões éticas e morais", analisa.

Brasil debate a questão

O país que mais realiza pesquisa em armamentos são os Estados Unidos, financiados especialmente pelo exército norte-americano. O Brasil não desenvolve pesquisa ou projetos nesta área, mas o debate é presente. Em novembro, cientistas brasileiros vão discutir o assunto no Encontro Nacional de Inteligência Artificial e Computacional, que será realizado em Natal, na Universidade Federal do Rio Grande do Norte (UFRN).