Robôs Assassinos c/Vontade Própria para Matar

”O Ponto sem RETORNO”: E SE os Robôs forem capazes de decidir matar por conta própria?

O relatório, divulgado pelo professor Chrisof Heyns, relator especial da ONU sobre execuções extrajudiciais, sumárias ou arbitrárias, também prevê a criação de “um painel de alto nível sobre LARs (LAR-Lethal Autonomous Robots) para articular uma política para a comunidade internacional sobre o assunto.”

Um Relatório da ONU pede uma moratória, mas o desenvolvimento e a produção de robôs autônomos letais poderia ser uma realidade muito em breve.

Por John Knefel - 30 de abril de 2013 - Time: 03:10 ET

Um relatório da ONU divulgado no início desta semana pediu uma moratória global sobre o desenvolvimento de robôs altamente sofisticados, que podem ser selecionados e matar alvos, sem um ser humano emitir diretamente um comando. Estas máquinas, conhecidos como robôs autônomos letais (LAR-Lethal Autonomous Robots), pode soar como ficção científica – mas os especialistas acreditam cada vez mais que alguma versão dessas máquinas, robôs poderia ser criado no futuro próximo.

O relatório, divulgado pelo professor Chrisof Heyns, relator especial da ONU sobre execuções extrajudiciais, sumárias ou arbitrárias, também prevê a criação de “um painel de alto nível sobre LARs para articular uma política para a comunidade internacional sobre o assunto.”

O Departamento de Defesa dos EUA emitiu uma instrução diretiva sobre o assunto no ano passado, que o relatório da ONU diz que “proíbe o desenvolvimento e colocação em campo de LARs a menos que certos procedimentos sejam seguidos” – apesar de funcionários do Ministério da Defesa terem chamado a diretiva de “flexível”.

Forças Armadas dos EUA usando drones Predator de alta tecnologia. Véronique De Viguerie / Getty Images

Ao contrário de grupos como Human Rights Watch - que pediu uma proibição total contra os robôs LARs - o relatório da ONU sugere uma pausa no seu desenvolvimento e implantação, embora reconhecendo a incerteza de futuras tecnologias. ”O perigo é que vamos perceber um dia ter passado do ponto de não retorno”, Heyns diz a Rolling Stone .

“É muito difícil conseguir que as nações abandonem suas armas, uma vez desenvolvidas, especialmente quando é tão sofisticado e oferece tantas vantagens militares. Eu não estou dizendo necessariamente que o LARs nunca deveria ser usado, mas eu acho que nós precisamos compreendê-los muito melhor do que antes de cruzar este limiar de não retorno, e devemos nos certificar de que os seres humanos mantêm um controle significativo sobre a vida e as decisões de morte” sobre essas máquinas”.

Outros também ecoam estas mesmas preocupações. ”Eu acredito que [LARs são] uma mudança de paradigma, pois muda fundamentalmente os requisitos para a responsabilidade humana na tomada de decisões para matar”, diz Peter Asaro, co-fundador e vice-presidente da Comissão Internacional para o Controle de Armas robóticas. ”Como tal, ameaça criar sistemas automatizados que podem nos negar nossos direitos humanos básicos, sem supervisão humana ou supervisão.”

A Indústria (da MORTE) Drone quer fazer mais

O que significa para uma tecnologia robótica para ser autônoma? Missy Cummings, um tecnólogo no MIT, definiu essa qualidade como a capacidade “para a razão na presença de incerteza.” Mas a autonomia do robô é um espectro, não uma tomada/conexão, e que agora provavelmente vai se desenvolver fragmentada. Num extremo do espectro estão máquinas com um ser humano “no controle do circuito” – isto é, o ser humano, e não o robô, toma a decisão direta para puxar ou não o gatilho. (Isso é o que vemos na tecnologia de drones-aviões controlados remotamente de hoje.)

Um avião pilotado remotamente, um DRONE (sem pilotos) lança um míssil em ataque a um objetivo militar.

No outro extremo esta a autonomia completa, com os seres humanos “fora do circuito”, no qual os LARs tomariam a decisão de matar inteiramente por conta própria, de acordo com a forma de como eles foram programados para agir. Desde que os computadores podem processar grandes quantidades de dados muito mais rápido do que os humanos, os defensores argumentam que os LARs com os seres humanos “fora do circuito” irão proporcionar uma vantagem táctica em situações de batalha, onde segundos podem ser a diferença entre a vida e a morte. Aqueles que argumentam contra os robôs LARs dizem que a desaceleração adicional por ter um ser humano “no laço” supera largamente as perigosas consequências que poderiam surgir a partir de desencadear esta tecnologia.

Porque os LARs ainda não existem, a discussão em torno deles permanece em grande parte hipotética. Poderia um robô distinguir entre um civil e um rebelde? Poderia fazê-lo melhor do que um soldado humano? Poderia um robô mostrar misericórdia – ou seja, mesmo se o alvo for “legítimo”, poderia decidir não matar? Um robô poderia recusar uma ordem? Se um robô agindo por sua própria conta mata a pessoa errada, quem é o responsável?

Os defensores argumentam que o uso de LARs poderia ter uma cabeça humanitária. Ronald Arkin, um engenheiro em robótica e roboethicist no Georgia Tech que recebeu financiamento do Departamento de Defesa , é a favor da moratória, mas está otimista no longo prazo. ”A linha inferior é que a proteção das populações civis é fundamental com o advento destes novos sistemas”, diz ele. ”E é minha convicção de que, se esta tecnologia for criada corretamente, ela pode potencialmente levar a uma redução de vítimas não-combatentes quando comparado com os soldados tradicionais de guerra humanos”.

Em um artigo recente, professores de direito Kenneth Anderson e Matthew Waxman sugerem que os robôs seriam livres de “falhas humanas dos soldados, que são muitas vezes agravadas pelo medo, o pânico, a vingança, ou outras emoções – para não mencionar os limites dos sentidos humanos e a cognição “.

Em breve os robôs poderão substituir os homens em várias áreas de atuação do ser humano.

Ainda assim, muitas questões permanecem sem respostas. Estes sistemas, se utilizado, seria obrigado a conformar-se à lei internacional. Se LARs não poderia seguir as regras de distinção e proporcionalidade – ou seja, determinar alvos corretos e minimizar as vítimas civis, entre outros requisitos – então, o país ou grupo que usá-los estaria cometendo crimes de guerra. E mesmo que esses robôs fosseam programados para seguir a lei, é inteiramente possível que eles poderiam permanecer indesejáveis para uma série de outras razões.

Eles poderiam, potencialmente, diminuir o limite para entrar em um conflito. A sua criação pode desencadear uma corrida armamentista que – por causa de suas vantagens – se tornaria um loop de feedback. O relatório da ONU descreve o medo de que “o aumento da precisão e capacidade de atacar em qualquer lugar do mundo, até mesmo onde não existem linhas de comunicação, sugere que LARs seria muito atraente para aqueles que desejam realizar alvo matando.”

O relatório também adverte que “no plano interno, LARs poderia ser usado pelos Estados para reprimir os inimigos internos e aterrorizar a população em geral.” Além disso, o relatório adverte que o LARs poderia agravar os problemas associados com a posição e ideia de que o mundo inteiro é um campo de batalha, que – embora o relatório não diga isso explicitamente – os Estados Unidos tem realizado desde o (falso) atentado terrorista de setembro de 2001. 

“Se os atuais ataques com drones dos EUA e as práticas e políticas de ataque de drones são algum exemplo, a menos que as reformas sejam introduzidas no ordenamento jurídico nacional e internacional, o desenvolvimento e a utilização de armas de decisões autônomas é provável que haja falta de transparência e prestação de contas necessário”, diz Sarah Knuckey, um advogado de direitos humanos na Faculdade de Direito da Universidade de Nova York, que organizou uma consulta a um especialista para o relatório da ONU.

“Há uma preocupação generalizada de que permitindo que um LARs para matar pessoas possam denegrir o valor da própria vida”, conclui o relatório – mesmo LARs são capazes de cumprir as normas do direito internacional. Argumenta-se, estranhamente, que uma moratória sobre essas armas é urgentemente necessária. ”Se a decisão for deixada muito tempo para seus próprios dispositivos, a questão e a decisão, literalmente, será retirada das mãos humanas.”