Quando veremos um robô no banco dos réus?
Segunda-feira, 9 de fevereiro de 2015

Quando veremos um robô no banco dos réus?

Por Igor Leone

No futuro serão comuns conflitos armados tendo como protagonistas robôs militares, em especial armas robóticas. Conhecidos popularmente como “drones”,  as RPAS (Remotely Piloted Aircraft Systems) já são alvo de inúmeras controvérsias éticas e legais nos últimos anos e mesmo assim constituem apenas a ponta do iceberg do universo dos robôs armados. Diferente de um tanque de guerra onde um grupo de soldados estão localizados em seu interior e operando todos os equipamentos, as armas robóticas ficarão cada vez mais independentes e serão programadas para voar em território inimigo e realizar missões específicas sem que nenhum supervisor aperte qualquer tipo de botão.

Aviso aos navegantes: esse artigo não irá responder nenhuma de suas dúvidas éticas ou jurídicas em relação a Direito Internacional, Crimes de Guerra ou o futuro dos robôs militares. Pelo contrário, o autor busca justamente levantar reflexões que só o farão terminar a leitura com ainda dilemas a serem respondidos.

Exemplos atuais de Armas Robóticas:

 SGR-A1

xin_31010429094036232713O SGR-A1 é um robô equipado com duas metralhadoras de munição letal e uma de bala de borracha. O equipamento já vem sendo usado em postos da Zona Desmilitarizada da Coréia e é capaz de substituir um militar. Uma vez programado o robô consegue, sem a assistência de um operador, identificar e matar um indivíduo humano.

 

Taranis

 

wartonAno passado o Ministério da Defesa do Reino Unido anunciou que a aeronave Taranis é capaz de, uma vez programada, voar sob território inimigo e atacar estações de radar. Isso tudo de modo automático, sem ajuda de um operador.

 

O que são robôs militares e armas robóticas?

 

O conceito de robôs militares abarca uma variedade enorme de sistemas desenvolvidos e usados por militares. Um subgrupo importante de robôs militares são as armas robóticas, criadas para transportar e atingir com mísseis alvos específicos.

Uma das principais questões éticas e legais em torno disso é o modo como os alvos são controlados pelo robô. Existem duas maneiras: ou um operador humano controla o processo de bombardeio através de uma base remota ou o operador humano programa o equipamento para efetuar o bombardeio sem a necessidade de uma futura intervenção. Nessa segunda hipótese quanto mais Inteligência Artificial os robôs tiverem mais desafios éticos nascerão, pois ele poderá ser capaz de se comportar de uma maneira completamente instável, de acordo com cada campo de guerra.

Armas robóticas são ilegais?

As leis humanitárias internacionais fazem uma distinção entre o uso de uma arma e a sua natureza. Dessa perspectiva uma AK-47 (modelo de fuzil) é uma arma legal – não existe nada em sua natureza que a torne ilegal. No entanto, isso não significa que ela possa ser usada para fins ilegais, como por exemplo, disparar contra crianças.

Armas ilegais por sua natureza são aquelas que causam dano excessivo ou sofrimento desnecessário sem um propósito militar. Sofrimento desnecessário se refere ao efeito que a arma gera nos combatentes. As armas carregadas com veneno e os produtos químicos e biológicos estão enquadrados nessa categoria.  Uma vez que não existe previsão legislativa indicando que as armas robóticas causam dano excessivo, elas não são consideradas ilegais por sua natureza, a não ser que sejam utilizadas para bombardeio com armas químicas.

Também podem ser consideradas armas ilegais aquelas que não possuem capacidade de discriminar um alvo específico, como por exemplo minas terrestres antipessoais.

Como um robô seleciona um alvo?

Para cada drone existe um piloto humano em uma base remota e é esse piloto que determina quais alvos legais os mísseis devem atingir. O piloto é capaz de distinguir entre civis e militares e entre estruturas civis e estruturas militares. Uma vez que o robô é programado para realizar um bombardeio ele também precisa ser capaz de identificar se um alvo legítimo tornou-se ilegítimo.

Como um robô ou um drone programado seria capaz de notar a diferença entre um soldado segurando uma arma e uma criança segurando um revólver de brinquedo? Um drone conseguiria discernir entre um soldado ferido caído no chão e um sniper (atirador de elite) deitado do chão?

Os robôs são suficientemente inteligentes para identificar um combatente que deseja se render? Como os drones programados irão diferenciar civis de militares? E se o conflito for interno e os civis são os combatentes, como os robôs reagirão?

As perguntas não param por aí. A jurisprudência internacional também pune os crimes de guerra de acordo com a sua proporção, ou seja, são “proibidos” ataques que em que os danos aos civis são excessivamente maiores do que o concreto dano militar. Isto significa que um bombardeio se torna ilegal quando gera danos colaterais previsíveis contra civis ou infra estrutura civil (escolas, hospitais, etc).

Como calcular quando o dano colateral é excessivo ou não? O que determina essa medida? Quantos civis mortos compensam a destruição de um tanque de guerra? Como calcular, então, os danos físicos de uma creche – vizinha a uma ponte que será bombardeada?

Responder a essas questões implica em um julgamento de valores que varia de caso a caso. Mas como esse julgamento ocorre quando o robô foi pré programado para a missão? Armas robóticas autônomas serão, em diversas situações, incapazes de calcular ou identificar a legitimidade de seus alvos e seus ataques.

Riscos Tecnológicos

Armas robóticas também tem suas vantagens. Os drones, por exemplo, são equipados com câmeras de alta resolução e infravermelho, capazes de voar por longos períodos tem tempo, o que permite aos operadores analisarem os cenários com calma, avaliando vantagens e desvantagens de determinado ataque. Em alguns casos, os operadores entram em contato com superiores e até mesmo advogados especializados em crimes de guerra para que determinem em tempo real a legitimidade de um bombardeio.

Em contrapartida, as armas robóticas poderiam ser hackeadas e reprogramadas por forças inimigas, as quais eventualmente redirecionariam o robô para o próprio país de origem ou usariam-no para cometer crimes de guerra e operações do tipo false flag.

Riscos Políticos

Robôs militares serão um fator decisivo de assimetria entre dois Estados. É possível que um país com baixo desenvolvimento tecnológico consiga se defender de uma potência robótica? É ético que um país ataque com robôs ultra high tecs um inimigo que não possua meios para se defender?

Ameaça física

Armas robóticas estão reduzindo cada vez mais a distância física entre os combatentes. A atuação do drones reduz a zero tanto o risco de um operador ser morto em combate como o risco de um contra-ataque inimigo, tendo em vista que as bases militares operadoras desses equipamentos geralmente estão localizadas em outro continente.

Durante um conflito é permitido que um soldado ataque direta e intencionalmente um indivíduo classificado como combatente/inimigo. A questão ética fundamental é: porque é moralmente aceito matar durante a guerra? Uma das respostas é que o inimigo representa uma ameaça física imediata e iminente.

Indivíduos alvos de um drone são inimigos que representam uma ameaça física real? Atacá-los com armas robóticas é moralmente justificável? Um drone que localize um grupo de soldados inimigos marchando em um campo aberto deve bombardeá-los? É preciso ser estabelecido em qual grau um inimigo passa a ser considerado uma ameaça e se é ético (ou legal) conceder permissão para que um robô o elimine.

Enfim…

Quem deve ser responsabilizado por um ataque ilegal ou acidental em um cenário onde o robô for capaz de tomar suas próprias decisões?  O fabricante do robô, o controlador, o comandante da operação, o presidente da nação… Ou o próprio robô?

Igor Leone é advogado, sócio do escritório Tardelli, Zanardo e Leone Advogados, colunista e diretor executivo do Justificando.
Referência Bibliográfica: Robo-Wars, The Regulation of Robotic Weapons 

Segunda-feira, 9 de fevereiro de 2015
Anuncie

Apoiadores
Seja um apoiador

Aproximadamente 1.5 milhões de visualizações mensais e mais de 175 mil curtidas no Facebook.

CONTATO

Justificando Conteúdo Cultural LTDA-EPP

[email protected]

Send this to a friend