Cientistas prometem não criar robôs assassinos (finja que acreditou)

Quando o Projeto Manhattan se tornou de conhecimento público muitos cientistas e engenheiros ficaram horrorizados com a magnitude do que havia saído da garrafa. Para eles aquele tipo de poder não deveria estar em mãos humanas, e vários se comprometeram a não trabalhar em pesquisas para desenvolvimento de armas nucleares.

Isso aconteceu até mesmo com cientistas do próprio Projeto Manhattan, que não aceitaram trabalhar na bomba de hidrogênio, o xodó de Edward Teller. Como sabemos, não adiantou muito. Nenhum desses boicotes ajudou, em alguns casos até atrapalharam os ideais pacifistas. Houve quem se recusasse a trabalhar com drones militares, sendo que isso só serve pra expor pilotos a riscos desnecessários e tornar os ataques convencionais mais mortais e menos precisos.

Hoje qualquer zé ruela do Hamas usa drones armados: no campo da tecnologia de defesa quando uma idéia surge, se for boa ela vai ser replicada e aprimorada por todo mundo, independente das questões filosóficas.

Por isso não passa de um monte de boas intenções o compromisso assinado por Elon Musk e um monte de engenheiros e e cientistas, no qual juram que não irão desenvolver sistemas de armas autônomos usando inteligência artificial, onde a máquina tem a decisão final sobre matar um ser humano.

Primeiro de tudo, isso já existe:

Minas terrestres matam décadas depois que os conflitos que as instalaram já se resolveram. A menos que a Skynet surja, a IA vai matar menos e de forma menos indiscriminada, achar que sem o uso de IA as pessoas vão preferir não brigar é pura utopia.

Ah sim o tal compromisso assinado é tão bobo que qualquer um mode colocar o nome lá. Eu mesmo acabei de assinar em nome do Dr. Miles Bennett Dyson. Entendedores entenderão.

Sendo realista a resposta está na mesma ficção que é usada como alerta pelos alarmistas: a única forma de enfrentar uma Inteligência Artificial Malvada é com uma Inteligência Artificial do Bem.

Se isso não acontecer quando os <insira aqui os vilões da semana> desenvolverem seus drones autônomos e robôs assassinos não seremos páreo para eles. Serão uma ameaça para a qual não teremos resposta.

A proposta do tal grupo de cientistas lembra muito os movimentos pacifistas que atrasaram em mais de um ano a entrada dos EUA na Segunda Guerra Mundial, e se não fosse o ataque de Pearl Harbor sabe-se lá o que teria acontecido com a Europa. A idéia em si é louvável, todo mundo prefere paz, mas aquela coisa de “quando um não quer dois não brigam” termina com o pacifista estirado no chão.

Quando um não quer dois não brigam não é o bastante: é preciso que NINGUÉM queira brigar e, convenhamos, não vai acontecer. E mesmo que aconteça, viraremos presa fácil para os alienígenas.

Precisamos de IA de combate SIM, e da melhor possível, é a melhor forma de dissuadir o inimigo de usar sua própria IA de combate contra nós. E se isso soa como loucura, acredite, nós sabemos mas foi essa loucura que nos livrou de uma guerra nuclear desde 1945.