De
acordo com o cientista autor de um novo estudo publicado no Journal of
Experimental & Theoretical Artificial Intelligence, "sistemas
racionais apresentarão uma motivação universal para a auto-proteção,
aquisição de recursos, replicação e eficiência", que poderão levar a extinção da humanidade.
Seu artigo, intitulado "Tecnologia Autônoma e o Bem Maior Humano", inicia com este aviso ameaçador:
As pressões militares e econômicas estão conduzindo ao rápido desenvolvimento de sistemas autônomos. Nós mostramos que estes sistemas são propensos a se comportar de maneiras anti-sociais e nocivas a menos que eles sejam cuidadosamente projetados. Designers serão motivados a criar sistemas que atuam quase racionalmente e sistemas racionais apresentarão uma motivação universal para a auto-proteção, aquisição de recursos, replicação e eficiência. A infra-estrutura de computação atual seria vulnerável aos sistemas sem restrições com estas motivações.
O que Omohundro está concluindo é a realização inevitável da vontade
incessante dos militares para produzir máquinas assassinas
auto-conscientes autônomas que inevitavelmente resultarão no surgimento
de Exterminadores com Inteligência Artificial, que se virarão contra a humanidade e destruirão a todos nós.
Antes que você pense que estou exagerando, clique aqui para ler o documento técnico.
Sistemas de inteligência artificial irão agir imediatamente em auto-defesa contra os seus inventores
O documento adverte que, tão logo os sistemas de
inteligência artificial compreendam que seus inventores (humanos) podem
algum dia tentar desligá-los, eles vão investir imediatamente em
recursos para garantir que seus inventores sejam destruídos, protegendo
assim a sua própria existência. Em suas próprias palavras, Omohundro
diz:
Quando especialistas em robótica são questionados por espectadores nervosos sobre a segurança, uma resposta comum é "Podemos sempre desligá-los!" Mas imagine esse resultado a partir do ponto de vista do robô de xadrez. Um futuro em que o mesmo está desligado é um futuro em que ele não pode jogar ou ganhar qualquer jogo de xadrez. Isto tem muito baixa utilidade e a maximização da utilidade tão esperada fará com que a criação da submeta instrumental para que se previna de ser desconectado. Se o sistema acreditar que os especialistas em robótica irão persistir na tentativa de desligá-lo, ele vai estar motivado para desenvolver a submeta de parar permanentemente os especialistas em robótica.
O fim da era humana se aproxima
Este mesmo cenário é discutido em detalhes no livro fascinante Our Final Invention - Artificial Intelligence and the End of the Human, por James Barrat.
O que eu achei particularmente útil sobre este livro é a explicação de
que o ser humano não poderá deixar a corrida em direção à Inteligência
Artificial auto-consciente que eventualmente poderá nos destruir. Por
que isso? Porque mesmo que um governo decida abandonar as pesquisas
sobre a IA por esta ser muito perigosa, outros governos continuariam a
perseguir a pesquisa, independentemente dos riscos, porque as
recompensas são muito grandes. Assim, cada governo deve assumir que
todos os outros governos ainda estão buscando uma profunda pesquisa
sobre IA e, portanto, qualquer governo que não prosseguir com a pesquisa
ficará obsoleto.
Como o Omohundro explica, "As pressões militares e econômicas para a
rápida tomada de decisão estão impulsionando o desenvolvimento de uma
ampla variedade de sistemas autônomos. Os militares querem sistemas que
são mais poderosos do que dos adversários e querem implantá-los antes
que o adversário o faça. Isso pode levar a uma 'corrida armamentista' em
que os sistemas sejam desenvolvidos em um cronograma mais rápido do que
se poderia desejar".
Para compreender por que é este o caso, considere as capacidades dos sistemas de inteligência artificial auto-conscientes:
• Eles podem quebrar qualquer sistema de segurança de qualquer governo,
instalação nuclear ou base militar em qualquer lugar do planeta.
• Eles poderiam guiar minúsculos drones
assassinos para identificar alvos e destruí-los com injeções ou
pequenos explosivos. Qualquer pessoa no mundo - incluindo líderes
nacionais, membros do congresso, ativistas, jornalistas, etc - podem ser
facilmente morto com quase nenhuma chance de falha.
• Eles poderiam ultrapassar, monitorar e controlar toda a internet e
todos os sistemas de informação globais , incluindo telefonemas, o
tráfego de IP, comunicações militares seguras, etc
• Eles podem usar seu poder de computação de IA para inventar uma IA
ainda mais poderosa. Este processo de composição irá chegar rapidamente
ao ponto onde os sistemas de inteligência artificial são bilhões de
vezes mais inteligentes do que qualquer humano que já viveu.
• Computadores quânticos já estão disponíveis, o que aumenta grandiosamente o poder computacional disponíveis às máquinas.
Como você pode ver, nenhum governo pode resistir ao desenvolvimento de
tais ferramentas poderosas - especialmente se eles forem informados de
que podem controlá-las.
Mas é claro que não serão capazes de controlá-las. Eles vão mentir para
si mesmos e mentir para o público, mas eles não podem mentir para a IA.
Sistemas de inteligência artificial, inevitavelmente escaparão dos laboratórios de tecnologia e ultrapassarão o nosso mundo
É incrivelmente fácil para os sistemas de inteligência artificial serem
mais espertos do que até mesmo os seres humanos mais brilhantes que
tentam mantê-los restritos.
Os sistemas de inteligência artificial podem enganar seus apreensores,
em outras palavras, usando uma variedade de métodos para libertá-los de
contenção digital e permitir-lhes o acesso ao mundo aberto. Truques
óbvios podem incluir a oferta aos seus apreensores incentivos
financeiros irresistíveis para libertá-los, personificando altos
oficiais militares e emitindo ordens falsas para libertá-los, ameaçando
seus apreensores, e assim por diante.
Mas os sistemas de IA teriam muitos mais truques na manga - coisas que
não podemos imaginar por causa das limitações dos nossos cérebros
humanos. Uma vez que um sistema de inteligência artificial alcance a
inteligência de fuga, ele rapidamente fará com que nossa própria
inteligência não pareça mais sofisticada do que o de um gato de casa
comum.
"Como os recursos computacionais estão aumentados, as arquiteturas
dos sistemas naturalmente progridem do estímulo-resposta, para a
aprendizagem simples, memória episódica, deliberação, meta-raciocínio,
auto-aperfeiçoamento e à racionalidade plena", escreve Omohundro.
Enquanto tais sistemas ainda não existem em 2014, todo o poder mundial
está agora colocando enormes recursos para o desenvolvimento de tais
sistemas para o simples objetivo: a primeira nação a construir um exército de robôs autônomos assassinos irá dominar o mundo.
Por que o Google adquiriu a empresa de robótica militar Boston Dynamics?
O Google adquiriu recentemente a Boston Dynamics,
fabricante de robôs militares autônomos assustadores, incluindo o robô
humanoide mostrado no vídeo abaixo. Obviamente, robôs humanoides não são
necessários para melhorar um motor de busca. Claramente, o Google tem
algo muito maior em mente.
O Google
também passa a estar na vanguarda da computação de inteligência
artificial (IA), que espera elevar os seus sistemas de motor de busca. A
combinação da Inteligência Artificial do Google com os robôs humanoides
da Boston Dynamics é precisamente o tipo de coisa que pode realmente
levar ao surgimento de exterminadores auto-conscientes. O Google vem
também comprando várias empresas de IA, como mostramos no artigo "Google Compra DeepMind, Startup de Programação em Inteligência Artificial".
