Quais as consequências do mal uso da Inteligência Artificial

Para uma pessoa influente e que está sempre nas manchetes, Elon Musk é um pessimista, pressentindo que a Inteligência Artificial acabará por exceder a inteligência humana em todos os aspectos e, motivada por seu próprio interesse inteligente, a IA acabará por trazer a escravização ou mesmo a morte da corrida humana.

Infelizmente não.

Não, não é isso que Elon Musk está dizendo. E não, esse cenário nem é possível. Agora não. Nunca.

[cash_300_250]

Entendendo a Inteligência Artificial

Vamos chegar a um entendimento sobre uma coisa. A Inteligência Artificial não é inteligência da maneira como nós, seres humanos, a conhecemos e a experimentamos. Como entidades biológicas, estamos todos inextricavelmente (e invisivelmente) conectados a uma inteligência universal, a base de tudo o que é, que governa a realidade em que vivemos.

Nossa inteligência pessoal é na verdade uma extensão limitada dessa inteligência universal, cada um de nós faceta diferentemente dela, que todos, no entanto, têm acesso a suas possibilidades ilimitadas à medida que aprendemos e evoluímos.

Uma entidade de Inteligência Artificial não tem acesso à inteligência universal. É limitado ao escopo de inteligência da pessoa que o programa. E então novamente limitado pelas instruções particulares que foram dadas pelo dito programador. De uma maneira que é uma boa notícia. Mas também é onde o problema realmente começa.

Auto-Aprimoramento Recursivo

Quando perguntado por que a IA é perigosa, Musk responde:

Se houver uma superinteligência, particularmente se ela estiver envolvida em auto-aperfeiçoamento recursivo, e sua otimização ou função de utilidade for algo prejudicial à humanidade, ela terá um efeito muito ruim.

O autodesenvolvimento recursivo aqui se refere a programas de inteligência artificial que permitem que a entidade de IA escreva um novo código para si mesmo, entregando novas instruções para que ela possa seguir no futuro, essencialmente “melhorando” a execução de seu propósito ou missão governada por algoritmos.

O que é perigoso sobre o auto-aperfeiçoamento recursivo, para Musk, é que isso pode ter consequências inesperadas. Uma vez que o programador humano não está mais escrevendo o código e, portanto, não está refletindo sobre o impacto das instruções operacionais quando o estão escrevendo, essas instruções são desprovidas de considerações sobre a natureza da experiência humana e a santidade da vida humana.

Limitações do programador

Portanto, o primeiro problema para Musk seria a ignorância em potencial ou falta de visão dos programadores de IA que, apesar de trabalharem com as melhores intenções, não preveem todos os resultados possíveis dos mecanismos recursivos de auto-aperfeiçoamento de uma máquina.

O segundo problema, porém, talvez seja ainda mais perigoso. Centra-se nas perspectivas de que a pesquisa e o desenvolvimento de IA de alto nível, por sua natureza, podem atrair o tipo de pessoas que não têm em mente os melhores interesses da humanidade.

Tome Demis Hassabis, por exemplo, um dos principais criadores de inteligência artificial avançada e co-fundador do misterioso laboratório londrino DeepMind. Certa vez, ele criou um videogame chamado “Evil Genius“, apresentando um cientista malévolo que cria um dispositivo do juízo final para alcançar a dominação mundial. Embora, em si mesmo, isso possa não ser uma acusação do caráter do homem, ele dá motivo para preocupação de como a magia tecnológica de Hassabis e outros como ele se manifestarão no fortalecimento da superinteligência artificial em nossas vidas.

Musk está ciente disso. Como observa um artigo da Vanity Fair, ele era um investidor na DeepMind, não por um retorno sobre seu dinheiro, mas sim para manter um olho cauteloso no arco da IA, dando-lhe mais visibilidade sobre a taxa acelerada na qual a tecnologia estava melhorando.

Concentração de Poder

Mas mesmo isso não é a principal preocupação de Musk. Em uma entrevista em vídeo, Musk ressalta como o controle não regulamentado da IA ​​está sendo acumulado nas mãos de alguns poucos poderosos. Ele descreve uma iniciativa que ele liderou para neutralizar isso:

Com alguns outros eu criei o OpenAI, que é uma organização sem fins lucrativos, na verdade, e acho que a estrutura de governança aqui é importante, porque você quer ter certeza de que não há algum dever fiduciário de gerar lucro com a tecnologia da IA ​​que é desenvolvido.

A intenção com o OpenAI é democratizar o poder da IA ​​… Lord Acton <disse>, “A liberdade consiste na distribuição de poder e despotismo consiste em sua concentração”, e então eu acho importante ter esse poder incrível da IA ​​que não seja concentrada nas mãos de poucos e potencialmente levar a um mundo que não queremos.

Quando lhe pediram para descrever os perigos atuais de tal concentração de poder, Musk afirmou que havia apenas “uma empresa” com a qual estava preocupado, mas nem ousou nomeá-la. É claro que essa empresa era o Google, que na verdade comprou a DeepMind como parte de sua onda de compras de inteligência artificial em 2014.

Não é a máquina

O peso da advertência de Musk para as pessoas, e o motivo de sua iniciativa OpenAI, não é tanto que uma liderança democrática e bem-intencionada perderia o controle de seu funcionamento de IA, mas que o funcionamento da IA estaria sob o controle da regra despótica:

• Musk: Eu não conheço muitas pessoas que amam a ideia de viver sob um déspota.

• Entrevistador: E o déspota seria o computador?

• Musk: (ironicamente) Ou as pessoas controlando o computador.

Artigo publicado originalmente em Colletive Evolution, para ver o artigo original em inglês clique aqui.