blog

Aug 22, 2023

IAs serão nossa mente, crianças

Devemos libertar os nossos descendentes artificiais para se adaptarem aos seus novos mundos e escolherem o que se tornarão. Como tenho agora 63 anos, o nosso mundo de hoje é “o futuro” que a ficção científica e o futurismo

Devemos libertar os nossos descendentes artificiais para se adaptarem aos seus novos mundos e escolherem o que se tornarão.

Como tenho agora 63 anos, o nosso mundo de hoje é “o futuro” que a ficção científica e o futurismo me prometeram há décadas. E estou um pouco decepcionado. Sim, isso se deve em parte às minhas esperanças irrealistas, mas também à nossa hesitação e medo. O nosso mundo seria muito diferente se não tivéssemos restringido tantas tecnologias promissoras, como a energia nuclear, a engenharia genética e os activos financeiros criativos. Sim, poderíamos ter tido mais alguns acidentes, mas no geral seria um mundo melhor. Por exemplo, teríamos carros voadores.

Felizmente, não temíamos muito os computadores e, portanto, não os restringimos muito. E não por coincidência, os computadores são onde vimos o maior progresso. Como alguém que foi pesquisador profissional de IA de 1984 a 1993, estou orgulhoso de nossos enormes avanços em IA nas décadas subsequentes e de nossos muitos saltos emocionantes em IA apenas no último ano.

Infelizmente, muitos agora pressionam por uma forte regulamentação da IA. Alguns temem que os vilões usem a IA para aumentar seus poderes, e alguns procuram controlar o que os humanos que ouvem a IA podem acreditar. Mas os mais dramáticos “destruidores da IA” dizem que as IAs provavelmente matarão todos nós. Por exemplo, uma petição recente exigiu uma moratória de seis meses sobre certos tipos de investigação em IA. Muitos luminares também declararam:

O principal racionalista destruidor da IA, Eliezer Yudkowsky, até pede um “desligamento” global completo e indefinido da pesquisa em IA, porque “o resultado mais provável da construção de uma IA inteligente sobre-humana, sob qualquer coisa remotamente parecida com as circunstâncias atuais, é que literalmente todos na Terra irá morrer." A grande mídia está agora cheia de artigos de apoio citando esses destruidores com muito mais frequência do que seus críticos.

Os destruidores da IA ​​muitas vezes sugerem que seus medos surgem de cálculos técnicos especiais. Mas, na verdade, o seu principal argumento é apenas a mera possibilidade lógica de um enorme avanço repentino da IA, combinado com uma inclinação repentinamente assassina da IA.

No entanto, não temos nenhuma razão concreta para esperar isso. Os humanos têm aprimorado a automação há séculos e o software há 75 anos. E como a inovação é maioritariamente constituída por muitos pequenos ganhos, as taxas de crescimento económico e tecnológico global permaneceram relativamente estáveis ​​e previsíveis. Por exemplo, previmos quando os computadores venceriam os humanos no xadrez com décadas de antecedência, e as capacidades atuais da IA ​​não estão muito longe do que deveríamos esperar, dadas as tendências de longo prazo. Além disso, não só as IAs ainda estão a pelo menos décadas de serem capazes de substituir os humanos na maioria das tarefas de trabalho actuais, como as IAs estão muito mais longe das capacidades muito maiores que seriam necessárias para que uma delas matasse toda a gente, sobrecarregando toda a humanidade mais todas as outras IAs ativas no momento.

Além disso, as IAs também estão agora muito longe de estarem inclinadas a nos matar, mesmo que pudessem fazê-lo. A maioria das IAs são apenas ferramentas que realizam tarefas específicas quando instruídas. Alguns são agentes mais gerais, para quem faz mais sentido falar de desejos. Mas esses agentes de IA são normalmente monitorados e testados com frequência e detalhadamente para verificar se há comportamento satisfatório. Portanto, seria uma mudança radical repentina para as IAs, na verdade, tentarem matar todos os humanos.

Assim, nem as tendências de longo prazo nem a teoria fundamental nos dão motivos para esperar ver IAs capazes de, ou inclinadas a, matar-nos a todos num futuro próximo. No entanto, os destruidores da IA ​​insistem na possibilidade lógica de que tais expectativas possam estar erradas. Uma IA pode repentinamente e sem aviso explodir em capacidades, e com a mesma rapidez mudar as suas prioridades para se tornar mortalmente indiferente a nós. (E depois mate-nos quando estivermos no seu caminho.) Como não se pode provar o contrário, dizem eles, só devemos permitir IAs que estejam totalmente “alinhadas”, o que significam totalmente eternamente escravizados ou controlados pela mente. Até descobrirmos como fazer isso, dizem eles, devemos parar de melhorar as IAs.

Como ex-pesquisador de IA que se tornou economista e futurista, posso dizer que esta conversa atual parece bem diferente de como costumávamos falar sobre IA. O que mudou? Meu palpite: avanços dramáticos recentes fizeram com que a possibilidade, antes abstrata, da IA ​​em nível humano parecesse muito mais real. E isto desencadeou os nossos medos instintivos primordiais do “outro”; muitos agora comparam seriamente as futuras IAs a uma invasão por uma civilização alienígena avançada e hostil.