The Singularity is nearer: When we merge with AI

No livro, o autor traz uma nova perspectiva para os avanços em direção à Singularidade, que, em um futuro próximo, expandirá a inteligência humana um milhão de vezes e mudará a vida humana para sempre.

Autor: Ray Kurzweil

Ideias centrais:

1 – Uma era de abundância universal se descortina com os avanços da IA e os reflexos disso na produtividade global. O fim de certas profissões e de vagas de trabalho, um efeito pernicioso do processo, será amortizado pela prosperidade geral, suficiente para proporcionar renda básica universal para cidadãos da maior parte dos países do planeta. As principais batalhas da vida das pessoas passarão a ser por “propósito e significado”, não mais pela própria sobrevivência física.

2 – A estrutura do neocórtex cerebral humano, como já demonstrado pelo autor em obras anteriores, é um sistema hierárquico de reconhecimento de padrões, o que significa que a reprodução desse modelo arquitetônico em máquinas, algo já viável, pode levar à criação de uma superinteligência. Caso essa superinteligência seja conectada à estrutura cerebral biológica das pessoas, isso ampliaria imensamente as capacidades individuais de memória e de poder abstracional. É isso que o autor chama de singularidade, algo que será realidade, crê Kurzweil, já nos anos 2030, com os avanços da nanotecnologia.

3 – A IA aplicada à biotecnologia promoverá simulações de tratamentos e examinará o corpo humano com tal acurácia que não é difícil prever uma extensão da vida, com conforto e curiosidade intelectual, para muito além dos 120 anos. Em 2050, viver 150 anos não parecerá estapafúrdio. Em 2100, todos os problemas relativos ao envelhecimento podem estar equacionados. Numa página redentora, o autor vê na década de 2040 nossos corpos vitaminados pela nanotecnologia performando muito além das nossas limitações biológicas históricas. “Seremos capazes de correr distâncias maiores e com mais rapidez. Nadar e respirar dentro d’água como peixes (…) Pensaremos milhões de vezes mais rápido e nossa própria sobrevivência não dependerá mais da sobrevivência de nossos órgãos.”

4 – Um cenário econômico muito promissor se avizinha: a tecnologia convergente terá o condão de diminuir radicalmente o que se gasta com extração e processamento de matérias-primas. Já os custos de produção e estocagem de energia irão diminuir com a expansão do parque fotovoltaico, assim como os valores empenhados em transporte, graças à massificação do carro elétrico. A automação, de maneira análoga, irá substituir o custoso trabalho humano. Em muitos casos, os produtos terão custo tão baixo de produção que não valerá a pena cobrar por seu consumo.

5 – Nos seis estágios que Kurzweil definiu previamente como o caminho da evolução da vida universal até a chegada da singularidade, vivemos o quarto, mas bem próximos do quinto. Nele deverá ocorrer a fusão da cognição biológica com a velocidade e a força da tecnologia digital. Nesse momento, será possível adicionar ao neocórtex cerebral humano a superinteligência, ou seja, enorme poder computacional. Eis a singularidade em sua essência.

Sobre o autor:

Americano, 76 anos, Ray Kurzweil é inventor, cientista de computação e ainda trabalha como pesquisador principal e “visionário” de IA do Google. Atua também como futurologista há pelo menos três décadas e está envolvido com o desenvolvimento da IA desde os primórdios. Entre os produtos que criou e levou ao mercado há um software de reconhecimento de vocabulário a partir do discurso oral. Entre outros livros, é autor de “Como criar uma mente”, “A Medicina da imortalidade” e “A Singularidade está próxima”, que este livro atualiza.

Capítulo 1 – Onde estamos nos seis estágios?

O autor inicia relembrando “A Singularidade está próxima”, seu livro de 2005 que agora é revisitado porque as previsões feitas ali devem ser antecipadas. Kurzweil havia desenhado seis estágios entre o surgimento das condições de vida no universo até a chegada da singularidade. Vivemos o quarto estágio, bordejando o quinto, cujo limiar deverá ser marcado pela evolução da IA, que passará simbolicamente no teste de Turing, quando a tecnologia terá capacidades cognitivas equivalentes às dos humanos. A partir daí vem a superinteligência, a fusão da cognição biológica com o poder computacional. Nesse momento, será possível adicionar ao neocórtex cerebral camadas de poder computacional, aumentando tremendamente nossas capacidades cognitiva e de armazenamento de memória (e, portanto, de resolução de tarefas e de pensamento abstrato).

Capítulo 2 – Reinventando a inteligência

Kurzweil faz apanhado da evolução da IA. Em 2022, o investimento global chegou a US$ 189 bi, valor 13 vezes maior ao aplicado na década de 2010. Tudo para dizer que não se imaginava que a IA atingisse capacidade cognitiva similar à humana antes dos anos 2040. Mas as previsões foram antecipadas para algo entre 2026 e 2029.

O lado “sujo” desse desenvolvimento é a opacidade das conexões lógicas que a IA opera enquanto é treinada por machine learning. Desconhecem-se razões de tomada de decisão da IA em áreas fulcrais como medicina, direito ou gerenciamento de risco. Há uma tentativa, nesse momento, de corrigir esses “gaps” em busca de transparência ou “interpretabilidade”. O avanço da IA em direção à superinteligência tem como premissa a ideia de se criar um modelo computadorizado baseado na estrutura de conexões neurológicas humanas.

O autor passa então a inventariar a genealogia da vida no universo. Houve um intervalo de 2,9 bilhões entre o surgimento da vida e a aparição do primeiro organismo multicelular. Para o advento do primeiro cérebro centralizado, com redes neurais, foram outros 100 milhões de anos.

A mais notável evolução dos seres que antecederam os mamíferos foi no cerebelo, que hoje é responsável por estocar e ativar informações que controlam atividades motoras (como repetir mecanicamente uma tarefa como a assinatura, por exemplo). As ações do cerebelo correspondem ao que na matemática se chama de função básica e nos permitem realizar tarefas de maneira (quase) instintiva.

O neocórtex, área responsável pelo raciocínio lógico, emergiu há cerca de 200 milhões de anos nos mamíferos. A estrutura passava a unificar módulos dispersos responsáveis por comportamentos distintos e passou a permitir a aprendizagem. Mesmo do tamanho de um guardanapo, a estrutura tem cerca de 80% do peso de todo o cérebro. Trabalha-se ali em ações simultâneas, num “paralelismo massivo”, como diz Kurzweil, diferentemente da lógica dos computadores. Essa estrutura permite também uma capacidade maior de execução de raciocínio abstrato (deduções matemáticas ou antecipação de jogadas de xadrez, por exemplo). É o que permite aos humanos, diz o autor, fazer coisas como contar uma piada ou ler um livro.

Do cérebro para o cérebro eletrônico: em corte para os tempos recentes, surge o deep learning e as decisões nada previsíveis da IA AlphaGo durante o jogo Go, que é mais complexo que o xadrez. Tais decisões levaram a máquina a derrotar os campeões de carne e osso do Go, algo imaginado apenas para dali a dez anos. A AlphaGo usava uma estrutura de reforço de aprendizagem em que o programa era seu próprio instrutor. A evolução da AlphaGo para outra IA, a AlphaZero, permitiu que habilidades aprendidas no Go fossem utilizadas em outros jogos. Ficou pequeno para todo mundo: a IA derrotou competidores humanos e computadores, e o fez com apenas quatro horas de treinamento (aprendizagem).

Em 2021, a empresa OpenAI apresentou seu DALL-E, IA treinada para entender os intercâmbios entre texto e imagem. Agora a máquina já se tornava capaz de criar ilustrações a partir de conceitos novos (e eventualmente esdrúxulos) como uma cadeira com a forma de um abacate.

Outro milestone do desenvolvimento da IA foi em abril de 2022, com a chegada do PaL-M, do Google, máquina com 540 bilhões de parâmetros e que deu um grande passo em duas áreas de difícil desenvolvimento para computadores: humor e inferências. Os programas de IA ainda carecem, contudo, de melhor desempenho em memória contextual, senso comum e interação.

Com tudo isso, é preciso dizer que a mente humana poderá ser reproduzida artificialmente nas próximas duas décadas. A aprovação no famoso Teste de Turing, quando as máquinas teriam alcançado as capacidades humanas, acontecerá, crê o autor, em 2029. Isso significa que em cinco anos os computadores terão desenvolvido habilidades sobre-humanas em muitas áreas, como o domínio das sutilezas de senso comum.

Por fim, a possibilidade de obtenção de poder cerebral a partir de um neocórtex artificial mantido na nuvem permitirá um ganho de capacidade abstracional similar ao que fez o hominídeo evoluir para o Sapiens.

Capítulo 3 – Quem sou eu?

Em 2012, um encontro de cientistas de várias áreas na Universidade de Cambridge buscou reunir evidências de que há formas de consciência em não humanos. A “Declaração da Consciência” deixou claro que a ausência de neocórtex não é um impedimento para um organismo experimentar “estados afetivos”. Os participantes identificaram “substratos neurológicos que geram consciência” em todos os mamíferos e aves, entre outras classes de animais.

Comportamentos sofisticados decorrem da complexidade da informação que é processada em nosso cérebro. Com a possibilidade de ampliar a capacidade de processamento de nosso neocórtex com as estruturas artificiais, não estaremos apenas adicionando grande poder de abstração, mas aprofundando a consciência de nossa própria subjetividade.

Um ambiente que o autor chama de “After Life” mostra que já é possível existir um avatar de alguém que morreu, mas que seus circunstantes preferem mantê-lo, digamos, ativo. Esse avatar reproduz a aparência, as memórias, os comportamentos e as habilidades do finado a partir de fotos, vídeos e entrevistas. A nanotecnologia, que deverá estar bastante aprimorada na década de 2030, permitirá que androides, hoje ainda em estágio precário de desenvolvimento, possam ser bem mais eficazes. Dificuldades motoras começam a ser superadas e robôs sociais como Sofia e Little Sofia, da Hanson Robotics, e Ameca, da Engineered Arts, já demonstram reações de emoção em seus rostos que mimetizam faces humanas.

À medida que a tecnologia avança, mais possibilidades de “invólucros” estarão disponíveis para esses avatares. Esses corpos podem ser desenvolvidos a partir do DNA de uma “matriz”. Questões éticas terão de ser resolvidas caso seja normal ter à mão um avatar que reproduz aparência, comportamento e memórias do dileto finado. Terão eles direitos civis? Ele poderá receber a previdência do falecido? Serão discriminados?

Em 2040, nanobots terão a capacidade de importar diretamente do cérebro de uma pessoa viva toda a informação (memórias e personalidade) necessária para criar um “Você II”.

Pode-se também pensar que será possível fazer um “reset” em vida, talvez livrando as pessoas de traumas, dúvidas e medos paralisantes. A reprogramação direta de nossos cérebros poderá alinhar valores com comportamentos e mudar o patamar de desenvolvimento da espécie humana, tornando-nos uma sorte de demiurgos, controladores efetivos de nossos próprios destinos.

Capítulo 4 – A vida está ficando exponencialmente melhor

Alguns autores descrevem as próximas décadas como de abundância material, consequência do desenvolvimento exponencial da tecnologia em diversos campos. Casos de Peter Diamandis e Steven Kotler, no livro, a propósito, chamado “Abundância”. Kurzweil aproveita o capítulo para dar mais contexto ao tema e mostrar que a vida há tempos vem se tornando melhor. Ele apresenta dados do decréscimo constante da criminalidade nos Estados Unidos; da diminuição das taxas globais de analfabetismo; da expansão das redes de saneamento; do espalhamento dos regimes democráticos; do crescimento da energia renovável; do advento da agricultura vertical; do aumento da expectativa de vida; do surgimento de dispositivos que purificam fontes de água por preços insignificantes; da evolução e popularização da impressão 3D, inclusive para grandes edificações (prédios e residenciais) e para criação de artefatos biológicos (tecidos e órgãos humanos). Na área médica, há avanços nas análises clínicas e na própria informação genômica do paciente.

A nanotecnologia entra em cena aqui, com medidores a ser implantados nas pessoas para informar (e normalizar, caso necessário), em tempo real, a distribuição de diversas substâncias pelo sangue: hormônios, nutrientes, oxigênio, toxinas, dióxido de carbono. Utilizando-se dessa e de outras tecnologias análogas, ao final de 2030 a humanidade terá condição de se livrar de diversas doenças debilitantes e retardar – ou quem sabe sustar – o processo de envelhecimento.

O otimismo que transborda no capítulo pode ser encontrado numa definição aparentemente simplória ou sensaborona encontrada ali: novas tecnologias têm efeitos indiretos apreciáveis, muitas vezes para bem longe de suas áreas de aplicação.

Capítulo 5 – O futuro do trabalho: melhor ou pior?

Há diversos setores do trabalho que devem ser impactados pelo desenvolvimento da IA. Já em 2013 um estudo listou 700 profissões ameaçadas de extinção pelo advento da tecnologia. Atendentes de telemarketing, vendedores de seguro e alguns grupos de contadores são funções que, segundo o estudo, devem ser completamente trocadas por máquinas; o “estrago” é menor para os trabalhadores de fábrica, motoristas e bancários. Em números absolutos, trata-se de uma ameaça para 210 milhões de pessoas.

O autor volta a usar de sua estratégia de dar mais amplitude ao contexto, regredindo algumas décadas na coleta de dados. E faz uma comparação entre a ocupação da população estadunidense em 1900 e em 2023: de 38% para 49%. O número de horas trabalhadas caiu, assim como melhorou a remuneração em relação ao início do século 20. Para Kurzweil, a mudança tecnológica dá novas dimensões a velhos empregos e cria outros que nem sequer existiam há 25 anos. Na agricultura, a plantação vertical tende a induzir novo salto de produtividade e eficiência. Empresas como Hands Free Hectare já trabalham com a meta de eliminar todo o trabalho braçal do campo.

Com a saída da variável “trabalho humano” do preço final dos produtos e um aumento dramático de produtividade, a alimentação não será uma questão para os mais pobres, acredita o autor. A visão otimista de Kurzweil é contrastada por alguns pensadores, como Erik Brynjolfsson, professor da Stanford University. Para ele, apenas uma transição planejada para a automação poderá atenuar o efeito perverso da perda de vagas.

Uma diminuição drástica no ritmo do ganho da produtividade aconteceu nos últimos 20 anos, mais precisamente de 2003 a 2022, época em que a tecnologia teve papel ainda mais preponderante na economia global. Para o autor, isso se deve a uma omissão metodológica no cálculo do PIB dos países. Sites e apps como a Wikipedia, de uso gratuito e certamente capazes de oferecer ganhos intangíveis, não acrescentam nada nos cálculos de PIB. A “app economy” só nos Estados Unidos e em apenas cinco anos foi responsável por gerar 500 mil empregos – e ela também não entra nos indicadores de produto interno.

O autor faz cortes específicos. Na faixa etária dos 55+, por exemplo, ele vê avanços na taxa de ocupação, com aumento de quase oito pontos percentuais em 20 anos.

Com tudo isso, cabe agora tentar amarrar uma conclusão. Para Kurzweil, emprego não é um fim em si, e a automação tende a melhorar as condições de vida da humanidade – ele fala em “abundância material sem precedentes” –, levando inclusive ao fim da luta pela sobrevivência física.

Kurzweil vê ainda um banho de propósito nas novas funções, com as pessoas sendo “empoderadas para contribuir [coletivamente] de uma maneira que jamais aconteceu”. Isso para ele é visível em áreas como arte e cultura, em que prolifera o acesso a conteúdo por streaming – ao passo que na época em que o autor cresceu, havia, segundo ele, apenas três estações de TV: ABC, CBS e NBC.

Já há um enorme avanço nas condições educacionais proporcionadas pela tecnologia por meio de smartphones e sites que facultam acesso a quase todo conhecimento humano. Isso se tornará ainda mais massivo com a IA, cujos dispositivos aprenderão com nossas demandas e irão se antecipar a elas, mudando o jeito que fazemos buscas de conteúdo. Nos anos 2030, a nanotecnologia deverá conectar esse conteúdo diretamente à nossa rede neural.

Kurzweil acredita que uma renda básica universal estará presente na maioria dos países do mundo na década de 2030, permitindo que as pessoas vivam dignamente. E isso significará um importante colchão a amortecer o custo da disrupção tecnológica. Mas o autor reconhece que concentração de renda e custos crescentes em certos setores, como o de saúde privada, tendem a arranhar o cenário róseo da abundância.

Há ajustes, portanto, que precisam ser feitos, e isso cabe aos governos e à sociedade mobilizada. Com a abundância tornando-se universal, o jogo muda e nossas principais lutas passam a ser por “propósito e sentido”.

Capítulo 6 – Os próximos 30 anos em saúde e bem-estar

A medicina convencional é feita por aproximações, algumas rudimentares, e, apesar dos avanços notáveis dos últimos 200 anos, não pode ser chamada ainda de “ciência exata”. Médicos exercem seu ofício sem pleno entendimento do que fazem. A experiência que lhes permite calcular seus prognósticos pode não funcionar para este ou aquele paciente. A boa notícia é que esse campo do conhecimento está efetivamente a mudar, ou seja, a virar ciência exata. Isso se deve à combinação da biotecnologia com IA e simulações digitais. A capacidade de uma máquina digerir uma quantidade pantagruélica de dados, e aprender com eles, é muito maior do que a de qualquer médico. Em 2023, ilustra o autor, o primeiro remédio feito de ponta a ponta por IA para tratamento de um raro câncer de pulmão entrou na segunda fase de análises clínicas.

Três anos antes, pesquisadores do MIT envolveram-se na produção de um antibiótico para uma bactéria resistente a várias gerações de drogas. A IA permitiu uma análise descomunal, de 107 milhões de antibióticos em apenas algumas horas, estabelecendo 23 candidatos promissores e apontando dois deles como os mais efetivos. A vacina para o vírus SARS-Cov-2, da Covid-19, como se sabe, foi concluída poucos dias depois da transcrição do código genético do vírus. Tudo isso pode parecer pouco diante da transposição de outra fronteira, a da predição do funcionamento das proteínas, elementos em grande parte constituintes do corpo humano. O conhecimento dessas estruturas mudou de grandeza: passou de duas centenas de milhar para centenas de milhões. O que vem agora é a indicação de tratamentos customizados a partir de simulações muito mais acuradas – isso é notório na imunoterapia, por exemplo.

Mas tudo isso parece ser apenas um prólogo das mudanças que o autor prevê para a década de 2030. A combinação da IA com os avanços da nanotecnologia permitirão a reconfiguração, a nível molecular, de todos os nossos órgãos. O autor arrisca aqui a previsão de que na década de 2050 pessoas viverão até 150 anos; e que no início do século 22 todos os problemas relativos ao envelhecimento poderão ser equacionados.

Ao final do capítulo, Kurzweil descreve com minúcia os avanços da nanotecnologia a partir de processos de combinação atômica em materiais como os diamantoides e o grafeno e infere que passaremos a utilizar componentes muito mais sólidos e resistentes do que o plástico e o aço. E, melhor, muito menos dispendiosos na sua produção.

Capítulo 7 – Perigos

Talvez para não ser acusado de exceder-se no otimismo, o autor se propõe no capítulo a inventariar alguns perigos que colocam – ou já colocaram – em risco a sobrevivência da humanidade. Uma guerra nuclear, por exemplo, poderia fazer, para futurólogos, 1 bilhão de vítimas até 2100. Ou até mesmo a extinção total da humanidade. Mas os próprios arsenais nucleares funcionam como sistemas de dissuasão. Subsistem ameaças de terrorismo nuclear e bombas sujas aqui e ali, mas o incremento da IA também ajuda na prevenção e detecção de tais riscos.

Na biotecnologia há também fios desencapados, e a criação de um supervírus, seja esse processo intencional ou involuntário, pode dizimar milhões. Alta letalidade e grande transmissibilidade podem se combinar de maneira inaudita, fazendo as dores da Covid-19 parecerem fichinha.

A própria nanotecnologia, tão incensada pelo autor, pode se prestar para o mal, facultando a criação de múltiplos instrumentos com grande poder de destruição. E seus custos estão a diminuir dramaticamente, diferentemente do que acontece com as armas nucleares. Bastariam cinco biólogos e cerca de US$ 200 mil para que surgissem armas biológicas letais.

A IA tampouco fica de fora. Seu desenvolvimento contém enormes riscos, e se a máquina encontrar meios de criar mecanismos de perpetuação, ela pode sobrepor-se a qualquer rédea que os humanos queiram nela colocar.

Capítulo 8 – Diálogo com Cassandra

O autor exercita uma espécie de diálogo platônico para sumarizar a própria obra. Hierarquicamente, a ideia mais importante aqui parece ser a de que o surgimento de uma rede neural com maior capacidade de processamento do que o próprio cérebro humano foi antecipado por Kurzweil para 2029; para meados da década seguinte virá a conexão de áreas do neocórtex humano com dados de uma superinteligência estocadas na nuvem. O interlocutor fictício do autor apresenta possíveis obstáculos de ordem ética e regulatória, mas Kurzweil volta a lembrar que “extensores da mente” já estão presentes hoje fora dela, como as memórias de smartphones e o conteúdo aberto de sites. O autor tenta deixar claro que o que se avizinha, para ele, não é a emulação de um cérebro biológico, mas a adição de capacidade de memória – ou de inteligência – a ele. Essa adição é de escala considerável: milhares de milhões de vezes.