Superinteligência.
| Somir | Somir Surtado | 8 comentários em Superinteligência.
Posso estar sendo repetitivo falando de inteligência artificial? Posso. Mas é um risco que eu aceito correr. Todo dia surge uma nova notícia sobre uma implementação nova do ChatGPT e de outras formas de inteligências artificiais. Ainda é um clickbait de sucesso dizer que a IA vai dominar o mundo, falar sobre os riscos, etc. Mas, eu quero começar uma nova discussão: inteligência é tão importante assim para a humanidade?
Quando eu era mais novo e mais ingênuo, acreditava que inteligência era sinônimo de estar certo. Quanto mais inteligência, mais corretas as informações. Nada como alguns tapas na cara da vida para te fazer perceber como as coisas são mais complexas: inteligência é mais sobre quanta coisa você consegue pensar ao mesmo tempo do que sobre qualquer resultado desse pensamento.
Inteligência pode te levar muito longe no caminho da verdade, mas nada impede que faça a mesma coisa no caminho oposto. Pessoas mais inteligentes conseguem fazer mais coisas com conceitos concretos e abstratos. Esse tipo de capacidade é o quão rápido você consegue se movimentar dentro da sua mente, rumo ao horizonte ou rumo a um abismo.
Não sei se vocês já perceberam como existem pessoas bem articuladas com ideias supercomplexas no mundo das conspirações. Não se pode negar que alguém capaz de escrever um livro coerente sobre abduções alienígenas apoiadas pelo governo é uma pessoa bem inteligente. Mas sua mente provavelmente está pregando uma peça: está coletando e processando milhares de informações para gerar uma narrativa que faz sentido (para ela), mas que pode ter erros primários de lógica se observada de fora.
O que eu quero dizer aqui é que a pessoa inteligente não só não tem obrigação de estar certa, mas que quando ela resolve pensar besteira, são as besteiras mais caprichadas que temos nesse mundo. Ninguém erra tão espetacularmente quanto alguém muito inteligente.
Karl Marx, por exemplo, era uma pessoa absurdamente inteligente. Vai ler os livros dele, vai… você vai sair balançado sobre a viabilidade do comunismo. Tudo faz sentido, tudo encaixa. Você entende o que está errado nesse mundo e entende também que ele está sugerindo uma opção relativamente lógica. Quanta gente pode dizer que moldou um século inteiro da história humana mundial com um punhado de ideias?
Na sua imensa inteligência, conseguiu fazer muito sentido das suas ideias mesmo tendo deixado uma falha mortal no processo: a suposição que o poder não corromperia num novo sistema de governo. O poder corrompeu os líderes soviéticos e todos os outros que tentaram aplicar o sistema proposto. Percebam que eu nem estou discutindo se comunismo é bom ou ruim, eu pessoalmente vejo várias outras falhas na ideia, mas tinha uma tão aberrante no conceito básico que deu no que deu.
O fracasso do comunismo não faz de Marx uma pessoa burra. Sua inteligência está intocada: planejou um sistema de organização social que realmente foi tentado por décadas e décadas em boa parte da superfície do planeta Terra. Não é fácil condensar tanta informação numa obra. A pessoa inteligente pode fazer algo impressionante com sua mente e ainda sim terminar numa conclusão falha.
E o que isso tem a ver com inteligência artificial, Somir?
A inteligência. Muito se fala sobre a parte artificial da coisa, como se fosse isso o elemento definidor dessa tecnologia. Sinceramente, tanto faz se a inteligência é orgânica ou artificial, importa o que ela gera de impacto no mundo. Há milhares de anos seres humanos originais de fábrica desenvolvem intelectos privilegiados. Tinha muita gente inteligente no nosso passado, tanto que seus genes passaram para frente.
E o tanto que a inteligência pura – a capacidade de processar informações em grandes volumes em alta velocidade – realmente influiu no nosso desenvolvimento como espécie não é lá tão impressionante assim. A matemática se beneficiou de mentes brilhantes, mas as relações interpessoais nem tanto. Muitas das figuras históricas reverenciadas até hoje tinham mais carisma do que propriamente capacidade intelectual avançada.
Porque na hora que o macaco pelado está tentando resolver conflito com outro macaco pelado, ele se nivela por baixo. É sempre o menor denominador que define o funcionamento de uma sociedade. Para dar um exemplo mais próximo da nossa realidade: vários estudiosos brilhantes desenvolveram a tecnologia para a maior parte da população ficar vendo vídeos de pessoas com 80 pontos de Q.I. rebolando e gritando na rede social.
A inteligência impacta na humanidade, mas é o gosto do cidadão médio que molda a sociedade que temos. Quando a inteligência artificial aumenta sua capacidade de processamento, essa tal de inteligência bruta que nós também podemos ter, ela não está mudando a média. Se o cidadão médio tiver mais capacidade de pensamento, talvez essa torrente de conteúdos estúpidos perca sua popularidade, mas se só um ou outro indivíduo subir muito acima do resto, ele continua acorrentado com o resto do povo.
E é aí que, pelo menos da forma como eu enxergo, vem o medo mais infundado sobre Inteligência Artificial: a superinteligência. Uma máquina mil vezes mais inteligente que um ser humano não é uma máquina mil vezes mais correta ou capaz que um ser humano. Tem que ter o que fazer com essa inteligência, tem que ter ambiente para ela poder agir na realidade.
Como eu gosto de exemplos malucos, vamos com mais um: imagine uma pessoa que consegue resolver um cubo mágico, aquele que você gira as partes para deixar tudo da mesma cor. É uma habilidade interessante para começar algumas conversas, para divertir e impressionar algumas pessoas. A habilidade de resolver um cubo mágico em menos e menos tempo ainda tem esse potencial, mas os ganhos sociais não são tão relevantes assim.
Resolver em 20 segundos e resolver em 5 provavelmente vão gerar a mesma reação nos outros. A “graça” é fazer aquilo num tempo curto o suficiente para manter a atenção ininterrupta de outro ser humano. Os ganhos em velocidade não escalam junto com os ganhos de interesse em outras pessoas.
Eu falo disso porque uma inteligência artificial pode ficar superinteligente e não gerar impacto suficiente no mundo. Temos uma certa capacidade de entender o que acontece ao nosso redor, e o resto do mundo meio que fica preso nessa velocidade. Se para você resolver um cubo mágico é interessante se acontecer rápido o suficiente para não te entediar, não vão ser menos segundos que vão tornar esse interesse maior.
E basicamente todas as funções que a IA aparenta estar assumindo em nossas vidas tem esse fator. Uma máquina superinteligente produzir um livro completo com uma história que você gosta em 1 minuto ou 1 segundo não vai mudar o tempo que você demora para ler esse livro. E mesmo que ela produza 100 livros e compare todos eles em tempo real em busca do que tem maior probabilidade de te agradar, ainda é um chute educado. Você só vai saber se é verdade se tiver tempo de ler os 100 livros e tirar suas próprias conclusões.
O tempo/inteligência da IA é relativo ao nosso. A não ser que a IA tenha uma consciência com agência no mundo real (isso é, pense sozinha e tenha como interagir com as coisas de verdade), ela vai ser apenas um pensamento muito mais rápido acontecendo fora da nossa cabeça. Nós somos o limite do potencial dela. Se uma mente milhões de vezes mais poderosa que a nossa tentar explicar um conceito que só mentes milhões de vezes mais poderosas que as nossas entendem… ela não tem como desenvolver a ideia. É um gênio preso num mundo de burros.
E como já estamos vendo com os inúmeros erros e mentiras confiantes da IA, que os técnicos chamam de alucinações, inteligência avançada partindo de premissas erradas vai cometer erros mais complexos numa velocidade maior. É um funcionário extremamente eficiente trabalhando para um chefe imbecil. A energia acaba indo para os lugares errados e as falhas continuam aparecendo.
Inteligência por inteligência não é um fator determinante na nossa história, aumentos graduais da capacidade média do ser humano sim. Pensem: as teorias de Einstein ainda não foram entendidas pela absoluta maioria da humanidade, um século depois. Demora para as coisas saírem da inteligência para a realidade, e não é tamanho da inteligência que importa, é como se usa.
A IA não é um perigo, o perigo, como sempre, são as pessoas usando IA. Você não vai perder seu emprego para a máquina, vai perder para alguém usando uma máquina. O potencial dessa revolução tecnológica está preso aos interesses e capacidades do ser humano médio. Eu aposto que ela vai ser espetacular para pornografia, distração e fofoca muito antes de ser espetacular para gerar novas ideias para a ciência. Alguém tem que ouvir e se interessar por essas ideias…
E na média, não somos nós. Ainda não.
Para dizer que eu sou um gênio em não concluir nada prático, para dizer que realmente falha de formas espetaculares, ou mesmo para dizer que está fazendo concurso para gari e rindo de todo mundo: somir@desfavor.com
Esse texto me fez relembrar outras questões que são análogas, e nem por isso deixam de ser importantes: afinal, inteligência (seja ela “super” ou “artificial”) pra quê Pra quem? O objetivo seria fazer as coisas mais rápido, isso? Seria automatizar serviços e deixar os humanos sem emprego, obsoletos em suas funções? Então seria uma nova forma de revolução industrial e tecnológica? Mas pera aí, isso já não aconteceu no século passado? Se o objetivo é só automatizar, fazer mais rápido etc, talvez não faça muito sentido ficar nessa busca desenfreada por autonomia e eficácia. A tecnologia deveria nos ajudar e nos fazer evoluir enquanto humanos, mas pelo visto, parece ocorrer um movimento oposto em que os humanos involuem quanto mais supostamente se produzem mais tecnologia e inteligência.
“A tecnologia deveria nos ajudar e nos fazer evoluir enquanto humanos, mas pelo visto, parece ocorrer um movimento oposto em que os humanos involuem quanto mais supostamente se produzem mais tecnologia e inteligência”. Sem dúvida, Ge. E eu concordo totalmente.
Eu não sei o quanto é involução e o quanto é mudança de paradigma. Por milênios ficamos com a ideia de que formar pares de homens e mulheres (eles gostando ou não) e fazer filhos era a base de toda nossa sociedade. A tecnologia começou a mexer nessa pedra fundamental, e tudo o que as pessoas aprendem como normal da nossa história faz um pouco menos de sentido a cada geração.
Talvez tenhamos um novo paradigma chegando: um onde as relações humanas possam ser “compensadas” com inteligências artificiais e as pessoas se acomodem num novo padrão de estabilidade emocional.
É complicado prever, até porque ainda temos uma desigualdade imensa de acesso às tecnologias e liberdades pessoais ao redor do mundo. Veremos.
Saber cozinhar, ser um bom ouvinte, ter senso de humor ou ser pontual é muito mais valioso do que ser inteligente, no dia a dia.
E claro, sem extremos: deixar de superestimar inteligência não significa cultuar burrice… Até porque existem (pelo menos ao meu ver) outras inteligências, como a emocional, por exemplo.
E ser gari é mais interessante do que parece, se pensar bem.
Concordo totalmente. Inteligência é fundamental para cientista, pesquisador e outros grupos, mas, para relacionamento, existem coisas mais importantes. E, como você bem disse, não ser inteligente não significa ser burro.
Eu já estou monitorando o que acontece com pessoas viciadas em conversar com IAs agora. Não é exatamente a inteligência que elas têm que fazem a diferença, é a atenção que elas simulam. Eventualmente vai sair um texto sobre isso para desanimar todos vocês sobre o futuro!
Desanimar… Mais? Já tem gente viciada em conversar com IA? Saltamos tão rápido assim da Hatsune Miku para a Replika? Cacilda.
“Eventualmente”? Mesmo que seja pra desanimar, eu gostaria de ler algo a esse respeito.