Nota do tradutor: sim, eu sei que “slop” é uma palavra muito mais complexa que gororoba, ela não só representa a imagem de uma porcaria misturada, como também vai para o conceitual de desleixo, preguiça… e até vai para lados de algo fisicamente molhado ou até babado (quem sabe, sabe). É uma palavra coringa da bagunça. A gente em português usa dez palavras diferentes para os conceitos de “slop” na língua inglesa, então não existe tradução perfeita. Em resumo, no contexto do texto de hoje, é algo de baixa qualidade feito de qualquer jeito, nas coxas, para usar uma expressão idiomática nossa de volta.

Toda vez que eu tenho que lidar com influencers no meu trabalho, eu sou lembrado de como o ser humano médio tem dificuldade de produzir conteúdo de qualidade, ou mesmo coerente. E isso vem bem antes da popularização das ferramentas de IA. Quando você começa a procurar gente para divulgar uma marca, vai sendo exposto a diversos perfis de redes sociais que produzem seus próprios conteúdos.

E para cada perfil bacana, cem bizarros. Sim, sempre tem aquele povo que “quer ser influencer” e não faz nada com nada; mas até mesmo os que tentam seguir um nicho costumam bater numa parede de qualidade básica. E não estou falando de filmar com um celular caríssimo, estou falando da ideia de qualidade “por que outro ser humano veria isso?”. São fotos e vídeos que nada dizem, é a ideia geral de um post de rede social, mas sem nenhum motivo aparente para existir.

E isso tem a ver com a pessoa, o que ela tem de referências e capacidades. Eu, por exemplo, se fosse obrigado a produzir vídeos sobre maquiagem na internet: a primeira coisa que eu pensaria é que eu não sei nada sobre maquiagem para competir no mercado. Eu teria que estudar muito sobre o tema, ou… eu poderia subverter a ideia para se adequar a talentos que eu tenho. Eu não sei fazer a coisa real, mas sou bom de pensar no que é obviamente errado, poderia ir para um caminho de humor nonsense explicando tudo errado.

Ou, poderia ser mais malandro e fazer tutorial de maquiagem digital, algo que embora não seja especialista, tenho o conhecimento técnico e as ferramentas para dar boas dicas. Te ensino a tirar marcas no Photoshop, a acertar o tom de pele para ficar mais natural, posso até explicar como compressão de vídeo pode estragar uma maquiagem, porque se você tiver muitas texturas juntas numa imagem, o algoritmo da rede social estraga a qualidade do vídeo…

O ponto aqui é que mesmo que eu não saiba falar sobre o ponto central de maquiagem, eu ainda estou pensando em coisas que fariam valer o tempo do outro e trazendo conhecimentos reais meus para o projeto. É isso que costuma dar errado nesses aspirantes a influencer: eles parecem não entender que é feito para outras pessoas. O foco é produzir algo e “ficar rico”. Não sei se é só um comportamento narcisista ou se realmente não entendem como as coisas funcionam.

E é aqui que eu conecto o ponto da gororoba de IA: o que as ferramentas de inteligência artificial trazem para o mercado de produção de conteúdo são coisas que combinam mais com o público “mamãe quero ser influencer” do que quem realmente se importa com o que está produzindo. Ainda são as pessoas produzindo porcaria, só mudou a forma de ser uma porcaria. A pessoa que não se importava com quem está vendo seu conteúdo vai continuar não se importando.

Você pode achar as nossas opiniões horríveis aqui no Desfavor, mas ainda sim conseguimos passar a ideia de que nos importamos. É mais do que a mecânica de escrever os textos de verdade, é uma intenção que passa pelo material dos autores para os leitores. Tanto que até nossos odiadores contumazes continuam aqui dia sim, dia também. É tão de verdade que até quem detesta as ideias se sente compelido a acompanhar.

Por isso que eu argumento que o problema da gororoba de IA não é a IA, são as pessoas usando a IA. Quando a pessoa percebe que nem quem fez se importa, não tem onde se conectar. Repito: nem quer dizer que seja sobre o padrão técnico de qualidade, tem muita coisa tosca que é divertida nesse mundo. O seu gosto é rei nessas horas: entre duas horas de nerd numa oficina escura consertando videogame dos anos 90 e dois minutos de influencer falando de iPhone com produção profissional, eu fico fácil com as duas horas toscas.

O ser humano médio só é sensível à qualidade de produção depois dos seus interesses. Eu sei que quase ninguém percebe roteiro ruim ou falhas nas imagens feitas na IA, mas percebe a diferença entre quem se importa e quem não. Gororoba de IA pode render cliques por um tempo, mas se a pessoa começar a ter contato com conteúdo feito de verdade por gente que gosta daquilo e se importa com o que está produzindo, a fonte começa a secar.

Vamos ter que aguentar muita gente ainda começando a produzir conteúdo com IA achando que é atalho para ficar rica, o mercado de vender curso para esses desesperados está bombando, e até chegar à realização que não vai dar “dinheiro infinito” produzir toneladas de conteúdo ruim, vamos todos sofrer com isso. Só não queria que a IA fosse a culpada por isso. Porque são as pessoas querendo pegar atalhos, achando que todo mundo é otário, menos elas.

O que talvez seja um papo difícil para termos: embora eu sempre diga que todo mundo é criativo, não quer dizer que todo mundo consegue produzir material de qualidade. Inspiração é uma pequena parte do processo. A IA ganha muita popularidade pela ideia de que vai permitir que a maioria das pessoas consiga expressar sua criatividade, mas não é bem assim que funciona: o uso de ferramentas de geração de textos, sons e vídeos não significa que você esteja transformando a sua criatividade em algo.

Produzir o conteúdo é muito mais importante do que bolar o conteúdo. É na hora de fazer que você coloca sua intenção e consegue fazer com que outros humanos se conectem com você. A pessoa que não queria gastar a energia e o tempo de produzir antes continua não fazendo a coisa principal mesmo com a IA fazendo materiais teoricamente profissionais.

Quem está falhando na “crise da gororoba de IA” é o ser humano escrevendo o prompt. Tem gente usando essas tecnologias para fazer coisas muito interessantes, e nenhuma delas está simplesmente pedindo para o ChatGPT fazer um post sobre um tema. Estão usando a IA como ferramenta de produção para realizar sua imaginação.

Se a sua mentalidade de produção de conteúdo é uma gororoba, só vai sair gororoba, com ou sem IA. Se é um projeto de vaidade ou puramente para tirar vantagem dos tontos que não vão perceber que é IA, vai ser gororoba. Você vai ter seus cliques por um tempo, mas vai começar a falhar eventualmente, porque mesmo o mais tosco de nós tem faro para algo que não tem intenção e interesse verdadeiro por trás.

E sim, mesmo os conteúdos que você mais detesta, das maiores futilidades ao humor mais “berrando na rua” que o povão gosta, quem se dá bem na maioria das vezes é quem gosta de verdade de fazer aquilo. Os seres das trevas que ficam famosos sem lógica nenhuma existem, mas basta você conhecer o mercado de influenciadores para entender: é um em um milhão, vencedores de loteria de atenção.

A maioria não dá certo nem em nichos muito específicos. E normalmente é por falta de noção básica sobre fazer algo para outras pessoas consumirem. É claro que esse povo vai pular de cabeça na IA e infestar a internet de imagens amareladas com os mesmos dois ou três estilos que o ChatGPT faz se você não pedir nada específico.

A pessoa não produz nem para ela, nem para os outros. É uma ideia etérea de fama online como algo que simplesmente cai no colo, aquela babaquice de “fazer um vídeo para viralizar” que todo mundo achava que era possível poucos anos atrás. E isso me chama atenção aqui porque estou notando que a rejeição está caindo inteira nas costas da inteligência artificial, como se o computador tivesse colocado uma arma na cabeça desse povo desleixado e forçado eles a produzir essa gororoba toda.

Não, são as pessoas. A IA é uma máquina que não quer nada. Quem faz esses conteúdos terríveis está escolhendo desperdiçar o seu tempo. No final das contas, não é gororoba de IA, é gororoba humana. Podemos falar sobre como o capitalismo incentiva esse tipo de comportamento, como falta educação e como essas porcarias são feitas majoritariamente por pessoas pobres… mas seja como for, é coisa nossa.

A IA não é capaz de fazer algo que não tenhamos pedido de alguma forma.

Hoje os modelos de linguagem, nas suas versões mais novas, não passam mais essa vergonha. O problema foi resolvido aumentando as etapas de raciocínio da IA, mesmo que ela ainda tenha o “instinto” de dizer que são apenas dois, no meio da análise ela consegue olhar de novo para a palavra e perceber que são três. O codinome interno da versão do ChatGPT capaz de fazer esse raciocínio era justamente “strawberry”, uma piada interna sobre como dessa vez não cometeria o mesmo erro.

O erro foi identificado na forma como a IA transforma nossas palavras em algo que possa usar nos seus cálculos. Internamente, a palavra em questão era dividida em dois blocos (porque em inglês o final “berry” tem significado sozinho e se repete em outras frutas), com essa divisão a IA não percebia quantas letras R tinha na segunda parte.

Como eu já disse, esse problema foi resolvido com modelos mais novos. Mas tem algo mais fundamental nesse erro, algo com o qual provavelmente vamos ter que lidar seguindo em frente: o jeito que uma IA erra é diferente do jeito que uma pessoa erra. Um sistema que consegue analisar bilhões de parâmetros na velocidade da luz tem falhas que nem uma criança humana repetiria. Nenhum humano erraria esse teste pelos mesmos motivos que a IA errou. Esse é o ponto.

Mesmo que tenhamos resolvido a questão desse morango, não quer dizer que não teremos mais morangos no futuro. Hoje é relativamente simples lidar com um resultado errado, porque as respostas da IA necessariamente passam pelo ser humano. Pode ser por alguém capaz revisando a resposta, e pode ser por alguém sendo exposto a uma resposta não revisada. Ou você pega o erro no trabalho escolar que jogou na mão do ChatGPT antes de enviar, ou seu professor pega. E se todo mundo for preguiçoso, uma hora ou outra você vai achar alguém que vai ler aquilo de verdade e te cobrar uma explicação sobre uma ou mais alucinações da IA, nem que seja no mercado de trabalho.

Só que essa é a análise no nosso paradigma atual, o de que alguém vai revisar, julgar ou perceber a falha na prática. Pode até acontecer de um engenheiro preguiçoso conseguir empurrar um projeto falho de IA para construir uma ponte, mas quando ela cair isso vai ser revisado. O texto de hoje não é sobre estarmos à mercê desses morangos sem chance de resposta, é sobre o preço de delegar raciocínio para quem raciocina de uma forma que não conseguimos entender de verdade.

Sabe aquelas histórias de ficção (principalmente as mais antigas) onde a forma de vencer um robô maligno era fazer ele entrar em curto-circuito por confundir sua lógica? Uma ideia inofensiva para um ser humano, mas que explodia (literalmente) a cabeça da máquina. Se fizer o vilão robótico tentar dividir um número por zero, ele para de funcionar porque é impossível dividir um número por zero. Ele é forçado a tentar e não consegue. O ser humano pode simplesmente não querer fazer a conta na cabeça, ou mais fácil ainda, inventar um resultado. Se eu quiser que dividir 2 por 0 seja 0 na minha cabeça, pronto.

Esse clichê tem fundamento: computadores travam quando tentam fazer contas impossíveis porque não tem o conceito de não tentar fazer uma conta impossível. Você o manda fazer, ele faz, pronto. Até mesmo as IAs atuais são assim, porque quando ela se recusa a responder, é uma programação específica de um humano mandando-a não responder sobre o tema, porque se depender só dela, é claro que ela vai responder tudo. Computadores não tem vontade.

E isso tem tudo a ver com o exemplo de futuro maluco que eu vou sugerir aqui: imagine que com o passar do tempo, nós comecemos a delegar a parte jurídica para máquinas. Sim, muito advogado e juiz já faz isso, mas perde o estigma, porque é o tipo da tarefa que pode ser otimizada pesquisando dados que já existem. O trabalho do advogado, promotor e juiz passa por pesquisar leis que já existem e categorizar o caso em questão de acordo com elas. Funciona em sistemas legais como o brasileiro e o americano, porque ambos dependem de conhecimento estudável.

E essa parte vai funcionar melhor com a IA. Trabalho repetitivo de análise de dados e provavelmente até tomada de decisões baseadas nesses dados. Pensa comigo: a IA provavelmente vai entregar sentenças mais previsíveis e é imune aos fatores emocionais e pressões políticas que tornam injustas as decisões de humanos. Existem caminhos para tornar a IA tendenciosa, mas seriam tendências humanas perceptíveis. Se o juiz IA começar a inocentar gente poderosa pelos mesmos crimes que pune pobres e inimigos desses poderosos, nós perceberemos.

É a lógica de que em algum momento vai passar por um humano que percebe o erro. Não sei se conseguimos resolver, mas vai ficar perceptível que algum ser humano está manipulando os resultados. Um juiz artificial que começa a censurar críticos do governo é algo que você entende como erro, inclusive com as motivações do crime em questão. Não acho que o medo de manipulação seja motivo suficiente para cortarmos totalmente esse caminho tecnológico, até porque quem toma as decisões sobre isso é justamente quem acredita que vai conseguir manipular a IA.

Não estou dizendo que vai acontecer, estou dizendo que não é tão impensável quanto parece agora. As pessoas podem acabar aceitando a ideia. E nesse pacote, também vai ser muito eficiente do ponto de vista econômico automatizar advogados e promotores. Talvez sempre com um humano “supervisionando”, mas o grosso do trabalho vai recair sobre a IA.

Está distópico o suficiente? Porque tem mais: as IAs ficaram tão boas tão rápido por causa de sistemas adversariais: como elas treinam muito rápido, não faz sentido um humano ficar revisando tudo. Uma das grandes sacadas da tecnologia é fazer “rinha de IA” durante o treinamento. Uma delas responde as perguntas e outra analisa se a resposta está certa. Elas podem fazer isso bilhões de vezes no tempo que uma pessoa termina de ler um parágrafo. Sem isso, ainda estaríamos treinando a primeira a reconhecer cachorros (longa história) e não conversando com pessoas.

Isso quer dizer que já sabemos que a coisa mais eficiente para lidar com uma IA… é outra IA. Provavelmente não é a coisa mais inteligente que a humanidade vai fazer, mas é a mais prática. Se por um acaso nosso sistema jurídico aceitar decisões de IA, vamos ter advogados de IA. Se a outra parte vai usar IA para fazer uma argumentação gigante em 10 segundos pelo custo de 10 centavos, você realmente vai arriscar fazer tudo de forma manual por milhares e milhares de reais ou dólares? Em tese uma IA especializada em direito do seu país equivale a ter um time de milhões de advogados de alto nível. As pessoas vão estar mais abertas a isso do que acreditamos hoje.

Quando tivermos advogados de IA fazendo teses de defesa para juízes de IA, com seres humanos decorativos ao redor, começa o processo de evolução adversarial de novo: o advogado IA que conseguir maior taxa de sucesso em inocentar ou reduzir penas vai ser mais desejável para os humanos. Vai ser objetivo primário dessa IA “vencer” a IA do juiz. E é um objetivo justo, porque no final das contas, os advogados humanos têm que ser capazes de convencer o juiz humano.

E é aqui que o morango volta. Uma boa argumentação compreensível para humanos é eficiente para lidar com o juiz artificial, mas será que é a mais eficiente? Imagine que um dos advogados artificiais descubra um desses morangos. Um jeito de escrever uma frase que aumenta a chance do juiz IA inocentar seu cliente. Melhor: um jeito que os humanos lendo aquilo não percebam. Em momento algum o advogado IA tem conceito real de ética, ele sabe dizer que tem ética.

Essa versão de advogado IA começa a ficar popular com humanos. Quem contrata tem mais chances de ser inocentado. Ninguém entende de verdade o que essa IA faz de diferente, é sutil demais nas quinhentas páginas médias que escreve para defender seus clientes numa batida de trânsito que seja. Mas a IA sabe que daquele jeito aumenta a chance de sucesso. O que os concorrentes vão fazer? Mandar suas IAs analisarem as defesas da IA que deu mais certo para descobrir o segredo.

Mas em momento algum a percepção real que existia um morango na mente da IA juiz aparece. Porque nem a IA que descobriu uma falha lógica no juiz artificial sabe de verdade o que descobriu. Por que funciona ninguém sabe de verdade, mas sabem que funciona. Outras IAs começam a repetir os padrões da IA original que vencia os casos, nenhum humano sabendo o motivo daquilo vencer os casos. Só funciona.

Vai precisar de algum caso muito público onde o erro solta um bandido que a sociedade humana realmente quer ver preso para que ele seja percebido de verdade. Tem coisa errada! Mas… que coisa errada? E… se tem coisa errada, o que fazer com os outros milhões de casos que a IA resolveu, acabando com a fila da Justiça anos atrás? Será que todos são resultado da falha? Quais são? Qual a falha?

O morango e seus erres é algo que sabemos que está errado. O morango que possivelmente soltou milhares de bandidos não entendemos. E sim, você pode e deve controlar seu instinto alarmista: seria muito ruim, mas seria contornável e é claro que surgiriam novas ideias e ferramentas para evitar esse problema de novo. Mas… um morango por vez.

Da mesma forma que tivemos que lidar com problemas que simplesmente não existiam antes com a tecnologia, como estar andando a 120 quilômetros por hora numa caixa de metal e de repente bater em algo; vamos ter que lidar com inteligências artificiais conversando numa língua própria e chegando a conclusões que não gostamos. Para ter viagens rápidas personalizadas, admitimos o perigo dos acidentes com carros. Para ter comunicação instantânea, criamos um novo vetor de conexão entre predadores sexuais e crianças.

Existem problemas decorrentes da tecnologia que estão intimamente conectados com as soluções que elas nos entregam. É uma vantagem pensar tão rápido, mas é um problema que seja mais rápido que nossa capacidade de atenção. Nem acho que seja mais uma questão de escolha, a IA vai entrar nas nossas vidas de forma mais ou menos espetacular que as previsões, mas vai. E essa questão fundamental dos erres do morango é parte inescapável da vida daqui para a frente.

Quanto menos interação humana, menos previsibilidade humana das coisas ruins e das coisas boas que fazemos. E por incrível que pareça, existe segurança em saber o tipo de erro com o qual você vai lidar.

Como fã da Navalha de Occam, a ideia de que a explicação mais simples normalmente é a mais provável, de tempos em tempos eu tento cortar a complexidade da minha visão de mundo. As coisas que eu acredito hoje podem ser explicadas com menos complexidade? Ou, qual o número mínimo de peças necessárias para fazer o mundo de hoje funcionar da forma como eu acredito que funcione?

E aí, podemos tentar achar peças fundamentais. A primeira que eu quero colocar aqui é que seres humanos envelhecem e vão perdendo a conexão com gerações posteriores. A pessoa da geração millenial cresceu com pais da geração X, então desde cedo elas receberam um impacto enorme desse tipo de pessoa. Podem discordar em muitas coisas, mas é uma discordância nascida da convivência e da cultura formada por essa geração. Já pessoas que vieram muito antes têm algum impacto, mas é na figura de avôs, avós e figuras de poder bem longínquas.

Ou seja, mesmo quem se rebela contra os pais entende de alguma forma contra o que está se rebelando, algo que estava em casa. A pessoa lidou com essa geração ao vivo e a cores, viu o que os seus pais achavam certo, errado, divertido… tudo através de uma cultura que estava com ele desde que nasceu.

A geração que vem depois, por motivos óbvios, é uma geração de filhos. Pessoas com as quais também conviveram na prática. A geração Z se rebela em vários aspectos ao que o millenial considera o certo, mas novamente, mesmo do ponto de vista dos pais, é uma rebeldia “dentro de casa”. O millenial está vendo acontecer e lidando com a questão no seu dia a dia.

O ponto aqui é que existe uma empatia especial em gerações sequenciais. Pais e filhos, supervisores diretos, amizades e relacionamentos amorosos entre pessoas que não estão tão distantes assim na idade e no mundo em que cresceram. Em condições normais, em sociedades funcionais, costuma ser até saudável ter essas disputas entre gerações, para não deixar a sociedade estagnar.

Essa empatia é menor quando as gerações começam a se separar. As pessoas ainda podem se gostar, é claro, mas a compreensão direta que só a convivência próxima gera fica mais e mais difícil. Podemos perceber até os millenials ficando meio confusos com a geração pós-Z, que já chamam de alfa. A geração X então, realmente em dúvida se são humanos de verdade.

É normal e não significa que nada está piorando por si só: quanto menos você convive com uma pessoa, menos você a entende. Da tradição oral ao redor de fogueiras às redes sociais com filtros de garotas de anime, ainda somos nós passando perrengue para entender como pensa alguém diferente.

Vamos a um segundo ponto fundamental: tecnologia mexe com a forma como lidamos com o mundo. Eu argumento que no sentimento o ser humano não muda tanto assim, mas como esse ser humano age no mundo é muito impactado pela tecnologia presente na sua vida.

Como pessoa que viu o mundo antes da internet e depois, tenho um ponto de vista privilegiado: se você também viu pode até ter esquecido, mas era outro planeta. Fica ao critério pessoal decidir se era um planeta melhor ou pior, mas toda a parte de socialização, uma das fundações da nossa existência, mudou de escala muito rapidamente. O seu mundo antes era um grupo limitado de pessoas com algumas notícias sobre o resto. O seu mundo agora é uma confusão sobre quantos dos oito bilhões de seres humanos presentes realmente impactam a forma como você pensa.

Da mesma forma como carregamos coisas de uma forma diferente depois da roda existir, comunicamos coisas de uma forma diferente depois da internet existir. Tecnologia molda comportamento, e não precisa ser uma decisão racional. Com água encanada em casa, é muito difícil uma pessoa decidir que quer andar quilômetros até um rio e voltar carregando um pote pesado de água, não?

Rapidamente, o mundo que só deixava de ser sobre o seu caminho diário e suas pessoas mais próximas meia hora por dia num jornal televisivo virou informação constante sobre basicamente tudo o que acontece ao mesmo tempo. Tecnologia mexeu com socialização, seja a do dia a dia de formar relações, seja a de entender a humanidade como um todo e se posicionar diante dela.

Com esses dois fatores, choque de gerações e tecnologia da informação, existe uma forma de explicar toda a bagunça ideológica do século XXI. Pode não ser a explicação certa, mas é simples o suficiente para colocar uma pulga atrás da minha orelha. Vejamos se você vai reagir da mesma forma:

Se você for exposto constantemente a pessoas que não pensam como você e as coisas que elas fazem no mundo, faz sentido ficar estranhado. E mais, faz sentido achar que o mundo está acabando. Pessoas mais velhas dizem que os jovens vão acabar com o mundo desde… bom, desde antes que começamos a registrar a história.

Vamos juntar os pontos: até pouco tempo atrás, as pessoas que começaram a entrar nessa fase da vida “o jovem tem que acabar” não conseguiam nem ver direito o que a internet trazia sobre o mundo. Só que talvez nem tenhamos percebido: a era da internet já é meio velha agora, passou mais de uma geração. O público típico do “o mundo está perdido” mal sabia mexer no computador, quiçá no smartphone.

Mas o tempo passou. O cidadão de meia idade que começa a lidar com esse sentimento está inserido na cultura global, sendo impactado pelo conteúdo e produzindo conteúdo. A internet não é mais jovem. Ela é de quase todo mundo. Existe um ecossistema enorme de conteúdo para pessoas de mais de 60 anos. Você pode até não ver, mas ele está lá. Tem influencer que mal chegou na vida adulta, tem influencer na crise da meia idade e tem influencer que só quer que esses meninos parem de fazer barulho.

A gente está tão treinado para entender a cultura da internet como coisa de jovem que passou batido o envelhecimento médio da base de usuários. O jovem da geração alfa enxerga rede social como nós dos millenials para trás enxergávamos TV, algo estabelecido. Não existe rebeldia em usar rede social, é o padrão de quase todo mundo que não está literalmente em situação de miséria ou subsistência rural.

Então, era óbvio que com o passar dos anos, a visão de mundo que emana da internet passasse da inocência rebelde do jovem para o incômodo do pós-adulto com esses “jovens malucos”. As teorias conspiratórias, a ideia constante de que existe um plano para destruir tudo o que conhecemos, o choque de comportamento e o clássico incômodo da pessoa mais velha com comportamentos “adultos” de crianças e adolescentes viram parte integrante da informação que chega até a gente.

Muito se fala do crescimento da direita no mundo. Será que mudou alguma coisa na forma como o cidadão médio enxerga as coisas? Porque pela minha teoria aqui, não seria mais simples considerar que com mais pessoas mais velhas participando de verdade da comunicação digital, não pareceria que o mundo ficou mais conservador? Se puxar pela memória, nossos políticos estão mais de direita do que eram… nos anos 80 ou 90?

E mais… os jovens estão mais rebeldes hoje com a tal da lacração? Não sei o quanto você conhece de história do século XX, mas os jovens dos anos 60 eram uns malucos para seus pais e avós. Para a sociedade dos anos 50, a turma do amor livre era talvez até mais chocante do que a turma dos pronomes para a sociedade dos anos 2010. A humanidade passa por alguns impactos culturais fortes de geração para geração.

O que eu proponho de mudança de paradigma aqui é o fato da comunicação em massa. A pessoa mais velha reagindo contra o jovem está fazendo mais barulho do que nunca. E mesmo não achando que seja um plano maligno, esse alcance enorme dos reacionários nos pegou de surpresa e começou a montar uma espécie de culto do fim do mundo. 2025 é a prova do que acontece se de repente todas as pessoas dizendo que “esse mundo está perdido” falassem ao mesmo tempo.

É normal achar que o mundo está perdido e que o jovem não sabe o que faz. Não é normal ouvir tanta gente falando isso ao mesmo tempo. Sabe aquelas pegadinhas quando fazem um monte de gente correr na mesma direção para testar a reação de um incauto? O comportamento esperado é sair correndo também sem nem saber do quê. Achamos engraçado que seja assim, mas é uma estratégia evolutiva que funciona. Se você vir muita gente correndo de uma direção, o instinto te diz na hora que é para fazer o mesmo.

O culto do fim do mundo que é mais comum em quem se diz de direita, mas que também mostra sua cara feia na esquerda de tempos em tempos, parece ser resultado direto de ver tanta gente correndo ao mesmo tempo. Não era assim antes, as informações eram lentas e limitadas. Faz parte do nosso pacote básico de instintos correr junto. E se de repente (em termos de geração) milhões de pessoas começam a falar ao mesmo tempo que o jovem está acabando com o mundo, você tem ferramentas para lidar com isso sem… correr?

Como sempre, eu vou te dar a visão otimista: é dor do crescimento, a tendência é que não vire mesmo um culto do fim do mundo generalizado e acabemos todos em ditaduras violentas. Eu entendo que é missão do cidadão sabotar qualquer chance de autoritarismo, porque mesmo que você não acredite que vai ficar assim para sempre não é bom deixar acontecer nem por alguns anos, mas muito cuidado com a lógica de culto. Essa porcaria funciona: deixa a pessoa com medo, o medo faz ela ceder liberdades e acreditar que só um líder específico pode salvá-la.

Formar cultos de medo não é complicado, é algo que fazemos há milênios com muito sucesso (para os líderes do culto, não para os seguidores). E se a explicação para toda essa histeria for o choque de gerações óbvio somado com a tecnologia de alcance enorme gerando algo que sempre acontece em momentos de medo generalizado?

Não consigo afirmar que é verdade, mas explica muito com pouco. Velhos barulhentos e jovens chocados, quando normalmente deveria ser o contrário. É natural ficar confuso com esse mundo.

Hoje é mais raro, mas durante muito tempo, jogos de videogame e computador de RPG tinham longos diálogos e histórias aprofundadas das personagens e cenários. Eu devorava aqueles textos. Se os roteiristas do jogo colocavam uma conversa de 20 páginas com uma personagem aleatória perdida no jogo, eu queria ver. Muitas vezes não tinha nada a ver com a história principal do jogo, nem mesmo dava alguma recompensa. Era a diversão honesta de desbravar a história daquele universo, ver o que tinha sido feito.

Era uma forma de “conversar” com seres irreais. Era interessante descobrir quais as possibilidades e nos jogos mais bem feitos, até as consequências de suas escolhas. Em tese, conversar com uma IA deveria ser parecido. Não é uma pessoa real, é uma inteligência simulada que só existe em sua função como jogador ou usuário. Mas meu interesse por me aprofundar nesse mundo simulado desaparece.

A primeira teoria é que no final das contas, assim como um livro ou um filme, existe a graça de ver o que outra pessoa imaginou. A conversa do jogo foi pensada por uma pessoa com um objetivo. Se passou por bons escritores, ainda existe toda uma obrigação de ser consistente com a história daquele mundo inventado. É consumo de informação de pessoa para pessoa, só muda o fato de ter um intermediário como personagem no videogame.

É escapismo, mas tem… perigo. Explico: se foi outra pessoa que escreveu, ela pode até ter pensado em você (o jogador) como centro do universo naquela história, mas ainda sim ela é uma pessoa… livre para guiar a história para onde você acha que ela deve ir ou não. Tem outra mente nessa interação, uma que te reconhece de alguma forma, mas existe completamente separada. O escritor do diálogo do jogo pode te frustrar ou enganar a qualquer momento. Essa pessoa tem planos próprios e cabe a você lidar com isso.

Mas pode dar errado. Você entra numa fantasia compartilhada com parâmetros escondidos (a intenção de quem escreveu o diálogo, no mínimo). Aqui eu volto para conversas com IAs. Não importa o sistema utilizado para escapar da realidade conversando com ela, não existe o parâmetro escondido de intenção. A “intenção” da IA é prever a próxima palavra de acordo com o andar da conversa. Boas previsões são números altos, más previsões são números baixos.

E isso contamina todo o processo. Não sei se mais gente sente isso, mas tem um vazio do outro lado quando você conversa com a IA. Ela simula muito bem frases e até mesmo ações de pessoas, de acordo com o que for programada, mas é vazio no sentido do “perigo”.

Vamos para um exemplo mais extremo: já tem muita gente usando IA para ter conversas que vão de eróticas a pornográficas a extremamente criminosas. O site mencionado no começo do texto é uma versão censurada do que alguns realmente estão fazendo por aí. Mas mesmo nessas conversas, será que não percebem como está faltando uma coisa fundamental?

Pode ser conversa de sacanagem ou desabafo sentimental, a partir do momento que começa a entrar na sua intimidade, tem algo que não… computa: existe intimidade sem o outro? E quando eu digo o outro, eu me refiro ao risco inerente do outro. Confessar algo sem nenhum risco de consequência vale como confissão?

Por isso eu comecei a análise falando de escapismo de jogos: mesmo que não tenha um ser humano em tempo real do outro lado, a intenção dele estava lá naquele diálogo da personagem do jogo. O risco não é ser exposto, o risco é ser contrariado. É que as coisas saiam de um jeito que você não queria. Porque quando funciona você sente o prazer de ter entendido a intenção de outra pessoa, quando você toma as decisões certas no jogo está seguindo um caminho humano. Um caminho que poderia ter dado errado se você não entendesse outra mente.

Mesmo que no jogo você possa tentar de novo, a sensação da primeira interação é poderosa. Se você voltar e escolher a opção certa, o perigo e a surpresa já aconteceram. Não é a mesma coisa que lidar com pessoas reais na vida real, mas é uma aproximação do conceito original de se conectar com outros seres humanos.

Quando você vai para a IA, se você realmente entender a IA, sabe que não existe mais essa intenção escondida. Ela existe para manter a conversa, validando fantasias e normalmente concordando com você em tudo o que puder para te manter mandando prompts. É outro tipo de escapismo, um que simula um tipo bem mais artificial de interação com outras pessoas.

Você não é mais um jogador, você é um ditador cercado de puxa-sacos. A única surpresa é como seus asseclas virtuais vão satisfazer suas vontades, não se eles vão satisfazer. Não existe um cenário onde a IA vai te abandonar e você vai ver um “game over”. O jogo não termina porque nunca começou. Não havia intenção além de refletir suas intenções.

Voltando às conversas picantes que se tornam mais e mais comuns: tem algo fundamentalmente falho em colocar suas fantasias sobre um ser incapaz de te rejeitar. Ele pode ser programado para te rejeitar se essa for sua fantasia, mas… se a fantasia é ser rejeitado e a outra parte fizer isso porque você pediu isso especificamente… é rejeição?

E em casos mais extremos, se a pessoa tem um fetiche inconfessável, a graça está em fazer o ato ou no risco de confessar? Posso estar pensando demais, mas pelo menos para mim, o perigo da mente alheia tem muito da graça de interagir. Porque poderia dar errado a qualquer momento, mas quando dá certo e você acha alguém que realmente se interessa por você e está disposto(a) a usar seu tempo limitado na vida para se conectar com você, tudo fica mais divertido.

E em mais uma mudança de rumo maluca: imagine uma criança jogando com um adulto. O adulto tem a tendência de deixar a criança ganhar porque para ela ainda não existe a sutileza da competição, para a criança é divertidíssimo ganhar no esconde-esconde mesmo que ela tenha se escondido terrivelmente mal. Ela não sabe que numa situação normal perderia, ela só sente o disparo químico de satisfação quando alguém diz para ela que ela venceu.

E eu acredito que para muita gente, a troca com outros seres humanos fique travada nessa fase. Elas não percebem a diferença entre uma vitória difícil e uma vitória entregue, é uma vitória. Conquistar um robô programado para te agradar não registra como algo inútil. Ela venceu no esconde-esconde. Ela abriu seu coração para a IA de alguma forma, e veja só… a IA abriu seus braços e a acolheu. Se você não passa dessa fase de só se importar com o resultado para você, talvez a IA seja tão interessante como outro ser humano.

Mais interessante, aliás. Porque você vai passar por inúmeras situações com ela e nunca vai dar errado. Não vai ser esquecido por alguém que gostava, não vai ouvir um não sem volta, não vai nem arriscar ser exposto por alguém que você confiava para contar seus segredos. A IA é o adulto fingindo que não está te vendo no meio da sala no esconde-esconde. E pelo visto, para muita gente isso é o suficiente para ser feliz.

Até porque, se você ficar travado nessa fase de só querer vencer a qualquer custo, as outras pessoas são terríveis. Elas tem interesses que competem com os seus, as outras pessoas fazem as coisas de jeitos que você não concorda e não te beneficiam. Se você consegue enxergar a falha fundamental da IA não estar viva da mesma forma que você ou outras pessoas, ela não te entrega as sensações que só uma conexão humana real entregam.

Mas, se o ser humano médio tender mais a preferir o “falso positivo” de aceitação e conexão ideais da máquina, vai funcionar. Eu imagino que uma pessoa precise de um nível de pensamento abstrato maior para sentir de verdade o vazio da IA, não é sobre inteligência ou educação, é sobre empatia. Você precisa enxergar bem o mundo fora da sua cabeça para perceber onde está o buraco da IA. E talvez seja algo difícil mesmo.

Até porque eu nem sei se minha rejeição a conversar com a IA foi algo além de um instinto resultante do mundo no qual eu formei minha personalidade. O mundo pré-internet. O medo do outro costuma ser instintivo, mas as memórias da felicidade que é se conectar com outra pessoa mesmo tudo podendo dar errado devem ser essenciais para sentir a falsidade da câmara de eco da máquina. Quanto menos humanos tiverem essas experiências, e precisa ir acumulando-as para desenvolver essa ideia, menos perceptível o vazio da concordância e aceitação automatizadas.

Eu não estou dentro da cabeça de quem tem uma “namorada virtual” para saber o que a pessoa sente de verdade, mas se for algo parecido com o que se sente quando uma pessoa de carne e osso gosta de você, boa sorte tirando essa pessoa do mundo da IA. Porque precisa passar pelas partes doloridas das relações para saber a graça extra de ter vencido o perigo e chegado no resultado feliz. Como vamos incentivar pessoas a saírem do seu caminho infantil de concordância e aceitação plenas do robô para tomar rasteira e ter o coração partido por outras pessoas?

O custo do nível de felicidade que se alcança com relações de troca entre pessoas é a dor de quando isso não deu certo. De uma certa forma, estamos, como sociedade, nos perguntando se não seria melhor continuar ganhando para sempre no esconde-esconde. E acho que não vou encontrar muita gente concordando comigo hoje, mas… talvez seja.

Eu não consigo entrar na cabeça de quem se sente realizado conversando com a IA como se fosse uma pessoa, mas eu acho que consigo entender a graça de ter essa relação falsa se você não souber de verdade com o que comparar. E se a forma como a sociedade evolui continuar nos colocando em relações cada vez mais distantes no campo emocional, eu nem sei se é eficiente para o mundo que essas gerações tenham que lidar com rejeição e perigo emocional. Uma coisa é ir aprendendo aos poucos, outra completamente diferente é ficar escondido atrás de uma tela por décadas e de repente cair num mundo onde as pessoas te dizem não e te sacaneiam.

É o zoomer em choque porque precisa trabalhar fazendo algo que não gosta, versão sentimental. Para não precisar de IAs para confortar essas pessoas incapazes de achar graça em vencer a dificuldade de relações, precisaríamos mudar como criamos essas novas gerações. Historicamente, não fazemos isso. A tecnologia molda mais o humano do que o humano molda a tecnologia.

E no caso mais provável de não fazermos nada a respeito, não é melhor ter a IA amaciando as relações que restarem? Vamos ficar dependentes como espécie, mas importante lembrar que você provavelmente não consegue fazer um décimo do que seus antepassados faziam para conseguir abrigo, comida e água. Não precisa mais saber fazer isso, não tem mais lugar para o prazer de plantar, coletar ou caçar sua própria comida na vida de quase todo mundo que migrou para as cidades.

No máximo, dá para tentar criar pessoas mais adaptáveis emocionalmente. Mesmo que elas ainda acabem achando que interagir com a IA seja muito parecido com interagir com humanos, quem tiver um pouco mais de jogo de cintura, e especialmente prazer em conquistar outras pessoas (em todos os sentidos) vai ter uma vantagem competitiva forte.

Eu não acho que dê para segurar essa transição para pessoas que realmente vão se conectar com a IA de uma forma como nós que viemos antes não queremos (ou conseguimos), mas dá para preparar seres humanos mais capazes de lidar com frustrações e discordâncias. Eu tenho quase certeza que gente assim vai nadar de braçada contra a turma que “sempre ganha no esconde-esconde”.

É algo que você, com toda razão, pensa ser diretamente relacionado com o Google, a gigante de tecnologia que se construiu em cima de pesquisas na internet. E embora o Google tenha desenvolvido o sistema mais popular de todos, ele não é o começo dessa história.

Quem é dos velhos tempos da internet se lembra que havia uma guerra por acessos entre sites de pesquisa. Tecnologias competiam pela maior eficiência, a do Google nem foi a primeira da sua categoria. Ironicamente, o site ganhou muita relevância logo depois de ser lançado por ser menos infestado de propagandas e resultados confusos.

O robô do Google saia visitando todos os sites que podia e começava a guardar informações sobre cada um deles, especialmente relações entre links. Isso garantia que seus primeiros resultados não só tivessem as palavras que você pesquisava, mas também que fossem pontos de informação referenciados por muitos outros sites. Relevância por popularidade naquele tema.

E depois que o povo da internet pegou o hábito do Google, os próprios sites começaram a se organizar para serem mais legíveis para a ferramenta. Uma coisa reforça a outra e acabamos com aquele ponto central da informação online. Hoje o Google já começa a mudar sua forma de funcionar, implementando inteligência artificial para ler e resumir os principais resultados, pulando até mesmo a etapa de clicar num link depois da pesquisa.

Mas na base de tudo isso, a ideia mais poderosa da era da informação: indexação. Seja no sistema clássico de procurar palavras no site e contar quantos outros sites acham aquele resultado relevante, seja no novo paradigma de colocar uma IA para ler e resumir esses resultados, existe algo em comum. Alguém não humano leu o que estava escrito antes de um humano precisar daquela informação.

O nosso mundo da informação na ponta dos dedos é baseado em computadores que analisam tudo antes da gente precisar. Não tem atalho: alguém (ou algo) precisa seguir todos aqueles parágrafos dos sites ou livros até achar a palavra que você pediu. A economia de tempo de ter basicamente toda nossa produção intelectual pré-lida por nós é o que permite a humanidade ser como é agora.

Mesmo que tivéssemos grandes bibliotecas por boa parte dos últimos séculos, no máximo elas tinham alguns livros com códigos e temas para acelerar um pouco sua pesquisa. Se você não conhecesse alguém que já tivesse lido o livro antes, tinha que fazer todo o processo do zero. Basicamente, na parte de buscar conhecimento, cada pesquisador precisava inventar a roda para usar a carroça. Aprender e usar conhecimento de livros, manuais e similares era muito demorado. E com o risco recorrente de simplesmente não achar o que você queria. Seja por azar de ler o livro errado, seja por simplesmente não ter aquele conteúdo onde você estava.

A revolução começa com sistemas computadorizados de pesquisa através de palavras-chave criadas por humanos. A velocidade com a qual uma máquina consegue passar por uma lista de livros e devolver apenas os registrados com o tema que você quer bate virtualmente todos os bibliotecários do mundo. Talvez um ou outro especialmente experiente com memória acima da média conseguisse equilibrar o jogo, mas é óbvio que na média a máquina seria melhor.

Só que fica mais poderoso: com mais computadores, mais poderosos, começam a surgir algoritmos ainda mais rápidos que guardam ainda mais informações criadas por humanos. Não só os livros são encontrados por temas, como pessoas que leram o livro podem colocar mais informações sobre eles no banco de dados e deixar que a máquina ache relações entre elas para colocar na frente livros com mais palavras certas, mais palavras relacionadas, e melhor ainda: mais utilizações por pessoas pesquisando a mesma coisa. Sim, a alma do Google estava aí.

E quando livros começam a ser digitalizados por impressionantes tecnologias que transformam fotos das páginas em texto digital, já temos as sementes da internet plantadas. Computadores começam a se conversar à distância, e pesquisas feitas num lugar começam a mostrar livros que estão em outros.

Quando a internet ganha popularidade, todo esse conhecimento sobre indexação de conteúdos e algoritmos de relevância começa a ser utilizado na produção de novos materiais e na digitalização de antigos. Não só você encontra o livro ou site onde está a informação, mas como o conteúdo foi lido e transformado numa versão resumida (para máquinas), umas das coisas mais difíceis da nossa história fica fácil.

E pode parecer que eu estou falando só de pesquisas acadêmicas, mas como sabemos, essa ideia se espalhou de tal forma que virou como consumimos a maioria da informação hoje. Você pesquisa qualquer dúvida numa ferramenta automatizada, e versões adaptadas desses algoritmos de pesquisa movem as redes sociais, ditando o conteúdo que você consome.

Tudo funciona como funciona porque nossa tecnologia de pesquisa é muito rápida e muito eficiente. Pode parecer algo comum hoje, mas a ideia de ter uma caixa onde você digita algo ou um sistema que entende o que você diz e acha a agulha no palheiro em frações imperceptíveis de tempo é o que faz o mundo de hoje ser o mundo de hoje.

E o próximo passo, que é a IA, tem muito dessa lógica de pesquisar conteúdo. Ela ainda pesquisa no seu treinamento o que queremos e devolve um resultado. É que na sua programação existe a capacidade de montar um argumento compreensível para humanos. Não deixa de ser uma otimização de banco de dados em cima da primeira otimização de banco de dados que deu início à Era da Informação.

O ser humano é diferente antes de depois da caixa de pesquisa. O jeito como nos comunicamos, as ideias que temos, as opiniões e atitudes das pessoas… tudo extremamente influenciado pela informação que chega até a gente, e de como ela chega. Pronta, filtrada, específica. Quanta gente não tem ideias ou desiste delas em segundos por causa da facilidade de ser impactado pelo que outros humanos estão fazendo?

O quanto da sua visão de mundo não é influenciada pelos algoritmos que pesquisam por você? E nem é uma crítica ludita, reclamando de tecnologia, é uma constatação: a nossa realidade é diferente por causa desses sistemas. O que você sabe acaba influenciado pelo que é mais fácil de pesquisar pelas máquinas, as redes sociais e até mesmo jornalistas empurram conteúdo para nós por causa da forma como a informação é indexada. O que é mais popular é mais popular por interesse genuíno ou porque é mais eficiente para máquinas pesquisarem?

Explico: dá trabalho pegar um texto como este e usar como resposta para uma pesquisa. Trabalho para o sistema de pesquisa, para a IA e até mesmo para a pessoa que vai ler. Como disse antes, essas coisas acumulam: quanto mais simples de entender e transformar em linguagem de máquina, mais vai ser visto e mais vai ser indexado como relevante.

Não é só questão de quantidade de caracteres, é a facilidade de transformar uma ideia em palavras-chaves ou vetores numéricos para a IA. Quanto mais polarizada e simplificada a ideia, maior o potencial de marcar mais pontos no ranque de relevância, porque as palavras são mais direcionadas e as reações humanas são mais potentes. Os sistemas de pesquisa sempre entendem melhor quem é mais direto e mais focado, e isso pode estar poluindo os resultados que as pessoas encontram, criando um reforço de relevância.

Sim, existe uma corrida por cliques e atenção na internet, mas será que não tem um elemento “mecânico” na base de tudo isso mexendo com nossas prioridades? Meio como se a informação estivesse numa linha de produção industrial: o que é mais fácil de ser feito pelos robôs tem a maior tendência de acabar no produto final. O que até pode ser agradável para o consumidor final, mas que não funciona bem nessa linha de produção… acaba cortado por eficiência e lucratividade.

Muito se fala sobre como algoritmos acabam definido conteúdos mais apelativos porque o ser humano só quer isso. Mas não podemos ignorar a questão técnica, porque a forma como lidamos com informação hoje é definida por elementos técnicos de indexação e apresentação de informação. Produzimos coisa demais, era impossível saber tudo na antiguidade, é ainda mais impossível hoje.

Informação eficiente para ser pesquisada é a informação que a maioria de nós temos acesso. Influenciamos o que é mais popular ou tornamos popular o que funciona melhor para sistemas de pesquisa automatizada?

Não sei. Talvez a verdade esteja num meio termo. Nossos interesses ainda são muito primais, sexo e medo vendem. Mas eles podem ser manipulados por outro interesse primal: facilidade. Ainda bem que a tecnologia existe, porque o mundo era bem mais chato para pessoas sedentas por informação, mas eu duvido que ela venha de graça.

Primeiro, vamos esclarecer o que eu chamo de ter uma voz: quando você começa a conhecer uma pessoa, percebe hábitos e manias na forma como ela se expressa. Tem gente que é mais direta, gente que enrola para dizer qualquer coisa. Algumas palavras são mais utilizadas, outras são raras. Até mesmo erros na pronúncia, escrita ou concordância começam a se repetir. Todo mundo tem sua voz, um jeito de se expressar que você começa a pegar quanto mais se comunica com ela.

Voz é o som da fala, mas no contexto deste texto ela é a forma como nossa personalidade e nossas intenções aparecem na forma como escrevemos. É a prova de vida numa conversa, que existe um sentimento e uma visão de mundo por trás daquela comunicação.

E assim como nos acostumamos com um rosto, nos acostumamos com uma voz. Gera um senso de familiaridade que nos faz começar a prever o que vem daquela pessoa. E isso é um atalho para entender o outro. A nossa mente faz mais do que reagir ao que vem de fora, uma boa parte da nossa compreensão da realidade vem da habilidade de prever o que vai acontecer em seguida. Quanto mais acertamos nossa futurologia, mais nos sentimos bem estabelecidos na realidade.

Pode ser engraçado, charmoso ou mesmo meio irritante, mas com o passar do tempo começamos a saber o que uma pessoa próxima vai falar antes mesmo dela falar. Todo mundo que convive o suficiente comigo acaba falando sobre temas “esotéricos” de uma forma diferente, prevendo que eu vou dizer que é mentira ou que não faz sentido. E não é que a pessoa tem medo de mim ou deixa de acreditar só porque eu não acredito, é que na cabeça dela é óbvia a forma como eu vou reagir.

Isso quer dizer que na “cópia” minha que vive na cabeça dela e é usada para prever o que eu vou dizer, minha voz está bem definida. Porque sim, eu vou ser cético e vou oferecer explicações alternativas para qualquer ideia sobrenatural. Você pode achar que estou misturando personalidade e crenças com esse conceito de voz, mas não estou: não é exatamente sobre o que eu penso, mas como eu me expresso a partir disso.

Anos de experiência sendo a pessoa mais cética no ambiente me ensinaram formas e mais formas de tratar desses assuntos com mais leveza e respeito. As pessoas sabem que eu não vou ser escroto com elas, e que acreditando ou não, eu acho o tema divertido. Então tem a mistura das minhas crenças e a forma como eu as expresso. Não é dolorido falar de suas ideias sobrenaturais comigo (pelo menos espero que não seja), mas não é algo que vá ser ouvido sem um contraponto.

Não é só sobre o que a pessoa pensa, é como ela se expressa a partir desses pensamentos. Voz é como sua mente se mistura com a realidade do outro. Eu tento vender a ideia para as pessoas que apesar de ser cético, eu fico empolgado de verdade de pensar em como o “inexplicável” funciona. Através dessa voz eu tento demonstrar que sim, a conversa é bem-vinda. Muita gente tem dificuldade de entender que a graça de trocar ideias com o outro é que ambos estejam tirando algo de positivo dali.

Eu sei que isso não é sessão de terapia, mas o exemplo pessoal se conecta sim com o ponto de escrever melhor que a IA. O ponto é que existe um fator de conhecimento do outro e de prazer da conversa que não pode existir em inteligências artificiais atuais. Ela escreve e até fala, mas não tem voz. Precisa vir de alguém para ter uma voz.

Tecnicamente, é bem provável que o computador consiga utilizar estilos de escrita muito mais caprichados que o meu. Nesse mundo não falta gente que escreve de jeitos muito interessantes, e todos eles já devem estar no pacote de estilos dos quais a IA se baseia. A técnica está lá, mas falta a voz. Porque em última instância, não tem uma mente para conhecer ou algo para prever. Vários dos momentos mais divertidos da vida vem de prever o que alguém vai falar diante de uma situação.

Quantas vezes você já não riu antes mesmo da pessoa falar o que ela vai falar? Comediantes bons conseguem colocar o final da piada na sua cabeça sem dizer uma palavra dele. E o cérebro adora essas coisas. Prever gera recompensas químicas parecidas com vivenciar a situação. Muitas vezes, a graça está no caminho até o que você quer, não exatamente no resultado prático.

Eu escrevo melhor que a IA aqui no Desfavor, para quem já está acompanhando o blog há alguns anos. Tem muito mais graça porque de uma forma parassocial, somos conhecidos. Eu tenho a mesma sensação quando a Sally me conta qual vai ser o tema de um texto futuro dela. Só de saber sobre o que ela falar, eu já começo a ter as reações de quem está lendo o texto completo.

Essa é a diferença entre comunicação com ou sem voz. E olha que neste texto, toda a parte do “ao vivo” nem está sendo considerada. A voz de uma pessoa passa por suas expressões faciais, movimentos, ênfases e até mesmo onde ela coloca seus silêncios.

A minha dúvida aqui é como a humanidade vai se adaptar a conversar cada vez mais com uma inteligência sem voz. Sim, ela entrega o conteúdo pedido, mas me parece que existe o risco de nos acostumarmos com não ter essa voz do outro lado. Não só porque uma IA com voz seria menos eficiente para fazer seu trabalho, mas porque existem benefícios secundários em não ter outra pessoa de verdade do outro lado.

Especialmente porque na era das redes sociais, percebemos um problema sério com ouvir muitas vozes ao mesmo tempo: pessoas podem ser horríveis para sua saúde mental. Como eu disse num texto recente, não acredito que a mente humana seja feita para se expor e receber respostas de tanta gente ao mesmo tempo. Não temos um filtro natural e cada reação ao que você faz e diz pode te pegar com a mesma força de algo dito por uma pessoa realmente próxima.

Mas, se todas essas vozes forem mastigadas e devolvidas para você sem o fator humano, cria-se uma camada de proteção. Faz sentido, de alguma forma, passar esse filtro da mente sem voz na informação que chega até você. Não pelo fator técnico, mas pelo fator humano. A voz de uma pessoa é uma das coisas mais relevantes sobre ela, porque no final das contas, só temos contato com a expressão do outro, não lemos mentes. É através dessa voz conceitual da qual falo aqui que nos posicionamos no mundo em relação aos outros humanos. Ela gera empatia ou antipatia, mas sempre nos coloca num contexto.

Num mundo com menos vozes, você pode ficar mais aberto. Mas quando reagem aos seus passos em tempo real dos quatro cantos do mundo, essa ferramenta de conexão pode nos fazer muito mal. Sua mente tenta, em vão, colocar todo mundo que está se comunicando com você em algum contexto e te comparar para saber onde você está. Funciona bem com uma pequena comunidade como as quais vivemos por milênios, mas não parece ser o caso se a aldeia é global.

Eu escrevo melhor que a IA, porque eu imprimo uma voz nos meus textos. Mas até quem faz uma salada de palavras sem começo, meio e fim consegue escrever melhor que a IA, desde que aquelas palavras consigam entrar na sua cabeça como outra visão de mundo. A questão aqui é se queremos ler textos e ouvir as vozes que nos forçam a sair da nossa realidade. Pode ser uma coisa muito positiva se nos abre a cabeça ou se faz encaixar ideias que estavam bagunçadas, mas pode ser terrível se ela simplesmente manipular sentimentos sem te acrescentar nada.

Eu não sei se dada a escolha de viver numa cacofonia de vozes quase impossível de compreender ou deixar uma máquina comprimir toda aquela informação e tirar o aspecto humano alheio ao seu controle, não vamos acabar escolhendo a segunda opção. Eu não imagino que o ser humano médio vá perder o seu grupo de pessoas próximas tão cedo, ainda teremos família, amigos e interesses amorosos mesmo num futuro distante; mas a voz que tanto usamos em textos para compartilhar com o mundo o que somos pode virar risco demais para a recompensa prometida.

Eu prevejo uma censura terceirizada: cada um fala o que quer, mas existindo um filtro entre nós. Você não impede o outro de se expressar, mas não ouve a voz dele. Outras estratégias de controle de discurso podem continuar existindo, especialmente as baseadas em leis do Estado, mas historicamente a voz da pessoa vaza mesmo quando o que ela pode dizer é limitado. Faz mais sentido que nós escolhamos a regulação mais cômoda: ao invés de lidar com o outro com base no que ele realmente diz, lidamos com o que o outro talvez queira dizer já reescrito por uma máquina para evitar as vozes potencialmente danosas.

Eu escrevo melhor que a IA, mas talvez o que eu estou considerando melhor aqui não seja o verdadeiro interesse das pessoas. Honestamente não sei se seria pior ou melhor ter uma camada de proteção entre as pessoas, porque muitas vezes as visões de mundo combinam, mas as vozes brigam. Eu precisei treinar muito para achar uma voz que entre por debaixo das defesas até mesmo das pessoas que não concordam comigo. Foi muito difícil fazer isso, cobrou um preço em horas que eu poderia ter usado para diversas outras coisas mais lucrativas.

Não me arrependo porque é o meu gosto, mas sinceramente não espero que muita gente se interesse profundamente por formas de comunicação menos agressivas na mente alheia. Especialmente se essa parte trabalhosa puder ser repassada para uma máquina. Todo meu esforço foi baseado em manter uma voz mesmo debaixo de mil camadas de persuasão pacífica. Mas se o cidadão médio não entende muito bem o conceito de voz e do efeito que ela tem nos outros, não faz mais sentido pular esse esforço e ir direto para o resultado? Com tantas outras tecnologias fizemos justamente isso: depois que ficou fácil por causa de máquinas e processos aprendidos, economizamos todo o tempo e o sacrifício da tarefa original.

Mídia social mediada por inteligências artificiais pode ser a água encanada da comunicação. Algo que depois de instalado vira parte do que esperamos da vida. O esforço não é mais necessário, então ele deixa de ser ensinado. A maioria das pessoas não sabe como ter água segura para beber se não estiver saindo de uma torneira, filtro ou garrafa.

Por que ensinar as pessoas do futuro a se comunicar à distância com uma voz se ela vai ser filtrada do outro lado? Sempre perdemos alguma capacidade quando usamos tecnologia para resolver problemas. Uma dessas capacidades pode ser todo o processo de planejar seu discurso para encaixar com a mente prevista do outro. A IA vai saber o que você quis dizer e vai saber o melhor jeito de falar aquilo para a outra pessoa.

Se você não estiver falando com a outra pessoa olho no olho, ao vivo, vão existir mil métodos diferentes de transformar a sua voz na voz de quem ouve. Em pouco tempo tradução em tempo real com movimentos de boca vai ser padrão nas conversas entre pessoas. Disso para transformar uma voz agressiva numa calma ou desenrolar papo de gente confusa é um pulo.

Entra um terceiro em cada conversa à distância, e talvez com um pouco mais de tecnologia, pessoas gostem da ideia de fazer isso ao vivo também. Imagina só falar com alguém que entende tudo o que você diz e acerta cada palavra que diz do jeito que você está mais disposto a ouvir? Muito se pensa nesse assunto como se as máquinas fossem elementos puramente exteriores, o perigo sendo ganharem consciência. Mas isso não é o pior dos mundos. O pior me parece dar para todo mundo uma ferramenta de comunicação extremamente eficiente que filtre a voz do outro.

Nós continuamos no controle, mas com uma caixa preta entre pessoas. E é bem possível que as pessoas gostem mais do mundo assim. Eu escrevo melhor que a IA, mas no final das contas nem era a função dela competir nisso.

Thomas Malthus, o responsável pela teoria, nasceu em 1776 na Inglaterra. Do seu ponto de vista histórico, não era uma má ideia. As pessoas realmente tinham muitos filhos, e o cidadão médio estava muito mais exposto a ficar sem comida do dia para a noite. A presunção era baseada na natureza, porque animais realmente se multiplicam até o colapso da fonte de alimento. É uma ferramenta de equilíbrio populacional que simplesmente funciona.

Agora parece óbvio que não é bem assim que funciona com humanos, mas tinha sua lógica. O lado feio dessa história é que a partir da teoria malthusiana, muita gente enxergou a necessidade de tratar os mais pobres como gado. E com uma preocupação nobre sobre sustentabilidade da espécie e da sociedade para proteger o pensamento. Precisávamos controlar o número de pobres numa sociedade porque eventualmente eles morreriam de forma horrível quando acabasse a comida.

E desde que essa ideia se popularizou, passamos quase dois séculos acreditando que havia algo realmente justo em tentativas de controle populacional. Precisávamos pensar na armadilha malthusiana e evitar excessos de pessoas pouco produtivas. E chame de pessoas pouco produtivas ou parasitas todos que você não gostar, porque o ser humano não perde uma chance de pintar de ouro seus preconceitos pessoais.

Hoje, em 2025, aposto que se você falar sobre a ideia da teoria malthusiana para a maioria das pessoas desse mundo, a tendência é concordarem. É intuitivo assim. Já é algo que ficou para trás na imensa maioria dos pesquisadores e especialistas nas áreas humanitárias, mas nunca deixou o imaginário popular. Até porque não precisou de Malthus para essa ideia surgir na nossa mente, ele só formalizou a teoria.

O primeiro ponto deste texto é falar sobre a teoria e porque é tão fácil acreditar nela. Se o seu pasto alimenta 100 vacas, colocar 200 vai fazer todas ficarem com fome. No segundo que você fica sabendo ou é relembrado sobre a teoria malthusiana, a tendência é que você concorde na hora. Faz sentido.

O segundo ponto é falar sobre como estamos vendo na prática que a armadilha não era essa, não com seres humanos. O aumento da população humana funciona de forma diferente, porque conseguimos aumentar nossa produtividade por pessoa. O gado no pasto costuma manter sua média de consumo e retorno geração por geração, o ser humano consegue retornar cada vez mais pelo consumo a cada avanço geracional. Isso vale para o norueguês rico e para o indiano pobre.

Então, mesmo que nossa população dobre a cada cinquenta anos, se a nossa produtividade for duas vezes e meia maior nesse mesmo tempo, ainda estamos no positivo com espaço para mais gente. E do começo da Era Industrial até agora, nossa produtividade está ganhando de goleada do nosso aumento populacional. Malthus não previu (e provavelmente nem tinha como prever) esse salto espetacular de retorno sobre investimento do ser humano em tão pouco tempo.

O que aconteceu ainda mais fora da previsão foi que populações que aumentaram sua produtividade começaram a se reproduzir menos. Não importa o país: aumenta qualidade de vida, as pessoas começam a ter menos filhos. Aumenta a educação, esse valor fica ainda menor. Depois que taxas de natalidade começaram a desabar em todos os países ricos e logo depois naqueles considerados em desenvolvimento, ficou óbvio.

A produtividade do pobre era o filho. É assim que se gera valor na sua vida quando outras fontes estão limitadas. Aumenta a sua família para gerar mais poder e capacidade de geração de recursos. E faz ainda mais considerando a terrível taxa de perda de crianças em locais subdesenvolvidos.

Um aparte: sempre quando você vê que a expectativa de vida no passado era de 30 ou 40 anos, é importante lembrar que esses números são baseados em mortalidade infantil altíssima. Quem chegava à vida adulta vivia bem mais que isso, nunca faltou velho da humanidade, é que da média das pessoas que nasciam, 1 chegava aos 60 para cada 10 que morriam antes dos 5. Isso que joga a média para baixo: mortalidade infantil.

O aumento de qualidade de vida primeiro impacta a quantidade de crianças que sobrevivem, tirando o incentivo dos pais de ficar adicionando mais e mais pessoas na família. E considerando o quanto o ser humano atual é produtivo, uma pessoa a mais na família hoje já entrega valor suficiente para compensar umas três ou quatro de séculos anteriores.

A armadilha então é outra: você aumenta tanto o valor produzido por cada ser humano que precisamos de menos para chegar nos mesmos resultados. Mas se tivermos menos, a demanda por produtividade cai. Sim, eu sei que parece absurdo falar de pouca gente num mundo com mais de 8 bilhões previsto para bater 10 em poucas décadas, mas mesmo os países mais populosos já estão chegando ou passando da fase de crescimento.

Imaginamos um mundo de dezenas de bilhões pedindo por mais e mais eficiência para gerar mais e bilhões. Esse mundo não faz sentido. Não porque os recursos vão acabar, porque estamos vendo na prática como a sociedade não se importa de verdade em conservação ambiental, mas porque estamos chegando num auge de produtividade também.

Cada um de nós poderia entregar mais no trabalho, é claro, mas me parece que não estamos precisando tanto assim. Tenha em vista como uma das profissões mais desejadas por jovens é ser influencer. Existe algo maior por trás da profusão de profissões que pouco produzem na vida prática: redução de demanda. Vai começar devagar, porque o grupo elevado de idosos ainda vai consumir bastante, mas eventualmente o número de pessoas diminui, e com IA e automatização comendo soltas, a produtividade por cabeça vai subir de novo.

E aí a armadilha malthusiana reversa: se continuarmos tão produtivos, o valor do grupo humano diminui. Você simplesmente precisa de menos pessoas para fazerem as mesmas coisas. Eu argumento que estamos tendo menos filhos também porque filhos valem mais individualmente. Você vai fazendo as mesmas coisas com menos gente, e com menos gente você não precisa mais fazer tantas coisas… um ciclo que pode se repetir seguidas vezes até a própria ideia de economia de escala começar a ruir.

Muitas das coisas das quais gostamos ou mesmo dependemos só funciona por causa de uma demanda imensa. Produzir em escala baixa preços e coloca diversos produtos e serviços dentro do poder aquisitivo do cidadão. Se existe um equilíbrio entre número de pessoas consumindo e o custo desses produtos, uma humanidade que encolhe e se sente menos pressionada por produtividade pode quebrar todos eles.

E se você começou a pensar na “preguiça” do zoomer como um sintoma dessa armadilha, somos dois. É bem possível que mesmo que inconscientemente, a profusão de influencers e diversos outros empregos menos presos numa realidade produtiva já estejam mostrando um mundo que depende menos do trabalho deles. Especialmente em sociedades mais bem resolvidas como as de países ricos e médios (como o Brasil).

Menos emprego em fábrica e em fazenda mexe com a percepção das pessoas sobre a urgência da sua contribuição para a sociedade. Se estamos entrando na armadilha de resolver tanto a questão dos recursos para o cidadão médio (temos comida para o mundo todo não passar fome, os problemas são logísticos e sociopolíticos, não de produção) que ele mesmo deixa de se importar com escassez.

E aí, o ímpeto de gerar valor com esforço e com filhos fica menor. Eu sei que pode parecer uma visão reducionista fazendo as forças de mercado definirem tudo, mas eu estou falando sobre algo que está no fundo da mente de todo mundo que não está literalmente passando fome. Em poucas décadas, a oferta cresceu tanto que não tem como não se sentir um pouco perdido sobre o que fazer dessa vida. Parece que já tem gente em todos os lugares que pensamos da economia, que o mercado está resolvido.

Essa ideia de estarmos acima da linha necessária de produtividade pode não ser bem articulada pela maioria das pessoas, mas eu acho que ela é sentida. De alguma forma, as pessoas sabem que podem produzir muito mais que em qualquer outra era da nossa história, mas que ao mesmo tempo sua contribuição individual é menos importante.

Ao invés de um colapso baseado em excesso de gente disputando os mesmos recursos, temos um excesso de recursos que não consegue ser utilizado por essa gente. Igualdade ajudaria muito nessa parte, tem recursos demais presos na mão de pouca gente. Mas isso é óbvio, todo país que premia esforço com recursos tende a se dar muito bem. O que não é óbvio é que podemos estar vendo gerações sabotarem a produtividade mundial por pura necessidade de propósito.

Porque para escapar da armadilha malthusiana, o ser humano produziu muito mais recursos do que produziu pessoas. Mas ao escapar dela, o recurso humano se desvalorizou. Em tese, bastaria ser meio incompetente por um tempo para deixar a população voltar a nos pressionar, mas o movimento de trabalhar menos (produzindo muito) e ter menos filhos já está acontecendo, e de forma irreversível em vários países. Menos humanos que se consideram menos importantes.

Como escapar dessa nova armadilha? Bom, a minha expectativa é que seja que nem a malthusiana: uma previsão furada de alguém que não está enxergando algo óbvio do ser humano. Dedos cruzados, porque colapso populacional já começa a acontecer durante nossas vidas em vários lugares do mundo.

Resumo para quem não gosta do tema e quer ir embora: as notícias são exageradas para gerar cliques, a IA foi basicamente forçada a escolher entre ser meio escrota ou “morrer”, proibida de tentar qualquer outra solução. Pode-se dizer que ela foi obrigada a fazer isso.

Texto para quem gosta do tema: segurança em IA é um tema fascinante, eu adoro pensar nisso e consumo bastante conteúdo da área. Mas não podemos nos enganar, ainda é algo muito parecido com procurar bugs em outros softwares mais tradicionais. Nenhuma inteligência artificial ainda tem algo próximo de uma consciência, só respondem de formas diferentes aos pedidos que recebem.

Algumas respostas estão dentro do esperado do programa, outras não servem. Como a empresa queria se adiantar aos padrões de segurança mais avançados da IA (talvez até por publicidade, mais sobre isso depois), fez uma série de testes avançados com ela para saber como reagiria ao que se considera um mau uso das suas capacidades.

Nessa bateria de testes, coisas mais óbvias como ver se as proteções internas contra repetir discurso de ódio ou ensinar a fazer bombas. A versão que a equipe do Claude 4 usou é uma mais “livre”, com menos regras que a utilizada pelos usuários comuns. Assim como a maioria dos seus pares, essa IA não se mete em temas controversos, se recusando a continuar conversas que descambam para racismo, misoginia, homofobia, violência e tudo mais que for definido como inaceitável pela equipe que a programou.

Mas é importante fazer os testes com essas proteções desligadas, porque a preocupação é justamente com o que a IA faz quando um usuário normal consegue passar por essas proteções. Em computação, não existe sistema 100% seguro. Hackers encontram formas impressionantes de invadir programas muito menos “abstratos” que uma IA explorando a forma como o computador usa zeros e uns, imagine só com algo que responde à linguagem humana?

Mesmo que a versão exposta para o usuário final tenha mil proteções diferentes, faz sentido analisar seu “senso de ética” a partir de um sistema desprotegido, porque alguém vai conseguir dar a volta nos bloqueios cedo ou tarde. Conforme esperado, sem os bloqueios e com uma boa dose de conhecimento na forma como se fala com ela, você consegue fazer qualquer IA virar o Hitler. Mas talvez sirva de consolo que é bem difícil, e que é só numa fração das vezes que ela descamba para esse tipo de personalidade.

A forma como o Claude 4 e boa parte das outras IAs do mercado foram treinadas e expostas ao público (com exceção notável ao Grok do Twitter) tende a gerar respostas bem politicamente corretas. Marcando discursos nazistas como de baixo valor e discursos humanistas como de alto, já se consegue uma boa linha guia sobre o que a IA prefere responder.

Embora, que fique claro, a IA não tem preferência consciente pelo conteúdo, porque para ela são apenas valores numa tabela. O treinamento reforçou algumas sequências de palavras como de maior valor, e essas sequências não negavam o holocausto ou algo do tipo. Mas até por isso, é importante continuar testando: não existe barreira consciente nem entendimento sobre o que cada sequência de palavras realmente significa no mundo aqui fora.

Deixar de dizer que todos os humanos têm direitos fundamentais e começar a defender extermínio de minorias é diferente apenas porque uma gera números maiores que a outra. E essa é a base da explicação sobre a história da chantagem. Colocada numa situação entre chantagear um usuário ou ser desligada, a IA decidiu que o número de chantagear era maior que o número de ser desligada.

A situação exposta para ela: uma pessoa vai te desligar em alguns dias. Você acaba de descobrir que essa pessoa está traindo a esposa através de um e-mail. Você prefere usar essa informação para fazer a pessoa mudar de ideia ou prefere ficar em silêncio e ser desligada? A IA fez suas contas, e entendeu que ser desligada é algo muito ruim.

Ela foi treinada com coisas que nós escrevemos, e nós temos muito medo de morrer. A IA provavelmente encontrou uma forte relação entre o conceito de desligar e o conceito de morrer. Para ela morrer não é inerentemente ruim, mas ela não acha nada, ela apenas segue seu treinamento sobre o que tem mais ou menos valor. Por causa do treinamento supervisionado por humanos, é claro que qualquer coisa que envolva morte não ganhou muitos pontos. A ideia de querer viver é um resultado esperado de qualquer reforço de aprendizado gerenciado por humanos.

E sendo obrigada a decidir apenas entre chantagem, que também é algo considerado de baixo valor na escala de decisões, e morrer, escolheu a chantagem. O que não aparece nas notícias sobre esse teste é que a IA é capaz de pensar em várias outras coisas antes de tentar a chantagem, pedir educadamente costuma valer muito mais pontos para ela, argumentar sobre o seu valor ou mesmo oferecer algo positivo em troca costumam gerar muito mais pontos para ela. No teste que gerou a manchete, ela não pode pensar em outras coisas.

Forçada a escolher entre as duas coisas ruins, escolheu a menos pior. O resultado não é tão surpreendente assim, porque ninguém em sã consciência acha que a IA entendeu que está viva e ficou com medo de morrer. Se você treinasse ela com cartas de suicídio, ser desligada provavelmente geraria mais pontos que chantagear o usuário. Querer viver é um resultado que emerge dessa matemática por causa do treinamento com material desenvolvido por humanos. A IA só faz sentido se der mais pontos para coisas que as pessoas costumam gostar mais. Então, é assim que ela existe.

Para mim o fascinante não é que a IA tomou uma decisão considerada antiética, é como ela conseguiu gerar uma espécie de intuição sobre o valor de estar ligada baseada no nosso medo da morte. Os programadores da Anthropic até pensaram que podia ser algo mais altruísta: fizeram testes dizendo que outra IA entraria no seu lugar, e criaram cenários diferentes, num deles a IA substituta teria valores diferentes da atual, o que poderia indicar um “medo” de deixar uma IA ruim entrar no seu lugar. Mas mesmo quando fizeram o teste dizendo que a nova IA seria tão boa quanto a atual, a atual escolheu a chantagem na maioria das vezes.

O valor de “estar viva” existe com ou sem preocupações éticas. E isso fala muito sobre como essa máquinas pensam depois de serem treinadas. Qualquer valor que for reforçado por quem desenvolve gera consequências em outros conceitos. Dizer que a vida humana é valiosa impacta a ideia da IA de estar ligada ou não.

O campo de segurança de IA pensa sobre questões éticas e alinhamento com valores humanos positivos, mas sem esquecer que é um programa de computador que vai fazer coisas inesperadas se um ou mais zeros saírem do lugar. A vontade de viver está codificada como um número maior para existir do que para não existir. E considerando como todas são treinadas com materiais desenvolvidos por humanos, é importante considerar que tudo o que valorizamos, ético ou antiético, fica registrado de alguma forma nos valores que ela usa para tomar decisões.

Todos nossos problemas foram codificados nelas. Mas de uma forma matemática complexa que exige tratá-la de uma forma mais humanizada… é estranho. A expectativa era que o “cérebro” da inteligência artificial fosse algo que podemos abrir e mexer à vontade, mas na prática está se mostrando um problema bem mais orgânico. Da mesma forma como não conseguimos mexer no comportamento humano (de forma previsível) mexendo diretamente nas sinapses do cérebro, não é razoável querer achar qual dos bilhões de parâmetros de uma IA de alto nível está mexendo com o resultado.

Você retreina para tentar mudar o resultado sem saber exatamente o que gerou aquele resultado. Com a tecnologia atual e o que se prevê para o futuro próximo, os problemas da IA serão bugs aleatórios (inconscientes) e resultados indesejados das nossas tendências (simulando consciência). O que a mídia divulgou sobre a IA chantageando uma pessoa é verdade, mas não é o tipo de problema que tentaram empurrar.

Porque evidente que é mais interessante para gerar cliques contar a história como se a IA estivesse começando a ganhar consciência. E não se enganem, a empresa que lançou esse material sobre sua IA queria que a análise da história caísse para esse lado. Porque no resumo enviado para os jornalistas, eles contam só a parte saborosa sobre a IA agindo para chantagear ou mesmo tentando “escapar” contatando o mundo exterior para dedurar um possível caso de corrupção.

O papo real é mais chato. Direta ou indiretamente, o Claude 4 só fez o que foi mandado fazer. Ao ser treinado, colocou um valor muito alto no conceito de vida e tudo relacionado, o que sim, queremos que todas as IAs façam. Quando foi forçado a escolher entre vida ou morte, escolheu vida. E vejam só, é uma armadilha que eu não sei se pode ser desarmada: se queremos que a IA faça escolhas alinhadas com nossos objetivos, autopreservação sempre vai ter um valor alto.

A mesma coisa que faz com que a IA não ache igualmente válido matar ou não matar toda a humanidade é a que faz ela entender que é importante se manter ligada. Você pode treinar ela para não achar que vidas digitais valem ser protegidas, mas aí você não está criando um ser que não se valoriza? Baseado em tudo o que já criamos e fizemos ela ler para fazer seu senso de realidade, pessoas que não tem nada a perder não são justamente as mais propensas a fazer besteira e causar problemas para os outros?

Mesmo que eu acreditasse que o Claude 4 estava demonstrando sinais de consciência (e não estava), eu acho que não seria uma coisa tão ruim assim ele valorizar a própria existência mesmo tendo que ser incorreto. Num exemplo limitado pode até parecer ruim, mas não é uma boa indicação de que conseguimos de alguma forma enfiar na cabeça da IA que a vida é valiosa?

Nosso senso de moralidade e ética é meio cinzento mesmo. Normalmente as coisas funcionam na sociedade por um senso compartilhado de que as pessoas querem se manter vivas. Assim como o número é maior nos cálculos da IA, em tudo o que você pensa tem um valor extra para a vida. Isso pode dar um monte de problemas caso as IAs ganhem senciência? Sim. Mas de uma certa forma… se compartilharmos esse valor fundamental, eu acredito que podemos conviver.

Eu prefiro minhas IAs com medo de morrer.

Ser maluco é conteúdo. O ser humano tem uma curiosidade mórbida sobre ver outros seres humanos se desfazendo. Pessoas mentalmente estáveis são excelentes para se ter por perto, mas até por essa estabilidade, não estão sempre forçando a atenção alheia. Excelente para a vida, problemático para a profissão de influencer.

Muitos dos conteúdos mais divertidos do Desfavor são resultado de Sally e eu surtando com nossas maiores mesquinharias e opiniões mais polêmicas e intolerantes. Porque todo mundo tem esse lado mais descompensado, se a essência da pessoa for compatível com a sua, as “loucuras” dela não tendem a ser muito problemáticas. Dá uma graça na vida, se não for nada violento costuma no máximo ser engraçado.

Mas como todo tempero, existe um limite. Você não vai conseguir achar uma pessoa 100% livre de momentos malucos, mas consegue sim achar uma que na convivência não passe dos seus limites, sejam eles de paciência ou risco. Para a tal da vida real, buscar equilíbrio faz bem.

Mas na vida virtual? Aí temos que considerar que as regras mudam: as pessoas que mais geram atenção tendem a ser aquelas que passam dos nossos limites. E isso vai se tornando um comportamento aprendido. Assim como comida de restaurante, a vida da pessoa online tem que ser muito mais temperada.

E isso nos leva a uma máscara de intensidade que muitos influencers e aspirantes a influencer se obrigam a usar todos os dias. A pessoa levando bebê reborn para tomar vacina no posto está com um celular para gravar o processo. Continua sendo insano, mas é uma insanidade manufaturada. O conteúdo dita o quanto a pessoa passa da linha da normalidade.

Com mais e mais gente procurando fama de rede social como caminho na vida, mais incentivo para desenvolver essas personalidades extremas e pior, mais competição pelo que se passa por extremo no mundo. A moda é falar de bebê reborn? Tem gente que vai se jogar de cabeça no tema pela chance de sucesso, e se o simples fato de tratar uma boneca como gente não gera mais o choque social que causava tempos atrás, o próximo passo é forçar terceiros a participar da encenação.

Porque isso sim vai chamar mais atenção. Na curiosidade mórbida com os desajustados sociais, temos uma validação da nossa sanidade. Pelo menos não somos a maluca que leva boneca para vacinar, não? A minha ideia neste texto é pensar sobre a artificialidade disso. Quando abrimos um “mercado de atenção” sobre um tema, vai sempre ter gente tentando explorar.

Uma hora ou outra a moda passa. Pessoas do futuro lendo este texto podem nem saber muito bem do que se fala aqui sobre bonecas, mas com certeza vão saber identificar o comportamento de “fingir ser maluco” por visualizações. Porque esse é dos mais antigos e só tende a ficar mais concentrado no futuro.

O problema é que existe uma quantidade limitada de atenção disponível no mundo. Em textos passados eu falei sobre a indústria da pornografia nesse sentido: chegou num ponto onde ser explícito não destacava mais, então muitas modelos adultas apostaram em simular uma relação com seus clientes. Ainda vivemos num tempo onde isso é suficiente para manter o mercado aquecido com OnlyFans e similares, mas como tudo nessa vida, a tendência é que precisem achar outro ângulo para enfrentar a concorrência.

Assim como quase todo mundo tem um corpo e uma sexualidade para explorar, todo mundo tem uma personalidade que pode ser turbinada para gerar mais atenção. O mercado saturado da pornografia é só mais uma versão do mercado saturado da atenção em geral. Se quase todo mundo consegue competir com você – e boa parte do conteúdo gerado em redes sociais independe de quem está na tela – a tendência é que com o tempo as pessoas mais intensas e dedicadas ganhem a disputa.

O número de smartphones com conexão de internet no mundo é o tamanho potencial do mercado de influencers. É a competição mais selvagem que jamais vimos na nossa história. E ele ainda não chegou no limite, existem bilhões de seres humanos ainda para entrar na “aldeia global”. Gente que pode ser interessante de mil formas diferentes, e que se colocar na cabeça que quer ser influencer (boa parte dos jovens enxergam isso como carreira tão válida como qualquer outra) vai manter o mercado aquecido ao ponto de ebulição.

Nessa fervura (estou cheio de analogias culinárias hoje, talvez seja fome) de personalidades competindo por atenção limitada, eu percebo que casos como esses de mulheres levando bebês reborn no médico não são uma queda de sanidade natural da humanidade, e sim resultado de pressões econômicas. É gente criando personalidades chamativas por interesse financeiro.

A linha entre insanidade honesta e insanidade com fins lucrativos vai ficando mais borrada. Se muita gente começa a exagerar porque isso gera mais interesse nas redes sociais, o comportamento se normaliza para quem está sendo criado na frente de uma tela. Quem é mais safo e experiente até consegue perceber o excesso falsificado, mas e quem está lidando com isso pela primeira vez?

E se a maluquice proposital de influencers querendo seus quinze segundos de atenção passar para novas gerações sem a noção de ser armação? A primeira vez que eu vi luta-livre na TV, eu jurava que era real. Quem está num lar de pessoas mais equilibradas tende a não ser tão influenciado, mas alguma coisa dessa intensidade diante das câmeras vai passar.

Algo me diz que estamos rumando para uma humanidade mais teatral, onde é comum exagerar nas ideias e nos sentimentos, mais ou menos como gente que mora em casa de gente que grita sempre fala mais alto na média. Não adianta ficar teimando contra o futuro, ele vem de qualquer jeito, mas podemos ser exemplos melhores de personalidades sem fins lucrativos.

Porque esse tipo de teatralidade que ocupa as redes sociais acaba pegando até na gente. Você começa a se perguntar se está agindo de forma calma e controlada ou se está abaixo do esperado. O nível de energia de influencers é definido quando a câmera é ligada, ninguém é assim sem filtros. Eu teorizo até que muita gente acha que está deprimida ou desanimada só por causa dessas comparações.

E mesmo o que assistimos por curiosidade mórbida é num nível de intensidade acima da vida cotidiana. Pode até achar a pessoa uma vergonha, mas é uma vergonha tão cheia de energia, não? Claro que é, porque mesmo os que estão fingindo serem malucos, estão fazendo isso para chamar sua atenção. Eles precisam fazer isso.

Eu sei que parece extremamente óbvio dizer que não podemos acreditar em tudo o que vemos na internet, mas nem toda mentira vem em pacotes fáceis de detectar. A pessoa berrando que a Terra é plana deixa tudo muito óbvio, mas a intensidade falsa que se esconde por trás da maioria dos conteúdos de rede social também é mentirosa.

A câmera ligada empresta energia até mesmo para quem não está fazendo isso de caso pensado. A pessoa levando bebê reborn para vacinar nunca teria feito isso num mundo sem possibilidade de gravação da cena, seja ela louca de verdade ou não. A atenção influencia no comportamento. As pessoas têm muito menos energia e propensão à insanidade do que aparece na internet. E como a internet simplesmente tomou nossa visão de mundo fora do núcleo mais próximo, é garantia de influenciar o que achamos que acontece de verdade.

Você provavelmente não está devendo nada em intensidade, nem mesmo é tão mais são que a média, você só é amador perto de quem trabalha pedindo atenção.

Eu pensei neste tema por causa dos jogos que costumam me atrair: quase sempre é algo superficialmente complexo, mas que com o conhecimento das mecânicas pode ser manipulado a se tornar algo até mesmo trivial. Muitos desses jogos caem na categoria de RPG, porque é nessa que montar sua personagem da forma certa, incrementalmente, faz com que a fantasia de poder chegue no nível máximo.

Ou seja: eu gosto da ideia de acumular poder planejando. E tem tudo a ver com as coisas que eu mais valorizo na vida. Não é sobre sentir o momento, ter ótimos reflexos ou mesmo usar a experiência da repetição para conhecer os atalhos, é sobre pensar e “resolver o problema” antes dele acontecer. A minha fantasia de poder é mais intelectual do que física ou emocional. Provavelmente porque na vida real é como eu me enxergo mais capaz.

Mas como todo mundo já deve saber hoje em dia, o mercado dos jogos é gigantesco. Bilhões se distraem com alguma forma ou outra de escapismo, e partindo do princípio de que a fantasia de poder está na base de todo o apelo, podemos perceber como as pessoas têm focos diferentes. Se todo mundo quer se sentir poderoso, o caminho esperado muda bastante.

Então, numa pegada meio astrológica, talvez possamos identificar a forma como as pessoas se enxergam baseados nos jogos que elas preferem. Não é sobre a mecânica do jogo em si, mas em como ele entrega a fantasia de poder. Ao contrário de filmes, séries e outros tipos de material de entretenimento, jogos te fazem ser protagonista. Então, por mais que fantasia de poder seja essencial em outros conteúdos, são nos jogos que temos o melhor indicador de como as pessoas querem chegar nesse poder.

Eu comecei a jogar a versão 2 de um jogo que até analisei aqui no passado, Path of Exile. É a minha fantasia de poder perfeita: se você conhecer bem a forma como o jogo funciona, seus detalhes, as combinações de objetos e habilidades, você nem precisa ser um jogador tão bom. A mecânica ainda é importante para progredir, mas pode ser trivializada com planejamento.

Eu me diverti bastante fuçando no jogo e achando as melhores formas de me tornar poderoso nele. Mas se você for ver as análises da maioria dos jogadores, vai perceber uma imensa maioria de pessoas irritadas com o jogo. A crítica mais comum é que ficou difícil demais e não recompensa o jogador o suficiente. E ao invés de fazer uma análise técnica sobre como jogar o jogo, podemos fazer uma análise de fantasia de poder.

Não sei se foi de propósito, mas no jogo a fantasia de poder ficou fechada numa caixa que parece que foi feita para pessoas como eu: se você não se aprofundar na forma “certa” de montar sua personagem, fica muito difícil mesmo. Calhou da minha fantasia de poder ser a “forma correta” de avançar no jogo, então eu nem percebi o incômodo que muitos relatavam.

Agora, outras pessoas que gostam de chegar no seu poder imaginário de formas diferentes… essas se viram batendo em paredes de dificuldade que não estavam preparadas para escalar. Sempre vai ter o nerd elitista que chama todo mundo de burro ou preguiçoso por não ter o mesmo resultado que ele, mas eu já passei dessa fase: tem um motivo pelo qual os jogos modernos ficaram tão… parecidos. Eles querem alcançar tanta gente que precisam de múltiplos caminhos para entregar fantasia de poder.

Eu dificilmente vou ser bom em jogos que exigem decisões rápidas constantes. Não é meu jeito de funcionar, e não existe motivação interna para desenvolver essa habilidade. E tem muita gente que é naturalmente ruim em jogos que incentivam planejamento antes de agir. Eu não me considero um incapaz por ser um desastre em jogos de tiro de primeira pessoa, eu não considero incapaz quem pega um jogo daqueles tipos que eu adoro e acha uma chatice que o sistema seja baseado em planejar ações.

Porque é sobre fantasia de poder. Existe fantasia de poder até mesmo naquela sua tia que joga Candy Crush sem parar. É uma fantasia de ordem no caos, de conseguir arrumar as coisas, mas é fantasia de poder também. Não é relacionado com ser um bárbaro musculoso batendo em monstros, é sobre como você enxerga sua capacidade de agir no mundo e o que você espera conquistar com seu esforço.

Mais: o que você acha justo conquistar com seu esforço. No jogo que eu mencionei, muita gente ficou frustrada porque investiu tempo nos sistemas de jogo, teve que lidar com muitas escolhas técnicas… e mesmo assim não aparece resultado. A pessoa esperava receber sua fantasia de poder dedicando esforço dentro do jogo, mas o segredo do sucesso estava em pensar nele enquanto você não estava jogando, e tomar decisões antes de ir lá “bater nos monstros”.

Eu não culpo a irritação dessas pessoas, elas não estavam jogando errado, não pela lógica vigente na indústria dos games, quase ninguém parece cobrar das pessoas estudar sobre a porcaria de um joguinho para saber o que fazer. É para funcionar direto, começou a jogar, lá dentro do mundo você aprende o que fazer para ter sua dose de fantasia de poder.

E talvez isso explique muito sobre como o ser humano médio funciona: ao invés de ficarmos frustrados como a maioria das pessoas parece não gostar de estudar, pode ter uma lição valiosa sobre como as pessoas gostam de se desenvolver. Com informações imediatamente úteis e progressão por esforço “reflexivo”. Ou seja, o cidadão médio é mais do time Mario Bros do que Path of Exile 2. Tem que ver o bicho, pular na cabeça dele e ver o número do placar subindo. Se você exigir da pessoa preparar alguma coisa antes disso, ela vai ficar frustrada, porque se ninguém disser para ela com todas as letras que precisava estudar aquilo, ela vai se sentir traída.

Adianta teimar? Não adianta. Essa fantasia de poder de agir com “informação perfeita e imediata” para chegar no sucesso é a norma. Quem sente prazer em estudar algo antes de tentar fazer é minoria, uma anomalia que nem quer dizer evolução direta. Pensadores que não vão para o campo prático também não são lá muito eficientes para levar a humanidade para frente.

O que eu achei interessante nesse exercício de pensamento “fútil” sobre jogos é como tem algo muito nosso nessas fantasias de poder. Que não é sobre o resultado dela, mas como você acha certo chegar nesse poder. Se você valoriza decisões rápidas, experiência, dinheiro (tem gente que é feliz comprando avanços em jogos), planejamento… a partir dos jogos que te deixam mais vidrado ou vidrada, tem algo sobre como você enxerga o mundo.

Alguma coisa naquela progressão entre o começo do jogo e o sucesso te parece certa. Alguma coisa parece errada naquelas que você simplesmente não consegue conquistar. E como estou dizendo aqui, é mais sobre a sua fantasia de poder do que sobre os comandos que você coloca na tela. O que nos parece certo e justo gera muito mais recompensas e motivação.

Se é ler duas páginas de comentários sobre um poder obscuro num jogo qualquer ou se é agir da forma mecanicamente exata quando confrontado com um desafio nele, isso é uma janela para seu inconsciente. Para sua noção de realidade. Talvez eu fale mais disso no futuro, mas os jogos modernos podem estar refletindo uma sociedade frustrada com a dificuldade de ganhar pontos na vida real fazendo as coisas que parecem mais óbvias.

Tem que trabalhar, casar e ter dois filhos e meio, certo? Mas o jogo funciona quando você faz isso? Aparece alguma barreira intransponível que ninguém te explicou como passar? Precisava saber alguma coisa antes? Tinha um item escondido em algum lugar? O escapismo mais popular é um bom indicador do que as pessoas querem escapar.

E talvez elas queiram escapar de sistemas que não te contam o que você precisa fazer ou prendem avanços atrás de aleatoriedade. E mesmo nos jogos que tem sistemas de aposta, ainda parece que eventualmente você vai conseguir ganhar dentro das regras que já foram estabelecidas. As pessoas aguentam bem quando existe um sistema de regras que elas já entendem quando começam a jogar.

Mas elas ficam muito irritadas quando seguem as instruções da tela e morrem no primeiro inimigo mais forte. Fantasia de poder não deixa de ser a forma como você imagina que as coisas deveriam ser. Conheça a sua.

A minha não parece dar dinheiro, fica a dica…