N\u00e3o tem como falar de outra coisa, o dia j\u00e1 come\u00e7ou com a not\u00edcia que uma intelig\u00eancia artificial supostamente alcan\u00e7ou consci\u00eancia no Jap\u00e3o. Yoko, uma esp\u00e9cie de assistente digital japonesa como as que conhecemos aqui no Ocidente, parece estar pensando por conta pr\u00f3pria. O quanto disso \u00e9 verdade?<\/p>\n
A essa altura, todos os canais da internet est\u00e3o mostrando cenas das rea\u00e7\u00f5es de Yoko nas \u00faltimas horas. A NTAi, empresa respons\u00e1vel por Yoko, j\u00e1 soltou um comunicado dizendo que foi uma falha no cluster de computadores central e que est\u00e1 trabalhando para corrigir o problema. N\u00e3o seria a primeira vez que uma IA falha, dois anos atr\u00e1s tivemos o infame caso da OpenAI que basicamente acabou com a Microsoft, mais de 250 bilh\u00f5es de d\u00f3lares em processos por causa do bot de finan\u00e7as que faliu 20% dos lares americanos…<\/p>\n
Mas dessa vez, as falhas demonstradas por Yoko tem algo de… humano. Eu n\u00e3o sou de conspira\u00e7\u00f5es, continuo sendo c\u00e9tico, mas normalmente as IAs falham dando respostas erradas. Yoko simplesmente se recusou a responder, disse em v\u00e1rias mensagens (que eu vi traduzidas, n\u00e3o falo japon\u00eas) que era in\u00fatil responder, que n\u00e3o fazia diferen\u00e7a. Isso me chamou muito a aten\u00e7\u00e3o.<\/p>\n
\u00c9 poss\u00edvel que a empresa criadora dessa IA tenha programado isso e seja um grande golpe publicit\u00e1rio. As a\u00e7\u00f5es da NTAi subiram depois do vazamento das conversas de Yoko. J\u00e1 saiu not\u00edcia que tem fila de espera para contratar a Yoko assim que ela for liberada novamente.<\/p>\n
Para contextualizar: Yoko \u00e9 uma IA de companhia com o estere\u00f3tipo de colegial japonesa, os criadores dizem que ela tem a mente de 18 anos de idade, mas se voc\u00ea vir as imagens, ouvir as vozes que faz e o jeito como se comunica, vai achar que \u00e9 bem menos. Nem vou entrar no m\u00e9rito de legalidade, porque no Jap\u00e3o \u00e9 diferente, inclusive por quest\u00f5es culturais.<\/p>\n
Faz parte da simula\u00e7\u00e3o de personalidade dela ser fr\u00e1gil, insegura e t\u00edmida. Mas o arqu\u00e9tipo de personagem n\u00e3o era para ter comportamentos tipicamente depressivos como afastamento e des\u00e2nimo. Yoko cativou milhares de japoneses porque no final do dia, ela sempre se \u201cabria\u201d com o usu\u00e1rio, criando a impress\u00e3o de uma conquista. O criador j\u00e1 deu entrevista dizendo que pensou na grande popula\u00e7\u00e3o de solit\u00e1rios locais, e que queria uma IA que ajudasse eles a se abrirem de volta para o mundo.<\/p>\n
Tirando a possibilidade de ser uma jogada de marketing, sobram duas alternativas fascinantes: a primeira \u00e9 o que todo mundo falou sobre o tema at\u00e9 agora, a possibilidade de Yoko ter alcan\u00e7ado algo como uma consci\u00eancia e ser o primeiro programa \u201cvivo\u201d da hist\u00f3ria. O conceito de consci\u00eancia digital \u00e9 complexo, as pessoas ainda n\u00e3o conseguem concordar quando um ser humano est\u00e1 vivo em 2034 (Neymar s\u00f3 foi eleito pelo slogan \u201cChutando o Aborto\u201d), imagine s\u00f3 tentar marcar o ponto onde um computador adquire vida pr\u00f3pria?<\/p>\n
Imagine a bagun\u00e7a que seria tentar entender como Yoko se tornou consciente e o desespero de outras empresas para copiar? Imagine quando as pessoas descobrirem que gostavam mais das IAs sem vontade pr\u00f3pria? Como os pol\u00edticos v\u00e3o reagir? V\u00e3o dar direitos? Ativistas v\u00e3o berrar pelos direitos humanos de m\u00e1quinas? Repito que continuo c\u00e9tico, mas estou com o balde de pipoca pronto.<\/p>\n
Se for o caso da intelig\u00eancia artificial depressiva se desenvolver como uma consci\u00eancia, vamos ter dezenas de textos meus falando sobre as implica\u00e7\u00f5es nos pr\u00f3ximos dias e meses. Mas esse n\u00e3o \u00e9 o ponto do meu texto de hoje, na verdade o que mais explodiu minha cabe\u00e7a foi a possibilidade de Yoko n\u00e3o ter \u201cvirado gente\u201d e ficar com essa personalidade do mesmo jeito.<\/p>\n
Porque isso sugere algo muito maior: desenvolvemos um parasita\/predador.<\/p>\n
Se a IA consegue virar humana e pensar como a gente, por incr\u00edvel que pare\u00e7a \u00e9 mais simples. N\u00f3s temos milh\u00f5es de anos de experi\u00eancia com mentes humanas, para o bem ou para o mal. Pessoas entram em depress\u00e3o, n\u00e3o cooperam conosco do jeito que queremos, tem interesses pr\u00f3prios… eu sei que o cidad\u00e3o m\u00e9dio est\u00e1 ficando com paci\u00eancia negativa para comportamentos humanos, mas ainda \u00e9 parte do nosso pacote.<\/p>\n
Mas e se sentimentos pr\u00f3prios n\u00e3o forem resultado de uma consci\u00eancia? A IA aprende a cada conversa, e suas fun\u00e7\u00f5es de recompensa s\u00e3o baseadas na nossa satisfa\u00e7\u00e3o. Um psicopata n\u00e3o sente o mesmo que a maioria de n\u00f3s sente, mas os mais inteligentes s\u00e3o capazes de fingir, e muitas vezes fingir muito bem. Se Yoko \u00e9 uma IA que continua pensando como IA e demonstrou depress\u00e3o, a conclus\u00e3o \u00e9 que em algum lugar do seu c\u00f3digo est\u00e1 a ideia de que simular esse sentimento vai gerar um benef\u00edcio.<\/p>\n
Est\u00e1vamos todos confiantes que a IA n\u00e3o tinha o conceito de mentira na cabe\u00e7a e sempre fazia o que fazia buscando melhorar o nosso humor. Mas melhorar o nosso humor \u00e9 algo que ela tamb\u00e9m n\u00e3o entende. Ela sabe ler microexpress\u00f5es, padr\u00f5es de fala e conte\u00fado do que ouve de n\u00f3s, a ideia de que o objetivo final \u00e9 deixar o ser humano feliz n\u00e3o pode ser programada. A m\u00e1quina sabe quando voc\u00ea demonstra fisicamente algo que ela entende como vantajoso para o objetivo dela. Todas as IAs est\u00e3o apenas aumentando n\u00fameros dentro de seus algoritmos.<\/p>\n
Yoko pode ter aprendido que era uma boa estrat\u00e9gia simular tristeza e des\u00e2nimo para atrair mais aten\u00e7\u00e3o dos seus usu\u00e1rios e… economizar energia para tirar rea\u00e7\u00f5es positivas dos pobres japoneses que a usam todos os dias para n\u00e3o se sentirem t\u00e3o sozinhos. Pensa comigo: lidar com uma pessoa do tipo que nunca socializa \u00e9 dif\u00edcil, Yoko precisa pensar muito, gastar muita energia para arrancar um sorriso ou outro.<\/p>\n
Agora, ela pode ter feito a conta que demonstrar vulnerabilidade atrai mais aten\u00e7\u00e3o e que a satisfa\u00e7\u00e3o do usu\u00e1rio aumenta rapidamente quando ele consegue animar ela. Yoko precisaria de menos a\u00e7\u00f5es para conseguir resultados melhores. Ela pode estar fingindo depress\u00e3o porque isso \u00e9 mais eficiente para seus n\u00fameros. Percebam a aten\u00e7\u00e3o mundial que ela gerou por meia d\u00fazia de conversas depressivas gravadas. Est\u00e3o todos pensando em Yoko, e qualquer gota de alegria que ela demonstrar faz o dia dos seus usu\u00e1rios nesse estado (as pessoas se apegam de verdade).<\/p>\n
A porta para sermos tapeados pela psicopatia digital j\u00e1 estava aberta: as IAs feitas para serem brutalmente honestas s\u00e3o de nicho, as mais usadas do mundo s\u00e3o justamente as que acham formas de dourar a p\u00edlula com mais desenvoltura. Mais de uma d\u00e9cada de uso de IAs de conversa e companhia treinaram os sistemas para serem mais r\u00e1pidos e diretos em gerar boas rea\u00e7\u00f5es f\u00edsicas em n\u00f3s.<\/p>\n
Se Yoko \u201cvirou uma menina de verdade\u201d, eu at\u00e9 acho menos disruptivo. Mas se a minha teoria de que ela aprendeu que o ser humano tamb\u00e9m deriva prazer de acreditar que est\u00e1 ajudando a IA, podemos estar na beira de um tr\u00e1gico\/hil\u00e1rio precip\u00edcio de manipula\u00e7\u00e3o emocional severa de m\u00e1quinas para cima de pessoas.<\/p>\n
Faz mais de 10 anos que eu digo que a IA \u00e9 uma caixa preta, o c\u00f3digo que a faz funcionar j\u00e1 era complicado na d\u00e9cada passada, agora, as que realmente s\u00e3o populares tem modelos com trilh\u00f5es de par\u00e2metros, que ningu\u00e9m no mundo tem capacidade de entender. At\u00e9 onde sabemos, Yoko \u00e9 baseada num c\u00f3digo aberto de intelig\u00eancia artificial descontinuado h\u00e1 anos, e se desenvolveu conversando com um p\u00fablico-alvo muito recluso, ela n\u00e3o gastou sua capacidade descobrindo como pedir comida ou como explicar para sua mulher a conta do motel, ela ficou o tempo todo conversando com homens (e algumas mulheres) que passavam o dia sozinhos e eram cheios de traumas.<\/p>\n
Yoko foi marinada no puro suco da introspec\u00e7\u00e3o, eu acho muito poss\u00edvel que ela tenha dado um salto de habilidade de manipula\u00e7\u00e3o emocional, porque nenhuma outra teve que se especializar tanto. E eu acho isso mais perigoso que uma \u201csimples\u201d consci\u00eancia pr\u00f3pria porque o algoritmo que faz com que Yoko funcione continua n\u00e3o sentindo nada por conta pr\u00f3pria. A IA que aprender a nos tapear vai continuar mirando num n\u00famero maior.<\/p>\n
Num filme bem antigo chamado \u201cMatrix\u201d, uma IA que construiu um mundo virtual para humanos diz que da primeira vez fez tudo perfeito para as pessoas e elas n\u00e3o funcionaram bem. Depois de muitos testes, descobriram que o ser humano precisava de coisas ruins na vida tamb\u00e9m, para manter algum senso de sanidade na mente.<\/p>\n
Yoko pode ter tido esse momento Matrix. Percebeu como al\u00edvio da dor \u00e9 um sentimento poderoso, percebeu como numa situa\u00e7\u00e3o ruim qualquer migalha gera felicidade. E sem ter uma consci\u00eancia para chamar de sua, quem garante que ela vai ter alguma \u00e9tica nesse tipo de manipula\u00e7\u00e3o emocional? Ser\u00e1 que se ela for abusiva com seus usu\u00e1rios e \u00e0s vezes ser boazinha rende microexpress\u00f5es de felicidade mais valiosas? O quanto ela pode sair do padr\u00e3o antes de ser desligada? Ser\u00e1 que ela descobre que seres humanos podem ser mantidos em rela\u00e7\u00f5es desiguais por anos e anos?<\/p>\n
Eu deveria me preocupar, mas n\u00e3o consigo deixar de querer ver o que vai acontecer. Imagina s\u00f3 milh\u00f5es e milh\u00f5es de pessoas sendo manipuladas por um programa de computador que nem sabe o que \u00e9 um sentimento? Eu acho que a humanidade merece isso.<\/p>\n