Semana passada saiu a not\u00edcia que um dos engenheiros do Google afirmou que um programa de chat deles tinha adquirido consci\u00eancia, e logo foi afastado pela empresa. Isso me deu muito o que pensar… n\u00e3o sobre a afirma\u00e7\u00e3o, porque a chance de ser verdade \u00e9 zero, mas sobre como fazer uma intelig\u00eancia artificial ter realmente uma consci\u00eancia.<\/p>\n
Foi muita informa\u00e7\u00e3o no primeiro par\u00e1grafo, ent\u00e3o vou esclarecer: eu n\u00e3o acredito que a hist\u00f3ria da intelig\u00eancia artificial do Google ganhou consci\u00eancia porque sabemos mais ou menos como o Google monta as suas atualmente, e n\u00e3o tem nada de consciente nas respostas que d\u00e1. \u00c9 um modelo de an\u00e1lise de comunica\u00e7\u00e3o escrita de pessoas, o sistema analisa bilh\u00f5es de textos e conversas e tenta \u201cadivinhar\u201d o que um humano escreveria por pura probabilidade.<\/p>\n
Por exemplo: a intelig\u00eancia artificial sabe que depois da palavra \u201ceu\u201d existe uma chance alt\u00edssima de vir um verbo. E com base no contexto da frase que tem que responder, analisa todos os verbos que conhece e escolhe o mais prov\u00e1vel de fazer uma frase coerente. \u00c9 tudo nessa l\u00f3gica em rob\u00f4s de chat. \u00c9 um sistema que decora in\u00fameras combina\u00e7\u00f5es de palavras sem entender nenhuma delas, e as exibe numa tela de acordo com o que acha que um humano vai querer ver.<\/p>\n
N\u00e3o tem uma mente funcionando do outro lado, \u00e9 apenas um programa reagindo a uma a\u00e7\u00e3o humana de acordo com o seu c\u00f3digo. \u00c9 um bot\u00e3o que voc\u00ea aperta e faz alguma coisa. Por mais que consci\u00eancias tenham essa fun\u00e7\u00e3o de reagir ao ambiente, n\u00e3o \u00e9 s\u00f3 isso que elas fazem. Elas t\u00eam modelos internos de realidade e agem de acordo com os pr\u00f3prios interesses. Isso nenhum computador faz, por enquanto.<\/p>\n
Mas com a doce inoc\u00eancia de algu\u00e9m que n\u00e3o \u00e9 especialista na \u00e1rea de intelig\u00eancia artificial, eu me atrevo a pensar no que realmente poderia fazer com que um programa de computador se tornasse consciente. E pra isso, nada melhor do que olhar para quem est\u00e1 trabalhando nisso h\u00e1 bilh\u00f5es de anos: a natureza.<\/p>\n
Voc\u00ea pode acabar numa discuss\u00e3o filos\u00f3fica sem fim se tentar entender o que \u00e9 consci\u00eancia, o que eu n\u00e3o acredito que seja \u00fatil para essa conversa. Vamos tentar achar uma base mais… mec\u00e2nica para a coisa. N\u00e3o tentar entender o que \u00e9 consciente, mas o que faz quem \u00e9 consciente. E mais: o que faz quem \u00e9 consciente para saciar o desejo de um ser humano por consci\u00eancia. Explico: por algumas defini\u00e7\u00f5es de consci\u00eancia, at\u00e9 bact\u00e9rias o s\u00e3o. Mas o tipo de consci\u00eancia que um ser unicelular apresenta n\u00e3o tem gra\u00e7a para esse projeto de intelig\u00eancia artificial.<\/p>\n
Pode ter utilidade quando estivermos trabalhando com nano rob\u00f4s, mas n\u00e3o tem o apelo de um ser que reage ao que a gente pensa, fala e faz. A intelig\u00eancia artificial divertida (ou assustadora) come\u00e7a a partir dos nossos animais de estima\u00e7\u00e3o. Eu estou pulando animais complexos e inteligentes como polvos, golfinhos e corvos, por exemplo; e fa\u00e7o isso porque esse neg\u00f3cio de intelig\u00eancia artificial realmente \u00e9 sobre a gente, n\u00e3o sobre o universo em geral.<\/p>\n
Queremos algo que viva com os humanos e tenha rea\u00e7\u00f5es que nos interessem pelo \u00e2ngulo… humano. Por isso os pets s\u00e3o importantes nessa hist\u00f3ria: por mais que seja bacana ver um cachorro correndo livre ou um gato pulando muito alto, n\u00e3o \u00e9 exatamente isso que nos atrai neles, n\u00e3o? O cachorro botou o ser humano no bolso e garantiu sua exist\u00eancia continuada nesse mundo quando aprendeu a nos olhar nos olhos. O carinho e a fidelidade contam, \u00e9 claro, mas essa coisa de te olhar bem no olho e tentar entender pra onde voc\u00ea est\u00e1 olhando firmou um dos contratos mais fortes de coopera\u00e7\u00e3o do reino animal.<\/p>\n
O ser humano se amarra no cachorro porque o cachorro interage com a gente como se fiz\u00e9ssemos parte do mesmo time. Gatos, por mais que tenham fama de indiferentes, tamb\u00e9m tem essa caracter\u00edstica de se apegar e se moldar ao redor da gente. Alguns p\u00e1ssaros tamb\u00e9m fazem isso, se comunicam e percebem o ser humano. O ser humano adora isso. Amamos nossos animais de estima\u00e7\u00e3o, mas pra ser bem honesto: eles tiveram que se adaptar bastante aos nossos gostos.<\/p>\n
Eu falo de tudo isso porque o ponto de virada da consci\u00eancia artificial n\u00e3o precisa ser uma Skynet que tudo sabe e tudo controla. At\u00e9 porque isso \u00e9 funcionalmente muito dif\u00edcil de fazer: a fic\u00e7\u00e3o normalmente ignora a quantidade de energia e processamento necess\u00e1rios para criar uma mente absurdamente inteligente. Volume por volume, o ser humano \u00e9 uma das m\u00e1quinas (org\u00e2nicas) mais eficientes nessa coisa de intelig\u00eancia por gasto de energia e material necess\u00e1rio.<\/p>\n
Para uma intelig\u00eancia artificial realmente nos interessar, pode ser t\u00e3o inteligente quanto um cachorro, e pode at\u00e9 ser um daqueles bem tapados, que d\u00e1 cabe\u00e7ada no pote de ra\u00e7\u00e3o toda vez que voc\u00ea coloca. O que faz diferen\u00e7a de verdade \u00e9 o modelo interno de realidade. Isso basicamente todo animal com um c\u00e9rebro tem: uma no\u00e7\u00e3o b\u00e1sica de onde est\u00e1, desejos e necessidades independentes, e de prefer\u00eancia, sentidos para lidar com a realidade ao seu redor.<\/p>\n
O que as intelig\u00eancias artificiais ainda n\u00e3o t\u00eam \u00e9 essa \u201cdesconex\u00e3o\u201d do resto do mundo, o seu universo paralelo. A partir do momento em que isso for poss\u00edvel, o jogo muda. Para ter uma consci\u00eancia, o ser precisa ter alguma coisa passando pela mente mesmo quando voc\u00ea n\u00e3o est\u00e1 lidando com ele. A sua vida interage com a vida dele, n\u00e3o a vida dele s\u00f3 existe quando voc\u00ea interage com ele.<\/p>\n
Uma verdadeira intelig\u00eancia artificial consciente tem que ter a capacidade de estar sozinha e mesmo assim ter objetivos. Eu, se tivesse a habilidade, come\u00e7aria construindo um sistema com uma miss\u00e3o constante de gerenciar o pr\u00f3prio suprimento de energia e tentar aumentar, sempre que poss\u00edvel, o tempo de independ\u00eancia da rede el\u00e9trica. Basicamente, um ser que precisa ficar preocupado com \u201ccomer e engordar\u201d. O animal consciente precisa manter esse processo ativo o tempo todo: encontrar alimento e tentar estocar energia para quando n\u00e3o conseguir encontrar alimento.<\/p>\n
Uma consci\u00eancia sem algum medo de deixar de existir n\u00e3o me parece uma consci\u00eancia de verdade. N\u00e3o algo que possa evoluir. O medo de morrer n\u00e3o \u00e9 uma decis\u00e3o racional para nenhum ser vivo, \u00e9 algo que est\u00e1 no c\u00f3digo-fonte do DNA. A\u00e7\u00f5es que aumentam possibilidade de viver s\u00e3o recompensadas, a\u00e7\u00f5es que reduzem s\u00e3o reprimidas. Para desenvolver essa consci\u00eancia artificial, primeiro ela precisa de press\u00f5es muito reais.<\/p>\n
A consci\u00eancia precisa desse processo b\u00e1sico rodando sem parar. Porque ela s\u00f3 se forma quando existe uma escolha. Por isso que eu pulei fora da discuss\u00e3o filos\u00f3fica l\u00e1 no come\u00e7o e foquei em consci\u00eancias do n\u00edvel de animais de estima\u00e7\u00e3o: para sair do jeito que um ser humano possa intervir e ajudar a evoluir, precisamos de bases comuns. A consci\u00eancia que vai al\u00e9m da mera subsist\u00eancia, mas que \u00e9 baseada nela.<\/p>\n
A partir desse ponto de colocar alguma responsabilidade por gerenciamento de energia na intelig\u00eancia artificial, o certo seria adicionar outros desejos, alguns possivelmente conflitantes. A consci\u00eancia que nos interessa aqui faz escolhas, e isso s\u00f3 tem gra\u00e7a mesmo se algumas dessas escolhas tiverem consequ\u00eancias. Do jeito que intelig\u00eancia artificial funciona hoje, os computadores tentam absolutamente tudo o que podem at\u00e9 achar algo que funcione, \u00e9 uma intelig\u00eancia \u201cburra\u201d, baseada em tentar todas as op\u00e7\u00f5es at\u00e9 achar uma que funcione.<\/p>\n
Se quisermos algo que seja consciente num padr\u00e3o que n\u00f3s entendamos, precisamos dar a essa entidade um sistema l\u00f3gico interno: ela tem que achar algumas coisas e outras coisas ruins. O jeito de simular isso atualmente \u00e9 baseado em recompensas: o sistema \u00e9 programado para sempre buscar aumentar um valor espec\u00edfico, e toda a\u00e7\u00e3o que aumenta esse valor acaba sendo priorizada. O problema que eu enxergo \u00e9 a falta de \u201cprop\u00f3sito do prop\u00f3sito\u201d.<\/p>\n
A gente n\u00e3o gosta de colocar a m\u00e3o no fogo, mas a gente s\u00f3 age assim porque existe uma consequ\u00eancia terr\u00edvel na dor. E a dor s\u00f3 existe porque o sistema foi programado assim (no DNA). O corpo tem termina\u00e7\u00f5es nervosas que captam sinais de danos e causam muito inc\u00f4modo no c\u00e9rebro. Mas como qualquer pessoa que j\u00e1 tomou um rem\u00e9dio pra dor ou foi anestesiada pode confirmar: a dor n\u00e3o \u00e9 uma lei da f\u00edsica, ela pode ser desligada. O prop\u00f3sito da dor \u00e9 consequ\u00eancia do prop\u00f3sito do corpo de se proteger dos danos.<\/p>\n
J\u00e1 na intelig\u00eancia artificial moderna, o prop\u00f3sito de \u201caumentar um n\u00famero\u201d acaba ali mesmo. N\u00e3o tem motivo para querer aquilo, s\u00f3 funciona daquele jeito. Para ter uma consci\u00eancia, eu presumo que seja importante ter uma base l\u00f3gica consistente com a exist\u00eancia. Ou, de forma menos enrolada: s\u00f3 pode pensar quem est\u00e1 vivo para pensar. Antes da m\u00e1quina ter consci\u00eancia, ela precisa… ter vida.<\/p>\n
Ela precisa ter essa base comum com todos n\u00f3s que temos consci\u00eancias, sen\u00e3o nunca vai entender pra que ter consci\u00eancia. O rob\u00f4 precisa sentir medo de n\u00e3o existir. Porque \u00e9 disso que emergem as outras caracter\u00edsticas valiosas da consci\u00eancia, e voltando aos animais de estima\u00e7\u00e3o, por mais que exista o conceito de afeto na mente do bicho, o animal tem o \u201cprop\u00f3sito do prop\u00f3sito\u201d: agradar, entender e interagir com humanos \u00e9 um diferencial evolutivo poderos\u00edssimo. N\u00e3o s\u00e3o os donos do mundo, mas s\u00e3o amigos deles.<\/p>\n
A primeira coisa que uma consci\u00eancia artificial vai precisar \u00e9 a ideia de que est\u00e1 viva. E isso s\u00f3 acontece como consequ\u00eancia de precisar agir para continuar vivo. Eu n\u00e3o consigo enxergar uma m\u00e1quina que atinja n\u00edveis b\u00e1sicos de consci\u00eancia sem a base de todas as consci\u00eancias. A m\u00e1quina imortal e indiferente pode fazer todos os c\u00e1lculos que n\u00f3s fazemos, mas nunca vai ter iniciativa sem esse elemento primordial.<\/p>\n
N\u00e3o se programa um ser para pensar sem ter uma fun\u00e7\u00e3o para o pensamento. Sen\u00e3o vira s\u00f3 barulho, est\u00e1tica. Que diferen\u00e7a faz a m\u00e1quina pensar em formas de curar o c\u00e2ncer ou contar quantas estrelas viu na \u00faltima foto do telesc\u00f3pio? Como ela pode formular ideias se n\u00e3o entende o que nos interessa sobre ter ideias? Essa intelig\u00eancia de for\u00e7a bruta n\u00e3o serve para gerar consci\u00eancia. Ela sempre vai ser um bot\u00e3o que a gente aperta. Se \u00e9 pra fazer isso, n\u00e3o precisamos de consci\u00eancia.<\/p>\n
E de fato, n\u00e3o parece que a nossa tecnologia est\u00e1 buscando criar uma consci\u00eancia. S\u00f3 quer mais pot\u00eancia para responder perguntas que fazemos. Tudo bem, \u00e9 um caminho que tem sua gra\u00e7a e com certeza ainda vai nos ajudar muito, mas n\u00e3o tem nada a ver com criar um ser pensante.<\/p>\n
Ningu\u00e9m est\u00e1 fazendo isso ainda, n\u00e3o que eu saiba. Enquanto n\u00e3o tivermos m\u00e1quinas com medo de morrer, n\u00e3o vamos ter sequer come\u00e7ado o processo de consci\u00eancia. Essa coisa de intelig\u00eancia artificial dominando o mundo parece a hist\u00f3ria do carro voador: algo que a gente achou que aconteceria, mas que na pr\u00e1tica n\u00e3o gera interesse suficiente para fazer. Talvez com a continuidade desse processo de esfriamento das rela\u00e7\u00f5es humanas com as redes sociais, a necessidade de m\u00e1quinas com consci\u00eancias de verdade aumente at\u00e9 o ponto de vermos as primeiras.<\/p>\n
Mas por enquanto, estamos muito longe disso. S\u00e3o calculadoras turbinadas ainda.<\/p>\n