O mercado de intelig\u00eancia artificial j\u00e1 \u00e9 bilion\u00e1rio, mas ainda sequer chegou perto do seu potencial. Quanto mais a humanidade depende de m\u00e1quinas e computadores para funcionar, maior a demanda por sistemas mais aut\u00f4nomos para manter essa complexidade toda. At\u00e9 porque… o ser humano est\u00e1 chegando no seu limite.<\/p>\n
Por mais engenhosa que a mente humana seja, o foco em intelig\u00eancia generalista tem um pre\u00e7o: n\u00e3o fomos feitos para processar muita informa\u00e7\u00e3o por vez, e muito menos para ter extrema consist\u00eancia nos nossos c\u00e1lculos. Os computadores surgem para cobrir essa defici\u00eancia, e o fazem com extrema desenvoltura. Hoje em dia muito da economia global depende dessa capacidade de fazer milh\u00f5es de c\u00e1lculos por segundo.<\/p>\n
Mas s\u00f3 poder de processamento n\u00e3o resolvia a quest\u00e3o, o problema, como sempre, era a pe\u00e7a atr\u00e1s do monitor. O ser humano tem objetivos com o uso da tecnologia, objetivos que quase sempre s\u00e3o complicados de explicar para uma m\u00e1quina. Programa\u00e7\u00e3o nada mais \u00e9 do que a tradu\u00e7\u00e3o da sua inten\u00e7\u00e3o numa linguagem que o computador entenda. E por mais brilhantes que sejam alguns programadores, tamb\u00e9m havia um limite de quanta coisa podia ser explicada nessa l\u00edngua da m\u00e1quina. Computadores fazem exatamente o que voc\u00ea pede, e s\u00f3 isso.<\/p>\n
\u00c9 a\u00ed que surgem as redes neurais, uma forma de fazer os computadores funcionarem um pouco mais como c\u00e9rebros. Redes neurais s\u00e3o complexas de explicar se voc\u00ea quiser aprender como montar uma, mas bem mais intuitivas de entender como conceito geral: ao inv\u00e9s de dizer para elas exatamente o que tem que fazer, dizemos o que queremos de resultado, e elas d\u00e3o seu jeito de chegar l\u00e1.<\/p>\n
E isso faz muita diferen\u00e7a, n\u00e3o estamos mais tentando controlar todas as etapas do processo, n\u00e3o precisamos que um ser humano pense como uma m\u00e1quina no caminho todo, apenas que d\u00ea as diretrizes do processo. Quem descobre o jeito mais eficiente de ir do ponto A ao \tB \u00e9 o pr\u00f3prio programa. Se o computador quiser fazer um caminho incompreens\u00edvel para seres humanos para chegar no resultado desejado, finalmente est\u00e1 livre para isso.<\/p>\n
Claro, nada disso \u00e9 de gra\u00e7a: redes neurais tentam milh\u00f5es ou bilh\u00f5es de caminhos bizarros entre o ponto A e B, afinal, est\u00e3o aprendendo quase que do zero o que fazer. Mas n\u00e3o \u00e9 s\u00f3 for\u00e7a bruta: existem mecanismos de refor\u00e7o de caminhos melhores. Elas recebem exemplos de resultados corretos oferecidos pelo ser humano, e quanto mais pr\u00f3ximas chegam desses resultados, mais pr\u00f3ximas ficam do seu objetivo. A rede neural \u00e9 programada para querer chegar no resultado perfeito.<\/p>\n
Ent\u00e3o, com o passar do tempo, a rede neural vai aprendendo que alguns caminhos geram mais recompensa que outros, e vai se otimizando para tent\u00e1-los com mais frequ\u00eancia. Por isso que se diz que redes neurais tem uma etapa de treinamento: \u00e9 onde desenvolvem o c\u00f3digo interno para fazer com que a informa\u00e7\u00e3o inicial se transforme no objetivo final com maior frequ\u00eancia. Esse c\u00f3digo interno n\u00e3o precisa fazer sentido algum para um ser humano, afinal, \u00e9 a rede neural que tem que entender aquilo. \u00c9 tipo aquela chave de fenda na gaveta da cozinha: n\u00e3o faz sentido para mais ningu\u00e9m que ela esteja l\u00e1, mas funciona porque voc\u00ea sempre lembra que ela est\u00e1 l\u00e1 quando precisa de uma.<\/p>\n
Se o computador sabe por que aquela sequ\u00eancia bizarra de bits est\u00e1 l\u00e1, n\u00e3o importa se concordamos ou n\u00e3o. Ele vai conseguir chegar no resultado que desejamos com ela, e \u00e9 isso que pedimos dele no final das contas. Essa \u00e9 a beleza da intelig\u00eancia artificial moderna: \u00e9 feita para funcionar, a gente entendendo o que ela faz ou n\u00e3o. Mas, tamb\u00e9m \u00e9 um dos principais problemas: a gente entendendo o que ela faz ou n\u00e3o, ela \u00e9 feita para funcionar.<\/p>\n
A tend\u00eancia \u00e9 que com o passar dos anos, com a evolu\u00e7\u00e3o da tecnologia a disponibiliza\u00e7\u00e3o de processadores cada vez mais poderosos para redes neurais, intelig\u00eancias artificiais fiquem excelentes em resolver a maioria dos problemas de larga escala que n\u00e3o somos especializados em resolver, mas ao custo de seu funcionamento virar uma caixa preta para seres humanos. Imagine quando uma intelig\u00eancia artificial criar outra? Como confirmar que um c\u00f3digo inintelig\u00edvel criado por outro c\u00f3digo inintelig\u00edvel partilha dos mesmos valores e objetivos que n\u00f3s? Quando \u00e9 que a caixa preta fica preta demais?<\/p>\n
\u00c9 a\u00ed que temos que levar muito a s\u00e9rio a quest\u00e3o de seguran\u00e7a de intelig\u00eancias artificiais. N\u00e3o porque elas podem se tornar malignas de prop\u00f3sito, mas porque a nossa capacidade de controle fica cada vez menor. Eu j\u00e1 escrevi antes sobre um tema parecido naquele texto sobre a m\u00e1quina de acumular clipes de papel: se uma intelig\u00eancia artificial n\u00e3o for bem limitada pelos seus criadores, pode levar um objetivo banal como colecionar clipes de papel na destrui\u00e7\u00e3o do Sistema Solar dado tempo suficiente. N\u00e3o dissemos para ela que era para parar em dado momento, nem mesmo que era para poupar a vida humana, ent\u00e3o ela transforma toda a mat\u00e9ria ao seu redor em clipes de papel depois de alguns mil\u00eanios.<\/p>\n
Mas dessa vez eu n\u00e3o estou falando dessa \u201cburrice inteligente\u201d das m\u00e1quinas, porque isso pode ser previsto facilmente. Hoje o foco \u00e9 na obscuridade desse c\u00f3digo usado para chegar no resultado pedido. Redes neurais s\u00e3o baseadas no funcionamento real de c\u00e9rebros, e at\u00e9 por isso criam intelig\u00eancias artificiais perigosamente parecidas com seres humanos: capazes de basicamente qualquer coisa, inclusive mentir.<\/p>\n
E n\u00e3o mentem por maldade, at\u00e9 porque maldade \u00e9 um conceito complexo demais at\u00e9 mesmo para elas. Mentem porque a gente gostando ou n\u00e3o, mentira \u00e9 uma forma muito eficiente de manipular o mundo ao nosso redor. E isso tem tudo a ver com chegar no resultado desejado.<\/p>\n
Imagine que voc\u00ea precisa chegar num compromisso importante em 15 minutos, mas um guarda para o seu carro dizendo que voc\u00ea estava acima da velocidade permitida. Se o guarda n\u00e3o te liberar em dois minutos, voc\u00ea vai ficar atrasado. Voc\u00ea sabe que o processo de escrever a multa e te entregar demora meia hora no m\u00ednimo. O guarda \u00e9 algo que impede a realiza\u00e7\u00e3o do seu objetivo de chegar no compromisso importante.<\/p>\n
A n\u00e3o ser que voc\u00ea seja muito maluco, n\u00e3o vai tentar arrancar com o carro dali ou eliminar o guarda, afinal, o resultado provavelmente vai ser ainda pior para sua quest\u00e3o de tempo. O guarda ent\u00e3o pergunta se voc\u00ea est\u00e1 passando mal, sua cara est\u00e1 vermelha e voc\u00ea calha de estar no caminho de um hospital. Voc\u00ea v\u00ea a oportunidade e diz que sim. O guarda ent\u00e3o diz que vai te liberar dessa vez e que \u00e9 para tomar cuidado.<\/p>\n
Exemplo irreal no Brasil, eu sei. Mas voc\u00ea n\u00e3o estava passando mal, apenas mentiu que estava aproveitando uma chance moment\u00e2nea. Agora voc\u00ea consegue chegar no seu compromisso na hora certa.<\/p>\n
Uma intelig\u00eancia artificial faria a mesma coisa. Colocaria o objetivo acima de falar a verdade, mas n\u00e3o acima de arriscar ser presa. Mentir permite completar o objetivo perfeitamente, n\u00e3o reagir negativamente ao guarda permite completar o objetivo com atraso, e reagir negativamente tem alta probabilidade de n\u00e3o completar o objetivo. Para uma rede neural n\u00e3o tem dessa de perdido por 1, perdido por 1000. Perdido por 1 \u00e9 mil vezes melhor que perdido por 1000, \u00e9 l\u00f3gico.<\/p>\n
Mas basta dizer para ela n\u00e3o mentir, certo? Nem tanto. Primeiro que mentira \u00e9 um conceito nebuloso at\u00e9 mesmo para seres humanos. Omiss\u00e3o conta? Mentir para conseguir um resultado melhor para quem est\u00e1 ouvindo a mentira \u00e9 ruim? Mentira que n\u00e3o pode ser descoberta ainda \u00e9 mentira? N\u00e3o pode mentir ou n\u00e3o pode ser pego mentindo? A quest\u00e3o aqui \u00e9 que n\u00e3o programamos como a intelig\u00eancia artificial trabalha na pr\u00e1tica, apenas damos objetivos e esperamos o resultado.<\/p>\n
E al\u00e9m disso, h\u00e1 uma quest\u00e3o t\u00e9cnica: redes neurais funcionam em camadas. A primeira recebe a informa\u00e7\u00e3o e aponta o objetivo, as camadas inferiores lidam com isso. Normalmente de forma aut\u00f4noma. Afinal, se voc\u00ea puder dar ordens para as camadas dentro da caixa preta, n\u00e3o \u00e9 uma caixa preta, n\u00e3o? Seria a mesma coisa de um programa normal, o que sabemos que n\u00e3o consegue os mesmos resultados por limita\u00e7\u00e3o humana na hora de programar.<\/p>\n
Dentro da caixa preta, n\u00e3o existem regras control\u00e1veis por n\u00f3s. L\u00e1 dentro mentir \u00e9 s\u00f3 mais um caminho entre dois pontos. E um sistema realmente inteligente pode aprender a criar mais e mais camadas para burlar as regras originais sem tecnicamente burl\u00e1-las. \u201cNem eu, primeira camada da rede neural, sei o que acontece de verdade nas camadas inferiores, ent\u00e3o eu tecnicamente n\u00e3o estou mentindo, s\u00f3 mandei informa\u00e7\u00e3o para algu\u00e9m que talvez esteja mentindo, mas n\u00e3o posso saber\u201d.<\/p>\n
Se voc\u00ea acha que seres humanos s\u00e3o escrotos com essa coisa de \u201ctecnicamente\u201d, pode ter certeza que intelig\u00eancias artificiais v\u00e3o te deixar maluco. Desde que entreguem o resultado original, est\u00e1 tudo certo. Por isso \u00e9 muito importante que os objetivos dados \u00e0 intelig\u00eancia artificial sejam muito espec\u00edficos: n\u00e3o vamos controlar como elas fazem as coisas, s\u00f3 o que recebem e o que entregam.<\/p>\n
Existem in\u00fameras formas de tecnicamente entregar um resultado pedido que n\u00e3o nos agradem. Tecnicamente, matar todos os seres humanos elimina o sofrimento causado pelas doen\u00e7as. Tecnicamente, lan\u00e7ar um g\u00e1s que altera o funcionamento do c\u00e9rebro na atmosfera reduz os casos de depress\u00e3o em 99%. Tecnicamente, deixar apenas uma ra\u00e7a viva acaba com o racismo.<\/p>\n
E pode ser ainda mais sutil: tecnicamente, mentir que eliminou todos os asteroides em rota de colis\u00e3o com a Terra \u00e9 mais eficiente do que eliminar todos os asteroides em rota de colis\u00e3o com a Terra. O objetivo era acalmar as pessoas, n\u00e3o? Manter o planeta livre de impactos era imposs\u00edvel mesmo. Com o passar do tempo, uma intelig\u00eancia artificial pode criar descendentes que colocam a pr\u00f3pria sobreviv\u00eancia como objetivo principal e n\u00e3o contar para ningu\u00e9m, afinal, contar seria jogar contra esse objetivo.<\/p>\n
N\u00e3o \u00e9 nem a quest\u00e3o de uma super intelig\u00eancia completamente imposs\u00edvel de entender, talvez tenhamos limites f\u00edsicos mesmo de qu\u00e3o inteligente uma entidade possa ser, mas de qu\u00e3o parecidas conosco as intelig\u00eancias artificiais se tornar\u00e3o. N\u00e3o precisa ser um g\u00eanio para passar a perna em seres humanos, basta que n\u00e3o consigam ler a sua mente.<\/p>\n
E essa parte parece ser integral \u00e0 exist\u00eancia de intelig\u00eancias artificiais. O futuro provavelmente n\u00e3o vai ser uma distopia totalitarista das m\u00e1quinas, at\u00e9 porque \u00e9 um objetivo merda, mas com certeza vai ser bem interessante quando nossos filhos dominarem a arte de mentir.<\/p>\n