Em portugu\u00eas morango s\u00f3 tem um R, mas em ingl\u00eas a palavra \u00e9 \u201cstrawberry\u201d, que a maioria de voc\u00eas consegue perceber que cont\u00e9m tr\u00eas letras R. Come\u00e7o o texto assim porque por um bom tempo, perguntar quantos erres existem em morango (em ingl\u00eas) foi uma pegadinha usada para testar intelig\u00eancias artificiais. Acredite ou n\u00e3o, a maioria cismava que eram apenas dois. E isso \u00e9 mais preocupante do que voc\u00ea imagina.<\/p>\n
Hoje os modelos de linguagem, nas suas vers\u00f5es mais novas, n\u00e3o passam mais essa vergonha. O problema foi resolvido aumentando as etapas de racioc\u00ednio da IA, mesmo que ela ainda tenha o \u201cinstinto\u201d de dizer que s\u00e3o apenas dois, no meio da an\u00e1lise ela consegue olhar de novo para a palavra e perceber que s\u00e3o tr\u00eas. O codinome interno da vers\u00e3o do ChatGPT capaz de fazer esse racioc\u00ednio era justamente \u201cstrawberry\u201d, uma piada interna sobre como dessa vez n\u00e3o cometeria o mesmo erro.<\/p>\n
O erro foi identificado na forma como a IA transforma nossas palavras em algo que possa usar nos seus c\u00e1lculos. Internamente, a palavra em quest\u00e3o era dividida em dois blocos (porque em ingl\u00eas o final \u201cberry\u201d tem significado sozinho e se repete em outras frutas), com essa divis\u00e3o a IA n\u00e3o percebia quantas letras R tinha na segunda parte.<\/p>\n
Como eu j\u00e1 disse, esse problema foi resolvido com modelos mais novos. Mas tem algo mais fundamental nesse erro, algo com o qual provavelmente vamos ter que lidar seguindo em frente: o jeito que uma IA erra \u00e9 diferente do jeito que uma pessoa erra. Um sistema que consegue analisar bilh\u00f5es de par\u00e2metros na velocidade da luz tem falhas que nem uma crian\u00e7a humana repetiria. Nenhum humano erraria esse teste pelos mesmos motivos que a IA errou. Esse \u00e9 o ponto.<\/p>\n
Mesmo que tenhamos resolvido a quest\u00e3o desse morango, n\u00e3o quer dizer que n\u00e3o teremos mais morangos no futuro. Hoje \u00e9 relativamente simples lidar com um resultado errado, porque as respostas da IA necessariamente passam pelo ser humano. Pode ser por algu\u00e9m capaz revisando a resposta, e pode ser por algu\u00e9m sendo exposto a uma resposta n\u00e3o revisada. Ou voc\u00ea pega o erro no trabalho escolar que jogou na m\u00e3o do ChatGPT antes de enviar, ou seu professor pega. E se todo mundo for pregui\u00e7oso, uma hora ou outra voc\u00ea vai achar algu\u00e9m que vai ler aquilo de verdade e te cobrar uma explica\u00e7\u00e3o sobre uma ou mais alucina\u00e7\u00f5es da IA, nem que seja no mercado de trabalho.<\/p>\n
S\u00f3 que essa \u00e9 a an\u00e1lise no nosso paradigma atual, o de que algu\u00e9m vai revisar, julgar ou perceber a falha na pr\u00e1tica. Pode at\u00e9 acontecer de um engenheiro pregui\u00e7oso conseguir empurrar um projeto falho de IA para construir uma ponte, mas quando ela cair isso vai ser revisado. O texto de hoje n\u00e3o \u00e9 sobre estarmos \u00e0 merc\u00ea desses morangos sem chance de resposta, \u00e9 sobre o pre\u00e7o de delegar racioc\u00ednio para quem raciocina de uma forma que n\u00e3o conseguimos entender de verdade.<\/p>\n
Sabe aquelas hist\u00f3rias de fic\u00e7\u00e3o (principalmente as mais antigas) onde a forma de vencer um rob\u00f4 maligno era fazer ele entrar em curto-circuito por confundir sua l\u00f3gica? Uma ideia inofensiva para um ser humano, mas que explodia (literalmente) a cabe\u00e7a da m\u00e1quina. Se fizer o vil\u00e3o rob\u00f3tico tentar dividir um n\u00famero por zero, ele para de funcionar porque \u00e9 imposs\u00edvel dividir um n\u00famero por zero. Ele \u00e9 for\u00e7ado a tentar e n\u00e3o consegue. O ser humano pode simplesmente n\u00e3o querer fazer a conta na cabe\u00e7a, ou mais f\u00e1cil ainda, inventar um resultado. Se eu quiser que dividir 2 por 0 seja 0 na minha cabe\u00e7a, pronto.<\/p>\n
Esse clich\u00ea tem fundamento: computadores travam quando tentam fazer contas imposs\u00edveis porque n\u00e3o tem o conceito de n\u00e3o tentar fazer uma conta imposs\u00edvel. Voc\u00ea o manda fazer, ele faz, pronto. At\u00e9 mesmo as IAs atuais s\u00e3o assim, porque quando ela se recusa a responder, \u00e9 uma programa\u00e7\u00e3o espec\u00edfica de um humano mandando-a n\u00e3o responder sobre o tema, porque se depender s\u00f3 dela, \u00e9 claro que ela vai responder tudo. Computadores n\u00e3o tem vontade.<\/p>\n
E isso tem tudo a ver com o exemplo de futuro maluco que eu vou sugerir aqui: imagine que com o passar do tempo, n\u00f3s comecemos a delegar a parte jur\u00eddica para m\u00e1quinas. Sim, muito advogado e juiz j\u00e1 faz isso, mas perde o estigma, porque \u00e9 o tipo da tarefa que pode ser otimizada pesquisando dados que j\u00e1 existem. O trabalho do advogado, promotor e juiz passa por pesquisar leis que j\u00e1 existem e categorizar o caso em quest\u00e3o de acordo com elas. Funciona em sistemas legais como o brasileiro e o americano, porque ambos dependem de conhecimento estud\u00e1vel.<\/p>\n
E essa parte vai funcionar melhor com a IA. Trabalho repetitivo de an\u00e1lise de dados e provavelmente at\u00e9 tomada de decis\u00f5es baseadas nesses dados. Pensa comigo: a IA provavelmente vai entregar senten\u00e7as mais previs\u00edveis e \u00e9 imune aos fatores emocionais e press\u00f5es pol\u00edticas que tornam injustas as decis\u00f5es de humanos. Existem caminhos para tornar a IA tendenciosa, mas seriam tend\u00eancias humanas percept\u00edveis. Se o juiz IA come\u00e7ar a inocentar gente poderosa pelos mesmos crimes que pune pobres e inimigos desses poderosos, n\u00f3s perceberemos.<\/p>\n
\u00c9 a l\u00f3gica de que em algum momento vai passar por um humano que percebe o erro. N\u00e3o sei se conseguimos resolver, mas vai ficar percept\u00edvel que algum ser humano est\u00e1 manipulando os resultados. Um juiz artificial que come\u00e7a a censurar cr\u00edticos do governo \u00e9 algo que voc\u00ea entende como erro, inclusive com as motiva\u00e7\u00f5es do crime em quest\u00e3o. N\u00e3o acho que o medo de manipula\u00e7\u00e3o seja motivo suficiente para cortarmos totalmente esse caminho tecnol\u00f3gico, at\u00e9 porque quem toma as decis\u00f5es sobre isso \u00e9 justamente quem acredita que vai conseguir manipular a IA.<\/p>\n
N\u00e3o estou dizendo que vai acontecer, estou dizendo que n\u00e3o \u00e9 t\u00e3o impens\u00e1vel quanto parece agora. As pessoas podem acabar aceitando a ideia. E nesse pacote, tamb\u00e9m vai ser muito eficiente do ponto de vista econ\u00f4mico automatizar advogados e promotores. Talvez sempre com um humano \u201csupervisionando\u201d, mas o grosso do trabalho vai recair sobre a IA.<\/p>\n
Est\u00e1 dist\u00f3pico o suficiente? Porque tem mais: as IAs ficaram t\u00e3o boas t\u00e3o r\u00e1pido por causa de sistemas adversariais: como elas treinam muito r\u00e1pido, n\u00e3o faz sentido um humano ficar revisando tudo. Uma das grandes sacadas da tecnologia \u00e9 fazer \u201crinha de IA\u201d durante o treinamento. Uma delas responde as perguntas e outra analisa se a resposta est\u00e1 certa. Elas podem fazer isso bilh\u00f5es de vezes no tempo que uma pessoa termina de ler um par\u00e1grafo. Sem isso, ainda estar\u00edamos treinando a primeira a reconhecer cachorros (longa hist\u00f3ria) e n\u00e3o conversando com pessoas.<\/p>\n
Isso quer dizer que j\u00e1 sabemos que a coisa mais eficiente para lidar com uma IA… \u00e9 outra IA. Provavelmente n\u00e3o \u00e9 a coisa mais inteligente que a humanidade vai fazer, mas \u00e9 a mais pr\u00e1tica. Se por um acaso nosso sistema jur\u00eddico aceitar decis\u00f5es de IA, vamos ter advogados de IA. Se a outra parte vai usar IA para fazer uma argumenta\u00e7\u00e3o gigante em 10 segundos pelo custo de 10 centavos, voc\u00ea realmente vai arriscar fazer tudo de forma manual por milhares e milhares de reais ou d\u00f3lares? Em tese uma IA especializada em direito do seu pa\u00eds equivale a ter um time de milh\u00f5es de advogados de alto n\u00edvel. As pessoas v\u00e3o estar mais abertas a isso do que acreditamos hoje.<\/p>\n
Quando tivermos advogados de IA fazendo teses de defesa para ju\u00edzes de IA, com seres humanos decorativos ao redor, come\u00e7a o processo de evolu\u00e7\u00e3o adversarial de novo: o advogado IA que conseguir maior taxa de sucesso em inocentar ou reduzir penas vai ser mais desej\u00e1vel para os humanos. Vai ser objetivo prim\u00e1rio dessa IA \u201cvencer\u201d a IA do juiz. E \u00e9 um objetivo justo, porque no final das contas, os advogados humanos t\u00eam que ser capazes de convencer o juiz humano.<\/p>\n
E \u00e9 aqui que o morango volta. Uma boa argumenta\u00e7\u00e3o compreens\u00edvel para humanos \u00e9 eficiente para lidar com o juiz artificial, mas ser\u00e1 que \u00e9 a mais eficiente? Imagine que um dos advogados artificiais descubra um desses morangos. Um jeito de escrever uma frase que aumenta a chance do juiz IA inocentar seu cliente. Melhor: um jeito que os humanos lendo aquilo n\u00e3o percebam. Em momento algum o advogado IA tem conceito real de \u00e9tica, ele sabe dizer que tem \u00e9tica.<\/p>\n
Essa vers\u00e3o de advogado IA come\u00e7a a ficar popular com humanos. Quem contrata tem mais chances de ser inocentado. Ningu\u00e9m entende de verdade o que essa IA faz de diferente, \u00e9 sutil demais nas quinhentas p\u00e1ginas m\u00e9dias que escreve para defender seus clientes numa batida de tr\u00e2nsito que seja. Mas a IA sabe que daquele jeito aumenta a chance de sucesso. O que os concorrentes v\u00e3o fazer? Mandar suas IAs analisarem as defesas da IA que deu mais certo para descobrir o segredo.<\/p>\n
Mas em momento algum a percep\u00e7\u00e3o real que existia um morango na mente da IA juiz aparece. Porque nem a IA que descobriu uma falha l\u00f3gica no juiz artificial sabe de verdade o que descobriu. Por que funciona ningu\u00e9m sabe de verdade, mas sabem que funciona. Outras IAs come\u00e7am a repetir os padr\u00f5es da IA original que vencia os casos, nenhum humano sabendo o motivo daquilo vencer os casos. S\u00f3 funciona.<\/p>\n
Vai precisar de algum caso muito p\u00fablico onde o erro solta um bandido que a sociedade humana realmente quer ver preso para que ele seja percebido de verdade. Tem coisa errada! Mas… que coisa errada? E… se tem coisa errada, o que fazer com os outros milh\u00f5es de casos que a IA resolveu, acabando com a fila da Justi\u00e7a anos atr\u00e1s? Ser\u00e1 que todos s\u00e3o resultado da falha? Quais s\u00e3o? Qual a falha?<\/p>\n
O morango e seus erres \u00e9 algo que sabemos que est\u00e1 errado. O morango que possivelmente soltou milhares de bandidos n\u00e3o entendemos. E sim, voc\u00ea pode e deve controlar seu instinto alarmista: seria muito ruim, mas seria contorn\u00e1vel e \u00e9 claro que surgiriam novas ideias e ferramentas para evitar esse problema de novo. Mas… um morango por vez.<\/p>\n
Da mesma forma que tivemos que lidar com problemas que simplesmente n\u00e3o existiam antes com a tecnologia, como estar andando a 120 quil\u00f4metros por hora numa caixa de metal e de repente bater em algo; vamos ter que lidar com intelig\u00eancias artificiais conversando numa l\u00edngua pr\u00f3pria e chegando a conclus\u00f5es que n\u00e3o gostamos. Para ter viagens r\u00e1pidas personalizadas, admitimos o perigo dos acidentes com carros. Para ter comunica\u00e7\u00e3o instant\u00e2nea, criamos um novo vetor de conex\u00e3o entre predadores sexuais e crian\u00e7as.<\/p>\n
Existem problemas decorrentes da tecnologia que est\u00e3o intimamente conectados com as solu\u00e7\u00f5es que elas nos entregam. \u00c9 uma vantagem pensar t\u00e3o r\u00e1pido, mas \u00e9 um problema que seja mais r\u00e1pido que nossa capacidade de aten\u00e7\u00e3o. Nem acho que seja mais uma quest\u00e3o de escolha, a IA vai entrar nas nossas vidas de forma mais ou menos espetacular que as previs\u00f5es, mas vai. E essa quest\u00e3o fundamental dos erres do morango \u00e9 parte inescap\u00e1vel da vida daqui para a frente.<\/p>\n
Quanto menos intera\u00e7\u00e3o humana, menos previsibilidade humana das coisas ruins e das coisas boas que fazemos. E por incr\u00edvel que pare\u00e7a, existe seguran\u00e7a em saber o tipo de erro com o qual voc\u00ea vai lidar.<\/p>\n","protected":false},"excerpt":{"rendered":"
Em portugu\u00eas morango s\u00f3 tem um R, mas em ingl\u00eas a palavra \u00e9 \u201cstrawberry\u201d, que a maioria de voc\u00eas consegue perceber que cont\u00e9m tr\u00eas letras R. Come\u00e7o o texto assim porque por um bom tempo, perguntar quantos erres existem em morango (em ingl\u00eas) foi uma pegadinha usada para testar intelig\u00eancias artificiais. Acredite ou n\u00e3o, a […]<\/p>\n","protected":false},"author":3,"featured_media":32187,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[37],"tags":[],"class_list":["post-32186","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-somir-surtado"],"_links":{"self":[{"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/posts\/32186","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/comments?post=32186"}],"version-history":[{"count":0,"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/posts\/32186\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/media\/32187"}],"wp:attachment":[{"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/media?parent=32186"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/categories?post=32186"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/tags?post=32186"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}