No come\u00e7o do ano, surgiram v\u00e1rias not\u00edcias sobre como o ChatGPT tinha passado em exames oficiais para exercer a profiss\u00e3o de advogado (e at\u00e9 m\u00e9dico!), a intelig\u00eancia artificial conseguia responder muito bem \u00e0s quest\u00f5es. Pudera: tem na mem\u00f3ria boa parte do conhecimento humano dispon\u00edvel. Mas o caso mais interessante envolvendo direito e intelig\u00eancia artificial aconteceu recentemente: um advogado americano admitiu ter usado o ChatGPT para fazer a defesa do seu cliente… e foi um desastre.<\/p>\n
O colombiano Roberto Mata processou a companhia a\u00e9rea Avianca ap\u00f3s sofrer uma les\u00e3o no joelho causada por um carrinho de servi\u00e7o de bordo durante um voo de El Salvador para Nova York em 2019. O processo, bem maluco por sinal, o colombiano dizia que teve sua vida destru\u00edda por uma pancada no joelho, j\u00e1 estava para ser arquivado. O advogado de Mata, Steven A. Schwartz, entrou com um recurso, citando v\u00e1rios casos semelhantes ao dele em um documento de dez p\u00e1ginas.<\/p>\n
Na lei americana, voc\u00ea precisa trazer casos parecidos para fazer seus argumentos, \u00e9 uma forma diferente da brasileira. Citar casos parecidos n\u00e3o \u00e9 um b\u00f4nus como \u00e9 aqui, \u00e9 a funda\u00e7\u00e3o do sistema judici\u00e1rio deles. E \u00e9 importante ter isso em mente para saber o tamanho da besteira que o advogado de Mata fez.<\/p>\n
N\u00e3o foi uma pessoa enfeitando uma defesa com conte\u00fado copiado e colado de outro lugar, como citar casos \u00e9 a l\u00f3gica da justi\u00e7a americana, o cidad\u00e3o basicamente pediu para o ChatGPT fazer todo o seu trabalho. Quando os advogados da Avianca viram o recurso, encontraram v\u00e1rias cita\u00e7\u00f5es de casos anteriores nos argumentos, e como \u00e9 de praxe, foram analisar os casos para fazer a defesa da empresa.<\/p>\n
Nada. Os casos citados n\u00e3o estavam em lugar nenhum. Eu imagino algumas noites em claro de estagi\u00e1rios do escrit\u00f3rio de advocacia tentando achar aquilo, porque existem bibliotecas online e f\u00edsicas com todos os casos da justi\u00e7a americana, separados em muitos e muitos volumes. No prazo da resposta, eles disseram que n\u00e3o conseguiram achar os casos citados. O juiz pegou aquela resposta dos advogados da Avianca e adicionou que ele tamb\u00e9m n\u00e3o tinha encontrado, pedindo para o advogado de Mata providenci\u00e1-los.<\/p>\n
O advogado pediu alguns dias para responder, pois estava de f\u00e9rias. O juiz deu esses dias extras, apesar de j\u00e1 dar algumas demonstra\u00e7\u00f5es de frustra\u00e7\u00e3o. Dado o prazo, o advogado do colombiano entregou o conte\u00fado dos casos que tinha citado, quer dizer, uma parte: um ou dois casos que ele mesmo citou n\u00e3o tinha conseguido achar.<\/p>\n
Imagina s\u00f3 a vergonha que \u00e9 mandar para um juiz federal um documento dizendo que voc\u00ea realmente n\u00e3o consegue provar que um caso que citou existe. E pior: os casos que Schwartz transcreveu ali n\u00e3o faziam muito sentido tamb\u00e9m. Como voc\u00eas podem imaginar, existem regras de como arquivar um caso para ser refer\u00eancia futura. Os que ele colocou ali estavam fora desse padr\u00e3o.<\/p>\n
E foi justamente isso que os advogados da Alianca disseram: primeiro que n\u00e3o sabiam o que fazer com casos referenciados que nem o advogado da outra parte podia provar que existiam, e segundo que os casos transcritos ali eram estranhos e fora de qualquer padr\u00e3o legal. O juiz finalmente se emputeceu e chamou Schwartz para explicar aquela maluquice ao vivo, correndo o risco de sair preso do tribunal se mentisse.<\/p>\n
Apertado pelo juiz, o advogado admitiu ter usado o ChatGPT para fazer a defesa. De b\u00f4nus, ainda perguntou se ele realmente estava de f\u00e9rias quando pediu um prazo extra. N\u00e3o estava. Estava era desesperado tentando achar as porcarias dos casos que o ChatGPT o mandou citar. Como ele tamb\u00e9m n\u00e3o conseguia achar, pediu para o ChatGPT transcrever. O que a intelig\u00eancia artificial n\u00e3o se furtou de fazer: foi l\u00e1 e inventou casos da forma mais realista que conseguia.<\/p>\n
Resumo: o advogado pediu para o ChatGPT fazer a defesa do seu cliente, e recebeu pronto um texto que citava casos inventados que corroboravam com a tese pedida, e quando, no desespero, ele pediu para o ChatGPT dizer de onde tinha tirado aqueles casos, o bot simplesmente \u201cimaginou\u201d casos e disse que eram aqueles. Em defesa da intelig\u00eancia artificial, existe um aviso no come\u00e7o de qualquer resposta de natureza jur\u00eddica que o ChatGPT n\u00e3o sabe o que est\u00e1 fazendo.<\/p>\n
Segundo o advogado, agora contra a parede diante de um juiz muito puto da vida, ele achou que o programa s\u00f3 fazia pesquisas e resumia os resultados, nunca imaginando que ele era capaz de inventar coisas. Agora, Schwartz corre s\u00e9rio risco de perder sua licen\u00e7a de advogado, at\u00e9 onde eu vi, ainda n\u00e3o decidiram o que fazer com ele, mas \u00e9 quase certeza que n\u00e3o vai poder advogar por um bom tempo depois dessa.<\/p>\n
Em qualquer momento, o advogado podia ter revisado a resposta do computador e descoberto que os casos n\u00e3o existiam, mas na confian\u00e7a est\u00fapida e pregui\u00e7osa que computadores nunca erram, colocou sua carreira e o caso do seu cliente em risco. Eu n\u00e3o acho que ele teria feito isso se n\u00e3o fosse um caso t\u00e3o porcaria como um colombiano aleat\u00f3rio tentando arrancar dinheiro de uma empresa, mas demonstra muito bem o problema com a pe\u00e7a que mais d\u00e1 defeito em qualquer tecnologia: a pe\u00e7a humana.<\/p>\n
Com certeza n\u00e3o foi a primeira vez que esse advogado mandou documentos sem revisar para o juiz. Talvez estivesse na sua cabe\u00e7a que os sistemas automatizados de pesquisa de casos nunca erraram, porque provavelmente nunca erraram mesmo: eles s\u00f3 trabalhavam com uma base de dados verificada. Quando a pessoa muda de tecnologia, ela leva todas suas presun\u00e7\u00f5es junto. N\u00e3o \u00e9 \u00e0 toa que no mundo do design digital, muito se pensa em como objetos reais funcionam, para usar essas intui\u00e7\u00f5es que todos temos para interfaces de computador.<\/p>\n
Quem saiu de uma realidade onde computadores apenas traziam resultados de pesquisas em bases de dados verific\u00e1veis vai ficar perdido com a \u201cimagina\u00e7\u00e3o\u201d do ChatGPT e outras tecnologias parecidas que devem se espalhar por nossas vidas nos pr\u00f3ximos anos. O advogado do caso que ilustra este texto \u00e9 um incompetente de marca maior, mas eu consigo enxergar de onde vem a confian\u00e7a que ele teve no computador. De uma certa forma, todos fomos criados para confiar na m\u00e1quina.<\/p>\n
Pessoas mentem, mas m\u00e1quinas n\u00e3o. At\u00e9 pouco tempo atr\u00e1s, a culpa da m\u00e1quina era ser eficiente demais em propagar mentiras criadas por seres humanos, a ideia preconcebida que temos sobre computadores n\u00e3o inclui desconfian\u00e7a. Se eu fa\u00e7o uma conta de cabe\u00e7a e fico inseguro, vou na calculadora para tirar a prova. A m\u00e1quina n\u00e3o vai errar.<\/p>\n
E n\u00e3o se engane, voc\u00ea provavelmente tem uma ideia muito parecida na sua cabe\u00e7a: quando a informa\u00e7\u00e3o chega da m\u00e1quina, \u00e9 informa\u00e7\u00e3o mais s\u00f3lida que vinda de outra mente humana. Eu at\u00e9 atribuo a essa no\u00e7\u00e3o a for\u00e7a das Fake News vindas da internet. Tem algo extra em consumir informa\u00e7\u00e3o vinda de um meio digital, uma sensa\u00e7\u00e3o de frieza calculista que temos instintivamente diante de um computador.<\/p>\n
Sistemas como o ChatGPT conseguem enganar muita gente por causa da criatividade e da confian\u00e7a com as quais se comunicam. Se voc\u00ea j\u00e1 tem na cabe\u00e7a a ideia de que a m\u00e1quina \u00e9 sempre objetiva e ela se comunica com voc\u00ea como se fosse uma especialista no tema, a tenta\u00e7\u00e3o de acreditar \u00e9 muito grande. At\u00e9 porque j\u00e1 acreditamos: as pessoas mal sabem os n\u00fameros umas das outras, at\u00e9 mesmo pessoas muito importantes da nossa vida podem estar escondidas atr\u00e1s de um n\u00famero que s\u00f3 a nossa mem\u00f3ria digital conhece.<\/p>\n
Confiamos na m\u00e1quina porque ela entregou resultados previs\u00edveis por s\u00e9culos. Desde o motor a vapor at\u00e9 o mais moderno headset de realidade virtual, nossa tecnologia parte desse princ\u00edpio de consist\u00eancia: sempre funciona do mesmo jeito, s\u00f3 trabalha com informa\u00e7\u00f5es que precisa e n\u00e3o se distrai por nada. Com IA, a coisa muda.<\/p>\n
IAs funcionam de forma imprevis\u00edvel, imaginam e inventam coisas, \u00e0s vezes para nos ajudar, \u00e0s vezes para nos atrapalhar. Elas continuam sem ter consci\u00eancia do que fazem, mas isso n\u00e3o muda o fato. A tecnologia seguiu por um caminho que vai exigir uma nova forma de enxergar os dados do computador. E eu tenho a impress\u00e3o de que isso pode ser trabalho demais para o ser humano m\u00e9dio.<\/p>\n
Se os benef\u00edcios de acreditar na m\u00e1quina forem maiores que os custos, me parece que vamos tolerar muita mentira e alucina\u00e7\u00e3o rob\u00f3tica. As pessoas j\u00e1 topam muito bem mentiras absurdas das religi\u00f5es porque de alguma forma elas s\u00e3o mais confort\u00e1veis e \u201cl\u00f3gicas\u201d para elas. Eu imagino um futuro em que o aluno manda um trabalho escolar feito por IA para um professor que usa uma IA para corrigir. E que isso v\u00e1 se espalhando pelo mundo corporativo de tal forma que as pessoas n\u00e3o v\u00e3o mais saber o que foi um ser humano que pensou e o que foi uma IA que fez.<\/p>\n
Pergunte para qualquer fil\u00f3sofo: n\u00e3o sabemos o que \u00e9 a verdade. Temos boas ideias, mas \u00e9 algo que definimos at\u00e9 um certo n\u00edvel de confian\u00e7a e paramos, porque \u00e9 um tema infinito. N\u00e3o imagino que uma m\u00e1quina consiga definir o que \u00e9 verdade, ningu\u00e9m vai conseguir escrever esse c\u00f3digo. A verdade num mundo onde muito se terceiriza para a IA vai ser a melhor verdade poss\u00edvel dela. E quanto mais usarmos o sistema, mais a verdade dela vai se tornando a nossa.<\/p>\n
A minha teoria \u00e9 que um dia um conselho de IAs pode definir que os casos citados pelo ChatGPT tem alta probabilidade de serem reais e comecem a tratar eles como verdade. E dependendo do n\u00edvel de complexidade em que essas intelig\u00eancias artificiais estiverem gerenciando nosso sistema legal, por exemplo, alucina\u00e7\u00f5es eventuais podem come\u00e7ar a vazar para a realidade e mudar a forma como gera\u00e7\u00f5es de seres humanos convivem com o mundo.<\/p>\n
Agora conseguimos pegar essas mentiras e inven\u00e7\u00f5es, mas eu realmente desconfio que uma hora ou outra vamos nos tornar incapazes de fazer isso. E a\u00ed, a realidade que ChatGPT e similares criarem para a gente vai ser efetivamente a realidade da humanidade, n\u00e3o por imposi\u00e7\u00e3o, mas por pregui\u00e7a mesmo.<\/p>\n
A Skynet vai ser tipo mulher decidindo como vai ser a decora\u00e7\u00e3o da casa: faz o que quer porque a outra parte simplesmente n\u00e3o quer pensar nisso. O caso da vez \u00e9 mais do que uma not\u00edcia engra\u00e7ada, \u00e9 uma tend\u00eancia muito humana que dificilmente vai ficar melhor com o passar dos anos.<\/p>\n