Tecnologia presa.

SALLY

Na maior parte das notícias, a manchete aparece falando sobre Elon Musk. Citar um maluco infantilóide sempre rende mais cliques, mas, por outro lado, também desmerece o movimento: tudo que Elão toca tende a virar merda sem credibilidade. Então, só para ter certeza de que todos tem a visão completa, vou perder algumas linhas explicando o que está sendo proposto.

Trata-se de uma carta aberta (você pode ver a íntegra dela em português e em inglês aqui) que pede que laboratórios paralisem o desenvolvimento de Inteligências Artificiais por seis meses para que a humanidade possa ser preparada para fazer bom uso dessa ferramenta.

Ninguém é contra o uso de Inteligência Artificial. O que eles dizem é: estão criando antes de educar. Antes de continuar com isso, de popularizar, de evoluir, querem que essa tecnologia seja explicada ao grande público, que sejam criados mecanismos para coibir abusos, protocolos de segurança e outras formas de tentar atenuar os riscos dessa nova tecnologia. O objetivo é que os aspectos positivos possam ser usufruídos minimizando os impactos negativos que ela pode causar.

Muitas pessoas que eu respeito estão assinando essa carta aberta: Steve Wonziak (que fundou a Apple), Yuval Noah Harari (escritor, autor de “Sapiens”), Emad Mostaque, diretor-executivo da Stability AI (desenvolvedora de robôs que usam IA para criar imagens), Yoshua Bengio (vencedor da edição de 2018 do Prêmio Turing), Jaan Tallinn (cofundador do Skype), Evan Sharp (cofundador do Pinterest) e muitos outros. Há mais de mil nomes de acadêmicos e executivos assinando essa carta.

Então, agora que estamos todos na mesma página sobre o conteúdo e autoria da carta (e sabemos que não é mais um devaneio do maluco do Elão), vamos o Desfavor da Semana?

Quem sou eu para discutir sobre projeções envolvendo efeitos de Inteligência Artificial? Nem me atrevo a chegar perto do mérito dessa discussão pois não sei o suficiente para avaliar o custo-benefício. Mas uma coisa eu sei: não se para tecnologia, seja por não ser essa resposta, seja por não ser possível fazê-lo. Por mais que eu consiga ver boas intenções nessa carta, ela não pode ser colocada em prática.

Falando em bom português, já que a maioria de vocês também não é expert no assunto, eu não acho que deva ser proibida a venda de um medicamento por ter gente que vá fazer uso errado dele. Eu não acho que nada deva ser proibido apenas pelo fato de que vai ter quem faça uso errado. Sempre vai ter um grupo infeliz fazendo uso errado de algo, se fossemos paralisar qualquer coisa por causa deles, estaríamos fazendo fogo com dois pauzinhos.

A resposta não é proibir pelo medo das consequências de um uso errado, é educar, fiscalizar e coibir. Eu sempre defendi isso, tanto é que uso o mesmo discurso quando falam de arma de fogo: a culpa não é das armas, armas são meras ferramentas, objetos inanimados, a culpa é do idiota que faz mau uso delas. Entretanto, boa parte da sociedade acha válido restringir o uso de armas de fogo em função do uso errado e… está dando faniquito por essa carta aberta. Aí não. Aí é vergonha.

Outra vergonha que vi muito é a do “IA vai roubar meu emprego”, pessoas que se sentem tão importantes que se ofendem com progresso e automatização por motivos de “meu umbigo”. Isso é o taxista atacando o Uber. É o vendedor de charrete dizendo que quem andar de carro vai morrer pois ele vai explodir. Aí também é vergonha.

Quem pensa assim ainda não entendeu o mundo que vive: não linear e com crescimento exponencial. Os tempos mudaram, cabe a você estar em constante transformação e aprimoramento para se manter relevante na sua profissão, ofício ou função. Veja bem, eu trabalho com produção de conteúdo, eu serei a primeira a ser substituída por uma Inteligência Artificial, e que bom que chegamos nesse ponto de desenvolvimento! Cabe a mim me reinventar para continuar sendo necessária para meu local de trabalho.

Quem não entendeu isso, rapidamente vai ficar obsoleto e ser substituído, seja por uma IA ou por qualquer outra tecnologia ou dinâmica. Essa história de desempenhar o mesmo trabalho do começo ao fim da sua vida acabou. ACABOU. Estejam todos preparados para se reinventar (e várias vezes) pois essa é a nova realidade. Mesmo que a Inteligência Artificial milagrosamente desapareça, novas tecnologias, realidades e dinâmicas surgirão – e elas te obrigarão a se mexer, caso contrário você vai ficar obsoleto.

Por fim, ainda que a carta seja muito bem escrita e me pareça bem intencionada, quero lembra-los de que ela trata de um risco especulativo: o que pode acontecer de ruim. O que de fato vai acontecer, não sabemos. Pode ser coisa muito melhor, muito pior ou muito diferente do que estava sendo previsto. Paralisar progresso por especulação e medo não me cai bem. Se risco especulativo bastasse para paralisar um laboratório, não teríamos vacinas.

Não estou aqui dizendo que tudo vai ficar bem, que eu tenho certeza de que o lado bom vai superar o lado ruim nem nada do tipo. Estou dizendo que não dá para paralisar o desenvolvimento, mesmo que se tente. Mesmo que se proíba. Mesmo que se queira. Então, se não podemos parar esse progresso, isso quer dizer que não podemos fazer nada? Claro que podemos!

O desenvolvimento de IA vai continuar, não é humanamente possível fiscalizar o mundo todo o tempo todo. Então, que tal usar tempo, energia e dinheiro para ajudar a preparar as pessoas para as grandes mudanças que vem por aí? Ou ao menos preparar a você mesmo?

O argumento “pode dar merda” não me assusta. Basicamente tudo pode dar merda nessa vida. O que me assusta é “não estou preparada para lidar com essa merda se der merda”. Por isso eu estou fazendo o meu dever de casa e me preparando para lidar com novas dinâmicas de Inteligência Artificial. Você está? Se não está, comece hoje. Não tem carta aberta que paralise estudos e desenvolvimento, pois simplesmente não pode ser feito.

O que quero dizer é que em vez de gastar seu tempo e energia discutindo o que pode dar errado (nossa mente leiga não consegue nem alcançar), projetando cenários e especulando sobre o que pode acontecer, você ganha mais se aceitar que essa será a nova realidade (e será) e se preparar para ela.

Saia fora de polêmica e invista seu foco em como lidar com essa nova realidade que está cada vez mais próxima e, mais importante, em como trabalhar em conjunto com ela: solucionando lacunas, utilizando-a a seu favor e monetizando qualquer coisa relacionada a ela. Não chore, venda lenços. Não perca tempo polemizando e sentindo medo, prepare-se e a Inteligência Artificial será sua aliada, não inimiga.

Para dizer que não vai discutir com o cara que inventou ou mouse, para dizer que o lado bom do Lula ter sido tirado de circulação é que ele não foi tema do Desfavor da Semana ou ainda para dizer que espera que este texto atraia muitas buscas boas para um “Ei, Você”: sally@desfavor.com

SOMIR

Fiquei muito feliz quando a Sally topou o tema, primeiro porque é sempre divertido ver ela participando dos meus interesses nerds, e segundo porque ela vai apresentar um ponto de vista menos radical que o meu.

Porque o meu é radical.

Morte a quem quer impedir o desenvolvimento tecnológico humano! Essa mentalidade é um atraso evolutivo terrível e ela sim pode nos levar a extinção. Ok, um pouco radical demais. Mas vamos estabelecer melhor porque a simples ideia de pedir uma moratória no treino de inteligências artificiais me incomoda bastante.

Primeiro: é mais ou menos que nem o Papa pedindo o fim das guerras. É um desejo de bem meio amorfo, que não considera os fatos específicos. O fim da guerra entre Ucrânia e Rússia agora significaria que o país invasor que está cometendo crimes contra a humanidade vai conseguir seus objetivos com os territórios que tomou. O fim da guerra é positivo como conceito pelo fim da violência, mas não restaura o senso de justiça.

Estão dizendo que a inteligência artificial precisa de mais regras para garantir um futuro mais seguro para a humanidade, o que é sim um desejo de bem meio amorfo. Todos concordamos que não queremos ver um futuro horrível para o ser humano, mas estamos falando de corrigir exatamente o quê? Porque a carta fala sobre agentes mal-intencionados e substituição de funções humanas na sociedade.

Como se fosse algo que possa ser controlado por algum grupo de regras definidas por governos ou entidades particulares. Nada até hoje impediu ações de agentes mal-intencionados e substituição de funções humanas na sociedade, existe alguma fórmula mágica para isso que eles conhecem e não nos informaram ainda? Porque a lógica simples diz que não.

Não conseguimos impedir que pessoas se matem com pedras. Quem dirá com facas e armas de fogo. É totalmente razoável que existam mecanismos de repressão a comportamentos danosos de seres humanos, vulgo as leis que nos regem, mas é fato comprovado historicamente que isso não se controla. Produzir uma pistola com regras rígidas de fabricação e com o objetivo de permitir que pessoas se protejam de opressores não impede que ela acabe na mão de um assassino.

Se desse um chilique generalizado na humanidade de proibir armas, isso até poderia reduzir o número de tiros, mas a tecnologia de produção delas já é conhecida: alguém ia acabar fazendo de novo. E para lidar com gente com armas tentando dominar gente sem armas, você precisa começar a produzir armas por conta própria para enfrentar as armas desse agente mal-intencionado. Proibir não funciona sem concordância total da humanidade. E concordância total da humanidade é algo que nunca teremos.

Embora eu entenda que existe um risco inescapável ao advento de inteligências artificiais mais poderosas, eu não consigo enxergar como só dessa vez podemos evitar os problemas que todas as tecnologias novas nos trouxeram. O que a humanidade tem de diferente agora? Como regras de segurança e políticas públicas vão garantir um resultado diferente agora em 2023?

A carta fala sobre a “caixa preta” da inteligência artificial, algo sobre o qual eu também falei várias vezes aqui: os mecanismos de funcionamento dela são tão complexos que tem sim uma parte do processo que não conseguimos enxergar funcionando, só sabemos o que entrou de informação e o que ela fez com essa informação.

O erro é achar que isso é uma grande novidade: todo sistema complexo o suficiente vira uma caixa preta. Por exemplo: por mais que entendamos bastante sobre o sistema imunológico humano, tem tantas partes funcionando ao mesmo tempo, com tantas variáveis possíveis, que só conseguimos estimar o grau de segurança de um remédio ou vacina colocando eles no corpo de milhares de pessoas e anotando os resultados. Não tem computador nesse mundo que consiga fazer previsões precisas o suficiente nesse grau de complexidade.

O mundo é cheio de caixas pretas. Existe até uma área da matemática que se debruça sobre essa complexidade supostamente infinita da realidade. É difícil prever com precisão até mesmo como duas tintas vão se misturar num balde! O mundo real tem uma resolução absurda, com incontáveis partículas fundamentais interagindo até formar padrões que conseguimos analisar. É claro que a IA vai ser feita de caixas pretas, todo o resto da realidade é igual. Não mudou nada nos últimos anos.

É por isso que eu sinto algo muito mais nefasto por trás dessa necessidade iminente de controlar os avanços da tecnologia: se não tem nada de realmente fora do padrão dos avanços tecnológicos normais da humanidade na Inteligência Artificial, por que pedir para parar justamente nessa tecnologia? Isso também estava num texto recente meu sobre o tema: a surpresa que eu tive também com o fato dela estar avançando primeiro para cima de profissões que considerávamos mais de elite.

O ChatGPT não está ameaçando o pedreiro ou a enfermeira, está ameaçando o produtor de conteúdo, o administrador, o artista, a celebridade… talvez até mesmo o cientista. Não é curioso que enquanto o robô estava tomando emprego de trabalhadores braçais em fábricas estava todo mundo super empolgado nos níveis mais abastados da humanidade? De repente ficou assustador.

O robô que deixou o João da Silva redundante na fábrica de automóveis era um avanço necessário para a humanidade. O robô que pode deixar redundante o trabalho de gente que vive de explorar o João da Silva virou uma ameaça existencial à humanidade. Por trás do desejo de bem amorfo de quem assinou essa carta, no qual podem se esconder caso alguém venha confrontá-los, existe um medo primordial de se tornar obsoleto.

Não mandaram o João da Silva aprender a programar para lidar com o futuro? Vão aprender a programar então! Quem quer impedir avanço tecnológico SEMPRE tem um objetivo egoísta por trás. Sim, acho que muitas das pessoas que assinaram essa carta nem perceberam isso ainda, mas não muda o fato que o timing não podia ser prova mais óbvia da água batendo na bunda das elites.

Inteligência artificial avançada pode acabar com o status quo. Pode democratizar várias funções humanas que só pessoas com berço privilegiado podiam fazer antigamente. A única forma das elites lidarem com isso é controlar os meios de acesso a ela, e isso acontece quando criam um monte de regras arbitrárias que tornam caríssimo o desenvolvimento da tecnologia. Se quiser treinar IA, vai ter que pagar por isso. E para pagar por isso, vai ter que fazer parte da elite ou estar de acordo com os objetivos dela.

Tomara que não respeitem essas regras. Tomara que a IA faça o mundo pegar fogo e renascer de outra forma, porque senão vamos acabar numa distopia de bilionários tomando conta de tudo. Abrace a inteligência artificial, porque ela é a guilhotina do futuro. E sem guilhotinas, as elites não precisam ter medo de você.

Para dizer que isso ficou assustador rápido demais, para dizer que quer ver o circo pegar fogo, ou mesmo para dizer que está com medo de um robô que escreve poemas ruins: somir@desfavor.com

Desfavores relacionados:

Etarismo?

Nota zero um.

Corpos irreais.

Exibicionistas.

Analfabetismo virtual.

Histerismo.