Corpos irreais.

Nas últimas semanas começaram a surgir mais e mais casos de mulheres reclamando de serem expostas por imagens criadas por inteligência artificial. Um dos casos até envolveu menores de idade “desnudadas” pelos colegas de escola. Considerando a velocidade com que a tecnologia avança, teremos mais e mais problemas nesse sentido. Será que é possível lidar com eles?

Se você conhece aquela máxima do jornalismo em que a resposta para toda pergunta na introdução de um texto é “não”, já previu para onde eu quero ir. Não, não é possível lidar com o problema de edição de imagens com IA, pelo menos não como as pessoas gostariam que fosse possível. Um legislador tupiniquim pode até colocar no papel que é crime fazer foto da coleguinha pelada no computador ou no celular, mas não é algo que possa se tornar realidade.

Explico: é proibido construir bombas atômicas, no mundo inteiro. Mesmo na Coreia do Norte, é só o ditador que pode mandar fazer. Pessoas como eu e você precisam seguir legislações (nacionais e internacionais) que não deixam você sequer juntar os elementos necessários para construir uma numa mesma sala. Essa lei funciona.

Eu te garanto que você não vai conseguir fazer uma bomba atômica sozinho ou com um grupo de amigos. A arma de destruição em massa tem um “gargalo” de ingredientes no material nuclear, só funciona se tiver um tipo muito específico de material radioativo, poucos lugares no mundo fazem esse tipo de material e todos são incrivelmente vigiados.

Não é a lei que impede, é a capacidade dos governos – dos mais democráticos aos mais autoritários – em impedir que você tenha acesso a um elemento essencial da bomba atômica que faz as coisas funcionarem como funcionam. Tanto que bombas mais simples são feitas aos montes ao redor do mundo com os objetivos mais terríveis.

Essa tangente maluca de bombas atômicas é para explicar por que nem é razoável esperar um controle pesado sobre inteligências artificiais do tipo que tiram a roupa de mulheres em fotos: não existe um interesse de vida ou morte das autoridades e mesmo que existisse, existem tantas formas diferentes da tecnologia vazar para o resto do mundo que faz parte do futuro aceitar que o próprio conceito de exposição na internet vai ter que mudar.

Queiramos nós ou não. Eu, como homem cada vez mais desprovido de cabelo, gozo da impunidade da segurança pela obscuridade: não existe demanda para tirar minha roupa com um programa de computador. Já você que é mulher ou um homem com mais valor de mercado vai ter que lidar com isso de uma outra forma.

Tenho certeza de que políticos brasileiros e similares ao redor do mundo vão soltar um monte de leis proibindo esse tipo de uso da tecnologia para tirar a roupa de ou colocar em situações sexuais a imagem de terceiros, mas como já disse, tem tantas formas diferentes de burlar essa proibição e tamanha convergência de interesses das grandes empresas de tecnologia com o interesse do tarado da IA que vai ser efetivamente impossível proibir isso e fazer valer.

Se você proibir a utilização de um sistema de IA que pode fazer isso, é só criar outro e distribuir livremente. Enquanto estávamos pensando sobre ChatGPT e nossos empregos, uma horda de tarados treinava modelos mais e mais eficientes em produzir fotos de mulheres nuas. Isso já aconteceu e não pode mais ser desfeito. Mesmo neste estágio embrionário da tecnologia de geração de imagens, as prioridades do ser humano foram bem definidas.

E talvez mais importante (e preocupante) é que a tecnologia já está disponível, ela pode ser refeita basicamente do zero por talvez dezenas de milhares de pessoas ao redor do mundo agora no final de 2023. Se der uma tempestade solar cataclísmica que nos coloque na Idade da Pedra por um tempo, a humanidade refaz a tecnologia de desenhar peitos de fora em qualquer foto (e agora vídeo) em menos tempo do que refaz a de ressonância magnética…

O mundo que conseguiria impedir a criação de nudes por inteligência artificial é o mesmo mundo que conseguiria impedir a produção e venda de drogas ilegais, ou seja, um mundo imaginário. Se é algo fácil de produzir e tem muita demanda, não tem muito o que fazer além de lidar com a existência do comportamento indesejado e mitigar as consequências negativas dele.

Por isso eu prevejo que a humanidade vai acabar acostumando-se com a ideia de fabricação de pornografia de virtualmente qualquer pessoa, especialmente das mais famosas, e mesmo que isso não seja celebrado ou mesmo legalizado, vai ser uma parte da vida que todo mundo sabe que existe e se vira para conviver.

E aí eu acho que vai ser importante fazer as pessoas lidarem melhor com a diferença entre o real e o artificial/imaginário. Eu sei usar programas de edição de imagem há mais de duas décadas, mas nunca tive sequer interesse de modificar a imagem de uma mulher conhecida ou famosa para tirar suas roupas. Não é que eu tive que me controlar para não fazer isso, é que simplesmente nunca houve um interesse: oras, é falso, eu sei que é falso, não existe nenhuma ginástica mental que faça eu acreditar que estou vendo algo real.

Mas talvez isso seja resultado de ser exposto há muito tempo à ideia de que imagens podem ser manipuladas. O cidadão médio, o que nunca pensou muito sobre a capacidade de criar nudez onde ela não existe através de edição de imagens, esse pode ficar bem mais chocado e/ou excitado com o resultado dessas edições. A linha entre o real e o artificial é muito mais borrada para quem não tem esse tipo de experiência.

Num tema relacionado: já escrevi aqui sobre a ideia perigosa de querer punir ficção como se fosse algo real, num caso bem espinhoso sobre desenhos pornográficos japoneses com crianças. Você não precisa estar do lado de quem desenha pornografia infantil, mas que fique muito claro que não é algo real e não é inteligente para a sociedade perder a capacidade de diferenciar entre as duas coisas. Eu não sou a favor da ideia de produzir conteúdo pornográfico de pessoas que não consentiram usando inteligência artificial, num mundo ideal isso não deveria acontecer, mas dada a dificuldade de proibir, que mais e mais pessoas enxerguem a diferença.

Porque não adianta dizer para sua filha que é errado alguém ter feito uma imagem falsa dela pelada e distribuído na escola para reduzir o sofrimento dela. Conseguir punir quem fez é uma parte importante, e eu sou do time que acredita que precisa ter punição para quem divulga essas imagens, mas evitar um trauma de exposição é ainda mais importante para a vida da pessoa vitimizada por uma montagem dessas. Não se discute o quanto o outro sente por um problema, isso não é controlável. O que se discute são formas de fazer a pessoa sair do buraco e continuar levando uma vida saudável.

Se não é um crime que pode ser coibido de forma eficiente, as pessoas precisam estar prontas para não sofrerem por causa dele. E eu presumo que com o passar do tempo as pessoas vão acabar tratando o tema com menos gravidade. A diferença entre sua imagem real e a imagem modificada pelo computador vai ser parte da visão de mundo das próximas gerações. Da mesma forma que ensinamos crianças a não acreditar no que dizem sobre ela por não serem aquilo (deveríamos, pelo menos), vamos precisar ensinar, especialmente as meninas, que uma imagem manipulada dela não é ela.

Que artificial é artificial. Parece algo simples, mas tem seus desafios: com mais e mais gente vivendo a vida através de uma tela de celular, com opções infinitas de filtros, a imagem artificializada começa a virar parte da identidade da pessoa. Fica mais complicado ensinar uma pessoa que ela não é aquela montagem nua na tela se ela vive usando maquiagem digital e tem uma imagem virtual diferente da real.

Se você já se vê através dos filtros de inteligência artificial que afinam o rosto, mudam seu nariz e todo tipo mais de trucagem digital, talvez aquela imagem feita por inteligência artificial de você sem roupa bata com mais força no seu psicológico. E cá entre nós, baseado nas imagens de IA que eu já vi por aí, a tendência dos algoritmos é criar pessoas extremamente idealizadas. Pudera, foram treinados em corpos e rostos muito atraentes. Não sei o quanto mexe com o psicológico de uma mulher ver uma imagem modificada dela com um corpo nu mais tradicionalmente atraente que o próprio.

Talvez o problema se agrave para os homens com o tempo, considerando o quanto das novas gerações se identificam como gays ou bissexuais, mas eu ainda parto de um princípio mais “analógico” que vão ser as mulheres que mais vão ter que lidar com esse tipo de imagem falsa. E que elas precisam de mais conscientização sobre o que está por vir. Homem já desenhava triângulo com um risquinho no meio desde os tempos das cavernas, não é uma demanda que vai sumir tão cedo.

E se a barreira de entrada é literalmente subir uma foto num site ou aplicativo e apertar o botão “deixar pelada”, é muito possível que a internet fique lotada desses nudes imaginários, primeiro em imagens e depois em vídeos cada vez mais convincentes. O cidadão médio era enganado por montagem tosca de Photoshop, com um resultado praticamente perfeito da IA, vai ser muito difícil mesmo coibir o uso da tecnologia.

Claro, podemos fazer muita coisa para controlar a disseminação desses sistemas, mas salvo derrubar a internet toda, sempre vai ter por onde escapar. É muito importante começar a divulgar agora a mensagem que a pessoa naquela imagem manipulada não é real, que não pode ser considerada real. Não porque eu quero salvar o babaca que fica divulgado essas imagens modificadas de mulheres reais, mas porque eu quero que essas mulheres reais não se deixem abalar por algo que fica mais e mais difícil de coibir.

Porque como eu já disse, não é análogo a proibir a construção de uma bomba atômica e sim a proibir a produção e o consumo de maconha. É enxugar gelo, e por mais que eu não tenha nada contra a ideia de o Estado desestimular bombas atômicas, maconha e nudes por inteligência artificial, é essencial saber até onde ele pode ir em cada caso e adaptar a resposta da sociedade de acordo com a possibilidade de proibição.

Mas quem eu estou enganando? Logo logo surge a Lei “Fulana de Tal” proibindo a produção e a distribuição desse tipo de imagem (que por sinal já é proibido por leis feitas antes mesmo da internet existir), e acham que está tudo resolvido. Aparece uma ativista dizendo que temos que ensinar os homens a não usar inteligência artificial para fazer imagens e vídeos de mulheres peladas; tudo para no final das contas continuar acontecendo sem parar. Não conseguem evitar pornografia infantil real nas redes sociais, vão impedir isso? Façam-me o favor.

Mas se este texto serve para algo, é para preparar nossas leitoras e as meninas que elas conheçam para lidar com isso, e a primeira coisa a fazer é colocar na cabeça que não é real. Não pode ser tratado como real, pelo bem da saúde mental da pessoa. Não vai chegar uma lei para resolver o problema, não vai ter tecnologia para proibir a utilização disso, é algo que vem por aí e precisa estar na mente de quem pode ser vítima.

Não é real. Não podemos deixar que esse tipo de coisa assuma a condição de realidade, senão prevejo muito sofrimento desnecessário no nosso futuro.

Para dizer que vai fazer meu nude na IA (faz com um pinto gigante pelo menos), para dizer que temos que ensinar o homem a não ________ (funciona bem, né?), ou mesmo para dizer que isso é problema de gente que não faz sexo (você realmente precisa se atualizar sobre os zoomers): somir@desfavor.com

Desfavores relacionados:

Ponto de falha.

Yoko está triste.

Terceirização cerebral.

Inevitabilidade tecnológica.

ChatGPT 4o

Novos analfabetos digitais.