Nas \u00faltimas semanas come\u00e7aram a surgir mais e mais casos de mulheres reclamando de serem expostas por imagens criadas por intelig\u00eancia artificial. Um dos casos at\u00e9 envolveu menores de idade \u201cdesnudadas\u201d pelos colegas de escola. Considerando a velocidade com que a tecnologia avan\u00e7a, teremos mais e mais problemas nesse sentido. Ser\u00e1 que \u00e9 poss\u00edvel lidar com eles?<\/p>\n
Se voc\u00ea conhece aquela m\u00e1xima do jornalismo em que a resposta para toda pergunta na introdu\u00e7\u00e3o de um texto \u00e9 \u201cn\u00e3o\u201d, j\u00e1 previu para onde eu quero ir. N\u00e3o, n\u00e3o \u00e9 poss\u00edvel lidar com o problema de edi\u00e7\u00e3o de imagens com IA, pelo menos n\u00e3o como as pessoas gostariam que fosse poss\u00edvel. Um legislador tupiniquim pode at\u00e9 colocar no papel que \u00e9 crime fazer foto da coleguinha pelada no computador ou no celular, mas n\u00e3o \u00e9 algo que possa se tornar realidade.<\/p>\n
Explico: \u00e9 proibido construir bombas at\u00f4micas, no mundo inteiro. Mesmo na Coreia do Norte, \u00e9 s\u00f3 o ditador que pode mandar fazer. Pessoas como eu e voc\u00ea precisam seguir legisla\u00e7\u00f5es (nacionais e internacionais) que n\u00e3o deixam voc\u00ea sequer juntar os elementos necess\u00e1rios para construir uma numa mesma sala. Essa lei funciona.<\/p>\n
Eu te garanto que voc\u00ea n\u00e3o vai conseguir fazer uma bomba at\u00f4mica sozinho ou com um grupo de amigos. A arma de destrui\u00e7\u00e3o em massa tem um \u201cgargalo\u201d de ingredientes no material nuclear, s\u00f3 funciona se tiver um tipo muito espec\u00edfico de material radioativo, poucos lugares no mundo fazem esse tipo de material e todos s\u00e3o incrivelmente vigiados.<\/p>\n
N\u00e3o \u00e9 a lei que impede, \u00e9 a capacidade dos governos – dos mais democr\u00e1ticos aos mais autorit\u00e1rios \u2013 em impedir que voc\u00ea tenha acesso a um elemento essencial da bomba at\u00f4mica que faz as coisas funcionarem como funcionam. Tanto que bombas mais simples s\u00e3o feitas aos montes ao redor do mundo com os objetivos mais terr\u00edveis.<\/p>\n
Essa tangente maluca de bombas at\u00f4micas \u00e9 para explicar por que nem \u00e9 razo\u00e1vel esperar um controle pesado sobre intelig\u00eancias artificiais do tipo que tiram a roupa de mulheres em fotos: n\u00e3o existe um interesse de vida ou morte das autoridades e mesmo que existisse, existem tantas formas diferentes da tecnologia vazar para o resto do mundo que faz parte do futuro aceitar que o pr\u00f3prio conceito de exposi\u00e7\u00e3o na internet vai ter que mudar.<\/p>\n
Queiramos n\u00f3s ou n\u00e3o. Eu, como homem cada vez mais desprovido de cabelo, gozo da impunidade da seguran\u00e7a pela obscuridade: n\u00e3o existe demanda para tirar minha roupa com um programa de computador. J\u00e1 voc\u00ea que \u00e9 mulher ou um homem com mais valor de mercado vai ter que lidar com isso de uma outra forma.<\/p>\n
Tenho certeza de que pol\u00edticos brasileiros e similares ao redor do mundo v\u00e3o soltar um monte de leis proibindo esse tipo de uso da tecnologia para tirar a roupa de ou colocar em situa\u00e7\u00f5es sexuais a imagem de terceiros, mas como j\u00e1 disse, tem tantas formas diferentes de burlar essa proibi\u00e7\u00e3o e tamanha converg\u00eancia de interesses das grandes empresas de tecnologia com o interesse do tarado da IA que vai ser efetivamente imposs\u00edvel proibir isso e fazer valer.<\/p>\n
Se voc\u00ea proibir a utiliza\u00e7\u00e3o de um sistema de IA que pode fazer isso, \u00e9 s\u00f3 criar outro e distribuir livremente. Enquanto est\u00e1vamos pensando sobre ChatGPT e nossos empregos, uma horda de tarados treinava modelos mais e mais eficientes em produzir fotos de mulheres nuas. Isso j\u00e1 aconteceu e n\u00e3o pode mais ser desfeito. Mesmo neste est\u00e1gio embrion\u00e1rio da tecnologia de gera\u00e7\u00e3o de imagens, as prioridades do ser humano foram bem definidas.<\/p>\n
E talvez mais importante (e preocupante) \u00e9 que a tecnologia j\u00e1 est\u00e1 dispon\u00edvel, ela pode ser refeita basicamente do zero por talvez dezenas de milhares de pessoas ao redor do mundo agora no final de 2023. Se der uma tempestade solar catacl\u00edsmica que nos coloque na Idade da Pedra por um tempo, a humanidade refaz a tecnologia de desenhar peitos de fora em qualquer foto (e agora v\u00eddeo) em menos tempo do que refaz a de resson\u00e2ncia magn\u00e9tica…<\/p>\n
O mundo que conseguiria impedir a cria\u00e7\u00e3o de nudes por intelig\u00eancia artificial \u00e9 o mesmo mundo que conseguiria impedir a produ\u00e7\u00e3o e venda de drogas ilegais, ou seja, um mundo imagin\u00e1rio. Se \u00e9 algo f\u00e1cil de produzir e tem muita demanda, n\u00e3o tem muito o que fazer al\u00e9m de lidar com a exist\u00eancia do comportamento indesejado e mitigar as consequ\u00eancias negativas dele.<\/p>\n
Por isso eu prevejo que a humanidade vai acabar acostumando-se com a ideia de fabrica\u00e7\u00e3o de pornografia de virtualmente qualquer pessoa, especialmente das mais famosas, e mesmo que isso n\u00e3o seja celebrado ou mesmo legalizado, vai ser uma parte da vida que todo mundo sabe que existe e se vira para conviver.<\/p>\n
E a\u00ed eu acho que vai ser importante fazer as pessoas lidarem melhor com a diferen\u00e7a entre o real e o artificial\/imagin\u00e1rio. Eu sei usar programas de edi\u00e7\u00e3o de imagem h\u00e1 mais de duas d\u00e9cadas, mas nunca tive sequer interesse de modificar a imagem de uma mulher conhecida ou famosa para tirar suas roupas. N\u00e3o \u00e9 que eu tive que me controlar para n\u00e3o fazer isso, \u00e9 que simplesmente nunca houve um interesse: oras, \u00e9 falso, eu sei que \u00e9 falso, n\u00e3o existe nenhuma gin\u00e1stica mental que fa\u00e7a eu acreditar que estou vendo algo real.<\/p>\n
Mas talvez isso seja resultado de ser exposto h\u00e1 muito tempo \u00e0 ideia de que imagens podem ser manipuladas. O cidad\u00e3o m\u00e9dio, o que nunca pensou muito sobre a capacidade de criar nudez onde ela n\u00e3o existe atrav\u00e9s de edi\u00e7\u00e3o de imagens, esse pode ficar bem mais chocado e\/ou excitado com o resultado dessas edi\u00e7\u00f5es. A linha entre o real e o artificial \u00e9 muito mais borrada para quem n\u00e3o tem esse tipo de experi\u00eancia.<\/p>\n
Num tema relacionado: j\u00e1 escrevi aqui sobre a ideia perigosa de querer punir fic\u00e7\u00e3o como se fosse algo real, num caso bem espinhoso sobre desenhos pornogr\u00e1ficos japoneses com crian\u00e7as. Voc\u00ea n\u00e3o precisa estar do lado de quem desenha pornografia infantil, mas que fique muito claro que n\u00e3o \u00e9 algo real e n\u00e3o \u00e9 inteligente para a sociedade perder a capacidade de diferenciar entre as duas coisas. Eu n\u00e3o sou a favor da ideia de produzir conte\u00fado pornogr\u00e1fico de pessoas que n\u00e3o consentiram usando intelig\u00eancia artificial, num mundo ideal isso n\u00e3o deveria acontecer, mas dada a dificuldade de proibir, que mais e mais pessoas enxerguem a diferen\u00e7a.<\/p>\n
Porque n\u00e3o adianta dizer para sua filha que \u00e9 errado algu\u00e9m ter feito uma imagem falsa dela pelada e distribu\u00eddo na escola para reduzir o sofrimento dela. Conseguir punir quem fez \u00e9 uma parte importante, e eu sou do time que acredita que precisa ter puni\u00e7\u00e3o para quem divulga essas imagens, mas evitar um trauma de exposi\u00e7\u00e3o \u00e9 ainda mais importante para a vida da pessoa vitimizada por uma montagem dessas. N\u00e3o se discute o quanto o outro sente por um problema, isso n\u00e3o \u00e9 control\u00e1vel. O que se discute s\u00e3o formas de fazer a pessoa sair do buraco e continuar levando uma vida saud\u00e1vel.<\/p>\n
Se n\u00e3o \u00e9 um crime que pode ser coibido de forma eficiente, as pessoas precisam estar prontas para n\u00e3o sofrerem por causa dele. E eu presumo que com o passar do tempo as pessoas v\u00e3o acabar tratando o tema com menos gravidade. A diferen\u00e7a entre sua imagem real e a imagem modificada pelo computador vai ser parte da vis\u00e3o de mundo das pr\u00f3ximas gera\u00e7\u00f5es. Da mesma forma que ensinamos crian\u00e7as a n\u00e3o acreditar no que dizem sobre ela por n\u00e3o serem aquilo (dever\u00edamos, pelo menos), vamos precisar ensinar, especialmente as meninas, que uma imagem manipulada dela n\u00e3o \u00e9 ela.<\/p>\n
Que artificial \u00e9 artificial. Parece algo simples, mas tem seus desafios: com mais e mais gente vivendo a vida atrav\u00e9s de uma tela de celular, com op\u00e7\u00f5es infinitas de filtros, a imagem artificializada come\u00e7a a virar parte da identidade da pessoa. Fica mais complicado ensinar uma pessoa que ela n\u00e3o \u00e9 aquela montagem nua na tela se ela vive usando maquiagem digital e tem uma imagem virtual diferente da real.<\/p>\n
Se voc\u00ea j\u00e1 se v\u00ea atrav\u00e9s dos filtros de intelig\u00eancia artificial que afinam o rosto, mudam seu nariz e todo tipo mais de trucagem digital, talvez aquela imagem feita por intelig\u00eancia artificial de voc\u00ea sem roupa bata com mais for\u00e7a no seu psicol\u00f3gico. E c\u00e1 entre n\u00f3s, baseado nas imagens de IA que eu j\u00e1 vi por a\u00ed, a tend\u00eancia dos algoritmos \u00e9 criar pessoas extremamente idealizadas. Pudera, foram treinados em corpos e rostos muito atraentes. N\u00e3o sei o quanto mexe com o psicol\u00f3gico de uma mulher ver uma imagem modificada dela com um corpo nu mais tradicionalmente atraente que o pr\u00f3prio.<\/p>\n
Talvez o problema se agrave para os homens com o tempo, considerando o quanto das novas gera\u00e7\u00f5es se identificam como gays ou bissexuais, mas eu ainda parto de um princ\u00edpio mais \u201canal\u00f3gico\u201d que v\u00e3o ser as mulheres que mais v\u00e3o ter que lidar com esse tipo de imagem falsa. E que elas precisam de mais conscientiza\u00e7\u00e3o sobre o que est\u00e1 por vir. Homem j\u00e1 desenhava tri\u00e2ngulo com um risquinho no meio desde os tempos das cavernas, n\u00e3o \u00e9 uma demanda que vai sumir t\u00e3o cedo.<\/p>\n
E se a barreira de entrada \u00e9 literalmente subir uma foto num site ou aplicativo e apertar o bot\u00e3o \u201cdeixar pelada\u201d, \u00e9 muito poss\u00edvel que a internet fique lotada desses nudes imagin\u00e1rios, primeiro em imagens e depois em v\u00eddeos cada vez mais convincentes. O cidad\u00e3o m\u00e9dio era enganado por montagem tosca de Photoshop, com um resultado praticamente perfeito da IA, vai ser muito dif\u00edcil mesmo coibir o uso da tecnologia.<\/p>\n
Claro, podemos fazer muita coisa para controlar a dissemina\u00e7\u00e3o desses sistemas, mas salvo derrubar a internet toda, sempre vai ter por onde escapar. \u00c9 muito importante come\u00e7ar a divulgar agora a mensagem que a pessoa naquela imagem manipulada n\u00e3o \u00e9 real, que n\u00e3o pode ser considerada real. N\u00e3o porque eu quero salvar o babaca que fica divulgado essas imagens modificadas de mulheres reais, mas porque eu quero que essas mulheres reais n\u00e3o se deixem abalar por algo que fica mais e mais dif\u00edcil de coibir.<\/p>\n
Porque como eu j\u00e1 disse, n\u00e3o \u00e9 an\u00e1logo a proibir a constru\u00e7\u00e3o de uma bomba at\u00f4mica e sim a proibir a produ\u00e7\u00e3o e o consumo de maconha. \u00c9 enxugar gelo, e por mais que eu n\u00e3o tenha nada contra a ideia de o Estado desestimular bombas at\u00f4micas, maconha e nudes por intelig\u00eancia artificial, \u00e9 essencial saber at\u00e9 onde ele pode ir em cada caso e adaptar a resposta da sociedade de acordo com a possibilidade de proibi\u00e7\u00e3o.<\/p>\n
Mas quem eu estou enganando? Logo logo surge a Lei \u201cFulana de Tal\u201d proibindo a produ\u00e7\u00e3o e a distribui\u00e7\u00e3o desse tipo de imagem (que por sinal j\u00e1 \u00e9 proibido por leis feitas antes mesmo da internet existir), e acham que est\u00e1 tudo resolvido. Aparece uma ativista dizendo que temos que ensinar os homens a n\u00e3o usar intelig\u00eancia artificial para fazer imagens e v\u00eddeos de mulheres peladas; tudo para no final das contas continuar acontecendo sem parar. N\u00e3o conseguem evitar pornografia infantil real nas redes sociais, v\u00e3o impedir isso? Fa\u00e7am-me o favor.<\/p>\n
Mas se este texto serve para algo, \u00e9 para preparar nossas leitoras e as meninas que elas conhe\u00e7am para lidar com isso, e a primeira coisa a fazer \u00e9 colocar na cabe\u00e7a que n\u00e3o \u00e9 real. N\u00e3o pode ser tratado como real, pelo bem da sa\u00fade mental da pessoa. N\u00e3o vai chegar uma lei para resolver o problema, n\u00e3o vai ter tecnologia para proibir a utiliza\u00e7\u00e3o disso, \u00e9 algo que vem por a\u00ed e precisa estar na mente de quem pode ser v\u00edtima.<\/p>\n
N\u00e3o \u00e9 real. N\u00e3o podemos deixar que esse tipo de coisa assuma a condi\u00e7\u00e3o de realidade, sen\u00e3o prevejo muito sofrimento desnecess\u00e1rio no nosso futuro.<\/p>\n
Para dizer que vai fazer meu nude na IA (faz com um pinto gigante pelo menos), para dizer que temos que ensinar o homem a n\u00e3o ________ (funciona bem, n\u00e9?), ou mesmo para dizer que isso \u00e9 problema de gente que n\u00e3o faz sexo (voc\u00ea realmente precisa se atualizar sobre os zoomers): somir@desfavor.com<\/a><\/p>\n","protected":false},"excerpt":{"rendered":" Nas \u00faltimas semanas come\u00e7aram a surgir mais e mais casos de mulheres reclamando de serem expostas por imagens criadas por intelig\u00eancia artificial. Um dos casos at\u00e9 envolveu menores de idade \u201cdesnudadas\u201d pelos colegas de escola. Considerando a velocidade com que a tecnologia avan\u00e7a, teremos mais e mais problemas nesse sentido. Ser\u00e1 que \u00e9 poss\u00edvel lidar […]<\/p>\n","protected":false},"author":3,"featured_media":22432,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[37],"tags":[],"class_list":["post-22431","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-somir-surtado"],"_links":{"self":[{"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/posts\/22431","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/comments?post=22431"}],"version-history":[{"count":0,"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/posts\/22431\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/media\/22432"}],"wp:attachment":[{"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/media?parent=22431"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/categories?post=22431"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/tags?post=22431"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}