Adpocalypse 2: Inocência culpada.

O YouTube está em maus lençóis de novo. Mesmo que o problema fosse conhecido há alguns anos, um vídeo recente recebeu muita atenção ao falar sobre a enorme quantidade de vídeos disponíveis na plataforma de crianças em situações, poses e trajes no mínimo… questionáveis. O que por sua vez atrai muita atenção de pessoas querendo explorar essas crianças. Diante da informação, algumas grandes empresas já começaram a retirar seus anúncios da plataforma, de novo…

Eu já tinha descoberto algo de podre no YouTube há alguns anos. Tem tudo a ver com os algoritmos do site: a ideia do sistema é ir te indicando conteúdo relacionado com o que você está vendo e te manter o máximo de tempo possível dentro do site. Até aí, normal. Quem nunca se perdeu no YouTube depois de ver um vídeo interessante e receber mil indicações diferentes? Eu me considero um heavy user da plataforma, assisto pelo menos meia hora de vídeos no site todos os dias. Por isso, já pude presenciar como esses sistema automatizado de recomendações é esperto: não só mostra vídeos que se parecem com o que você está vendo, como parece adivinhar outros assuntos que te interessam, mesmo que não tenham relação direta alguma.

Um vídeo sobre astronomia pode ter nos relacionados algo sobre xadrez, por exemplo. Uma pessoa normal desconfiaria que a pessoa que gosta do primeiro tema tem em si o que é necessário para gostar do segundo, mas uma máquina? O algoritmo do YouTube precisou analisar os hábitos e gostos de muitas pessoas para chegar nessa conclusão. Se um número elevado de pessoas que procuraram um tema também gasta tempo suficiente vendo conteúdos de outro, é seguro fazer essa recomendação. E lembrando que não adianta só chutar algum vídeo diferente. Se eu estou vendo um dos canais que eu gosto e começa a aparecer clipe de sertanejo, funk ou aqueles vídeos merda de pegadinhas na barra lateral, o que a maioria dos brasileiros adora, eu vou lembrar que tenho mais o que fazer da vida e sair do site (YouTube não gosta disso, porque diminui o tempo de exposição aos anúncios).

Então, o sistema não te indica só o que é popular. Ele tenta te conhecer um pouco e cruzar os seus dados com outras pessoas que parecem gostar das mesmas coisas. O algoritmo de recomendações do YouTube é uma prova de que a máquina consegue sim entender uma pessoa, mesmo que seja pelos seus gostos habituais. E porque eu falo tudo isso? Para explicar porque tem algo de muito podre nos vídeos de crianças disponíveis no site. Eu nunca consegui chegar nesse lado sujo do YouTube enquanto estou logado com a minha conta habitual, mas eu achei ele assim que entrei no site no modo anônimo do navegador.

No modo anônimo, os sites não tem como “lembrar” do que você fez antes neles (não te protege de porra nenhuma, fica o aviso). O que eu acabo usando quando quero ver um vídeo muito diferente da minha média de gostos. Por exemplo, para escrever os textos das punições, eu tenho que ver vídeos horrendos no YouTube. Se eu entrar com a minha conta, periga do sistema achar que eu gosto de ver clipes de axé, vídeos de parto e pessoas urinando na rua… por isso, entro anônimo. Mas mesmo que o YouTube não saiba que sou eu, ele ainda tenta te conhecer e prever o que você gosta. Tudo para você continuar vendo os anúncios.

E é quando você vê um vídeo tosco de conteúdo mais adulto que a coisa começa a se desenrolar na sua frente: você vai começar a ver muita coisa bizarra nos relacionados. Se o vídeo que você viu tinha uma mulher seminua, aparecem outros mais baixaria, se você clicar neles (joguem pedras, eu clico em tudo que tem peitos no YouTube, até vídeo de culinária), começa a entrar num universo paralelo onde parece que todo o site está tomado por vídeos de cunho sexual e provocativo. Se você clicar o suficiente, chega nos primeiros vídeos… estranhos.

A maioria deles de meninas, crianças mesmo. Não tem nada claramente sexual neles, você pode ver pelas miniaturas que são vídeos caseiros de meninas falando com a câmera e tem temas inócuos como “minha rotina da manhã” ou coisas do tipo. Uma pessoa normal acharia que o YouTube estava maluco e não daria bola pra isso. Mas eu já aprendi que a internet não é um lugar confiável. Foi quando caiu a ficha: o YouTube sabia que pessoas que clicam em vídeos com mulheres peladas ou de natureza claramente sexual também gostavam de vídeos de crianças desacompanhadas. E tudo começou a encaixar. Se não desse certo indicar esses vídeos, não estaria fazendo. Vídeos de crianças aumentam o tempo de permanência no site para pessoas que entram no modo anônimo e procuram conteúdo sexual.

Entenderam agora? Na minha conta pessoal, eu nunca recebi indicações de vídeos com crianças. Eu não gosto de criança, especialmente nos meus vídeos. Aliás, vamos ser terrivelmente honestos? Quase nenhum adulto gosta de crianças, não nesse contexto. Escutar uma pessoa falar de forma incoerente imitando outra pessoa (porque criança é um papagaio com direitos humanos) com os temas horríveis que interessam crianças não é uma boa experiência para um adulto. Deve ser lindo escutar seu filho ou filha ficar falando sobre o que diabos se passa na cabeça, mas aguentar filho dos outros? Duvido muito.

Quem vê vídeo de criança é criança ou… bom, o que vocês acham? Não precisam achar, o algoritmo do YouTube revela: pessoas que querem conteúdo sexual. Não vou dizer que é sempre que você cai nesse lado do YouTube depois de vídeos provocativos ou com nudez, mas a chance de ir é muito maior que zero, e isso é um problema. Não só um problema com o YouTube e seu algoritmo de recomendações, mas com as pessoas acessando o site diariamente. Precisa de MUITOS dados para um computador chutar que o vídeo de uma criança chacoalhando na frente de uma câmera apela para o gosto de quem está procurando estímulo sexual no YouTube. Não é um chute óbvio, especialmente não para uma máquina.

Mas, como tantas pessoas que devem ter notado esse caminho bizarro nas recomendações do YouTube, eu não pensei muito mais nisso. 99% do tempo eu estou logado na minha conta mesmo, sem precisar ser lembrado que existem tantos vídeos de crianças na plataforma. Mas quando o assunto ressurgiu, com a pesquisa mais aprofundada sobre o que acontecia nos comentários desses vídeos, voltou tudo. Só existe um “mercado” para essas crianças postarem vídeos porque existem consumidores para eles. E quando não são outras crianças, são adultos querendo ver essas crianças em poses e trajes cada vez mais sexuais.

E provavelmente a maioria de vocês também não sabia que isso tudo existia. Afinal, mesmo que você caia num vídeo mais sexual por lá, não vai chegar nos vídeos das crianças. No meu caso, o YouTube ficaria extremamente confuso tentando achar relação entre vídeos de tecnologia e putaria (não computa: nerd tem medo de mulher, erro, erro!), arriscando mais vídeos de pessoas montando computadores do que vídeos de funk. Se o algoritmo te conhece, ele tende a te proteger de ir para o “outro lado” do site. Mas como eu tive a experiência de entrar anônimo para ver vídeos terríveis, não havia proteção alguma. O sistema só usou o que sabia para me manter preso no site o máximo de tempo possível.

Então, mesmo que seja complicado controlar o que se sobe no YouTube, são milhares de horas de vídeo por dia (sendo conservador) em milhões de contas, o algoritmo estava explorando SIM essas crianças para exibir mais anúncios. Normalmente eu estou do lado da plataforma nesses casos, mas como a maioria dos vídeos denunciados não eram por si só sexuais ou impróprios, crianças são crianças e não costumam ter noção do que estão fazendo, o problema está no caminho que o algoritmo faz até chegar nos vídeos delas. E isso está sob controle do YouTube. Não devem ter programado isso conscientemente, mas tinham como saber e estavam ganhando dinheiro com isso.

O sistema é tão esperto que consegue reconhecer rostos, símbolos e sons nos vídeos para derrubar conteúdo com direitos autorais de grandes empresas como a Disney, vai me dizer que não consegue no mínimo colocar um sinal amarelo num vídeo de uma criança desacompanhada? As crianças não são culpadas de quererem ser youtubers, mas o YouTube é culpado de indicar esses vídeos depois de vídeos de cunho sexual. Já estou até cansado de dizer que pra começo de conversa uma criança não deveria ter essa liberdade em casa de sair filmando e postando a própria vida em um site público, mas vamos só fingir por agora que não é culpa dos pais. A preguiça venceu e vamos ter que lidar com esses animaizinhos correndo soltos pela internet.

Então, no MÍNIMO o YouTube tem que aprender a reconhecer esses vídeos e começar a fechar a porta para quem está lá só pra ter gratificação sexual. Não estou dizendo que é fácil, mas a tecnologia existe sim. Ainda mais numa empresa com bilhões para gastar e a nata da programação mundial. Primeiro que menores de 18 anos já não deveriam ser permitidos como criadores de conteúdo, mas vá lá. Mesmo que não derrubem automaticamente vídeos de crianças, que pelo menos tenham um sistema para desligar comentários ou retirar anúncios deles (vídeos que não podem ter anúncios são basicamente ignorados pelo algoritmo, por isso todo youtuber morre de medo de ser desmonetizado). Não quero que o YouTube resolva o problema da pedofilia na humanidade, mas que pelo menos não ganhe dinheiro com isso! Sempre vai ter uma criança mais esperta ou um predador mais inteligente que vai dar a volta no sistema, mas tanto um como o outro tendem a ser bem limitados em média. Qualquer impedimento simples já derruba a viabilidade do processo para ambas as partes.

Dessa vez o YouTube está fazendo merda. Acredito que vai conseguir achar alguma solução, porque mexeram nos bolso dele, mas que o costumeiro argumento de que não se controla o conteúdo na internet não sirva de desculpa esfarrapada para não fazer o trabalho que se pode fazer. A culpa é mais dos pais que deixam os filhos soltos desse jeito para ficar mostrando a bunda no YouTube? É. O YouTube vai mudar a mente de qualquer pedófilo desse mundo? Não. O YouTube pode evitar ganhar dinheiro com exploração infantil e no mínimo atrapalhar o desenvolvimento desse mercado? Sim.

Os anunciantes não estão sendo histéricos dessa vez. Imagina gastar milhões de dólares em anúncios e ver sua marca aparecendo por cima de um vídeo com uma criança fazendo ginástica e meia dúzia de indianos tarados mandando a menina tirar a roupa? Inaceitável. Se a plataforma quer vender anúncios, que corra atrás de proteger quem paga por ela. Não tem nada a ver com limitar liberdade de expressão, isso é sobre uma empresa fazer o mínimo que está sob seu controle para pelo menos não incentivar a mercantilização de comportamentos muito merda do ser humano (seja ignorar os filhos, seja sexualizar crianças).

Parece que já se mexeram e começaram a derrubar os vídeos. Porque, adivinha só, era possível. Veremos como isso se desenrola.

Para dizer que quem gosta de criança é pedófilo, para dizer que quem gosta de pedófilo é quem ganha dinheiro deles, ou mesmo para dizer que quem gosta de YouTube é retardado de qualquer jeito: somir@desfavor.com

Desfavores relacionados:

Conteúdo vazio.

Adpocalypse Parte 2: Desmonetizados.

Adpocalypse Parte 1: Homem-Aranha e Elsa grávida.