Ok, tem muito golpe e mentira nas redes sociais, sejam elas por motivos financeiros ou por pura escrotid\u00e3o humana. Ok, as redes sociais n\u00e3o podem ser um ponto cego da legisla\u00e7\u00e3o do pa\u00eds. Mas, o que regular? Como regular?<\/p>\n
Se depender dos governantes brasileiros, o foco \u00e9 regular o algoritmo para que suas propagandas eleitorais ganhem destaque. Se tem algo que ambas as turmas concordam \u00e9 que tem conte\u00fado demais do outro lado aparecendo. A direita acha que a internet \u00e9 um antro de esquerdistas fazendo o que querem sem supervis\u00e3o, a esquerda acha que a internet \u00e9 um antro de direitistas fazendo o que querem sem supervis\u00e3o.<\/p>\n
E \u00e9 f\u00e1cil entrar nessa discuss\u00e3o. No final das contas, \u00e9 o conceito que mais faz sentido para o cidad\u00e3o m\u00e9dio: o \u201crob\u00f4\u201d da rede social manda conte\u00fado para as pessoas, e se esse sistema mandar conte\u00fado melhor, as redes sociais ficam melhores, certo? Eu consigo perceber essa ideia no fundo dos discursos da maioria dos pol\u00edticos e defensores da regula\u00e7\u00e3o em geral.<\/p>\n
Mas tem uma conversa mais dif\u00edcil a\u00ed. O conte\u00fado \u00e9 um problema por causa da regula\u00e7\u00e3o frouxa?<\/p>\n
Vamos pensar: sim, as Big Techs podem gastar mais dinheiro com modera\u00e7\u00e3o. Cabe nas margens de lucro delas, porque quando \u00e9 para controlar conte\u00fado que espanta anunciantes, eles se mexem. Os sistemas de modera\u00e7\u00e3o autom\u00e1tica conseguem identificar conte\u00fado chocante ou pornogr\u00e1fico na maioria das vezes, tanto que sua timeline raramente tem algo expl\u00edcito.<\/p>\n
Mas colocar um moderador virtual que consegue analisar milh\u00f5es de postagens numa fra\u00e7\u00e3o de tempo que um humano faria n\u00e3o mudou a l\u00f3gica geral que sexo e viol\u00eancia vendem, n\u00e3o? As modelos podem n\u00e3o estar mostrando at\u00e9 as trompas nas fotos e v\u00eddeos, mas est\u00e3o apelando para o mesmo interesse com roupas reveladoras. N\u00e3o precisa passar v\u00eddeo de execu\u00e7\u00e3o de cartel mexicano na sua tela para viol\u00eancia ser tema constante de postagens politizadas.<\/p>\n
Algo que todo mundo v\u00ea: dos menores criadores at\u00e9 mesmo grandes portais de not\u00edcias, existe o h\u00e1bito de trocar letras por n\u00fameros em palavras pesadas como morte ou estupro. O algoritmo n\u00e3o gosta delas, foi programado para bloquear ou reduzir o alcance de conte\u00fados que usem esses termos, porque os anunciantes detestam aparecer junto com essas postagens.<\/p>\n
Voc\u00ea acha que \u00e9 muito mais dif\u00edcil para o rob\u00f4 aprender que m0rte e morte s\u00e3o a mesma coisa? Porque n\u00e3o \u00e9. N\u00e3o \u00e9 um truque genial inalcan\u00e7\u00e1vel pelos programadores dos sistemas de modera\u00e7\u00e3o, a vista grossa \u00e9 grossa de prop\u00f3sito. E por dois motivos: o primeiro \u00e9 que as pessoas realmente gostam desse tipo de conte\u00fado e a rede social que conseguir banir de vez vai perder muito tempo de visualiza\u00e7\u00e3o (e dinheiro de anunciantes) se realmente se esfor\u00e7ar para eliminar esse tipo de apela\u00e7\u00e3o.<\/p>\n
O segundo \u00e9 o efeito \u201cenxugar gelo\u201d. Onde h\u00e1 demanda, h\u00e1 oferta. Se o algoritmo estiver bloqueando \u201cm0rte\u201d, a pr\u00f3xima ideia \u00e9 \u201cm0r1e\u201d, e depois \u201cm0r13\u201d, e quando nem isso passar… a linguagem se adapta. A palavra suic\u00eddio em ingl\u00eas (suicide) \u00e9 banida ou severamente monitorada em quase todas as redes sociais do mundo. \u00c9 uma das piores coisas que voc\u00ea pode fazer pelo seu alcance, vai gerar escrut\u00ednio imediato e provavelmente vai fazer seu conte\u00fado ser soterrado. Em sess\u00f5es de coment\u00e1rios e chats, a palavra muitas vezes \u00e9 literalmente banida. N\u00e3o passa pela modera\u00e7\u00e3o autom\u00e1tica.<\/p>\n
As pessoas foram trocando letras por n\u00fameros por um tempo, mas como a palavra incomoda muito a sociedade, nesse caso \u00e9 comum banir at\u00e9 essas altera\u00e7\u00f5es. Porque sim, \u00e9 muito poss\u00edvel fazer o computador entender que voc\u00ea s\u00f3 trocou uma coisa de lugar. E aqui eu volto \u00e0 ideia de que a linguagem se adapta: \u00e0s vezes voc\u00ea vai ver pessoas escrevendo ou at\u00e9 mesmo falando \u201cunalive\u201d ou varia\u00e7\u00f5es como \u201cun-alive\u201d, que \u00e9 uma palavra que nunca existiu no ingl\u00eas. Numa tradu\u00e7\u00e3o igualmente inventada, \u00e9 meio como \u201cdesviver\u201d.<\/p>\n
Eu argumento que j\u00e1 \u00e9 uma palavra que quase todos os jovens que entendem ingl\u00eas compreendem naturalmente. \u00c9 a mesma coisa que morte em diversos contextos em que existe censura ou puni\u00e7\u00e3o pelo uso de palavras relacionadas. O ponto aqui \u00e9 que existem mil formas diferentes de contornar regula\u00e7\u00e3o se a pessoa n\u00e3o concorda em ser regulada. As IAs podem ficar muito boas em perceber tend\u00eancias e atualizar sua lista de termos proibidos, mas n\u00e3o existe como evitar que a linguagem continue se moldando ao redor dessas limita\u00e7\u00f5es.<\/p>\n
Modera\u00e7\u00e3o sempre est\u00e1 um passo atr\u00e1s, porque ela s\u00f3 existe reagindo ao conte\u00fado desenvolvido por pessoas. Pode ter uma lista perfeita de palavras proibidas, mas no segundo que um grupo definir que a frase \u201cabra\u00e7ar o besouro\u201d significa estuprar uma pessoa, n\u00e3o existe modera\u00e7\u00e3o externa ao grupo que seja capaz de resolver. O meu ponto aqui \u00e9 que \u00e9 um problema fundamental mesmo: \u00e9 f\u00edsico, a informa\u00e7\u00e3o n\u00e3o pode ser analisada antes de ser transmitida.<\/p>\n
Algu\u00e9m mais atento vai perceber que eu nem considerei humanos fazendo essa tarefa. Uma pessoa esperta consegue perceber que tem algo errado ali pelo contexto. Mesmo que a pessoa criando o conte\u00fado indesej\u00e1vel d\u00ea todas as voltas que puder no algoritmo, um ser humano atento pega a inten\u00e7\u00e3o. Mas \u00e9 outro problema fundamental: quem vai fazer esse trabalho? Problema de volume de m\u00e3o-de-obra, porque \u00e9 uma quantidade insana de conte\u00fado sendo produzido e subido na internet a cada segundo.<\/p>\n
E mesmo que fosse economicamente vi\u00e1vel ter o n\u00famero de pessoas necess\u00e1rio para fazer essa modera\u00e7\u00e3o, ainda h\u00e1 o problema da qualidade da m\u00e3o-de-obra. Precisa de uma pessoa com experi\u00eancia de vida, conhecimento t\u00e9cnico, cultura geral e disposi\u00e7\u00e3o a aprender sem parar para realmente combater o volume de truques e esquemas que a humanidade consegue criar a cada momento. A coisa mais pr\u00f3xima disso no tamanho do trabalho em quest\u00e3o \u00e9 uma IA.<\/p>\n
Vai ter que ser a m\u00e1quina. N\u00e3o tem gente para regular conte\u00fado em tempo real. E nem faz sentido que seja gente fazendo isso, \u00e9 enterrar gente capaz de resolver muitos outros problemas da sociedade num trabalho sem fim. E para a m\u00e1quina funcionar, a regula\u00e7\u00e3o precisa ter regras claras e atalhos para entender o que estamos publicando.<\/p>\n
E aqui, meu ponto: leis de pa\u00edses modernos j\u00e1 cobrem basicamente todos os crimes que podem ser cometidos a partir de redes sociais. Voc\u00ea consegue reduzir basicamente todo conte\u00fado problem\u00e1tico a uma lei da \u201cvida real\u201d. Tigrinho \u00e9 estelionato, crian\u00e7as n\u00e3o podem ser assediadas, as pessoas t\u00eam direito de imagem… a internet n\u00e3o inventou crimes. Usar um v\u00eddeo feito por IA com uma pessoa famosa para vender um produto \u00e9 o mesmo crime de contratar algu\u00e9m parecido e filmar o comercial fingindo que \u00e9 a pessoa famosa.<\/p>\n
A rede social n\u00e3o faz nenhuma coisa ilegal que s\u00f3 pode existir nela. Nem mesmo pirataria, porque as pessoas podiam piratear papiros no Egito antigo com um escriba safado, sempre foi o mesmo conceito. Manipular algoritmo nada mais \u00e9 do que apelar para medos e desejos primais ou usar sua influ\u00eancia para passar na frente do concorrente.<\/p>\n
S\u00e9rio, voc\u00ea consegue imaginar um crime online que simplesmente n\u00e3o seja coberto por alguma parte da legisla\u00e7\u00e3o pr\u00e9-internet? Roubo \u00e9 roubo. Cal\u00fania \u00e9 cal\u00fania. Pornografia infantil \u00e9 pornografia infantil. N\u00e3o existe isso de que n\u00e3o temos leis para definir o que \u00e9 aceit\u00e1vel ou n\u00e3o na internet. <\/p>\n
Mesmo coisas que parecem exclusivamente online como pornografia de vingan\u00e7a (divulgar imagens pornogr\u00e1ficas de terceiros sem seu consentimento) ainda s\u00e3o totalmente baseadas em repercuss\u00f5es reais que j\u00e1 faziam parte da l\u00f3gica de funcionamento do mundo. Se no s\u00e9culo passado algu\u00e9m imprimisse a foto nua de sua ex e sa\u00edsse distribuindo na rua contra a vontade dela, todo mundo ia achar correto? J\u00e1 era errado, j\u00e1 sab\u00edamos que era errado.<\/p>\n
Regula\u00e7\u00e3o tem muito mais a ver com gerar consequ\u00eancias para o que j\u00e1 sabemos que \u00e9 errado. As regras das redes sociais j\u00e1 costumam proibir basicamente tudo o que voc\u00ea acha que deveria ser proibido. E existem mecanismos para gerar puni\u00e7\u00e3o: como eu trabalho com publicidade, j\u00e1 cansei de ver sistemas automatizados barrarem meus conte\u00fados por cismarem com algo que consideram ilegal ou imoral. \u00c0s vezes at\u00e9 derrubam a conta e te impedem de anunciar. Eu sei que existe, mesmo que no caso profissional que eu use sejam sempre falsos positivos.<\/p>\n
A quest\u00e3o aqui \u00e9 que o custo de quebrar essas regras \u00e9 muito pequeno. Golpistas profissionais criam ou roubam perfis sem parar, se pegarem eles num golpe, eles trocam o nome da loja falsa e come\u00e7am de novo. N\u00e3o \u00e9 dif\u00edcil achar o conte\u00fado indesejado na internet, o dif\u00edcil \u00e9 impedir que as pessoas continuem publicando esse conte\u00fado. E para impedir, tem que reduzir impunidade. N\u00e3o digo s\u00f3 para \u201cdar exemplo\u201d, puni\u00e7\u00e3o impede que o mesmo golpista repita o crime enquanto a puni\u00e7\u00e3o acontece.<\/p>\n
Que tipo de regula\u00e7\u00e3o das redes sociais cobre esse buraco da impunidade? Vamos pensar num caso extremo: precisa colocar o CPF para usar rede social e ele aparece em tudo o que voc\u00ea publica. Todo mundo identificado! Isso vai resolver? Porque a maioria das coisas erradas s\u00e3o feitas de peito aberto nesse pa\u00eds. Esquema de golpe de Estado revelado pelo WhatsApp dos conspiradores.<\/p>\n
Talvez impe\u00e7a algumas pessoas com mais bom senso de abusar, mas a gente que est\u00e1 nessa para conseguir dinheiro ou abusar dos outros nem costuma ser t\u00e3o secreta assim. Fazem porque acham que n\u00e3o vai dar nada. Alguns por burrice, mas muitos porque sabem do problema fundamental do Brasil: n\u00e3o conseguimos pegar a maioria dos criminosos.<\/p>\n
N\u00e3o tem estrutura para dar conta de tanto bandido. Policiais e ju\u00edzes sobrecarregados eternamente, cadeias lotadas na m\u00e3o do crime organizado, burocracia da idade da pedra… mesmo que as redes sociais fa\u00e7am o trabalho de identificar os criminosos e entregue de bandeja para a Justi\u00e7a, neste pa\u00eds se solta a maioria dos criminosos com senten\u00e7as simb\u00f3licas n\u00e3o porque somos benevolentes, mas porque as cadeias est\u00e3o superlotadas e ju\u00edzes com bom senso n\u00e3o querem mandar mais gente para o PCC.<\/p>\n
Mulher entra com medida protetiva contra o ex-marido violento e morre dias depois porque a pol\u00edcia nunca ia conseguir acompanhar mesmo. Boa parte do nosso sistema de combate ao crime vive no desespero, no limite do colapso. Se come\u00e7armos a julgar e punir os bandidos e os malucos da internet, existe alguma esperan\u00e7a disso funcionar?<\/p>\n
Estou dizendo que \u00e9 para desistir e deixar a internet sem lei? N\u00e3o. Claro que n\u00e3o. Estou dizendo que n\u00e3o estou vendo nenhuma sugest\u00e3o de regula\u00e7\u00e3o que j\u00e1 n\u00e3o seja feita de alguma forma, que as alternativas \u00e0 modera\u00e7\u00e3o autom\u00e1tica n\u00e3o s\u00e3o realistas, e que o problema central da impunidade n\u00e3o vai ser resolvido. Eu quero saber o que diabos querem regular? Tornar ilegais as coisas que j\u00e1 s\u00e3o ilegais?<\/p>\n
For\u00e7ar as plataformas a fazer essa justi\u00e7a pelo Estado? Elas nem podem. Porque se o indiv\u00edduo cometendo os crimes n\u00e3o for diretamente impedido de continuar fazendo essas coisas, ele vai voltar. Meio como se a regula\u00e7\u00e3o para empresas que soltam materiais t\u00f3xicos nos rios fosse colocar uma rolha no cano de esgoto. \u00c9 s\u00f3 tirar. Se colocarem de novo, tira de novo. Se a puni\u00e7\u00e3o existe apenas no campo da pr\u00f3pria rede social, a pessoa que quer fazer coisa errada vai continuar fazendo. Ningu\u00e9m acha que o sistema judici\u00e1rio brasileiro vai funcionar melhor se a rede social banir mais palavras, n\u00e9?<\/p>\n
E \u00e9 isso que me leva a desconfiar muito de pol\u00edticos falando de regula\u00e7\u00e3o de redes sociais. Eles j\u00e1 podem trabalhar para reduzir absurdamente o n\u00famero de conte\u00fados danosos ilegais na rede, porque come\u00e7a fora da internet. Se a influencer tivesse certeza que ia tomar uma multa arrasadora depois de praticar estelionato e n\u00e3o que fosse fazer selfie com pol\u00edticos… bom, o planejamento de neg\u00f3cios dela seria outro. E mesmo que fosse imbecil ou gananciosa ao ponto de tentar mesmo assim, a puni\u00e7\u00e3o acabaria com sua capacidade de utilizar a fama para explorar seguidores.<\/p>\n
\u00c9 muito dif\u00edcil, eu concordo que \u00e9. N\u00e3o acertamos nem a parte de literais assassinatos e estupros ainda, fazer a Justi\u00e7a funcionar na internet \u00e9 uma tarefa ainda mais complexa. Mas todos j\u00e1 dever\u00edamos saber que sem isso, todo o resto \u00e9 apenas propaganda de pol\u00edtico picareta, ou pior, desculpa esfarrapada para manipular o algoritmo dizendo que est\u00e1 protegendo a popula\u00e7\u00e3o.<\/p>\n
As coisas que est\u00e3o erradas nas redes sociais j\u00e1 s\u00e3o erradas, inclusive do ponto de vista legal. Mas os criminosos s\u00e3o pegos \u201cpor amostragem\u201d, um ou outro caso que gera interesse midi\u00e1tico. N\u00e3o me incomoda nem um pouco botar press\u00e3o nas Big Techs, elas lucram muito com conte\u00fados ilegais, mas eu n\u00e3o sei se algu\u00e9m com poder pensou que elas n\u00e3o v\u00e3o conseguir impedir a postagem de conte\u00fados ilegais se n\u00e3o tiver consequ\u00eancia pelo poder p\u00fablico.<\/p>\n
Pode xingar as empresas o quanto quiser, mas para cada bloqueio que eles colocarem, nasce um novo \u201cm0rte\u201d. O golpista que tenta enganar sua v\u00f3 com loja falsa no Instagram \u00e9 um golpista… ele vai estar um passo na frente e n\u00e3o vai se doer por estar fazendo a coisa errada. O escroto que fica aliciando meninas a se cortarem no Discord \u00e9 um psicopata, sociopata ou alguma outra condi\u00e7\u00e3o que compele a fazer isso. Eles v\u00e3o dar a volta no algoritmo, porque eles \u201cprecisam\u201d dar a volta no algoritmo.<\/p>\n
N\u00e3o \u00e9 por esse \u00e2ngulo que voc\u00ea combate o problema. Tem que ter consequ\u00eancia e impedimentos reais para a realiza\u00e7\u00e3o de novos crimes. \u00c9 assustador que um nerd venha dizer que a solu\u00e7\u00e3o n\u00e3o est\u00e1 na internet. Ou pior, \u00e9 inoc\u00eancia: porque no fundo a turma da \u201cregula\u00e7\u00e3o das redes\u201d sabe dessa falha \u00f3bvia e est\u00e1 apenas querendo influenciar o algoritmo para divulgar mais o seus golpes.<\/p>\n
N\u00e3o \u00e9 raiva do tigrinho, \u00e9 inveja dele.<\/p>\n","protected":false},"excerpt":{"rendered":"
Ok, tem muito golpe e mentira nas redes sociais, sejam elas por motivos financeiros ou por pura escrotid\u00e3o humana. Ok, as redes sociais n\u00e3o podem ser um ponto cego da legisla\u00e7\u00e3o do pa\u00eds. Mas, o que regular? Como regular?<\/p>\n","protected":false},"author":3,"featured_media":29499,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[24],"tags":[],"class_list":["post-29498","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-flertando-desastre"],"_links":{"self":[{"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/posts\/29498","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/comments?post=29498"}],"version-history":[{"count":0,"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/posts\/29498\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/media\/29499"}],"wp:attachment":[{"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/media?parent=29498"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/categories?post=29498"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/tags?post=29498"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}