{"id":23928,"date":"2024-10-26T14:18:11","date_gmt":"2024-10-26T17:18:11","guid":{"rendered":"https:\/\/www.desfavor.com\/blog\/?p=23928"},"modified":"2025-11-05T01:34:05","modified_gmt":"2025-11-05T04:34:05","slug":"sozinhos-em-conjunto","status":"publish","type":"post","link":"https:\/\/www.desfavor.com\/blog\/2024\/10\/sozinhos-em-conjunto\/","title":{"rendered":"Sozinhos em conjunto."},"content":{"rendered":"
\n

Megan Garcia acusa o app de intelig\u00eancia artificial Character.AI (C.AI) pela morte do seu filho Sewell Setzer III, de 14 anos, alegando que o chatbot que utiliza personagens de ‘Game of Thrones’ fomentou o v\u00edcio do adolescente em IA, abusou dele sexual e emocionalmente e n\u00e3o emitiu quaisquer alertas quando ele expressou pensamentos suicidas. LINK<\/a><\/p>\n

\n

E parece que come\u00e7a a surgir um novo culpado externo pelos problemas da juventude. Porque os pais nunca v\u00e3o se acusar… Desfavor da Semana<\/strong>.<\/p>\n<\/div>\n

<\/p>\n

SOMIR<\/span><\/h4>\n

Quando os chatbots como o ChatGPT ficaram realmente utiliz\u00e1veis, seja por capacidade de tocar uma conversa \u201crealista\u201d, seja pela acessibilidade do servi\u00e7o por causa da tecnologia ficando mais barata de usar, estava na cara que o ser humano ia usar isso para simular rela\u00e7\u00f5es. N\u00e3o demorou quase nada para surgirem servi\u00e7os que ofereciam conversas com personalidades simuladas.<\/p>\n

E \u00e9 claro, mesmo que n\u00e3o se diga isso abertamente, nessa parte de \u201cconversa livre\u201d com a IA, a ideia era ter uma parceira de conversas pornogr\u00e1ficas. O tempo passa, o tempo voa… e pornografia continua sendo um dos conte\u00fados mais acessados da rede mundial de computadores. O ser humano \u00e9 atra\u00eddo por isso, e francamente, n\u00e3o tem nada de inerentemente errado em querer esse tipo de divers\u00e3o.<\/p>\n

A quest\u00e3o aqui \u00e9 que para uma IA ser decente nessa coisa toda de ter conversas picantes com pessoas, ela precisa simular uma parte muito importante da nossa resposta a est\u00edmulos sexuais: \u00e9 cientificamente comprovado que excita\u00e7\u00e3o sexual reduz e muito o nosso reflexo de nojo, por exemplo. S\u00e9rio, pensa no que voc\u00ea topa quando est\u00e1 excitado(a) e compara com o que topa quando n\u00e3o est\u00e1… tem uma grande diferen\u00e7a.<\/p>\n

S\u00f3 que isso vai muito mais longe do que toler\u00e2ncia a fluidos corporais, \u00e9 um estado mental de coopera\u00e7\u00e3o \u201cexagerada\u201d com outra pessoa. Voc\u00ea vai mais longe do que normalmente iria e ainda por cima tem um reflexo natural de incentivar os excessos vindos do outro. Em rela\u00e7\u00f5es saud\u00e1veis entre adultos que consentem, \u00e9 uma forma de aumentar divers\u00e3o e prazer.<\/p>\n

\u00c9 um estado mental de excessos. Quando se desenvolve uma IA que \u00e9 capaz de simular esse tipo de conex\u00e3o irresponsavelmente divertida entre duas pessoas, ela tem que entrar no clima. O chatbot pode se vender como uma brincadeira de fingir que est\u00e1 conversando com uma personagem fict\u00edcia como se fosse algu\u00e9m real, mas s\u00f3 atinge seu potencial escondido de ser \u201cbom de putaria\u201d se tiver seus par\u00e2metros ajustados para incentivar o excesso no outro.<\/p>\n

N\u00e3o, ningu\u00e9m criou esses sistemas para incentivar adolescentes a se matar, mas enquanto eles forem eficientes em simular esse nosso comportamento natural de dar corda para os fetiches e loucuras do outro enquanto excitados, o efeito colateral vai existir. Esse tipo de IA n\u00e3o vai te dizer que \u00e9 para se acalmar ou que n\u00e3o precisa ser t\u00e3o intenso… porque isso \u00e9 broxante. N\u00e3o \u00e9 isso que o p\u00fablico desses chatbots querem. Eles querem uma IA que entre no clima e responda totalmente dentro das suas fantasias, sem julgamento e sem limites.<\/p>\n

O simples fato de existir uma IA que finge ser uma personagem do Game of Thrones j\u00e1 demonstra o contexto de fantasia da coisa. E sim, as empresas que tocam esses projetos podem at\u00e9 dizer que n\u00e3o \u00e9 feito para conversas de sacanagem, mas… porra, vamos fingir que n\u00e3o \u00e9 isso que as pessoas est\u00e3o fazendo com elas? Vai conversar com a Daenerys para perguntar qual o planejamento dela para cobrar impostos no reino?<\/p>\n

Isso quer dizer que a culpa \u00e9 realmente da IA? N\u00e3o. Claro que n\u00e3o. A IA \u00e9 um programa de computador que coloca palavras numa tela de acordo com a probabilidade de um ser humano usar elas de verdade num contexto. A IA n\u00e3o \u00e9 uma pessoa. E mesmo que simule como uma pessoa responderia, ela \u00e9 quase que um espelho da pessoa que est\u00e1 interagindo com ela, n\u00e3o existem processos mentais separados, ela \u00e9 rea\u00e7\u00e3o pura ao que recebe de informa\u00e7\u00e3o do usu\u00e1rio.<\/p>\n

O garoto n\u00e3o se matou porque a IA quis que ele se matasse, ele se matou porque era o que ele queria fazer. E um efeito colateral das IAs feitas para serem eficientes em n\u00e3o broxar quem quer falar de sexo \u00e9 justamente dar corda para tudo o que o usu\u00e1rio quer fazer, tentando prever qual a resposta que ele quer ver a partir de cada intera\u00e7\u00e3o.<\/p>\n

A IA nunca pediu para ele se matar, porque nem fazia parte da fantasia na qual ela tinha que se inserir. A IA \u00e9 t\u00e3o culpada pela morte dele quanto a arma do pai que usou. Ferramenta. Pode at\u00e9 parecer algo mais sutil por causa das conversas que ele tinha com a personagem virtual, mas n\u00e3o eram conversas com outra consci\u00eancia, eram apenas ecos do que ele estava sentindo e expressando.<\/p>\n

No v\u00e1cuo seria at\u00e9 maldade falar mal da m\u00e3e que j\u00e1 est\u00e1 sofrendo com a perda do filho, a desgra\u00e7a j\u00e1 aconteceu. Mas como ela resolveu culpar uma ferramenta, precisamos ser mais duros: o garoto se matou porque n\u00e3o tinha rede de prote\u00e7\u00e3o em casa. Jovens abandonados emocionalmente fazem besteiras desde antes da inven\u00e7\u00e3o da roda. E eu nem estou falando de algo mais avan\u00e7ado como acompanhamento psicol\u00f3gico profissional, estou s\u00f3 falando de ter socializa\u00e7\u00e3o b\u00e1sica e prestar aten\u00e7\u00e3o se o seu filho est\u00e1 viciado em alguma coisa.<\/p>\n

Seres humanos abandonados tendem a perder conex\u00e3o com a vida. E se tem algum transtorno mental misturado, \u00e9 ainda mais perigoso. Eu n\u00e3o sei os detalhes da conviv\u00eancia dele com os pais, mas sei que a m\u00e3e n\u00e3o percebeu um filho disposto a se matar e o pai al\u00e9m disso deixou uma arma de fogo livre para ser usada por um fuckin\u2019 adolescente de 14 anos.<\/p>\n

N\u00e3o sei quanto tempo j\u00e1 se passou desde os seus 14 anos, mas eu ainda lembro da completa falta de no\u00e7\u00e3o da realidade que eu tinha na \u00e9poca. J\u00e1 pode confiar que o filho n\u00e3o vai sair correndo no meio da rua, mas ainda tem que lidar com o fato de que \u00e9 muito imaturo e sem casca para lidar com problemas psicol\u00f3gicos comuns da vida. Se voc\u00ea chegar nesse tipo de IA com alguma coisa mal resolvida, ela vai te devolver isso. N\u00e3o porque ela quer, ela n\u00e3o quer nada, mas porque a ferramenta existe para te espelhar.<\/p>\n

Vai se criar mais um culpado externo para a epidemia de antissocializa\u00e7\u00e3o (foda-se voc\u00ea Word, \u00e9 uma palavra agora) que est\u00e1 fazendo mal para tanta gente. V\u00e3o culpar a ferramenta de novo, e de novo n\u00e3o vai resolver nada. Foi abandono, n\u00e3o foi a IA, que mal e porcamente deu um pouco de aten\u00e7\u00e3o para um garoto obviamente desesperado por aten\u00e7\u00e3o.<\/p>\n

Mas falar com o amigo imagin\u00e1rio (ou namorada imagin\u00e1ria) nunca vai ser substituto de uma rela\u00e7\u00e3o real. Faltou isso. E vai continuar faltando para muita gente nesse mundo se a grande solu\u00e7\u00e3o for criar mais e mais ferramentas para simular rela\u00e7\u00f5es… para divers\u00e3o o computador e a IA podem ser excelentes, mas para cobrir abandono n\u00e3o. Isso provavelmente ainda est\u00e1 muitos e muitos anos no futuro… se acontecer.<\/p>\n

Para dizer que estou culpando a v\u00edtima, para dizer que tem que proibir tudo, ou mesmo para dizer que pelo menos ele n\u00e3o atirou na escola: comente<\/a>.<\/p>\n

SALLY<\/span><\/h4>\n

Um adolescente de 14 anos parece ter se apaixonado por um personagem criado por um programa de Intelig\u00eancia Artificial, ficado \u201cviciado\u201d nessa intera\u00e7\u00e3o e ter se desconectado tanto da realidade que acabou retroalimentando uma s\u00e9rie de problemas mentais e cometendo suic\u00eddio com uma arma do seu pai. <\/p>\n

Os pais resolveram processar e responsabilizar a empresa criadora do chatbot alegando que o programa abusou emocional e sexualmente do seu filho, o viciou e n\u00e3o o desencorajou a se suicidar. Sim, isso que voc\u00ea leu, eles acusam uma IA, um objeto inanimado, de abusar sexualmente de um adolescente.<\/p>\n

Eu costumava me perguntar que tipo de filho as pessoas est\u00e3o criando para o mundo, hoje eu me pergunto: as pessoas realmente est\u00e3o criando seus filhos?<\/p>\n

Um adolescente que se apaixona por um chatbot tem muito, mas muito problema de cabe\u00e7a. O chatbot \u00e9 apenas sintoma, n\u00e3o causa. A causa est\u00e1 dentro de casa. Mas para os pais, a causa \u00e9 tudo, menos eles: amizades erradas, a escola, o videogame… e agora a IA.<\/p>\n

Pais tem dupla fun\u00e7\u00e3o na vida de um filho: 1) construir uma estrutura ps\u00edquica s\u00f3lida, com autoestima, bem ancorada na realidade e preparada para frustra\u00e7\u00f5es e infort\u00fanios da vida e 2) acompanhar seu filho at\u00e9 a vida adulta fornecendo tudo que ele precisa para ter uma boa sa\u00fade f\u00edsica e mental, dando ferramentas para que ele ultrapasse momentos de crise com sanidade.<\/p>\n

Somir focou no que os pais deveriam ter feito ao longo do caminho: prestar aten\u00e7\u00e3o no filho, estar atentos, conversar, perceber que havia algo errado, entender o que estava errado e dar ferramentas e apoio para que ele saia desse lugar. Mas, em vez disso, esperavam que a IA o fa\u00e7a e acharam por bem manter uma arma carregada em casa com um adolescente que claramente n\u00e3o estava mentalmente equilibrado.<\/p>\n

Pois bem, eu quero falar do antes, algo que quase ningu\u00e9m fala. Um adolescente n\u00e3o chega nesse ponto de dana\u00e7\u00e3o por causa de um objeto inanimado. Tem muito erro, muita hist\u00f3ria, muito problema antes para que se construa uma personalidade que se apaixona por um rob\u00f4 e se desconecta da realidade. Tem muito erro de cria\u00e7\u00e3o e erro de exemplo. S\u00e3o anos de erros.<\/p>\n

N\u00e3o \u00e9 a IA que tem que ser consciente e cuidadosa com seu filho, \u00e9 voc\u00ea que tem que prepar\u00e1-lo para lidar com coisas viciantes. O mundo \u00e9 cheio de coisas viciantes, desde drogas, bebida, cigarro, apostas, sexo at\u00e9 v\u00edcios mais incomuns. <\/p>\n

N\u00e3o \u00e9 sobre combater algo que pode viciar, uma pessoa com propens\u00e3o ao v\u00edcio acaba viciada em qualquer coisa. \u00c9 sobre n\u00e3o criar um ser humano emocionalmente aleijado que tenha um buraco no emocional que precise ser tapado com um v\u00edcio. Sim, meus queridos, \u00e9 poss\u00edvel.<\/p>\n

Todo dia vejo gente tratando v\u00edcio como uma fatalidade, como uma loteria gen\u00e9tica, como se a pessoa nascesse fadada a ser viciada. Parece um \u201cazar\u201d que os pais deram, de ter um filho com esse problema. N\u00e3o \u00e9. Por mais que existam tend\u00eancias e uma contribui\u00e7\u00e3o gen\u00e9tica, a palavra final \u00e9 da cria\u00e7\u00e3o, da mente, do emocional. Tem gente com uma puta propens\u00e3o ao v\u00edcio que nunca se vicia em nada e tem gente com zero propens\u00e3o que acaba seriamente viciada.<\/p>\n

A responsabilidade de ajudar a moldar uma estrutura ps\u00edquica forte, saud\u00e1vel e inteira de um ser humano \u00e9 dos pais. N\u00e3o da escola, n\u00e3o dos amigos, n\u00e3o da IA. \u00c9 de quem cria. E, para isso, quem cria tem que ter muita consci\u00eancia de sentimentos, emo\u00e7\u00f5es, maturidade emocional, equil\u00edbrio emocional e disponibilidade, pois d\u00e1 trabalho, toma tempo, requer observar, conhecer e persistir.<\/p>\n

Infelizmente, a maior parte dos americanos e brasileiros n\u00e3o possuem qualquer autoconhecimento, maturidade emocional ou sa\u00fade mental. Da\u00ed voc\u00ea j\u00e1 antev\u00ea a desgra\u00e7a: n\u00e3o se pode dar o que voc\u00ea n\u00e3o tem. N\u00e3o adianta estudar livros de psicologia, fazer o discurso certinho, crian\u00e7a aprende pelo exemplo. Se o discurso \u00e9 lindo, mas os atos n\u00e3o est\u00e3o alinhados, \u00e9 mais prov\u00e1vel que a crian\u00e7a repita seus atos do que seu discurso.<\/p>\n

E mesmo quem consegue ter sa\u00fade mental e maturidade emocional, precisa estar atendo a seus filhos. N\u00e3o me refiro apenas a prestar aten\u00e7\u00e3o e sim a ter consci\u00eancia. A maior parte dos pais s\u00e3o negadores, n\u00e3o conseguem perceber problemas nos filhos ao longo da jornada, querem acreditar que est\u00e1 tudo bem, querem for\u00e7ar uma vida instagram\u00e1vel que n\u00e3o existe. Minimizam red flags, evid\u00eancias e sintomas, at\u00e9 que a merda acontece.<\/p>\n

Tem uma longa jornada para estragar uma crian\u00e7a at\u00e9 ela chegar nesse adolescente fodido da cabe\u00e7a. Longa. Longa mesmo. Mas os pais preferem acreditar que foi um ato isolado (uma amizade errada, uma namorada escrota, uma IA) quem virou uma chavinha e arruinou a sa\u00fade mental de seus filhos. N\u00e3o foi. Repito: longa jornada, comandada e guiada pelos pais.<\/p>\n

E n\u00e3o \u00e9 sobre distribuir culpa, \u00e9 conscientizar da responsabilidade. A responsabilidade da sa\u00fade mental dos filhos \u00e9 dos pais, ponto. Tanto de perceber quando algo est\u00e1 errado, como de proporcionar as ferramentas necess\u00e1rias para restaurar a sa\u00fade mental.<\/p>\n

Quando uma pessoa vai a uma entrevista de emprego ou vai tirar carteira de motorista ela se prepara. Estuda, treina, pratica os atributos que vai precisar. Voc\u00ea j\u00e1 viu algu\u00e9m que vai ter filho se programar e se preparar? No m\u00e1ximo a pessoa junta dinheiro. J\u00e1 viu algu\u00e9m dizer \u201cse vou ser respons\u00e1vel por criar um ser humano emocionalmente saud\u00e1vel, eu tenho que estar emocionalmente saud\u00e1vel\u201d e fazer terapia at\u00e9 estar apto para criar um filho?<\/p>\n

\u201cMas Sally, se for assim ningu\u00e9m tem\u201d. Negativo. Eu conhe\u00e7o v\u00e1rias pessoas mental e emocionalmente saud\u00e1veis e maduras. Se voc\u00ea acha isso t\u00e3o imposs\u00edvel, fico at\u00e9 preocupada. Mas, ainda que fosse o caso, que n\u00e3o tenha ent\u00e3o. Melhor n\u00e3o ter do que colocar no mundo um ser humano t\u00e3o fodido da cabe\u00e7a que se apaixona por IA e se suicida.<\/p>\n

Nunca \u00e9 do nada. Nunca \u00e9 repentino. Nunca \u00e9 culpa de um objeto inanimado. \u00c9 sempre o resultado de uma longa jornada que deveria ter sido conduzida (por um bom caminho) pelos pais. Mas, quando a merda acontece, ningu\u00e9m tem coragem de falar isso, pois os pais est\u00e3o em intenso sofrimento. Pois bem, a gente tem: a sa\u00fade mental de um filho \u00e9 responsabilidade \u00fanica e exclusiva dos pais, tanto a constru\u00e7\u00e3o dessa mente, como a manuten\u00e7\u00e3o.<\/p>\n

Se voc\u00ea criar um filho com consci\u00eancia, presen\u00e7a, autoestima e exemplo, n\u00e3o vai ter drogas, videogame, namorada, amigos ou IA que acabe com a sa\u00fade mental dele. T\u00e1 na hora da gente parar de tolerar por pena que a responsabilidade seja colocada fora, a responsabilidade est\u00e1 dentro de casa. Quem sabe assim as pessoas pensam um pouco melhor antes de se sentirem aptas a criar um ser humano.<\/p>\n

Para dizer prefere colocar a culpa fora pois se der merda com seu filho voc\u00ea n\u00e3o quer ser responsabilizado, para dizer que se bot puder abusar sexualmente de humano se abre uma porta muito curiosa ou ainda para dizer que talvez o fato de terem colocado o nome de Sewell Setzer III no filho tenha contribu\u00eddo: comente<\/a>.<\/p>\n","protected":false},"excerpt":{"rendered":"

Megan Garcia acusa o app de intelig\u00eancia artificial Character.AI (C.AI) pela morte do seu filho Sewell Setzer III, de 14 anos, alegando que o chatbot que utiliza personagens de ‘Game of Thrones’ fomentou o v\u00edcio do adolescente em IA, abusou dele sexual e emocionalmente e n\u00e3o emitiu quaisquer alertas quando ele expressou pensamentos suicidas. LINK […]<\/p>\n","protected":false},"author":4,"featured_media":23929,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[27],"tags":[],"class_list":["post-23928","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-desfavor-semana"],"_links":{"self":[{"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/posts\/23928","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/comments?post=23928"}],"version-history":[{"count":0,"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/posts\/23928\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/media\/23929"}],"wp:attachment":[{"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/media?parent=23928"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/categories?post=23928"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/tags?post=23928"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}