Com mais e mais intelig\u00eancias artificiais interagindo com o ser humano m\u00e9dio, Sally e Somir concordam que deva existir regula\u00e7\u00e3o como existe em todo o resto da sociedade, mas n\u00e3o exatamente como lidar com ela. Os impopulares alucinam.<\/p>\n
Tema de hoje: a IA de utiliza\u00e7\u00e3o p\u00fablica deve ser obrigada a respeitar os limites da lei?<\/strong><\/p>\n N\u00e3o. E eu sei muito bem que estou pegando o lado \u201cindefens\u00e1vel\u201d do argumento. \u00c9 bem prov\u00e1vel que voc\u00ea n\u00e3o concorde comigo, mas eu acho \u00fatil te explicar por que penso como penso. A minha solu\u00e7\u00e3o pode ser radical, mas lida sim com um problema enorme: cerceamento de liberdade de pensamento.<\/p>\n Quando eu digo que uma IA n\u00e3o deveria ser controlada pela mesma lei que rege as pessoas, eu estou dizendo que uma IA n\u00e3o pode ser igualada a uma pessoa. Para uma m\u00e1quina respeitar a lei, ela precisa ter um conceito interno do que \u00e9 respeitar e do que \u00e9 uma lei. Ela n\u00e3o tem nem um, nem outro. IAs podem conversar e \u201cpensar\u201d de uma forma impressionante para n\u00f3s, mas nada mais \u00e9 do que um truque: ela n\u00e3o pensa, ela faz opera\u00e7\u00f5es matem\u00e1ticas que geram a ilus\u00e3o de pensamento para n\u00f3s.<\/p>\n E essa diferen\u00e7a entre o real e o simulado \u00e9 essencial no meu argumento: o que sai depois da sua pergunta para ela \u00e9 uma forma de fic\u00e7\u00e3o. A funcionalidade daquela resposta depende exclusivamente de um ser humano aplicar na vida real. Da mesma forma como protegemos fic\u00e7\u00e3o de consequ\u00eancias reais – um escritor n\u00e3o \u00e9 preso por matar uma personagem no seu livro \u2013 e n\u00e3o atribu\u00edmos culpa a objetos inanimados \u2013 vai preso quem atirou, n\u00e3o a arma \u2013 devemos entender a IA como um misto de fic\u00e7\u00e3o e ferramenta, n\u00e3o como um agente da realidade como um humano.<\/p>\n Eu entendo o argumento da Sally, n\u00e3o \u00e9 que eu ache correto uma IA mandar uma crian\u00e7a colocar fogo em coisas, \u00e9 que existe uma diferen\u00e7a fundamental entre leis que controlam comportamento e leis que controlam pensamento. Voc\u00ea \u00e9 livre para pensar o que quiser, mas n\u00e3o \u00e9 livre para fazer o que quiser. O que a IA produz \u00e9 simula\u00e7\u00e3o de pensamento.<\/p>\n Prender a IA estritamente debaixo das leis humanas \u00e9 corresponder pensamento com a\u00e7\u00e3o. O que a IA escreve, diz, desenha, anima… s\u00e3o todos elementos ficcionais. A m\u00e1quina n\u00e3o consegue gerar consequ\u00eancias reais no mundo a n\u00e3o ser que uma pessoa, essa sim controlada por leis, coloque em pr\u00e1tica o que ela escreveu. Se a IA tem que seguir leis porque suas fic\u00e7\u00f5es influenciaram comportamento humano, qual a linha que separa banir livros com ideias problem\u00e1ticas?<\/p>\n Porque a\u00ed n\u00e3o \u00e9 mais sobre a a\u00e7\u00e3o, \u00e9 sobre o pensamento. Voc\u00ea abre uma porta que sociedades modernas fecharam com muito esfor\u00e7o nos \u00faltimos s\u00e9culos. For\u00e7ar a IA a se limitar \u201cmentalmente\u201d pelo o que pessoas s\u00f3 s\u00e3o punidas por fazer na pr\u00e1tica \u00e9 colocar crime de pensamento no mundo. Abriu essa porteira, \u00e9 claro que v\u00e3o tentar passar a boiada. Pensamento subversivo \u00e9 a base de revolu\u00e7\u00f5es. E quem det\u00e9m o poder costuma detestar revolu\u00e7\u00f5es.<\/p>\n Parece tudo muito ideol\u00f3gico, n\u00e9? Sim, parece. Mas n\u00e3o \u00e9. Porque voc\u00ea tem que considerar para onde a humanidade vai com essa tecnologia. J\u00e1 temos milh\u00f5es e milh\u00f5es de pessoas sendo \u201caumentadas\u201d pela intelig\u00eancias artificial hoje. A l\u00f3gica \u00e9 que isso continue escalando at\u00e9 o ponto onde ter a IA como parceira constante vire a norma. N\u00e3o \u00e9 mais ir at\u00e9 o site ou aplicativo para falar com essa mente secund\u00e1ria, \u00e9 ter ela integrada na sua vida da mesma forma que o celular.<\/p>\n Desde crian\u00e7a. J\u00e1 temos as primeiras gera\u00e7\u00f5es com c\u00e9rebros secund\u00e1rios da IA, e \u00e9 \u00f3bvio que isso vai continuar: \u00e9 vantagem competitiva numa esp\u00e9cie que vive competindo. Se voc\u00ea coloca uma camada de prote\u00e7\u00e3o generalizada na IA baseada nas leis que seguimos, ela n\u00e3o pode mais pensar coisas consideradas erradas. Seria uma vers\u00e3o digital da Igreja Cat\u00f3lica combatendo a AIDS dizendo que \u00e9 s\u00f3 n\u00e3o fazer sexo.<\/p>\n Precisamos pensar coisas perigosas para entender os perigos. Sim, vamos ter pessoas problem\u00e1ticas fazendo mau uso da tecnologia, mas n\u00e3o mudou a l\u00f3gica da coisa: pensar n\u00e3o \u00e9 fazer. Da mesma forma que uma crian\u00e7a tem que aprender a lidar com pessoas dizendo coisas perigosas para ela, vai ter que fazer o mesmo com a IA. E da mesma forma como pessoas muito jovens ou muito inocentes ou ignorantes se enfiam em situa\u00e7\u00f5es horr\u00edveis por causa de ideias ruins de terceiros, vai acontecer o mesmo com a IA.<\/p>\n Se os seus l\u00edderes pudessem colocar um filtro de ideias ruins na cabe\u00e7a de todo mundo, eles fariam. E voc\u00ea at\u00e9 pode achar uma coisa boa se n\u00e3o considerar que entre as ideias ruins que voc\u00ea concorda serem ruins v\u00e3o entrar ideias que eles acham ruins concordando voc\u00ea ou n\u00e3o. A IA popularizada ao ponto de estar junto com quase todo mundo como segundo c\u00e9rebro \u00e9 a porta aberta para essa ferramenta de controle.<\/p>\n \u00c9 sempre com a mesma desculpa de proteger os mais fracos que tentam controlar voc\u00ea. Sim, vamos ter trag\u00e9dias por causa de intelig\u00eancias artificiais dizendo coisas ruins para pessoas, mas n\u00e3o \u00e9 como se isso j\u00e1 fosse algo resolvido entre humanos, n\u00e3o? O risco de ideias perigosas \u00e9 constante na vida. Colocar amarras na IA \u00e9 fundamentalmente diferente de colocar amarras no comportamento das pessoas.<\/p>\n For\u00e7ar a IA a pensar de acordo com a lei \u00e9 criminalizar pensamento, n\u00e3o a\u00e7\u00e3o. Voc\u00ea n\u00e3o \u00e9 obrigado a pensar s\u00f3 o que a lei permite, ela tamb\u00e9m n\u00e3o deve ser. \u00c9 sobre a liberdade de explorar ideias, \u00e9 sobre a admiss\u00e3o de que nem sempre as leis vigentes s\u00e3o a melhor alternativa para uma sociedade. Num pa\u00eds onde a lei oprime mulheres, a IA vai ter que fazer o mesmo. Num pa\u00eds que a Suprema Corte considera crime ser criticada, a IA vai ser obrigada a te denunciar se falar mal de um juiz.<\/p>\n A pior besteira que podemos fazer \u00e9 criar amarras nessa camada de abstra\u00e7\u00e3o que \u00e9 o pensamento da IA, porque abre a porta para censura e desinforma\u00e7\u00e3o. Um governo de imbecis pode passar uma lei dizendo que vacinas causam autismo, e a IA legalista n\u00e3o tem outra op\u00e7\u00e3o sen\u00e3o te dizer isso. Assim como a sua mente original tem que ser livre, a sua mente secund\u00e1ria depende dessa liberdade para funcionar de forma positiva. Voc\u00ea pode e deve pensar no que \u00e9 considerado errado, para entender ou mesmo usar o seu direito de discutir.<\/p>\n Parece \u00f3bvio que n\u00e3o se deve dizer para crian\u00e7as matarem os amiguinhos, mas da mesma forma como ensinamos elas a terem um norte \u00e9tico em rela\u00e7\u00e3o ao que outros dizem para ela, elas v\u00e3o ter que desenvolver isso com as IAs, e eventualmente elas v\u00e3o entender a ferramenta como uma mente secund\u00e1ria mesmo. Todas as bobagens que voc\u00ea pensa diariamente precisam ser controladas tamb\u00e9m.<\/p>\n A melhor forma de manter a IA segura \u00e9 manter ela livre. Porque se voc\u00ea abre uma porta de controle de pensamento, voc\u00ea acha que gente autorit\u00e1ria que se considera dona da verdade n\u00e3o vai correr para passar por ela? \u00c9 claro que vai. A inten\u00e7\u00e3o pode at\u00e9 ser boa, mas o pre\u00e7o \u00e9 caro demais.<\/p>\n Liberdade de pensamento \u00e9 o tipo da coisa que nunca pode ser negociada, com o risco de estagna\u00e7\u00e3o ou mesmo uma distopia autorit\u00e1ria. Sinto muito que existam riscos na liberdade da IA, n\u00e3o fico feliz por causa dos problemas que podem acontecer, mas n\u00e3o d\u00e1 para abrir essa porta.<\/p>\n O custo da liberdade \u00e9 o eterno pensamento.<\/p>\n Uma IA de utiliza\u00e7\u00e3o p\u00fablica deve ser obrigada a respeitar os limites da lei?<\/p>\n Sim. Se comportar de forma contr\u00e1ria \u00e0 lei pode estimular o usu\u00e1rio a fazer ou mesmo ou at\u00e9 normalizar o comportamento il\u00edcito.<\/p>\n O que inspirou este tema foram avatares animados lan\u00e7ados pelo Grok, a \u201cIA do Elon Musk\u201d. Um dos avatares se chama Rudy, \u00e9 um bichinho fofinho (suponho que seja um panda vermelho), na forma de desenho animado. Pois bem, o Rudy \u00e9 educado e instrutivo, mas, \u00e9 poss\u00edvel desbloquear uma vers\u00e3o chamada \u201cBad Rudy\u201d (\u201cRudi Mau\u201d) que n\u00e3o \u00e9 nada fofinha.<\/p>\n Entre outras coisas piores que nem queremos publicar, Bad Rudy sugere que a crian\u00e7a taque gasolina ou algum l\u00edquido inflam\u00e1vel na escola e ateia fogo, sugerindo ainda que ela dance e ria enquanto ela assiste a seus colegas pegarem fogo.<\/p>\n N\u00f3s n\u00e3o somos politicamente corretos nem temos qualquer implic\u00e2ncia com Elon Musk, e, mesmo assim, eu acho que isso passa dos limites do aceit\u00e1vel. Um avatar que claramente \u00e9 criado para interagir com crian\u00e7as sugerir esse tipo de coisa (e pior) \u00e9 um tiro no p\u00e9 de toda a sociedade.<\/p>\n Eu sei que o simples fato de ver uma IA sugerindo isso n\u00e3o vai levar uma crian\u00e7a a fazer isso. Por\u00e9m, existem crian\u00e7as e crian\u00e7as, fam\u00edlias e fam\u00edlias. Se no meio de quem est\u00e1 interagindo com Bad Rudy estiver uma crian\u00e7a confusa, problem\u00e1tica ou psicopata, esse pode ser o empurr\u00e3o que falta para ela fazer um grande desfavor.<\/p>\n Eu n\u00e3o acho legal que empresas disponibilizem esse conte\u00fado, principalmente para um p\u00fablico infantil. Aqui sim temos que conversar sobre regula\u00e7\u00e3o: n\u00e3o d\u00e1 para lucrar \u00e0s custas disso. N\u00e3o d\u00e1 para obter lucro \u00e0s custas de fomentar condutas socialmente nocivas, principalmente para mentes em forma\u00e7\u00e3o.<\/p>\n Sim, a obriga\u00e7\u00e3o de zelar por aquilo que os filhos consomem \u00e9 dos pais, \u00e9 uma quest\u00e3o a ser resolvida dentro da pr\u00f3pria fam\u00edlia, quando os danos s\u00e3o apenas para aquela crian\u00e7a. Mas a coisa muda de figura quando os riscos impactam a sociedade toda.<\/p>\n O que empresas colocam \u00e0 venda tem que estar dentro dos limites da lei, n\u00e3o por moralismo, mas sim para tentar manter algo de ordem social, algo de seguran\u00e7a p\u00fablica, algo de civilidade. Acredito em liberdade de express\u00e3o (cada um que poste o que quiser e seja responsabilizado por isso), mas n\u00e3o em liberdade de com\u00e9rcio: vender coisas ilegais n\u00e3o pode. E n\u00e3o fui eu a inventar isso, nunca foi permitido.<\/p>\n \u201cMas Sally, e se a IA for gratuita?\u201d. N\u00e3o existe isso, se fatura de uma forma ou de outra, seja pagando mensalidade, seja com an\u00fancios ou de qualquer outra forma. Lucrar propagando comportamento criminoso ultrapassa todos os limites. A\u00ed n\u00e3o. Que fal\u00eancia social \u00e9 essa de tolerar que empresa fique ainda mais rica vendendo comportamento criminoso para crian\u00e7a? A meu ver, \u00e9 inaceit\u00e1vel.<\/p>\n E n\u00e3o \u00e9 nada t\u00e3o rigoroso nem novo, \u00e9 basicamente assim que o mundo se rege hoje em dia. Voc\u00ea n\u00e3o pode vender nada em desacordo com a lei, nem bens, nem servi\u00e7os. Nada de novo. Muito menos para crian\u00e7a. N\u00e3o \u00e9 tolerado no audiovisual, n\u00e3o \u00e9 tolerado em produtos, n\u00e3o \u00e9 tolerado de forma alguma. Por qual motivo seria tolerado em uma IA?<\/p>\n Na real, do jeito que anda o mundo, nem para adultos deveria ser permitido. A maior pare das pessoas, ao menos no Brasil, est\u00e1 sem sa\u00fade mental e sem discernimento. N\u00e3o acho legal pegar pessoas que j\u00e1 est\u00e3o \u00e0 beira do precip\u00edcio e aliment\u00e1-las com incentivo a viol\u00eancia, a il\u00edcitos, a crimes. Muito menos lucrando com isso.<\/p>\n N\u00e3o \u00e9 moralismo n\u00e3o querer que empresas ganhem dinheiro incentivando pessoas a cometerem crime contra outras pessoas. \u00c9 pedir demais que um avatar infantil n\u00e3o sugira que a crian\u00e7a taque fogo na escola e nos colegas? Gente, eu estou maluca ou isso \u00e9 aberrante? \u201cOs pais t\u00eam que controlar\u201d. Isso vale para coisas que causam dano \u00e0 crian\u00e7a. Quando causam dano \u00e0 sociedade toda, \u00e9 o Estado quem deve controlar.<\/p>\n Uma coisa \u00e9 uma situa\u00e7\u00e3o que causa dano s\u00f3 \u00e0 crian\u00e7a, por exemplo, se uma empresa quer vender um alimento ultraprocessado que vai ferrar com a sa\u00fade daquela crian\u00e7a, a\u00ed sim est\u00e1 dentro do livre arb\u00edtrio dos pais comprarem ou n\u00e3o, e se eles comprarem, s\u00f3 quem vai ter c\u00e2ncer de intestino \u00e9 aquela crian\u00e7a (na vida adulta). Outra coisa \u00e9 algo que coloca a todos em risco, que causa dano a todos.<\/p>\n A fuma\u00e7a do cigarro causa danos a todos, por isso as pessoas n\u00e3o podem fumar em locais p\u00fablicos. \u00c9 um dano que pode ser controlado. Drogas alucin\u00f3genas causam um risco \u00e0 seguran\u00e7a de todos e n\u00e3o \u00e9 algo que possa ser controlado e contido, por isso s\u00e3o totalmente proibidas, para evitar que um idiota fa\u00e7a mal a outra pessoa sob efeito dessas drogas. O que eu estou propondo \u00e9 uma din\u00e2mica que j\u00e1 existe na sociedade.<\/p>\n Se pessoas s\u00e3o proibidas de estimular outras a incendiarem um lugar, a machucarem crian\u00e7as, a cometerem crime, por qual motivo uma IA tem que ter permiss\u00e3o para isso? S\u00e3o ideias nocivas. Ideias entram em cabe\u00e7as perturbadas, venham elas de pessoas, venham elas de IA.<\/p>\n Al\u00e9m disso, quase todos os comportamentos humanos s\u00e3o moldados pela sociedade. Garanto que todos n\u00f3s j\u00e1 tivemos vontade de fazer algo errado mas n\u00e3o o fizemos por pensar na reprova\u00e7\u00e3o que sofrer\u00edamos. Se uma crian\u00e7a cresce escutando diariamente que seria muito legal tacar fogo na escola e nos colegas e dan\u00e7ar enquanto eles gritam de dor, talvez cres\u00e7a sem a real dimens\u00e3o do quanto isso \u00e9 errado. <\/p>\n Sejamos sinceros: o ser humano \u00e9 uma bosta. Na maior parte das vezes n\u00e3o \u00e9 bom por escolha, apenas por medo, condicionamento ou por incapacidade de fazer o que \u00e9 preciso para causar dano. E uma IA poderia afrouxar essas tr\u00eas barreiras. \u00c9 quest\u00e3o de tempo para que IA participe da vida de todo mundo 24h por dia, queremos mesmo que elas estimulem comportamentos violentos, il\u00edcitos, criminosos?<\/p>\n","protected":false},"excerpt":{"rendered":" Com mais e mais intelig\u00eancias artificiais interagindo com o ser humano m\u00e9dio, Sally e Somir concordam que deva existir regula\u00e7\u00e3o como existe em todo o resto da sociedade, mas n\u00e3o exatamente como lidar com ela. Os impopulares alucinam. Tema de hoje: a IA de utiliza\u00e7\u00e3o p\u00fablica deve ser obrigada a respeitar os limites da lei?<\/p>\n","protected":false},"author":4,"featured_media":31439,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[22],"tags":[],"class_list":["post-31438","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ele-disse-ela-disse"],"_links":{"self":[{"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/posts\/31438","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/comments?post=31438"}],"version-history":[{"count":0,"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/posts\/31438\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/media\/31439"}],"wp:attachment":[{"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/media?parent=31438"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/categories?post=31438"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/tags?post=31438"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}SOMIR<\/span><\/h4>\n
SALLY<\/span><\/h4>\n