{"id":21352,"date":"2023-04-01T13:50:31","date_gmt":"2023-04-01T16:50:31","guid":{"rendered":"https:\/\/www.desfavor.com\/blog\/?p=21352"},"modified":"2025-11-18T16:13:44","modified_gmt":"2025-11-18T19:13:44","slug":"tecnologia-presa","status":"publish","type":"post","link":"https:\/\/www.desfavor.com\/blog\/2023\/04\/tecnologia-presa\/","title":{"rendered":"Tecnologia presa."},"content":{"rendered":"
\n

O bilion\u00e1rio Elon Musk e mais de mil pesquisadores, especialistas e executivos do setor de tecnologia assinaram, nesta quarta-feira (29), uma carta aberta pedindo a empresas do mundo inteiro que fa\u00e7am uma pausa de seis meses no desenvolvimento de novas ferramentas de intelig\u00eancia artificial (IA), como o ChatGPT. LINK<\/a><\/p>\n

\n

Pausa no desenvolvimento de tecnologia? Na melhor das hip\u00f3teses \u00e9 inoc\u00eancia, na pior \u00e9 golpe. Desfavor da Semana<\/strong>.<\/p>\n<\/div>\n

<\/p>\n

SALLY<\/span><\/h4>\n

Na maior parte das not\u00edcias, a manchete aparece falando sobre Elon Musk. Citar um maluco infantil\u00f3ide sempre rende mais cliques, mas, por outro lado, tamb\u00e9m desmerece o movimento: tudo que El\u00e3o toca tende a virar merda sem credibilidade. Ent\u00e3o, s\u00f3 para ter certeza de que todos tem a vis\u00e3o completa, vou perder algumas linhas explicando o que est\u00e1 sendo proposto.<\/p>\n

Trata-se de uma carta aberta (voc\u00ea pode ver a \u00edntegra dela em portugu\u00eas e em ingl\u00eas aqui<\/a>) que pede que laborat\u00f3rios paralisem o desenvolvimento de Intelig\u00eancias Artificiais por seis meses para que a humanidade possa ser preparada para fazer bom uso dessa ferramenta.<\/p>\n

Ningu\u00e9m \u00e9 contra o uso de Intelig\u00eancia Artificial. O que eles dizem \u00e9: est\u00e3o criando antes de educar. Antes de continuar com isso, de popularizar, de evoluir, querem que essa tecnologia seja explicada ao grande p\u00fablico, que sejam criados mecanismos para coibir abusos, protocolos de seguran\u00e7a e outras formas de tentar atenuar os riscos dessa nova tecnologia. O objetivo \u00e9 que os aspectos positivos possam ser usufru\u00eddos minimizando os impactos negativos que ela pode causar.<\/p>\n

Muitas pessoas que eu respeito est\u00e3o assinando essa carta aberta: Steve Wonziak (que fundou a Apple), Yuval Noah Harari (escritor, autor de “Sapiens\u201d), Emad Mostaque, diretor-executivo da Stability AI (desenvolvedora de rob\u00f4s que usam IA para criar imagens), Yoshua Bengio (vencedor da edi\u00e7\u00e3o de 2018 do Pr\u00eamio Turing), Jaan Tallinn (cofundador do Skype), Evan Sharp (cofundador do Pinterest) e muitos outros. H\u00e1 mais de mil nomes de acad\u00eamicos e executivos assinando essa carta.<\/p>\n

Ent\u00e3o, agora que estamos todos na mesma p\u00e1gina sobre o conte\u00fado e autoria da carta (e sabemos que n\u00e3o \u00e9 mais um devaneio do maluco do El\u00e3o), vamos o Desfavor da Semana?<\/p>\n

Quem sou eu para discutir sobre proje\u00e7\u00f5es envolvendo efeitos de Intelig\u00eancia Artificial? Nem me atrevo a chegar perto do m\u00e9rito dessa discuss\u00e3o pois n\u00e3o sei o suficiente para avaliar o custo-benef\u00edcio. Mas uma coisa eu sei: n\u00e3o se para tecnologia, seja por n\u00e3o ser essa resposta, seja por n\u00e3o ser poss\u00edvel faz\u00ea-lo. Por mais que eu consiga ver boas inten\u00e7\u00f5es nessa carta, ela n\u00e3o pode ser colocada em pr\u00e1tica.<\/p>\n

Falando em bom portugu\u00eas, j\u00e1 que a maioria de voc\u00eas tamb\u00e9m n\u00e3o \u00e9 expert no assunto, eu n\u00e3o acho que deva ser proibida a venda de um medicamento por ter gente que v\u00e1 fazer uso errado dele. Eu n\u00e3o acho que nada deva ser proibido apenas pelo fato de que vai ter quem fa\u00e7a uso errado. Sempre vai ter um grupo infeliz fazendo uso errado de algo, se fossemos paralisar qualquer coisa por causa deles, estar\u00edamos fazendo fogo com dois pauzinhos.<\/p>\n

A resposta n\u00e3o \u00e9 proibir pelo medo das consequ\u00eancias de um uso errado, \u00e9 educar, fiscalizar e coibir. Eu sempre defendi isso, tanto \u00e9 que uso o mesmo discurso quando falam de arma de fogo: a culpa n\u00e3o \u00e9 das armas, armas s\u00e3o meras ferramentas, objetos inanimados, a culpa \u00e9 do idiota que faz mau uso delas. Entretanto, boa parte da sociedade acha v\u00e1lido restringir o uso de armas de fogo em fun\u00e7\u00e3o do uso errado e… est\u00e1 dando faniquito por essa carta aberta. A\u00ed n\u00e3o. A\u00ed \u00e9 vergonha.<\/p>\n

Outra vergonha que vi muito \u00e9 a do \u201cIA vai roubar meu emprego\u201d, pessoas que se sentem t\u00e3o importantes que se ofendem com progresso e automatiza\u00e7\u00e3o por motivos de \u201cmeu umbigo\u201d. Isso \u00e9 o taxista atacando o Uber. \u00c9 o vendedor de charrete dizendo que quem andar de carro vai morrer pois ele vai explodir. A\u00ed tamb\u00e9m \u00e9 vergonha.<\/p>\n

Quem pensa assim ainda n\u00e3o entendeu o mundo que vive: n\u00e3o linear e com crescimento exponencial. Os tempos mudaram, cabe a voc\u00ea estar em constante transforma\u00e7\u00e3o e aprimoramento para se manter relevante na sua profiss\u00e3o, of\u00edcio ou fun\u00e7\u00e3o. Veja bem, eu trabalho com produ\u00e7\u00e3o de conte\u00fado, eu serei a primeira a ser substitu\u00edda por uma Intelig\u00eancia Artificial, e que bom que chegamos nesse ponto de desenvolvimento! Cabe a mim me reinventar para continuar sendo necess\u00e1ria para meu local de trabalho.<\/p>\n

Quem n\u00e3o entendeu isso, rapidamente vai ficar obsoleto e ser substitu\u00eddo, seja por uma IA ou por qualquer outra tecnologia ou din\u00e2mica. Essa hist\u00f3ria de desempenhar o mesmo trabalho do come\u00e7o ao fim da sua vida acabou. ACABOU. Estejam todos preparados para se reinventar (e v\u00e1rias vezes) pois essa \u00e9 a nova realidade. Mesmo que a Intelig\u00eancia Artificial milagrosamente desapare\u00e7a, novas tecnologias, realidades e din\u00e2micas surgir\u00e3o \u2013 e elas te obrigar\u00e3o a se mexer, caso contr\u00e1rio voc\u00ea vai ficar obsoleto.<\/p>\n

Por fim, ainda que a carta seja muito bem escrita e me pare\u00e7a bem intencionada, quero lembra-los de que ela trata de um risco especulativo: o que pode acontecer de ruim. O que de fato vai acontecer, n\u00e3o sabemos. Pode ser coisa muito melhor, muito pior ou muito diferente do que estava sendo previsto. Paralisar progresso por especula\u00e7\u00e3o e medo n\u00e3o me cai bem. Se risco especulativo bastasse para paralisar um laborat\u00f3rio, n\u00e3o ter\u00edamos vacinas.<\/p>\n

N\u00e3o estou aqui dizendo que tudo vai ficar bem, que eu tenho certeza de que o lado bom vai superar o lado ruim nem nada do tipo. Estou dizendo que n\u00e3o d\u00e1 para paralisar o desenvolvimento, mesmo que se tente. Mesmo que se pro\u00edba. Mesmo que se queira. Ent\u00e3o, se n\u00e3o podemos parar esse progresso, isso quer dizer que n\u00e3o podemos fazer nada? Claro que podemos!<\/p>\n

O desenvolvimento de IA vai continuar, n\u00e3o \u00e9 humanamente poss\u00edvel fiscalizar o mundo todo o tempo todo. Ent\u00e3o, que tal usar tempo, energia e dinheiro para ajudar a preparar as pessoas para as grandes mudan\u00e7as que vem por a\u00ed? Ou ao menos preparar a voc\u00ea mesmo?<\/p>\n

O argumento \u201cpode dar merda\u201d n\u00e3o me assusta. Basicamente tudo pode dar merda nessa vida. O que me assusta \u00e9 \u201cn\u00e3o estou preparada para lidar com essa merda se der merda\u201d. Por isso eu estou fazendo o meu dever de casa e me preparando para lidar com novas din\u00e2micas de Intelig\u00eancia Artificial. Voc\u00ea est\u00e1? Se n\u00e3o est\u00e1, comece hoje. N\u00e3o tem carta aberta que paralise estudos e desenvolvimento, pois simplesmente n\u00e3o pode ser feito.<\/p>\n

O que quero dizer \u00e9 que em vez de gastar seu tempo e energia discutindo o que pode dar errado (nossa mente leiga n\u00e3o consegue nem alcan\u00e7ar), projetando cen\u00e1rios e especulando sobre o que pode acontecer, voc\u00ea ganha mais se aceitar que essa ser\u00e1 a nova realidade (e ser\u00e1) e se preparar para ela.<\/p>\n

Saia fora de pol\u00eamica e invista seu foco em como lidar com essa nova realidade que est\u00e1 cada vez mais pr\u00f3xima e, mais importante, em como trabalhar em conjunto com ela: solucionando lacunas, utilizando-a a seu favor e monetizando qualquer coisa relacionada a ela. N\u00e3o chore, venda len\u00e7os. N\u00e3o perca tempo polemizando e sentindo medo, prepare-se e a Intelig\u00eancia Artificial ser\u00e1 sua aliada, n\u00e3o inimiga.<\/p>\n

Para dizer que n\u00e3o vai discutir com o cara que inventou ou mouse, para dizer que o lado bom do Lula ter sido tirado de circula\u00e7\u00e3o \u00e9 que ele n\u00e3o foi tema do Desfavor da Semana ou ainda para dizer que n\u00e3o v\u00ea a hora de uma IA substituir a gente: sally@desfavor.com<\/a> <\/p>\n

SOMIR<\/span><\/h4>\n

Fiquei muito feliz quando a Sally topou o tema, primeiro porque \u00e9 sempre divertido ver ela participando dos meus interesses nerds, e segundo porque ela vai apresentar um ponto de vista menos radical que o meu.<\/p>\n

Porque o meu \u00e9 radical.<\/p>\n

Morte a quem quer impedir o desenvolvimento tecnol\u00f3gico humano! Essa mentalidade \u00e9 um atraso evolutivo terr\u00edvel e ela sim pode nos levar a extin\u00e7\u00e3o. Ok, um pouco radical demais. Mas vamos estabelecer melhor porque a simples ideia de pedir uma morat\u00f3ria no treino de intelig\u00eancias artificiais me incomoda bastante.<\/p>\n

Primeiro: \u00e9 mais ou menos que nem o Papa pedindo o fim das guerras. \u00c9 um desejo de bem meio amorfo, que n\u00e3o considera os fatos espec\u00edficos. O fim da guerra entre Ucr\u00e2nia e R\u00fassia agora significaria que o pa\u00eds invasor que est\u00e1 cometendo crimes contra a humanidade vai conseguir seus objetivos com os territ\u00f3rios que tomou. O fim da guerra \u00e9 positivo como conceito pelo fim da viol\u00eancia, mas n\u00e3o restaura o senso de justi\u00e7a.<\/p>\n

Est\u00e3o dizendo que a intelig\u00eancia artificial precisa de mais regras para garantir um futuro mais seguro para a humanidade, o que \u00e9 sim um desejo de bem meio amorfo. Todos concordamos que n\u00e3o queremos ver um futuro horr\u00edvel para o ser humano, mas estamos falando de corrigir exatamente o qu\u00ea? Porque a carta fala sobre agentes mal-intencionados e substitui\u00e7\u00e3o de fun\u00e7\u00f5es humanas na sociedade.<\/p>\n

Como se fosse algo que possa ser controlado por algum grupo de regras definidas por governos ou entidades particulares. Nada at\u00e9 hoje impediu a\u00e7\u00f5es de agentes mal-intencionados e substitui\u00e7\u00e3o de fun\u00e7\u00f5es humanas na sociedade, existe alguma f\u00f3rmula m\u00e1gica para isso que eles conhecem e n\u00e3o nos informaram ainda? Porque a l\u00f3gica simples diz que n\u00e3o.<\/p>\n

N\u00e3o conseguimos impedir que pessoas se matem com pedras. Quem dir\u00e1 com facas e armas de fogo. \u00c9 totalmente razo\u00e1vel que existam mecanismos de repress\u00e3o a comportamentos danosos de seres humanos, vulgo as leis que nos regem, mas \u00e9 fato comprovado historicamente que isso n\u00e3o se controla. Produzir uma pistola com regras r\u00edgidas de fabrica\u00e7\u00e3o e com o objetivo de permitir que pessoas se protejam de opressores n\u00e3o impede que ela acabe na m\u00e3o de um assassino.<\/p>\n

Se desse um chilique generalizado na humanidade de proibir armas, isso at\u00e9 poderia reduzir o n\u00famero de tiros, mas a tecnologia de produ\u00e7\u00e3o delas j\u00e1 \u00e9 conhecida: algu\u00e9m ia acabar fazendo de novo. E para lidar com gente com armas tentando dominar gente sem armas, voc\u00ea precisa come\u00e7ar a produzir armas por conta pr\u00f3pria para enfrentar as armas desse agente mal-intencionado. Proibir n\u00e3o funciona sem concord\u00e2ncia total da humanidade. E concord\u00e2ncia total da humanidade \u00e9 algo que nunca teremos.<\/p>\n

Embora eu entenda que existe um risco inescap\u00e1vel ao advento de intelig\u00eancias artificiais mais poderosas, eu n\u00e3o consigo enxergar como s\u00f3 dessa vez podemos evitar os problemas que todas as tecnologias novas nos trouxeram. O que a humanidade tem de diferente agora? Como regras de seguran\u00e7a e pol\u00edticas p\u00fablicas v\u00e3o garantir um resultado diferente agora em 2023?<\/p>\n

A carta fala sobre a \u201ccaixa preta\u201d da intelig\u00eancia artificial, algo sobre o qual eu tamb\u00e9m falei v\u00e1rias vezes aqui: os mecanismos de funcionamento dela s\u00e3o t\u00e3o complexos que tem sim uma parte do processo que n\u00e3o conseguimos enxergar funcionando, s\u00f3 sabemos o que entrou de informa\u00e7\u00e3o e o que ela fez com essa informa\u00e7\u00e3o.<\/p>\n

O erro \u00e9 achar que isso \u00e9 uma grande novidade: todo sistema complexo o suficiente vira uma caixa preta. Por exemplo: por mais que entendamos bastante sobre o sistema imunol\u00f3gico humano, tem tantas partes funcionando ao mesmo tempo, com tantas vari\u00e1veis poss\u00edveis, que s\u00f3 conseguimos estimar o grau de seguran\u00e7a de um rem\u00e9dio ou vacina colocando eles no corpo de milhares de pessoas e anotando os resultados. N\u00e3o tem computador nesse mundo que consiga fazer previs\u00f5es precisas o suficiente nesse grau de complexidade.<\/p>\n

O mundo \u00e9 cheio de caixas pretas. Existe at\u00e9 uma \u00e1rea da matem\u00e1tica que se debru\u00e7a sobre essa complexidade supostamente infinita da realidade. \u00c9 dif\u00edcil prever com precis\u00e3o at\u00e9 mesmo como duas tintas v\u00e3o se misturar num balde! O mundo real tem uma resolu\u00e7\u00e3o absurda, com incont\u00e1veis part\u00edculas fundamentais interagindo at\u00e9 formar padr\u00f5es que conseguimos analisar. \u00c9 claro que a IA vai ser feita de caixas pretas, todo o resto da realidade \u00e9 igual. N\u00e3o mudou nada nos \u00faltimos anos.<\/p>\n

\u00c9 por isso que eu sinto algo muito mais nefasto por tr\u00e1s dessa necessidade iminente de controlar os avan\u00e7os da tecnologia: se n\u00e3o tem nada de realmente fora do padr\u00e3o dos avan\u00e7os tecnol\u00f3gicos normais da humanidade na Intelig\u00eancia Artificial, por que pedir para parar justamente nessa tecnologia? Isso tamb\u00e9m estava num texto recente meu sobre o tema: a surpresa que eu tive tamb\u00e9m com o fato dela estar avan\u00e7ando primeiro para cima de profiss\u00f5es que consider\u00e1vamos mais de elite.<\/p>\n

O ChatGPT n\u00e3o est\u00e1 amea\u00e7ando o pedreiro ou a enfermeira, est\u00e1 amea\u00e7ando o produtor de conte\u00fado, o administrador, o artista, a celebridade… talvez at\u00e9 mesmo o cientista. N\u00e3o \u00e9 curioso que enquanto o rob\u00f4 estava tomando emprego de trabalhadores bra\u00e7ais em f\u00e1bricas estava todo mundo super empolgado nos n\u00edveis mais abastados da humanidade? De repente ficou assustador.<\/p>\n

O rob\u00f4 que deixou o Jo\u00e3o da Silva redundante na f\u00e1brica de autom\u00f3veis era um avan\u00e7o necess\u00e1rio para a humanidade. O rob\u00f4 que pode deixar redundante o trabalho de gente que vive de explorar o Jo\u00e3o da Silva virou uma amea\u00e7a existencial \u00e0 humanidade. Por tr\u00e1s do desejo de bem amorfo de quem assinou essa carta, no qual podem se esconder caso algu\u00e9m venha confront\u00e1-los, existe um medo primordial de se tornar obsoleto.<\/p>\n

N\u00e3o mandaram o Jo\u00e3o da Silva aprender a programar para lidar com o futuro? V\u00e3o aprender a programar ent\u00e3o! Quem quer impedir avan\u00e7o tecnol\u00f3gico SEMPRE tem um objetivo ego\u00edsta por tr\u00e1s. Sim, acho que muitas das pessoas que assinaram essa carta nem perceberam isso ainda, mas n\u00e3o muda o fato que o timing n\u00e3o podia ser prova mais \u00f3bvia da \u00e1gua batendo na bunda das elites.<\/p>\n

Intelig\u00eancia artificial avan\u00e7ada pode acabar com o status quo. Pode democratizar v\u00e1rias fun\u00e7\u00f5es humanas que s\u00f3 pessoas com ber\u00e7o privilegiado podiam fazer antigamente. A \u00fanica forma das elites lidarem com isso \u00e9 controlar os meios de acesso a ela, e isso acontece quando criam um monte de regras arbitr\u00e1rias que tornam car\u00edssimo o desenvolvimento da tecnologia. Se quiser treinar IA, vai ter que pagar por isso. E para pagar por isso, vai ter que fazer parte da elite ou estar de acordo com os objetivos dela.<\/p>\n

Tomara que n\u00e3o respeitem essas regras. Tomara que a IA fa\u00e7a o mundo pegar fogo e renascer de outra forma, porque sen\u00e3o vamos acabar numa distopia de bilion\u00e1rios tomando conta de tudo. Abrace a intelig\u00eancia artificial, porque ela \u00e9 a guilhotina do futuro. E sem guilhotinas, as elites n\u00e3o precisam ter medo de voc\u00ea.<\/p>\n

Para dizer que isso ficou assustador r\u00e1pido demais, para dizer que quer ver o circo pegar fogo, ou mesmo para dizer que est\u00e1 com medo de um rob\u00f4 que escreve poemas ruins: somir@desfavor.com<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

O bilion\u00e1rio Elon Musk e mais de mil pesquisadores, especialistas e executivos do setor de tecnologia assinaram, nesta quarta-feira (29), uma carta aberta pedindo a empresas do mundo inteiro que fa\u00e7am uma pausa de seis meses no desenvolvimento de novas ferramentas de intelig\u00eancia artificial (IA), como o ChatGPT. LINK Pausa no desenvolvimento de tecnologia? Na […]<\/p>\n","protected":false},"author":4,"featured_media":21353,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[27],"tags":[],"class_list":["post-21352","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-desfavor-semana"],"_links":{"self":[{"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/posts\/21352","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/comments?post=21352"}],"version-history":[{"count":2,"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/posts\/21352\/revisions"}],"predecessor-version":[{"id":38160,"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/posts\/21352\/revisions\/38160"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/media\/21353"}],"wp:attachment":[{"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/media?parent=21352"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/categories?post=21352"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.desfavor.com\/blog\/wp-json\/wp\/v2\/tags?post=21352"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}