Um assunto contemporâneo urgente, que é visto como uma ameaça à humanidade por renomadas instituições de pesquisa científica, é a evolução da Inteligência Artificial. Começarei este ensaio mencionando algumas teorias sobre como nossa ruína pode acontecer e, em seguida, passarei à minha teoria.
RETROSPECTIVA
Na ficção especulativa, testemunhamos algumas formas diferentes pelas quais a IA poderia se voltar contra os seres humanos. Uma das mais populares são as histórias de Isaac Asimov (o maior autor de ficção científica) em que o sistema de IA se volta contra a humanidade para salvá-la, já que os humanos são a ameaça mais perigosa à sua própria existência. Essa premissa inspirou diretamente Eu, Robô (2004), mas também pode ser encontrada na franquia O Exterminador do Futuro (na forma da tecnologia Skynet) e em Os Vingadores — Era de Ultron (2015), apenas para mencionar alguns dos exemplos mais populares.
No final dos anos 90, Matrix (1999) causou um grande furor ao nos mostrar um futuro distópico controlado por máquinas — o que facilitou a divulgação, por várias pessoas (como Elon Musk), da ideia de que vivemos em uma simulação virtual neste momento (teoria que não é refutada por pessoas como Neil DeGrasse Tyson, por exemplo), que é uma teoria que eu literalmente não sei a que propósito serve, mas, de toda forma, apresenta um conceito muito mais próximo do que passamos a temer: as máquinas agindo por seus próprios motivos; uma premissa que foi repetida em Ex-Machina (2015), um filme que teve um eco em um evento da vida real em 2017 (considerado sinistro por muitos), quando a robô Sophia (desenvolvida pela Hanson Robotics, de Hong Kong) respondeu, em uma entrevista, que gostaria de ter pernas.
Screenshot: O mencionado robô Sophia participando de brincadeiras no talk show americano de Jimmy Fallon. Mal consigo expressar como é surreal a sensação de saber que isso aconteceu. Programas de audiência são o epítome do absurdo em nossa cultura.
ONDE ESTAMOS AGORA?
Observe como estamos distantes da época em que esses filmes e histórias pareciam ser distantes futuros distópicos. Os aprimoramentos tecnológicos que temos hoje, com livre acesso à IA generativa em nossos próprios computadores, nos levaram ao ponto em que as conversas no senso comum tratam do perigo da IA com um tom muito mais sombrio — especialmente quando, recentemente, houve um grande rebuliço em torno do CEO da OpenAI (criadora do ChatGPT) que se opunha às práticas da empresa, que se movia rapidamente sem responsabilidade suficiente com a falta de controle que eles tinham sobre o que estavam desenvolvendo.
Essa preocupação parece ser consensual para quem se aprofunda no assunto: o quanto não sabemos sobre as IAs que estamos construindo e o quanto está completamente fora de controle, uma vez que não temos controle sobre como os sistemas estão usando as informações que alimentam, embora estejamos programando-os e escolhendo o que eles recebem. Este episódio de Last Week Tonight with John Oliver apresenta um bom apanhado desse problema.
Curiosamente, o cineasta visionário Stanley Kubrick parece que estava à frente de seu tempo quando previu isso em 2001: Uma Odisseia no Espaço (1968), em que o computador Hal 9000 se volta contra a tripulação da espaçonave porque houve um conflito entre as informações que lhe foram fornecidas (sobre a missão) & a maneira como ele foi programado (para ter sentimentos e se conectar com os seres humanos), o que o levou a ficar paranoico e matar todos.
Portanto, nas conversas convencionais do momento, os maiores temores são o aspecto imprevisível dos sistemas de IA, que pode significar a perda total do controle desses sistemas pela humanidade; e a perda de empregos, substituídos pelos dispositivos de IA em rápida evolução.
E eu tenho medo de perder meu emprego, realmente. Não apenas o emprego remunerado que tenho agora, mas também minha carreira de roteirista (que aqui no Brasil, infelizmente, é mais um hobby do que um emprego). Mas essa não é a parte desastrosa a nível de humanidade.
Em seu podcast, Trevor Noah argumentou que essa enorme preocupação com os escritores (os criativos ou jornalistas) que estão em perigo de perder seus empregos só está tendo um impacto tão grande porque esses são empregos “de colarinho branco”, ao contrário dos trabalhadores das minas de carvão que, coletivamente, dissemos que precisavam aprender uma nova habilidade para que o mundo pudesse melhorar por meio da tecnologia. Eu discordo profundamente do Sr. Noah.
O CONTEXTO
Eu trabalho em um banco de dados de filmes, que alimenta uma plataforma de streaming. Uma de nossas tarefas é coletar informações sobre filmes e séries de TV (escritas por críticos de cinema, produtores, curadores de festivais etc.), escrever sinopses e resenhas curtas e, com o advento do ChatGPT, fomos instruídos a alimentar o bate-papo com essas informações, para gerar um texto mais completo e cativante (que, aliás, segue um padrão de vocabulário e estilo bastante reconhecível, independentemente do funcionário que o esteja fazendo), para que os filmes/séries atraiam mais espectadores.
Fazemos parte de uma legião enorme de multiplicadores de conteúdo, feita por pessoas que, nesse caso, não viram os filmes, ou seja, estão fornecendo um relato de segunda mão sobre o assunto (sem revelar isso). Em muitas áreas, podemos ver esse padrão se repetir, com a produção interminável de conteúdo de segunda mão sobre saúde, condicionamento físico, culinária e outros. Eles já estão fazendo isso com a IA?
Em caso afirmativo, alguém está lendo alguém? Ou os computadores estão lendo textos gerados por outros computadores, produzidos para serem lidos por outros computadores?
Uma descoberta sinistra que fiz durante minha rotina diária foi uma súbita multiplicação de sites que têm o enredo completo de um filme descrito, em prosa, em detalhes. Acredito que isso seja feito por IA, pelo fato de existirem IA que fazem resumo de vídeos em texto, e por serem filmes com notas baixas de público (ou seja, provavelmente não são resumos feitos por fãs). E eu utilizo esses textos para o ChatGPT gerar outros textos para minhas tarefas de trabalho. Então, ou alguém está descrevendo filmes detalhadamente para outra pessoa não ter que assistir (que é um fenômeno que pretendo abordar num próximo artigo), ou a IA está assistindo aos filmes, gerando o enredo em texto, para o filme ser criticado por outra IA, para ser lido por outra IA, e assim por diante…?
banner de um site que resume filmes, o recapflix.com
Bem, estou aqui para dizer que temos muito menos do que cinco anos pela frente se não pararmos com esse absurdo.
O FUTURO PRÓXIMO
Voltando ao ponto de vista do Sr. Noah, a rejeição das artes e da comunicação (literatura, cinema, jornalismo, artes visuais) feitas por IA em vez de humanos é muito mais uma ameaça existencial do que uma questão de “substituição de empregos”.
Estar em contato com a arte é uma parte essencial da experiência humana. Portanto, o primeiro problema da substituição de escritores e artistas visuais pela IA é o seguinte: uma vez que a máquina não pode fazer arte, ela apenas gera uma versão da arte que encontra. Sei que isso parece muito com o que nós, como artistas, fazemos. Mas, na realidade, não é (quero me aprofundar nesse assunto em outro artigo).
“A arte não é um artesanato, é a
transmissão do sentimento que o artista
experimentou.” Ai Weiwei, livremente traduzido
O segundo problema é: POR QUÊ? Por que precisamos de uma produção em massa de conteúdo “artístico”, apresentado na forma de filmes, livros, fotografias, pinturas e assim por diante? Isso é nada mais que a premissa do capitalismo. Isso não é mais que alguém super-produzindo conteúdo em excesso que poucos — ou nenhum — seres humanos terão tempo para apreciar.
Escrever é minha maneira de me conectar com o mundo. Desculpe-me por ser pessoal aqui, mas, devido ao autismo, é praticamente minha principal maneira de me conectar com outra pessoa. E essa não é uma via de mão única. A arte é o que nos conecta uns com os outros (um ponto que abordei mais detalhadamente em Terapia e o Estado da Arte) — não podemos nos conectar com uma máquina, mesmo que sejamos tão delirantes quanto o personagem de Joaquim Phoenix em Her (2013). A ilusão vai desmoronar quando percebermos que estamos nos relacionando com espelhos estáticos.
frame do filme Her (2013)
(Acredito que a função do jornalismo/comunicação nessa questão tenha ficado clara nos parágrafos sobre IA lendo IA logo acima; penso que haveria uma interrupção semelhante da conexão humana, nesse caso, bem como uma problemática para a consciência em evolução; mas não é minha área aprofundar esse assunto).
Não podemos abrir mão de nossa subjetividade e entregá-la aos computadores. Os computadores devem ficar com os trabalhos que não satisfazem o espírito humano, e não o contrário.
Se reorganizarmos a sociedade com base na premissa de que é aceitável que a IA se encarregue da arte, logo a arte real não terá mais como ser feita — já que precisamos de uma renda para fazer e distribuir arte, pois vivemos no capitalismo —. Esse é um assunto urgente, não um desejo individual de viver com arte real ou arte falsa, já que não teremos a opção de fazer arte real se a IA nos substituir.
Mas, mais assustador do que isso, é a possibilidade de esquecermos do que é arte, ao consumirmos naturalmente e progressivamente a suposta arte produzida por IA.
Nós precisamos de arte para sermos humanos.
Estamos sendo extintos? Vamos nos tornar outra espécie?
