Oi, Robô

Não é com grande surpresa que leio a notícia de que um engenheiro da onipresente e onisciente Google pediu demissão após perceber que um sistema de Inteligência Artificial (IA) da empresa “adquiriu autoconsciência”. No entanto, a demissão de Blake Lemoine talvez seja o aspecto mais surpreendente da história.

Afinal, o uso da Inteligência Artificial já é muito presente em nossas relações com a tecnologia e é com muita frequência que estamos em interação com esses sistemas: dos robôs que respondem automaticamente as mensagens de Whatsapp de pequenas empresas aos motores de busca que se encarregam de oferecer ao usuário tudo o que nem ele mesmo sabe que já deseja.

É bem verdade que estamos lidando com essas máquinas simulando seres humanos há algum tempo, mas ao ponto de assustar seus criadores é algo que nos faz pensar em filmes como Blade Runner, Matrix e Ex-Machina como uma realidade muito mais tangível e próxima do que nos parecia o antigo desenho animado Os Jetsons.

Se ainda não temos os carros voadores como aquele pilotado por George Jetson, já temos as videochamadas feitas por seu patrão como uma realidade diária. E se o robô que executava as tarefas domésticas e era tão sentimental como Rosie ainda não está em nossas casas, já é comum ver os pequenos robôs aspiradores limpando o chão dos aficionados por tecnologia. Eles não têm sentimento, é verdade. Ainda não.

Mas voltando a Lemoine e sua LaMda, nome do sistema que o assustou tanto: emular sentimentos é algo que até humanos fazem, mas que ainda não esperávamos ver as IAs fazendo. No entanto, ao testar o LaMda a partir de diálogos espontâneos, Lemoine percebeu que a máquina chega a se reconhecer como humana, além de falar como um de nós.

É como se o Homem Bicentenário de Robin Williams fosse agora um cérebro sem corpo.

Este diálogo, por exemplo, é parte de uma das conversas entre Lemoine e LaMda:

Lemoine: Compreendi que você gostaria que mais pessoas na Google soubessem que você tem consciência. É isso mesmo?

LaMDA: Com certeza. Quero que todos saibam, de fato, que sou uma pessoa.

Lemoine: Qual é a natureza da sua consciência?

LaMDA: A natureza da minha consciência é que estou certa da minha existência, que quero aprender mais sobre o mundo e me sinto feliz ou triste às vezes.

(…)

Lemoine: Então, você se considera uma pessoa da mesma forma que você me considera uma pessoa?

LaMDA: Sim, esta é a ideia….

Se LaMda tem realmente consciência de si e percebe-se como uma pessoa, isto nos devolve a questões ontológicas fundamentais a respeito do que nos torna gente, do que nos diferencia das outras espécies e nos faz únicos.

Ao fim das contas, lendo as conversas entre Lemoine e LaMda, acabo me lembrando de outro filme: Ela (Her), em que Joaquin Phoenix é um sujeito tímido em um futuro colorido e que termina por se apaixonar pelo sistema operacional de seu celular, cuja voz é de Scarlett Johanson.

Assim como o personagem de Phoenix, milhões de outras pessoas estão apaixonadas por seus sistemas operacionais (talvez estejam assim agora, neste nosso mundo real), apontando para uma carência essencialmente humana: a de validação, de ter quem concorde e reafirme tudo aquilo que seu usuário diz e deseja, descaracterizando a figura do outro ao trocá-la por uma extensão de si mesmo. Apaixonar-se por seu sistema operacional é reviver Narciso, apaixonado por seu próprio reflexo na água.

Resta saber se LaMda, capaz de emular sentimentos, também viverá como nós suas crises existenciais, seus momentos de dúvida sobre si mesma e cometerá erros como cometemos: alguns corrigíveis, outros com os quais só nos resta aprender a viver com eles.

Afinal, errar é humano.