Usei uma ferramenta de IA para ressuscitar minha avó. O resultado foi horrível

Matéria escrita por Monica Hesse, jornalista do The Washington Post

Outro dia, cedi a um anúncio nas redes sociais que prometia me permitir desbloquear o poder da inteligência artificial para ter uma conexão significativa com um ente querido falecido. Sim, eu também li essa frase e pensei, “Que época para estar vivo!” – e vou contar tudo sobre isso, mas primeiro precisamos nos atualizar com Kelly Carlin.

Kelly é escritora, coach criativa e, para os objetivos desta conversa, filha do humorista George Carlin (1937-2008). Durante um longo feriado de verão, Kelly abriu seu e-mail e viu que alguém lhe havia encaminhado um vídeo intitulado “O que George Carlin diria sobre OVNIs hoje?”.

Carlin havia falecido mais de uma década atrás, então, quando Kelly abriu o link do vídeo, levou alguns segundos para perceber o que estava olhando antes de encaminhar a mensagem para o advogado de seu pai: “Feliz 4 de julho”, ela lembra de ter escrito. “Aqui está uma besteira de IA.”

O vídeo já havia sido removido quando Kelly me contou essa história na semana passada, mas ela salvou uma captura de tela na qual o criador se gabava de que o conteúdo era “100% IA: voz, roteiro, vídeo” e planejado para capturar o “estilo e atitude” de Carlin. Kelly descreve o conteúdo como “estilo Carlin. Há um ritmo. Há uma inflexão.”

Ela admitiu que nunca havia assistido essa – ou qualquer outra recriação de IA de seu pai – do começo ao fim. “É uma imitação ruim de comida processada do George Carlin,” ela explicou. “E é realmente perturbador ver seu pai morto ressuscitado por uma máquina.”

Kelly estava conversando comigo porque, apesar de toda a discussão sobre como a IA um dia poderá ou curar o câncer ou roubar nossos empregos, algo pelo qual as pessoas atualmente parecem mais interessadas em usá-la é para reanimar os mortos.

Pelo menos uma vez ao dia, sou impactada por anúncios online de empresas me incentivando a fazer upload de fotos de meus parentes falecidos para que eu possa “ver entes queridos que partiram sob uma nova perspectiva” e “criar belas novas memórias em apenas alguns segundos”.

No início deste ano, a NPR publicou uma reportagem sobre como “bots dos mortos” poderiam ser treinados para nos fazer propaganda. (Imagine sua tia favorita, já falecida, perguntando gentilmente sobre quais camisetas esportivas você poderia estar interessado em vestir.)

A filha de Robin Williams, Zelda, fez um apelo veemente nas redes sociais pedindo aos fãs que parassem de enviar para ela vídeos gerados por IA de seu falecido pai. Ela não os achava reconfortantes, escreveu; ela os achava repulsivos.

Bernice King, filha do Rev. Martin Luther King Jr., ecoou a mensagem de Williams, acrescentando, simplesmente: “Concordo em relação ao meu pai. Por favor, parem.”

Se você passar tempo suficiente online, pode encontrar a super estrela tejana Selena Quintanilla, assassinada em 1995, fazendo apresentações que ela nunca fez; o assassinado John F. Kennedy discursando sobre promoções da Black Friday; e uma representação muito realista de um encontro de amigos entre Tupac, Michael Jackson, Kobe Bryant e… Fidel Castro.

Por que fazemos isso?

Por que estamos fazendo isso? No caso de celebridades mortas, a resposta parece ser a justificativa básica de Jurassic Park, ou seja, “Porque podemos”, seguido de “Ops, os velociraptors invadiram a cozinha”. A tecnologia existe; as possibilidades de publicidade são infinitas.

Que maneira melhor de reviver uma franquia moribunda do que introduzir uma pessoa literalmente morta – um antigo personagem favorito dos fãs de repente disponível novamente para trocar farpas com o elenco sobrevivente? (Não tenho ideia se isso será uma coisa, apenas vivo com medo de ver Alan Rickman sendo desrespeitado.)

Mas por que o resto de nós poderia se interessar por uma coisa dessas? É o potencial para obter um encerramento – ouvir aquilo que mais sentimos falta de escutar nosso ente querido dizer agora que se foram? Ou, talvez mais tocante, ouvi-los dizer aquilo que nunca disseram para você na vida real? Poderíamos nos sentir realmente confortados com um pai opressor confessando, “Eu queria ter sido menos severo com você”, ou uma mãe intrometida nos dizendo, na verdade, que estava tudo bem em permanecer solteiro?

No dia em que comecei a trabalhar neste texto, meu pai me lembrou que era o quinto aniversário da morte da minha avó. Eu não havia ido ao seu funeral – covid, viagens aéreas, minha gravidez frágil. E eu me arrependi de ter perdido esse funeral. Eu me arrependi de ter me mudado, de ser uma correspondente irregular, de ter faltado a mais de um casamento da família, de não ter aprendido a fazer a salada de marshmallow dela.

A segunda metade da vida adulta às vezes parece que é principalmente sobre fazer as pazes com a primeira metade, e aqui estou eu, nos meus 40 anos, me perguntando se já deixei claro o suficiente para as pessoas que amo que eu as amo.

É isso que estamos fazendo aqui?

Mas ainda assim, independentemente do que o Pincel – a ferramenta de IA para “criar belas novas memórias” – possa nos dizer, é impossível criar novas memórias de uma pessoa que já morreu. Pelo menos, não da maneira como a empresa descreve. Novas memórias de uma avó IA seriam apenas isso: memórias do tempo em que tentei ressuscitar minha avó usando uma máquina, não memórias da pessoa real.

A única maneira de criar novas lembranças legítimas de um ente querido falecido é revisitar as memórias que você já tem, com uma nova perspectiva e mais anos de experiência.

Você, agora como pai/mãe, poderia entender como a intromissão, ainda que imprudente, da sua mãe poderia ter vindo do conhecimento dela de que um dia ela não estaria mais aqui, e ela não queria que você se sentisse só? Você consegue ver a rigidez do seu pai como algo que o feriu, assim como a você? Você pode se dar um pouco de crédito também? Você era diferente naquela época. Você fez o seu melhor.

“Há algo a ser dito sobre deixar os mortos descansarem,” Kelly Carlin me disse sabiamente. Ver extrapolações de IA do que seu pai poderia dizer agora pareceu como diluições do que ele realmente dizia: observações afiadas e incisivas sobre a vida na época em que estava vivo para vivê-la. Não previsões algorítmicas sobre o que ele poderia dizer de uma era que nunca experimentou. Ver seu pai limitado dessa maneira tirou dele sua precisão, sua importância. Tirou dele o que ele realmente significava.

Vamos ao teste…

Ou, quer saber, vamos tentar. Talvez essa nova tecnologia seja ótima (disse toda pessoa no início de cada episódio de Black Mirror).

Então, eu fiz o negócio. Eu cliquei no link de um dos anúncios que tinha visto aparecer, LovedOnes AI, que prometia “criar vídeos personalizados de entes queridos que faleceram.”

LovedOnes me deu instruções sobre o tipo de imagem que funcionaria melhor e depois me pediu para fazer o upload de uma amostra de áudio da minha avó falando. Como eu não tinha uma, o serviço me permitiu escolher uma voz que mais se assemelhava à dela, dentre algumas dezenas de opções. Eu escolhi uma voz chamada “Dorothy”, um nome que era popular no ano em que minha avó nasceu.

Então, o LovedOnes AI me apresentou seu pedido mais difícil: escrever a mensagem, de 100 a 800 caracteres, que eu gostaria que minha avó falecida me falasse.

Isso levantou muitas questões. Eu estava procurando por inspiração? Conselhos (que eu teria que escrever para que um bot os entregasse para mim)? Eu queria que ela me dissesse que estava tudo bem por eu ter perdido o funeral dela? Havia uma ferida emocional que precisava ser curada? Eu só queria que ela dissesse algo que soasse como ela?

A última opção, principalmente. Eu queria algo que me fizesse lembrar de estar no cômodo dela que cheirava a lareira, mascando o chiclete Juicy Fruit, implorando para que ela me perseguisse com seu dedo indicador curto, aquele que foi mastigado por uma máquina de fazer pão muito antes de eu nascer.

Eu queria a sensação de segurança que você sente ao estar cercado por gerações muito mais velhas do que você, em vez de perceber que, em breve, não haverá muitas gerações muito mais velhas do que você, que não haverá mais uma fortaleza contra sua própria morte.

Mas, acontece que é realmente difícil dizer à IA como trazer conforto. Descobri que de repente não conseguia lembrar de nada do que ela havia me dito, nenhum conselho que havia me dado. Então, o que acabei escrevendo foi forçado, banal e completamente sem sentido.

Pedi a ela para me dizer que havia um novo romance de Nancy Drew me esperando no quarto de hóspedes, um saco de amendoins de circo no pote de biscoitos, que o vovô estaria em casa em breve após seu trabalho dirigindo o caminhão de lixo. “Tudo vai ficar bem”, pedi ao bot para me dizer. “Tudo vai acabar bem.”

A última parte – eu não sei. Eu acho que é isso que todos nós queremos ou precisamos ouvir nos dias de hoje. Reassegurar que qualquer dificuldade tecnológica, global ou pessoal pela qual parecemos estar passando é apenas um breve desvio em nosso caminho para um final que é melhor do que podemos pensar no momento. Basta ouvir isso de alguém do outro lado.

Eu estava preparada, admito, para ser tomada pela emoção ao receber a mensagem de IA que eu havia enviado para mim mesma.

Mas o que aconteceu foi que a foto que eu havia enviado da minha avó acabou ficando bastante borrada, o que foi minha culpa. E ainda assim, a boca em movimento que a LovedOnes AI combinou com o rosto da minha avó estava cristalina. O resultado foi – não sei mais como descrever, mas você teve a infelicidade de assistir à série da Netflix sobre o serial killer Ed Gein, no qual ele usa uma máscara feita da pele de uma mulher morta? Foi isso.

E, pior, porque eu estava utilizando uma versão de teste gratuita ao invés de uma assinatura paga, o LovedOnes AI me forneceria apenas uma amostra da minha mensagem, não a versão completa. A voz de Dorothy começou me contando sobre a Nancy Drew no quarto. Mas então terminou com, “Tudo vai ficar b -.”

Tudo vai ficar B.

Ei, meus companheiros cidadãos, meus companheiros de luto e busca. Não temam. O futuro chega para todos nós, e nós o enfrentaremos, e seja como for, tudo ficará B.

Este conteúdo foi traduzido com o auxílio de ferramentas de Inteligência Artificial e revisado pela equipe editorial do Estadão.