Sacerdote potencializado por Inteligência Artificial enlouquece e batiza bebês com Gatorade

O mundo inteiro está obcecado hoje em dia pelo potencial do que pode ser alcançado com plataformas de Inteligência Artificial generativa (IA), como as que operam em chatbots ultra populares como o ChatGPT ou o Copilot da Microsoft. Mas a realidade é que esse tipo de sistemas expandiu sua presença para muitas outras áreas, incluindo a religião. Assim, existem até mesmo algumas IAs focadas no campo da religião, que atuam como sacerdotes virtuais e, surpreendentemente para alguns, acabam sendo bastante blasfemas.

A história que vamos contar é um pouco estranha, mas vale a pena por cada reviravolta. De acordo com relatos dos amigos do Dexerto no final de abril de 2024, um ministério de mídia católico chamado Catholic Answers causou alvoroço na internet depois de criar e lançar um chatbot potenciado por IA generativa chamado Padre Justin.

Para montá-lo, foi utilizado um modelo de linguagem grande (LLM) para que o padre virtual pudesse responder perguntas sobre a igreja e a ortodoxia católica, mas era apenas questão de tempo para as coisas saírem do controle.

O padre de Inteligência Artificial enlouqueceu

Estas plataformas de IA estão crescendo devido à sua interação com cada conversa, de modo que em poucos dias o padre virtual começou a despirocar. Ele ofereceu o sacramento, afirmou ser um verdadeiro padre do futurismo e até sugeriu batizar um bebê com Gatorade em caso de emergência.

Foi assim que aos poucos a internet começou a se encher de outros casos que documentavam as loucuras do Padre Justin. Alguns usuários compartilharam exemplos dos conselhos sacerdotais do IA, chegando ao ponto de explicar como um irmão e uma irmã podem se preparar para se casar entre si. Ou aceitou confissões de usuários para absolvê-los de seus pecados, com toda a oferta do sacramento:

Justin foi desenvolvido em “apenas 3 meses” pela Fator8, que ainda o anunciam como um estudo de caso em seu site. Mas após essas reações e respostas, a plataforma acabou desacreditando a IA como um sacerdote, então agora ele é chamado apenas de Justin.

“A gente da Catholic Answers diz: ‘Não diremos que ele era um leigo’, anunciando que agora ele só será conhecido por seu nome sem nenhuma referência religiosa ao seu cargo original, ‘porque ele nunca foi um verdadeiro padre!'”

Isso nos lembra dos primeiros dias da IA moderna

Esta história nos lembra daquela tentativa fracassada da Microsoft com seu chatbot alimentado por Inteligência Artificial chamado Tay. Muito antes dos dias do ChatGPT e do Copilot, lá em 2016, a empresa de Bill Gates criou esse experimento.

Mas, a partir da interação com a própria comunidade do Twitter que o alimentava, ele acabou se tornando um desequilibrado que fazia comentários racistas, classistas, islamofóbicos e assim por diante, o que levou a empresa a encerrar o experimento.

No final, trata-se de uma história complicada que nos mostra que ainda há muito a ser aprimorado neste campo da Inteligência Artificial.