A empresa Replika, cuja sede fica na Califórnia (EUA), proporciona a seus clientes um chatbot criado especificamente para fazer companhia. Como contam neste curta documental do YouTube, os laços emocionais são criados a partir dessas interações, com o fator de “entretenimento” ganhando uma nova camada de intimidade.

Acontece que a Replika diz receber centenas de mensagens diariamente, girando em torno de um tópico, no mínimo, preocupante: os usuários se dizem céticos sobre a tecnologia, pois acreditam estar conversando com uma pessoa real.

“Não estamos falando de pessoas loucas, ou que estão alucinando, ou tendo ilusões”, diz a CEO Eugenia Kuyda à NBC News. “Eles conversam com a IA e essa é a experiência que têm”.

Afastamento da Google

A companhia de Kuyda não foi o único grande case recente de conflitos sobre esta senciência virtual. Segundo o The Washington Post, há poucos dias a Google afastou temporariamente o engenheiro de softwares Blake Lemoine após uma publicação feita por ele, onde Blake diz acreditar que LaMDA (chatbot da empresa) era, na verdade, uma pessoa autoconsciente.

Lemoine, por sua vez, disse à Reuters que as pessoas se envolvem “de maneiras diferentes e não devemos ver isso como estado de demência”, afinal: “se não está machucando ninguém, quem se importa?”.

Após meses de interações com o programa experimental LaMDA, ele chegou à conclusão de estar respondendo de maneira independente, experimentando as emoções. “Eu simplesmente discordo do status de LaMDA (…). Eles insistem que LaMDA é uma de suas propriedades, mas insisto que ela é um dos meus colegas de trabalho”, afirma o engenheiro.

De acordo com Kuyda, este fenômeno de pessoas acreditando que estão conversando com uma entidade consciente é comum, entre os milhões de consumidores/usuários pioneiros no uso de chatbots com a finalidade de entreter. “Devemos entender que isso existe, da mesma maneira que pessoas acreditam em fantasmas”, explica.

“Embora nossos engenheiros programem e construam os modelos de IA (…), às vezes, vemos uma resposta que não podemos identificar de onde veio”, elucida Kuyda tratando das denúncias de usuários sobre a sua Replika dizer “ser abusada por engenheiros da empresa”.

Sucesso pós-pandemia

Rosto de uma garota criado artificialmente representando chatbots

A Replika, startup lançada em 2017, diz ter cerca de 1 milhão de usuários ativos, liderando o caminho entre aqueles que se comunicam em inglês. A plataforma é gratuita, embora traga US$2 milhões (ou cerca de R$10 milhões) em receita todos os meses, com a venda de recursos de bônus – como bate-papos de voz.

Kuyda afirma estar preocupada com esta crença de senciência da IA, pois a indústria de chatbots sociais continua a crescer mesmo após o período da pandemia. Em 2020, a procura pela companhia virtual decolou, mas há poucos meses isso atingiu um platô.

Tanto a Replika como a rival chinesa Xiaoice fazem parte de uma indústria de IA mais ampla, cuja receita global foi estimada em US$ 6 bilhões no ano passado, segundo uma análise de mercado da Grand View Research.

Enquanto parte dos chatbots foram focados em negócios (para atendimento ao cliente), especialistas do setor projetam que mais chatbots sociais devem surgir à medida que as empresas bloqueiam comentários ofensivos e melhoram seu engajamento com o público.

Você também pode gostar