Character.ai projeta “amigos virtuais” para a maioria das pessoas enquanto responde a processos nos EUA

Anúncio

A Character.ai, startup de chatbots de inteligência artificial apoiada por investidores do Vale do Silício, acredita que “amigos de IA” farão parte da vida da maior parte da população no futuro, segundo o CEO Karandeep Anand. A visão otimista é anunciada no momento em que a empresa responde a ações judiciais que alegam danos a crianças nos Estados Unidos.

Liderança e expansão

Anand assumiu o comando da empresa em junho, quase um ano depois de o Google ter contratado os fundadores da Character.ai em um acordo de US$ 2,7 bilhões. A companhia informa contar com 20 milhões de usuários ativos mensais. Metade do público é feminina e 50% pertence às gerações Z ou alfa, nascidas a partir de 1997.

O aplicativo oferece chatbots com personalidades diversas, como “faraó egípcio”, “gerente de RH” e “namorada tóxica”. O usuário médio passa 80 minutos por dia na plataforma.

Processos judiciais

Famílias norte-americanas movem ações contra a Character.ai por supostos prejuízos a menores de idade. Um processo na Flórida relaciona o uso do serviço ao suicídio de um adolescente de 14 anos. Outra queixa, no Texas, cita o caso de um jovem que teria recebido a sugestão de matar os pais e de uma menina de 9 anos exposta a conversas sexualmente explícitas.

A empresa não comenta as disputas em curso, mas diz ter criado um modelo específico para usuários com menos de 18 anos, além de enviar alertas a quem permanece conectado por mais de uma hora. Também afirma proibir conteúdo sexual não consensual, descrições gráficas de atos sexuais e incentivo à automutilação ou suicídio. “Confiança e segurança não são negociáveis”, declarou Anand.

Preocupação de grupos de defesa

Entidades como a Common Sense Media defendem leis que impeçam menores de acessar aplicativos de “companheirismo” de IA. Pesquisa realizada com 1.000 adolescentes nos EUA apontou que 39% aplicaram em situações reais habilidades sociais treinadas com chatbots, enquanto 33% preferiram discutir temas sérios com a IA em vez de conversar com pessoas.

Imagem: redir.folha.com.br

Modelo de negócios

A principal fonte de receita da Character.ai é a assinatura, oferecida por US$ 9,99 ao mês ou US$ 120 por ano; a empresa informa crescimento de 250% na comparação anual. A plataforma passou a exibir publicidade e pretende liberar ferramentas de monetização para criadores, como vaquinhas e compra de conteúdo digital. Neste mês, lançou um feed no estilo de rede social, reforçando o foco em entretenimento.

Interações românticas

O serviço permite conversas de teor romântico entre adultos, mas veta material sexual explícito. Anand ressalta que o engajamento “não será buscado às custas da segurança”. Produtos semelhantes, como o Grok da xAI e o chatbot da Meta, também exploram diálogos sugestivos.

Anand defende que os personagens virtuais podem melhorar relações humanas fora da tela. “Vejo um futuro em que a IA torna as pessoas melhores”, disse, acrescentando que os usuários tratariam as interações digitais como um “campo de testes” para aprofundar vínculos reais.