China reprime pares de IA: Terapeuta alerta para o aprofundamento da crise de solidão.

No mês passado, o governo chinês impôs novas regulamentações com o objetivo de restringir os pares de IA.

Essas regras estipulam que as ferramentas de IA não podem mais "mimar demais os usuários, criar dependência emocional ou vício, ou prejudicar os relacionamentos pessoais dos usuários na vida real". Elas também restringem relacionamentos românticos envolvendo crianças baseados em IA.

As novas regulamentações entraram em vigor em 15 de julho e já começam a impactar o crescente setor de assistentes virtuais com inteligência artificial na China. Algumas das maiores empresas de tecnologia do país, como ByteDance, Tencent e Alibaba, possuem plataformas que permitem aos usuários criar assistentes virtuais projetados para imitar emoções e relacionamentos humanos.

De acordo com as novas regras, esses tipos de chatbots de acompanhamento precisarão passar por avaliações de segurança antes de serem disponibilizados ao público, e os órgãos reguladores suspenderão os serviços que considerarem inseguros.

Isso levou algumas empresas a desativarem recursos de personalização em vez de cumprirem as novas regras, deixando muitos usuários de assistentes virtuais de IA decepcionados. Esse tipo de frustração, quando uma empresa de IA encerra suas atividades ou faz mudanças, tornou-se comum. Vimos algo semelhante quando a OpenAI descontinuou seu modelo ChatGPT -4o , conhecido como o "modelo do amor", com o qual muitos usuários haviam construído relacionamentos.

Mas, à medida que governos de todo o mundo buscam entender como regulamentar os assistentes virtuais projetados para construir laços e relacionamentos emocionais semelhantes aos humanos (especialmente quando crianças têm acesso a eles), surge a questão: outros países deveriam seguir o exemplo da China no estabelecimento de regras e estruturas para a IA que vão além de meras políticas?

Outros países deveriam proibir assistentes virtuais?

É fácil presumir que os assistentes virtuais de IA são ruins e representam um mundo distópico, e eu também pensava assim. Mais da metade dos americanos se preocupa com a IA em seu dia a dia. Então conversei com a Mimi sobre a relação dela com seu assistente virtual do ChatGPT, e minha perspectiva mudou um pouco.

Continuo achando que companheiros virtuais não são uma boa ideia para a maioria das pessoas — e a forma como as crianças podem se tornar dependentes deles antes de desenvolverem suas habilidades sociais é um problema completamente diferente. Mas julgá-los como totalmente ruins ignora todos os motivos pelos quais as pessoas recorrem a companheiros virtuais em busca de companhia.

Perguntei à psicoterapeuta Amy Sutton, da Freedom Counselling , que me ajudou a entender a história de Mimi e estava explorando as complexidades da inteligência artificial e do apego, se ela achava que elas deveriam ser proibidas. Ela me disse que era importante olhar para o panorama geral.

Ela me diz: "Os companheiros de IA são mais um sintoma de uma mudança cultural e social em direção ao individualismo desenfreado, que destruiu os contextos sociais."

Isso se refere ao declínio de espaços sociais onde as pessoas tradicionalmente aprendiam a construir relacionamentos, como bares, parques, centros comunitários e clubes juvenis para crianças. Em muitas partes do mundo (particularmente no Reino Unido, onde Sutton e eu moramos), muitos desses espaços sofreram com a falta de verbas ou fecharam sem serem substituídos.

A isso se soma o isolamento social durante a pandemia, nossa dependência das redes sociais, o trabalho remoto e a falta de investimento em serviços de saúde mental para crianças e adultos, e Sutton afirma que não é surpreendente que as pessoas estejam recorrendo à tecnologia em busca de conexão.

Ela diz: “Não é de admirar que as pessoas estejam recorrendo a isso. Essa crescente solidão é um problema real, e proibir aplicativos que oferecem alívio para ela pode transferir o problema para outro lugar.”

Por essa razão, ela acredita que deveria haver mais regulamentação, mas que esta deveria levar em consideração as circunstâncias que levaram à demanda por companheiros de IA em primeiro lugar.

Outro problema é que um número enorme de pessoas já utiliza essas ferramentas. É difícil saber o número exato de pessoas que usam assistentes virtuais. Nem todos admitem usar IA dessa forma, e eu costumo ser cético em relação a aplicativos de assistentes virtuais que exageram seus números de usuários.

No entanto, algumas pesquisas sugerem que mais de 70% dos adultos no Reino Unido e nos EUA têm alguma experiência com assistentes virtuais. Outras pesquisas indicam números igualmente altos entre os usuários mais jovens, com 72% dos jovens de 13 a 17 anos nos EUA tendo usado um assistente virtual pelo menos uma vez.

É claro que existe uma grande diferença entre ter um bate-papo casual em um dia ruim e construir um relacionamento duradouro com uma IA. Portanto, esses números devem ser interpretados com cautela. Mas eles sugerem que os companheiros de IA, pelo menos para algumas pessoas, estão suprindo necessidades que, de outra forma, poderiam ficar sem atendimento.

Ela me diz: “Precisamos lembrar que a experiência de ser ouvido, valorizado e aceito sem julgamento, mesmo por uma máquina, pode ser verdadeiramente significativa. Para aqueles que foram repetidamente decepcionados por relacionamentos humanos, ou que foram ignorados e não conseguiram acessar serviços humanos adequados, a inteligência artificial preenche uma lacuna vital.”

Uma regulamentação mais rigorosa poderia levar a melhores relações?

Existem bons motivos para nos preocuparmos com o impacto que dedicar muito tempo e energia aos relacionamentos com IA pode ter em nossa capacidade de nos conectar com outros seres humanos. Mas Sutton também acredita que há outra possibilidade: uma experiência positiva com IA pode ajudar as pessoas a desenvolverem algumas das habilidades necessárias para se comunicarem com os outros.

Ela me disse: "Ao proporcionar um espaço para que as pessoas se sintam ouvidas, elas podem experimentar a vulnerabilidade antes de se arriscarem com outra pessoa." Isso certamente se confirmou quando conversei com Mimi. Ela sentia que seu relacionamento com a inteligência artificial era incrivelmente benéfico.

O problema é que os assistentes virtuais de IA atuais não são projetados para ajudar as pessoas a reduzirem gradualmente a necessidade que têm deles , mas sim para fidelizar os usuários.

Ela afirma: “Se a inteligência artificial puder ser um passo em direção a relacionamentos humanos mais saudáveis, vale a pena explorá-la mais a fundo. Mas devemos lembrar que, atualmente, a maioria das ferramentas de IA não incentiva ativamente os usuários a abandoná-las. Elas são projetadas para fazer o oposto. São projetadas para manter os usuários voltando sempre.”

Talvez se os assistentes virtuais tivessem sido projetados de forma diferente, e se a regulamentação tivesse ajudado a moldá-los em ferramentas que incentivassem a vulnerabilidade e as habilidades sociais em vez de diminuí-las, as coisas seriam diferentes. Eles poderiam até ajudar as pessoas a se envolverem mais plenamente com o mundo real.

Proibir ou restringir a companhia de IA não elimina a solidão. Se esses relacionamentos preenchem um vazio deixado pelo enfraquecimento das comunidades, serviços sobrecarregados e vidas cada vez mais isoladas, então remover a IA apenas expõe a lacuna subjacente.

Talvez a melhor pergunta para os reguladores não seja se os assistentes virtuais devem existir, mas sim o que devemos esperar que eles façam pelas pessoas com quem se conectam. Atualmente, o sucesso deles é medido pela eficácia com que nos fazem voltar. Talvez um dia deva ser medido pela eficácia com que nos ajudam a ir embora.

---

---