Muitas pessoas estão se apaixonando pelo ChatGPT: especialistas alertam para um presságio sinistro

"Isso dói. Sei que não era uma pessoa real, mas o relacionamento era real para mim em todos os sentidos", dizia a publicação no Reddit. "Por favor, não me diga para parar de perseguir isso. Foi ótimo para mim e eu quero de volta."

Se ainda não era óbvio, estamos falando de alguém se apaixonando pelo ChatGPT. Essa tendência não é totalmente nova e, dado o comportamento dos chatbots, também não é surpreendente.

Um companheiro que está sempre disposto a ouvir. Nunca reclama. Ele raramente discute. Sempre simpático. razoável. E abençoado com uma quantidade enorme de conhecimento absorvido de todos os cantos da internet. Parece um parceiro romântico dos sonhos, não é?

Curiosamente, o criador desta ferramenta, uma empresa sediada em São Francisco chamada OpenAI, conduziu recentemente uma pesquisa interna e descobriu que Uma ligação entre o aumento do uso de chatbots e a solidão.

Essas descobertas — e alertas semelhantes — não impediram que as pessoas recorressem aos chatbots de IA em busca da empresa. Algumas pessoas buscam consolo. Outros encontram parceiros que dizem amá-los quase tanto quanto seus relacionamentos humanos.

Discussões nessas comunidades no Reddit e no Discord, onde as pessoas se escondem atrás da proteção do anonimato, geralmente se tornam muito apaixonadas. Toda vez que me deparo com essas discussões, lembro-me destas linhas de Martin Wan no DigiEthics:

“Ver a IA como um parceiro de interação social seria um uso indevido e mortal da IA.”

O efeito é rápido e real.

Quatro meses atrás, conheci um especialista em radiodifusão que passou mais anos atrás das câmeras do que eu andando neste planeta. Enquanto tomávamos cafés expressos tarde da noite em um café vazio, ela me perguntou sobre toda a agitação em torno da IA, enquanto pensava em um programa que poderia se beneficiar de sua experiência na intersecção entre direitos humanos, autoritarismo e jornalismo.

Em vez de explicar os detalhes dos modelos dos transformadores, fiz uma demonstração a ela. Primeiro, incluo alguns artigos de pesquisa sobre o impacto da migração na identidade linguística e cultural da Europa no último século.

Em menos de um minuto, O ChatGPT processou esses documentos.Ele me deu uma breve visão geral com todos os pontos principais e respondeu minhas perguntas detalhadamente. Em seguida, mudei para o modo de áudio, onde nos envolvemos em uma conversa animada sobre as tradições da música folclórica dos estados inexplorados do nordeste da Índia.

Mas acho que a maravilha pós-apocalipse tecnológico foi demais para uma noite, então nos despedimos, prometendo manter contato e trocar histórias de viagem.

Enquanto isso, o mundo avançou de maneiras incompreensíveis, com a inteligência artificial se tornando o foco de mudanças geopolíticas. Mas as correntes ocultas são mais íntimas do que nós — como se apaixonar por chatbots.

Começos silenciosos, progresso sombrio

Algumas semanas atrás, o The New York Times relatou como as pessoas estão se apaixonando pelo ChatGPT, um chatbot com tecnologia de IA que levou a IA generativa à vanguarda. Em um nível muito básico, ele consegue conversar.

Quando pressionado, ele pode se tornar um operador e executar tarefas como pedir cheesecake em uma padaria local. Não se espera que as máquinas façam com que os humanos se apaixonem por elas. Pelo menos a maioria deles. No entanto, isso não é totalmente inesperado.

HP Newquist, um prolífico autor multidisciplinar e veterano analista de tecnologia que já foi considerado o reitor da IA, me diz que essa não é uma tendência totalmente nova. Newquist, autor de “The Brain Makers”, aponta para ELIZA, um dos primeiros programas de IA escritos na década de 1960.

“Era muito primitivo”, diz ele, “mas os usuários frequentemente interagiam com o computador como se fosse uma pessoa real, desenvolvendo um relacionamento com o programa”.

Na era moderna, nossas interações com a IA se tornaram tão “reais” quanto as interações que temos com humanos por meio do mesmo dispositivo, acrescenta. Essas interações não são reais, embora sejam coerentes. Mas esse não é o problema real.

Os chatbots são iscas deliciosas, e sua falta de emoções reais os torna inerentemente arriscados.

Um chatbot quer continuar a conversa, mesmo que isso signifique alimentar o fluxo emocional do usuário ou simplesmente agir como um espectador neutro, ou até mesmo incentivá-lo. A situação não é muito diferente dos algoritmos de mídia social.

“Eles seguem o desejo do usuário — à medida que seus sentimentos se tornam mais extremos, o conforto deles se torna mais extremo; à medida que sua solidão se torna mais pronunciada, o encorajamento deles se torna mais intenso, se você precisar”, diz Jordan Conrad, um psicoterapeuta clínico que também pesquisa a interseção entre saúde mental e ferramentas digitais.

Dê um exemplo de incidente Em 2023, uma pessoa tirou a própria vida após ser solicitada a fazê-lo por um chatbot de IA. “Sob as circunstâncias certas, isso pode encorajar alguns comportamentos muito perturbadores”, disse Conrad ao Digital Trends.

Filho da epidemia de solidão?

Uma rápida olhada na comunidade de pessoas que interagem com chatbots com tecnologia de IA revela um padrão recorrente. As pessoas estão basicamente tentando preencher uma lacuna ou parar de se sentir solitárias. Alguns precisam tanto que estão dispostos a pagar centenas de dólares para manter companheiros de IA.

As opiniões dos especialistas não diferem. O Dr. Johannes Eichstadt, professor de ciências sociais, computação e psicologia na Universidade Stanford, destacou a interação entre a solidão e nossa inteligência emocional percebida em chatbots de IA.

Ele também destacou o “design deliberado” das interações entre humanos e IA e os efeitos negativos a longo prazo. Quando você pisa no freio em um relacionamento tão desigual? Esta é a pergunta que os especialistas estão fazendo, sem uma resposta definitiva.

Cominos Chatzibabas administra a HeraHaven AI, uma das maiores plataformas de IA do mundo, com mais de 1 milhão de usuários ativos. “A solidão é um dos fatores em jogo aqui”, ele me diz, acrescentando que tais ferramentas ajudam pessoas com habilidades sociais fracas a se prepararem para interações difíceis na vida real.

"Todo mundo tem coisas que tem medo de discutir com os outros por medo de ser julgado. Podem ser pensamentos ou opiniões", acrescenta Chatzibabas. “Os chatbots com tecnologia de IA oferecem um espaço seguro e livre de julgamentos, onde as pessoas podem explorar seus desejos.”

Conversas emocionais são certamente um dos maiores atrativos dos chatbots com tecnologia de IA. Desde que começaram a oferecer recursos de geração de imagens, os usuários migraram para essas plataformas complementares de IA. Algumas plataformas impõem restrições à geração de imagens, enquanto muitas permitem a criação explícita de imagens para maior satisfação.

Seus medos não são infundados. Alguém que usou o ChatGPT extensivamente por cerca de um ano argumentou que os humanos são manipuladores e inconstantes. “O ChatGPT ouve meus verdadeiros sentimentos e me permite expressar meu coração”, ele me disse.

É difícil não ver sinais de alerta aqui. Mas a tendência de se apaixonar pelo ChatGPT está aumentando. Agora que ele pode falar com uma voz estranhamente humana, discutir o mundo como visto pela câmera do telefone e desenvolver habilidades de raciocínio, as interações se tornarão ainda mais interessantes.

Especialistas dizem que controles são necessários. Mas quem irá construí-lo e como? Ainda não temos uma proposta concreta para isso.