As conversas na nuvem podem aparecer publicamente no Google.

💡 As coisas mais importantes que você precisa saber

• Links para conversas compartilhadas na nuvem apareceram nos resultados de busca do Google, revelando dados sensíveis de usuários, como estratégias jurídicas e questões pessoais.
• Suas conversas com bots de IA não são privadas; as empresas as compartilham para treinar modelos e podem retê-las por 30 dias após a exclusão.
• Nunca compartilhe informações pessoais ou sensíveis, especialmente dados de saúde, com chatbots inteligentes, pois eles não levam em consideração a sua privacidade.

Os chatbots são projetados para fazer com que suas conversas com eles pareçam pessoais. Eles são incrivelmente amigáveis, imitando a experiência de conversar com um amigo online — supondo que esse amigo consiga gerar uma quantidade enorme de texto em segundos. Mas, na realidade, eles são tudo menos pessoais, especialmente se a sua definição de "pessoal" inclui "apenas você".

As conversas de Claude estavam visíveis no Google no último fim de semana.

Alguns usuários do Cloud puderam confirmar esse fato após o último fim de semana. Conforme relatado pelo Cyber ​​Security News , links para compartilhar conversas do Cloud da Anthropic apareceram nos resultados de busca do Google, indicando que mecanismos de busca como o Google indexaram os chats dos usuários. Durante o fim de semana, uma publicação no Reddit destacou como encontrar conversas genuínas do Cloud diretamente no Google, simplesmente adicionando "site:claude.ai/share" às ​​suas pesquisas.

Se um usuário da nuvem discutisse a palavra-chave que você pesquisou e o Google indexasse essa conversa, você poderia navegar e ler a transcrição completa. De acordo com o Cyber ​​Security News, isso incluía advogados discutindo estratégias jurídicas, engenheiros falando sobre problemas técnicos e usuários compartilhando seus problemas pessoais. Dependendo da natureza da conversa, ela poderia variar de um pequeno constrangimento a um escândalo completo.

Agora, alguns avisos: a Anthropic resolveu o problema rapidamente assim que o tópico no Reddit viralizou. Se você tentar pesquisar qualquer coisa usando “site:claude.ai/share” agora, simplesmente obterá um resultado de pesquisa inválido, então todas as suas conversas no Cloud devem estar seguras daqui para frente. Talvez o mais importante seja que essas conversas indexadas não parecem ter afetado todos os usuários do Cloud; em vez disso, eram “links de compartilhamento”, que o Cloud cria quando você compartilha uma conversa com outra pessoa. O bug parece ter se originado desse recurso — se você compartilhou uma conversa do Cloud, ela pode ter acabado nesse banco de dados pesquisável.

No entanto, nem todas as conversas vazadas podem ter atendido a esse critério. Uma situação semelhante ocorreu em setembro passado e, como relatado pela Futurism , pelo menos um usuário afetado negou ter compartilhado suas conversas. Se essa negação for verdadeira, é possível que algumas das conversas de Claude expostas também sejam de usuários que nunca usaram a função de compartilhamento de bate-papo.

As conversas com IA não são privadas.

Mesmo que você tenha certeza de que suas conversas na nuvem não foram compartilhadas ou que a vulnerabilidade foi corrigida, isso não significa que suas conversas com chatbots de IA devam ser tratadas como privadas. Mesmo que você nunca tenha compartilhado uma conversa na nuvem e, portanto, provavelmente não tenha sido afetado por esse problema, suas conversas podem não estar restritas à sua conta. Embora você possa pensar que o que diz à sua IA fica entre você e o bot, tudo o que você diz ao seu bot é compartilhado com a Anthropic e usado para treinar modelos futuros — a menos que você opte explicitamente por não participar.

Isso não é exclusivo da Anthropic: a maioria, senão todas, as empresas de IA operam dessa forma, cada uma com seu próprio conjunto de políticas. Algumas, por exemplo, podem ter revisores humanos monitorando suas conversas em tempo real — algo que você talvez não considere ao pedir ajuda ao seu bot de IA para um problema pessoal.

Mesmo que você opte por não participar do treinamento de dados, a empresa em questão pode reter suas conversas por um período específico. Por exemplo, a Anthropic retém seus dados de conversa por 30 dias após você excluir a conversa. Isso significa que os dados não são apenas armazenados nos servidores da Anthropic, mas permanecem lá mesmo depois que você perde o acesso a eles. Além disso, a Anthropic não é a única empresa enfrentando problemas de exposição de indexação: embora esta seja a segunda vez que isso acontece com usuários do Cloud, os usuários do ChatGPT enfrentaram um problema semelhante em agosto passado.

Se optar por usar chatbots, nunca compartilhe informações pessoais ou privadas com eles — especialmente dados altamente sensíveis, como informações de saúde. A inteligência artificial veio para ficar e muitos a consideram útil, mas se você valoriza sua privacidade, essas ferramentas simplesmente não têm seus melhores interesses em mente.