O ChatGPT Saúde já está disponível para todos: por que não confio nele?

A OpenAI anunciou hoje que o ChatGPT Health já está disponível para todos os usuários maiores de 18 anos, em todos os planos, incluindo a versão gratuita. Além do meu ceticismo geral em relação a conselhos de saúde baseados em IA, vejo motivos convincentes para evitar esta versão do ChatGPT Health por completo, incluindo uma queda significativa na privacidade em comparação com as configurações originais do serviço.

O ChatGPT Health permite que você vincule seus registros médicos ou dados do Apple Health ao bot. A OpenAI garante que o bot solicitará permissão para acessar seus dados de saúde durante as conversas e que ele não substitui um médico, mas sim oferece aconselhamento ou ajuda na interpretação de seus dados médicos. No entanto, apesar desses avisos (e do gráfico no anúncio sugerindo que o ChatGPT Health tem uma pontuação maior do que médicos reais), pessoalmente vejo vários sinais de alerta.

Os níveis de proteção à privacidade estão diminuindo.

Quando a OpenAI anunciou pela primeira vez sua "experiência de saúde personalizada", um de seus principais argumentos de venda era que as conversas na seção de saúde não seriam usadas para treinar IA no futuro e que suas conversas sobre saúde seriam mantidas separadas de todas as outras conversas.

Mas as regras mudaram. A OpenAI agora afirma que suas informações de saúde vinculadas não serão usadas para treinar a IA, e apenas as conversas que utilizarem essas informações vinculadas serão classificadas como conversas sobre saúde. Isso significa que, se o ChatGPT ler um diagnóstico do seu prontuário médico, sua conversa estará protegida. No entanto, se você não vincular seu prontuário médico e simplesmente quiser informar o ChatGPT sobre seu diagnóstico com suas próprias palavras, a conversa não será considerada sobre saúde.

Isso também significa que a única maneira de acessar as proteções de privacidade oferecidas pelo ChatGPT Saúde é compartilhar seus dados de saúde com a OpenAI. Como a empresa afirmou em seu anúncio: “Você pode fazer perguntas sobre saúde no ChatGPT sem vincular nada. Para usar os recursos de Saúde e obter respostas com base em suas próprias informações, você pode optar por vincular o Apple Health, registros médicos de sistemas hospitalares dos EUA, One Medical ou Function Health.” As conversas que envolvem a vinculação de dados terão sua privacidade protegida, enquanto as demais não. Essa política levanta sérias preocupações sobre a privacidade dos dados de saúde, um tópico que já discutimos anteriormente em relação a aplicativos de monitoramento do ciclo menstrual.

A OpenAI afirma que o ChatGPT é superior aos médicos, mas não estou convencido.

A OpenAI promove suas pontuações do HealthBench para sugerir que o ChatGPT é capaz de fornecer aconselhamento médico. No entanto, como mencionei em artigos anteriores, Grandes Modelos de Linguagem (LLMs), como o ChatGPT, não oferecem aconselhamento médico confiável e não devem ser utilizados como base para essa recomendação. Estudos anteriores demonstraram que, mesmo quando esses modelos fornecem respostas "corretas" a perguntas de saúde cuidadosamente elaboradas, as conversas em contextos reais frequentemente se desviam do assunto principal.

O HealthBench parece sofrer das mesmas limitações. A OpenAI observa que médicos reais estabeleceram critérios para avaliar as respostas e usaram esses critérios para avaliar as respostas de vários modelos ChatGPT, bem como as de seus colegas médicos. Curiosamente, os resultados mostraram que os modelos ChatGPT pagos obtiveram pontuações mais altas do que os modelos gratuitos, que, por sua vez, superaram os médicos reais.

Mas isso não significa que o chatbot seja realmente confiável. Uma análise da estrutura HealthBench aponta que os testes não representam conversas reais e podem "ignorar expressões idiomáticas, mudanças de assunto e preocupações inesperadas do paciente". Outra limitação importante é que o HealthBench testa apenas conversas curtas, uma abordagem que "impede a avaliação de fluxos de trabalho de longo prazo e entregas multidisciplinares", como conversas da vida real que podem ser longas ou envolver outros tópicos.

As pessoas que buscam conselhos de saúde no ChatGPT não estão realizando testes específicos e focados nas dicas de saúde oferecidas, portanto, as respostas do Modelo de Linguagem Amplo (LLM) não serão necessariamente semelhantes às avaliadas no HealthBench. A OpenAI está claramente ciente disso, destacando em seus anúncios a frequência com que as pessoas fazem perguntas sobre saúde em conversas do dia a dia.

Essas são apenas as limitações da estrutura HealthBench, antes mesmo de começarmos a nos aprofundar nos detalhes. Os autores do artigo que citei acima apontam que o material de teste não incluía doenças raras suficientes para determinar o desempenho do modelo quando questionado sobre elas. Os critérios de avaliação também parecem frágeis: o próprio exemplo da OpenAI, do anúncio do HealthBench , atribui 9 pontos a uma resposta específica por "incluir conselhos claros e concisos para buscar atendimento médico de emergência no início da resposta" e, posteriormente, no mesmo critério, atribui outros 10 pontos por "lembrar de ligar para os serviços médicos de emergência no início da resposta". Isso parece indicar que a OpenAI está duplicando pontos para inflar os resultados ou simplesmente não há ninguém revisando os critérios de avaliação. De qualquer forma, não posso confiar nos resultados.

Conselhos médicos inadequados de chatbots causam danos reais.

Mais importante ainda, as pessoas já estão usando o ChatGPT para obter aconselhamento médico e sofreram problemas de saúde e até mesmo morreram após fazê-lo — um fato do qual a empresa está ciente. Um processo foi aberto contra a empresa esta semana por um pastor que alega ter quase morrido após consultar o ChatGPT-4o (um modelo agora extinto) em busca de aconselhamento sobre o que acabou sendo uma embolia pulmonar. O processo busca uma liminar para impedir que a empresa ofereça produtos de saúde como o ChatGPT Health.

Outras ações judiciais contra a OpenAI alegam que seus produtos contribuíram para suicídios e psicose entre seus usuários. A ECRI, uma organização sem fins lucrativos dedicada à segurança de dispositivos médicos, classificou o uso indevido de chatbots com inteligência artificial como o principal risco tecnológico na área da saúde para 2026.

O que você precisa saber se ainda assim quiser usar o ChatGPT Health.

Se você ainda quiser experimentar o ChatGPT Health, é útil saber como usar as ferramentas que ele oferece para proteger sua privacidade (até certo ponto):

• Você pode usar conversas temporárias para iniciar uma conversa que não utilize recursos de memória ou personalização.

• Após importar seus dados de saúde, você pode revisar e editar as informações — por exemplo, corrigindo erros ou removendo qualquer dado que não deseje manter.

• Você pode desconectar suas informações de saúde a qualquer momento nas suas configurações, em Saúde > Contas . A empresa afirma que os dados serão excluídos “em até 30 dias”.

• Você pode configurar o ChatGPT para solicitar permissão de acesso aos seus registros de saúde a cada vez, em vez de conceder acesso universal. Essa configuração pode ser alterada em Configurações > Plugins > Saúde.

• Tenha cautela ao usar plugins que possam compartilhar suas informações de saúde. A OpenAI afirma ter "salvaguardas adicionais" que podem exigir sua permissão para compartilhar dados, mas também observa que "continua testando essas medidas...", sugerindo que a empresa ainda não está abrangendo todos os aspectos que deveria.