O Google cometeu um erro ao colocar a Nano Banana no Google Earth.

Na semana passada, o Google lançou o Nano Banana 2 , seu modelo de geração de imagens com inteligência artificial, dentro do programa de exploração mundial Google Earth. A empresa promoveu essa integração como uma forma de as pessoas criarem infográficos sobre diferentes locais ao redor do mundo ou gerarem paisagens históricas a partir de imagens recentes. Os usuários também foram convidados a gerar suas "casas dos sonhos" em cenários realistas — se você tinha planos de construir uma extensão em sua casa ou imaginava uma casa de férias à beira do lago, poderia visualizá-las usando o Nano Banana 2 no Google Earth.

Essa notícia surge em meio à iniciativa do Google de integrar suas plataformas de IA em quase todos os seus produtos e serviços (por exemplo, na semana passada, adicionou novos recursos do Gemini aos usuários do Google Docs for Workspace). Do ponto de vista da empresa, adicionar o Nano Banana 2 ao Google Earth fazia todo o sentido. No entanto, como se constatou posteriormente, essa integração não se mostrou adequada para o Google Earth.

O Google Earth já está abandonando o Nano Banana 2.

Apenas um dia após o lançamento dessa importante integração para o Nano Banana 2, o Google a removeu . A empresa publicou uma atualização do anúncio original, afirmando: “Reconhecemos que as pessoas confiam no Google Earth como uma ferramenta essencial para obter uma visão confiável do mundo. Notamos que profissionais da área geoespacial utilizam esse recurso para diversos fins úteis; no entanto, também observamos pessoas compartilhando capturas de tela de imagens geradas que parecem violar nossas políticas. Portanto, estamos removendo esse recurso do Google Earth enquanto trabalhamos para implementar controles mais rigorosos. É importante ressaltar que as imagens geradas não eram exibidas na experiência principal do Google Earth para outros usuários e continham uma marca d'água indicando que foram geradas por IA.”

Essa afirmação não descreve com precisão as imagens que os usuários estavam gerando com essa ferramenta. Na minha opinião, foi além de simplesmente "violar" as políticas do Google : a internet, como esperado, usou o Nano Banana 2 para gerar imagens impróprias e sensíveis baseadas em locais reais. Não é de se surpreender que uma das imagens mais amplamente divulgadas mostrasse um avião se chocando contra o novo World Trade Center em Manhattan . Outras mostravam a Torre Eiffel em ruínas ou as pirâmides egípcias desabando em um abismo profundo. Embora muitos possam perceber que essas imagens foram criadas como piadas, um número muito maior pode ver essas imagens "oficiais" do Google Earth online e presumir o pior.

Mas, brincadeiras à parte, o potencial de disseminação de informações falsas e enganosas era alarmante. Por exemplo, um usuário demonstrou como utilizou a ferramenta para colocar refugiados ombro a ombro perto da fronteira com o México . É fácil imaginar uma imagem dessas viralizando, com os espectadores sendo enganados e acreditando que essa captura de tela do Google Earth era uma imagem de satélite genuína. O Google provavelmente tinha alguns controles implementados para impedir muitos processos de geração de imagens, mas essas restrições claramente não eram robustas o suficiente. Como qualquer pessoa, independentemente de ter pago pelos recursos de IA do Google ou não, podia usar o Nano Banana 2 com o Google Earth, tudo o que precisavam fazer era abrir o Google Earth e manipular uma mensagem maliciosa até que o Nano Banana 2 respondesse.

A inteligência artificial generativa não tem lugar em uma ferramenta como o Google Earth.

Não é preciso ser um cético em relação à IA para explicar por que isso foi uma má ideia desde o início. No entanto, poucas empresas de IA parecem demonstrar qualquer ceticismo antes de incluir recursos de IA generativa em seus produtos. Ferramentas como o Google Earth são projetadas para serem educativas. Nós as usamos para aprender sobre o mundo, sua geografia e como são diferentes cidades e paisagens. Eu, particularmente, gosto de passar um tempo girando meu globo digital para explorar novos lugares e costumo marcar um ponto aleatório para ver como ele fica no Street View. O motivo é que considero o Google Earth uma fonte de informação precisa e confiável sobre o mundo; se não fosse, por que eu me importaria?

Portanto, não vejo lógica alguma no Google oferecer uma ferramenta que, por sua própria natureza, gera imagens imprecisas e distorcidas do mundo. Um de seus argumentos de venda era mostrar lugares em um mapa como eles eram no passado, mas não era isso que o Nano Banana 2 fazia . Em vez disso, a IA utilizava seus dados de treinamento para gerar o que acreditava ser uma representação histórica da área. Se você pedisse para ver como era Paris em 1726, ela provavelmente colocaria prédios e estruturas públicas no mapa, em vez de retratar como Paris realmente era trezentos anos atrás. O resultado é uma ilusão da história; pode ser divertido, mas certamente não é educativo — assim como navegar pelo conteúdo histórico de baixa qualidade gerado por IA nas redes sociais.

O mesmo se aplica aos "infográficos informativos" gerados por IA. Empresas como o Google gostam de promover as capacidades da IA ​​como uma ferramenta educacional, e parece ótimo que o Google Earth possa gerar infográficos informativos para mostrar uma localização em um mapa. Mas os infográficos resultantes não são verificados por nenhuma autoridade, certamente não por um especialista: a imagem produzida pelo Nano Banana 2 pode estar repleta de meias-verdades e alucinações e, pior ainda, não fornece nenhuma fonte clicável para verificar o trabalho da IA. Usuários comuns podem reter as informações que "aprendem" com esses infográficos, sejam elas precisas ou não.

Em sua pior forma, esse recurso funcionava como uma máquina de disseminação de desinformação. Se você quisesse convencer as pessoas de que algo ruim havia acontecido em determinada parte do mundo, bastava digitar sua solicitação e o Nano Banana 2 geraria uma imagem de satélite realista da sua ideia, pronta para ser facilmente compartilhada nas redes sociais. Em um momento em que a desinformação gerada por IA se espalha rapidamente, isso só agrava o problema, jogando lenha na fogueira. Empresas como o Google deveriam estar buscando maneiras de separar o conteúdo falso gerado por IA das informações verdadeiras, e não contribuindo para sua disseminação.

Este argumento não é contra as ferramentas de IA em geral, mas sim contra a integração da IA ​​generativa em uma ferramenta educacional. Não sei que benefício o Google acredita que a IA oferece ao pegar um fato e distorcê-lo — além de fornecer mais um exemplo para usar ao se vangloriar do seu "sucesso" em IA.