Como identificar o hype da IA ​​e evitar a “farsa da IA”, de acordo com dois especialistas.

“A inteligência artificial, francamente, é uma farsa: uma mercadoria que está sendo vendida para encher os bolsos de alguém.”

Esta é a essência do argumento apresentado pela linguística. Emily Bender e sociólogo Alex Hanna Em seu novo livro A IA Con. É um guia útil para qualquer pessoa cuja vida tenha se cruzado com tecnologias vendidas como IA e para qualquer pessoa que tenha questionado sua verdadeira utilidade, o que acontece com a maioria de nós. Bender é um professor da Universidade de Washington que foi nomeado uma das pessoas mais influentes em IA pela revista Time, e Hanna é a diretora de pesquisa da organização sem fins lucrativos Instituto de pesquisa de IA distribuída Ex-membro da equipe de IA Ética do Google.

A enorme popularidade do ChatGPT no final de 2022 desencadeou um novo ciclo de entusiasmo na mídia em torno da inteligência artificial. Hype, como os autores definem, é o “hype” de uma tecnologia que você está convencido de que precisa comprar ou investir “para não perder a diversão, a recompensa em dinheiro, o retorno do investimento ou a participação no mercado”. Mas esta não é a primeira vez, e provavelmente não será a última, que cientistas, líderes governamentais e pessoas comuns se sentem atraídos e preocupados com a ideia de aprendizado de máquina e inteligência artificial.

Binder e Hanna remontam as raízes do aprendizado de máquina à década de 1950, quando o matemático John McCarthy cunhou o termo inteligência artificial. Esta foi uma época em que os Estados Unidos buscavam financiar projetos que ajudassem o país a obter algum tipo de superioridade militar, ideológica e tecnológica sobre os soviéticos. "Não surgiu simplesmente da cabeça de Zeus nem nada do tipo. Tem uma história mais longa", disse Hanna à CNET. “Este certamente não é o primeiro ciclo de hype com, entre aspas, IA.”

O ciclo de entusiasmo atual é impulsionado por bilhões de dólares em investimentos de capital de risco em startups como a OpenAI e gigantes da tecnologia como Meta, Google e Microsoft investindo bilhões em pesquisa e desenvolvimento de IA. O resultado é claro, como o mais recente Telefones Laptops e atualizações de software estão saturados com lavagem de IA. Não há sinais de que a pesquisa e o desenvolvimento de IA irão desacelerar, graças ao crescente esforço para ultrapassar a China no desenvolvimento de IA. Na verdade, este não é o primeiro ciclo de propaganda enganosa da mídia.

É claro que a IA generativa em 2025 será muito mais avançada do que o chatbot psicoterapêutico Eliza, que cativou os cientistas pela primeira vez na década de XNUMX. Os líderes empresariais e funcionários de hoje são inundados com propaganda enganosa da mídia, com uma grande dose de medo de perder algo e com uma terminologia aparentemente complexa, mas muitas vezes mal utilizada. Ao ouvir líderes de tecnologia e entusiastas de IA, pode parecer que a IA vai roubar seu emprego e economizar dinheiro para sua empresa. Mas os autores argumentam que nenhuma das duas coisas é totalmente provável, o que é uma das razões pelas quais é importante reconhecer e cortar o exagero da mídia.

Então, como identificamos o hype da IA? Aqui estão alguns sinais reveladores, de acordo com Binder e Hanna, que compartilhamos abaixo. Os autores descrevem uma série de perguntas a serem feitas e estratégias para identificar o hype da IA em seu livro: Disponível agora nos Estados Unidos.

Preste atenção à linguagem que humaniza a IA.

A humanização, ou o processo de dar qualidades ou características humanas a um objeto inanimado, é uma grande parte do hype da IA. Um exemplo desse tipo de linguagem é quando as empresas de IA dizem que seus chatbots agora podem “ver” e “pensar”.

Essas comparações podem ser úteis ao tentar descrever a capacidade de novos programas de IA de identificar objetos ou modelos de IA com raciocínio profundo, mas também podem ser enganosas. Os chatbots com tecnologia de IA não conseguem ver nem pensar porque não têm mente. Até mesmo a ideia de redes neurais, como Hannah aponta em nossa entrevista e no livro, é baseada em uma compreensão humana dos neurônios da década de 1950, não exatamente em como os neurônios funcionam, mas pode nos enganar e nos fazer acreditar que há uma mente por trás da máquina.

Essa crença é algo a que estamos predispostos devido à maneira como processamos a linguagem como humanos. Somos condicionados a imaginar que há uma mente por trás do texto que vemos, mesmo quando sabemos que ele foi gerado por inteligência artificial, disse Bender. “Nós interpretamos a linguagem desenvolvendo um modelo em nossas mentes de quem era o falante”, acrescentou Bandar.

Nesses modelos, usamos nosso conhecimento da pessoa que fala para criar significado, não apenas o significado das palavras que ela diz. “Então, quando nos deparamos com texto sintético gerado por algo como o ChatGPT, faremos a mesma coisa”, disse Bandar. É muito difícil lembrar que a mente não existe. É apenas uma construção que criamos.

Os autores argumentam que parte da razão pela qual as empresas de IA tentam nos convencer de que seus produtos são semelhantes aos humanos é que isso estabelece as bases para nos convencer de que a IA pode substituir os humanos, seja no trabalho ou como criadores. É convincente acreditar que a IA pode ser a solução mágica para problemas complexos em setores críticos como saúde e serviços governamentais.

Mas, na maioria das vezes, argumentam os autores, a IA não é usada para consertar nada. A IA é vendida pela eficiência, mas os serviços de IA acabam substituindo trabalhadores qualificados por máquinas de caixa preta que exigem quantidades significativas de cuidado de trabalhadores contratados com baixos salários ou autônomos. Como Hannah disse em nossa entrevista: “A IA não vai tirar seu emprego, mas vai piorá-lo”.

Tenha cuidado com a expressão “superinteligência”.

Se os humanos não conseguem fazer algo, você deve ser cauteloso com alegações de que a IA consegue. “Superinteligência, ou superinteligência, é um termo muito perigoso, na medida em que sugere que alguma tecnologia tornará os humanos desnecessários”, disse Hannah. Em certas áreas, como correspondência de padrões em larga escala, os computadores são muito bons nisso. Mas se há uma ideia de que haverá um poema inovador, ou uma ideia inovadora para a pesquisa ou a prática científica, isso é claramente uma promoção. “Não estamos falando de aeronaves como superaeronaves ou réguas como supermedidas”, acrescentou Bender. “Isso parece aparecer apenas no campo da inteligência artificial.”

A ideia de IA “superinteligência” surge frequentemente quando as pessoas falam sobre inteligência artificial geral. Muitos executivos acham difícil definir exatamente o que é inteligência artificial geral (AGI), mas ela é essencialmente a forma mais avançada de inteligência artificial, potencialmente capaz de tomar decisões e lidar com tarefas complexas. Ainda não há evidências de que estejamos próximos de um futuro possibilitado pela IAG, mas é uma palavra da moda.

Muitas dessas declarações futuristas de líderes da IA ​​tomam emprestado clichês da ficção científica. Tanto os defensores quanto os pessimistas — como Binder e Hannah descrevem os entusiastas da IA ​​e aqueles que se preocupam com o potencial de danos — contam com cenários de ficção científica. Os defensores imaginam uma sociedade futura movida pela inteligência artificial. Pessimistas lamentam um futuro em que robôs de IA dominarão o mundo e acabarão com a humanidade.

Segundo os autores, o elo comum é a crença profundamente arraigada de que a IA é mais inteligente que os humanos e é inevitável. “Uma das coisas que vemos muito no discurso é a ideia de que o futuro é fixo e é apenas uma questão de quão rápido chegaremos lá”, disse Bender. "Há também a alegação de que essa tecnologia específica é um passo nessa direção, e isso é tudo marketing. É útil conseguir enxergar além disso."

Parte do motivo pelo qual a IA é tão popular é que um assistente de IA funcional e autônomo fará com que as empresas de IA cumpram suas promessas de inovação transformadora aos seus investidores. Planejar esse futuro — seja ele utópico ou distópico — faz com que os investidores olhem para o futuro, enquanto as empresas gastam bilhões de dólares e admitem que não atingirão suas metas de emissões de carbono. Para o bem ou para o mal, a vida não é ficção científica. Quando você vê alguém alegando que seu produto de IA foi tirado diretamente de um filme, é um bom sinal abordá-lo com ceticismo.

Informe-se sobre entradas de IA e como avaliar suas saídas.

Uma das maneiras mais fáceis de detectar fraudes de marketing de IA é verificar se a empresa divulga como ela funciona. Muitas empresas de IA não divulgam o conteúdo usado para treinar seus modelos. Mas eles geralmente divulgam o que a empresa faz com seus dados e, às vezes, se gabam de como seus modelos superam os concorrentes. É aqui que você deve começar sua pesquisa, geralmente nas políticas de privacidade deles.

Uma das maiores reclamações e preocupações dos criadores é como os modelos de IA são treinados. Há vários processos judiciais relacionados a supostas violações de direitos autorais, e há muitas preocupações sobre preconceito em chatbots com tecnologia de IA e seu potencial de causar danos. “Se você quer criar um sistema projetado para fazer as coisas avançarem em vez de reproduzir as injustiças do passado, você precisa começar organizando seus dados”, diz Bender. Em vez disso, as empresas de IA estão assumindo “tudo o que não estava instalado na internet”, diz Hannah.

Se você estiver ouvindo falar de um produto de IA pela primeira vez, uma coisa a que você deve prestar atenção especial é qualquer tipo de estatística que destaque sua eficácia. Como muitos outros pesquisadores, Bender e Hannah ressaltam que qualquer resultado sem uma citação é um sinal de alerta. “Sempre que alguém lhe vende algo e não lhe dá acesso ao valor do produto, você está em terreno instável”, diz Bender.

Pode ser frustrante e decepcionante quando empresas de IA não divulgam informações específicas sobre como seus produtos de IA funcionam e como foram desenvolvidos. Mas reconhecer essas lacunas em seu discurso de vendas pode ajudar a eliminar o ruído, mesmo que fosse melhor ter as informações. Para saber mais, consulte Glossário do ChatGPT Nosso completo e como desligá-lo Inteligência da Apple.