Dario Amodi (Anthropic): As pessoas veem os governos explorando a inteligência artificial... uma crise de confiança.

Muito já se falou sobre o pessimismo e os receios em torno da inteligência artificial — alguns baseados nos alertas de romances distópicos clássicos, mas muitos com raízes na realidade. Há muito otimismo e muitas promessas por parte daqueles que controlam essa tecnologia, mas pouco disso se materializou em benefícios tangíveis.

Dario Amode, CEO e cofundador da Anthropic, afirmou em uma publicação no X : "Acho que a crítica mais precisa às empresas de IA , incluindo a Anthropic, é que ainda não cumprimos nossas grandes promessas de beneficiar o mundo."

Amoudi argumenta que a tecnologia está sofrendo de uma “crise de confiança” decorrente da crença das pessoas de que corporações e governos estão “criando novas maneiras de explorá-las”. Mas, considerando o quanto as forças armadas, a polícia e a coleta de informações dos EUA dependem da inteligência artificial, será que as pessoas estão erradas em pensar assim?

A inteligência artificial não conseguirá sair dessa crise apenas com relações públicas.

Com o advento da inteligência artificial (IA), muitos dos benefícios propagandeados dessa tecnologia visavam convencer executivos e gestores seniores de que — apesar de não estar totalmente comprovada — era um investimento que valia a pena. Consequentemente, muitos líderes em IA posicionaram a tecnologia como uma forma de reduzir os custos de mão de obra para as empresas, substituindo trabalhadores humanos por IA.

Alguns "especialistas" em IA ainda fazem essas afirmações em privado. Participei de um evento privado este ano em que um "especialista" em IA previu que a superinteligência eliminaria até 50% da força de trabalho global em 10 anos e que as empresas mais bem preparadas para capitalizar sobre esse evento catastrófico colheriam um controle e uma riqueza inimagináveis. Isso foi, naturalmente, recebido com aplausos pela alta administração das empresas presentes.

O próprio Amoudi afirmou, notoriamente, que a inteligência artificial poderia eliminar 50% dos empregos de escritório. Mas, desde então, ele reformulou essa mensagem, dizendo que a IA é um "multiplicador de produção" — ou, em outras palavras, "aumenta a produtividade sem aumentar a remuneração", o que não passa de propaganda corporativa.

Como já disse repetidamente, a prova da eficácia da IA ​​reside nos resultados concretos. Ouvimos falar muito sobre o que ela pode fazer, mas vimos poucos benefícios reais . E nesse sentido, Amodi reconhece isso.

Ele destaca que, se um anúncio afirmasse que a inteligência artificial pode curar o câncer, seria completamente enganoso. Ele afirma: "O que realmente funcionará é a cura do câncer ".

Amoudi insinuou o compromisso ético da Anthropic com essas questões, explicando que a empresa está "intensificando seus esforços" para se concentrar no uso de IA em biologia e medicina. Mas, novamente, ainda não vimos os resultados.

A publicação de Amoudi também abordou a questão da concentração de poder na IA, ecoando algumas das críticas recentes de Mark Zuckerberg sobre a melhor forma de usar a IA para o benefício de todos. A visão de Amoudi divergiu ligeiramente da de Zuckerberg, defendendo um equilíbrio entre regulamentação, supervisão, testes e modelos ponderados abertos.

Amoudi observa que concorda em alguns aspectos com o movimento “Pacing the Frontier”, explicando que a aplicação de controles aos laboratórios de vanguarda “ajustaria” o ritmo do desenvolvimento tecnológico, permitindo, ao mesmo tempo, que o restante da indústria acompanhasse o ritmo.

A falha óbvia nesse plano é que nenhum outro país estaria sujeito a essa regulamentação, o que poderia prejudicar deliberadamente o domínio dos EUA na indústria de inteligência artificial, algo que o governo Trump sempre insistiu que não permitiria.

A inteligência artificial oferece mais benefícios às infraestruturas autoritárias do que às pessoas?

Sistemas de inteligência artificial têm sido amplamente implantados em infraestruturas de vigilância. Até o rompimento de sua relação com o Pentágono, a Anthropic vinha trabalhando com o Departamento de Defesa no fornecimento de sistemas de IA. A Anthropic se recusou a cooperar, permitindo que sua tecnologia fosse usada para vigilância em massa e armas totalmente autônomas, e, como resultado, perdeu o contrato.

Felizmente para o Departamento de Defesa (DoD), a OpenAI fechou um novo acordo com o Pentágono e rapidamente preencheu a lacuna deixada pela Anthropic, ao mesmo tempo que impôs uma proibição ao uso de sua tecnologia para espionar cidadãos americanos.

Mas isso não significa que outras empresas sigam os mesmos padrões éticos. A Flock, por exemplo, enfrentou ampla resistência às suas câmeras com inteligência artificial projetadas para rastrear placas de veículos nos Estados Unidos.

O sistema foi concebido para identificar veículos de suspeitos ao cruzarem fronteiras e áreas de jurisdição, mas, em vez disso, tem se mostrado eficaz como meio para que agentes da lei persigam antigos associados , monitorem colegas e acompanhem seus interesses amorosos.

Sistemas de inteligência artificial também estão sendo implantados no monitoramento de tráfego e em radares de velocidade. Isso tem atraído bastante atenção como uma área cinzenta no policiamento, particularmente em relação a sistemas que identificam placas de veículos incorretamente ou estão configurados de forma inadequada.

Nos Estados Unidos, em processos criminais, o ônus da prova recai sobre o governo, que deve comprovar que alguém cometeu um crime. No entanto, alguns sistemas automatizados de emissão de multas de trânsito, que já multaram veículos indevidamente, têm sido alvo de fortes críticas por exigirem que os réus provem sua inocência em juízo, invertendo, assim, o princípio do ônus da prova em casos criminais.

E aqui reside o principal problema que todos estão ignorando.

A tecnologia de inteligência artificial da Palantir está presente em diversas agências militares e policiais dos EUA. Notavelmente, ela tem sido usada pelo Serviço de Imigração e Alfândega dos EUA (ICE) para rastrear imigrantes ilegais suspeitos. Mas a tecnologia da Palantir também é usada em análise de imagens de drones, ataques de precisão de longo alcance, análise de dados e planejamento militar.

Não há dúvida de que foi uma ferramenta fundamental para alcançar o "recorde mundial" de maior número de vezes que uma única guerra foi "vencida".

A inteligência artificial é uma boa notícia se você não tem nada a esconder e gosta de estar do lado dos "mocinhos", mas essa definição está em constante mudança.