Inteligência artificial: uma crise de segurança para a qual o mundo não estava preparado.
Descubra o grave problema de segurança da IA para o qual ninguém estava preparado. Saiba mais sobre os desafios ocultos e os riscos reais que ameaçam o nosso futuro.
As coisas mais importantes que você precisa saber
- Os padrões de segurança de IA definidos por países de alta renda criam pontos cegos e riscos graves ao implantar modelos em regiões com idiomas, culturas e dados de treinamento diferentes, o que pode levar a erros sérios em áreas sensíveis, como a saúde.
- A rápida disseminação global da inteligência artificial exige a expansão da infraestrutura de segurança no mesmo ritmo, com foco em garantir que os chatbots entendam a linguagem dos usuários e forneçam informações precisas e não enganosas.
- As diferenças linguísticas criam uma nova lacuna na segurança da IA, com os usuários recebendo níveis variados de proteção para o mesmo produto, e a probabilidade de modelos serem fabricados com base em informações aumenta em idiomas com poucos dados de treinamento.
As empresas de IA estão dedicando enormes recursos a se preocuparem com o que acontecerá à medida que seus modelos se tornarem mais capazes. A OpenAI chegou a tomar a medida incomum, no mês passado, de interromper temporariamente o treinamento de um de seus modelos devido a preocupações com a segurança, visto que o setor enfrenta riscos que vão desde comportamento autônomo até capacidades cibernéticas cada vez mais sofisticadas.
Mas existe outra questão de segurança da IA que muitas vezes é negligenciada: as salvaguardas incorporadas nesses sistemas nem sempre funcionam igualmente bem para todos. Um novo relatório da Rest of World destaca que os esforços em segurança da IA ainda estão amplamente focados nas necessidades de países ricos e de língua inglesa. Isso pode deixar populações em partes da Ásia, África e outras regiões em desenvolvimento enfrentando problemas fundamentais e potencialmente graves, como chatbots que interpretam mal seu idioma.
A segurança da inteligência artificial apresenta um panorama muito diferente fora do Vale do Silício.
Muitas grandes empresas de IA possuem equipes extensas dedicadas à confiança e segurança, mas os padrões usados para avaliar os modelos são, em grande parte, moldados em países de alta renda. Pesquisadores argumentam que isso cria pontos cegos quando os mesmos modelos são implementados em locais com idiomas, infraestrutura, leis e expectativas culturais diferentes. O setor de saúde oferece um exemplo particularmente preocupante. Pesquisas sobre sistemas de IA para processamento de linguagem natural usados na África revelaram erros de tradução envolvendo terminologia médica. Em tigrínia, por exemplo, a tradução automática confundiu varíola com sífilis e chegou a traduzir “antibióticos intravenosos” como “inseticidas intravenosos”.
O problema vai além da simples tradução. Pesquisas mostram que modelos de IA podem fabricar informações com mais frequência em idiomas com relativamente poucos dados de treinamento. Controles de segurança projetados para detectar solicitações maliciosas em inglês podem ter desempenho inferior ou serem mais fáceis de contornar em outros idiomas. Isso é particularmente relevante, visto que as pessoas dependem cada vez mais de chatbots para obter informações sobre saúde e tomar outras decisões importantes. Isso cria, na prática, uma nova divisão na IA: duas pessoas podem usar o mesmo produto e receber níveis de proteção muito diferentes simplesmente por falarem idiomas diferentes.
A adoção da inteligência artificial não depende da atualização dos padrões de segurança.
Essa questão é particularmente importante agora, dado o rápido crescimento do entusiasmo pela inteligência artificial em muitos desses mercados. A China oferece talvez o exemplo mais claro. Já vimos como a adoção da IA se espalhou muito além das empresas de tecnologia, com diversas entidades, desde escolas a governos locais, abraçando a tecnologia. Ela chegou até mesmo às lojas de dumplings de Pequim, onde uma empresa começou a dar aos clientes fichas de IA e a desenvolver ferramentas de gerenciamento de filas baseadas em IA. Esse entusiasmo não é necessariamente um problema. No entanto, pesquisadores alertam que a infraestrutura de segurança precisa se expandir no mesmo ritmo.
Os governos começaram a responder. A segurança da IA tem sido um tema central em diversas iniciativas internacionais, incluindo a Declaração de Bletchley e a Cúpula de IA deste ano na Índia, enquanto a China também propôs mecanismos para gerenciar os riscos da IA em países em desenvolvimento. O maior desafio é garantir que "segurança da IA" não signifique simplesmente impedir que um modelo futuro ultrapasse seus limites ou lance um ataque cibernético. Para os milhões de pessoas que já usam essas ferramentas, a segurança pode ser muito mais simples: garantir que os chatbots entendam sua linguagem, reconheçam quando a situação é urgente e não lhes forneçam informações falsas e perigosas com confiança . À medida que a IA se torna mais onipresente no dia a dia, esses problemas deixam de ser excepcionais. Eles se tornam parte do que significa tornar a IA verdadeiramente segura.
Comentários estão fechados.