Superando o principal obstáculo que impede a ativação da inteligência artificial.
Descubra o maior obstáculo à produção de IA e como superá-lo. Este artigo oferece soluções práticas para implantar modelos de IA de forma eficiente e bem-sucedida em ambientes de trabalho.
As coisas mais importantes que você precisa saber
- As organizações precisam repensar seus modelos de identidade para fornecer aos agentes de IA identidades criptograficamente seguras e de alto nível, eliminar credenciais físicas e aplicar princípios de confiança zero para garantir o controle seguro.
- As organizações enfrentam desafios significativos em relação à qualidade, acessibilidade, consistência e volume dos dados, o que leva à deterioração do desempenho dos modelos de IA e ao aumento dos custos, bem como dos riscos regulatórios e éticos.
- Para transformar a inteligência artificial em uma realidade produtiva, as organizações devem construir uma estratégia de dados sólida, implementar uma governança de dados rigorosa, investir em engenharia de dados e MLOps e promover a colaboração interfuncional.
Tentar integrar entidades não determinísticas nesses modelos custa aos engenheiros um tempo que eles não têm e introduz riscos que nenhuma organização consegue gerenciar. O verdadeiro perigo reside nessa lacuna.
Eva Contsevoy
O CEO da Teleport.
Muitos projetos foram paralisados devido a preocupações com a implementação sem uma base de segurança robusta, e com razão. Já vimos um agente excluir todo o banco de dados de produtividade de uma empresa, juntamente com seus backups, em nove segundos. As equipes de segurança estão sendo solicitadas a impedir tais cenários usando ferramentas projetadas para um mundo com apenas dois agentes. Brechas estão começando a aparecer. Algo precisa mudar, ou a inovação estagnará sob suas próprias limitações. Os riscos de segurança cibernética estão aumentando à medida que cresce a dependência da inteligência artificial.
Agentes de IA requerem um novo modelo de identidade.
A pressão sobre as equipes de produção e engenharia para acelerar as entregas é real e generalizada. Portanto, elas frequentemente recorrem a velhos hábitos, como conceder amplos privilégios aos agentes e tratá-los como qualquer outro microsserviço.
Mas os agentes de IA são muito diferentes das máquinas; são falíveis e indeterminados, assim como os humanos. No entanto, operam na velocidade das máquinas, 24 horas por dia, 7 dias por semana. Um agente pode excluir bancos de dados inteiros de produtividade em nove segundos. Quantos humanos você conhece que conseguiriam fazer isso?
Isso me leva ao cerne do problema. Os sistemas de identidade foram construídos para um mundo com dois tipos de atores — humanos e máquinas — mas agora existem três. Tentar integrar IA proxy em sistemas legados torna cada proxy uma fonte potencial de intrusão, capaz de executar milhares de ações em toda a infraestrutura em segundos.
No entanto, é exatamente isso que os engenheiros precisam fazer: evitar cenários catastróficos usando ferramentas de gerenciamento de identidade e acesso (IAM) obsoletas que estão começando a falhar. As fragilidades estão começando a aparecer.
Por que o modelo antigo está entrando em colapso?
Historicamente, os engenheiros que lidam com clusters Kubernetes, plataformas em nuvem, orquestração de contêineres, pipelines CI/CD, bancos de dados, etc., têm sofrido com a fragmentação de identidades.
Em termos de mão de obra humana, isso era administrável. Os humanos podiam ser rastreados; registravam a entrada e a saída. Eram lentos o suficiente para que falhas de visibilidade raramente se transformassem em acidentes imediatos.
Com o advento da IA proxy, as velocidades aumentam drasticamente. De repente, as equipes são inundadas com milhares de registros de atividades e não conseguem conter o proxy de forma eficaz antes que ele faça alterações não autorizadas.
Tentar impor autenticação forte e privilégios de curto prazo significaria criar integrações individuais para cada ferramenta na pilha. Isso dificulta a escalabilidade da IA quando cada ferramenta usa um protocolo de integração diferente.
Em vez de se concentrarem na inovação usando IA proxy, os engenheiros são forçados a vincular manualmente o gerenciamento de identidade e acesso (IAM), a infraestrutura e os segredos, sem uma identidade consistente, sem visibilidade das ações do proxy e com cada equipe criando seu próprio fluxo de trabalho de contêiner ou máquina virtual do zero.
Mas criar uma nova ferramenta para lidar com um terceiro tipo de identidade é a pior resposta possível para o setor. Isso dobraria o trabalho dos engenheiros, que precisariam reconstruir a política de identidade do zero e incorporar ainda mais anonimato. O novo silo de identidade seria anônimo para outros sistemas isolados, tornando ainda mais difícil capturar os invasores.
Isso nos leva à questão de como as organizações controlam o comportamento dos agentes. A solução não é simplesmente adicionar o "Plus" à pilha de tecnologia ou implementar ferramentas do "Plus"; trata-se de mudar nossos modelos de identidade para eliminar o anonimato por completo.
Controlar a inteligência artificial significa anonimato completo.
Para eliminar o anonimato da infraestrutura, as organizações devem conceder a cada participante — seja humano, máquina, carga de trabalho ou agente de IA — identidades de primeira classe, criptograficamente protegidas por uma raiz física de confiança. Uma reformulação fundamental da estratégia de infraestrutura é agora imprescindível.
Elimine completamente as credenciais persistentes. A remoção de chaves de API e senhas elimina a disseminação de credenciais que causa violações de segurança, bem como a ameaça de segredos serem roubados ou entregues a pessoas mal-intencionadas. Com a identidade ancorada em fatores do mundo real, os invasores não podem se passar por uma máquina confiável e enganar um agente para extrair um banco de dados.
Mas a autenticação forte por si só não basta. Os agentes de IA, assim como todos os outros atores, devem aderir aos princípios de confiança zero. Isso só será possível quando os sistemas isolados forem substituídos por uma camada de infraestrutura onde os agentes tenham exatamente o mesmo tipo de identidade que as máquinas que operam e os humanos que os autorizam.
Os agentes devem operar com privilégios de curto prazo diretamente vinculados a ações específicas autorizadas por um usuário humano. O privilégio está vinculado à ação, não ao agente. Por exemplo, um agente que gera código deve herdar sua autorização de um proprietário humano com autoridade equivalente, restringindo os privilégios apenas às planilhas específicas necessárias para essa tarefa.
Os agentes não determinísticos também exigem um ambiente de execução seguro e confiável antes de interagirem com a infraestrutura de produção.
Sem privilégios padrão, o alcance do dano é extremamente limitado. Mas isso só pode ser alcançado quando uma única política é definida por um único sistema para todas as identidades.
Uma política de identidade também pode ser introduzida como uma camada de aplicação entre o agente e seu ponto de extremidade de inferência, de modo que o comportamento seja controlado antes que as instruções sejam executadas.
Com uma arquitetura unificada, a identidade torna-se o nível de controle para a inteligência artificial.
Os agentes de IA abrem enormes oportunidades em ambientes empresariais, especialmente quando implementados em infraestrutura em produção, onde agregam o máximo valor. Desde o gerenciamento de mudanças rotineiras até melhorias na implementação em tempo real, as possibilidades são infinitas. O sucesso da IA em processos de negócios tão críticos exige um controle rigoroso sobre o comportamento.
Comentários estão fechados.