Um guia para acelerar a adoção da IA: Segurança sem riscos desnecessários

Nos últimos 18 meses, nossas equipes passaram de simplesmente debater se deveríamos usar IA para questionar a rapidez com que podemos implementá-la. A questão mais difícil é como permitir que as equipes ajam com rapidez suficiente para maximizar os benefícios da IA ​​sem deixar que o perfil de risco da empresa se expanda mais rápido do que ela consegue gerenciar e governar.

Jason Taylor

Diretor de Tecnologia (CTO) e Diretor de Segurança da Informação (CISO) da Entrata.

Esse dilema é familiar para líderes de tecnologia e cibersegurança, já que a inteligência artificial apresenta duas demandas aparentemente conflitantes. Por um lado, a área de TI de uma organização busca experimentação, acessibilidade, velocidade e o potencial para desbloquear ganhos reais de produtividade. Por outro lado, a área de segurança precisa de controle, responsabilidade, limites de dados e a certeza de que o novo fluxo de trabalho não levará a riscos evitáveis.

Ambas as abordagens são válidas, e é por isso que as empresas enfrentam dificuldades quando tratam a IA como um projeto puramente inovador ou como uma questão puramente de segurança. Trata-se de uma mudança de paradigma, e as organizações que a gerenciam com eficácia são aquelas que constroem infraestrutura suficiente e ferramentas robustas para capacitar as equipes a avançarem com confiança, em vez de forçá-las a escolher entre velocidade e controle.

Comece pelo trabalho, não pela ferramenta.

Muitas empresas começam tratando a adoção de IA como o lançamento de um programa de software padrão. Elas definem um fornecedor, distribuem licenças, publicam algumas diretrizes e presumem que o uso se tornará transformador naturalmente. Essa abordagem pode gerar atividade, mas raramente leva a mudanças operacionais duradouras.

A verdadeira adoção começa quando os líderes entendem como, de fato, executar o trabalho. As equipes de finanças, produto, marketing, suporte e engenharia não usarão as ferramentas de IA da mesma maneira, pois cada grupo tem diferentes necessidades de conhecimento, fontes de dados diversas, diferentes níveis de risco e expertise única. Cada uma dessas equipes precisará desenvolver habilidades e ferramentas específicas para IA.

Os líderes devem começar por questionar o que cada função pretende alcançar, que conhecimentos são necessários para tomar melhores decisões, que competências são exigidas para utilizar a inteligência artificial de forma responsável e que ferramentas ou fontes de dados são necessárias para produzir um resultado confiável.

Quando a inteligência artificial é integrada a essas capacidades, ela se torna parte integrante do funcionamento de uma organização ; quando imposta a processos não relacionados, tende a produzir um excesso de resultados sem necessariamente levar a melhores resultados.

Tratar o acesso a dados como uma questão de projeto de risco

O acesso a dados é uma das áreas mais importantes em que a IA está mudando o modelo operacional. Para que a IA seja realmente benéfica, as equipes geralmente precisam ter acesso a informações que não utilizavam diretamente antes.

A equipe de marketing pode precisar de documentação do produto e informações sobre os clientes, enquanto a equipe financeira pode precisar de dados operacionais estruturados, e a equipe de suporte pode precisar de conhecimento interno e contexto histórico, bem como da capacidade de entender padrões em diferentes sistemas.

A tendência de abrir o acesso aos dados é compreensível; a inteligência artificial ganha valor com um contexto mais amplo. Por outro lado, a tendência de restringir o acesso também é compreensível, já que um acesso mais amplo pode suscitar preocupações com a privacidade, a conformidade e a segurança. A solução não reside em privilegiar uma em detrimento da outra, mas sim em construir um modelo mais sistemático para determinar quais dados podem ser usados, por quem e para qual finalidade.

Em um projeto de implementação empresarial, por exemplo, a solução prática não foi dar acesso a tudo para todas as equipes, nem confinar a IA a uma função puramente técnica. Em vez disso, a solução foi separar os dados operacionais menos críticos das informações mais sensíveis e, em seguida, conceder às equipes acesso suficiente para trabalharem de forma diferente, minimizando os danos potenciais caso um fluxo de trabalho se comportasse de maneira inesperada.

Uma maneira útil de pensar sobre isso é através do conceito de “impacto dos dados”. Nem todos os conjuntos de dados apresentam o mesmo nível de risco, e nem todos os casos de uso de IA justificam o mesmo nível de restrição. Algumas informações podem ser tornadas mais acessíveis porque o dano potencial, caso algo dê errado, é limitado, enquanto outras informações, especialmente informações de identificação pessoal ou dados sensíveis de clientes, exigem controles muito mais rigorosos.

Essa abordagem permite que as equipes experimentem em áreas onde os riscos são menores, mantendo uma governança mais robusta onde o negócio realmente precisa. O objetivo não é enfraquecer a segurança, mas torná-la mais precisa, permitindo que a empresa avance mais rapidamente sem perder o controle sobre seus ambientes, dados e fluxos de trabalho mais críticos.

Integrando a verificação ao fluxo de trabalho

A validação é um ponto crucial que determina se as estratégias de IA serão escaláveis ​​ou fracassarão. Os sistemas de IA podem produzir trabalhos que parecem refinados, mas que podem estar incompletos, imprecisos, sem identidade visual ou em desacordo com os padrões. Embora a revisão humana possa absorver alguns desses riscos nos estágios iniciais, ela não é escalável de forma eficaz quando a IA é integrada às operações diárias.

Tenho observado isso claramente em equipes técnicas, onde a IA só consegue acelerar o desenvolvimento de software se houver uma maneira confiável de avaliar a qualidade, a segurança e a precisão do que está sendo produzido. Sem essa camada de validação, as equipes podem até ter a sensação de agilidade no curto prazo, mas, silenciosamente, estão criando uma carga de revisão mais pesada, mais retrabalho e maiores riscos em etapas posteriores.

As empresas precisam de modelos de verificação projetados para serem parte integrante do próprio fluxo de trabalho. Isso pode incluir verificações automatizadas, controles de qualidade de dados, caminhos de aprovação, registro de logs, observabilidade e regras claras de escalonamento para resultados que não devem ser considerados confiáveis ​​sem uma revisão adicional.

Os líderes não devem tratar esses mecanismos como uma rotina extra e tardia. Em vez disso, são eles que permitem que a IA deixe de ser uma mera ferramenta de produtividade individual para se tornar uma capacidade abrangente em toda a empresa, pois as equipes só conseguem ampliar a adoção quando têm um método recorrente para entender se o trabalho produzido é preciso, apropriado e seguro para uso.

Adotar a inteligência artificial tornou-se uma responsabilidade da liderança.

A adoção da inteligência artificial não pode ser delegada a uma única equipe de inovação ou gerente de IA enquanto o restante da equipe executiva observa à distância. Cada líder funcional precisa entender como a IA mudará a natureza do trabalho que sua equipe realiza, como os funcionários colaborarão com agentes e modelos e onde os riscos provavelmente surgirão.

Isso não significa que todo executivo precise se tornar um especialista em aprendizado de máquina, mas sim que os líderes precisam ter proficiência suficiente para orientar a tomada de decisões, definir expectativas e modelar o comportamento que esperam de suas equipes. É improvável que os funcionários mudem suas práticas de trabalho se seus líderes tratarem a IA como algo que todos devem adotar.

A abordagem cultural também é importante, pois se os funcionários ouvirem falar sobre a adoção da IA ​​como um eufemismo para a eliminação de empregos, eles se apegarão às suas funções atuais em vez de explorar o que elas podem se tornar no futuro. Os líderes devem ser transparentes quanto às mudanças nas funções, ao desaparecimento de alguns fluxos de trabalho e ao surgimento de novas responsabilidades, enfatizando que o objetivo imediato é ajudar as pessoas a terem um desempenho melhor e mais eficiente, gerando assim um retorno sobre o investimento.

Em muitos casos, o trabalho está migrando da execução manual de cada tarefa para a coordenação de sistemas que auxiliam na conclusão do trabalho. Isso exige disposição para lidar com a ambiguidade, o que se torna cada vez mais importante à medida que as capacidades da inteligência artificial se expandem.

As empresas que obtêm sucesso na adoção da inteligência artificial não são aquelas que priorizam a inovação em detrimento da segurança, nem aquelas que esperam para eliminar todos os riscos potenciais antecipadamente. Em vez disso, são aquelas que estabelecem bases sólidas para governança, verificação e disciplina no tratamento de dados, dando às suas equipes a confiança necessária para avançar. Em um ambiente de IA empresarial, o controle é a pedra angular para alcançar velocidade sustentável, ressaltando a importância da cautela em cada etapa, especialmente ao lidar com componentes de IA empresariais sensíveis.