Construindo confiança na era da desinformação, da informação falsa e da informação prejudicial: desafios e soluções.

Muitas organizações estão se deparando com a realidade de que seus funcionários já estão sendo enganados. É provável que isso se estenda também a seus clientes, investidores e membros do conselho.

Durante anos, os alertas têm se concentrado no impacto dos deepfakes, como CEOs falsos em videochamadas, vozes clonadas autorizando pagamentos e e-mails fraudulentos.

Essas táticas em si não são novas, mas, nos últimos anos, a inteligência artificial tornou-as mais baratas de produzir, mais difíceis de detectar e muito mais convincentes dentro dos fluxos de trabalho normais das empresas.

Essa tendência significa que o princípio da Confiança Zero se tornou tão relevante para o processamento de informações quanto era para o acesso a elas.

No campo da cibersegurança , o princípio da Confiança Zero parte de uma premissa simples: nenhum usuário, dispositivo, aplicativo ou solicitação deve ser considerado confiável por padrão.

Em uma era de desinformação gerada por IA, as empresas precisam aplicar a mesma mentalidade às informações que circulam em suas organizações.

A nova crise de confiança

Funcionários, clientes, investidores e parceiros tomam decisões com base no que veem, leem e ouvem. Se essas informações forem falsas, manipuladas ou retiradas de contexto, as consequências podem rapidamente escalar da confusão a prejuízos para os negócios. Por essa razão, a desinformação, a informação enganosa e as informações maliciosas devem ser tratadas como riscos para os negócios.

A desinformação — conteúdo falso disseminado involuntariamente — sempre foi um problema. A desinformação, especificamente criada para enganar, tornou-se mais fácil do que nunca de ser produzida em larga escala. A malinformação — informação verdadeira, mas frequentemente desprovida de contexto e usada como arma — talvez seja a mais insidiosa das três. Um rival, um grupo criminoso ou uma campanha ativa não precisa mais se infiltrar em uma rede para causar danos significativos. Eles podem influenciar aqueles associados e afetados por uma organização simplesmente moldando o que essas pessoas veem e acreditam.

O que torna isso particularmente difícil para as empresas é que reflete uma luta que os indivíduos já enfrentam. Em um ambiente saturado de conteúdo gerado por IA, os hábitos que as pessoas precisam adotar para se proteger — pausar antes de interagir, questionar a fonte, verificar antes de agir — são os mesmos hábitos que as organizações precisam incutir em suas operações.

Essencialmente, o instinto de confiança tornou-se uma fraqueza. Para lidar com isso, é necessária uma resposta estrutural que vá além de uma simples campanha de conscientização.

A importância da confiança verificada

É aqui que o princípio da Confiança Zero se torna a estratégia. Tradicionalmente, as organizações encaram a Confiança Zero como uma questão de menos privilégios, garantindo que apenas os usuários certos tenham acesso aos aplicativos certos. Mas, em um ambiente de informação impulsionado por IA, esse princípio precisa evoluir. Com o aumento de ameaças como programas maliciosos de IA , as empresas não podem mais se concentrar apenas em quem está solicitando acesso. Elas também precisam investigar o tipo de informação que está sendo usada, a ação que está sendo realizada e se a intenção por trás dessa ação é confiável.

O próximo passo envolve ir além da verificação e autenticação, fazendo perguntas como: “Esta informação é confiável?”, “Esta imagem é real ou gerada por IA?” e “Este conteúdo foi alterado?”. O Princípio de Confiança Zero fornece às empresas uma estrutura para responder a essas perguntas. Ele obriga as organizações a verificar antes de agir, limitar a exposição sempre que possível e reduzir o risco de informações falsas, manipuladas ou fora de contexto se espalharem sem controle por toda a empresa.

Entidades de padronização como a C2PA (Alliance for Content Origin and Trust) apontam para a direção que isso está tomando: um futuro onde a origem e a integridade do conteúdo estão incorporadas ao próprio conteúdo digital, assim como um cadeado em um navegador indica uma conexão segura. Essencialmente, as empresas não precisarão verificar a confiança; a confiança será inerente à informação e transmitida com ela, com a origem do conteúdo alimentando o processo de verificação. Assim, cada conteúdo se torna um sinal na decisão contínua de confiança.

Construindo confiança na era dos agentes inteligentes.

A necessidade de confiar nas intenções tornou-se mais premente com a introdução de agentes de IA no ambiente de trabalho. Esses agentes funcionarão cada vez mais como outra pessoa trabalhando ao nosso lado, imitando nossos comportamentos, como ler documentos, interpretar dados, tomar decisões e agir. A diferença, porém, é que essas identidades não humanas se movem na velocidade da máquina, uma velocidade que os processos de verificação em velocidade humana jamais conseguiriam igualar.

Isso significa que os agentes de IA devem ser regidos desde o início por um modelo de confiança zero. Um agente não deve ser considerado confiável simplesmente por estar dentro da organização, ter aprovação do usuário ou estar conectado aos sistemas da empresa. Sua identidade, permissões, comportamento e resultados devem ser constantemente verificados. Igualmente importante, os agentes devem ser regidos pelos princípios do menor privilégio, da menor informação e da menor função, concedendo-lhes apenas o acesso, os dados e as capacidades mínimas necessárias para uma tarefa específica.

No entanto, esses agentes criam um desafio de confiança que o gerenciamento de identidade por si só não consegue resolver. As empresas precisarão saber se estão lidando com um humano ou uma máquina, se o agente está agindo de forma responsável e se suas ações refletem os valores e limites da organização. Na prática, as empresas precisarão adotar uma constituição operacional com base na qual o comportamento dos agentes seja avaliado de forma consistente.

Na era da inteligência artificial, as organizações precisam examinar constantemente e em tempo real informações, conteúdo, intenções, comportamentos e ações, enquanto a verificação de identidade normalmente ocorre apenas no ponto de entrada. No entanto, dada a magnitude da tarefa, a IA será essencial para auditorias, identificação de irregularidades, governança (quando necessário) e manutenção da integridade da cadeia de confiança.

Engenharia de confiança nos negócios

As organizações que terão sucesso são aquelas que tratam a confiança como algo a ser construído e projetado, em vez de presumido. A desinformação, a informação falsa e as informações maliciosas representam desafios de segurança, resiliência e liderança, e a inteligência artificial torna ainda mais difícil ignorá-las.

À medida que a tecnologia continua a moldar a forma como a informação é criada, partilhada e gerida, as empresas precisam de desenvolver a mesma disciplina em torno da autenticidade que sempre aplicaram à acessibilidade. Isto significa verificar o conteúdo, questionar a intenção e restringir o que os sistemas de IA podem fazer ao que é verdadeiramente necessário.

A confiança deixou de ser a configuração padrão. Em vez disso, no ambiente de trabalho atual, a confiança deve ser um processo consciente e contínuo, construído na velocidade de uma máquina, abrangendo informações, intenções, comportamentos e ações. A boa notícia é que a estrutura já existe no modelo Zero Trust. O que precisa mudar, no entanto, é como as organizações implementam esse modelo e expandem seu escopo para abranger informações, intenções, comportamentos e ações.

Analisamos, avaliamos e classificamos os melhores pacotes de segurança para internet.