Ampliar a inteligência artificial: a necessidade urgente de uma nova estratégia econômica.

A narrativa predominante sobre IA nas empresas está mudando rapidamente, passando do entusiasmo da fase piloto para as duras realidades da produção. À medida que as organizações correm para integrar a IA generativa em seus fluxos de trabalho, elas se deparam com um obstáculo que reside não tanto nas capacidades da tecnologia em si, mas sim em como implantar esses modelos.

As empresas estão descobrindo cada vez mais que o problema não é a inteligência artificial em si, mas sim a suposição de que toda tarefa exige o modelo mais poderoso disponível. Isso levou ao fenômeno generalizado do "tokenmaxxing" — a tendência de usar modelos maiores e mais caros por padrão, mesmo quando um modelo menor e mais barato poderia realizar a tarefa.

Em vez de escolher o modelo certo para a tarefa certa, muitas organizações partem do princípio de que todo fluxo de trabalho exige poder de inferência no nível dos modelos principais.

Essa complexidade excessiva da automação cria um fardo estrutural sobre a lucratividade. Quando as empresas tratam cada problema como se exigisse um modelo revolucionário, os custos de infraestrutura inevitavelmente superam o valor do resultado.

O mercado está testemunhando as consequências dessa abordagem, com relatos indicando que grandes organizações estão esgotando completamente seus orçamentos de IA em poucos meses e cancelando licenças internas à medida que os custos aumentam.

À medida que as organizações lidam com o impacto dos custos da IA, torna-se evidente que os gastos com IA muitas vezes excedem o valor tangível que ela proporciona. Esse desafio exige novas estratégias, como discutido em um artigo anterior sobre a queda nos gastos com IA.

Superando a armadilha dos projetos-piloto

O problema fundamental é que o sucesso de projetos-piloto isolados e controlados é frequentemente considerado o padrão para as atuais iniciativas de IA empresarial. Em um projeto-piloto, as variáveis ​​são limitadas e o custo por operação parece administrável. Mas, uma vez que as portas são abertas para o uso em toda a empresa, a realidade caótica da produção, os estados extremos, as múltiplas etapas de repetição e as grandes flutuações de escala emergem.

Como a IA probabilística gera um custo diferente para cada operação, ela cria despesas imprevistas que os departamentos financeiros não conseguem prever. Com o software tradicional, um orçamento fixo corresponde a um custo previsto para cada tarefa. Com a IA, essa estabilidade não existe. Quando a mesma operação custa um dólar em um dia e cem dólares no dia seguinte, não é seguro incluí-la no orçamento operacional.

Por esse motivo, 80% das organizações admitem ter calculado mal o custo da IA ​​em mais de 25%, e mais de 95% dos projetos-piloto de IA generativa não chegam à produção. Atualmente, as organizações não estão trabalhando para melhorar sua relação custo-benefício; em vez disso, estão descobrindo isso da maneira mais difícil, muitas vezes depois que o prejuízo financeiro já foi causado. Para muitos líderes, a única alavanca que resta é "usar menos" — restringir o uso ou bloquear o acesso.

Mas essa resposta é falha. O verdadeiro choque não está no valor da conta em si, mas na constatação de que a única ferramenta de gestão restante é restringir o consumo. Ao racionar o acesso, a organização está, na prática, admitindo que sua implementação de IA é cara demais para ser ampliada, transformando uma potencial vantagem competitiva em uma fraqueza defensiva.

Repensando a economia da automação

Atualmente, a maioria das organizações se concentra em aprimorar a seleção de modelos — ou seja, identificar o modelo mais adequado para uma determinada tarefa —, mas a maior oportunidade reside na melhoria do próprio trabalho. Como os custos são reajustados sempre que uma solicitação é iniciada do zero em um modelo complexo, presumir que toda tarefa exige um modelo de linguagem complexo (LLM) no nível principal do LLM rapidamente se torna um erro custoso.

As ferramentas de roteamento padrão operam no nível da requisição: elas analisam a tarefa recebida e a encaminham para o modelo que parece mais apropriado, mas esse modelo ainda executa toda a tarefa como uma única geração opaca. A única coisa otimizada é o modelo que fornece a resposta; nada que resulte torna a próxima execução mais barata. A verdadeira escalabilidade exige ir além.

Essa mudança exige uma estrutura que seja dona do processo de negócio, em vez de depender exclusivamente do modelo subjacente. Em vez de simplesmente direcionar o trabalho para um ponto final, essa abordagem arquitetural gerencia o próprio processo. Ela transcende modelos individuais, decompondo o fluxo de trabalho em etapas discretas, orientadas por código, para gerar um registro de auditoria em cada etapa.

Essa escolha arquitetônica singular é o que distingue a otimização estrutural da gestão superficial de custos, proporcionando um nível de eficiência que as ferramentas de orientação tradicionais não conseguem alcançar. Essa mudança resulta em uma estrutura de custos mais eficiente. Em vez de depender de um único modelo para cada tarefa, os cálculos são distribuídos em etapas especializadas, orientadas por código, melhorando a utilização de recursos e transformando a execução do fluxo de trabalho.

No fluxo de trabalho para processamento de empréstimos de grande volume, por exemplo, essa abordagem melhora a rentabilidade geral, reduzindo a dependência de raciocínio baseado em modelos dispendiosos onde ele é desnecessário. A adoção dessa arquitetura padronizada e orientada a processos oferece um caminho sustentável para o gerenciamento dos custos de operações de grande volume.

Como o processo é independente de qualquer fornecedor específico, as organizações mantêm total flexibilidade. Elas podem implementar livremente estratégias de otimização, alternando entre os principais modelos de modelagem de lógica de longo prazo (LLM), pesos de código aberto e modelos menores e especializados à medida que suas necessidades de desempenho e custo evoluem, sem precisar reconstruir sua infraestrutura subjacente. Para saber mais sobre como gerenciar os custos de IA, você pode ler nosso artigo sobre a redução dos gastos com IA.

Como cada processo de execução produz um caminho específico e verificável de etapas de raciocínio, invocações de ferramentas e resultados, esses registros se tornam valiosos ativos de dados, aprimorando alternativas especializadas que já sabem como lidar com tarefas previstas sem recorrer a invocações genéricas.

Aprimorando as capacidades humanas por meio da precisão.

O objetivo dessa nova abordagem é transformar a inteligência artificial de um experimento limitado em um método padronizado de trabalho. Quando o trabalho digital automatizado assume tarefas cognitivas repetitivas , como verificação de dados ou confirmação de divulgações, o papel humano se transforma completamente. Os analistas não precisam mais passar o dia abrindo arquivos e inserindo dados manualmente; seu foco passa a ser em exceções que exigem julgamento de alto nível, estratégias complexas e soluções criativas para problemas.

Essa é a promessa da adoção sustentável da IA. Ao transformar despesas imprevistas em custos previsíveis e focar na reestruturação de fluxos de trabalho em vez de simplesmente trocar de modelo, as empresas podem finalmente desbloquear todo o seu potencial. Isso oferece às organizações um caminho para um retorno sobre o investimento sustentável e mensurável à medida que a adoção se expande, permitindo que seus funcionários se concentrem em trabalhos de alto valor agregado e avaliação que a tecnologia não consegue replicar.

O futuro da IA ​​nas empresas não será determinado apenas pelas capacidades do modelo, mas sim pela habilidade de implementar sistemas de IA integrados que tornem a tecnologia economicamente viável em larga escala. É hora de superar a experimentação insustentável e adotar uma abordagem disciplinada e arquitetônica para a adoção da IA. Para as organizações prontas para ir além da fase experimental, o desafio não é mais provar que a IA funciona, mas torná-la economicamente viável o suficiente para ser escalada.