Os provedores de telecomunicações passaram décadas gerenciando recursos finitos, como espectro, largura de banda, computação, armazenamento e capacidade de rede. Hoje, os tokens de IA emergiram como um novo recurso estratégico que exige o mesmo nível de supervisão executiva e disciplina.
À medida que os provedores de telecomunicações escalam a IA em atendimento ao cliente, operações de rede, cibersegurança, gestão de fraudes e outras funções empresariais, o consumo de tokens está se tornando um fator importante de custo, desempenho, governança e valor empresarial. Segundo reportagens do setor, a T-Mobile ultrapassou um padrão de processamento de mais de 1 trilhão de tokens de IA anualmente, ao integrar a IA de forma mais profunda em suas operações, ilustrando como o consumo de tokens pode atingir uma escala de telecomunicações. Enquanto isso, a Vodafone informa que seus assistentes movidos a IA agora lidam com aproximadamente 60 milhões de conversas com clientes por mês em toda a Europa.
Para CFOs e CIOs, o desafio é como governar, monitorar e otimizar investimentos em IA para que cada token consumido traga resultados de negócio mensuráveis, ao mesmo tempo em que apoia a resiliência operacional e o crescimento de longo prazo.
Além de gerenciar custos, os líderes também devem se preparar para uma nova geração de métricas de desempenho de IA, incluindo tempo até o primeiro token (TTFT), throughput de tokens e consumo de energia por inferência. Construir essas capacidades depende de mais do que apenas investimentos em tecnologia. Ela exige observabilidade da IA, propriedade clara, controles eficazes e os marcos de governança necessários para gerenciar a IA em larga escala.
Como os CFOs podem gerenciar a IA como uma utilidade baseada no consumo
CFOs das operadoras de telecomunicações estão familiarizados com modelos econômicos baseados no uso. Seja gerenciando o consumo em nuvem, custos de transporte de rede ou planos de uso do cliente, o sucesso depende de entender o que está impulsionando a demanda, controlar custos e garantir que os gastos produzam valor mensurável para o negócio.
A IA apresenta um desafio semelhante, mas em uma escala muito maior e menos previsível.
Cada consulta de cliente tratada por um assistente virtual, cada anomalia de rede analisada por um modelo de IA, cada fluxo de trabalho de cibersegurança executado por um agente de IA e toda interação de um funcionário com um copilot de IA consome tokens. Individualmente, o custo de uma única interação pode parecer insignificante. Em uma grande empresa de telecomunicações que processa milhões de conversas com clientes, eventos de rede, alertas de segurança e decisões operacionais todos os dias, o consumo de tokens pode rapidamente se tornar relevante e cada vez mais difícil de prever.
O desafio é agravado pelo fato de que os custos de IA se comportam de forma diferente do licenciamento tradicional de software. Em vez de taxas anuais previsíveis de licenciamento, as organizações pagam com base no consumo. Uma iniciativa de IA bem-sucedida que gera bons resultados de negócio também pode gerar aumentos significativos no consumo à medida que a adoção cresce em toda a empresa.
Uma governança eficaz da IA começa fazendo as perguntas certas. Para os líderes de telecomunicações, essas questões precisam ir além de quantos tokens estão sendo usados e focar nos resultados de negócio que esses tokens estão possibilitando, onde o consumo está acelerando e se a organização possui os controles necessários para escalar a IA de forma responsável. Aqui estão algumas perguntas-chave que os líderes deveriam fazer sobre o consumo de IA:
- Sabemos quais casos de uso de IA consomem mais tokens? Identifique as aplicações, modelos e funções de negócios que impulsionam o maior consumo e custos.
- Podemos medir o custo por interação com o cliente? Avalie se o atendimento ao cliente habilitado por IA está proporcionando maior eficiência, experiência e resultados em relação ao seu custo.
- Podemos quantificar o custo por incidente de rede resolvido? Determine se os investimentos em IA estão acelerando as atividades de detecção, diagnóstico e remediação, ao mesmo tempo em que reduzem os custos operacionais.
- Quais iniciativas de IA estão produzindo valor mensurável para os negócios? Acompanhe resultados como crescimento da receita, ganhos de produtividade, retenção de clientes, redução das despesas operacionais e melhora do EBITDA.
- Onde estamos gerando o consumo desnecessário de tokens? Procure por tamanhos excessivos de prompts, uso excessivo de modelos premium, fluxos de trabalho ineficientes, requisições de IA duplicadas e atividade descontrolada dos agentes.
- Podemos prever a demanda e os custos futuros de tokens? Entenda como a adoção, mudanças no modelo e novas iniciativas de IA podem afetar os gastos futuros.
- Temos os controles necessários para governar a IA em larga escala? Garanta que políticas, monitoramento, processos de aprovação, limiares de gastos e controles de risco estejam em vigor.
- Podemos conectar o consumo de IA diretamente aos resultados do negócio? Vá além do rastreamento do uso de tokens para medir como a IA contribui para a experiência do cliente, resiliência operacional e desempenho financeiro.
Analistas do setor cada vez mais descrevem a tokenização como a próxima evolução do FinOps.
As organizações devem gerenciar a economia de tokens com a mesma disciplina aplicada aos gastos em nuvem, estabelecendo visibilidade sobre quem está usando IA, quais modelos estão sendo usados, quanto custam essas interações e se estão entregando valor para o negócio. Sem essa visibilidade, os líderes correm o risco de tratar os gastos com IA como uma despesa operacional crescente, em vez de um investimento estratégico.
Para os provedores de telecomunicações, o objetivo não deve ser minimizar o consumo de tokens, mas otimizá-lo. Por exemplo, um assistente de atendimento ao cliente que consome mais tokens ainda pode entregar valor substancial se reduzir os tempos de atendimento das chamadas, melhorar a satisfação do cliente e aumentar as taxas de resolução no primeiro contato. Da mesma forma, uma plataforma de operações de rede habilitada por IA pode justificar um consumo maior se melhorar a detecção de falhas, acelerar a resposta a incidentes ou reduzir custos operacionais.
Para os CFOs, a prioridade é ir além do acompanhamento de custos e construir um modelo operacional que vincule o consumo de IA ao valor, desempenho e risco. Trabalhando com CIOs, eles podem aplicar a disciplina de operações financeiras para ganhar visibilidade de uso, atribuir responsabilidade de gastos e estabelecer um modelo de custos escalável para o consumo de IA e nuvem.
A perspectiva do CIO: Governando a IA em escala de operadora
Em escala de operadora, até pequenas ineficiências podem se multiplicar rapidamente. Sem uma supervisão adequada, as organizações podem enfrentar aumento no consumo de tokens, uso inconsistente do modelo, riscos de segurança, desafios de conformidade e visibilidade limitada sobre como a IA está sendo usada em toda a empresa. Por isso, os CIOs devem estabelecer uma estrutura de governança que ofereça visibilidade, responsabilidade e controle em todo o ecossistema de IA.
O arcabouço deve incorporar estas cinco prioridades-chaves:
Estabeleça um inventário de IA empresarial. Este inventário é crucial para ajudar a controlar a Shadow IA ou o uso não autorizado de ferramentas de IA e fornecer visibilidade sobre ativos de IA, incluindo:
- Aplicações de IA e copilots
- Agentes autônomos de IA
- Serviços de IA de terceiros
- Soluções de IA próprias da empresa.
Implementar políticas de governança de tokens de IA. Isso proporcionaria barreiras de proteção claras ao redor de:
- Modelos de IA aprovados
- Limiares de uso e orçamentos
- Requisitos de monitoramento e relatórios
- Procedimentos de escalonamento e exceção.
Os CIOs devem pensar nos tokens da mesma forma que gerenciaram a largura de banda: mensuráveis, governados e alinhados às prioridades de negócios.
Otimize a seleção dos modelos. Nem todo caso de uso exige o modelo mais avançado ou caro. Por exemplo, sumarização de chamadas do cliente, busca de conhecimento, documentação e relatórios rotineiros podem muitas vezes ser tratados por modelos menores e de menor custo sem sacrificar a qualidade.
Agentes de IA seguros como identidades empresariais. Agentes de IA precisam da mesma governança que os usuários humanos. A regência desses agentes deve incluir:
- Integração de identidade e gerenciamento de acesso (IAM)
- Controles de acesso de menor privilégio
- Registro e monitoramento de auditoria
- Gestão do ciclo de vida e supervisão humana.
Construa a observabilidade da IA. Os líderes devem ser capazes de responder:
- Quais aplicativos consomem mais tokens?
- Quais unidades de negócios impulsionam os gastos com IA?
- Os sistemas de IA estão entregando os resultados esperados?
- Onde surgem riscos, ineficiências ou preocupações com a conformidade?
A parceria CFO-CIO: Governança da IA como responsabilidade compartilhada de liderança
Os principais provedores de telecomunicações entendem que o gerenciamento de tokens de IA é tanto um desafio financeiro quanto tecnológico. Eles estão construindo modelos operacionais conjuntos que equilibram inovação, disciplina de custos, desempenho operacional e gestão de riscos.
Isso inclui a criação de conselhos de governança de IA multifuncionais que revisam regularmente tendências de consumo, resultados de negócios, exposição ao risco, desempenho do modelo e oportunidades de otimização.
A governança da IA é mais eficaz quando CFOs e CIOs compartilham responsabilidade por custo, valor, desempenho e risco. Enquanto os CFOs focam na realização de valor e na responsabilidade financeira, os CIOs fornecem a governança, supervisão tecnológica e controles operacionais necessários para escalar a IA de forma responsável. Juntos, eles podem construir governança de tokens que permitirá que suas organizações escalem a IA com confiança, controlem custos, melhorem o desempenho e convertam experimentos de IA em valor empresarial mensurável.
Este artigo foi originalmente escrito por Jim Kinsman (Diretor Executivo de Segurança e Privacidade) e traduzido pela Protiviti Brasil.
