A inteligência artificial (IA) está rapidamente remodelando o cenário corporativo, prometendo um salto em produtividade e eficiência. No entanto, à medida que as organizações correm para implantar esses agentes digitais, correm o risco de liberar forças que não compreendem ou controlam totalmente. A promessa de produtividade da IA é real, mas também o risco de privacidade, e as apostas nunca foram tão altas.
Observamos hoje uma ansiedade crescente entre os líderes empresariais, visto que reguladores não se contentam mais em permitir que equipes de tecnologia experimentem isoladamente; eles exigem respostas sobre como a IA é governada, protegida e, mais importante, como sua identidade e acesso são gerenciados. Os antigos paradigmas de cibersegurança, construídos em torno dos usuários humanos e suas identidades digitais, estão desmoronando diante dos agentes autônomos de IA que operam com cada vez mais independência.
O desafio não é teórico. Por décadas, gerenciamento de identidade significava autenticar pessoas e conceder acesso a sistemas e dados. Agora, as organizações precisam lidar com a questão: o que significa identidade para um agente não humano? Onde essas identidades devem ser definidas e armazenadas?
Agentes de IA: complexidade em múltiplos canais
A complexidade se multiplica quando agentes de IA interagem, potencialmente contornando os controles de acesso estabelecidos e expondo informações sensíveis de maneiras que nunca se esperavam. Considere o cenário em que um agente de IA solicita dados de outro, que por sua vez consulta um terceiro agente. Cada etapa dessa cadeia envolve o risco de escalada de privilégios, quando informações que deveriam ser confidenciais são inadvertidamente divulgadas.
O problema não é a segurança dos canais de comunicação, mas a herança de direitos entre agentes. Essa é uma mudança sutil, mas profunda, na forma como o acesso é gerenciado. Mesmo os gigantes da tecnologia que constroem esses sistemas admitem que ainda não resolveram o problema da identidade agente em larga escala.
Vamos analisar uma situação hipotética, na qual um gerente de projeto peça à recém-lançada assistente de IA de sua empresa que prepare uma leitura prévia perspicaz para uma reunião com o notoriamente exigente vice-presidente. Esta assistente mergulha em todos os e-mails, documentos e até registros de RH e finanças, reunindo estouros orçamentários e notas confidenciais de desempenho.
O gerente, impressionado com a minúcia, envia o relatório para o vice-presidente e a equipe sem olhar duas vezes. As consequências são imediatas: violações de privacidade, colegas envergonhados e um vice-presidente furioso. A IA do gerente se torna a fofoca definitiva do escritório.
Mapeamento de usos, agentes e riscos
Mapear o cenário das ferramentas de IA e seu acesso a dados é uma tarefa assustadora. Muitas empresas não possuem um inventário abrangente de seus sistemas de IA, quanto mais uma compreensão clara de quais dados esses sistemas podem alcançar. Enquanto isso, as expectativas regulatórias estão evoluindo em ritmo vertiginoso. Os reguladores financeiros esperam que os maiores bancos definam o padrão, mas a realidade é que até essas instituições ainda buscam as melhores práticas.
Os riscos não se limitam à conformidade. Um único relatório gerado por IA que vaza dados confidenciais pode desencadear uma crise interna e causar danos duradouros à reputação. O uso incorreto do acesso pode violar leis de privacidade e regulamentos do setor, expondo as organizações a consequências legais e financeiras. O gênio, uma vez fora da garrafa, não é facilmente contido.
Então, o que deve ser feito? A resposta está em tratar os agentes de IA com o mesmo rigor que os funcionários humanos. Suas identidades devem ser definidas, seus papéis definidos e seu acesso estritamente limitado ao que for necessário. O princípio do menor privilégio, há muito tempo pilar da cibersegurança, deve agora ser aplicado tanto às máquinas quanto às pessoas. A herança de permissão deve ser rigidamente controlada, garantindo que agentes de IA espelhem os direitos de acesso de seus equivalentes humanos e não escalem inadvertidamente privilégios por meio da comunicação entre agentes.
A classificação de dados torna-se fundamental. Rótulos e políticas legíveis por máquina devem guiar o comportamento da IA garantindo que informações sensíveis estejam protegidas e acessíveis apenas a agentes autorizados. Auditoria e monitoramento contínuos são essenciais, não apenas para rastrear quais agentes de IA acessam e compartilham, mas também para detectar comportamentos anômalos e desvios de modelos que possam sinalizar uma violação ou uso indevido.
Construir uma cultura consciente da segurança não é mais opcional. Os funcionários devem ser treinados para entender os riscos e responsabilidades associados à IA promovendo um clima de vigilância e responsabilidade. Padrões emergentes, como o SPIFFE, oferecem frameworks promissores para gerenciar identidades de máquinas e suportar arquiteturas zero-trust para IA agente.
No fim das contas, é necessária liderança. Executivos de empresas devem enfrentar proativamente os riscos da identidade e do acesso à IA colaborando com especialistas em cibersegurança e especialistas em ética para definir estratégias de governança. A avaliação contínua é essencial, à medida que tanto as capacidades de IA quanto os requisitos regulatórios evoluem. Antes de implantar soluções de IA, as organizações devem garantir que a classificação robusta de dados, controles de segurança e planos de resposta a incidentes estejam em vigor.
A jornada rumo a uma IA resiliente e segura está em andamento. Aqueles que domam o gênio digital hoje estarão mais bem posicionados para aproveitar as oportunidades de amanhã sem cair vítimas de suas consequências não intencionais.
—
Artigo adaptado por André Cilurzo, com base no material original redigido por Kim Bozzella, ndy Retrum e Ryan McCarthy, managing directors na Protiviti USA. Originalmente publicado na Forbes Technology Council.
André Cilurzo
André Bottecchia Cilurzo é formado em Administração pela EAESP-FGV, com pós-graduação em Business Economics pela EESP-FGV. Desde 2002 na Protiviti, atualmente é diretor executivo de Digital Risk Consulting e lidera as soluções de Data Privacy, cibersegurança e governança de IA. Anteriormente, trabalhou no desenvolvimento de soluções para segurança de informações e prevenção a riscos, perdas e fraudes.
