Apresentado pela Caixa
À medida que os modelos de fronteira convergem, a vantagem da IA empresarial está a afastar-se do modelo e a aproximar-se dos dados aos quais pode aceder com segurança. Para a maioria das empresas, essa vantagem reside em dados não estruturados: contratos, arquivos de casos, especificações de produtos e conhecimento interno.
Para os líderes empresariais, a questão não é mais qual modelo usar, mas qual plataforma rege o conteúdo sobre o qual esses modelos podem raciocinar.
“Não é mais o que o modelo faz, são os dados não estruturados da própria empresa – seu conteúdo, como são organizados, como são governados e como são tornados acessíveis à IA.” diz Yash Bhavnani, chefe de IA da Box.
“As organizações que liderarão a IA são aquelas que construíram a infraestrutura de governança para tornar qualquer modelo confiável, com as permissões certas em vigor, o conteúdo certo acessível e uma trilha de auditoria clara para cada ação tomada”, afirma Ben Kus, CTO da Box.
A IA empresarial deve ser baseada em sistemas de registro seguros
À medida que a vantagem da IA passa dos modelos para o conteúdo governado, os sistemas de registro estão se tornando a base que torna a IA empresarial confiável.
Os funcionários usam modelos de fronteira para resumir documentos, elaborar relatórios, responder perguntas, mas quando essas ferramentas estão desconectadas de repositórios internos autorizados, os resultados são difíceis de confiar, impossíveis de auditar e potencialmente perigosos. A IA que não consegue rastrear os seus resultados até uma fonte de registo governada torna-se um passivo.
“Não é uma preocupação teórica”, diz Bhavnani. “Para uma empresa de seguros que usa IA para analisar reclamações de clientes, a baixa precisão simplesmente não é aceitável e os resultados não rastreáveis não podem ser atendidos.”
Os sistemas de registro fornecem conteúdo confiável e controlado por versão com permissões incorporadas e controles de conformidade já integrados, e os pipelines RAG recuperam dados de repositórios ativos no momento da inferência, conectando as respostas diretamente às fontes atuais e rastreáveis.
Sem integração aos sistemas de registro, os funcionários criam suas próprias soluções alternativas, o conteúdo é duplicado em ferramentas que não se comunicam e os armazenamentos de conhecimento oculto se acumulam fora da visibilidade das equipes de TI e de conformidade.
“Os clientes dizem-nos que os funcionários estão a carregar documentos confidenciais para contas pessoais e a executar os seus próprios fluxos de trabalho de IA, sem visibilidade da empresa sobre o que está a ser partilhado ou o que está a ser gerado”, diz ele. “Não é apenas um risco de segurança, é um risco organizacional.”
O acesso com reconhecimento de permissão é um requisito para IA agente
À medida que a IA se move para o território agente, executando tarefas de várias etapas de forma autônoma em documentos, fluxos de trabalho e sistemas empresariais, o mudanças no perfil de risco inteiramente. Os agentes agem mais rápido que os humanos, muitas vezes sem o julgamento contextual necessário para decidir quais dados devem acessar, tornando essencial o acesso com reconhecimento de permissões.
“Uma plataforma de IA sem acesso com reconhecimento de permissões é muito perigosa de usar”, diz Kus. “É uma pré-condição para a implantação segura de IA empresarial, e quanto mais parece ter sido adicionado após o fato, em vez de incorporado à fundação, mais deve preocupar a empresa que o considera.”
Em setores regulamentados, estruturas como HIPAA, FedRAMP High e SOC 2 exigem trilhas de auditoria, aplicação de políticas e controles demonstráveis sobre quem e o que acessou dados confidenciais.
“A trilha de auditoria deve cobrir não apenas os arquivos de origem, mas também a sessão de IA que os utilizou, e acessada apenas com os mesmos controles e o mesmo mecanismo de criptografia”, diz Kus. “Não queremos que os clientes acabem com uma violação de conformidade porque o agente estava analisando dados confidenciais e os registros do agente foram armazenados em algum lugar inesperado”.
As plataformas de conteúdo estão evoluindo para planos de controle de IA
As plataformas de conteúdo empresarial estão evoluindo de repositórios para camadas de orquestração — um plano de controle de IA que fica entre modelos, agentes e dados corporativos. Em vez de apenas armazenar documentos, a plataforma controla como o conteúdo é acessado, encaminha-o para o mecanismo de raciocínio correto, impõe permissões e mantém uma trilha de auditoria completa de cada ação.
“Uma plataforma de conteúdo pronta para IA precisa oferecer suporte à navegação humana e ao uso da mesma forma que as plataformas sempre fizeram, e precisa de seus próprios agentes de IA que entendam as estruturas de dados da plataforma profundamente o suficiente para tirar o melhor proveito delas”, diz Kus. “Também precisa ser aberto o suficiente para que qualquer agente externo possa acessá-lo. Um ecossistema de agente aberto é o futuro de como essas plataformas funcionarão”.
Quando o conteúdo, as permissões, as trilhas de auditoria e o acesso aos aplicativos são gerenciados pela mesma plataforma, a governança permanece vinculada ao próprio conteúdo. Mais do que qualquer capacidade dos modelos subjacentes, uma camada de governança unificada é o que permite que a IA corporativa seja dimensionada com segurança.
Transformando conteúdo não estruturado em inteligência estruturada
Os dados não estruturados têm sido um obstáculo para as organizações, que tiveram que construir modelos especializados para lidar com cada subtipo de dados não estruturados.
“O que mudou é que os grandes modelos de linguagem de uso geral agora trazem inteligência suficiente para extrair dados estruturados de conteúdo não estruturado sem esse nível de investimento personalizado”, diz Kus. “O Box Extract aplica esse recurso em escala, extraindo automaticamente informações importantes de contratos, formulários, reivindicações e relatórios e aplicando-as como metadados estruturados no Box. O conteúdo que antes precisava ser lido por uma pessoa para gerar seu valor agora pode ser processado, estruturado e tornado consultável em um repositório inteiro.”
E uma vez que os dados são extraídos e a lógica operacional reside no sistema, os usuários podem visualizar, pesquisar e agir com base nas informações extraídas por meio de painéis personalizados e ferramentas sem código.
Os Box Agents vão além, permitindo o raciocínio em várias etapas e a execução de tarefas baseadas diretamente no conteúdo empresarial, com sessões persistentes que apoiam o trabalho de conhecimento iterativo com direção de linguagem simples e natural. E como as sessões do agente no Box são persistentes, o trabalho não se perde entre as interações.
O resultado prático é que os fluxos de trabalho completos que anteriormente exigiam coordenação humana em vários sistemas podem ser orquestrados diretamente nos sistemas de registro.
“Quando esses fluxos de trabalho são construídos em agentes Box e a automação opera diretamente no conteúdo governado, as transferências tornam-se automatizadas, a trilha de auditoria é incorporada e o sistema de registro continua sendo a fonte autorizada”, diz Bhavani. “Nada passa despercebido entre os sistemas, porque existe apenas um sistema.”
As empresas que obtêm retornos reais não são aquelas que simplesmente aderiram a um modelo de fronteira e esperaram pelos resultados. Foram eles que conectaram a IA aos seus sistemas de registro, governaram o que ela pode acessar e construíram a camada operacional que torna seus resultados confiáveis o suficiente para serem usados em escala.
Plataformas que reúnem gerenciamento de conteúdo, segurança, automação e integração de IA em uma única camada estão emergindo como a base para a IA empresarial, porque a capacidade do modelo por si só não é suficiente. Sem governação incorporada na plataforma, as lacunas entre os sistemas tornam-se o ponto de falha.
Artigos patrocinados são conteúdos produzidos por uma empresa que paga pela postagem ou tem relacionamento comercial com a VentureBeat, e estão sempre claramente marcados. Para mais informações, entre em contato vendas@venturebeat.com.
