Siga ZDNET: Adicione-nos como fonte preferencial no Google.
Principais conclusões da ZDNET
- As empresas estão explorando os agentes de IA de diversas maneiras.
- Os profissionais devem considerar como explorar essas tecnologias.
- Medição, colaboração e experimentação são fundamentais.
Os agentes de IA impactarão todas as funções profissionais. Se sua empresa ainda não começou a usar agentes, isso acontecerá em breve, seja por meio de produtos de software prontos para uso ou de ferramentas internas que se baseiam em grandes modelos de linguagem e fontes de dados.
Os profissionais que exploram como usar agentes em suas funções são aconselhados a buscar orientação sobre práticas recomendadas. Uma dessas fontes de informação é Joel Hron, CTO do Thomson Reuters Labs, que está ajudando a empresa de serviços de informação a explorar IA generativa, aprendizado de máquina e tecnologias de agente.
Além disso: agentes de IA preocupados irão substituí-lo? 5 maneiras de transformar a ansiedade em ação no trabalho
Hron disse à ZDNET que a Thomson Reuters usa uma combinação de modelos internos e ferramentas prontas para uso para impulsionar suas inovações em IA. Além dos avanços em laboratórios de ponta de grandes empresas de tecnologia, Hron e sua equipe garantem que a empresa explore seu conhecimento e ativos proprietários.
“Se você olhar para a essência do que fazemos bem, é a capacidade de sintetizar a experiência e as informações humanas em julgamentos que podem ser repassados aos profissionais”, disse ele.
“O mecanismo de entrega de como essa expertise é entregue está evoluindo neste momento. Tradicionalmente, ela é entregue por meio de software. Mas é cada vez mais entregue por meio de agentes, ou agentes mais software.”
Hron aponta várias conquistas importantes da agência na Thomson Reuters, incluindo a ferramenta de pesquisa jurídica Westlaw Advantage, alimentada por IA, e o agente de pesquisa profunda da empresa, que analisa insights e traça estratégias como um pesquisador faria.
Além disso: os agentes de IA são rápidos, soltos e fora de controle, segundo estudo do MIT
A partir dessas explorações, Hron disse que aprendeu quatro lições principais que os profissionais podem usar para construir sistemas de IA confiáveis.
1. Avalie o seu sucesso
Hron disse que a primeira área a ser focada são as avaliações: “Você precisa saber como é o bom”.
Embora este foco nas avaliações pareça um requisito óbvio, Hron disse que é um processo difícil de acertar, quantificar e sistematizar.
“Dissemos isso nos últimos três anos que esta é uma das coisas mais importantes para a construção de bons sistemas de IA, e continua a ser verdade hoje em uma era de agentes”, disse ele.
Hron: “Ainda queremos a confiança dos nossos especialistas humanos”.
ThomsonReuters
A equipe de Hron acompanha e mede o sucesso da agência de diversas maneiras. Em primeiro lugar, aproveitam os benchmarks públicos, que, segundo ele, fornecem bons indicadores iniciais do desempenho potencial positivo de novos modelos.
Além disso: 5 táticas de segurança que sua empresa não pode errar na era da IA – e por que elas são críticas
Em segundo lugar, eles desenvolveram seus próprios benchmarks internos com orientações fortes para avaliações automatizadas: “Em vez de apenas dizer: ‘Até que ponto a resposta gerada está próxima de uma boa resposta?’, nosso processo consiste em realmente definir: ‘Bem, o que torna a resposta boa?'”
Por fim, a Thomas Reuters mantém os humanos informados, garantindo que as avaliações vão um passo além das avaliações automatizadas.
“Avaliações automatizadas ajudam a impulsionar nossas equipes de desenvolvimento mais rapidamente, e elas podem testar muitas ideias de forma relativamente rápida, e isso é bom. Mas antes de enviarmos, ainda queremos a confiança de nossos especialistas humanos e sua avaliação do desempenho”, disse ele.
“A confiança contínua nessa abordagem nos permitiu fornecer excelentes produtos com bom desempenho no mercado. Acredito que a contribuição humana é um ingrediente crítico para que possamos fazer esse trabalho bem e com confiança.”
2. Faça com que os especialistas se reúnam
Hron aconselhou os profissionais a compreenderem profundamente o que os agentes fazem e como operam ao longo do tempo.
“Acoplar firmemente essa consciência à experiência do usuário é cada vez mais importante”, disse ele. “Se você pensar nesses sistemas de agência como colaboradores humanos de IA, então o humano e o agente precisam de uma linguagem comum e de uma interface comum na qual trabalhem.”
Além disso: por que os agentes empresariais de IA podem se tornar a maior ameaça interna
Hron disse que essa linguagem e interface comuns deveriam fornecer aos humanos informações valiosas sobre os processos de pensamento dos agentes e vice-versa.
“Esta área é uma experiência de UI nova e importante, e acho que é fundamental unir firmemente o profundo conhecimento técnico do agente com uma boa experiência do usuário.”
Embora muitos especialistas falem sobre a importância do acoplamento humano/agente, Hron disse que a chave para o sucesso é simples: unir as equipes do negócio.
“Este processo não é científico – trata-se de forçar meus designers a sentar-se com cientistas de dados e conversar sobre o que está acontecendo”, disse ele. “Quanto mais próximos pudermos aproximar esses dois grupos de pessoas, e quanto mais vezes eles puderem sentar-se juntos, melhor será a osmose para pensar nessas duas áreas.”
3. Desenvolva capacidades comprovadas
Apesar de qualquer exagero que possa fazer você acreditar no contrário, Hron disse que os profissionais devem reconhecer que os agentes e os modelos que os impulsionam estão longe de ser oniscientes.
Hron disse que os modelos de IA estão melhorando em três dimensões: escrever código, executar planos e raciocínio em várias etapas. Os avanços mais recentes permitem que as capacidades do modelo sejam estendidas por outras ferramentas de software.
“O que esse desenvolvimento significa para nós como empresa é mais positivo do que negativo, porque significa que, se pudermos pegar todas essas centenas de aplicações que vendemos no mercado durante muitas décadas e pudermos decompô-las, então teremos capacidades comprovadas para profissionais”, disse ele.
Além disso: 90% dos projetos de IA falham – aqui estão três maneiras de garantir que o seu não falhe
“Se pudermos decompor esses elementos como ferramentas para o agente, estaremos ampliando bastante as capacidades desses modelos, e esse é realmente o futuro dos agentes.”
Em vez de ver a IA agente como um modelo onisciente que tenta fazer tudo o que existe, Hron aconselhou os profissionais a darem aos agentes acesso a capacidades comprovadas que as pessoas já usam, o que é o foco de sua equipe.
“Estamos olhando para nossos sistemas e nos perguntando: ‘OK, construímos isso para um usuário humano por muitos e muitos anos. Agora, que ergonomia é necessária para um agente trabalhar com este sistema? Como você adapta o processo para ser propício ao trabalho com um agente, em vez de necessariamente com um ser humano em todos os casos? E o que essa abordagem significa para a aparência, a sensação e o desempenho da ferramenta?'”
4. Olhe além do firewall
O Thomson Reuters Labs lançou recentemente o Trust in AI Alliance, um fórum liderado por construtores para pesquisadores seniores de IA da Anthropic, AWS, Google Cloud, OpenAI e Thomson Reuters para discutir como a confiança é projetada em sistemas de agentes.
Hron disse que a Aliança, que compartilha lições publicamente para informar o debate mais amplo da indústria sobre IA confiável, também ajuda os membros seniores de sua equipe a aprender as melhores práticas com os pioneiros da indústria.
“Estamos tentando trazer um foco para a explicabilidade e a transparência em termos de como esses modelos funcionam”, disse ele.
Além disso: 5 maneiras de parar de testar IA e começar a escalá-la com responsabilidade
Hron disse que os pioneiros da tecnologia e seus modelos reduziram significativamente o tempo e o esforço necessários para passar da precisão zero para 90%.
“Mas não estamos no jogo dos 90%”, disse ele. “Estamos no jogo de 99% e 99,9% e devemos considerar como conseguiremos esses nove ou dois noves extras de precisão, que é a diferença para a confiança.”
Como parte deste processo, a Thomson Reuters também está a trabalhar com instituições académicas. No final do ano passado, a empresa anunciou uma parceria de cinco anos para criar um laboratório conjunto de pesquisa Frontier AI no Imperial College London.
“Nessas iniciativas, estamos focados nos dois últimos noves de precisão, porque é isso que as pessoas procuram comprar de nós quando lançamos nossos produtos no mercado”, disse Hron.
“As organizações de tecnologia de ponta continuarão a ultrapassar os limites do que é possível. Mas para nós, a margem é onde a vantagem competitiva no mundo da lei, dos impostos e da conformidade é conquistada e perdida. E é isso que realmente precisamos para acertar.”
