Siga ZDNET: Adicione-nos como fonte preferencial no Google.
Principais conclusões da ZDNET
- A escala da ameaça cibernética continua a aumentar na era da IA.
- Os profissionais devem desenvolver táticas para adotar a IA sem riscos.
- Compartilhe seu conhecimento, trabalhe com parceiros e use a automação.
As mesmas capacidades que tornam a IA útil também a tornam explorável. Na verdade, o ritmo a que as tecnologias emergentes avançam intensifica essa realidade desconfortável a cada minuto.
Embora os profissionais possam não querer expor as suas organizações a novas ameaças, também reconhecem o risco de ficarem para trás à medida que outras empresas procuram obter uma vantagem competitiva através da implementação de IA.
Além disso: os agentes de IA são rápidos, soltos e fora de controle, segundo estudo do MIT
Então, o que você deve fazer a respeito desse enigma desafiador? Cinco líderes empresariais compartilham cinco maneiras pelas quais os profissionais podem garantir maior segurança na era da IA.
1. Compartilhe seu conhecimento
Barry Panayi, diretor de dados do grupo Howden, um grupo intermediário de seguros, disse que um dos grandes benefícios de trabalhar para sua organização é que muitos membros da equipe conhecem os riscos cibernéticos associados à IA.
“Como oferecemos seguro cibernético como negócio, temos pessoas que entendem dessa área”, disse ele. “Portanto, não é apenas um técnico que entende de segurança, e não é apenas um especialista em dados ou IA.”
Como executivo encarregado de garantir que a IA seja implementada de forma segura, Panayi incentivou os profissionais de todas as organizações a aumentarem as suas credenciais cibernéticas: “Acho que as pessoas têm de saber mais sobre segurança nas suas funções”.
Além disso: a IA tornará a segurança cibernética obsoleta ou o Vale do Silício está confabulando novamente?
Panayi disse que a natureza multifacetada da segurança cibernética de IA significa que os profissionais devem esperar o surgimento de novas funções e responsabilidades, com as pessoas compartilhando conhecimento e trocando entre equipes para criar uma abordagem mais poderosa.
“Sei que os melhores especialistas em segurança são aqueles que conversam com minhas equipes de IA e perguntam: ‘Como isso funcionaria e como funcionaria?’”, disse ele.
“E as equipes de IA, por outro lado, conversam com especialistas em segurança da informação e garantem que seus processos não sejam um bloqueador enquanto procuramos tornar os sistemas mais seguros”.
2. Volte ao básico
Nick Pearson, CIO da especialista em tecnologia Ricoh Europe, afirmou que a gestão da cibersegurança numa era de IA requer uma abordagem multidimensional – e ele encontra novas dimensões quase todos os dias.
Pearson disse à ZDNET que os profissionais podem se sentir sobrecarregados pela amplitude das ameaças associadas à tecnologia emergente.
No entanto, as suas conversas com outros especialistas, incluindo o CISO da Ricoh Europa, sugerem que é importante contextualizar as ameaças cibernéticas da IA.
“Uma grande segurança ainda depende do básico das boas práticas”, disse ele. “Portanto, protegemos desde o projeto, temos padrões, temos capacidades e temos equipes que analisam, verificam e equilibram”.
Além disso: por que os agentes empresariais de IA podem se tornar a maior ameaça interna
Pearson disse que os profissionais devem garantir que os dados sejam gerenciados e governados de forma eficaz. Em vez de reinventar a roda, encontre uma maneira de absorver a IA em suas estruturas existentes.
“Caso contrário, você pode acabar com algo separado do que é uma boa prática em vazamento de dados, por exemplo, que, no nosso caso, existe há 15 anos”, disse ele.
3. Reconheça o poder da assistência
Martin Hardy, diretor de portfólio cibernético e arquitetura do Royal Mail, disse que um componente crucial para a abordagem cibernética de sua empresa é um fórum interno de governança de IA.
“Não impedimos as pessoas de usar IA, mas quando construímos IA em aplicações, garantimos que haja algum nível de governança em torno dela”, disse ele.
“Entender onde estão nossos dados e quais dados vão para essas soluções de IA é a chave para o sucesso, assim como o que pedimos que essas soluções façam.”
Além disso: as ameaças de IA vão piorar: 6 maneiras de igualar a tenacidade de seus adversários digitais
Embora não queira subestimar o poder potencial da tecnologia emergente, Hardy disse à ZDNET que é crucial que os profissionais vejam a IA como uma ferramenta e não como um fim em si mesma.
Explorar a IA de forma eficaz e segura envolve gerenciar dados e decifrar possíveis casos de uso.
“Haverá casos em que as pessoas usarão a IA e errarão”, disse ele. “O sucesso consiste em mudar a mentalidade para uma que sugira: ‘Isto é uma ajuda, não a resposta.'”
4. Conscientizar sobre a travessia imprudente
John-David Lovelock, analista-chefe e ilustre vice-presidente analista do Gartner, disse que os líderes digitais e profissionais de negócios devem considerar as ameaças cibernéticas ao investirem em IA até 2026.
Lovelock disse à ZDNET que uma questão importante é que as organizações ainda não podem se beneficiar do acesso à segurança de IA mensurável, definível e certificável, o que significa que é improvável que os requisitos de segurança do usuário final sejam atendidos por muitos de seus fornecedores.
“Não chegamos ao ponto com a IA em que possamos dizer: ‘Será que ele tem cinto de segurança? Será que sobreviverá a um acidente a 40 quilômetros por hora?'”, disse ele.
Além disso: 10 maneiras pelas quais a IA pode infligir danos sem precedentes em 2026
Lovelock comparou o estado atual da segurança da IA ao aumento das travessias imprudentes na década de 1920, quando o A nascente indústria automobilística pressionou agências governamentais para aprovar novas leis.
Além disso: Por que os backups criptografados podem falhar em uma era de ransomware impulsionada por IA
“Mudamos a responsabilidade de alguém que estava expressando seu direito de passagem e foi vítima do acidente para alguém que deveria saber melhor e realmente causou o acidente”, disse ele.
“A intrusão da IA é a tentativa de fazer a mesma coisa – é uma tentativa de garantir que o intruso seja responsável por qualquer coisa que dê certo ou errado com o uso da IA.”
Em suma, os actuais acordos com fornecedores provavelmente tornarão os utilizadores finais responsáveis pela segurança da IA, e não o fornecedor de tecnologia, e os profissionais devem estar cientes desta posição.
“A aceitação desta situação é crucial”, disse ele. “Vimos essa tendência com outras tecnologias. Não é nova, em certo sentido, mas é uma realidade com a IA, então pelo menos esteja atento.”
5. Faça da IA parte do seu processo
Jeff Love, CTO da Professional Rodeo Cowboys Association (PRCA), explicou recentemente à ZDNET como sua organização, que tem quase 100 anos de história, usou IA para superar seu intratável desafio de TI legado.
Quando os modelos de geração de IA não conseguiram penetrar em códigos mais antigos, Love recorreu ao Zencoder, uma plataforma de agente que analisa a lógica de negócios e a traduz em explicações em inglês simples.
Depois de abraçar a tecnologia emergente, Love disse à ZDNET que sua equipe agora pode usar IA como parte de seus processos para eliminar possíveis problemas de segurança – e encorajou outros profissionais a procurar oportunidades semelhantes.
“Quando surgem problemas, ou mesmo quando lançamos um novo código, podemos dizer: ‘Quer saber? Verifique se há problemas de segurança. Verifique se há lógica incorreta'”, disse ele.
“A IA é melhor em fazer esse trabalho do que um ser humano porque considera a visão geral completa. Estamos tão focados em áreas específicas que não conseguimos ver o quadro geral o tempo todo.”
Love disse que a IA também pode ajudar sua equipe a considerar questões que de outra forma poderiam ter negligenciado.
“Está sempre verificando se há riscos de segurança. E há momentos em que lanço algum código e ele diz: ‘Quer saber, isso poderia ser um pouco melhor'”, disse ele. “No mundo de hoje, você precisa se preocupar com os riscos à segurança.”
