Segurança de Dados é o Maior Desafio na Adoção da IA, Indica Estudo da Hitachi Vantara

Desafios na Implementação da Inteligência Artificial

A adoção da inteligência artificial (IA) nas empresas enfrenta obstáculos significativos relacionados à segurança dos dados, estruturação e governança, revela um relatório global da Hitachi Vantara. Com o avanço da IA generativa, a preocupação com cibersegurança aumentou devido à ausência desses elementos fundamentais, o que pode intensificar os riscos com a chegada dos agentes de IA.

Shane Gibson, especialista técnico sênior para as Américas da Hitachi Vantara, destaca que os agentes de IA introduzem riscos adicionais ao ambiente corporativo, pois podem executar ações com consequências inesperadas se não forem monitorados constantemente. Ele ressalta ainda que há um entendimento equivocado sobre o funcionamento dessas ferramentas.

Confiança Exagerada e Vulnerabilidades

Segundo Gibson, muitas empresas têm depositado uma confiança excessiva nos resultados gerados pela IA, acelerando a implementação de soluções sem a devida análise de necessidade, o que acaba criando novas vulnerabilidades. O relatório indica que a “alucinação” em agentes de IA ainda ocorre em cerca de 91% dos casos, enquanto 76% dos dados corporativos permanecem não estruturados — justamente o tipo mais explorado pelas aplicações de IA.

No cenário brasileiro, entretanto, a realidade parece ser diferente. O país passa por um processo acelerado de digitalização, muitas vezes apoiado em sistemas legados e ambientes heterogêneos. A Hitachi Vantara percebe os executivos de tecnologia no Brasil como mais conservadores na adoção da IA.

Abordagem Cautelosa no Brasil

Joshua Wick, líder global de riscos e compliance da Hitachi Vantara, comenta que os executivos brasileiros estão adotando uma postura mais cuidadosa, realizando uma due diligence aprofundada antes de investir financeiramente em IA. Essa cautela está ligada à apreensão em relação ao valor inicial dos investimentos, baseando-se nos estudos divulgados até o momento.

Essa diferença em relação ao cenário global é vista como positiva pelos especialistas, que reforçam o papel da IA como uma ferramenta poderosa, porém que exige uso ponderado. Wick destaca que a primeira pergunta a ser feita é se o problema que se deseja resolver realmente necessita da aplicação de IA.

A Educação como Pilar para Mitigar Riscos

Executivos da Hitachi Vantara indicam que a capacitação dos usuários é fundamental para estruturar o uso da IA e reduzir riscos. Entender o funcionamento da tecnologia e as implicações de seu uso é essencial, mas essa formação demanda tempo, algo frequentemente negligenciado pelas organizações.

Gibson enfatiza que as empresas precisam definir claramente seus objetivos com a IA, conhecer os perigos envolvidos e evitar pressa na implementação. Testes prévios e conscientização são passos indispensáveis para garantir uma adoção segura e eficaz.

Segurança de Dados em Evidência

O relatório também destaca que a segurança dos dados tornou-se a maior preocupação das lideranças na implementação da IA, com 56% delas apontando esse tema como o principal desafio, um aumento de 19 pontos percentuais em relação ao ano anterior. Esse cenário reflete no uso dos modelos de linguagem de grande escala (LLMs), que registraram uma queda na percepção de sucesso, caindo de 95% para 81%.

Paralelamente, cresce o investimento em governança e qualidade dos dados. A proporção de empresas que aprimoram os dados para treinamento aumentou de 39% para 49%, enquanto a adoção de frameworks de governança subiu de 32% para 45%. Auditorias regulares passaram de 36% para 44%, e o percentual de organizações sem estratégia de explicabilidade dos modelos caiu de 42% para 24%.

Equilíbrio Entre Inovação e Segurança

Apesar das críticas, os especialistas reforçam que a governança e a segurança não devem frear a inovação, mas sim potencializar o uso da IA com segurança para os negócios. Gibson ressalta que, inicialmente, a IA parecia uma ferramenta altamente útil, mas a frequência de alucinações e o retorno sobre investimento nem sempre positivo evidenciaram riscos para as empresas, já que a tecnologia nem sempre oferece resultados determinísticos.

O futuro da tecnologia, segundo Gibson, aponta para interfaces unificadas onde será possível solicitar resultados diretamente, mas para isso é necessário que as organizações estejam estruturadas para suportar essa evolução com segurança.