Segurança de dados é o maior desafio na adoção da IA, revela Hitachi Vantara

Desafios na implementação da inteligência artificial

Três elementos cruciais dominam as preocupações dos executivos da Hitachi Vantara ao aplicar inteligência artificial (IA) nas corporações: estruturação de dados, governança e infraestrutura. Conforme aponta um relatório global da empresa, a cibersegurança tem sido impactada negativamente desde que a IA generativa ganhou destaque e popularidade, especialmente diante da iminente chegada dos agentes de IA, que ampliam os riscos existentes.

Shane Gibson, especialista técnico sênior para as Américas na Hitachi Vantara, explica que a introdução desses agentes traz novas vulnerabilidades, já que suas ações podem desencadear consequências não intencionais se não forem monitoradas com rigor. Além disso, há um desconhecimento generalizado sobre o funcionamento dessas ferramentas.

Confiança excessiva e vulnerabilidades

Segundo Gibson, muitas organizações depositam confiança excessiva nos resultados gerados pela IA e, motivadas pelo entusiasmo, implementam soluções sem a devida necessidade ou em ritmo acelerado, o que cria brechas para falhas de segurança. O relatório ressalta que cerca de 91% dos agentes ainda apresentam fenômenos de alucinação, enquanto 76% dos dados corporativos permanecem não estruturados — justamente o tipo mais explorado pela IA.

No Brasil, o cenário é diferente. O país passa por um processo intenso de digitalização, frequentemente sustentado por sistemas legados e ambientes heterogêneos. Os executivos brasileiros demonstram um perfil mais cauteloso, buscando avaliações detalhadas antes de investir em IA.

Postura cautelosa dos brasileiros diante da IA

Joshua Wick, líder global de riscos e compliance da Hitachi Vantara, destaca que os profissionais brasileiros têm adotado uma postura prudente na entrada no mercado da IA, realizando due diligence aprofundada antes de aplicar recursos financeiros. Essa cautela se justifica pelo receio quanto ao valor inicial dos investimentos, baseado nos estudos disponíveis até o momento.

Essa abordagem mais conservadora é vista como positiva pela empresa, que enxerga a inteligência artificial como uma ferramenta poderosa que, entretanto, deve ser usada com moderação. Wick enfatiza a importância de questionar se o problema a ser resolvido realmente exige IA, antes de sua implementação.

Educação como pilar para mitigar riscos

Para os executivos da Hitachi Vantara, educar os usuários sobre o funcionamento e as implicações do uso da IA é fundamental para estabelecer uma estrutura segura e reduzir riscos. Shane Gibson alerta que essa capacitação demanda tempo e, muitas vezes, é negligenciada pelas organizações.

Ele reforça a necessidade de definir claramente os objetivos com a IA, entender os perigos envolvidos e evitar pressa na implantação. Testes antecipados e planejamento cuidadoso são essenciais para minimizar vulnerabilidades.

Segurança de dados lidera preocupações globais

O relatório revela que a segurança de dados tornou-se a principal preocupação entre líderes empresariais, com 56% apontando o tema como o maior desafio na adoção da IA — um aumento de 19 pontos percentuais em relação ao ano anterior. Essa atenção crescente se reflete na diminuição da percepção de sucesso dos modelos de linguagem de grande escala (LLMs), como ChatGPT e Copilot, que caíram de 95% para 81%.

Em paralelo, as empresas têm reforçado investimentos em governança e qualidade dos dados. A parcela que aprimora dados para treinamento aumentou de 39% para 49%, e a adoção de frameworks de governança avançou de 32% para 45%. Auditorias regulares de desempenho também cresceram, passando de 36% para 44%, enquanto organizações sem estratégia clara de explicabilidade dos modelos reduziram-se de 42% para 24%.

Equilíbrio entre inovação e segurança

Apesar das ressalvas, os especialistas reforçam que governança e segurança são ferramentas para potencializar a inovação com segurança, não barreiras que a impeçam. Gibson acredita que o futuro das interfaces de IA será mais simplificado, permitindo que os usuários obtenham resultados diretamente, mas isso depende de uma estrutura sólida prévia.

O avanço da tecnologia exige que as empresas se preparem adequadamente, equilibrando inovação com proteção dos negócios. Essa atenção detalhada à governança da IA será fundamental para garantir resultados confiáveis e seguros na transformação digital.