Segurança de Dados é o Maior Desafio na Adoção de IA, Aponta Hitachi Vantara

Principais desafios na implementação de inteligência artificial

Executivos da Hitachi Vantara apontam que a segurança de dados é o principal obstáculo na adoção de inteligência artificial (IA) nas empresas, conforme revela um relatório global divulgado pela companhia. Os três pilares que mais preocupam são a estruturação dos dados, a governança e a infraestrutura. Desde o surgimento da versão generativa da IA, o cenário de cibersegurança tem sido ameaçado pela ausência desses elementos fundamentais, um problema que pode se intensificar com a chegada dos agentes de IA.

Shane Gibson, especialista técnico sênior para as Américas da Hitachi Vantara, alerta que a implementação desses agentes traz riscos adicionais, pois eles podem executar ações com consequências inesperadas se não forem monitorados constantemente. Ele ressalta também o grande equívoco existente sobre o funcionamento dessas ferramentas.

Confiança excessiva e vulnerabilidades crescentes

Para Gibson, muitas empresas têm depositado uma confiança exagerada nos resultados produzidos pela IA, motivadas pelo entusiasmo com a tecnologia. Essa pressa tem levado à implementação de soluções desnecessárias ou em ritmo acelerado, criando novas vulnerabilidades. O relatório indica que alucinações em agentes de IA ainda ocorrem em aproximadamente 91% dos casos, enquanto 76% dos dados corporativos permanecem não estruturados — justamente o tipo mais explorado pelas aplicações de IA.

No Brasil, o cenário apresenta características distintas. O país passa por uma digitalização acelerada, frequentemente apoiada em ambientes legados e heterogêneos. Os executivos brasileiros de tecnologia são considerados conservadores pela Hitachi Vantara, adotando uma postura cautelosa diante do mercado de IA.

Joshua Wick, líder global de riscos e compliance da Hitachi Vantara, observa que os executivos brasileiros buscam realizar uma análise mais profunda antes de investir financeiramente na tecnologia. Ele destaca que há uma apreensão relacionada ao valor inicial dos investimentos, baseada nos estudos disponíveis até o momento.

Educação e controle são essenciais para mitigar riscos

Especialistas veem essa cautela como positiva, lembrando que a inteligência artificial é uma ferramenta poderosa que exige uso responsável. Wick defende que as empresas deveriam questionar se um problema pode ser resolvido sem recorrer à IA antes de adotá-la.

A educação dos usuários surge como uma estratégia fundamental para estruturar processos e reduzir riscos. É necessário que as pessoas compreendam como a tecnologia funciona e as implicações de seu uso. Gibson destaca que esse processo demanda tempo e não deve ser negligenciado.

“É essencial saber exatamente o que se espera da IA, entender os perigos envolvidos e evitar pressa na implementação. As organizações precisam estar conscientes desses pontos e realizar testes antes de colocar a tecnologia em produção”, ressalta o especialista.

Aumento da preocupação com segurança e mudanças no uso dos modelos de linguagem

O relatório revela que a segurança de dados passou a ser a principal preocupação dos líderes empresariais, com 56% deles apontando o tema como o maior desafio na adoção da IA — um aumento de 19 pontos percentuais em relação ao ano anterior. Esse movimento reflete-se no uso dos modelos de linguagem de grande escala (LLMs), que apresentaram queda na taxa de sucesso percebida.

Ferramentas de IA generativa, como ChatGPT e Copilot, tiveram sua taxa de sucesso avaliada em 81%, ante 95% no ano anterior. Paralelamente, cresce o investimento em governança e qualidade dos dados, com aumento na adoção de frameworks de governança, aprimoramento dos dados usados em treinamentos e auditorias regulares de desempenho.

O percentual de organizações sem qualquer estratégia para explicabilidade dos modelos caiu significativamente, passando de 42% para 24%. Gibson explica que, inicialmente, a IA parecia uma ferramenta promissora, mas com o tempo as alucinações e a falta de retorno sobre o investimento evidenciam os riscos para os negócios, já que a tecnologia nem sempre é determinística.

Governança e segurança não impedem inovação, dizem especialistas

Apesar dos desafios, os especialistas reforçam que governança e segurança são essenciais para garantir a inovação com segurança. Gibson acredita que, futuramente, haverá interfaces únicas capazes de gerar resultados a partir de comandos simples, mas ressalta que a estruturação atual é fundamental para alcançar esse estágio.

“A tecnologia continuará a evoluir, mas é preciso estabelecer bases sólidas antes de avançar”, conclui o especialista.