OpenAI e Anthropic prometem proteção de dados corporativos, mas o risco da 'Shadow AI' permanece

Gigantes da inteligência artificial, como OpenAI e Anthropic, garantem que não utilizarão dados de nível empresarial para treinamento de modelos, mas especialistas alertam para perigos ocultos. O foco agora recai sobre a segurança da informação e a necessidade de governança rigorosa para evitar vazamentos acidentais.

A ascensão da chamada 'Shadow AI' — o uso não autorizado de ferramentas de IA por funcionários — representa uma ameaça crítica à privacidade corporativa. Sem auditorias constantes, o uso de ferramentas de IA de consumo pode comprometer dados sensíveis, transformando uma promessa de segurança em um ponto cego de vulnerabilidade digital.

Embora a OpenAI e a Anthropic tenham estabelecido diretrizes afirmando que não treinarão seus modelos com dados de contas empresariais, a segurança não está totalmente garantida. O grande desafio reside no fenômeno da 'Shadow AI', onde colaboradores utilizam versões gratuitas ou de consumo de ferramentas de IA para tarefas cotidianas sem o conhecimento do departamento de TI.

Este comportamento cria um risco significativo de exposição de dados sensíveis. Especialistas recomendam que as empresas implementem auditorias rigorosas sobre o uso de ferramentas de inteligência artificial para mitigar riscos e garantir que a inovação não comprometa a integridade da informação corporativa.