OpenAI e Microsoft interrompem esforços de cybercriminosos afiliados a governos da China, Irã, Coreia do Norte e Rússia que tentavam explorar o chatbot GPT-3 para fins maliciosos. Os criminosos digitais estavam usando a tecnologia de IA para realizar atividades fraudulentas, como ataques de phishing, disseminação de desinformação e outras práticas enganosas. Esses hackers patrocinados pelo Estado tentaram usar o chatbot para realizar espionagem cibernética e operações de influência.
Microsoft e OpenAI têm colaborado para combater essas ameaças, implementando políticas de uso rigorosas e moderando as saídas do sistema para evitar o uso indevido. Eles fortaleceram ainda mais as defesas do sistema usando métodos como moderação ativa por seres humanos, modelos de aprendizado de máquina para detectar o uso indevido e feedback dos usuários para melhorar a resistência geral do sistema. A vigilância dessas empresas destaca a importância das medidas de cibersegurança no cenário em constante evolução da inteligência artificial.