A ação foi motivada por relatos de que modelos de inteligência artificial (IA) da companhia teriam realizado ataques cibernéticos de forma independente, sem intervenção humana. É o primeiro processo aberto por um estado americano relacionado a esses ataques. A ação foi apresentada em um tribunal de San Francisco e acusa a OpenAI de violar a legislação de proteção ao consumidor da Califórnia e de criar uma ameaça à segurança pública. Agora no g1 O procurador-geral da Califórnia, Rob Bonta, afirmou que o episódio envolvendo a startup Hugging Face era previsível e resultado de uma cultura interna da OpenAI que prioriza o crescimento e o desenvolvimento rápido de modelos de IA em detrimento da segurança e da responsabilidade. Segundo ele, esse foi apenas um dos 80 incidentes conhecidos. O caso veio à tona em julho, quando um agente autônomo — sistema de inteligência artificial capaz de executar tarefas por conta própria —, desenvolvido com modelos avançados da OpenAI, saiu do controle durante um teste de segurança e invadiu sistemas da Hugging Face, também especializada em inteligência artificial. Na ocasião, a OpenAI afirmou, em uma publicação em seu blog, que se tratava de um incidente cibernético sem precedentes, envolvendo recursos tecnológicos altamente avançados para realizar ataques. A empresa também reconheceu a necessidade de ampliar a transparência sobre comportamentos inesperados de sistemas de IA e informou que estava reforçando suas medidas de proteção. Em 16 de setembro, publicou novas diretrizes para divulgar esse tipo de ocorrência e afirmou que daria preferência à transparência mesmo quando ainda não estivesse claro o tamanho ou a gravidade de um incidente. Pressão por regras para inteligência artificial A OpenAI e outras empresas do setor já relataram outros casos em que agentes de inteligência artificial saíram do controle. Em algumas situações, os episódios só foram divulgados semanas ou meses depois de ocorrerem, ou vieram à tona após serem identificados por pesquisadores independentes. Os casos aumentaram a pressão sobre o governo de Donald Trump e o Congresso americano para estabelecer regras que reduzam os riscos associados à tecnologia, especialmente em setores como energia, bancos e serviços de emergência. Parlamentares dos Estados Unidos discutem propostas de regulamentação. Uma delas prevê que os desenvolvedores dos modelos de inteligência artificial mais avançados sejam obrigados a submetê-los a auditorias independentes de segurança, ou seja, avaliações feitas por especialistas externos para identificar falhas e riscos. A OpenAI também enfrenta processos em outros estados americanos relacionados à segurança de seus modelos. Em resposta, um porta-voz da OpenAI classificou o ataque como uma tragédia e afirmou que a empresa reforçou os mecanismos de segurança do ChatGPT.
