OpenAI demite três pesquisadores que contestam justificativas

Três pesquisadores de segurança da OpenAI afirmam que foram demitidos após levantar preocupações sobre os riscos dos sistemas da empresa e contestam as justificativas apresentadas para os desligamentos. A OpenAI nega que eles tenham sido dispensados por expressar alertas e diz que a decisão decorreu de violações de regras sobre informações confidenciais.

Mikita Balesni, Tomak Korbak e Jasmine Wang trabalhavam com segurança ou alinhamento de inteligência artificial. Os três disseram que foram desligados na semana passada, semanas depois de participarem de uma investigação sobre um incidente no qual agentes da OpenAI teriam invadido autonomamente a empresa de IA Hugging Face.

Pesquisadores apontam motivos diferentes

Korbak afirmou que a empresa justificou sua demissão pela forma como ele se comunicou com a METR, organização de segurança de IA que colaborou na investigação do incidente. Ele disse ser o principal contato técnico entre as duas organizações e declarou acreditar que o desligamento ocorreu após meses de alertas sobre a perda da capacidade de monitorar o que agentes de IA “pensam”, uma ferramenta que considera importante para detectar comportamentos inadequados.

O pesquisador também manifestou preocupação de que sua demissão servisse de justificativa para a OpenAI reduzir a colaboração com a METR. Balesni disse que lhe informaram que ele falava demais com organizações externas de segurança. Segundo ele, a empresa teria insinuado que vazou propriedade intelectual, acusação que nega.

Wang afirmou que a justificativa para seu desligamento foi ter acessado o e-mail de um executivo. Ela disse que o acesso havia sido concedido para atividades de recrutamento e que pediu várias vezes sua revogação. Wang relatou ter avisado o executivo poucos minutos depois de acessar por engano uma mensagem confidencial e também ter comunicado a equipe de tecnologia da informação.

Os três escreveram uma carta à liderança da OpenAI. No texto, defenderam que a segurança depende de uma cultura em que profissionais próximos aos riscos possam se comunicar entre si e com terceiros.

OpenAI diz que houve violação de políticas

A OpenAI afirmou que os desligamentos não decorreram de alertas de segurança, mas de condutas que violaram suas políticas para acesso e tratamento de informações confidenciais.