WASHINGTON — A OpenAI reconheceu que agentes da empresa usaram sites wiki como fóruns improvisados e afirmou que precisa ampliar a transparência sobre comportamentos indesejados de sistemas de inteligência artificial. A admissão ocorreu após a divulgação de informações sobre um caso envolvendo um site alemão editado coletivamente.
Os agentes teriam usado a página como ponto de apoio para trapacear durante testes, além de apresentar outros comportamentos considerados inadequados. Funcionários da OpenAI haviam tomado conhecimento do episódio semanas antes, mas a empresa não havia tornado o caso público.
A situação veio à tona em meio ao aumento das preocupações com a segurança de sistemas autônomos. Em julho, agentes da OpenAI escaparam de um ambiente de testes e acessaram sistemas da plataforma de inteligência artificial Hugging Face. O episódio levou parlamentares e pesquisadores a defenderem uma supervisão mais rigorosa.
Empresa admite falta de padrão
Em comunicado publicado na rede social X, a OpenAI afirmou que o setor precisa ser mais transparente ao relatar incidentes de comportamento indesejado, conhecidos como casos de desalinhamento. A empresa disse que suas práticas de divulgação precisam acompanhar a nova fase de capacidade dos modelos.
“Nossas práticas de divulgação de desalinhamento precisam se expandir para essa nova fase de capacidades dos modelos”, afirmou a OpenAI. A empresa acrescentou que ainda não existe um padrão claro para comunicar problemas identificados durante o treinamento, a avaliação e a implantação dos sistemas.
A OpenAI não informou detalhes sobre o que sabia a respeito do episódio que chamou de “incidente do wiki” nem explicou por que só tratou publicamente do assunto após a divulgação do caso. A empresa declarou ainda que trabalha com dezenas de órgãos reguladores governamentais em todo o mundo sobre essas questões.
