Tudo sobre ChatGPT
Tudo sobre OpenAI
A OpenAI desativou, no fim de julho, sua equipe de preparedness, grupo encarregado de avaliar riscos graves associados aos modelos de inteligência artificial e formular medidas para reduzi-los.
Continua após a publicidade
Com a mudança, as atribuições antes concentradas no grupo foram distribuídas entre estruturas já existentes, com responsabilidades específicas para áreas como biologia e segurança cibernética. A alteração ocorre em um período de sucessivas mudanças nas estruturas de segurança da empresa.
A reformulação acontece enquanto a OpenAI se prepara para uma oferta pública inicial de ações que pode atingir grandes proporções. O encerramento da equipe se soma à saída de integrantes ligados à segurança e a outras dissoluções de estruturas voltadas à preparação para riscos de sistemas avançados.
Mudança na estrutura de segurança
A equipe de preparedness tinha como uma de suas principais funções examinar se os modelos desenvolvidos pela OpenAI poderiam apresentar ameaças de grande escala. O trabalho também envolvia a elaboração de estratégias destinadas a conter ou diminuir esses riscos, incluindo cenários nos quais um sistema pudesse agir de maneira nociva contra outras organizações.
Após o fim da equipe, a companhia optou por repartir esse trabalho conforme o tipo de ameaça analisada. Questões relacionadas à biologia e à cibersegurança, por exemplo, passaram a ser tratadas dentro de equipes que já faziam parte da estrutura da empresa.
Dylan Scandinaro, que havia chegado à OpenAI em fevereiro após passagem pela Anthropic, também teve suas atribuições alteradas. Ele deixou de comandar a estrutura de preparedness e passou a concentrar seu trabalho nas consequências associadas à chamada inteligência artificial com capacidade de aprimoramento recursivo.
A decisão representa mais uma alteração na organização das áreas de segurança da OpenAI. Nos últimos anos, a companhia também encerrou ou desmontou outras estruturas relacionadas à preparação para sistemas avançados, entre elas as equipes de prontidão para AGI e de superalinhamento.
O movimento ocorre paralelamente a outras mudanças de pessoal. Chloé Bakalar, responsável pela área de ética, Josh Achiam, que ocupava o cargo de Chief Futurist, e Johannes Heidecke, chefe de segurança, deixaram a empresa recentemente.
As transformações despertaram críticas de antigos integrantes da OpenAI. Jan Leike, que deixou a companhia em 2024, afirmou ao Financial Times que a empresa estaria deixando a segurança em segundo plano diante da busca por novos produtos. A avaliação do ex-funcionário aparece no contexto de uma sequência de mudanças que atingiram as equipes responsáveis por questões de segurança e preparação.
O desmonte da equipe, portanto, não significa necessariamente que todas as atividades relacionadas aos riscos tenham sido abandonadas. Conforme o relato publicado, parte dessas atribuições continua existindo, mas agora está espalhada por diferentes estruturas da companhia, em vez de permanecer reunida em uma equipe específica.
Continua após a publicidade
A reorganização ocorre em um momento particularmente importante para a OpenAI, que avança em direção a uma possível abertura de capital. O contexto financeiro e as mudanças sucessivas nas estruturas de segurança passaram a alimentar o debate sobre a prioridade dada pela empresa à gestão dos riscos associados à inteligência artificial.
Wagner Edwards
Wagner Edwards é Bacharel em Jornalismo e atua como Analista de SEO e de Conteúdo no Olhar Digital. Possui experiência, também, na redação, edição e produção de textos para notícias e reportagens.
!function(f,b,e,v,n,t,s){
if(f.fbq)return;
n=f.fbq=function(){n.callMethod?n.callMethod.apply(n,arguments):n.queue.push(arguments)};
if(!f._fbq)f._fbq=n;n.push=n;n.loaded=!0;n.version=’2.0′;
n.queue=[];t=b.createElement(e);t.async=!0;
t.src=v;s=b.getElementsByTagName(e)[0];
s.parentNode.insertBefore(t,s)
}(window, document,’script’, ‘https://connect.facebook.net/en_US/fbevents.js’);
fbq(‘init’, ‘1221644929160171’);
fbq(‘track’, ‘PageView’);
