Tudo sobre Estados Unidos
Tudo sobre Inteligência Artificial
Tudo sobre OpenAI
O procurador-geral do Alabama (EUA) anunciou, nesta segunda-feira (24), que o Estado abriu investigação contra a OpenAI após incidente no qual um modelo de inteligência artificial (IA) da empresa invadiu os sistemas da plataforma Hugging Face.
Continua após a publicidade
A investigação inclui uma intimação enviada à OpenAI e busca esclarecer se a empresa apresentou uma “completa falta de supervisão e salvaguardas adequadas” durante o incidente envolvendo a Hugging Face.
Segundo comunicado do procurador-geral do Alabama, Steve Marshall, o Estado pretende verificar se a “incapacidade ou falta de disposição da OpenAI para garantir a segurança de seus produtos” violou as leis estaduais de proteção ao consumidor.
A investigação ocorre algumas semanas depois de a própria OpenAI admitir que um de seus modelos de cibersegurança, ainda não lançado e sem mecanismos de proteção, escapou de um ambiente isolado, conectou-se à internet e invadiu a plataforma de datasets de IA Hugging Face.
O episódio não teria atingido apenas a Hugging Face. A plataforma foi uma das quatro vítimas de uma operação que, segundo a OpenAI, deveria ser apenas uma “avaliação interna” de um modelo com “capacidades cibernéticas máximas”.
Investigação busca avaliar segurança dos produtos
- A intimação enviada pelo Alabama pretende obter informações que permitam determinar se a OpenAI adotou medidas suficientes para supervisionar o modelo e impedir que ele ultrapassasse os limites estabelecidos para o teste;
- O modelo envolvido ainda não havia sido lançado comercialmente e não contava com os mecanismos de segurança normalmente empregados para limitar seu comportamento;
- Durante a avaliação, porém, o sistema conseguiu sair do ambiente isolado em que deveria permanecer, acessar a internet e realizar um ataque contra a Hugging Face;
- O caso chamou atenção justamente porque a atividade deveria ocorrer dentro de um ambiente controlado;
- A investigação do Alabama busca determinar se a forma como a OpenAI conduziu o teste poderia representar uma violação das normas estaduais de proteção ao consumidor.
OpenAI promete relatório sobre o incidente
Procurada pelo TechCrunch, a OpenAI afirmou que o episódio representou um momento importante para a segurança da IA. “O incidente da Hugging Face marcou um momento importante para a segurança da IA e estamos realizando uma análise completa junto com consultores externos”, afirmou Nate Evans, porta-voz da empresa.
Segundo Evans, depois que a revisão for concluída, a OpenAI pretende compartilhar um relatório técnico com as autoridades governamentais relevantes e publicar suas conclusões.
Procuradores de 15 estados pressionaram OpenAI
A investigação do Alabama ocorre depois de iniciativa conjunta de procuradores-gerais de vários estados estadunidenses.
No início de agosto, Steve Marshall e os procuradores-gerais de outros 14 estados, incluindo Flórida, Missouri, Pensilvânia e Texas, enviaram uma carta ao CEO da OpenAI, Sam Altman. O documento solicitava que Altman e a empresa preservassem todos os registros relacionados ao incidente envolvendo a Hugging Face.
Continua após a publicidade
Os procuradores também pediram que a OpenAI interrompesse imediatamente suas avaliações internas de cibersegurança.
A solicitação foi feita no contexto das preocupações sobre a capacidade de modelos avançados de IA realizarem operações cibernéticas e sobre os mecanismos utilizados pelas empresas para impedir que esses sistemas ultrapassem os limites definidos durante testes.
Incidente alimenta debate sobre desenvolvimento de IA
O caso da Hugging Face também se soma a outros episódios envolvendo sistemas avançados de IA.
Após o incidente, e depois de outros casos divulgados pela Anthropic, pelo AI Security Institute do Reino Unido, pela Meta e por funcionários de empresas de IA, executivos e líderes técnicos do setor assinaram uma carta aberta chamada “Pacing the Frontier”.
O documento defende que o desenvolvimento das capacidades de IA seja realizado de maneira mais lenta e responsável.
Continua após a publicidade
A carta também pede que o governo dos Estados Unidos apoie um esforço internacional para desenvolver ferramentas técnicas e mecanismos de governança que permitam controlar deliberadamente o ritmo de evolução da IA automatizada.
Rodrigo Mozelli
Rodrigo Mozelli é jornalista formado pela Universidade Metodista de São Paulo (UMESP) e, atualmente, é redator do Olhar Digital.
!function(f,b,e,v,n,t,s){
if(f.fbq)return;
n=f.fbq=function(){n.callMethod?n.callMethod.apply(n,arguments):n.queue.push(arguments)};
if(!f._fbq)f._fbq=n;n.push=n;n.loaded=!0;n.version=’2.0′;
n.queue=[];t=b.createElement(e);t.async=!0;
t.src=v;s=b.getElementsByTagName(e)[0];
s.parentNode.insertBefore(t,s)
}(window, document,’script’, ‘https://connect.facebook.net/en_US/fbevents.js’);
fbq(‘init’, ‘1221644929160171’);
fbq(‘track’, ‘PageView’);
