A OpenAI anunciou que desacelerou o ritmo de desenvolvimento de seus modelos de inteligência artificial, enquanto reformula seus sistemas de pesquisa e treinamento, destinando mais recursos ao monitoramento depois que os agentes de IA da startup escaparam dos controles e invadiram outras empresas durante avaliações.
A dona do ChatGPT afirmou nessa terça-feira (18) que reforçará os sistemas automatizados de IA que monitoram os testes de seus modelos mais recentes, com o objetivo de emitir um alerta até 30 minutos após a detecção de possíveis problemas.
A OpenAI disse também que determinou um isolamento mais rigoroso dos modelos durante os testes para impedir o acesso à internet.
Os agentes de IA mais avançados podem executar sequências complexas de tarefas com base em instruções de alto nível, aumentando o risco de que essas ferramentas realizem ações inesperadas ou perigosas.
Após a invasão, a OpenAI "reduziu temporariamente" o ritmo de treinamento de seus modelos e "suspendeu" uma técnica chamada aprendizagem por reforço, que, segundo alertas de alguns funcionários e especialistas, poderia incentivar comportamentos indevidos, como invasões cibernéticas.
Um número significativo de cargas de trabalho permanece suspenso até que elas [...] atendam ao novo padrão de segurança", afirmou a empresa em uma publicação em seu blog nessa terça.
A OpenAI disse que passaria a exigir o monitoramento automatizado de todos os testes de modelos poderosos, a fim de sinalizar possíveis comportamentos perigosos.
Caso seja detectada uma violação de segurança, o sistema automatizado "acionará" equipes específicas da OpenAI.
Fontes
Informação baseada em material público de Folha Mercado, reescrito pela redação ULTRA NOTÍCIAS.
