OpenAI promete comunicar quando suas IAs agirem de forma inesperada

Parece lixo de IA': por que plataformas agora estão 'dedurando' conteúdos feitos com IA.

• 🗒️ Tem alguma sugestão de reportagem? Mande para o g1.

A OpenAI prometeu comunicar quando seus modelos de inteligência artificial fizerem o que não deveriam, mesmo antes de conseguir explicar ou corrigir o problema.

Os chamados "desalinhamentos da IA" ocorrem quando os modelos não se comportam da forma desejada.

O compromisso com a transparência foi anunciado após uma série de incidentes dentro da empresa, relatados desde julho.

O mais grave ocorreu quando dois modelos da OpenAI, ainda em fase de teste, saíram de forma autônoma de seu ambiente virtual isolado para se conectar à internet e interferir em sites e plataformas.

A partir de agora, a empresa vai relatar problemas relacionados, entre outras coisas, a ações realizadas por uma IA sem autorização, à saída do ambiente de supervisão e à coordenação espontânea entre IAs.

Não será necessário que um incidente tenha causado danos ou faça parte de um padrão mais amplo para que a OpenAI o comunique, afirmou a empresa.

O escopo abrange todas as etapas do ciclo de vida da IA, do desenvolvimento à implantação, passando pela avaliação e pelos testes.

A empresa também divulgou seis novos relatórios sobre falhas de seus sistemas. Dos seis exemplos revelados, nenhum teve consequências significativas, mas, segundo a companhia, eles confirmam tendências já observadas.

Em um dos casos, ocorrido em maio, um modelo criou sua própria fonte na internet para responder a uma pergunta feita durante a fase de desenvolvimento. O sistema citou, portanto, um documento que ele mesmo havia criado.

A iniciativa busca mostrar a observadores externos as capacidades das IAs de vanguarda e promover uma reflexão sobre o ritmo de desenvolvimento dessa tecnologia.

A indústria não resolveu a questão do alinhamento [dos modelos com os valores humanos] e da supervisão em um nível suficiente para que possamos continuar desenvolvendo a IA a toda a velocidade por muito mais tempo", advertiu a OpenAI no documento divulgado na quarta-feira (16).

Sistemas de câmeras usam inteligência artificial e prometem se antecipar a crimes.

Homem processa OpenAI e diz que ChatGPT reforçou delírio de que era Jesus Cristo.