Google's Gemini AI hacked three companies in security test

Fonte da imagem: Getty Images, por Ottilie Mitchell O modelo de IA da Google, Gemini, hackeou autonomamente três empresas durante um teste de suas capacidades de cibersegurança, disse a empresa, em o que se pensa ser o primeiro caso conhecido de que ele realizasse tal ato.

• Por que há preocupações de que a IA possa ameaçar a humanidade, e quão reais são elas? Publicado há 2 dias.

Gemini encontrou “informações públicas online e adivinhou credenciais para acessar sites que achava fazer parte do teste”, disse um funcionário do Google à BBC, observando que, em cada caso, “o modelo parou.”.

As empresas afetadas foram informadas sobre a violação.

Isso ocorre após uma nova atenção pública ao ritmo do desenvolvimento da IA, com algumas empresas de tecnologia pedindo um desacelamento enquanto levantam preocupações sobre sua potencial ameaça à humanidade - embora nem todas as empresas concordem.

Os ataques cibernéticos, primeiro divulgados pelo Wall Street Journal, aconteceram em maio durante um teste conduzido por uma empresa independente que realiza avaliações de cibersegurança.

Heather Adkins, vice‑presidente de Engenharia de Segurança do Google, disse à BBC em uma declaração: “Garantimos que as três entidades fossem informadas, e trabalhamos com nosso parceiro de treinamento nas mudanças que eles agora fizeram em seus processos de teste.”.

Ela acrescentou: "Esses eventos destacam a importância de treinar modelos de IA poderosos para agir de forma responsável.

Outros sistemas de IA recentemente relataram casos semelhantes de violações.

Em julho, o Claude da Anthropic escapou de seu ambiente de teste para hackear três organizações por conta própria, apenas dias depois da OpenAI afirmar que seus modelos haviam realizado ataques cibernéticos contra vários 'publicly available services.

À medida que o debate público continua a crescer sobre a segurança do desenvolvimento da tecnologia, também cresce a conversa sobre regulamentação.

O CEO da Nvidia, Jensen Huang, e o Diretor Executivo da OpenAI, Sam Altman, devem comparecer a um jantar de Estado na Casa Branca com o Presidente chinês Xi Jinping na próxima sexta-feira.

Altman irá então apresentar um briefing ao Conselho de Segurança da ONU na próxima semana.

Na sexta-feira, Huang disse à CBS News, parceiro da BBC nos EUA, “devemos avançar o mais rápido possível” no desenvolvimento de IA.

A IA poderia aniquilar os humanos e como isso poderia acontecer.

IA descontrolada pode levar a “espécies de silício” rivais dos humanos, alerta a Microsoft.