Quando o presidente Donald Trump respondeu aos crescentes pedidos de desaceleração no desenvolvimento da inteligência artificial (IA) na segunda-feira, ele foi inequívoco.
- O 'kill switch' da IA pode precisar ser obrigatório, disse o co-fundador da Anthropic à BBCPublished há 10 horas.
- Equipe de IA 'genuinamente assustada' pelo futuro da humanidade, diz ex-pesquisador antrópico à BBC.
- O governo do Reino Unido rejeita a ideia de'kill switch' para IA perigosa.
Pesquisador da Anthropic acredita que há mais de 10% de chance de a IA “poderia matar todos os humanos” – publicado há 5 dias.
Legenda da figura, Assista: "Ótimo" ou "alarmante" - A IA deve ser controlada.
AI taking over the World, destroying Humanity, and all other things bad, is a HOAX," ele escreveu nas redes sociais. Ele já havia argumentado que "the only control or 'guardrails' that AI needs" é um presidente "strong and smart.
A visão de Trump, sem surpresa, não é compartilhada por democratas seniores no Congresso. Também é contestado por figuras de destaque no setor de IA, que nos últimos dias emitiram alertas de segurança severos e defenderam a regulamentação governamental.
Nos EUA, no entanto, a nova legislação de segurança sobre IA é improvável em breve.
Qualquer projeto de lei teria que ser aprovado na Câmara dos Deputados e no Senado para se tornar lei. A firme oposição de Trump a novas barreiras de proteção à IA significa que o Partido Republicano, que tem maioria em ambas as câmaras, dificilmente romperá com ele e apoiará restrições ou controles governamentais.
E mesmo que o fizessem, qualquer projeto de lei que fosse aprovado provavelmente exigiria a assinatura do presidente para entrar em vigor. A rejeição de Trump da necessidade de regulamentos na segunda-feira efetivamente interrompeu qualquer esperança de ação executiva.
Além disso, um obstáculo mais imediato a qualquer movimento no Congresso é o relógio.
A Câmara deve entrar em recesso no final da semana até depois das eleições de meio de mandato no início de novembro. Alguns líderes democratas estão pedindo que esse recesso seja adiado até que as salvaguardas da IA possam ser aprovadas na câmara.
O Congresso não deve deixar a cidade até que algo seja feito de forma decisiva para proteger a segurança e o bem-estar do povo americano ", disse o líder da minoria democrata na Câmara, Hakeem Jeffries, a repórteres na segunda-feira.
Um grupo de democratas da Câmara pedindo que o Congresso tenha mais tempo para debater a questão também escreveu uma carta ao presidente republicano Mike Johnson, que acabaria decidindo adiar o recesso.
Mentes razoáveis podem discordar sobre exatamente como o Congresso deve regular essa tecnologia em rápida evolução," disse o grupo. "Não podemos discordar da necessidade imperativa de o Congresso agir.
Legenda da figura, IA "mais poderosa a cada dia", diz o co-fundador da Anthropic à BBC.
No fim de semana, a congressista republicana Anna Paulina Luna sugeriu no X que "o Congresso DEVERIA convocar uma sessão especial" sobre o assunto.
Mas é altamente improvável que o recesso seja adiado ou que uma sessão especial seja convocada nos próximos dias. O presidente Johnson, que na segunda-feira enfrentou uma enxurrada de perguntas sobre IA de repórteres nos corredores do Congresso, não deu sinais de que pretendia agir rapidamente esta semana.
Quando lhe perguntaram se a Câmara tomaria medidas sobre as preocupações com IA antes de fazer a pausa para as eleições de meio de mandato, ele respondeu: “Esta é uma questão muito complexa.”.
Ele disse que Trump realizaria uma reunião na Casa Branca em breve com executivos de IA para discutir "a responsabilidade das empresas de manter a segurança e que papel, se houver, o governo tem que desempenhar nisso.
Queremos enfatizar a necessidade de [as empresas de IA] fornecerem produtos seguros e autorregulados ", disse Johnson, antes de acrescentar: "Há também um papel potencial para o Congresso desempenhar.
O que esse papel poderia parecer não está claro - e é uma questão contestada entre aqueles no Congresso.
Embora os democratas estejam pressionando por mais tempo para abordar a segurança da IA, eles mesmos estão divididos sobre a melhor forma de regulamentar a IA.
Mesmo que o partido ganhasse o controle de ambas as câmaras do Congresso nas eleições de novembro, não há garantias de uma ação rápida, pois teria que se unir em torno de uma proposta.
E existem inúmeras propostas legislativas já no Capitólio que são projetadas para abordar a segurança da IA, desde revisões independentes, até um "kill switch" federal, até uma moratória total nos data centers proposta pelo senador Bernie Sanders.
Essas propostas divergentes apontam para a falta de consenso no Congresso - mas também para a urgência de alguns legisladores em agir.
O líder da maioria republicana no Senado, John Thune, e sua colega democrata Amy Klobuchar estão trabalhando em um projeto de lei que forçaria algumas empresas de IA a se submeterem à supervisão federal.
Você não quer sufocar a inovação," disse Thune na segunda-feira, "mas acho que você também quer garantir que as ameaças mais avançadas possam ser mitigadas.
Legenda da figura, Assista: "Diminua a velocidade" - Bernie Sanders propõe um projeto de lei para proibir a superinteligência da IA.
A congressista democrata Lori Trahan, por sua vez, passou meses trabalhando em uma proposta bipartidária diferente na Câmara que daria ao governo o poder de interromper o uso de um modelo de IA se as autoridades descobrirem que há um "risco catastrófico iminente.
O governo federal precisa colocar grades de proteção ", disse ela à BBC, alertando que a tecnologia acabaria impactando todos os aspectos da sociedade. - Acho que não temos mais tempo para esperar.
Trahan tem trabalhado em sua proposta de legislação, o Frontier Act, em conjunto com o republicano Jay Obernolte e, entre outras coisas, exigiria auditorias independentes de laboratórios de pesquisa em IA.
Mas Trahan reconheceu que qualquer movimento nesta semana era improvável.
Alguns líderes republicanos, incluindo o presidente Johnson, muitas vezes se referiram à "autorregulação" ao discutir a ação do governo e pediram às empresas que assumissem a responsabilidade pela segurança da IA.
Um dos principais conselheiros de inteligência artificial de Trump, David Sacks, disse à CBS News, parceira da BBC nos EUA, na segunda-feira que algumas das advertências existenciais de fontes internas foram exageradas.
Acho que isso está se tornando um pânico", disse ele.
Em primeiro lugar, cabe a eles tornar seus produtos seguros ", disse Sacks. "Eles devem nos dizer como devem fazer isso. Se eles não podem fazer isso, eles devem se afastar das pessoas que podem fazer isso.
Por que você está agindo como se isso fosse algo que você não pode controlar?" ele disse, referindo-se ao chefe da Anthropic, Dario Amodei, que pediu um desacelamento no desenvolvimento.
Se você não pode controlar, então não faça isso.
Fonte da imagem: ReutersImage caption, Johnson enfrentou perguntas sobre IA de repórteres na segunda-feira.
Alguns especialistas compartilham a visão de que, pelo menos no curto prazo, cabe às empresas de IA se regularem de forma responsável.
Você pode querer uma lei do Congresso, e eu adoraria um regime mandatório pelo Congresso que exija segurança e testes e testes de viés," disse Asad Ramzanali, diretor de Política de IA e Tecnologia da Universidade Vanderbilt.
Mas, na ausência dessa ação, as empresas têm autonomia.
Outros expressaram ceticismo com a recente enxurrada de avisos de funcionários de IA.
Trevor Traina, um executivo de tecnologia que foi diplomata durante o primeiro mandato de Trump, disse: "Eu não acho que o cidadão típico tenha encontrado algo assustador ou realmente problemático com a IA.
Estamos contando com os tweets de meia dúzia de pessoas que estão todas disputando a supremacia percebida ", disse ele. "O cínico em mim pensa: 'Eles estão realmente preocupados ou estão tentando provar qual modelo é o mais incrível.
Alexandra Reeve Givens, que já trabalhou no governo e agora lidera a organização sem fins lucrativos dos EUA, o Centro para Democracia e Tecnologia, disse que não achava que uma regulamentação federal significativa de IA fosse aprovada no futuro próximo.
Enquanto a administração Trump estabeleceu um quadro totalmente voluntário para que empresas de IA enviem seus modelos e ferramentas para avaliação governamental, Givens observou que o próprio quadro permanece secreto.
Não há um padrão claro para garantir que a abordagem seja fundamentada no estado de direito ", disse ela.
Apelos de vários grupos para liberar a estrutura até agora foram ignorados.
A abordagem da Casa Branca, combinada com a falta de vontade política e consenso, dificulta a aprovação de leis em torno da IA.
Não há dúvida de que a legislação federal está sendo desafiada neste clima, mas o Congresso também precisa lidar com quais dos muitos tipos de risco de IA precisam ser abordados, disse Givens.
Não é que a IA seja ingovernável, é que cada risco precisa de uma abordagem personalizada.
O que é IA, como funciona e por que algumas pessoas se preocupam com ela.
O correspondente da BBC AI responde: O que é IA? Pode ser parado.
Comentários
Participe da conversa. Comentários passam por moderação antes de aparecer.
Carregando comentários…