O chefe da OpenAI, fabricante do ChatGPT, diz que as pessoas devem ter mais fé nas empresas de IA para manter a tecnologia segura, em meio às crescentes preocupações do público sobre os riscos.
- Por que os avisos apocalípticos não são a única ameaça ao gigante da IAPublicado há 11 horas.
- Equipe de IA 'genuinamente assustada' com o futuro da humanidade, ex-investigador antrópico diz à BBCPublished há 2 dias.
- Trump diz que a segurança da IA teme uma "farsa" ao rejeitar pedidos de maiores salvaguardas.
- ol: A regulamentação da IA enfrenta um impasse político à medida que crescem os pedidos para que o Congresso aja.
Por que Trump está totalmente investido em IA apesar dos avisos Publicado há 2 horas.
Legenda da figura: Por que Donald Trump é tão contra a regulamentação da IA.
O mundo deve confiar que vamos fazer a coisa certa porque é a coisa certa e sentimos a magnitude disso ", disse Sam Altman na terça-feira durante uma conferência em São Francisco.
Ele aceitou que as pessoas estavam justificadas por estarem preocupadas com a IA, já que a capacidade das ferramentas progrediu rapidamente.
Mas os críticos dizem que não se pode confiar nas empresas para se autorregularem, com o senador de esquerda Bernie Sanders e Steve Bannon, ex-assessor do presidente dos EUA, Donald Trump, entre aqueles que pedem uma maior governança da IA.
O próprio Trump criticou pedidos por mais salvaguardas na tecnologia em rápida evolução, chamando os temores sobre a segurança da IA de “hoax”.
Ele disse que o único "guarda-corpo" necessário para a IA era um presidente "forte e inteligente.
Os comentários de Altman na terça-feira ocorreram durante uma aparição em uma conferência anual organizada pela empresa de software Salesforce.
Não é preciso tanta imaginação quanto antes para [nós] imaginarmos como isso pode dar errado," ele disse. "Acho que o mundo tem razão em temer isso.
Mas os próprios chefes de IA também admitiram que pode ser difícil regular uma tecnologia que está mudando tão rapidamente.
Em entrevista ao Axios publicada em 3 de setembro, Altman disse que esperava que o Congresso criasse uma "estrutura básica" para a IA avançada após seu depoimento em 2023, mas isso ainda não aconteceu.
Ele sugeriu que os legisladores têm lutado para acompanhar o ritmo da tecnologia e regulá-la sem "desacelerar a inovação.
É improvável que surja uma nova legislação de segurança sobre IA no Congresso dos EUA em breve, apesar do fato de os legisladores terem retornado de suas férias de verão na segunda-feira.
Há falta de consenso dentro dos dois partidos dos EUA sobre como qualquer regulamentação ocorreria — e a Câmara está prestes a entrar em recesso novamente no final da semana, antes das eleições de meio de mandato no início de novembro.
Os comentários de Altman na terça-feira foram a primeira vez que ele falou publicamente desde que um post viralizou na semana passada por um pesquisador que deixou a empresa de IA Anthropic.
O pesquisador afirmou que a IA poderia "matar todos os humanos" até o final da década se não fosse controlada.
Um punhado de outros executivos e especialistas em IA responderam dizendo que concordavam com a avaliação, embora não explicassem como chegaram a suas conclusões ou como exatamente a IA poderia realizar tal coisa.
Após os comentários de Altman, Mark Zuckerberg escreveu no X, externo, que toda empresa de IA tinha a capacidade e o incentivo "para tomar suas próprias ações" em relação à segurança.
Qualquer laboratório que não se concentre no alinhamento ficará para trás ", escreveu o executivo-chefe da Meta.
Os laboratórios enfrentam responsabilidade significativa se seus modelos causarem danos, então eles têm um forte incentivo para prevenir isso também.
O alinhamento é um campo que visa construir ideias e princípios éticos humanos na IA. Em outras palavras, visa mantê-lo no caminho certo com o que os humanos valorizam.
Algumas figuras políticas se opuseram à visão de que as empresas de IA devem ser capazes de se autorregular.
Bernie Sanders disse que as decisões sobre IA foram deixadas para "um punhado das pessoas mais ricas do mundo", enquanto o ex-estrategista da Casa Branca Steve Bannon disse que o público não podia confiar nos oligarcas da tecnologia para se regularem.
Legenda da figura, Chefe da OpenAI: 'O mundo tem razão para ter medo.
O chefe da Nvidia, Jensen Huang, disse na mesma conferência na terça-feira que as empresas de IA devem decidir se novas versões da tecnologia devem ser lançadas - e não serem gerenciadas por forças externas.
Não precisamos de novas leis ou regulamentos," ele disse, acrescentando que não deveria haver uma "falsa escolha" entre a velocidade da inovação e a segurança dos produtos de IA.
A Nvidia é a maior empresa do mundo em valorização, com seus lucros crescendo como resultado da demanda desenfreada por seu hardware.
Huang também argumentou que a segurança é um "problema de engenharia" e que as empresas devem "fazer uma pausa" se perderem a confiança em um produto.
As recentes alegações de dentro da indústria intensificaram o escrutínio do desenvolvimento da IA, levando o executivo-chefe da Anthropic, Dario Amodei, a pedir que o ritmo do desenvolvimento da IA diminua, seja externo e exija que os governos regulem a indústria.
O post foi aplaudido por Altman, co‑fundador da DeepMind da Google, Demis Hassabis, e Elon Musk.
Na terça-feira, no entanto, mais líderes de IA estavam expressando apoio à autorregulação em vez do envolvimento do governo.
Altman disse que as empresas de IA eram capazes de se regular.
Conseguiremos acertar," disse Altman, acrescentando que, se as empresas não conseguissem manter “alinhamento e segurança muito à frente das capacidades”, elas “diminui o ritmo ou parariam.”.
Mas Yoshua Bengio, um dos pioneiros da IA moderna, postou no X que "esforços ambiciosos externos fora do setor com fins lucrativos" eram necessários para "evitar os piores riscos da IA.
Alguns números da indústria argumentaram que os temores ressurgentes da IA foram exagerados e estavam sendo aproveitados para gerar hype para a indústria.
Durante a conferência, Altman dirigiu-se a uma multidão de centenas de empresários, dizendo-lhes que deveriam usar ferramentas de IA para ajudar em seu trabalho, mas também precisavam delas para proteger seus negócios de ataques cibernéticos potencialmente habilitados por IA.
A ideia de que os executivos de IA seriam deixados para se regularem totalmente tem sido considerada por alguns na indústria como uma má ideia.
Jack Clark, executivo e co-fundador da Anthropic, disse à BBC na segunda-feira que deixar a IA como uma "indústria totalmente não regulamentada" era "jogar dados com riscos imensos.
Patrick Hillman, diretor de operações da Logical Intelligence, que é presidida por Yann LeCun, um sábio da indústria de IA, observou na terça-feira como as pessoas têm pouca fé nas empresas de tecnologia para fazer algo verdadeiramente de interesse público, externo.
A única instituição em que os americanos podem confiar menos do que Washington hoje em dia é o Vale do Silício. Eu trabalhei e vivi em ambos e garanto que ambos ganharam esse ceticismo ", disse Hillman.
Se você acredita que o que está construindo é perigoso, mostre-nos o que está preparado para parar de fazer ", acrescentou.
Líderes da OpenAI e da Anthropic afirmaram que recentemente iniciaram trabalhos em direção a algum tipo de acordo de segurança em nível de indústria.
Amodei, durante uma participação especial na conferência na terça-feira, disse que a Anthropic está agora em "diálogo com o resto da indústria" sobre o compromisso com melhores padrões de segurança e verificações de ferramentas e desenvolvimento de IA.
Ele também disse que uma das maiores surpresas do boom da IA não foi como a própria tecnologia avançou, mas seu impacto mais amplo.
Não percebemos que isso levaria as empresas a crescer tão rápido e a rapidez com que se tornariam centrais para as coisas ", disse Amodei.
O executivo da OpenAI, Chris Lehane, disse na semana passada que a empresa também estava trabalhando com outros laboratórios de IA, externos "para avançar os padrões de IA de fronteira, construindo um esforço voluntário agora, com ou sem apoio do governo." Esses laboratórios incluem o Anthropic e o Google Deepmind.
Com apostas tão altas, não podemos deixar que os perfeitos se tornem inimigos dos bons ", escreveu Lehane.
Entre em contato. Você tem algum comentário ou pergunta sobre esta história.
Comentários
Participe da conversa. Comentários passam por moderação antes de aparecer.
Carregando comentários…