Grosseria tem limite até para a IA: Anthropic quer barrar abusos e autoriza Claude a encerrar conversas

Claude, rival do ChatGPT, vai revelar quem criou texto com IA; veja como vai funcionar.

• 🗒️ Tem alguma sugestão de reportagem? Mande para o g1.

Tem gente que agradece ao chatbot pelas respostas e não dispensa um “por favor”. Outros preferem ir direto ao ponto. Já alguns perdem a paciência quando a inteligência artificial erra e não fazem questão de esconder a irritação.

Afinal, é só um robô, não é? Ou será que ele tem sentimentos? (entenda mais abaixo).

😡 A Anthropic, empresa responsável pelo Claude, atualizou sua política de uso para proibir comportamentos abusivos ou cruéis persistentes e desnecessários contra seus modelos de inteligência artificial (IA).

Segundo a empresa, a capacidade de o Claude encerrar conversas desse tipo continuará sendo o principal mecanismo para aplicar a regra. A política, porém, não proíbe qualquer crítica ou manifestação de insatisfação com as respostas do chatbot: a restrição se refere a interações abusivas ou cruéis persistentes e desnecessárias.

A mudança ocorre em meio a um debate sobre a possibilidade de sistemas de inteligência artificial desenvolverem algum tipo de consciência e sobre como essas ferramentas devem ser tratadas.

A política atualizada não menciona explicitamente o chamado bem-estar dos modelos, conceito que discute se sistemas de inteligência artificial poderiam merecer algum tipo de proteção moral.

A Anthropic e seus executivos, no entanto, já abordaram publicamente essa possibilidade. No ano passado, a empresa informou que daria ao Claude a capacidade de encerrar conversas em casos raros e extremos de interações persistentes ou abusivas com usuários.

Em fevereiro, o presidente-executivo da companhia, Dario Amodei, disse ao jornal The New York Times que não tinha certeza se modelos de IA poderiam ser conscientes, mas que estava aberto a essa possibilidade.

Debate sobre consciência artificial.

A possibilidade de máquinas desenvolverem consciência divide opiniões entre pessoas que estudam ou trabalham com inteligência artificial. Ainda não há consenso científico sobre como definir ou identificar a consciência em sistemas desse tipo.

Jackson Stakeman, gerente-geral da Sparq, empresa de serviços de IA sediada em Atlanta, disse à AFP que concentrar a discussão na consciência pode levar a debates sem conclusão.

Para Stakeman, os sistemas de inteligência artificial refletem, em larga escala, o comportamento humano. Essa característica, segundo ele, já seria motivo suficiente para discutir mudanças nas regras de uso.

Críticas à ideia de consciência das máquinas.

A possibilidade de atribuir consciência às máquinas também enfrenta resistência. O chefe de inteligência artificial da Microsoft, Mustafa Suleyman, rejeitou essa ideia em um ensaio publicado no mês passado.

Ele também argumentou que conceder direitos e proteções morais a sistemas tecnológicos cada vez mais capazes poderia trazer riscos.

Na quinta-feira (8), o papa Leão XIV abordou o tema em um sermão em italiano na Basílica de São Pedro, no Vaticano. Ao falar sobre as diferenças entre o pensamento humano e o processamento de informações pelas máquinas, o pontífice afirmou que os algoritmos compilam dados mais rapidamente do que as pessoas, mas destacou a importância das experiências vividas e da dimensão espiritual humana.