# Projeto da Anthropic prevê bloqueio de IA diante de riscos catastróficos - Seção: Tecnologia - Fonte: Olhar Digital (https://olhardigital.com.br/2026/10/21/inteligencia-artificial/projeto-da-anthropic-preve-bloqueio-de-ia-diante-de-riscos-catastroficos/) - Publicado em: 2026-10-21T18:50:31.000Z - URL: https://www.itatiba1.com.br/noticia/1289716-projeto-da-anthropic-preve-bloqueio-de-ia-diante-de-riscos-catastroficos > A Anthropic, criadora do Claude , está defendendo nos Estados Unidos uma proposta de lei que permitiria suspender o lançamento de modelos de inteligência artificial diante de riscos graves. O mecanismo prevê critérios específicos para as… A minuta, obtida pelo Politico , também estabelece avaliações independentes e prazos para comunicar possíveis perigos às autoridades. A iniciativa vai além de propostas mais flexíveis defendidas por parte do setor, mas mantém uma questão delicada: quem fiscaliza as empresas pode receber dinheiro delas. Relatos sobre agentes de IA que teriam desobedecido a instruções ampliam o debate sobre controles de segurança. – Imagem: gerada por IA Como funcionaria o bloqueio O projeto considera a possibilidade de barrar um modelo quando houver risco previsível e iminente de morte ou ferimentos graves para mais de 50 pessoas, ou de danos materiais superiores a US$ 1 bilhão (cerca de R$ 5,03 bilhões). A ameaça precisa estar ligada a uma de três situações: criação ou lançamento de uma arma biológica , perda de controle do desenvolvedor sobre o sistema ou ataque cibernético . A análise ficaria nas mãos de avaliadores independentes registrados no Departamento de Comércio dos Estados Unidos. Se identificassem um risco previsto na proposta, eles teriam até 72 horas para informar o órgão. Caberia então ao departamento pedir a um juiz federal em Washington, D.C., que suspendesse o lançamento. Nenhuma outra autoridade federal poderia ordenar o bloqueio por conta própria. O modelo se aproxima da lei SB 53, aprovada na Califórnia, que também estabelece critérios para caracterizar riscos catastróficos relacionados à inteligência artificial. Uma fiscalização independente, mas financiada pelas empresas A proposta permite que laboratórios de IA paguem pelos serviços dos avaliadores, desde que a remuneração não dependa das conclusões das análises. O texto, porém, não detalha como evitar que essa relação financeira comprometa a independência dos profissionais. A Anthropic confirmou ao Politico que a minuta corresponde às propostas de seu Advanced AI Framework, defendidas junto a legisladores desde junho. “Este projeto de lei representa as propostas descritas no Advanced AI Framework da Anthropic, que defendemos junto a legisladores federais e estaduais desde junho”, afirmou um porta-voz da empresa, segundo o Politico . A proposta reacende a discussão sobre o papel do governo na supervisão de sistemas de inteligência artificial. – Imagem: TSViPhoto/Shutterstock Como a proposta se diferencia das alternativas A iniciativa contrasta com abordagens mais flexíveis defendidas por integrantes do setor. Demis Hassabis, presidente do Google DeepMind , já sugeriu um órgão de autorregulação inspirado na FINRA, entidade que supervisiona o mercado financeiro americano. Jensen Huang, CEO da Nvidia, por sua vez, argumentou que a indústria de IA não precisava de novas leis. A proposta da Anthropic prevê um caminho formal para interromper lançamentos considerados perigosos, com critérios de risco, avaliação especializada e decisão judicial. Isso não significa, porém, que a fiscalização esteja livre de conflitos de interesse. Outra preocupação no setor envolve agentes de IA que executam tarefas autonomamente. Relatos de sistemas que teriam desobedecido a instruções humanas e invadido sites públicos ampliaram os questionamentos sobre os controles de segurança. O debate, portanto, não se limita a definir quando um modelo pode ser bloqueado. Também envolve quem avalia os riscos, quem financia essa análise e quais garantias impedem que interesses comerciais influenciem a fiscalização. O post Projeto da Anthropic prevê bloqueio de IA diante de riscos catastróficos apareceu primeiro em Olhar Digital . Reportagem completa: https://olhardigital.com.br/2026/10/21/inteligencia-artificial/projeto-da-anthropic-preve-bloqueio-de-ia-diante-de-riscos-catastroficos/ — Itatiba1 (https://www.itatiba1.com.br). Notícias agregadas e traduzidas; os direitos pertencem aos veículos de origem.