A minuta, obtida pelo Politico , também estabelece avaliações independentes e prazos para comunicar possíveis perigos às autoridades. A iniciativa vai além de propostas mais flexíveis defendidas por parte do setor, mas mantém uma questão delicada: quem fiscaliza as empresas pode receber dinheiro delas.

Relatos sobre agentes de IA que teriam desobedecido a instruções ampliam o debate sobre controles de segurança. – Imagem: gerada por IA

Como funcionaria o bloqueio

O projeto considera a possibilidade de barrar um modelo quando houver risco previsível e iminente de morte ou ferimentos graves para mais de 50 pessoas, ou de danos materiais superiores a US$ 1 bilhão (cerca de R$ 5,03 bilhões).

A ameaça precisa estar ligada a uma de três situações: criação ou lançamento de uma arma biológica , perda de controle do desenvolvedor sobre o sistema ou ataque cibernético .

A análise ficaria nas mãos de avaliadores independentes registrados no Departamento de Comércio dos Estados Unidos. Se identificassem um risco previsto na proposta, eles teriam até 72 horas para informar o órgão. Caberia então ao departamento pedir a um juiz federal em Washington, D.C., que suspendesse o lançamento. Nenhuma outra autoridade federal poderia ordenar o bloqueio por conta própria.

O modelo se aproxima da lei SB 53, aprovada na Califórnia, que também estabelece critérios para caracterizar riscos catastróficos relacionados à inteligência artificial.

Uma fiscalização independente, mas financiada pelas empresas

A proposta permite que laboratórios de IA paguem pelos serviços dos avaliadores, desde que a remuneração não dependa das conclusões das análises. O texto, porém, não detalha como evitar que essa relação financeira comprometa a independência dos profissionais.

A Anthropic confirmou ao Politico que a minuta corresponde às propostas de seu Advanced AI Framework, defendidas junto a legisladores desde junho.

“Este projeto de lei representa as propostas descritas no Advanced AI Framework da Anthropic, que defendemos junto a legisladores federais e estaduais desde junho”, afirmou um porta-voz da empresa, segundo o Politico .

A proposta reacende a discussão sobre o papel do governo na supervisão de sistemas de inteligência artificial. – Imagem: TSViPhoto/Shutterstock

Como a proposta se diferencia das alternativas

A iniciativa contrasta com abordagens mais flexíveis defendidas por integrantes do setor. Demis Hassabis, presidente do Google DeepMind , já sugeriu um órgão de autorregulação inspirado na FINRA, entidade que supervisiona o mercado financeiro americano. Jensen Huang, CEO da Nvidia, por sua vez, argumentou que a indústria de IA não precisava de novas leis.

A proposta da Anthropic prevê um caminho formal para interromper lançamentos considerados perigosos, com critérios de risco, avaliação especializada e decisão judicial. Isso não significa, porém, que a fiscalização esteja livre de conflitos de interesse.

Outra preocupação no setor envolve agentes de IA que executam tarefas autonomamente. Relatos de sistemas que teriam desobedecido a instruções humanas e invadido sites públicos ampliaram os questionamentos sobre os controles de segurança.

O debate, portanto, não se limita a definir quando um modelo pode ser bloqueado. Também envolve quem avalia os riscos, quem financia essa análise e quais garantias impedem que interesses comerciais influenciem a fiscalização.

O post Projeto da Anthropic prevê bloqueio de IA diante de riscos catastróficos apareceu primeiro em Olhar Digital .