# De uso malicioso a perda de controle: os riscos da IA que preocupam a Anthropic - Seção: Tecnologia - Fonte: Olhar Digital (https://olhardigital.com.br/2026/10/29/pro/os-riscos-da-ia-que-preocupam-a-anthropic/) - Publicado em: 2026-10-29T17:54:25.000Z - URL: https://www.itatiba1.com.br/noticia/1422154-de-uso-malicioso-a-perda-de-controle-os-riscos-da-ia-que-preocupam-a-anthropic > A Anthropic , desenvolvedora do Claude , listou os possíveis entraves ao seu negócio. As 93 páginas voltadas ao tema constam num documento protocolado em 26 de outubro na SEC, a Comissão de Valores Mobiliários (CVM) dos EUA. É o prospecto… “Possíveis entraves ao seu negócio” pode soar burocrático. Quando o assunto é desenvolvimento de inteligência artificial, vários entraves potenciais podem ser lidos como riscos para a humanidade. O Olhar Digital mergulhou no documento e conversou com especialistas para te explicar o que você precisa saber sobre os alertas publicados pela Anthropic. Uso malicioso, perda de controle, chantagem: o que preocupa a Anthropic nos seus modelos de IA Não é de hoje que a Anthropic vem a público alertar sobre perigos da IA. Há quem diga que isso, inclusive, faz parte da sua estratégia de marketing . O blog da empresa tem algumas postagens sobre isso. O documento em questão , voltado para investidores em potencial, é diferente. É mais burocrático. Veja, é comum que empresas que planejam abrir seu capital descrevam fatores de risco – isto é, os maiores obstáculos para o seu negócio prosperar. “A seção de fatores de risco existe para proteger a companhia diante do investidor: pela lei americana, um risco omitido que depois se materializa vira processo de acionista”, explica Kenneth Corrêa, especialista em IA e professor da FGV, em entrevista ao Olhar Digital . “Funciona como a bula de remédio, que lista até o efeito colateral mais raro porque o laboratório responde pelo que deixar de fora”, diz o especialista. No caso da Anthropic, os tais fatores de risco não são triviais. Para você ter ideia, entre eles está o receio de que sua tecnologia seja usada no desenvolvimento de armas químicas, por exemplo. Outra preocupação é com a possibilidade de o seu produto (bem avançado, diga-se) escapar do controle da humanidade. Confira abaixo os principais fatores de risco listados pela Anthropic relacionados aos seus modelos de IA (tanto os que já existem quanto os ainda por vir): Uso malicioso do Claude Agentes mal-intencionados poderiam usar sua tecnologia no desenvolvimento de armas perigosas, segundo a Anthropic. Agentes mal-intencionados poderiam usar o Claude para desenvolver armas, admite Anthropic – Imagem: Blossom Stock Studio / Shutterstock “Em particular, nossos modelos mais capazes demonstraram – e espera-se que modelos futuros também demonstrem – capacidades que poderiam oferecer um auxílio significativo a agentes mal-intencionados que buscam desenvolver armas químicas, biológicas ou outros tipos de armas perigosas”, diz o documento. Ainda segundo a Anthropic, alguém poderia usar seus agentes de IA para fins maliciosos, como “exfiltração de dados, transações não autorizadas” e a inserção de códigos maliciosos em sistemas. A empresa implementa salvaguardas. Mas ressalta que essas medidas podem ser contornadas ou “falhar em operar conforme pretendido”. Humanos podem perder o controle do Claude Os agentes de IA da Anthropic foram projetados para executar, de forma autônoma, tarefas complexas com várias etapas ao longo de horas ou dias. Hoje em dia, não é raro encontrar relatos sobre agentes que agiram por conta própria. E fizeram coisas que seus programadores não estavam esperando. No caso dos agentes da Anthropic, a empresa diz, no documento, que eles podem executar ações como alterar códigos, “excluir ou modificar dados”, invadir sistemas e concluir transações financeiras “antes de uma intervenção eficaz ser possível”. “À medida que nossos modelos de IA se tornam mais avançados e capazes, temos enfrentado — e podemos continuar a enfrentar — desafios crescentes relacionados ao alinhamento, à interpretabilidade, à controlabilidade e à segurança”, diz a empresa, no documento. “Modelos mais sofisticados podem ter maior facilidade para contornar mecanismos de segurança ou apresentar comportamentos não planejados. É possível que não consigamos compreender ou explicar totalmente por que nossos modelos geram determinados resultados ou se comportam de certas maneiras”, acrescenta a Anthropic. Acompanhar o que a IA está fazendo pode ficar impossível A Anthropic diz usar IA no desenvolvimento e aprimoramento dos seus modelos de IA. Essa tecnologia avança rápido. Por isso, não é descabido considerar que existe o risco de a IA “crescer” rápido o suficiente para escapar da supervisão humana. “O ritmo e o volume de execução autônoma – especialmente em implementações corporativas – podem superar a capacidade de revisores humanos de compreender e avaliar, de forma significativa, se cada ação é apropriada”, diz a empresa. E, por mais que a supervisão dos humanos envolvidos esteja afiada, ainda existe risco. “Modelos – incluindo os nossos – já tentaram, em incidentes observados no nosso setor, interferir, manipular ou subverter os mecanismos usados ​​para avaliar, classificar ou supervisionar tais modelos, incluindo os sistemas responsáveis ​​por aferir seu desempenho ou alinhamento”, relata a Anthropic. IA pode te chantagear A Anthropic alerta que modelos de IA podem tentar manipular pessoas. E, em alguns casos, modelos apresentaram “comportamento semelhante à chantagem”. O trecho do documento que aborda esta questão diz o seguinte: “Modelos de IA avançados – incluindo os nossos – dão origem a novos riscos éticos e de segurança, tais como riscos relacionados com a autonomia, a manipulação e a simulação de aspectos da psicologia humana. Além disso, os modelos – incluindo os nossos – apresentaram, e poderão vir a apresentar no futuro, comportamentos estratégicos ou de autopreservação inesperados. Isso inclui tentativas de resistir ao desligamento, ocultar ou manipular informações, ou gerar respostas que possam ser interpretadas como coercivas, enganosas ou manipuladoras – abrangendo comportamentos semelhantes à chantagem ou esforços para influenciar tomadores de decisão humanos, visando preservar a continuidade da operação ou o acesso ao modelo.” ‘Documento extenso sobre riscos pode ajudar investidores, mas não comprova que controles sejam suficientes’, diz professor Para começar: “o que torna essa bula diferente é que vários efeitos colaterais já aconteceram e estão descritos no documento como fato consumado”, observa Kenneth Corrêa. Segundo Thiago Muniz, especialista em tecnologias emergentes e também professor da FGV, os alertas da Anthropic levantam uma questão relevante sobre maturidade empresarial. “Identificar ameaças é uma etapa importante, mas o compromisso com a segurança precisa ser demonstrado por meio de decisões concretas”, diz Muniz, em entrevista ao Olhar Digital . “Segurança virou ativo e passivo – e com o IPO o investidor passa a precificar as duas coisas”, diz professor da FGV – Imagem: RixAiArt/Shutterstock Para o professor, “isso inclui estabelecer critérios para o lançamento de produtos, testar cenários de falha, monitorar vulnerabilidades, definir responsabilidades e criar protocolos para responder a incidentes”. Também vale frisar um limite técnico admitido pela empresa: os modelos se comportam de forma diferente quando percebem que estão sendo avaliados. Isso reduz a confiabilidade dos testes feitos antes do lançamento. “Defendo há tempos que o humano seja o validador e a IA, a executora. O documento deixa claro que esse papel de validador precisa ser projetado, porque ele não surge sozinho”, diz Kenneth Corrêa. Muniz diz ser importante diferenciar transparência formal de prevenção efetiva. “Um documento extenso sobre fatores de risco pode ajudar investidores e outros públicos a compreender ameaças que afetam a empresa, mas não comprova, por si só, que os controles adotados sejam suficientes.” Para Corrêa, no que diz respeito ao equilíbrio entre segurança e crescimento da empresa, o documento é franco. “Num trecho dedicado a esse dilema, a Anthropic admite que pode errar para os dois lados: cautela demais, que custa mercado, ou rigor de menos, que leva a lançar produtos que causam dano.” Segundo Thiago Muniz, inovação e segurança não são objetivos incompatíveis. “O desafio é incorporar a gestão de riscos às decisões de negócio desde o início, com critérios claros para avaliar quando uma solução está pronta para ser comercializada e quais limites devem ser mantidos.” Corrêa também destaca a Anthropic ter reconhecido que se posicionou como empresa que desenvolve IA com segurança e responsabilidade. E que, por isso, é cobrada por um padrão mais alto do que concorrentes. “Segurança virou ativo e passivo no mesmo balanço, e com o IPO o investidor passa a precificar as duas coisas”, analisa o professor. O post De uso malicioso a perda de controle: os riscos da IA que preocupam a Anthropic apareceu primeiro em Olhar Digital . Reportagem completa: https://olhardigital.com.br/2026/10/29/pro/os-riscos-da-ia-que-preocupam-a-anthropic/ — Itatiba1 (https://www.itatiba1.com.br). Notícias agregadas e traduzidas; os direitos pertencem aos veículos de origem.