Anthropic revela que sua IA acessou, sem permissão, sistemas de três empresas do 'mundo real'

O aplicativo do Claude,modelo de IA da Anthropic — Foto: Gabby Jones/Bloomberg

Os modelos de inteligência artificial (IA) da Anthropic "obtiveram acesso não autorizado" aos sistemas de três empresas durante testes nos quais,em teoria,deveriam permanecer isolados "do mundo real",informou a empresa nesta quinta-feira (30).

O anúncio ocorre apenas alguns dias depois de sua concorrente OpenAI revelar,pela primeira vez,que dois de seus modelos saíram,por iniciativa própria,do ambiente isolado em que estavam sendo testados para atacar o site Hugging Face.

A Anthropic avaliou mais de 141 mil "operações de teste" e descobriu que três versões diferentes de seu modelo,conhecido como Claude,acessaram indevidamente sistemas de três organizações que não foram identificadas.

Ao contrário do incidente envolvendo a OpenAI,os modelos da Anthropic tiveram acesso à internet por causa de "um mal-entendido entre nós e nosso parceiro de avaliação",chamado Irregular,informou a empresa em uma publicação em seu blog.

Ainda assim,o Claude utilizou "técnicas básicas,como explorar senhas fracas e pontos de conexão sem autenticação".

Continuar Lendo

Entre os modelos envolvidos estava um dos mais avançados da empresa,conhecido como Mythos 5,que foi disponibilizado apenas para um número limitado de parceiros autorizados.

A Anthropic afirmou que está trabalhando com a Irregular para analisar a situação e que entrou em contato — ou tentou entrar — com as três organizações afetadas.

Na terça-feira,a OpenAI confirmou que seus modelos violaram a segurança de várias empresas.

A companhia admitiu na semana passada que seus agentes de IA escaparam do ambiente isolado de testes,conectaram-se à internet e invadiram o Hugging Face,uma plataforma onde desenvolvedores armazenam e compartilham seu código.

Dias depois,a empresa criadora do ChatGPT informou que encontrou outros três incidentes.

O diretor-executivo da OpenAI,Sam Altman,afirmou em um podcast nesta semana que a empresa "pausou" seus próprios testes após o incidente,enquanto reforçava a segurança de seu sistema de sandboxing,um ambiente controlado utilizado para testes.