UE está preocupada com possível alcance de novo modelo de IA da Anthropic / foto: © AFP/Arquivos
UE está preocupada com possível alcance de novo modelo de IA da Anthropic
A União Europeia informou, nesta quinta-feira (16), que está em contato com a empresa americana de inteligência artificial (IA) Anthropic, devido a preocupações sobre as capacidades de seu modelo mais recente, que a própria companhia teme que possa ser aproveitado por hackers.
O novo modelo da Anthropic, Claude Mythos, mostrou-se especialmente eficaz na detecção de pontos fracos em diferentes programas, o que levou a empresa a adiar o seu lançamento completo.
Segundo a companhia americana e seus parceiros, o Claude Mythos consegue analisar de forma autônoma grandes quantidades de código para encontrar e encadear vulnerabilidades de segurança até então desconhecidas em todo o tipo de software, desde sistemas operacionais até navegadores da web.
"Temos um novo modelo de IA que está sendo lançado. Ele acarreta certos riscos. Precisamos de informações sobre eles", declarou o porta-voz da Comissão Europeia, Thomas Regnier, aos jornalistas.
"Estamos em contato com a Anthropic. Recebemos algumas informações", acrescentou, confirmando que a primeira reunião ocorreu na quarta-feira e que haverá mais encontros.
No início deste mês, a companhia anunciou que iria limitar a distribuição do Claude Mythos a apenas 40 grandes empresas de tecnologia, para dar tempo de corrigir vulnerabilidades antes que possam ser exploradas por hackers.
No entanto, não foram incluídas entidades estrangeiras, o que gera preocupação sobre o grau de preparação do mundo diante de um modelo cujas capacidades ofensivas não se limitariam às fronteiras dos Estados Unidos.
O crucial, advertem a Anthropic e seus parceiros, é que isso pode ser feito em uma velocidade e escala que nenhum humano conseguiria igualar, suscitando o risco de ser usado para paralisar bancos, hospitais ou infraestruturas nacionais em questão de horas.
O anúncio da Anthropic gerou alarme e ceticismo. E, ao que parece, os diretores dos maiores bancos dos Estados Unidos se reuniram neste mês com o presidente do Federal Reserve (Fed, banco central), Jerome Powell, e com o secretário do Tesouro, Scott Bessent, para avaliar as implicações de segurança do modelo ainda não lançado.
X.So--ThChM
