China e EUA buscam 'telefone vermelho' diante dos riscos da IA / foto: © AFP/Arquivos
China e EUA buscam 'telefone vermelho' diante dos riscos da IA
Os riscos da inteligência artificial (IA), de seu uso com fins criminosos até o temor de que passe a tomar decisões militares de forma autônoma, estão levando China e Estados Unidos a estudar vias de diálogo para evitar incidentes.
O alcance do diálogo, sugerido no domingo sem muitos detalhes pelo secretário do Tesouro dos Estados Unidos, Scott Bessent, deve ser limitado.
O secretário americano se limitou a mencionar a necessidade de passar "de uma situação de opacidade para uma transparência maior".
A proposta reflete a preocupação com o potencial destrutivo da IA, que poderia agir de forma imprevisível ou acelerar sem controle a tomada de decisões militares.
"Nas duas partes, se observa uma tomada de consciência de que existe a possibilidade de incidentes e usos indevidos em detrimento dos interesses dos dois países", afirmou à AFP Jean-Marc Rickli, diretor de Riscos Globais e Emergentes do Centro de Política de Genebra.
"O 'telefone vermelho' foi estabelecido após a crise de Cuba de 1962", lembra o analista, em referência ao sistema de comunicação direta entre Estados Unidos e União Soviética em plena Guerra Fria para evitar incidentes militares graves.
Rickli recorda um incidente recente em que, segundo a rede CNN, os Estados Unidos estiveram a ponto de abordar um navio chinês com base em informações falsas elaboradas por IA.
- Prioridades diferentes -
Desde 2023, existe um diálogo bilateral entre especialistas e centros de pesquisa, mas sem a intervenção dos governos, sobre os modelos de IA mais avançados de empresas como OpenAI, Anthropic, DeepSeek ou Alibaba.
Segundo a pesquisadora Mathilde Viellet, do Instituto Francês de Relações Internacionais (Ifri), o diálogo evidenciou que as prioridades das duas potências são diferentes.
Enquanto a China está preocupada há vários anos com a segurança e luta contra os 'deepfakes', os Estados Unidos "se preocupam sobretudo com a perda de controle e o 'desalinhamento' da IA, quando ela atua de forma autônoma", explica a especialista à AFP.
No momento, segundo a consultoria americana Teneo, "nenhum dos dois governos está disposto a assumir compromissos vinculantes sobre o desenvolvimento da IA".
Além disso, os Estados Unidos apostam em modelos de IA fechados e de propriedade privada para preservar sua vantagem comercial, enquanto a China opta pelo código aberto para acelerar os avanços tecnológicos.
Segundo Jean-Marc Rickli, faria sentido criar um sistema de comunicação entre China e Estados Unidos para o caso de uma decisão militar em que a IA tome decisões rápidas demais ou baseadas em informações equivocadas.
Por sua vez, Mathilde Viellet defende um 'telefone vermelho' para ser utilizado em caso de perda de controle da IA e para evitar seu uso por atores mal-intencionados.
Em setembro, a Anthropic revelou cinco casos de uso de seu modelo de IA Claude de uma forma "que poderia servir para o desenvolvimento de armas biológicas".
Mas, ainda que se estabeleça "certa coordenação flexível", o pesquisador americano Matt Sheehan acredita que "as medidas mais importantes em termos de governança e segurança da IA serão aquelas adotadas por cada país em nível nacional".
B.Clarke--ThChM
