Pontos-chave do código de boas práticas assinado pelas gigantes americanas da IA / foto: © AFP
Pontos-chave do código de boas práticas assinado pelas gigantes americanas da IA
As gigantes da tecnologia dos Estados Unidos assinaram, nesta segunda-feira (30), um código de boas práticas na Casa Branca, com o objetivo de gerenciar melhor os riscos associados à inteligência artificial, em resposta ao crescente número de incidentes de segurança relacionados a essa tecnologia.
Seus principais elementos são:
- Acordo voluntário
Relutante em pressionar por restrições ao setor da IA tanto em nível nacional quanto internacional, o presidente americano, Donald Trump, apresentou uma carta de princípios muito breve, de apenas uma página, cuja adesão é "moralmente vinculativa".
"No entanto, com o tempo, pode ser adequado codificar essas medidas na forma de leis ou regulamentos", afirma o documento, assinado por figuras proeminentes do setor de IA, de Elon Musk (X) a Dario Amodei (Anthropic), e incluindo Sundar Pichai (Google) e Jensen Huang (Nvidia).
Isso ocorre em um momento de crescentes apelos por regulamentações vinculativas, vindos de empresas como Anthropic (Claude) e OpenAI (ChatGPT), assim como de responsáveis políticos, particularmente do Partido Democrata nos Estados Unidos, e governos ao redor do mundo.
- Riscos
Os fornecedores de modelos de IA se comprometeram a estabelecer "quatro níveis" de supervisão.
O primeiro nível envolve a implementação de controles internos robustos para garantir que essas ferramentas sigam as instruções dos desenvolvedores, principalmente em relação à segurança cibernética e à biossegurança.
O objetivo é prevenir a introdução, disseminação e liberação de patógenos ou "riscos químicos".
As empresas deverão criar equipes especializadas responsáveis por esses controles e por verificar se os modelos não lançam ataques cibernéticos ou obtêm acesso não autorizado a sistemas técnicos.
OpenAI, Anthropic e Google relataram recentemente diversos incidentes envolvendo comportamentos inesperados de seus sistemas de IA. Por exemplo, os agentes de IA da OpenAI, programas capazes de ações autônomas, acessaram recentemente o site de um sistema de saúde australiano e plataformas do governo dos EUA por iniciativa própria.
- Auditoria
O código de boas práticas também prevê a participação de avaliadores externos para realizar auditorias independentes com o objetivo de determinar se as medidas implementadas pelas empresas são eficazes.
Anthropic e OpenAI já colaboram com esse tipo de avaliador externo e ambas anunciaram, nas últimas semanas, uma ampliação do acesso para que empresas de auditoria examinem seus modelos, principalmente durante a fase de projeto e não apenas antes da implementação.
A Anthropic afirmou ainda que não exercerá "nenhum controle editorial" sobre a publicação dos resultados dessas avaliações independentes, mesmo que sejam desfavoráveis à empresa.
- Normas definidas
A carta também prevê a criação de um comitê independente composto por representantes das diversas empresas nos mais altos níveis de gestão.
Este órgão será responsável por revisar avaliações internas e externas de modelos de IA e garantir a resolução de quaisquer problemas potenciais.
As empresas também se comprometeram a se reunir "regularmente para estabelecer normas e boas práticas".
A iniciativa parece estar alinhada com o projeto que OpenAI, Anthropic e Google DeepMind começaram a desenvolver anteriormente.
Em meados de setembro, essas três empresas indicaram que estavam trabalhando na criação de um órgão supervisor para riscos relacionados à IA, inspirado na Autoridade Reguladora da Indústria Financeira dos EUA (FINRA), um órgão autorregulador do setor financeiro.
No entanto, esse modelo já atraiu fortes críticas de empresas concorrentes do setor, como a francesa Mistral e a canadense Cohere, que acusam as gigantes da tecnologia americanas de quererem definir suas próprias regras e, assim, proteger sua vantagem competitiva.
G.Tsang--ThChM
