The China Mail - Políticos e empresários da tecnologia pedem respostas para garantir segurança da IA

"As perdas de controle de agentes autônomos de IA observadas nos últimos meses são, de certo modo, sinais de alerta precoce", advertiu o britânico Demis Hassabis, presidente do Google DeepMind e uma das principais figuras do evento organizado pela presidência irlandesa do Conselho da União Europeia (UE).

"Estes sistemas ainda não são muito potentes, por isso os incidentes não são graves, mas podem ser dentro de um ou dois anos se não intensificarmos os esforços em matéria de segurança", afirmou o prêmio Nobel de Química e pioneiro da pesquisa em IA.

— Freios de emergência —

A preocupação de Hassabis é compartilhada pelo presidente da Microsoft, o americano Brad Smith, outro nome importante do setor de tecnologia convidado para o evento em Dublin.

O executivo da Microsoft defendeu a ideia de dotar os agentes e sistemas de IA de "freios de emergência", ou seja, mecanismos de desligamento obrigatório que permitam aos usuários limitar os danos em caso de perda de controle.

"A ideia, especialmente no caso dos sistemas de inteligência artificial que administram infraestruturas críticas ou sistemas automatizados, é dispor da possibilidade de desligá-los ou desacelerá-los", explicou.

Para Brad Smith, o problema está no fato de que a IA praticamente não é regulamentada, ao contrário de produtos cotidianos como uma embalagem de leite, submetida a todo tipo de controles.

"Nós vamos precisar para a IA, como para todo o resto em nossas vidas, de normas de segurança reais e eficazes nas quais o público possa confiar", argumentou.

Por sua vez, a finlandesa Henna Virkkunen, vice-presidente executiva da Comissão Europeia, além de titular de Soberania Tecnológica, Segurança e Democracia no bloco, afirmou que as empresas de IA devem dedicar mais tempo a testar seus sistemas para manter o controle sobre eles.

- Normas ambiciosas -

"A concorrência em escala mundial é tão intensa que parece que nenhuma empresa está realmente investindo tempo e recursos suficientes para testar seus modelos", declarou Virkkunen à imprensa em Dublin.

"Devem ser capazes de controlar estes sistemas", afirmou. Ela acrescentou que a União Europeia enviou pedidos de informação a todas as principais empresas de IA para perguntar sobre as medidas de segurança e proteção implementadas.

A Comissão Europeia obteve novas competências regulatórias em agosto, com base na Lei de IA (AI Act), a norma mais ambiciosa do mundo para limitar os usos potencialmente perigosos desta tecnologia.

A diretora financeira da OpenAI, a norte-irlandesa Sarah Friar, afirmou que compartilha os apelos para reforçar a segurança, mas ressaltou que não se deve paralisar o setor, sob o risco de permitir que atores mal-intencionados assumam a dianteira.

Ela defendeu a necessidade de encontrar "um equilíbrio adequado" entre inovação e regulamentação. "Queremos ser transparentes e permitir que pessoas qualificadas avaliem nossos modelos, mas devemos garantir que isso não nos desacelere a ponto de ficarmos tecnologicamente atrás dos atores mal-intencionados", explicou.

S.Wilson--ThChM