The China Mail - Empresas de IA são incapazes de controlar seus modelos, alerta ex-pesquisador da OpenAI

No início de setembro, o pesquisador britânico explicou no X sua decisão de deixar a Anthropic e afirmou que os desenvolvedores de inteligência artificial (IA) acreditavam que a tecnologia poderia acabar com a humanidade "antes do fim da década".

Sua declaração repercutiu mundialmente. Desde então, vários funcionários e ex-funcionários das grandes empresas de IA expressaram preocupações semelhantes.

"As empresas estão sendo extremamente imprudentes dadas as circunstâncias", disse Coxon nesta segunda-feira durante uma audiência com vereadores da Câmara Municipal de Nova York.

Embora a IA possa trazer "benefícios enormes" à sociedade, "na trajetória atual, acredito que seja mais provável que a humanidade perca o controle dessas IAs e que isso possa levar à extinção humana", reiterou.

"Não sabemos como impedir que desenvolvam objetivos próprios", fora do controle de seus criadores, "e não contamos com as salvaguardas necessárias para evitar que ajam em função desses objetivos", advertiu Coxon.

Ele também questionou a cultura da indústria tecnológica: as empresas "funcionam com uma mentalidade de startup: avance rápido, quebre coisas e conserte depois".

"Isso pode funcionar para um aplicativo de compartilhamento de fotos. Não serve para desenvolver a tecnologia mais poderosa já criada", ressaltou o pesquisador.

Coxon também mencionou o incidente ocorrido em julho com dois modelos da OpenAI que escaparam de seu ambiente isolado, acessaram a internet e invadiram a plataforma Hugging Face.

"Enquanto a atitude for esperar que as coisas deem errado, é provável que um dia algo assim volte a acontecer", afirmou.

O pesquisador insistiu na necessidade de "algum tipo de desaceleração na fronteira tecnológica" e pediu às empresas que estão na vanguarda da IA que deem tempo aos cientistas da computação para avançar em formas de manter os modelos sob controle.

C.Smith--ThChM