The China Mail - OpenAI écarte trois chercheurs en sécurité de l'IA accusés de fuites d'informations sensibles

USD -
AED 3.672503
AFN 63.999817
ALL 82.450149
AMD 357.809202
ANG 1.790403
AOA 917.499877
ARS 1549.874098
AUD 1.484483
AWG 1.8025
AZN 1.701804
BAM 1.7757
BBD 2.012982
BDT 124.44505
BGN 1.77347
BHD 0.377199
BIF 3005
BMD 1
BND 1.288366
BOB 11.659547
BRL 5.782163
BSD 0.99941
BTN 93.823002
BWP 13.990966
BYN 3.003223
BYR 19600
BZD 2.010077
CAD 1.429775
CDF 2318.000248
CHF 0.839835
CLF 0.025358
CLP 998.039782
CNY 6.66455
CNH 6.664155
COP 3318.97
CRC 445.37243
CUC 1
CUP 23.986201
CVE 100.374973
CZK 22.19355
DJF 177.719967
DKK 6.79487
DOP 60.550244
DZD 137.065944
EGP 53.6853
ERN 15
ETB 161.249886
EUR 0.90898
FJD 2.28475
FKP 0.756558
GBP 0.758315
GEL 2.594973
GGP 0.756558
GHS 11.734977
GIP 0.756558
GMD 73.500352
GNF 8859.999657
GTQ 7.63916
GYD 209.138162
HKD 7.84625
HNL 27.06947
HRK 6.831965
HTG 130.99394
HUF 330.970967
IDR 18279
ILS 3.24365
IMP 0.756558
INR 93.93975
IQD 1515
IRR 1925254.000425
ISK 124.339896
JEP 0.756558
JMD 158.482001
JOD 0.709041
JPY 159.416016
KES 130.039708
KGS 87.449402
KHR 4080.000054
KMF 447.50406
KPW 900.00035
KRW 1336.365011
KWD 0.31162
KYD 0.833012
KZT 444.73296
LAK 22524.999912
LBP 89550.0002
LKR 332.650884
LRD 168.501261
LSL 16.984982
LTL 2.95274
LVL 0.60489
LYD 6.455006
MAD 9.99725
MDL 18.281771
MGA 4594.000024
MKD 55.947457
MMK 2099.568705
MNT 3604.028735
MOP 8.07799
MRU 40.649826
MUR 47.819509
MVR 15.410198
MWK 1737.000365
MXN 18.52304
MYR 4.094017
MZN 63.910219
NAD 16.984964
NGN 1345.879753
NIO 36.750192
NOK 9.655665
NPR 150.11644
NZD 1.81763
OMR 0.384501
PAB 0.999532
PEN 3.408199
PGK 4.513966
PHP 63.918496
PKR 276.374515
PLN 4.001145
PYG 6202.732761
QAR 3.644022
RON 4.857802
RSD 106.930999
RUB 82.598883
RWF 1477
SAR 3.763042
SBD 8.098361
SCR 13.860567
SDG 601.548038
SEK 10.094865
SGD 1.288925
SHP 0.758581
SLE 23.04986
SLL 20969.503664
SOS 572.511276
SRD 37.453496
STD 20697.981008
STN 22.375
SVC 8.745744
SYP 13002.000337
SZL 16.984982
THB 33.885502
TJS 9.210795
TMT 3.51
TND 3.041994
TOP 2.40776
TRY 50.421202
TTD 6.787708
TWD 32.977904
TZS 2644.992965
UAH 45.435091
UGX 4147.791748
UYU 40.582868
UZS 12024.999857
VES 914.603597
VND 25764
VUV 120.719595
WST 2.810584
XAF 596.252115
XAG 0.021223
XAU 0.000259089508
XCD 2.70255
XCG 1.801394
XDR 0.707052
XOF 596.252115
XPF 108.875027
YER 236.501049
ZAR 16.96925
ZMK 9001.199115
ZMW 20.4664
ZWL 321.999592
SSP 5945.381189
MXV 2.078532
  • AEX

    3.2400

    1119.29

    +0.29%

  • BEL20

    9.1000

    5694.52

    +0.16%

  • PX1

    -0.8100

    8077.75

    -0.01%

  • ISEQ

    -37.6000

    14425.66

    -0.26%

  • OSEBX

    -4.6100

    2089.87

    -0.22%

  • PSI20

    7.7600

    9712.35

    +0.08%

  • ENTEC

    -5.8300

    1416.23

    -0.41%

  • BIOTK

    12.0700

    4481.36

    +0.27%

  • N150

    -2.5400

    4237.95

    -0.06%

OpenAI écarte trois chercheurs en sécurité de l'IA accusés de fuites d'informations sensibles
OpenAI écarte trois chercheurs en sécurité de l'IA accusés de fuites d'informations sensibles / Photo: © AFP

OpenAI écarte trois chercheurs en sécurité de l'IA accusés de fuites d'informations sensibles

OpenAI, le créateur de ChatGPT, a indiqué jeudi à l'AFP avoir exclu trois de ses chercheurs en sécurité de l'intelligence artificielle, accusés de fuites d'informations sensibles, au moment où plusieurs de ses propres employés alertent publiquement sur les dangers de cette technologie.

Taille du texte:

Le Wall Street Journal a identifié les chercheurs concernés, qui soutenaient tous trois sur les réseaux sociaux les appels à ralentir le développement de l'IA.

L'un d'eux, Tomek Korbak, se présentait comme un des interlocuteurs de METR, l'institut chargé d'enquêter sur le piratage en juillet de la plateforme Hugging Face par des outils d'OpenAI, premier d'une longue série de révélations sur les dérapages d'IA en test dans la Silicon Valley.

"Nous nous sommes séparés de trois personnes pour violation de nos règles sur l'accès aux informations sensibles de l'entreprise et leur traitement", a déclaré un porte-parole d'OpenAI joint par l'AFP.

L'enquête interne a confirmé que ces personnes avaient traité des informations sensibles hors des procédures établies, "rompant la confiance indispensable à notre travail", a-t-il ajouté.

L'entreprise fait état de plusieurs manquements, dont l'un concerne des informations communiquées à un groupe extérieur d'évaluation de l'IA, qu'elle ne nomme pas.

- "Droit de le dire" -

Ces exclusions surviennent quelques semaines après la démission très médiatisée, le 8 septembre, d'un chercheur passé d'OpenAI à Anthropic, Jacob Coxon, qui avait accusé les deux entreprises de "jouer avec nos vies". Tomek Korbak et les deux autres chercheurs écartés, Jasmine Wang et Mikita Balesni, avaient soutenu sa prise de parole sur X.

Deux jours plus tard, Mikita Balesni écrivait, reprenant les termes d'un message viral d'un responsable de la sûreté chez Anthropic, la société rivale: "Je suis chez OpenAI et je pense que l'IA a plus de 10% de chances de tuer tous les humains".

Revendiquant sa liberté de parole, Tomek Korbak ajoutait le 12 septembre: "Je suis très mécontent d'une grande partie de ce que fait OpenAI" et "je suis très heureux d'avoir le droit de [le] dire".

"Je veux exprimer mes inquiétudes pour que nous agissions, pas pour faire peur", affirmait l'avant-veille Jasmine Wang. Anthropic et OpenAI sont régulièrement accusés d'exagérer les dangers d'une technologie qu'ils créent eux-même pour mieux restreindre puis dominer le marché, ce qu'ils contestent.

- Code de bonne conduite -

Depuis l'été, la Silicon Valley vit au rythme des rapports d'incidents d'IA en test. Vendredi encore, OpenAI a révélé avoir suspendu l'entraînement de ses modèles en développement après que l'un d'eux eut accédé à internet sans autorisation.

Ces dérapages divisent le secteur: de grands patrons tels que Dario Amodei (Anthropic), Sam Altman (OpenAI) et Elon Musk ont réclamé mi-septembre de ralentir le développement de l'IA, quand d'autres, comme Jensen Huang (Nvidia) et Mark Zuckerberg (Meta), veulent maintenir la cadence.

Dans un essai remarqué, le 12 septembre, Dario Amodei a écrit redouter qu'un groupe d'agents IA puisse, à ce rythme, "prendre le contrôle de l'intégralité d'internet" d'ici six à douze mois.

Mardi, face aux journalistes, Sam Altman a assuré qu'OpenAI investissait "davantage dans la sûreté, la sécurité, l'alignement et la surveillance", tout en rejetant aussi bien ceux qui veulent "foncer à toute vitesse" que ceux qui réclament de "tout arrêter maintenant".

OpenAI s'est engagé mi-septembre, à la suite d'Anthropic, à accueillir en permanence des évaluateurs indépendants.

L'entreprise a renoncé lundi à lancer une nouvelle version de son modèle phare, GPT-6 Astra, jugée trop prompte à s'écarter des consignes. L'entreprise de San Francisco a toutefois rendu public le lendemain un modèle intermédiaire, GPT-6.1 Sol, présenté comme presque aussi performant qu'Astra à bien moindre coût.

Hostile à toute régulation contraignante susceptible d'entraver la course face à la Chine, Donald Trump a réuni mardi les champions américains du secteur, leur faisant signer un code de bonne conduite volontaire sur la prévention des risques de l'IA.

Aucune loi fédérale n'encadre ces modèles aux Etats-Unis, qui prévoient seulement, sur la base du volontariat, de soumettre leurs capacités à un examen gouvernemental avant qu'ils soient rendus publics.

Q.Yam--ThChM