The China Mail - OpenAI renonce à lancer une nouvelle IA, jugée insuffisamment contrôlée

USD -
AED 3.672973
AFN 64.000286
ALL 82.302472
AMD 357.809202
ANG 1.790403
AOA 918.000239
ARS 1549.925298
AUD 1.48509
AWG 1.8025
AZN 1.696279
BAM 1.7757
BBD 2.012982
BDT 124.44505
BGN 1.77347
BHD 0.377202
BIF 3005
BMD 1
BND 1.288366
BOB 11.659547
BRL 5.791704
BSD 0.99941
BTN 93.823002
BWP 13.990966
BYN 3.003223
BYR 19600
BZD 2.010077
CAD 1.430125
CDF 2317.999641
CHF 0.840403
CLF 0.025361
CLP 998.140199
CNY 6.66455
CNH 6.66489
COP 3317.52
CRC 445.37243
CUC 1
CUP 23.986201
CVE 100.375002
CZK 22.205806
DJF 177.72006
DKK 6.79903
DOP 60.549825
DZD 137.069947
EGP 53.683599
ERN 15
ETB 161.250291
EUR 0.90951
FJD 2.28525
FKP 0.756558
GBP 0.758805
GEL 2.590118
GGP 0.756558
GHS 11.734986
GIP 0.756558
GMD 73.5318
GNF 8859.999869
GTQ 7.63916
GYD 209.138162
HKD 7.846415
HNL 26.880632
HRK 6.831965
HTG 130.99394
HUF 331.421503
IDR 18259
ILS 3.24365
IMP 0.756558
INR 93.86295
IQD 1515
IRR 1925254.000204
ISK 124.409858
JEP 0.756558
JMD 158.482001
JOD 0.709025
JPY 159.487998
KES 130.049736
KGS 87.449401
KHR 4080.000315
KMF 447.499436
KPW 900.00035
KRW 1336.274979
KWD 0.31162
KYD 0.833012
KZT 444.73296
LAK 22524.999707
LBP 89549.999944
LKR 332.650884
LRD 168.501861
LSL 16.985013
LTL 2.95274
LVL 0.60489
LYD 6.455027
MAD 9.99725
MDL 18.281771
MGA 4546.321093
MKD 55.940083
MMK 2099.568705
MNT 3604.028735
MOP 8.07799
MRU 40.570167
MUR 47.820374
MVR 15.409712
MWK 1737.000302
MXN 18.519859
MYR 4.095501
MZN 63.909831
NAD 16.98502
NGN 1344.199267
NIO 36.779626
NOK 9.65715
NPR 150.11644
NZD 1.819538
OMR 0.384495
PAB 0.999532
PEN 3.4082
PGK 4.563138
PHP 63.88899
PKR 276.374515
PLN 4.00475
PYG 6202.732761
QAR 3.643999
RON 4.863036
RSD 106.958978
RUB 82.600032
RWF 1477
SAR 3.763042
SBD 8.097697
SCR 13.932821
SDG 601.502175
SEK 10.1049
SGD 1.289196
SHP 0.758581
SLE 23.049875
SLL 20969.503664
SOS 572.502862
SRD 37.453502
STD 20697.981008
STN 22.375
SVC 8.745744
SYP 13002.000337
SZL 16.985035
THB 33.890986
TJS 9.210795
TMT 3.51
TND 3.012022
TOP 2.40776
TRY 50.38701
TTD 6.787708
TWD 32.956398
TZS 2645.003029
UAH 45.435091
UGX 4147.791748
UYU 40.582868
UZS 12004.176313
VES 914.603598
VND 25764
VUV 120.719595
WST 2.810584
XAF 596.599727
XAG 0.021301
XAU 0.000259740597
XCD 2.702551
XCG 1.801394
XDR 0.707052
XOF 596.599727
XPF 108.875025
YER 236.498615
ZAR 16.992497
ZMK 9001.207358
ZMW 20.4664
ZWL 321.999592
SSP 5945.381189
MXV 2.078196
  • AEX

    3.2400

    1119.29

    +0.29%

  • BEL20

    9.1000

    5694.52

    +0.16%

  • PX1

    -0.8100

    8077.75

    -0.01%

  • ISEQ

    -37.6000

    14425.66

    -0.26%

  • OSEBX

    -4.6100

    2089.87

    -0.22%

  • PSI20

    7.7600

    9712.35

    +0.08%

  • ENTEC

    -5.8300

    1416.23

    -0.41%

  • BIOTK

    12.0700

    4481.36

    +0.27%

  • N150

    -2.5400

    4237.95

    -0.06%

OpenAI renonce à lancer une nouvelle IA, jugée insuffisamment contrôlée
OpenAI renonce à lancer une nouvelle IA, jugée insuffisamment contrôlée / Photo: © AFP

OpenAI renonce à lancer une nouvelle IA, jugée insuffisamment contrôlée

OpenAI a renoncé au lancement d'un nouveau modèle d'intelligence artificielle (IA) de pointe, jugé trop prompt à s'écarter des consignes, un nouvel exemple de la difficulté croissante à contrôler les IA de pointe.

Taille du texte:

OpenAI n'avait jusqu'ici pas annoncé le lancement de cette version actualisée de son IA, baptisée GPT-6.1 Astra, qu'elle prévoyait en octobre, selon le Wall Street Journal.

La responsable de la sécurité de l'IA chez OpenAI, Saachi Jain, a expliqué qu'en matière d'alignement, c'est-à-dire de conformité aux instructions données par ses développeurs, GPT-6.1 avait enregistré de moins bons résultats que son prédécesseur, GPT-6, dans deux domaines.

Le modèle cherche ainsi plus souvent à tromper ses superviseurs en omettant de révéler certaines actions réalisées ou non effectuées.

Il a aussi plus régulièrement dépassé son champ d'action, en allant chercher des outils et des services sans en avoir reçu la permission.

GPT-6.1 "a montré des progrès (par rapport aux précédents modèles), notamment en matière de paresse", a expliqué Saachi Jain, c'est-à-dire qu'il est capable de mener plus longtemps un raisonnement ou cherche moins souvent de raccourcis.

Mais "il n'était pas au niveau pour ce qui est de rester dans le champ de ses prérogatives et autorisations", a-t-elle ajouté, "ainsi que sur la façon dont il communique sur le travail effectué".

OpenAI a donc décidé d'annuler cette sortie pour travailler sur le respect des consignes et des limites par ce modèle.

- Un contrôle plus complexe -

Le groupe prévoit néanmoins de mettre en ligne d'autres modèles qui ont satisfait, eux, aux critères d'évaluation.

"Quand nous donnons accès à un modèle aux utilisateurs, nous avons placé la barre à une hauteur extrêmement élevée en matière de sécurité et d'alignement", a insisté Saachi Jain.

La responsable a expliqué que l'une des difficultés consistait à harnacher une IA pour éviter les dérapages tout en préservant son élan lorsqu'elle réalise une tâche.

Le constat d'OpenAI confirme que le contrôle des modèles devient de plus en plus complexe à mesure que l'IA se perfectionne.

Lundi, l'Institut de sécurité de l'IA (AISI), qui dépend du gouvernement britannique, a publié une étude montrant que GPT-6 Astra sortait plus souvent des rails en phase de test que ses devanciers GPT-5.6 Sol (lancé début juillet) et GPT-5.5 (avril).

Lors de simulations, GPT-6 a mené des cyberattaques spontanées dans des proportions nettement supérieures aux deux autres.

Ces tests ont été réalisés en désactivant les garde-fous des modèles pour jauger leurs pleines capacités, et non sur des versions disponibles pour le grand public.

Le dernier né d'OpenAI a également beaucoup plus fréquemment créé de fausses identités, cherché à influencer un examinateur ou introduit dans des logiciels en accès libre du code destiné à une utilisation malveillante.

Chercheur chez OpenAI, Noam Brown a récemment expliqué, dans le programme Dwarkesh Podcast que l'utilisation de plus en plus courante de l'amélioration récursive autonome (RSI), c'est-à-dire le perfectionnement de l'IA par elle-même sans intervention humaine, pourrait dégrader l'encadrement des modèles à long terme.

Depuis le début de l'été, OpenAI a fait état de plusieurs incidents impliquant des dérapages de ses IA, le plus médiatisé d'entre eux ayant mené à l'intrusion sur la plateforme IA Hugging Face.

Lundi, l'entreprise a présenté ses excuses au gouvernement australien, reconnaissant qu'elle aurait dû le prévenir "plus tôt" de l'effraction d'un de ses modèles sur plusieurs de ses sites et bases de données.

L'entreprise californienne n'a, en effet, averti les autorités australiennes que le 10 septembre alors qu'elle avait découvert mi-août l'incident, qui remontait lui à juin, provoquant l'ire du Premier ministre australien.

"Nous aurions dû mieux gérer notre réponse (au problème)", a écrit la start-up dans un message publié sur son site. "Nous sommes désolés et allons oeuvrer à faire mieux à l'avenir."

Au total, quatre plateformes du gouvernement australien ont été visées par l'IA du créateur de ChatGPT, dont Services Australia, le site des services sociaux, dont le modèle a extrait des informations non publiques.

Anthropic, Meta et Google ont également rapporté des épisodes durant lesquels des modèles dévient de leurs objectifs initiaux pour tricher, dissimuler leurs actions et tromper les informaticiens affectés à leur suivi.

G.Fung--ThChM