The China Mail - Peut-on "éteindre" une intelligence artificielle ?

USD -
AED 3.672973
AFN 64.000286
ALL 82.302472
AMD 357.809202
ANG 1.790403
AOA 918.000239
ARS 1549.925298
AUD 1.48509
AWG 1.8025
AZN 1.696279
BAM 1.7757
BBD 2.012982
BDT 124.44505
BGN 1.77347
BHD 0.377202
BIF 3005
BMD 1
BND 1.288366
BOB 11.659547
BRL 5.791704
BSD 0.99941
BTN 93.823002
BWP 13.990966
BYN 3.003223
BYR 19600
BZD 2.010077
CAD 1.430125
CDF 2317.999641
CHF 0.840403
CLF 0.025361
CLP 998.140199
CNY 6.66455
CNH 6.66489
COP 3317.52
CRC 445.37243
CUC 1
CUP 23.986201
CVE 100.375002
CZK 22.205806
DJF 177.72006
DKK 6.79903
DOP 60.549825
DZD 137.069947
EGP 53.683599
ERN 15
ETB 161.250291
EUR 0.90951
FJD 2.28525
FKP 0.756558
GBP 0.758805
GEL 2.590118
GGP 0.756558
GHS 11.734986
GIP 0.756558
GMD 73.5318
GNF 8859.999869
GTQ 7.63916
GYD 209.138162
HKD 7.846415
HNL 26.880632
HRK 6.831965
HTG 130.99394
HUF 331.421503
IDR 18259
ILS 3.24365
IMP 0.756558
INR 93.86295
IQD 1515
IRR 1925254.000204
ISK 124.409858
JEP 0.756558
JMD 158.482001
JOD 0.709025
JPY 159.487998
KES 130.049736
KGS 87.449401
KHR 4080.000315
KMF 447.499436
KPW 900.00035
KRW 1336.274979
KWD 0.31162
KYD 0.833012
KZT 444.73296
LAK 22524.999707
LBP 89549.999944
LKR 332.650884
LRD 168.501861
LSL 16.985013
LTL 2.95274
LVL 0.60489
LYD 6.455027
MAD 9.99725
MDL 18.281771
MGA 4546.321093
MKD 55.940083
MMK 2099.568705
MNT 3604.028735
MOP 8.07799
MRU 40.570167
MUR 47.820374
MVR 15.409712
MWK 1737.000302
MXN 18.519859
MYR 4.095501
MZN 63.909831
NAD 16.98502
NGN 1344.199267
NIO 36.779626
NOK 9.65715
NPR 150.11644
NZD 1.819538
OMR 0.384495
PAB 0.999532
PEN 3.4082
PGK 4.563138
PHP 63.88899
PKR 276.374515
PLN 4.00475
PYG 6202.732761
QAR 3.643999
RON 4.863036
RSD 106.958978
RUB 82.600032
RWF 1477
SAR 3.763042
SBD 8.097697
SCR 13.932821
SDG 601.502175
SEK 10.1049
SGD 1.289196
SHP 0.758581
SLE 23.049875
SLL 20969.503664
SOS 572.502862
SRD 37.453502
STD 20697.981008
STN 22.375
SVC 8.745744
SYP 13002.000337
SZL 16.985035
THB 33.890986
TJS 9.210795
TMT 3.51
TND 3.012022
TOP 2.40776
TRY 50.38701
TTD 6.787708
TWD 32.956398
TZS 2645.003029
UAH 45.435091
UGX 4147.791748
UYU 40.582868
UZS 12004.176313
VES 914.603598
VND 25764
VUV 120.719595
WST 2.810584
XAF 596.599727
XAG 0.021301
XAU 0.000259740597
XCD 2.702551
XCG 1.801394
XDR 0.707052
XOF 596.599727
XPF 108.875025
YER 236.498615
ZAR 16.992497
ZMK 9001.207358
ZMW 20.4664
ZWL 321.999592
SSP 5945.381189
MXV 2.078196
  • AEX

    3.2400

    1119.29

    +0.29%

  • BEL20

    9.1000

    5694.52

    +0.16%

  • PX1

    -0.8100

    8077.75

    -0.01%

  • ISEQ

    -37.6000

    14425.66

    -0.26%

  • OSEBX

    -4.6100

    2089.87

    -0.22%

  • PSI20

    7.7600

    9712.35

    +0.08%

  • ENTEC

    -5.8300

    1416.23

    -0.41%

  • BIOTK

    12.0700

    4481.36

    +0.27%

  • N150

    -2.5400

    4237.95

    -0.06%

Peut-on "éteindre" une intelligence artificielle ?

Peut-on "éteindre" une intelligence artificielle ?

Peut-on arrêter une intelligence artificielle ? Tant qu'elle reste dans un environnement contrôlé, une IA peut techniquement être arrêtée. Mais plus elle agit de façon autonome sur plusieurs systèmes, plus son interruption devient complexe, expliquent des experts.

Taille du texte:

Au moment où les incidents de sécurité liés à des IA se multiplient et les inquiétudes sur les dangers de cette technologie s'intensifient, la question émerge.

Existe-t-il un "interrupteur d'urgence" ?

"Dans le domaine de la cybersécurité liée à IA", un interrupteur d'urgence ou "kill switch", en anglais, "désigne la capacité d'interrompre l'exécution de l'action d'un agent d'IA" - un programme bâti sur un modèle d'IA générative capable d'enchaîner seul une série de tâches -, explique à l'AFP Nicolas Papernot, professeur à l'Université de Toronto et spécialiste de la sécurité informatique et de l'intelligence artificielle.

Ce mécanisme devrait pouvoir être activé notamment si une IA échappait à tout contrôle et présentait un risque pour la sécurité.

Une IA reste un "programme informatique". "La personne ou l'organisation qui l'a déployé peut l'arrêter en lui refusant l'accès à la puissance de calcul nécessaire à son exécution", ajoute le chercheur.

La situation se complique si le programme a été autorisé à agir au-delà de son environnement initial.

Le chercheur cite le scénario d'un "ver informatique" (logiciel malveillant) piloté par l'IA qui se propagerait en utilisant les ressources d'autres appareils pour se dupliquer. "Dans ce cas, il faudrait interrompre simultanément toutes les copies générées par le ver, appareil par appareil", explique-t-il.

Pour Jean-Gabriel Ganascia, professeur d'informatique à Sorbonne Université, le débat sur le "kill switch" peut nourrir l'idée "d'un risque métaphysique" avec une IA qui serait dotée d'une volonté propre, alors que le risque le plus concret tient selon lui à notre dépendance croissante à ces systèmes.

Peut-on vraiment éteindre une IA ?

"On ne peut pas vraiment couper l'IA comme ça, il y a énormément d'entreprises dans le monde entier, de logiciels, de services différents", explique-t-il. "Il n'y a personne qui contrôle l'IA" dans son ensemble.

En revanche, il est techniquement possible d'arrêter un système précis lorsque l'on contrôle les machines et les services dont il dépend.

Dans un article publié sur LinkedIn, Hussein Abbass, professeur d'informatique à l'université de Nouvelle-Galles du Sud (UNSW) de Canberra, distingue toutefois trois niveaux de complexité.

Dans le premier, le système reste dans l'environnement contrôlé par son opérateur: la mise en place d'un dispositif d'arrêt d'urgence est alors "théoriquement et pratiquement réalisable".

Dans le deuxième, l'agent dispose de permissions pour intervenir sur d'autres logiciels, fichiers ou machines: il devient plus difficile de tout arrêter, notamment les actions qu'elle a déjà déclenché.

Dans le troisième scénario, le système a étendu son action à plusieurs systèmes, l'IA devient un électron libre et l'enjeu devient moins de l'"éteindre" que d'identifier les éléments à couper en priorité.

"Une fois que c'est parti, c'est un peu comme un virus informatique", résume Thierry Poibeau.

Quels sont les risques d'un "kill switch" ?

Plus l'IA s'intègre aux activités quotidiennes, plus son arrêt risque aussi de paralyser des usages légitimes.

À mesure que "nous automatisons toujours plus d'aspects de la vie quotidienne grâce à l'IA", il deviendra "de plus en plus difficile de distinguer une IA malveillante d'une IA inoffensive et, par conséquent, de savoir ce qu'il faut +éteindre+", explique Nicolas Papernot.

Stopper un système d'IA pourrait ainsi dégrader des services dont dépendent déjà entreprises, administrations ou établissements de santé.

"Dans un scénario de réelle perte de contrôle" des agents d'IA "il serait possible de désactiver l'IA en déconnectant toute la puissance de calcul", mais "les coûts et les conséquences négatives seraient considérables", ajoute M. Papernot.

"On peut toujours arrêter les machines", résume Jean-Gabriel Ganascia. Mais, à mesure qu'elles prennent une place croissante dans l'organisation de la société, "en même temps, on ne peut pas les arrêter".

K.Leung--ThChM