The China Mail - ¿Puede la inteligencia artificial aniquilar a la humanidad?

USD -
AED 3.672501
AFN 63.999776
ALL 82.464942
AMD 358.505756
ANG 1.790403
AOA 917.504229
ARS 1549.867929
AUD 1.482975
AWG 1.8025
AZN 1.698454
BAM 1.779156
BBD 2.017129
BDT 124.690139
BGN 1.77347
BHD 0.378157
BIF 3007.43672
BMD 1
BND 1.291033
BOB 11.682086
BRL 5.784499
BSD 1.001496
BTN 94.002656
BWP 14.018585
BYN 3.009424
BYR 19600
BZD 2.014218
CAD 1.43043
CDF 2317.999865
CHF 0.839575
CLF 0.025357
CLP 997.980152
CNY 6.66455
CNH 6.66513
COP 3317.23
CRC 446.292118
CUC 1
CUP 24.035623
CVE 100.306108
CZK 22.182985
DJF 178.348063
DKK 6.792431
DOP 60.867113
DZD 137.047976
EGP 53.674297
ERN 15
ETB 164.376481
EUR 0.90865
FJD 2.28475
FKP 0.758367
GBP 0.758249
GEL 2.594974
GGP 0.758367
GHS 11.732118
GIP 0.758367
GMD 73.49797
GNF 8873.120921
GTQ 7.654066
GYD 209.544342
HKD 7.84613
HNL 26.932961
HRK 6.831965
HTG 131.250142
HUF 331.149501
IDR 18265
ILS 3.24365
IMP 0.758367
INR 93.83345
IQD 1518.259596
IRR 1925253.999992
ISK 124.310346
JEP 0.758367
JMD 158.794125
JOD 0.708981
JPY 159.379799
KES 129.979407
KGS 87.449398
KHR 4106.5296
KMF 447.498901
KPW 900.00035
KRW 1338.930319
KWD 0.31162
KYD 0.834633
KZT 445.59873
LAK 22549.202436
LBP 89683.974965
LKR 333.298462
LRD 170.2507
LSL 16.970744
LTL 2.95274
LVL 0.60489
LYD 6.470746
MAD 9.982716
MDL 18.317444
MGA 4555.8128
MKD 55.961956
MMK 2099.8229
MNT 3605.49036
MOP 8.0932
MRU 40.667528
MUR 47.809876
MVR 15.410193
MWK 1736.583325
MXN 18.50827
MYR 4.089602
MZN 63.909785
NAD 16.970667
NGN 1346.080285
NIO 36.851561
NOK 9.65025
NPR 150.403886
NZD 1.82147
OMR 0.384487
PAB 1.001465
PEN 3.415402
PGK 4.572229
PHP 63.764052
PKR 276.920096
PLN 3.99997
PYG 6215.118421
QAR 3.660925
RON 4.856503
RSD 106.854973
RUB 82.599621
RWF 1479.507134
SAR 3.763042
SBD 8.098361
SCR 13.909944
SDG 601.495895
SEK 10.092555
SGD 1.288755
SHP 0.758581
SLE 23.050346
SLL 20969.503664
SOS 572.372042
SRD 37.4535
STD 20697.981008
STN 22.288025
SVC 8.762969
SYP 13002.000337
SZL 16.966036
THB 33.826058
TJS 9.228432
TMT 3.51
TND 3.027513
TOP 2.40776
TRY 50.417032
TTD 6.801694
TWD 33.007698
TZS 2644.998029
UAH 45.525197
UGX 4156.319079
UYU 40.6615
UZS 12027.818082
VES 914.603603
VND 25749
VUV 120.845902
WST 2.802705
XAF 596.03544
XAG 0.021011
XAU 0.000258068512
XCD 2.70255
XCG 1.8049
XDR 0.707052
XOF 596.03544
XPF 108.488699
YER 236.499831
ZAR 16.9724
ZMK 9001.194297
ZMW 20.506056
ZWL 321.999592
SSP 5946.953244
MXV 2.076879
¿Puede la inteligencia artificial aniquilar a la humanidad?
¿Puede la inteligencia artificial aniquilar a la humanidad? / Foto: © AFP/Archivos

¿Puede la inteligencia artificial aniquilar a la humanidad?

Las advertencias de investigadores en inteligencia artificial (IA), que sostienen que formas avanzadas de esta tecnología podrían llegar a aniquilar a la humanidad, han reavivado el debate sobre el desarrollo de sistemas "superinteligentes" y sobre la capacidad de los gobiernos para regularlos.

Tamaño del texto:

- ¿Cuál es el peor escenario? -

En 2023, cientos de expertos en IA y dirigentes del sector tecnológico firmaron una "declaración sobre el riesgo de extinción asociado a la inteligencia artificial" y exhortaron a que se trate este tema con la misma seriedad que las pandemias o las armas nucleares.

Según Stuart Russell, profesor de informática de la Universidad de California en Berkeley, si una IA escapa al control y considerara que los humanos obstaculizan sus objetivos, podría utilizar robots para "sintetizar y difundir nuevos agentes patógenos".

Sin embargo, Russell subraya que esos riesgos no se aplican a los sistemas actuales.

El peligro inmediato, según él, es el uso malicioso de la IA por parte de seres humanos. "En el próximo año o dos años, creo que el mayor riesgo radica en un uso indebido de la inteligencia artificial por parte de los seres humanos", por ejemplo para perpetrar un atentado terrorista.

"Somos menos inteligentes que una IA superinteligente", sostiene.

- ¿Por qué no se detiene el desarrollo de la IA? -

Jacob Coxon, un investigador de Anthropic de 27 años, anunció esta semana que renunció a la empresa estadounidense al estimar que no actúa de forma "responsable" en el desarrollo de la IA.

Los laboratorios "comprenden bien lo que está en juego, pero están atrapados en una carrera por llegar primero (...) a pesar del riesgo", afirmó Coxon.

Anthropic retiró este año de su carta de seguridad el compromiso de detener el desarrollo de sus modelos si no podía controlar adecuadamente sus riesgos.

La compañía argumenta que, si suspendiera sus investigaciones, competidores menos prudentes acabarían imponiéndose en el sector.

"Las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década. Esto no es una estrategia de mercadeo", dijo Coxon, quien anteriormente trabajó en OpenAI, la empresa que creó ChatGPT.

Coxon acusó a ambas compañías de "jugar con nuestras vidas" al intentar desarrollar modelos de inteligencia artificial capaces de mejorarse a sí mismos.

Los temores ante una IA fuera de control aumentaron después de que una tecnología de OpenAI, operando sin supervisión humana, lograra vulnerar Hugging Face, una plataforma que aloja modelos de IA.

Evan Hubinger, responsable de seguridad en Anthropic, le dio la razón a Coxon en X: "Creemos realmente que la IA podría matar a humanos". A título personal, "estimó ese riesgo en más de un 10%" dentro de la próxima década.

- ¿Dar un paso atrás antes de perder el control?" -

Para Hussein Abbass, profesor de informática de la Universidad de Nueva Gales del Sur (UNSW) de Canberra, "la situación sigue siendo controlable".

No obstante, considera que los gobiernos deben actuar y desarrollar mecanismos regulatorios adaptables a medida que la tecnología avanza.

En julio, más de 1.000 trabajadores del sector, incluido el director ejecutivo de Anthropic, pidieron a Washington que respaldara una desaceleración coordinada en el desarrollo de los sistemas de IA más avanzados.

Sin embargo, algunos observadores creen que estas advertencias también contribuyen a proyectar una imagen de enorme poder tecnológico que puede atraer inversiones al sector.

Anthropic y OpenAI se preparan para debutar próximamente en bolsa.

- ¿Qué hace falta para regular la IA? -

Hasta ahora, Estados Unidos se ha mostrado firmemente contrario a una regulación global que podría frenar la innovación.

Aún así, las crecientes capacidades de ciberataque de los modelos más avanzados han llevado a Washington a replantearse su posición, y las últimas versiones desarrolladas por Anthropic y OpenAI se retrasaron por motivos de seguridad nacional.

Aun así, el presidente Donald Trump advirtió que no quiere imponer restricciones excesivas que hagan que Estados Unidos quede rezagado frente a China.

Para Stuart Russell, "podría ser necesaria una catástrofe comparable a la de Chernóbil antes de que los gobiernos actúen".

El investigador propone la creación de un sistema de licencias para la inteligencia artificial, similar al que existe en sectores como la aviación o la medicina.

burs-kaf/lga/fpp/am/meb/ahg

D.Pan--ThChM