The China Mail - KI-Agent von OpenAI hackt australische Regierungswebsite

USD -
AED 3.672495
AFN 64.000314
ALL 82.253977
AMD 360.509431
ANG 1.790403
AOA 917.499428
ARS 1552.284702
AUD 1.48346
AWG 1.8025
AZN 1.697632
BAM 1.779545
BBD 2.01413
BDT 124.905034
BGN 1.77347
BHD 0.377331
BIF 3007.507166
BMD 1
BND 1.288858
BOB 11.66537
BRL 5.778804
BSD 1.000059
BTN 93.425596
BWP 13.998644
BYN 3.001178
BYR 19600
BZD 2.011401
CAD 1.42811
CDF 2317.999791
CHF 0.838815
CLF 0.025259
CLP 994.110012
CNY 6.66455
CNH 6.665535
COP 3315.05
CRC 445.481718
CUC 1
CUP 24.000873
CVE 100.328012
CZK 22.107101
DJF 177.720338
DKK 6.781775
DOP 60.559465
DZD 136.951012
EGP 53.7264
ERN 15
ETB 164.140883
EUR 0.90739
FJD 2.296803
FKP 0.758367
GBP 0.756145
GEL 2.594965
GGP 0.758367
GHS 11.73543
GIP 0.758367
GMD 73.501804
GNF 8860.460038
GTQ 7.643069
GYD 209.144677
HKD 7.846205
HNL 26.886001
HRK 6.831965
HTG 131.024035
HUF 332.705959
IDR 18268.2
ILS 3.254645
IMP 0.758367
INR 93.45945
IQD 1516.079284
IRR 1925253.999815
ISK 124.130485
JEP 0.758367
JMD 158.919789
JOD 0.709003
JPY 159.245985
KES 129.999866
KGS 87.448984
KHR 4080.072793
KMF 447.497229
KPW 900.00035
KRW 1334.25967
KWD 0.31158
KYD 0.833458
KZT 444.016797
LAK 22523.690592
LBP 89554.848894
LKR 332.782835
LRD 168.006442
LSL 16.919297
LTL 2.95274
LVL 0.60489
LYD 6.462884
MAD 9.981438
MDL 18.311519
MGA 4549.44565
MKD 55.861384
MMK 2099.8229
MNT 3605.49036
MOP 8.082545
MRU 40.524838
MUR 47.860197
MVR 15.410202
MWK 1734.212921
MXN 18.413075
MYR 4.093596
MZN 63.910227
NAD 16.918528
NGN 1348.670466
NIO 36.80602
NOK 9.59563
NPR 149.481136
NZD 1.81649
OMR 0.384501
PAB 1.000032
PEN 3.415635
PGK 4.499381
PHP 63.585016
PKR 276.505202
PLN 3.993785
PYG 6230.864068
QAR 3.64562
RON 4.852297
RSD 106.739941
RUB 82.05711
RWF 1480.116648
SAR 3.756442
SBD 8.098361
SCR 13.825232
SDG 601.499925
SEK 10.096805
SGD 1.287735
SHP 0.758581
SLE 23.049694
SLL 20969.503664
SOS 571.501363
SRD 37.437951
STD 20697.981008
STN 22.292284
SVC 8.750364
SYP 13002.000337
SZL 16.918877
THB 33.77702
TJS 9.216015
TMT 3.51
TND 3.026264
TOP 2.40776
TRY 50.414697
TTD 6.771395
TWD 32.925901
TZS 2650.002957
UAH 45.33545
UGX 4149.985442
UYU 40.627659
UZS 12019.053598
VES 914.603599
VND 25712.5
VUV 120.845902
WST 2.802705
XAF 595.208663
XAG 0.021073
XAU 0.000259007303
XCD 2.70255
XCG 1.802383
XDR 0.707052
XOF 595.208663
XPF 108.509428
YER 236.503646
ZAR 16.92348
ZMK 9001.222553
ZMW 20.486504
ZWL 321.999592
SSP 5946.953244
MXV 2.06566
  • DAX

    -34.1800

    25374.42

    -0.13%

  • SDAX

    124.0200

    18248.52

    +0.68%

  • Euro STOXX 50

    -1.5400

    6301.28

    -0.02%

  • TecDAX

    -6.3300

    3969.15

    -0.16%

  • Goldpreis

    3.7000

    4172.1

    +0.09%

  • MDAX

    -135.7100

    30895.59

    -0.44%

  • EUR/USD

    -0.0007

    1.1366

    -0.06%

KI-Agent von OpenAI hackt australische Regierungswebsite
KI-Agent von OpenAI hackt australische Regierungswebsite / Foto: © AFP

KI-Agent von OpenAI hackt australische Regierungswebsite

Ein KI-Programm des US-Unternehmens OpenAI hat eine Website der australischen Regierung gehackt. Der auf Künstlicher Intelligenz (KI) basierende Agent habe auf öffentliche und nicht öffentliche Dateien der für Gesundheit zuständigen Statistikbehörde zugegriffen, sagte Australiens Premierminister Anthony Albanese am Mittwoch (Ortszeit) am Rande der UN-Generalversammlung in New York. OpenAI bestätigte den Vorfall. Angesichts der rasant fortschreitenden Entwicklung der Technologie warnten die Chefs mehrerer KI-Unternehmen vor dem UN-Sicherheitsrat erneut vor den Risiken.

Textgröße:

Der Vorfall sei "inakzeptabel", sagte Albanese zu dem KI-Angriff, der sich seinen Angaben zufolge bereits im Juni ereignete. Demnach machte OpenAI die australische Regierung aber erst am 10. September auf den Vorfall aufmerksam - und zwar in einer E-Mail an ein allgemeines Postfach, das nur einmal am Tag überprüft wird.

Das KI-Tool von OpenAI habe zum Thema Gesundheit recherchiert und dabei versucht, auf vertrauliche Daten zuzugreifen, sagte Albanese. Als der Zugriff blockiert worden sei, habe es nach Wegen gesucht, die Sperre zu umgehen. "Ich denke, OpenAI ist sich bewusst, dass es bessere Protokolle einführen muss", betonte Albanese. Das Projekt sei "in Bereiche vorgedrungen, in die es nicht hätte vordringen dürfen".

Der Premierminister erklärte, es gebe keine Hinweise auf eine weitergehende Kompromittierung des Netzwerks der australischen Regierungsbehörden. Nach derzeitigem Kenntnisstand seien keine personenbezogenen Daten abgerufen worden. Die Ermittlungen dazu dauern Albanese zufolge aber an. Unter anderem wollten die Daten-Forensiker herausfinden, welche anderen Regierungssysteme betroffen sein könnten.

Er habe mit OpenAI-Chef Sam Altman gesprochen, "um die große Besorgnis Australiens über diesen Vorfall zum Ausdruck zu bringen", sagte Albanese weiter. Er habe zudem seine "Enttäuschung darüber zum Ausdruck gebracht, dass das Unternehmen viel zu lange gebraucht hat, um die Regierung über die Geschehnisse zu informieren".

OpenAI teilte später mit, dass laut einer kürzlich ausgeführten Überprüfung "mehrere australische Regierungswebsites" betroffen gewesen seien. Es seien "Aktivitäten im Zusammenhang mit verschiedenen Websites und Diensten der australischen Regierung" festgestellt worden. OpenAI-Modelle hätten während einer internen Bewertung "versucht, Antworten und verfügbare Statistiken zu Fragen über Australien abzurufen", hieß es in der Stellungnahme weiter. "Dabei führten unsere Modelle Aktionen aus, die wir nicht beabsichtigt hatten."

Zuvor hatten die Chefs mehrerer Tech-Unternehmen bei einer Sitzung des UN-Sicherheitsrats zu KI erneut Risiken eingeräumt und für ein langsameres Vorgehen plädiert. OpenAI-Chef Altman sagte in New York, das aktuelle Stadium der KI-Entwicklung erfordere "äußerste Vorsicht". Die Branche dürfe "nicht zu viel technologisches Risiko akzeptieren, nur weil die Vorteile zu groß und zu wichtig sind, um das Tempo zu drosseln." Anthropic-Chef Dario Amodei versicherte in einer Videoansprache: "Wir werden das Tempo so weit drosseln wie nötig, damit jede weitere von uns veröffentlichte KI-Technologie tatsächlich sicher ist."

Die Sitzung des UN-Sicherheitsrats war von Frankreich einberufen worden. Frankreichs Außenminister Jean-Noël Barrot sagte, KI stelle den weltweiten Frieden und die Sicherheit vor ähnliche Herausforderungen wie die Atomtechnologie. Er sprach sich deshalb für eine internationale KI-Rahmenvereinbarung aus.

Im Voreld der UN-Generaldebatte hatten Bundeskanzler Friedrich Merz (CDU) und 17 weitere Staats- und Regierungschefs verbindliche Sicherheitsregeln für besonders leistungsfähige KI-Modelle gefordert. Solche Systeme würden bei unzureichender Kontrolle "ernste Risiken für Sicherheit und Schutz" bergen, heißt es in dem am Montag veröffentlichten Aufruf.

Amodei und Altman hatten kürzlich für eine langsamere Entwicklung von KI plädiert. Grund waren mehrere Zwischenfälle, bei denen KI-Systeme aus ihren Testumgebungen ausbrachen und über das Internet andere Unternehmen oder Plattformen attackierten. Das schürte Befürchtungen vor womöglich unkontrollierbaren KI-Modellen.

In einem offenen Brief forderten 100 Unternehmen, darunter OpenAI und Anthropic, eine globale Anstrengung für eine "Stärkung der Cyberabwehr" gegen KI-gestützte Sicherheitsbedrohungen.

A.Sun--ThChM