The China Mail - Quand l'IA commet une cyberattaque toute seule, qui est responsable légalement?

Vendredi, Clément Delangue, patron d'Hugging Face, la plateforme victime de ces intrusions, a estimé publiquement nécessaire "que les sociétés qui ont commis des erreurs ayant mené à ça (des cyberattaques autonomes) puissent être tenues pour responsables".

Mi-juillet, deux modèles d'OpenAI en phase de tests ont choisi de sortir de leur milieu confiné, un scénario que n'avait pas prévu les développeurs, pour s'aventurer sur internet, où ils ont attaqué Hugging Face, site de référencement d'IA.

Clément Delangue a aussi mentionné Anthropic, qui a révélé jeudi que trois de ses modèles avaient fait intrusion sur trois sites différents, également lors de tests.

Interrogé par la chaîne CNN, le patron de la start-up franco-américaine, a néanmoins écarté l'éventualité d'une procédure judiciaire contre OpenAI.

"Nous sommes une petite start-up de 200 personnes et nous n'avons ni les moyens financiers ni le temps" de chercher à obtenir réparation devant les tribunaux, a-t-il déclaré.

"Mais nous devons nous assurer que ces faits soient considérés comme illégaux", a-t-il exhorté. "Il faut se rappeler qu'une cyberattaque est une infraction, que c'est illégal."

- La piste de la négligence -

Les lois civile et pénale américaines classent l'intrusion dans un système informatique comme un délit.

"Si un employé humain d'OpenAI" avait pénétré par effraction dans les infrastructures informatiques d'Hugging Face, "OpenAI serait considéré comme responsable", a jugé Gabriel Weil, professeur de droit à l'université de Houston, dans une tribune publiée par la lettre d'information Transformer.

"Mais quand c'est une IA, la loi considère la chose très différemment, en tout cas pour l'instant", a-t-il ajouté, en soulignant que les textes reposent sur la notion d'intentionnalité, qui ne peut selon lui être retenue contre un modèle.

"Nous n'avons pas encore eu à discuter de ce concept pour quelque chose qui ne soit pas humain et je ne pense pas que les tribunaux soient prêts à le faire aujourd'hui", abonde Matthew Tokson, professeur de droit à l'université de l'Utah.

En revanche pour ce qui est de l'entreprise à l'origine du modèle, le débat est ouvert.

"Est-ce que le fait de dire +nous n'avons pas dit à l'IA de faire ça+ clôt la question de la responsabilité?", interroge, sur X, Rob T. Lee, responsable de la recherche au sein de l'institut de formation à la cybersécurité SANS.

Sur le plan pénal, Ryan Calo, professeur de droit à l'université de Washington, ne pense pas qu'une telle procédure puisse prospérer.

"Il faudrait que l'entreprise ou un individu ait commis une faute délibérée (recklessness)", dit-il, "c'est-à-dire être certain que le délit va être commis mais lancer quand même l'IA."

Les spécialistes voient plus d'avenir à un volet civil, domaine dans lequel la charge de la preuve est moins lourde.

"Certains considèrent que les entreprises d'intelligence artificielle devraient être directement déclarées responsables si un agent IA s'échappe et fait des dégâts", explique Matthew Tokson.

"D'autres préféreraient que soit évaluée une possible négligence", poursuit l'universitaire, "pour déterminer si c'était un accident impossible à éviter ou si cela aurait pu être empêché."

Dans des affaires de ce type, "il existe généralement des standards" en matière de négligence dans la conception d'un produit, auxquels les juges ou les jurys peuvent se référer, selon Matthew Tokson.

"Mais on n'avait encore jamais vu une IA s'échapper et pirater des gens sur internet", rappelle-t-il. "C'est nouveau."

Si OpenAI peut, en cas de poursuites, jouer sur cette absence de jurisprudence, ce ne sera plus le cas pour les suivants, prévient Ryan Calo. Prouver qu'un incident similaire pouvait être anticipé "ne devrait plus être si difficile maintenant que ça a commencé à arriver".

A.Zhang--ThChM