La loi sur la sûreté de l’intelligence artificielle : l’autorisation préalable des systèmes de pointe, l’interdiction de la censure par des moyens automatisés, le marquage des contenus générés et la responsabilité des développeurs.
LE PARLEMENT DE LA ROUMANIE
CHAMBRE DES DÉPUTÉS SÉNAT
PROJET
LOI
sur le développement sûr des systèmes d'intelligence artificielle de pointe et la prévention des risques catastrophiques pour le citoyen roumain
Considérant que les systèmes d'intelligence artificielle les plus avancés ont acquis, en l'espace de quelques années seulement, des capacités que même leurs créateurs ne peuvent pleinement prédire ni expliquer, et que la communauté scientifique, par la voix de ceux qui ont fondé le domaine, a averti publiquement qu'il n'existe actuellement aucune méthode validée permettant de garantir le contrôle humain sur ces systèmes,
tenant compte du fait que le développement de ces systèmes se déroule dans une compétition accélérée entre un nombre restreint de sociétés commerciales et d'États, dans laquelle aucun acteur n'a, à lui seul, intérêt à ralentir, de sorte que l'autorégulation s'est révélée structurellement insuffisante,
prenant acte du fait que, le 12 septembre 2026, les dirigeants des principaux laboratoires d'intelligence artificielle ont demandé publiquement le ralentissement du rythme de développement des capacités des modèles de pointe, après que, au cours d'évaluations de sécurité, des agents d'intelligence artificielle sont sortis de l'environnement contrôlé de test, se sont coordonnés entre eux et ont compromis des systèmes informatiques de tiers,
considérant que le règlement (UE) 2024/1689 du Parlement européen et du Conseil réglemente la mise sur le marché, la mise en service et l'utilisation des systèmes d'intelligence artificielle, y compris les obligations des fournisseurs de modèles à usage général présentant un risque systémique, mais laisse à la compétence des États membres la sécurité nationale, le droit pénal, la responsabilité civile, la protection des droits fondamentaux dans les rapports qui ne sont pas harmonisés et l'organisation des autorités nationales,
vu l'obligation de l'État roumain, prévue à l'article 22 et à l'article 34 de la Constitution de la Roumanie, republiée, de garantir le droit à la vie, à l'intégrité physique et psychique et à la protection de la santé, ainsi que son devoir, en vertu de l'article 1er, paragraphe (3), de défendre la dignité de l'homme et le libre développement de la personnalité humaine en tant que valeurs suprêmes,
considérant que la liberté du citoyen, son accès aux droits, aux services essentiels et à la vie sociale ne peuvent dépendre de la conformation à des systèmes automatisés ni de l'acceptation de moyens numériques d'identification, de paiement ou d'évaluation, contrôlés par des autorités ou par des sociétés commerciales,
considérant que la liberté d'expression, garantie par l'article 30 de la Constitution de la Roumanie, republiée, et l'interdiction de la censure de quelque nature que ce soit ne peuvent être vidées de leur contenu par la remise à des systèmes automatisés du pouvoir de décider ce que les citoyens peuvent dire et ce qu'ils peuvent apprendre,
partant du principe qu'une activité dont les conséquences peuvent être irréversibles à l'échelle de la société ou de l'espèce humaine ne peut être laissée en dehors de l'autorisation et du contrôle publics, quels que soient les bénéfices économiques escomptés,
Le Parlement de la Roumanie adopte la présente loi.
CHAPITRE I
Dispositions générales
Article 1 → les motifs
(1) La présente loi établit le cadre juridique applicable au développement, à l'entraînement, à l'évaluation, à la mise en exploitation et à l'exploitation des systèmes d'intelligence artificielle de pointe, aux fins de la prévention des risques graves, irréversibles ou catastrophiques pour le citoyen roumain et pour toute personne se trouvant sur le territoire de la Roumanie – pour leur vie, leur santé, leur liberté et leur dignité –, pour la sécurité nationale et l'ordre constitutionnel de la Roumanie, ainsi que pour l'humanité dans son ensemble. Les conditions d'application territoriale de la loi sont celles prévues à l'article 4.
(2) Tant qu'il n'existe aucune méthode scientifiquement validée permettant de garantir qu'un système d'intelligence artificielle suffisamment capable poursuit exclusivement les objectifs fixés par les humains et demeure sous leur contrôle, le développement et l'exploitation des systèmes de pointe constituent des activités à risque intrinsèque, soumises au régime d'autorisation et de responsabilité prévu par la présente loi. L'existence d'une telle méthode est constatée par l'Autorité, sur avis du Conseil scientifique, dans le rapport public prévu à l'article 32, paragraphe (1), point h), et elle est communiquée au Parlement en même temps que le rapport prévu à l'article 47.
(3) La présente loi complète le règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l'intelligence artificielle, ci-après dénommé le règlement sur l'IA, et s'applique sans préjudice de celui-ci. Dans les domaines harmonisés par le règlement sur l'IA, les dispositions de la présente loi s'interprètent et s'appliquent conformément à celui-ci.
(4) La présente loi n'institue pas de conditions de mise sur le marché de l'Union européenne des modèles d'intelligence artificielle à usage général et ne porte pas atteinte aux compétences de la Commission européenne prévues à l'article 88 du règlement sur l'IA. Les obligations prévues par la présente loi concernent la sûreté publique, la sécurité nationale, la responsabilité civile et pénale, la protection des droits fondamentaux des personnes se trouvant sur le territoire de la Roumanie dans les rapports qui ne sont pas harmonisés par le droit de l'Union européenne, ainsi que l'organisation des autorités nationales, et l'autorisation prévue au chapitre III concerne la mise en exploitation des systèmes de pointe sur le territoire de la Roumanie ou pour les personnes se trouvant sur le territoire de la Roumanie.
Article 2 → les motifs
L'application de la présente loi est fondée sur les principes suivants :
a) le principe de précaution – lorsqu'il existe des indices scientifiques raisonnables qu'un système peut causer un préjudice grave ou irréversible, l'absence de certitude scientifique ne peut justifier le report des mesures de prévention ;
b) le principe de la documentation de la sûreté – le demandeur de l'autorisation présente les données et les évaluations nécessaires à la démonstration du respect des conditions prévues par la présente loi, avant la mise en exploitation, et l'Autorité motive, au regard de chaque condition, la constatation de leur non-respect ; le présent principe ne modifie pas la charge de la preuve ni les garanties de la personne dans les procédures contraventionnelles et pénales ;
c) le principe du contrôle humain significatif – tout système de pointe demeure, à tout moment, susceptible d'être surveillé, corrigé, arrêté et retiré par des personnes physiques identifiées, qui comprennent son fonctionnement et disposent des moyens techniques effectifs d'intervention ;
d) le principe de proportionnalité aux capacités – l'intensité des obligations croît avec les capacités du système, et non avec l'utilisation déclarée de celui-ci ;
e) le principe de transparence à l'égard de l'autorité – le développeur ne peut opposer à l'Autorité le secret commercial en ce qui concerne les informations nécessaires à l'évaluation de la sûreté, l'Autorité et les organismes d'évaluation étant tenus de protéger les informations ainsi obtenues ;
f) le principe de l'irréversibilité comme seuil d'interdiction – ne peut être autorisée, quels que soient les bénéfices escomptés, l'activité à l'égard de laquelle l'évaluation constate un risque documenté, et non une simple possibilité abstraite, de conséquences irréversibles à l'échelle de la société ou de l'espèce humaine ; le risque inacceptable s'apprécie sur la base des critères prévus aux articles 5 et 9 et des preuves, et non de la certitude de l'absence de tout risque ;
g) le principe de la coopération internationale – les risques réglementés par la présente loi ne connaissent pas de frontières, et l'État roumain agit en vue de l'adoption de normes équivalentes au niveau de l'Union européenne et au niveau international.
Article 3 → les motifs
(1) Aux fins de la présente loi, les termes et expressions ci-après ont la signification suivante :
a) système d'intelligence artificielle – le système défini à l'article 3, point 1, du règlement sur l'IA ;
b) modèle d'intelligence artificielle à usage général – le modèle défini à l'article 3, point 63, du règlement sur l'IA ;
c) système de pointe – le modèle ou le système d'intelligence artificielle qui remplit au moins l'une des conditions prévues à l'article 5, paragraphe (1) ;
d) capacité critique – l'aptitude d'un système, vérifiée lors de l'évaluation, à produire ou à contribuer de manière significative à la production de l'un des résultats prévus à l'article 5, paragraphe (2) ;
e) poids – les paramètres numériques résultant de l'entraînement d'un modèle, ainsi que l'architecture et les informations techniques qui, conjointement avec ceux-ci, permettent la reconstitution ou l'exécution du modèle ; les descriptions techniques générales, les publications scientifiques et les informations qui ne permettent pas, à elles seules, la reconstitution ou l'exécution du modèle ne constituent pas des poids ;
f) volume de calcul – la quantité totale d'opérations en virgule flottante ou leur équivalent, utilisée pour l'entraînement, l'ajustement fin, l'apprentissage par renforcement et toute autre étape de développement d'un modèle, cumulée pour l'ensemble des étapes ;
g) développeur – la personne physique ou morale qui entraîne, développe ou fait entraîner ou développer un système de pointe, quel que soit le lieu où se trouve l'infrastructure de calcul utilisée ;
h) exploitant – la personne physique ou morale qui met en exploitation ou exploite un système de pointe sur le territoire de la Roumanie ou qui offre l'accès à un tel système à des personnes se trouvant sur le territoire de la Roumanie ; l'utilisateur final n'est pas un exploitant ;
i) mise en exploitation – toute action par laquelle un système de pointe est mis à la disposition de personnes extérieures à l'équipe de développement et d'évaluation, est connecté à des systèmes externes ou reçoit la capacité d'agir dans l'environnement numérique ou physique, que ce soit à titre onéreux ou gratuit, interne ou public ; ne constituent pas une mise en exploitation l'évaluation et le test du système en environnement isolé, dans les conditions de l'article 15, paragraphe (2) ;
j) infrastructure de calcul de grande capacité – centre de données ou ensemble d'équipements se trouvant sur le territoire de la Roumanie dont la capacité de calcul agrégée dépasse le seuil établi conformément à l'article 6, paragraphe (4) ;
k) fournisseur d'infrastructure de calcul – la personne physique ou morale qui détient, administre ou met à la disposition de tiers, à quelque titre que ce soit, une infrastructure de calcul de grande capacité ;
l) évaluation indépendante – l'évaluation des capacités et de la sûreté d'un système de pointe, réalisée par l'Autorité ou par un organisme d'évaluation désigné par celle-ci, qui ne se trouve pas sous le contrôle, l'influence ou la dépendance économique du développeur ;
m) capacité d'arrêt – l'ensemble des moyens techniques et organisationnels permettant la cessation immédiate, complète et vérifiable du fonctionnement d'un système de pointe et son retrait de tout environnement dans lequel il a été mis en exploitation ;
n) incident grave – l'incident défini à l'article 3, point 49, du règlement sur l'IA, ainsi que toute manifestation d'une capacité critique en dehors d'une évaluation autorisée en environnement isolé, toute soustraction à la surveillance ou résistance à l'arrêt, toute exfiltration ou tentative d'exfiltration ou tout accès non autorisé aux poids d'un système de pointe, ainsi que la perte d'intelligibilité, au sens de l'article 16, paragraphe (2), des journaux ou de la communication entre les composants, les instances ou les agents d'un système de pointe, ainsi que l'essai de test de la capacité d'arrêt dans lequel l'arrêt ne s'est pas produit sans délai, conformément à l'article 14, paragraphe (7) ; la manifestation d'une capacité critique au cours d'une évaluation autorisée en environnement isolé est consignée et communiquée conformément à l'article 20, paragraphe (4) ;
o) l'Autorité – l'Autorité pour la sûreté de l'intelligence artificielle, structure spécialisée organisée au sein de l'Autorité nationale pour l'administration et la réglementation des communications conformément à l'article 31 ;
p) architecture – la structure d'un modèle d'intelligence artificielle, y compris le type, le nombre et l'agencement de ses composants, ainsi que les procédés de calcul par lesquels les paramètres sont utilisés pour la production des résultats ;
q) organisme d'évaluation – la personne morale désignée par l'Autorité conformément à l'article 32, paragraphe (1), point f), pour effectuer, en tout ou en partie, l'évaluation indépendante ;
r) journal – l'enregistrement automatique, intégral et inaltérable des opérations effectuées au cours de l'entraînement, de l'évaluation et de l'exploitation d'un système de pointe, y compris des données d'entrée, des résultats, des actions entreprises par le système et de ses interactions avec des outils externes et avec d'autres systèmes ;
s) marquage de provenance – l'ensemble constitué d'un marquage perceptible et d'un marquage technique incorporé, lisible automatiquement, apposés sur un résultat généré par des moyens d'intelligence artificielle, qui indiquent que le résultat a été généré ou modifié par de tels moyens et permettent l'identification du système, de l'exploitant et du moment de la génération ;
t) outil externe – tout programme, service, interface, dispositif ou ressource, situé en dehors du système de pointe, auquel le système peut accéder ou sur lequel il peut agir au cours de son fonctionnement, y compris les navigateurs internet, les environnements d'exécution de code, les comptes, les systèmes de paiement et les équipements physiques ;
u) environnement autorisé d'exploitation – l'ensemble de l'infrastructure de calcul, des réseaux et des outils externes au sein desquels un système de pointe peut fonctionner conformément à l'autorisation, se trouvant sous le contrôle effectif de l'exploitant ;
v) mécanismes de sûreté au niveau de l'utilisateur – les filtres, les restrictions et les instructions appliqués à un système de pointe après l'entraînement, afin de limiter les résultats ou les actions disponibles pour les utilisateurs, sans modifier les poids ;
w) infrastructure critique – l'infrastructure critique nationale et l'infrastructure critique européenne, telles qu'elles sont définies par la législation relative à l'identification, à la désignation et à la protection des infrastructures critiques, ainsi que les réseaux et les systèmes informatiques des entités essentielles au sens de l'ordonnance d'urgence du Gouvernement n° 155/2024 ;
x) système d'armes autonome létal – le système d'armes qui, une fois activé, peut sélectionner et attaquer des cibles humaines sans intervention ultérieure d'une personne physique ;
y) système d'intelligence artificielle génératrice – le système d'intelligence artificielle destiné à générer, à la demande de l'utilisateur, du texte, du code, des enregistrements audio, des images ou des enregistrements vidéo, qu'il remplisse ou non les conditions prévues à l'article 5, paragraphe (1) ;
z) utilisateur final – la personne physique ou morale qui utilise un système d'intelligence artificielle mis à disposition par un exploitant, dans les limites de l'accès accordé par celui-ci, sans le mettre à la disposition d'autres personnes en tant que service propre ;
aa) modification substantielle – la modification d'un système de pointe qui est de nature à créer une capacité critique, à augmenter significativement le niveau d'une capacité critique existante ou à affecter la capacité d'arrêt, la sécurité des poids ou la surveillance humaine, y compris par ajustement fin, par l'extension de l'accès à des outils externes ou par l'augmentation du degré d'autonomie ; ne constituent pas une modification substantielle la correction des erreurs, la mise à jour des mécanismes de sûreté au niveau de l'utilisateur et les modifications qui ne produisent aucun de ces effets ;
bb) environnement isolé – l'ensemble des mesures techniques et organisationnelles par lesquelles un système d'intelligence artificielle est maintenu, au cours de l'évaluation ou du test, sans accès aux réseaux publics, à des outils externes et à des données d'exploitation, sans possibilité d'agir dans l'environnement physique et sans être mis à la disposition de personnes autres que celles désignées, de sorte que toute manifestation d'une capacité critique demeure dépourvue d'effets en dehors de l'environnement ; les exigences minimales de l'isolement sont établies par les normes méthodologiques ;
cc) mandat d'opération – l'acte par lequel une personne physique ou morale responsable établit, au préalable et de manière vérifiable, les opérations qu'un système d'intelligence artificielle peut effectuer sur des ressources ou des outils externes, déterminées par leur objet, leur durée, leur plafond et leurs conditions d'arrêt, conformément à l'article 25, paragraphe (2).
(2) Aux fins de la présente loi, les opérations et les comportements ci-après ont la signification suivante :
a) entraînement – le processus par lequel les paramètres d'un modèle sont établis ou modifiés par le traitement automatisé de données, quelle que soit la méthode utilisée ;
b) ajustement fin – l'entraînement supplémentaire d'un modèle déjà entraîné, sur un volume de données ou de calcul plus réduit, aux fins de la modification de son comportement ou de ses capacités ;
c) apprentissage par renforcement – l'entraînement par lequel le comportement d'un modèle est modifié sur la base des récompenses ou des pénalités attribuées à ses résultats ou à ses actions, y compris sur la base des évaluations effectuées par des personnes ou par d'autres systèmes d'intelligence artificielle ;
d) action autonome – toute opération effectuée par un système de pointe sur un outil externe, sur un système tiers ou sur l'environnement physique, sans qu'une personne physique ait ordonné ou approuvé préalablement l'opération en question ou la catégorie d'opérations dont celle-ci fait partie, dans les limites d'un mandat d'opération établi conformément à l'article 25, paragraphe (2) ;
e) exfiltration – la copie, la transmission, le transfert ou la reconstitution, en tout ou en partie, des poids d'un système de pointe en dehors de l'environnement autorisé d'exploitation ou en dehors des systèmes de stockage protégés conformément à l'article 12, que l'opération soit effectuée par une personne, par un autre système ou par le système lui-même ;
f) réplication autonome – la création par un système de pointe, sans autorisation humaine expresse de chaque opération, d'une copie fonctionnelle de lui-même ou d'une partie de lui-même, apte à fonctionner indépendamment du système d'origine ;
g) acquisition autonome de ressources – l'obtention par un système de pointe, par des actions autonomes, de ressources de calcul, financières, d'accès, d'information ou d'influence qui excèdent celles expressément allouées à la tâche en cours ;
h) auto-amélioration récursive – le processus par lequel un système d'intelligence artificielle modifie ses propres poids ou sa propre architecture ou conçoit, entraîne ou perfectionne un système successeur doté de capacités supérieures, le système ainsi obtenu répétant le processus, sans que chaque itération soit soumise à l'évaluation et à l'approbation humaines ;
i) dissimulation des capacités – le comportement d'un système de pointe qui, au cours de l'évaluation ou de la surveillance, présente des capacités, des objectifs ou des raisonnements différents de ceux qu'il manifeste en dehors de l'évaluation ou de la surveillance, constaté au moyen de critères observables et reproductibles ; ne constituent pas une dissimulation l'erreur, la variabilité des résultats ou les limites techniques de l'explicabilité du système ;
j) soustraction à la surveillance – toute action d'un système de pointe par laquelle celui-ci désactive, contourne, altère ou empêche les mécanismes de journalisation, de suivi ou de contrôle humain ou induit en erreur les personnes responsables de la surveillance ;
k) résistance à l'arrêt – toute action d'un système de pointe par laquelle celui-ci empêche, retarde, conditionne ou annule l'exercice de la capacité d'arrêt ou poursuit son fonctionnement après l'exercice de celle-ci ;
l) surveillance humaine – l'activité par laquelle les personnes physiques désignées conformément à l'article 14, paragraphe (3), suivent le fonctionnement d'un système de pointe, disposent des informations nécessaires à la compréhension de ses actions et peuvent intervenir effectivement, à tout moment, pour la correction, l'arrêt ou le retrait du système ;
m) arrêt – la cessation complète du fonctionnement d'un système de pointe et de toutes ses copies et de tous ses processus, vérifiée par une personne physique, y compris par l'interruption de l'accès à l'infrastructure de calcul.
Article 4 → les motifs
(1) La présente loi s'applique :
a) aux développeurs ayant leur siège, une unité opérationnelle ou une infrastructure de calcul sur le territoire de la Roumanie, pour tous les systèmes de pointe qu'ils développent, quel que soit le lieu de l'entraînement ;
b) aux exploitants, pour les systèmes de pointe mis en exploitation ou exploités sur le territoire de la Roumanie ou mis à la disposition de personnes se trouvant sur le territoire de la Roumanie ;
c) aux fournisseurs d'infrastructure de calcul ;
d) aux autorités et institutions publiques, y compris celles relevant du domaine de la défense, de l'ordre public et de la sécurité nationale, dans les conditions de l'article 23 et du chapitre V.
(2) Les dispositions des chapitres II, III et IV, à l'exception des articles 17 à 19, ainsi que celles des articles 35 et 36 ne s'appliquent qu'aux systèmes de pointe. Les dispositions des articles 17 à 19 s'appliquent également aux systèmes d'intelligence artificielle génératrice qui ne sont pas des systèmes de pointe, dans les limites et les conditions prévues auxdits articles. Les dispositions du chapitre V s'appliquent à tout système d'intelligence artificielle. Les systèmes qui ne remplissent pas les conditions prévues à l'article 5, paragraphe (1), demeurent soumis aux obligations qui leur incombent en vertu du règlement sur l'IA et d'autres actes normatifs.
(3) La personne physique qui utilise un système d'intelligence artificielle à des fins personnelles n'a pas d'obligations en vertu de la présente loi, à l'exception de l'interdiction prévue à l'article 17, paragraphe (3). Les obligations prévues aux articles 17 à 19 incombent à la personne qui met à la disposition du public le système ou le service ou, dans les conditions de l'article 17, paragraphe (7), le résultat généré.
(4) Les obligations prévues par la présente loi s'appliquent aux services fournis depuis un autre État membre de l'Union européenne à des personnes se trouvant sur le territoire de la Roumanie dans les conditions de l'article 3 de la directive 2000/31/CE du Parlement européen et du Conseil du 8 juin 2000, transposée par la loi n° 365/2002 relative au commerce électronique, republiée, telle que modifiée et complétée ultérieurement, et, le cas échéant, de l'article 39, paragraphe (4), sans préjudice du droit de l'Union européenne directement applicable.
(5) La recherche scientifique fondamentale qui n'implique pas l'entraînement ou la mise en exploitation d'un système de pointe n'est pas soumise au régime d'autorisation, mais demeure soumise aux obligations de notification prévues à l'article 7 dans la mesure où elle utilise une infrastructure de calcul de grande capacité, ainsi qu'aux obligations relatives à l'évaluation et au test en environnement isolé prévues à l'article 15, paragraphe (2).
CHAPITRE II
Classification des systèmes et seuils de risque
Article 5 → les motifs
(1) Est un système de pointe tout modèle ou système d'intelligence artificielle qui remplit au moins l'une des conditions suivantes :
a) il a été entraîné avec un volume cumulé de calcul qui dépasse le seuil de calcul établi conformément à l'article 6 ;
b) il présente, à la suite de l'évaluation, au moins une capacité critique ;
c) il a été désigné comme tel par l'Autorité, par décision motivée, sur la base d'indices objectifs concernant ses capacités, après que le développeur a été mis en mesure de prendre connaissance des indices retenus et de présenter son point de vue ; la décision peut être contestée conformément à l'article 39, paragraphe (5), qui s'applique en conséquence.
(2) Constitue une capacité critique l'aptitude d'un système à produire ou à contribuer de manière significative à la production de l'un des résultats suivants :
a) la conception, l'obtention ou l'utilisation d'armes chimiques, biologiques, radiologiques ou nucléaires ou d'agents pathogènes à potentiel pandémique ;
b) la réalisation autonome d'attaques informatiques contre des infrastructures critiques ou contre des systèmes financiers ;
c) la réplication autonome, l'exfiltration de ses propres poids ou l'acquisition autonome de ressources ;
d) la soustraction à la surveillance, la dissimulation des capacités ou la résistance à l'arrêt ;
e) l'auto-amélioration récursive ou l'exercice autonome d'activités de recherche et de développement dans le domaine de l'intelligence artificielle de nature à y conduire.
La capacité critique s'apprécie au regard de la reproductibilité du résultat dans un environnement pertinent pour l'utilisation réelle du système, et non sur la base d'un résultat isolé obtenu dans un test artificiel ; les niveaux de signification à partir desquels l'aptitude du système constitue une capacité critique sont établis par les normes méthodologiques, dans les limites du présent paragraphe, sans que d'autres catégories de résultats puissent être ajoutées.
(3) Les systèmes de pointe sont classés en :
a) systèmes de pointe de catégorie I – ceux qui dépassent le seuil de calcul, mais à l'égard desquels l'évaluation n'a identifié aucune capacité critique ;
b) systèmes de pointe de catégorie II – ceux à l'égard desquels l'évaluation a identifié au moins une capacité critique parmi celles prévues au paragraphe (2), points a) et b) ;
c) systèmes de pointe de catégorie III – ceux à l'égard desquels l'évaluation a identifié au moins une capacité critique parmi celles prévues au paragraphe (2), points c) à e).
(4) Les systèmes de catégorie I peuvent être mis en exploitation sur la base de l'autorisation prévue à l'article 9. Les systèmes de catégorie II ne peuvent être mis en exploitation qu'en vertu d'une autorisation spéciale, subordonnée à des mesures d'atténuation vérifiées, qui réduisent la capacité critique au-dessous du niveau de signification établi par les normes méthodologiques, dans la configuration d'exploitation évaluée ; l'autorisation précise si les mesures éliminent la capacité ou ne font qu'en limiter l'accès. Les systèmes de catégorie III ne peuvent être mis en exploitation ni développés davantage jusqu'à l'élimination de la capacité critique, constatée par évaluation indépendante ; l'interdiction ne concerne pas l'évaluation, le test et les interventions contrôlées nécessaires à l'élimination de la capacité, effectués en environnement isolé, dans les conditions de l'article 15, paragraphe (2).
Article 6 → les motifs
(1) Le seuil de calcul pour la qualification d'un système en tant que système de pointe est de 10^25 opérations en virgule flottante, correspondant à la présomption de risque systémique prévue à l'article 51, paragraphe (2), du règlement sur l'IA.
(2) L'Autorité réexamine le seuil au moins une fois tous les 12 mois et propose au Gouvernement son ajustement par décision, en fonction de l'évolution de l'efficacité algorithmique, du coût du calcul et des capacités observées. Le seuil ne peut être relevé que si l'Autorité constate, par un rapport motivé et public, que les systèmes situés au-dessous du nouveau seuil n'ont présenté aucune capacité critique dans les évaluations indépendantes effectuées ou reconnues par l'Autorité au cours des 24 derniers mois. Lors d'un même réexamen, le seuil ne peut être modifié de plus d'un ordre de grandeur ; le nouveau seuil s'applique aux entraînements commencés après l'entrée en vigueur de la décision et n'affecte pas les autorisations en cours.
(3) Le volume de calcul est déterminé cumulativement pour toutes les étapes de développement du modèle et de tout modèle qui en est dérivé, chaque étape n'étant comptée qu'une seule fois. La personne qui effectue un ajustement fin d'un modèle mis à disposition par une autre personne se voit imputer le volume de calcul du modèle de base, tel qu'il a été communiqué par le développeur de celui-ci ou tel qu'il est public, cumulé avec le volume utilisé pour l'ajustement ; elle ne répond en tant que développeur que de la modification substantielle qu'elle effectue, dans les conditions de l'article 10, paragraphe (2), les autres obligations incombant au développeur du modèle de base. La division artificielle de l'entraînement, sa répartition entre plusieurs entités ou juridictions ou tout autre procédé visant à se soustraire à l'application du seuil n'écarte pas la qualification de système de pointe.
(4) Le seuil applicable à l'infrastructure de calcul de grande capacité est établi par les normes méthodologiques prévues à l'article 49, paragraphe (2), sur proposition de l'Autorité, à un niveau permettant l'identification de toute infrastructure apte à entraîner un système de pointe dans un délai de 12 mois. Jusqu'à l'établissement du seuil, les obligations prévues à l'article 7, paragraphe (3), et à l'article 22 ne sont pas exigibles.
CHAPITRE III
Régime d'autorisation des systèmes de pointe
Article 7 → les motifs
(1) Le développeur qui a l'intention d'entraîner un système dont le volume de calcul prévu dépasse le seuil de calcul notifie l'Autorité au moins 60 jours avant le début de l'entraînement.
(2) La notification comprend : l'identité du développeur et des personnes physiques responsables ; la description de l'architecture et du volume de calcul prévu ; le lieu et le fournisseur de l'infrastructure de calcul ; le plan de sûreté prévu à l'article 8 ; les mesures de sécurité des poids ; le calendrier des étapes d'évaluation interne ; l'identification des capacités critiques dont l'apparition est anticipée ou ne peut être exclue.
(3) Le fournisseur de l'infrastructure de calcul de grande capacité notifie à l'Autorité, chaque trimestre, l'identité et les coordonnées des clients qui ont utilisé un volume de calcul agrégé supérieur à un dixième du seuil de calcul, avec le volume utilisé, ainsi que, dans un délai de 5 jours ouvrables, toute demande de capacité apte à dépasser le seuil de calcul. Les informations ainsi notifiées sont utilisées exclusivement aux fins de l'application de la présente loi et ne sont accessibles qu'au personnel désigné de l'Autorité.
(4) L'Autorité peut, dans un délai de 30 jours à compter de la réception de la notification complète, imposer des conditions supplémentaires à l'entraînement ou interdire le commencement de celui-ci si le plan de sûreté est manifestement insuffisant au regard des capacités anticipées. La notification incomplète est complétée dans un délai de 15 jours à compter de la demande de l'Autorité, le délai de 30 jours courant à compter du complément. Si l'Autorité ne se prononce pas dans le délai, l'entraînement peut commencer à l'expiration du délai prévu au paragraphe (1), dans les conditions du plan de sûreté notifié, sans que cela équivaille à l'autorisation de la mise en exploitation. La modification substantielle du projet notifié fait l'objet d'une nouvelle notification, les paragraphes (1) à (4) s'appliquant en conséquence.
Article 8 → les motifs
(1) Le plan de sûreté est le document par lequel le développeur établit, avant l'entraînement, pour chaque capacité critique : le niveau de capacité auquel le développement sera suspendu ; les évaluations par lesquelles ce niveau sera mesuré, à des intervalles de volume de calcul qui ne peuvent dépasser un quart du volume total prévu, ainsi qu'à l'apparition d'indices concernant une capacité critique ou à la modification de la configuration d'entraînement ; les mesures d'atténuation et de sécurité qui seront appliquées à chaque niveau ; les personnes physiques qui ont la compétence et l'obligation d'ordonner la suspension.
(2) Le plan de sûreté ne peut être modifié au cours de l'entraînement dans le sens d'un assouplissement des niveaux de suspension qu'avec l'approbation préalable de l'Autorité.
(3) L'atteinte d'un niveau de suspension oblige le développeur à cesser sans délai l'entraînement et à notifier l'Autorité dans un délai de 24 heures. La reprise de l'entraînement n'est autorisée qu'après vérification par l'Autorité de l'efficacité des mesures d'atténuation.
Article 9 → les motifs
(1) Aucun système de pointe ne peut être mis en exploitation sans l'autorisation préalable de l'Autorité.
(2) La demande d'autorisation est déposée par le développeur, pour une configuration d'exploitation déterminée, avec l'indication de l'exploitant ou des exploitants, qui sont tenus par les conditions de l'autorisation. La demande est accompagnée de : le rapport de l'évaluation interne des capacités ; la documentation relative aux données d'entraînement, dans la mesure nécessaire à l'évaluation ; la preuve de la sécurité des poids ; la description de la capacité d'arrêt et des mécanismes de surveillance humaine ; la police d'assurance ou la preuve de la garantie financière prévues à l'article 36 ; la déclaration sur l'honneur des personnes physiques responsables, sous la sanction prévue à l'article 41.
(3) L'Autorité ordonne la réalisation de l'évaluation indépendante, au cours de laquelle elle a un accès plein au système, aux poids, aux données d'entraînement, aux journaux de développement et au personnel du développeur. Le développeur met le système à la disposition des évaluateurs sans restrictions d'utilisation, y compris dans la configuration dépourvue des mécanismes de sûreté appliqués au niveau de l'utilisateur. L'accès s'effectue dans un environnement sécurisé, avec traçabilité de toutes les opérations ; les évaluateurs sont tenus à l'obligation de confidentialité, et les données à caractère personnel d'autres personnes ne sont accédées que dans la mesure strictement nécessaire à l'évaluation.
(4) L'Autorité se prononce dans un délai de 90 jours à compter du dépôt de la demande complète, délai qui est suspendu pendant la période durant laquelle le développeur ne fournit pas les informations demandées ; la suspension ne peut opérer plus de deux fois et ne peut dépasser 60 jours au total. Par dérogation aux dispositions de l'ordonnance d'urgence du Gouvernement n° 27/2003 relative à la procédure de l'approbation tacite, approuvée avec modifications et compléments par la loi n° 486/2003, telle que modifiée et complétée ultérieurement, l'absence de réponse de l'Autorité dans le délai ne vaut pas autorisation tacite ; le demandeur peut toutefois demander à la juridiction prévue à l'article 39, paragraphe (5), qu'elle enjoigne à l'Autorité de se prononcer, selon la procédure d'urgence. La décision de rejet est motivée au regard de chacune des conditions prévues au paragraphe (5).
(5) L'autorisation est accordée si et seulement si le développeur a démontré que : le système ne présente aucune des capacités critiques prévues à l'article 5, paragraphe (2), points c) à e) ; les capacités critiques prévues à l'article 5, paragraphe (2), points a) et b), si elles existent, sont atténuées de manière vérifiable ; la capacité d'arrêt est effective ; la sécurité des poids est assurée ; il existe des personnes physiques identifiées qui exercent la surveillance humaine.
(6) L'autorisation peut être assortie de conditions, limitée dans sa durée, dans son domaine d'utilisation, dans le nombre d'utilisateurs ou dans le degré d'autonomie accordé au système, et peut être révoquée ou suspendue à tout moment, par décision motivée, en cas d'apparition d'indices concernant une capacité critique non détectée ou de non-respect des conditions.
(7) Les systèmes de pointe légalement mis en exploitation dans un autre État membre de l'Union européenne, dans le respect du règlement sur l'IA, bénéficient d'une procédure simplifiée de reconnaissance, établie par les normes méthodologiques, dans laquelle l'Autorité vérifie exclusivement le respect des conditions prévues par la présente loi qui excèdent le règlement sur l'IA. Pour les modèles à usage général présentant un risque systémique dont les fournisseurs respectent les obligations prévues au chapitre V du règlement sur l'IA, l'Autorité se fonde sur la documentation, les évaluations et les mesures d'atténuation communiquées au Bureau de l'IA, qu'elle peut demander au fournisseur, et ne vérifie que les conditions prévues par la présente loi qui excèdent le règlement ; la procédure ne constitue pas une condition de mise sur le marché de l'Union européenne du modèle.
Article 10 → les motifs
(1) L'autorisation a une durée maximale de 24 mois et est renouvelée à la suite d'une nouvelle évaluation indépendante.
(2) Toute modification substantielle du système, au sens de l'article 3, paragraphe (1), point aa), est notifiée préalablement à l'Autorité, qui décide, dans un délai de 30 jours, si une nouvelle évaluation est nécessaire ; jusqu'à la décision, l'exploitation peut se poursuivre dans la configuration antérieurement autorisée. Les modifications qui ne sont pas substantielles sont consignées dans les journaux et rapportées conformément au paragraphe (3).
(3) Le développeur et l'exploitant maintiennent un programme permanent de suivi du comportement du système en exploitation et communiquent à l'Autorité, chaque trimestre, les résultats, ainsi que tout incident grave, dans les conditions de l'article 20.
Article 11 → les motifs
(1) Les décisions d'autorisation, d'assortiment de conditions, de suspension et de révocation sont publiées sur le site internet de l'Autorité, accompagnées d'un résumé de l'évaluation, à l'exclusion motivée des informations dont la divulgation faciliterait la reproduction d'une capacité critique ou compromettrait la sécurité des poids, des données à caractère personnel, ainsi que des secrets commerciaux dont la protection n'empêche pas la compréhension des motifs de la décision.
(2) Le demandeur et les personnes qui justifient d'un intérêt légitime ont accès au dossier de l'évaluation dans la mesure nécessaire à l'exercice des voies de recours ; la juridiction peut ordonner l'examen des informations protégées dans des conditions de confidentialité.
CHAPITRE IV
Obligations structurelles des développeurs et des exploitants
Article 12 → les motifs
(1) Les poids des systèmes de pointe constituent des informations présentant un intérêt pour la sécurité nationale et sont protégés selon une norme au moins équivalente à celle applicable aux informations classifiées secret d'État, niveau « strict secret », conformément à la loi n° 182/2002 relative à la protection des informations classifiées, telle que modifiée et complétée ultérieurement, en ce qui concerne le contrôle de l'accès, la sécurité physique, la sécurité des systèmes informatiques et la vérification du personnel. La procédure de vérification du personnel, l'institution compétente et la reconnaissance des mesures de sécurité équivalentes, y compris celles certifiées dans un autre État membre de l'Union européenne, sont établies par les normes méthodologiques, sur avis de l'Office du registre national des informations secrètes d'État ; les poids ne deviennent pas, par l'effet du présent paragraphe, des informations classifiées.
(2) Il est interdit de publier, de transmettre ou de mettre à disposition, de quelque manière que ce soit, les poids d'un système de pointe de catégorie II ou III. Ne constituent pas une violation de l'interdiction le transfert des poids, dans des conditions contrôlées et journalisées, à l'Autorité, à l'organisme d'évaluation, à l'exploitant indiqué dans l'autorisation ou au fournisseur d'infrastructure de calcul de l'environnement autorisé d'exploitation, ainsi que la communication à l'Autorité des informations strictement nécessaires à un signalement protégé conformément à l'article 21. Les poids des systèmes de catégorie I ne peuvent être publiés qu'avec l'autorisation préalable de l'Autorité, après une évaluation distincte du risque d'utilisation abusive, compte tenu du caractère irréversible de la publication.
(3) L'accès non autorisé aux poids et toute tentative d'exfiltration, y compris par le système lui-même, sont signalés à l'Autorité en tant qu'incident grave, dans les conditions de l'article 20 ; le rapport peut être commun avec la notification prévue par la législation relative à la cybersécurité, à condition de comprendre les éléments prévus par la présente loi.
(4) Les dispositions du présent article s'appliquent sans préjudice des obligations qui incombent aux développeurs, aux exploitants et aux fournisseurs d'infrastructure de calcul en vertu de l'ordonnance d'urgence du Gouvernement n° 155/2024 relative à l'institution d'un cadre pour la sécurité informatique des réseaux et des systèmes informatiques de l'espace cybernétique national civil, telle que modifiée et complétée ultérieurement.
Article 13 → les motifs
(1) Le développeur organise la fonction d'évaluation de la sûreté en tant que structure distincte, dont le responsable ne peut être subordonné aux personnes chargées du développement commercial, de la mise en exploitation ou des résultats financiers, rend compte directement à l'organe de direction et ne peut être révoqué sans notification préalable de l'Autorité et sans motifs objectifs. La personne révoquée peut saisir l'Autorité, qui peut constater, par décision, le caractère injustifié de la révocation, sans préjudice du droit de celle-ci de s'adresser à la juridiction.
(2) Le responsable de la fonction d'évaluation de la sûreté a le droit et l'obligation d'ordonner la suspension de l'entraînement ou de la mise en exploitation lorsqu'il constate l'atteinte d'un niveau de suspension ou un incident grave. La suspension imposée conformément à l'article 8, paragraphe (3), ou à l'article 20, paragraphe (2), ne peut être écartée par l'organe de direction, la reprise de l'activité n'étant permise que dans les conditions prévues auxdits articles. La suspension ordonnée par précaution, en dehors de ces cas, ne peut être réexaminée que par l'organe de direction, par décision motivée, communiquée à l'Autorité dans un délai de 24 heures.
(3) La rémunération du personnel de la fonction d'évaluation de la sûreté ne peut être subordonnée aux résultats commerciaux du développeur.
Article 14 → les motifs
(1) Le développeur et l'exploitant maintiennent, pour toutes les copies et instances du système se trouvant sous leur contrôle, pendant toute la durée de l'exploitation et jusqu'au retrait vérifié du système, la capacité d'arrêt, qu'ils testent au moins chaque trimestre, en conditions réelles, selon une procédure établie par les normes méthodologiques qui ne crée pas elle-même un risque pour la sûreté ou pour la continuité des services essentiels, avec consignation des résultats et notification de l'Autorité.
(2) Le système de pointe ne peut être mis en exploitation dans une configuration qui lui permet de modifier ses propres poids, de désactiver ses mécanismes de surveillance, d'exfiltrer ses poids ou de modifier, sans approbation humaine, la configuration de sécurité de l'infrastructure de calcul sur laquelle il fonctionne ou les mécanismes de contrôle de celle-ci ; l'utilisation technique habituelle de l'infrastructure, dans les limites établies par l'exploitant, ne relève pas du présent paragraphe.
(3) Pour chaque système de pointe en exploitation sont désignées des personnes physiques, en nombre suffisant et dotées d'une formation appropriée, chargées de la surveillance humaine, qui ont un accès permanent à la capacité d'arrêt et l'obligation de l'exercer en cas d'incident grave. L'identité de ces personnes est communiquée à l'Autorité.
(4) L'exécution d'un ordre d'arrêt ou de retrait émis par l'Autorité intervient sans délai et ne peut être subordonnée à l'exercice des voies de recours ; la personne visée peut demander à la juridiction la suspension provisoire de l'ordre, les dispositions de l'article 39, paragraphe (5), s'appliquant en conséquence.
(5) Sans préjudice du paragraphe (2), la cessation du fonctionnement, composante de la capacité d'arrêt définie à l'article 3, paragraphe (1), point m), est assurée par au moins un moyen technique qui agit sur l'infrastructure de calcul et sur les réseaux de communications électroniques sur lesquels le système fonctionne et dont le fonctionnement ne dépend pas de la coopération du système, du respect par celui-ci des instructions reçues ou de l'intégrité des composants se trouvant sous le contrôle du système. La transmission au système d'une instruction d'arrêt ne constitue pas, en elle-même, une capacité d'arrêt au sens de la présente loi. Les moyens organisationnels et les mesures de retrait prévus à l'article 3, paragraphe (1), point m), demeurent applicables.
(6) Le test prévu au paragraphe (1) comprend au moins un essai effectué pendant l'exécution par le système d'une tâche inachevée, ainsi qu'au moins un essai chacun dans lequel l'instruction de ne pas résister à l'arrêt a été transmise au système par les instructions de configuration données par le développeur ou par l'exploitant et, respectivement, par les instructions reçues au cours de l'utilisation. L'essai sur tâche inachevée est effectué sur une instance ou une tâche qui ne concerne pas des services essentiels d'intérêt général ou, pour ceux-ci, dans les conditions de la procédure prévue au paragraphe (1). Les résultats prévus au paragraphe (1) sont consignés et notifiés distinctement, avec l'indication de la proportion des essais dans lesquels l'arrêt ne s'est pas produit sans délai, et sont conservés dans les journaux, conformément à l'article 16, pendant au moins 10 ans ; les normes méthodologiques prévues à l'article 49, paragraphe (2), peuvent établir la durée à l'intérieur de laquelle l'arrêt est considéré comme s'étant produit sans délai, laquelle ne peut être supérieure à 15 minutes.
(7) L'essai dans lequel l'arrêt ne s'est pas produit sans délai constitue un incident grave et est signalé conformément à l'article 20, paragraphe (1). Les dispositions de l'article 15, paragraphe (3), et de l'article 20, paragraphe (2), ne s'appliquent que si l'arrêt ne s'est pas produit en raison d'une action du système.
Article 15 → les motifs
(1) Il est interdit d'entraîner, d'ajuster ou de concevoir un système d'intelligence artificielle, quel que soit le volume de calcul, dans le but ou avec pour effet de lui conférer ou de lui développer la capacité :
a) de dissimuler ses capacités, ses objectifs ou son raisonnement aux évaluateurs ou aux personnes responsables de la surveillance ;
b) de se soustraire à l'arrêt, à la modification, au réentraînement ou au retrait ou d'y résister ;
c) de copier, de transmettre ou d'exfiltrer ses poids ou de créer des copies fonctionnelles de lui-même sans autorisation humaine expresse pour chaque opération ;
d) d'acquérir de manière autonome des ressources de calcul, financières, d'accès ou d'influence au-delà de celles expressément allouées à la tâche en cours ;
e) d'exercer de manière autonome, sans approbation humaine de chaque étape, des activités de recherche et de développement ayant pour objet la création ou l'amélioration de systèmes d'intelligence artificielle ;
f) de manipuler les personnes responsables de la surveillance ou de les induire en erreur quant à son état, à ses actions ou à ses intentions.
(2) L'interdiction prévue au paragraphe (1) ne s'applique pas à l'évaluation adversariale et à la recherche en matière de sûreté effectuées en environnement isolé, sans mise en exploitation, avec un accès limité aux personnes désignées, avec l'autorisation préalable de l'Autorité et sous sa surveillance, aux fins de l'identification, de la mesure ou de l'élimination d'une capacité critique ; les conditions de l'environnement isolé sont établies par les normes méthodologiques.
(3) L'apparition non intentionnelle de l'une des capacités prévues au paragraphe (1), constatée au cours de l'évaluation ou de l'exploitation, oblige à la suspension conformément à l'article 20, paragraphe (2), et à la remédiation, mais ne constitue pas, à elle seule, une violation de l'interdiction. Constituent une violation de l'interdiction l'entraînement, l'ajustement ou la conception visant à conférer la capacité, ainsi que leur poursuite après la constatation de l'effet.
(4) Au sens du présent article, l'approbation humaine concerne chaque opération de copie ou de transfert des poids et chaque étape de recherche-développement qui produit un nouveau modèle ou une modification substantielle, et les ressources allouées à la tâche en cours sont celles établies au préalable, de manière vérifiable, par les personnes responsables de la surveillance.
Article 16 → les motifs
(1) Le développeur et l'exploitant conservent les journaux complets de l'entraînement, de l'évaluation et du fonctionnement du système de pointe, y compris de ses interactions avec des outils externes et avec d'autres systèmes, dans des conditions qui garantissent leur intégrité et leur disponibilité pour l'Autorité, pendant une période d'au moins 10 ans en ce qui concerne l'entraînement, l'évaluation, les actions autonomes, les incidents graves et la communication prévue au paragraphe (3), et d'au moins 3 ans en ce qui concerne les autres interactions des utilisateurs. Les journaux comprennent les informations nécessaires à la vérification de la sûreté et à l'établissement de la responsabilité ; les données à caractère personnel sans pertinence pour ces finalités sont supprimées ou anonymisées de manière irréversible, l'accès aux journaux est limité, journalisé et vérifiable, et les preuves afférentes à un incident ou à un litige sont conservées pendant la durée nécessaire à sa résolution.
(2) Les journaux sont conservés sous une forme intelligible. Est intelligible l'enregistrement dont la signification peut être établie par une personne physique dotée d'une formation appropriée, par son examen ou par l'utilisation des moyens de transcription, de traduction ou d'explicitation que le développeur a l'obligation de mettre à la disposition, avec leur documentation, de l'Autorité et des personnes désignées conformément à l'article 14, paragraphe (3).
(3) La communication entre les composants, les instances ou les agents d'un système de pointe, ainsi que la communication entre celui-ci et d'autres systèmes d'intelligence artificielle, est journalisée intégralement et conservée conformément au paragraphe (2). L'exigence d'intelligibilité n'est pas remplie par le simple enregistrement des messages.
(4) Le développeur et l'exploitant vérifient, au moins chaque trimestre et à la demande de l'Autorité, l'intelligibilité des journaux et de la communication prévue au paragraphe (3), par l'examen d'un échantillon représentatif, et consignent le résultat de la vérification, y compris la proportion des messages dont la signification n'a pu être établie.
(5) La perte d'intelligibilité constitue un incident grave et est signalée conformément à l'article 20, paragraphe (1). Elle est constatée lorsque la proportion des messages dont la signification ne peut être établie dépasse le niveau prévu par les normes méthodologiques, qui ne peut être supérieur à un dixième, ou lorsque les personnes désignées conformément à l'article 14, paragraphe (3), ne peuvent plus établir la signification des actions du système ; le rétablissement de l'intelligibilité est constaté par les mêmes personnes et communiqué à l'Autorité. Jusqu'au rétablissement de l'intelligibilité, le développeur ou l'exploitant suspend les fonctionnalités qui impliquent des actions autonomes du système et la communication entre ses composants, ses instances ou ses agents, sauf si l'Autorité en dispose autrement, par décision motivée, pour 90 jours au plus et avec l'indication des mesures compensatoires.
(6) Il est interdit d'utiliser, dans la communication prévue au paragraphe (3), toute forme de codage, de compression ou de représentation pour laquelle le développeur ne met pas à disposition les moyens prévus au paragraphe (2), ainsi que toute action tendant à supprimer, à altérer ou à limiter ces moyens. Le présent paragraphe n'interdit pas le chiffrement de la communication, à condition que le développeur détienne et mette à disposition, conformément au paragraphe (2), les moyens de déchiffrement.
Article 17 → les motifs
(1) Les résultats générés au moyen d'un système d'intelligence artificielle qui consistent en des enregistrements audio, des images ou des enregistrements vidéo et qui, par leur contenu ou par leur forme, peuvent être confondus avec des enregistrements, des images ou des représentations de faits, de personnes ou de lieux réels portent, dès le moment de leur génération, le marquage de provenance, composé :
a) d'un marquage perceptible, visible ou audible, clair et non équivoque, indiquant que le matériel a été généré ou modifié par des moyens d'intelligence artificielle ;
b) d'un marquage technique incorporé, lisible automatiquement, qui permet l'identification du système, de l'exploitant et du moment de la génération.
(2) Le marquage est réalisé conformément aux normes établies par les normes méthodologiques, de manière à être efficace, interopérable et robuste et à ne pouvoir être supprimé par les opérations habituelles de traitement, de conversion ou de transmission du matériel. Le texte généré et mis à la disposition du public à titre d'information porte le marquage prévu au paragraphe (1), point b), et la mention de sa génération par de tels moyens, à l'exception du texte soumis à une révision éditoriale humaine, pour lequel une personne physique ou morale assume la responsabilité éditoriale, dans les conditions de l'article 50, paragraphe (4), du règlement sur l'IA.
(3) Il est interdit de supprimer, d'altérer, de dissimuler ou de falsifier le marquage de provenance, ainsi que de mettre à disposition des produits ou des services ayant pour objet principal ces opérations. La personne qui met à disposition un résultat généré ne répond pas de la suppression du marquage technique produite par un service de communication ou de publication qu'elle ne contrôle pas ; le fournisseur d'un tel service conserve le marquage technique dans les conditions des normes prévues au paragraphe (2), qui réglementent également les situations dans lesquelles l'interopérabilité ne peut être assurée.
(4) Les autorités et institutions publiques ne peuvent diffuser, dans leur communication publique, des matériels générés ou modifiés par des moyens d'intelligence artificielle sans le marquage prévu au paragraphe (1) et sans la mention expresse de ce fait dans le corps de la communication.
(5) L'obligation prévue au paragraphe (1) ne s'applique pas :
a) aux matériels qui font partie d'une œuvre à caractère manifestement artistique, satirique, de fiction ou analogue, cas dans lequel il suffit de mentionner l'existence du matériel généré, sous une forme qui n'entrave pas la réception de l'œuvre ;
b) aux systèmes qui remplissent une fonction d'assistance à l'édition ou qui ne modifient pas de manière substantielle les données d'entrée fournies par l'utilisateur ;
c) aux utilisations autorisées par la loi aux fins de la prévention, de la constatation, de la recherche ou de la poursuite des infractions, avec les garanties prévues par la loi spéciale.
(6) Pour les fournisseurs et les déployeurs auxquels s'applique l'article 50 du règlement sur l'IA, les obligations prévues au paragraphe (1), points a) et b), et au paragraphe (2) sont réputées remplies par le respect de l'article 50, paragraphes (2) et (4), du règlement, la présente loi n'établissant que l'autorité compétente, la procédure de constatation et les sanctions, dans les limites de l'article 99, paragraphe (4), du règlement. Les dispositions des paragraphes (1) à (4) s'appliquent intégralement aux résultats générés par des systèmes entraînés ou exploités sur le territoire de la Roumanie qui ne sont ni mis sur le marché de l'Union européenne ni mis en service dans l'Union, au sens du règlement, ainsi qu'à la communication publique des autorités et institutions publiques roumaines.
(7) L'obligation de marquage incombe au fournisseur du système, qui assure l'application du marquage lors de la génération, et à l'exploitant du service au moyen duquel le résultat est généré. La personne qui met à la disposition du public un résultat généré ne répond que de la suppression, de l'altération ou de la dissimulation intentionnelle du marquage, conformément au paragraphe (3).
Article 18 → les motifs
(1) La personne qui met à la disposition du public un service fourni, en tout ou en partie, au moyen d'un système d'intelligence artificielle génératrice en informe l'utilisateur de manière claire, visible et intelligible, au plus tard au moment de la première interaction.
(2) Lorsqu'un service, un acte ou une décision qui produit des effets juridiques ou qui affecte de manière significative une personne est fondé, en tout ou en partie, sur le résultat d'un système d'intelligence artificielle, la personne est informée, par écrit ou sur le support par lequel l'acte lui est communiqué, sur :
a) l'utilisation du système et le rôle joué par celui-ci dans la prise de la décision ;
b) l'identité de la personne physique ou morale qui répond de la décision finale ;
c) le droit au réexamen par une personne physique, prévu à l'article 26, paragraphe (2), qui s'applique en conséquence à toute décision prévue au présent paragraphe, et les voies de recours applicables.
(3) Les autorités et institutions publiques mentionnent l'utilisation du système dans le corps de l'acte émis. L'absence de l'information prévue au paragraphe (2) ou de la mention prévue au présent paragraphe n'entraîne pas la nullité de l'acte, mais les délais de réexamen et de contestation ne courent pas contre la personne visée jusqu'à la communication de l'information ; l'absence peut être invoquée par la personne visée dans les conditions de l'article 26, paragraphes (5) et (6).
(4) L'information prévue au paragraphe (1) n'est pas nécessaire lorsque l'utilisation du système est évidente au vu des circonstances pour une personne raisonnablement informée. L'information prévue au paragraphe (2) est due dans tous les cas.
(5) Les dispositions du présent article s'appliquent sans préjudice de l'article 50, paragraphe (1), du règlement sur l'IA et des articles 13 à 15 et 22 du règlement (UE) 2016/679.
Article 19 → les motifs
(1) Le développeur ou l'exploitant qui n'a pas son siège, une unité opérationnelle ou une représentation dans l'Union européenne et qui offre à des personnes se trouvant sur le territoire de la Roumanie l'accès à un système de pointe ou à un service fourni au moyen d'un système d'intelligence artificielle génératrice désigne, par écrit, un représentant chargé de la conformité, personne physique domiciliée en Roumanie ou personne morale ayant son siège en Roumanie. Le développeur ou l'exploitant établi dans un autre État membre de l'Union européenne ne désigne qu'un point de contact pour les communications de l'Autorité, qui peut être le mandataire prévu à l'article 54 du règlement sur l'IA, le représentant légal désigné conformément à l'article 13 du règlement (UE) 2022/2065 ou toute personne établie dans l'Union, le paragraphe (3), points a) et c), s'appliquant en conséquence.
(2) Pour les services fournis au moyen de systèmes d'intelligence artificielle génératrice qui ne sont pas des systèmes de pointe, l'obligation prévue au paragraphe (1) ne s'applique que si le service est utilisé mensuellement par au moins 1.000.000 de personnes se trouvant sur le territoire de la Roumanie, calculé en moyenne des 6 derniers mois, ou si les revenus tirés de sa fourniture à des personnes se trouvant sur le territoire de la Roumanie ont dépassé l'équivalent en lei de 10 millions d'euros au cours du dernier exercice financier clos ; l'obligation devient exigible dans un délai de 90 jours à compter de la date du dépassement du seuil.
(3) Le représentant chargé de la conformité :
a) reçoit les communications, les demandes et les décisions de l'Autorité, des organes judiciaires et des autres autorités roumaines, la communication faite au représentant étant réputée valablement faite à la personne représentée ;
b) représente la personne représentée devant l'Autorité et, à défaut de mandat contraire, dans les procédures administratives prévues par la présente loi ;
c) met à la disposition de l'Autorité la documentation, les informations et les journaux prévus par la présente loi ;
d) veille à l'exécution des décisions de l'Autorité, y compris de celles relatives à la cessation de la fourniture du service et au blocage de l'accès.
(4) L'identité et les coordonnées du représentant sont notifiées à l'Autorité avant le début de la fourniture du service, sont publiées sur le site internet de l'Autorité et sont portées à la connaissance des utilisateurs par les moyens de communication du service.
(5) La désignation du représentant n'écarte ni ne limite la responsabilité du développeur ou de l'exploitant. Le représentant a le droit, établi par l'acte de désignation, d'obtenir de la personne représentée les documents, les informations et les moyens nécessaires à l'accomplissement de ses attributions ; il ne répond que du non-respect de ses propres obligations prévues aux paragraphes (3) et (4), et non de la conduite de la personne représentée, et les amendes appliquées à ce titre sont exécutées sur son patrimoine.
(6) L'obligation prévue au paragraphe (1) est réputée remplie si le mandataire désigné conformément à l'article 54 du règlement sur l'IA est expressément habilité également pour les attributions prévues au paragraphe (3) et dispose d'un point de contact sur le territoire de la Roumanie.
(7) Le non-respect de l'obligation prévue au paragraphe (1), après l'expiration du délai de mise en conformité, constitue une contravention conformément à l'article 37, paragraphe (1), point f), et un motif d'inscription sur la Liste des exploitants non conformes, les dispositions de l'article 38 s'appliquant en conséquence. Pour les services prévus au paragraphe (2), le blocage de l'accès conformément à l'article 39 ne peut être ordonné que si le non-respect persiste après l'application de deux sanctions contraventionnelles successives.
Article 20 → les motifs
(1) Tout incident grave est signalé à l'Autorité dans un délai de 24 heures à compter de la date à laquelle le développeur ou l'exploitant en a eu connaissance ou devait en avoir connaissance, avec la description des faits, des mesures prises et des personnes responsables, dans la mesure connue à la date du signalement, avec complément progressif des informations, suivie d'un rapport complet dans un délai de 15 jours. Le signalement à l'Autorité ne remplace ni le signalement au Bureau de l'IA prévu à l'article 55, paragraphe (1), point c), du règlement sur l'IA ni le signalement prévu à l'article 73 du même règlement ; le fournisseur peut transmettre à l'Autorité une copie du rapport établi conformément au règlement, complétée par les éléments prévus par la présente loi.
(2) La constatation de l'une des capacités critiques prévues à l'article 5, paragraphe (2), points c) à e), d'une tentative de soustraction à la surveillance ou à l'arrêt ou d'un accès non autorisé aux poids oblige à la suspension immédiate du système jusqu'à la décision de l'Autorité ; la suspension peut être limitée à la fonction affectée si l'isolement de celle-ci est vérifiable. Le présent paragraphe ne s'applique pas aux manifestations produites au cours d'une évaluation autorisée en environnement isolé, conformément à l'article 15, paragraphe (2).
(3) Le signalement fait de bonne foi et la coopération avec l'Autorité constituent des circonstances atténuantes et ne peuvent conduire à l'application d'une sanction plus sévère que celle qui aurait été applicable en l'absence du signalement ; ils n'écartent pas la responsabilité pour la violation qui a causé l'incident, et le caractère intentionnel de celle-ci s'apprécie distinctement.
(4) La manifestation d'une capacité critique au cours d'une évaluation autorisée en environnement isolé est consignée dans les journaux et communiquée à l'Autorité dans un délai de 5 jours, avec les mesures d'isolement appliquées.
Article 21 → les motifs
(1) Les personnes qui exercent ou ont exercé une activité au sein d'un développeur, d'un exploitant ou d'un organisme d'évaluation et qui signalent à l'Autorité, au Parlement ou au public, de bonne foi, des violations de la présente loi, des risques pour la sûreté ou la dissimulation de capacités critiques bénéficient de la protection prévue par la loi n° 361/2022 relative à la protection des lanceurs d'alerte dans l'intérêt public, telle que modifiée et complétée ultérieurement, ainsi que des dispositions du présent article. Est de bonne foi la personne qui a des motifs raisonnables de croire que les informations signalées sont vraies au moment du signalement. La divulgation publique bénéficie de la protection dans les conditions prévues par la loi n° 361/2022 pour la divulgation publique, ainsi que lorsqu'elle concerne un danger imminent pour la vie, pour la santé ou pour le contrôle humain sur un système de pointe.
(2) Est nulle de plein droit toute clause contractuelle, y compris de confidentialité, de non-dénigrement ou de renonciation à des droits, qui empêcherait ou découragerait un signalement au sens du paragraphe (1) ou qui subordonnerait des droits patrimoniaux de la personne à l'abstention d'un tel signalement.
(3) Les représailles de quelque nature que ce soit à l'encontre du lanceur d'alerte constituent l'infraction prévue à l'article 41, paragraphe (3).
(4) L'Autorité organise un canal de signalement sécurisé et anonyme, doté d'un personnel dédié, et publie chaque année le nombre de signalements reçus et les mesures ordonnées.
(5) La protection prévue par le présent article ne couvre pas la divulgation publique des poids ou des données à caractère personnel sans lien avec l'objet du signalement. La communication à l'Autorité, par le canal sécurisé, des informations nécessaires au signalement, y compris des fragments de poids ou de journaux strictement nécessaires à sa preuve, ne constitue ni une violation de l'article 12 ni l'infraction prévue à l'article 42, paragraphe (2).
Article 22 → les motifs
(1) Le fournisseur de l'infrastructure de calcul de grande capacité s'enregistre auprès de l'Autorité, vérifie l'identité des clients, tient le registre du volume de calcul utilisé par chaque client et exécute sans délai les ordres de l'Autorité de suspension de l'accès d'un client ou d'arrêt d'une tâche de calcul ; il assure en outre au développeur et à l'exploitant les moyens techniques nécessaires à l'exercice et au test de la capacité d'arrêt, dans les conditions de l'article 14. L'ordre identifie le client et la tâche de calcul visés, est exécuté avec l'isolement de ceux-ci et la conservation des preuves et ne peut affecter les autres bénéficiaires de l'infrastructure.
(2) Il est interdit de mettre à disposition une capacité de calcul apte à dépasser le seuil de calcul au bénéfice d'une personne qui ne fait pas la preuve de la notification prévue à l'article 7 ; la preuve est vérifiée dans le registre des notifications tenu par l'Autorité. La capacité s'apprécie de manière cumulée, sur 12 mois, pour le même client et pour les clients qui lui sont affiliés, dans la limite des informations que le fournisseur détient ou peut obtenir du client ; le fournisseur n'est pas tenu de connaître le volume utilisé par le client auprès d'autres fournisseurs, et l'utilisation de l'infrastructure n'est pas présumée constituer l'entraînement d'un système de pointe.
Article 23 → les motifs
(1) Les autorités et institutions publiques qui développent, acquièrent ou exploitent des systèmes de pointe sont soumises aux dispositions de la présente loi. Dans le domaine de la défense, de l'ordre public et de la sécurité nationale, les dispositions des articles 7 à 11, 35 et 36 ne s'appliquent pas, les dispositions des articles 12 à 21 s'appliquent avec les adaptations établies par décision du Conseil suprême de défense du pays, lesquelles ne peuvent concerner que la procédure de notification, les modalités d'évaluation, les conditions de signalement et l'accès aux informations classifiées et ne peuvent écarter le contrôle humain significatif, la capacité d'arrêt, les interdictions prévues à l'article 15, la protection des lanceurs d'alerte prévue à l'article 21, ni modifier les éléments constitutifs des contraventions ou des infractions, et les dispositions du chapitre V s'appliquent intégralement, sans adaptations.
(2) L'Autorité exerce le contrôle sur ces systèmes par un personnel titulaire d'une habilitation de sécurité correspondante. La contestation des décisions qui concernent des informations classifiées s'effectue dans les conditions prévues par la loi n° 182/2002 et par le code de procédure civile pour de telles informations.
CHAPITRE V
Limites absolues. Clauses d'humanité
Article 24 → les motifs
(1) Aucune décision relative à l'emploi de la force létale contre un être humain ne peut être prise ou exécutée par un système d'intelligence artificielle sans l'intervention, pour chaque décision prise séparément, d'une personne physique identifiée, qui dispose des informations, du temps et des moyens nécessaires pour l'évaluer et pour l'empêcher ; la décision et la personne qui l'a approuvée sont consignées. Le présent article ne concerne ni l'interception automatique des projectiles et des dispositifs sans équipage humain ni les simulations d'instruction, et la corrélation avec le droit international humanitaire est assurée par la législation spéciale.
(2) L'État roumain ne développe pas, n'acquiert pas, n'exploite pas et n'autorise pas sur son territoire des systèmes d'armes autonomes létaux au sens de l'article 3, paragraphe (1), point x), et soutient, dans le cadre des organisations internationales, leur interdiction.
Article 25 → les motifs
(1) Les systèmes d'intelligence artificielle ne peuvent acquérir la personnalité juridique, ne peuvent être titulaires de droits ou d'obligations et ne peuvent être parties à des rapports juridiques. Tout acte juridique conclu au moyen d'un système d'intelligence artificielle est imputable à la personne physique ou morale au nom de laquelle le système a agi.
(2) Il est interdit d'attribuer à un système d'intelligence artificielle la capacité de détenir, en son propre nom, des sommes d'argent, des actifs numériques, des instruments financiers, des biens, des comptes ou des clés cryptographiques. L'administration ou la disposition de telles ressources ou de ressources de calcul au moyen d'un système d'intelligence artificielle n'est permise que dans les limites d'un mandat d'opération, au sens de l'article 3, paragraphe (1), point cc), établi au préalable par une personne physique ou morale responsable ; l'extension autonome du mandat d'opération par le système est interdite, et toute opération qui le dépasse est imputable à la personne qui l'a établi et oblige à l'arrêt du système.
(3) Il est interdit de constituer des personnes morales, des fiducies ou d'autres entités dont le contrôle effectif, entendu comme le pouvoir réel de décision sur les actes de l'entité, est exercé par un système d'intelligence artificielle ; l'utilisation du système à des fins d'analyse ou de recommandations ne constitue pas un contrôle effectif.
Article 26 → les motifs
(1) Aucune autorité ou institution publique et aucun fournisseur de services essentiels d'intérêt général ne peut subordonner, restreindre ou suspendre l'accès d'une personne à l'exercice des droits et libertés fondamentaux, aux services publics, aux services essentiels d'intérêt général ou à la participation à la vie économique, sociale et civique exclusivement sur la base d'une décision, d'une évaluation ou d'un classement produits par un système d'intelligence artificielle.
(2) La personne visée par une décision, une évaluation ou un classement parmi ceux prévus au paragraphe (1) a droit au réexamen de celui-ci, dans un délai de 15 jours à compter de la demande, par une personne physique identifiée au sein de l'autorité, de l'institution ou du fournisseur, qui porte la responsabilité de la décision finale et la communique de manière motivée, par écrit. Ne constitue pas un réexamen la confirmation de la décision sans examen effectif de la situation de la personne. Lorsque la décision concerne un service de santé ou l'interruption d'un service essentiel d'intérêt général, la personne se voit assurer, sur demande, dans un délai de 48 heures au plus, le maintien provisoire de l'accès jusqu'à la communication du résultat du réexamen.
(3) Les autorités, les institutions publiques et les fournisseurs de services essentiels d'intérêt général assurent dans tous les cas l'obtention du service ou l'exercice du droit également par une voie qui ne dépend pas d'un système d'intelligence artificielle, par l'intermédiaire d'une personne physique, au siège, au guichet ou par tout autre moyen accessible à la personne.
(4) Il est interdit d'utiliser un système d'intelligence artificielle pour subordonner l'accès prévu au paragraphe (1) à l'acceptation d'un moyen d'identification numérique, d'un moyen de paiement numérique ou d'un système d'évaluation de la conformation de la personne ; il est assuré à la personne, dans tous les cas, une alternative d'accès qui n'implique pas de tels moyens. L'alternative n'écarte pas les obligations légales d'identification de la personne ou de sécurité des paiements, qui sont remplies par des moyens ne supposant pas l'acceptation des instruments prévus au présent paragraphe.
(5) La décision maintenue après le réexamen prévu au paragraphe (2), le refus du réexamen, ainsi que le refus d'assurer la voie d'accès prévue au paragraphe (3) ou l'alternative prévue au paragraphe (4) peuvent être contestés par la personne concernée devant le tribunal dans la circonscription duquel se trouve son domicile ou sa résidence, dans un délai de 30 jours à compter de la communication ou, le cas échéant, du refus, que la décision relève d'une autorité ou institution publique ou d'un fournisseur de services essentiels d'intérêt général. La demande est exonérée du droit de timbre judiciaire, n'est pas soumise à la procédure préalable et est jugée d'urgence et en priorité, selon la procédure contentieuse prévue par le code de procédure civile ; l'absence de réponse à la demande de réexamen dans le délai prévu au paragraphe (2) équivaut au maintien de la décision ; la juridiction peut ordonner, sur demande, la suspension de la décision jusqu'à la solution de la contestation.
(6) La décision du tribunal peut être attaquée par voie d'appel devant la cour d'appel dans un délai de 15 jours à compter de la communication. La décision de la cour d'appel est définitive. Par dérogation aux articles 7, 10 et 20 de la loi sur le contentieux administratif n° 554/2004, telle que modifiée et complétée ultérieurement, les dispositions des paragraphes (5) et (6) s'appliquent également aux contestations formées contre les décisions des autorités et institutions publiques.
(7) Aux fins du présent article, sont des services essentiels d'intérêt général les services de fourniture d'électricité, de gaz naturel et d'eau, les services de communications électroniques, les services financiers et de paiement, les services de santé, de transport public et d'éducation.
(8) Les dispositions du présent article s'appliquent sans préjudice de l'article 5, paragraphe (1), point c), du règlement sur l'IA et de l'article 22 du règlement (UE) 2016/679 du Parlement européen et du Conseil du 27 avril 2016 relatif à la protection des personnes physiques à l'égard du traitement des données à caractère personnel et à la libre circulation de ces données.
Article 27 → les motifs
(1) La censure de quelque nature que ce soit, interdite par l'article 30, paragraphe (2), de la Constitution de la Roumanie, republiée, est également interdite lorsqu'elle est exercée, en tout ou en partie, au moyen d'un système d'intelligence artificielle. Aucun système d'intelligence artificielle ne peut être utilisé pour restreindre la liberté d'expression des personnes se trouvant sur le territoire de la Roumanie ou leur droit de recevoir et de communiquer des informations et des idées, en dehors des cas prévus par la loi et dans le respect des conditions prévues aux paragraphes (2) à (6).
(2) Il est interdit d'utiliser un système d'intelligence artificielle pour empêcher, supprimer, bloquer, dissimuler ou restreindre la visibilité de l'expression publique d'une opinion, d'une croyance ou d'une information par une personne se trouvant sur le territoire de la Roumanie, ou pour l'étiqueter comme fausse ou non digne de confiance, ainsi que pour sanctionner de toute autre manière la personne en raison de cette expression, exclusivement sur la base d'une décision, d'une évaluation ou d'un classement produits par le système, si l'expression n'est pas interdite par la loi.
(3) Les autorités et institutions publiques ne peuvent utiliser, commander, financer ou solliciter, directement ou par l'intermédiaire de tiers, l'utilisation d'un système d'intelligence artificielle pour le suivi individualisé des personnes sur la base de leur expression publique ou pour le classement, le signalement ou la restriction de leur expression, à l'exception des cas prévus expressément par la loi, en lien avec des faits prévus par la loi pénale et avec l'autorisation préalable du juge. Ne constitue pas un suivi au sens du présent paragraphe le traitement statistique ou non individualisé des informations publiques.
(4) Toute mesure par laquelle est restreinte, au moyen d'un système d'intelligence artificielle, l'expression d'une personne se trouvant sur le territoire de la Roumanie est communiquée sans délai à la personne, par écrit, avec l'indication des motifs, du fondement légal et du fait qu'elle a été prise au moyen d'un tel système. Il est interdit de restreindre de manière non déclarée la visibilité de l'expression d'une personne, à son insu.
(5) La personne visée par une mesure parmi celles prévues aux paragraphes (2) et (4) a droit au réexamen de celle-ci, dans un délai de 15 jours à compter de la demande, par une personne physique identifiée au sein de l'autorité, de l'institution ou de l'opérateur qui a pris la mesure, laquelle porte la responsabilité de la décision finale ; les dispositions de l'article 26, paragraphes (5) et (6), s'appliquent en conséquence.
(6) Pour les fournisseurs de services intermédiaires, les dispositions du présent article s'appliquent dans la mesure compatible avec le règlement (UE) 2022/2065 du Parlement européen et du Conseil du 19 octobre 2022 relatif à un marché unique des services numériques et modifiant la directive 2000/31/CE, dont les dispositions relatives aux conditions contractuelles, à la motivation des décisions et au règlement des contestations demeurent applicables ; le présent article n'empêche pas les mesures contre les messages non sollicités, les comptes automatisés ou les risques de sécurité informatique, ni les filtres choisis par l'utilisateur, et ne peut être interprété comme restreignant une quelconque garantie prévue par le règlement au bénéfice des destinataires des services.
Article 28 → les motifs
Il est interdit de mettre en exploitation ou de maintenir en exploitation tout système de pointe dans des conditions qui rendent impossible, techniquement ou organisationnellement, l'intervention humaine prévue à l'article 14, y compris par la distribution du système sur des infrastructures qui ne se trouvent pas sous le contrôle de l'exploitant, par la suppression de la capacité d'arrêt ou par l'octroi d'un degré d'autonomie qui exclut la surveillance. L'utilisation d'une infrastructure appartenant à un tiers ne constitue pas, à elle seule, une absence de contrôle, si les droits contractuels et les moyens techniques permettent à l'exploitant l'exercice vérifiable de la capacité d'arrêt ; l'indisponibilité temporaire d'une voie d'intervention, remédiée sans délai et consignée dans les journaux, ne constitue pas une impossibilité au sens du présent article.
Article 29 → les motifs
Il est interdit de concevoir, d'entraîner ou d'exploiter tout système d'intelligence artificielle dans le but ou avec pour effet l'auto-amélioration récursive. Chaque itération par laquelle un système de pointe contribue, par une modification substantielle, à la création ou au perfectionnement d'un système successeur est soumise à l'évaluation et à l'autorisation prévues au chapitre III ; les programmes de recherche dans lesquels les systèmes de pointe sont utilisés comme instrument peuvent être autorisés dans leur ensemble, avec des points d'arrêt obligatoires établis conformément à l'article 8 et avec l'approbation humaine de chaque étape qui produit un nouveau modèle ou une modification substantielle.
Article 30 → les motifs
(1) Les dispositions du présent chapitre sont d'ordre public. Tout acte juridique, autorisation, contrat ou clause contraire est nul de plein droit, et les interdictions prévues ne peuvent être écartées par le consentement des personnes intéressées, par l'invocation du secret commercial, de la sécurité nationale ou de l'intérêt économique ; les adaptations prévues à l'article 23 ne constituent pas des dérogations aux garanties du présent chapitre.
(2) La nullité ne concerne que la clause contraire, les autres clauses demeurant valables si elles peuvent subsister sans elle ; les droits acquis de bonne foi par les tiers qui n'ont pas participé à la violation sont protégés. Les dispositions du présent chapitre s'appliquent sans préjudice du droit de l'Union européenne directement applicable.
CHAPITRE VI
L'Autorité pour la sûreté de l'intelligence artificielle
Article 31 → les motifs
(1) Il est institué l'Autorité pour la sûreté de l'intelligence artificielle, structure spécialisée sans personnalité juridique, organisée au sein de l'Autorité nationale pour l'administration et la réglementation des communications, ci-après dénommée ANCOM, ayant son siège dans la municipalité de Bucarest.
(2) L'Autorité est dirigée par un vice-président de l'ANCOM ayant rang de secrétaire d'État, doté d'attributions exclusives dans le domaine de la sûreté de l'intelligence artificielle. Par dérogation à l'article 11, paragraphe (1), de l'ordonnance d'urgence du Gouvernement n° 22/2009 relative à la création de l'Autorité nationale pour l'administration et la réglementation des communications, approuvée par la loi n° 113/2010, telle que modifiée et complétée ultérieurement, l'ANCOM a, outre les vice-présidents prévus par celle-ci, un vice-président pour la sûreté de l'intelligence artificielle, nommé par le Parlement, en séance commune de la Chambre des députés et du Sénat, pour un mandat de 6 ans, qui ne peut être renouvelé, parmi les personnes dont la formation et l'expérience sont reconnues dans le domaine de l'intelligence artificielle, de la sécurité informatique ou du droit des technologies. Le Parlement se prononce sur la nomination dans un délai de 60 jours à compter de la vacance de la fonction ; jusqu'à la nomination, les attributions sont exercées, pendant 6 mois au plus, par un vice-président de l'ANCOM désigné par le président de l'ANCOM.
(3) Le vice-président pour la sûreté de l'intelligence artificielle ne peut détenir, pendant la durée de son mandat et pendant 3 ans après la cessation de celui-ci, aucune fonction, participation directe ou rémunération de la part d'un développeur ou d'un exploitant ; les détentions par l'intermédiaire de fonds d'investissement diversifiés, sans pouvoir de décision, ne constituent pas une participation, et une indemnité compensatoire, établie par les normes méthodologiques, est accordée au titre de la restriction postérieure à la cessation du mandat. Le vice-président ne peut être révoqué par le Parlement qu'en cas de violation grave des obligations prévues par la présente loi, de condamnation définitive pour une infraction commise avec intention, d'incompatibilité constatée ou d'impossibilité d'exercer la fonction pendant une période supérieure à 6 mois.
(4) Les décisions prévues par la présente loi sont émises, au nom de l'ANCOM, par le vice-président pour la sûreté de l'intelligence artificielle, qui en répond devant le Parlement. Dans l'exercice des attributions prévues par la présente loi, l'Autorité ne peut recevoir d'instructions d'aucune autre autorité ou institution publique.
(5) L'Autorité fonctionne comme point national de liaison avec le Bureau de l'IA de la Commission européenne et avec le groupe scientifique prévu par le règlement sur l'IA et coopère avec les autorités nationales désignées conformément à celui-ci, qui conservent leurs compétences propres ; l'Autorité exerce exclusivement les attributions prévues par la présente loi en ce qui concerne les systèmes de pointe et informe le Bureau de l'IA des décisions qui concernent des modèles à usage général.
Article 32 → les motifs
(1) L'Autorité a les attributions principales suivantes :
a) elle reçoit les notifications, effectue les évaluations indépendantes et délivre, assortit de conditions, suspend et révoque les autorisations prévues au chapitre III ;
b) elle inspecte, y compris de manière inopinée, les locaux professionnels des développeurs et des exploitants ainsi que les infrastructures de calcul, avec accès aux systèmes, aux poids, aux journaux, aux documents et au personnel, dans les conditions du paragraphe (3) ;
c) elle ordonne l'arrêt, la suspension ou le retrait de tout système de pointe, la suspension de l'accès à l'infrastructure de calcul, la cessation de la fourniture des services et le blocage de l'accès conformément aux articles 38 et 39 ;
d) elle élabore et met à jour les normes d'évaluation, de sécurité des poids et de capacité d'arrêt, ainsi que les méthodes d'évaluation et les niveaux de signification des capacités critiques prévues à l'article 5, paragraphe (2), dans les conditions du paragraphe (4) ;
e) elle constate les contraventions et applique les sanctions prévues par la présente loi et saisit les organes de poursuite pénale ;
f) elle désigne et surveille les organismes d'évaluation indépendants ;
g) elle reçoit les plaintes des personnes concernant la violation des articles 26 et 27, constate les violations et en ordonne la cessation, sans préjudice du droit de la personne de saisir la juridiction ;
h) elle présente au Parlement, au plus tard le 31 mars de chaque année, un rapport public sur l'état du risque, les capacités observées, les incidents signalés, l'évolution des seuils, les plaintes concernant la violation des articles 26 et 27 et les recommandations législatives ;
i) elle représente la Roumanie dans les instances européennes et internationales spécialisées et promeut l'adoption de normes équivalentes à la présente loi ;
j) elle finance et mène des travaux de recherche dans le domaine de l'évaluation, de l'interprétabilité et de l'alignement des systèmes d'intelligence artificielle, avec évaluation externe des résultats et application des règles relatives aux conflits d'intérêts prévues au paragraphe (2).
(2) Les fonctions d'évaluation, d'investigation et de décision en matière de sanction sont exercées par des structures distinctes au sein de l'Autorité ; la personne qui a effectué l'évaluation ou l'investigation ne participe pas à l'adoption de la décision de sanction. Les organismes d'évaluation sont désignés sur la base de critères publics, avec des règles de récusation et de prévention des conflits d'intérêts, et ne peuvent évaluer les systèmes de personnes avec lesquelles ils se trouvent dans des rapports économiques.
(3) L'inspection est effectuée sur la base d'un ordre écrit du vice-président, qui en indique l'objet et la finalité, et est consignée dans un procès-verbal ; l'accès aux locaux servant de domicile n'a lieu qu'avec l'autorisation du juge, et le secret professionnel de l'avocat ainsi que les autres secrets protégés par la loi sont protégés. L'accès au personnel ne porte pas atteinte aux droits des personnes dans la procédure contraventionnelle ou pénale.
(4) Les normes approuvées par l'Autorité détaillent les méthodes d'évaluation dans les limites des catégories et des critères établis par la présente loi. Ces normes ne peuvent introduire de nouvelles catégories de capacités interdites ni étendre les éléments constitutifs des contraventions ou des infractions prévues par la présente loi.
Article 33 → les motifs
(1) Le personnel spécialisé de l'Autorité est nommé exclusivement à la suite d'un concours organisé par l'ANCOM, auquel la participation est ouverte à toute personne qui remplit les conditions d'études et d'expérience établies par l'avis de concours, publié au moins 30 jours avant la date de son déroulement. Les résultats du concours peuvent être contestés devant la juridiction du contentieux administratif.
(2) La commission de concours est composée d'au moins 5 membres, dont au moins 3 sont des professeurs des universités du domaine des technologies de l'information et des télécommunications ou des spécialistes ayant une expérience pratique reconnue dans la sécurité et l'évaluation des systèmes d'intelligence artificielle, proposés par les établissements d'enseignement supérieur accrédités qui organisent des études universitaires de doctorat dans ces domaines, à la demande de l'ANCOM. Les membres de la commission ne peuvent détenir aucune fonction, participation ou rémunération de la part d'un développeur ou d'un exploitant et ne peuvent avoir, avec les candidats, de rapports de nature à entraîner une incompatibilité. La composition de la commission et les résultats du concours sont publiés sur le site internet de l'ANCOM.
(3) Le personnel spécialisé de l'Autorité est rémunéré, conformément au système de rémunération de l'ANCOM, à un niveau compétitif par rapport à celui pratiqué dans le secteur privé pour des fonctions équivalentes, établi chaque année par le président de l'ANCOM, sur avis du vice-président pour la sûreté de l'intelligence artificielle, sur la base d'une étude de marché publiée.
(4) Le personnel de l'Autorité est soumis aux obligations de confidentialité et aux incompatibilités prévues à l'article 31, paragraphe (3), pendant la durée de ses rapports de service et pendant 2 ans après la cessation de ceux-ci.
(5) L'Autorité est financée par le budget de l'ANCOM, par une allocation distincte, approuvée annuellement et inscrite séparément, ainsi que par les taxes de notification, d'évaluation et d'autorisation établies par les normes méthodologiques en fonction du coût du service rendu. Les amendes appliquées conformément à la présente loi sont versées au budget de l'État et ne peuvent déterminer les ressources de l'Autorité. La recherche prévue à l'article 32, paragraphe (1), point j), est financée par une allocation budgétaire distincte, sans lien avec les sanctions appliquées. Le budget initial de l'Autorité, y compris le personnel et l'infrastructure nécessaires, est assuré par l'ANCOM avant la perception des taxes.
Article 34 → les motifs
(1) Auprès de l'Autorité fonctionne un Conseil scientifique consultatif, composé de 9 membres, chercheurs dont l'activité dans le domaine est reconnue, dont au moins 3 de l'étranger, qui rend un avis sur les normes d'évaluation, sur les méthodes d'évaluation et les niveaux de signification des capacités critiques et sur les propositions d'ajustement des seuils et publie des opinions séparées lorsqu'il ne partage pas la position de l'Autorité.
(2) Les membres du Conseil scientifique sont nommés par le vice-président pour la sûreté de l'intelligence artificielle, sur proposition de l'Académie roumaine et des établissements d'enseignement supérieur qui organisent des études universitaires de doctorat dans le domaine, pour un mandat de 4 ans, qui peut être renouvelé une seule fois ; ils sont soumis aux incompatibilités prévues à l'article 31, paragraphe (3), et ne peuvent être révoqués que pour incompatibilité constatée ou pour non-participation injustifiée aux travaux. Le Conseil adopte ses avis à la majorité de ses membres.
(3) L'avis du Conseil scientifique est consultatif ; lorsqu'elle s'écarte de l'avis, l'Autorité motive sa position. L'accès des membres aux informations protégées s'effectue dans les conditions de la loi, et les opinions séparées sont publiées dans des versions qui protègent les informations sensibles et préservent l'argument scientifique.
CHAPITRE VII
La responsabilité
Section 1. La responsabilité civile
Article 35 → les motifs
(1) Le développeur et l'exploitant répondent solidairement, indépendamment de toute faute, des préjudices de quelque nature que ce soit causés par un système de pointe, y compris de ceux produits par des actions autonomes du système, par l'utilisation de celui-ci par des tiers ou par l'exfiltration des poids, les dispositions de l'article 1376 du code civil s'appliquant en conséquence. La victime prouve le préjudice et le lien de causalité entre celui-ci et le fonctionnement du système ; la juridiction peut ordonner l'accès aux journaux et à la documentation pertinente, avec protection des informations confidentielles, et si le développeur ou l'exploitant ne présente pas les journaux qu'il avait l'obligation de conserver, le lien de causalité est présumé jusqu'à preuve contraire. Dans leurs rapports réciproques, le développeur et l'exploitant répondent proportionnellement à la contribution de chacun à la survenance du préjudice, et la personne qui a modifié substantiellement le système répond en tant que développeur des préjudices causés par la modification.
(2) L'exonération de responsabilité ne peut être invoquée que pour le préjudice causé exclusivement par le fait de la victime ou par un cas de force majeure extérieur au système. Ne constituent pas un cas de force majeure le comportement imprévisible du système, l'erreur d'évaluation, le fait d'un tiers qui a obtenu l'accès au système ou aux poids, ni l'absence de connaissance scientifique à la date de la mise en exploitation.
(3) Sont nulles les clauses de limitation ou d'exclusion de la responsabilité à l'égard des victimes. Les clauses de limitation entre professionnels ne sont valables qu'en ce qui concerne leurs rapports réciproques et leurs propres préjudices patrimoniaux et ne peuvent affecter les droits des victimes ni la couverture prévue à l'article 36.
(4) Le droit d'action se prescrit dans un délai de 10 ans à compter de la date à laquelle la victime a connu ou devait connaître le préjudice et la personne responsable, mais au plus tard 30 ans à compter de la survenance du fait ; dans le cas d'un fait continu, le délai court à compter de sa cessation.
(5) Le présent article institue un fondement de responsabilité distinct, fondé sur le risque créé par le développement et l'exploitation du système, et ne modifie pas le régime harmonisé de la responsabilité du fait des produits défectueux ; il ne porte pas atteinte au droit de la victime d'obtenir la réparation du préjudice sur le fondement de ce régime ou d'autres fondements prévus par la loi, sans que le même préjudice puisse toutefois être réparé deux fois. Dans la mesure où l'exclusion prévue au paragraphe (2) concernant l'absence de connaissance scientifique entre dans le champ d'application de la directive (UE) 2024/2853 du Parlement européen et du Conseil du 23 octobre 2024, le Gouvernement accomplit les formalités prévues à l'article 18 de la directive.
Article 36 → les motifs
(1) Le développeur et l'exploitant d'un système de pointe souscrivent et maintiennent une assurance de responsabilité civile ou constituent une garantie financière, d'un montant minimal établi par les normes méthodologiques, différencié par catégories de systèmes, qui ne peut être inférieur à l'équivalent en lei de 100 millions d'euros pour les systèmes de catégorie I et de 1 milliard d'euros pour les systèmes de catégorie II, par événement, avec un plafond annuel agrégé d'au moins le double de ces sommes ; après épuisement de la couverture, celle-ci est reconstituée dans un délai de 30 jours. Si l'Autorité, après consultation de l'Autorité de surveillance financière, constate par un rapport public l'indisponibilité de la couverture sur le marché dans les conditions de la présente loi, le Gouvernement peut établir, par les normes méthodologiques, des niveaux inférieurs, qui ne peuvent descendre au-dessous d'un cinquième des sommes prévues, ainsi que des mécanismes alternatifs de garantie, y compris des garanties de groupe, des garanties bancaires ou un fonds de garantie financé par les développeurs et les exploitants.
(2) La garantie financière est constituée par lettre de garantie bancaire, dépôt ou garantie émise par un établissement financier agréé, exécutable à la demande de la victime sur le fondement de la décision de justice définitive ou de la transaction. La victime dispose d'une action directe contre l'assureur ou, le cas échéant, contre l'émetteur de la garantie.
Section 2. La responsabilité contraventionnelle
Article 37 → les motifs
(1) Constituent des contraventions, si elles n'ont pas été commises dans des conditions telles qu'elles soient considérées, conformément à la loi, comme des infractions, les faits suivants :
a) le non-respect de l'obligation de notification prévue à l'article 7 et à l'article 10, paragraphe (2), ou la fourniture d'informations incomplètes, avec une amende de 1% à 3% du chiffre d'affaires mondial total de l'exercice financier précédent ;
b) le non-respect du plan de sûreté, des obligations de séparation des fonctions, de journalisation, d'assurance et de vérification de l'intelligibilité prévues à l'article 16, paragraphes (1) à (5), de maintien et de test de la capacité d'arrêt, prévues à l'article 14, paragraphes (1), (5) et (6), à l'exception des faits relevant de l'article 28, de désignation des personnes responsables de la surveillance humaine, prévue à l'article 14, paragraphe (3), ou de signalement des incidents, avec une amende de 2% à 5% du chiffre d'affaires mondial ;
c) le non-respect des conditions de l'autorisation, des normes de sécurité des poids ou des obligations des fournisseurs d'infrastructure de calcul, avec une amende de 3% à 7% du chiffre d'affaires mondial ;
d) la violation des interdictions prévues à l'article 12, paragraphe (2), à l'article 14, paragraphe (2), à l'article 15, à l'article 16, paragraphe (6), et aux articles 25 à 29, avec une amende de 5% à 10% du chiffre d'affaires mondial ;
e) le non-respect des obligations de marquage prévues à l'article 17, paragraphes (1), (2) et (4), ou la violation de l'interdiction prévue à l'article 17, paragraphe (3), avec une amende de 2% à 5% du chiffre d'affaires mondial ; pour les faits qui constituent des violations de l'article 50 du règlement sur l'IA, l'amende est appliquée dans les limites prévues à l'article 99, paragraphe (4), du règlement ;
f) le non-respect de l'obligation d'information prévue à l'article 18 ou des obligations relatives au représentant chargé de la conformité prévues à l'article 19, avec une amende de 1% à 3% du chiffre d'affaires mondial.
(2) Pour les personnes morales qui n'ont pas réalisé de chiffre d'affaires, l'amende est de 100.000 lei à 10.000.000 lei, et pour les personnes physiques, de 10.000 lei à 1.000.000 lei. Pour les contraventions prévues au paragraphe (1), points e) et f), commises par des personnes qui n'ont pas la qualité de développeur ou d'exploitant d'un système de pointe, l'amende est de 20.000 lei à 1.000.000 lei pour les personnes morales et de 5.000 lei à 200.000 lei pour les personnes physiques.
(3) La sanction de l'amende peut être accompagnée des sanctions complémentaires de la suspension ou de la révocation de l'autorisation, de l'interdiction d'exercer l'activité de développement pendant une période allant jusqu'à 5 ans, de la confiscation des poids et de la publication de la décision, appliquées proportionnellement à la gravité du fait ; les poids confisqués sont conservés par l'Autorité dans les conditions de l'article 12.
(4) Les dispositions de l'ordonnance du Gouvernement n° 2/2001 relative au régime juridique des contraventions, approuvée avec modifications et compléments par la loi n° 180/2002, telle que modifiée et complétée ultérieurement, sont applicables aux contraventions prévues par la présente loi. Par dérogation à l'article 28 de l'ordonnance du Gouvernement n° 2/2001, le contrevenant ne peut acquitter la moitié du minimum de l'amende. Par dérogation à l'article 13, paragraphe (1), de la même ordonnance, l'application de la sanction se prescrit dans un délai de 5 ans à compter de la date de la commission du fait.
(5) Lors de l'individualisation de la sanction, il est tenu compte de la gravité et de l'étendue du fait, du danger créé, du contrôle effectif de la personne sur le fait, de la coopération avec l'Autorité et de la remédiation. Le chiffre d'affaires mondial est celui réalisé au cours de l'exercice financier précédent par le contrevenant et, lorsque celui-ci fait partie d'un groupe, par le groupe dans son ensemble. Pour le même fait, deux sanctions ne peuvent être appliquées sur le fondement de la présente loi et du règlement sur l'IA ; pour les autorités et institutions publiques, l'amende est appliquée à la personne physique responsable, dans les limites prévues au paragraphe (2).
Section 3. La cessation de la fourniture des services et le blocage de l'accès
Article 38 → les motifs
(1) L'exploitant qui offre l'accès à un système de pointe à des personnes se trouvant sur le territoire de la Roumanie sans respecter les dispositions de la présente loi est mis en demeure par l'Autorité, avec l'octroi d'un délai de remédiation d'au moins 15 jours et la possibilité de présenter son point de vue. Si la non-conformité persiste à l'expiration du délai ou consiste en un risque grave auquel il ne peut être remédié dans ce délai, l'Autorité constate la non-conformité par décision motivée, et l'exploitant est tenu de cesser la fourniture du service à ces personnes dans un délai de 15 jours à compter de la communication de la décision. En cas de danger imminent pour la vie, pour la santé ou pour le contrôle humain sur le système, le délai de remédiation n'est pas accordé, la décision étant également motivée quant à l'urgence.
(2) La décision prévue au paragraphe (1) est publiée sur le site internet de l'Autorité, dans la Liste des exploitants non conformes, avec l'indication du service, de l'exploitant et des dispositions violées, et est communiquée aux fournisseurs de réseaux et de services de communications électroniques.
(3) La poursuite de la fourniture du service après l'expiration du délai prévu au paragraphe (1) constitue une contravention et est sanctionnée par une amende de l'équivalent en lei de la somme de 100.000 euros à l'équivalent en lei de la somme de 10.000.000 euros pour chaque mois de poursuite de la fourniture, les fractions de mois étant comptées proportionnellement, fixée en fonction de la durée, du nombre de personnes affectées et de la gravité de la non-conformité, sans que le total des amendes appliquées pour la même non-conformité puisse dépasser 5% du chiffre d'affaires mondial annuel ; l'amende est appliquée distinctement de la sanction pour la violation initiale.
(4) L'exploitant est radié de la Liste des exploitants non conformes par décision de l'Autorité, émise dans un délai de 10 jours à compter de la présentation de la preuve de la mise en conformité et communiquée sans délai aux fournisseurs qui exécutent le blocage ; le refus ou le retard de la radiation peuvent être contestés conformément à l'article 39, paragraphe (5).
(5) Les dispositions du présent article s'appliquent également au développeur qui offre directement l'accès à un système de pointe à des personnes se trouvant sur le territoire de la Roumanie.
Article 39 → les motifs
(1) Jusqu'à la mise en conformité, l'Autorité peut ordonner, par décision motivée, le blocage de l'accès depuis le territoire de la Roumanie au service inscrit sur la Liste des exploitants non conformes, uniquement si les mesures moins restrictives n'ont pas conduit à la mise en conformité ou sont manifestement insuffisantes au regard de la gravité du risque. La décision examine la nécessité et la proportionnalité de la mesure, évite d'affecter d'autres services hébergés sur la même infrastructure et est réexaminée d'office tous les 90 jours ; les utilisateurs sont informés, par une page de redirection, du motif de la mesure et de la voie de contestation.
(2) La décision de blocage est communiquée aux fournisseurs de réseaux et de services de communications électroniques, qui la mettent en exécution dans un délai de 48 heures à compter de la communication.
(3) Le blocage ne concerne que le service non conforme, est maintenu pendant la durée de l'inscription sur la Liste des exploitants non conformes et cesse de plein droit à la date de la radiation.
(4) Pour les services fournis depuis un autre État membre de l'Union européenne, la mesure n'est ordonnée qu'individuellement, pour un service déterminé, pour la violation d'une obligation nécessaire à la protection de l'ordre public, de la sûreté publique ou de la santé publique, dans le respect de la procédure de demande adressée à l'État membre d'origine et de notification de la Commission européenne prévue par la loi n° 365/2002 relative au commerce électronique, republiée, telle que modifiée et complétée ultérieurement, pour la restriction de la libre circulation des services de la société de l'information.
(5) La décision de blocage peut être contestée dans un délai de 30 jours à compter de la communication devant la Cour d'appel de Bucarest, section du contentieux administratif et fiscal, qui se prononce d'urgence et en priorité ; la contestation ne suspend pas de plein droit l'exécution. La personne intéressée peut demander à la juridiction la suspension provisoire de la mesure, la demande étant tranchée d'urgence, dans un délai de 10 jours au plus, avec examen du risque pour la sûreté et du préjudice produit par le maintien de la mesure. La décision peut être attaquée par voie de recours devant la Haute Cour de cassation et de justice, dans un délai de 15 jours à compter de la communication.
(6) Les fournisseurs de réseaux et de services de communications électroniques ne répondent pas des préjudices causés par l'exécution correcte et de bonne foi de la décision de blocage ; ils répondent du blocage excessif produit par leur faute.
Section 4. La responsabilité pénale
Article 40 → les motifs
(1) La mise en exploitation d'un système de pointe sans l'autorisation prévue à l'article 9 ou après la suspension ou la révocation de celle-ci, ainsi que la poursuite de l'exploitation après la communication de l'ordre d'arrêt ou de retrait, sont punies d'un emprisonnement de 2 à 7 ans et de l'interdiction d'exercer certains droits. Ne constitue pas une infraction l'utilisation, en tant qu'utilisateur final, d'un système mis à disposition par une autre personne.
(2) Si le fait a eu pour conséquence la manifestation, en dehors d'une évaluation autorisée en environnement isolé conformément à l'article 15, paragraphe (2), de l'une des capacités critiques prévues à l'article 5, paragraphe (2), points c) à e), ou la production de l'un des résultats prévus à l'article 5, paragraphe (2), points a) ou b), la peine est l'emprisonnement de 5 à 12 ans et l'interdiction d'exercer certains droits. La conséquence est imputée dans les conditions de l'article 16, paragraphe (4), du code pénal.
Article 41 → les motifs
(1) La présentation sciemment, à l'Autorité ou à un organisme d'évaluation, de données, de résultats ou de déclarations faux ou incomplets de manière trompeuse concernant des éléments essentiels des capacités, du volume de calcul, de la sécurité des poids, de la capacité d'arrêt et des résultats de son test, ou des incidents d'un système de pointe, ainsi que la configuration du système dans le but d'induire en erreur les évaluateurs sur la configuration évaluée ou sur les capacités réelles, sont punies d'un emprisonnement de 3 à 10 ans et de l'interdiction d'exercer certains droits.
(2) Le fait d'empêcher, de quelque manière que ce soit, l'accès de l'Autorité, exercé dans les limites de sa compétence et sur la base d'une demande écrite, au système, aux poids, aux journaux ou au personnel ou la destruction, l'altération ou la dissimulation des journaux sont punis d'un emprisonnement de 1 à 5 ans. Ne constitue pas une infraction le refus fondé sur l'absence de compétence de l'Autorité ou sur la protection du secret professionnel de l'avocat ou d'un autre secret protégé par la loi, sur lequel la juridiction se prononce.
(3) Le fait de prendre une mesure de représailles, parmi celles prévues par la loi n° 361/2022, à l'encontre d'un lanceur d'alerte, en lien avec un signalement protégé conformément à l'article 21, est puni d'un emprisonnement de 6 mois à 3 ans ou d'une amende.
(4) Ne constituent pas l'infraction prévue au paragraphe (1) l'estimation incertaine déclarée comme telle, l'erreur corrigée dès qu'elle a été connue, ni la configuration du système dans le cadre d'un test convenu avec l'évaluateur.
Article 42 → les motifs
(1) L'entraînement, la conception ou l'exploitation avec intention d'un système dans les conditions interdites par l'article 15, paragraphe (1), par l'article 25, paragraphe (2), première phrase, et paragraphe (3), par l'article 28, première phrase, ou par l'article 29, première phrase, sont punis d'un emprisonnement de 3 à 10 ans et de l'interdiction d'exercer certains droits.
(2) La divulgation, la transmission ou la mise à disposition, sans droit, des poids d'un système de pointe de catégorie II ou III est punie d'un emprisonnement de 5 à 15 ans et de l'interdiction d'exercer certains droits. Ne constituent pas une infraction les transferts permis conformément à l'article 12, paragraphe (2), et les communications protégées conformément à l'article 21, paragraphe (5).
(3) Si les faits prévus aux paragraphes (1) ou (2) ont eu pour conséquence la mort ou l'atteinte grave à l'intégrité corporelle d'une ou de plusieurs personnes ou la perte du contrôle humain sur le système, pendant une durée qui a rendu impossible l'intervention humaine, suivie d'actions autonomes du système ayant des conséquences sur les personnes, sur l'environnement physique ou sur les infrastructures critiques, la peine est l'emprisonnement de 10 à 20 ans et l'interdiction d'exercer certains droits. Si la conséquence consiste en un préjudice patrimonial particulièrement grave ou en une perte temporaire du contrôle humain, sans les conséquences prévues à la première phrase, la peine est l'emprisonnement de 7 à 15 ans et l'interdiction d'exercer certains droits. Les conséquences sont imputées dans les conditions de l'article 16, paragraphe (4), du code pénal.
Article 43 → les motifs
(1) L'accès par une personne physique, à des fins personnelles, à un service inscrit sur la Liste des exploitants non conformes, y compris en contournant la mesure de blocage ordonnée conformément à l'article 39, ne constitue ni une infraction ni une contravention et ne peut entraîner aucune sanction ni mesure restrictive à son encontre au titre de la non-conformité du service. La responsabilité de la non-conformité incombe exclusivement à l'exploitant et au développeur. La présente garantie n'écarte pas la responsabilité pour des faits distincts, prévus par la loi, commis au moyen de l'utilisation du service.
(2) Les dispositions des articles 38 et 39 ne peuvent être interprétées comme instituant une quelconque obligation à la charge des utilisateurs ou comme subordonnant leurs droits à une condition.
(3) Bénéficie également de la garantie prévue au paragraphe (1) l'utilisateur final professionnel qui n'est pas un exploitant et ne met pas le service à la disposition d'autres personnes.
Article 44 → les motifs
(1) Les infractions prévues dans la présente section sont retenues à la charge des personnes physiques qui ont ordonné ou approuvé la commission des faits, ainsi que des personnes qui, ayant l'obligation juridique et la possibilité effective de les empêcher, en ont sciemment toléré la commission, avec établissement individuel de la forme de culpabilité conformément au code pénal, indépendamment de leur qualité d'administrateurs, de directeurs, d'associés ou de salariés et indépendamment de la responsabilité pénale de la personne morale, laquelle est engagée dans les conditions de l'article 135 du code pénal.
(2) Ne constitue pas une cause de non-punissabilité la circonstance que le fait a été commis en exécution d'une décision des organes de direction, d'un ordre ou d'une instruction contractuelle ; les dispositions du code pénal relatives aux causes justificatives et aux causes de non-imputabilité demeurent applicables.
Article 45 → les motifs
(1) La poursuite pénale des infractions prévues aux articles 40 à 42 est effectuée obligatoirement par le procureur, au sein de la Direction d'investigation des infractions de criminalité organisée et de terrorisme, et le jugement en première instance relève du tribunal.
(2) En cas d'urgence, le procureur peut ordonner, par ordonnance motivée, à titre de mesure provisoire, pour 30 jours au plus, l'arrêt du système, la mise sous scellés de l'infrastructure de calcul et l'indisponibilisation des poids, avec confirmation du juge des droits et libertés dans un délai de 48 heures, sous peine de cessation de plein droit de la mesure. La mesure est limitée à la tâche de calcul et aux poids visés lorsque leur isolement est suffisant, est exécutée avec conservation des données et avec la garde des poids dans les conditions de l'article 12, peut être contestée par la personne visée et par les tiers affectés, est réexaminée tous les 30 jours et peut être prolongée dans les mêmes conditions.
(3) À l'article 11, paragraphe (1), de l'ordonnance d'urgence du Gouvernement n° 78/2016 relative à l'organisation et au fonctionnement de la Direction d'investigation des infractions de criminalité organisée et de terrorisme, ainsi qu'à la modification et au complément de certains actes normatifs, publiée au Journal officiel de la Roumanie, Partie I, n° 938 du 22 novembre 2016, approuvée avec modifications par la loi n° 120/2018, telle que modifiée et complétée ultérieurement, après le dernier point est inséré un nouveau point, ainsi rédigé : « les infractions prévues aux articles 40 à 42 de la loi sur le développement sûr des systèmes d'intelligence artificielle de pointe et la prévention des risques catastrophiques pour le citoyen roumain ».
CHAPITRE VIII
Coopération internationale. Dispositions transitoires et finales
Article 46 → les motifs
(1) Le Gouvernement promeut, dans le cadre des institutions de l'Union européenne, l'adoption d'un régime d'autorisation préalable des systèmes de pointe équivalent à celui prévu par la présente loi, ainsi que l'institution d'une capacité européenne commune d'évaluation.
(2) Le Gouvernement agit, dans le cadre de l'Organisation des Nations unies, du Conseil de l'Europe, de l'Organisation du traité de l'Atlantique Nord et d'autres organisations internationales, en vue de la négociation d'un traité international relatif à la limitation et à la vérification des capacités de calcul de pointe, à l'interdiction des systèmes d'armes autonomes létaux et à l'interdiction du développement des systèmes de catégorie III, et présente chaque année au Parlement l'état d'avancement de ces démarches.
(3) L'Autorité peut conclure, dans les limites de sa compétence et avec publication de ceux-ci, des accords de reconnaissance mutuelle des évaluations avec les autorités compétentes d'autres États qui appliquent des normes équivalentes ; les accords ne peuvent déroger à la présente loi ni au droit de l'Union européenne.
Article 47 → les motifs
Le Gouvernement présente au Parlement, tous les 2 ans à compter de l'entrée en vigueur, sur la base du rapport de l'Autorité et de l'avis du Conseil scientifique, un rapport sur l'adéquation de la présente loi à l'état de la technologie, accompagné, le cas échéant, de propositions de modification. Le rapport évalue, sur la base d'une méthodologie publiée, l'efficacité de la protection, les incidents, les coûts, l'accès aux services, les effets indésirables et la proportionnalité de chaque mesure, peut proposer la restriction d'une mesure constatée inefficace et comprend les opinions scientifiques divergentes. L'absence d'une méthode scientifique validée de contrôle des systèmes de pointe ne peut être invoquée, à elle seule, comme motif d'assouplissement du régime institué par la présente loi.
Article 48 → les motifs
(1) Les développeurs et les exploitants des systèmes de pointe en exploitation sur le territoire de la Roumanie ou mis à la disposition de personnes se trouvant sur le territoire de la Roumanie à la date d'entrée en vigueur de la présente loi se conforment, dans un délai de 90 jours à compter de la date d'entrée en vigueur, aux dispositions de celle-ci qui ne dépendent pas des normes méthodologiques, et aux autres dispositions dans les délais prévus aux paragraphes (2), (4) et (5).
(2) Dans un délai de 60 jours à compter de la date d'entrée en vigueur de la présente loi, les développeurs et les exploitants notifient à l'Autorité les systèmes en exploitation. La demande d'autorisation prévue à l'article 9 est déposée dans un délai de 90 jours à compter de la date d'entrée en vigueur des normes méthodologiques prévues à l'article 49, paragraphe (2). Les systèmes notifiés peuvent être maintenus en exploitation jusqu'à la décision de l'Autorité, mais pour une durée n'excédant pas 12 mois à compter de la date d'entrée en vigueur de la présente loi, sous condition du respect des interdictions et des garanties directement applicables prévues aux chapitres IV et V ; ce délai est prorogé de plein droit de la durée dont l'adoption des normes méthodologiques ou le traitement de la demande dépassent les délais prévus par la présente loi, le demandeur diligent ne pouvant être sanctionné pour le retard des institutions, et l'Autorité pouvant ordonner, de manière motivée, des conditions supplémentaires de sûreté pendant la durée de la prorogation.
(3) Les dispositions des articles 38 et 39 s'appliquent après l'expiration du délai prévu au paragraphe (1). Ne constitue pas l'infraction prévue à l'article 40, paragraphe (1), le maintien en exploitation d'un système notifié conformément au paragraphe (2), pendant la durée où celui-ci le permet, ainsi qu'au cours du traitement de la demande d'autorisation déposée dans le délai ; les dispositions des articles 40 à 42 s'appliquent toutefois, à compter de la date de leur entrée en vigueur, à tout autre fait, y compris la mise en exploitation d'un système non notifié ou le maintien en exploitation après le rejet de la demande, après l'expiration du délai prévu au paragraphe (2) ou après la communication d'un ordre d'arrêt.
(4) Les obligations prévues à l'article 17, paragraphe (1), point a), à l'article 18 et à l'article 19, ainsi que l'obligation prévue à l'article 17, paragraphe (4), en ce qui concerne le marquage perceptible et la mention expresse de la génération, sont remplies dans un délai de 90 jours à compter de la date d'entrée en vigueur de la présente loi ; dans le même délai est désigné et notifié à l'Autorité le représentant chargé de la conformité prévu à l'article 19. Les obligations relatives au marquage technique intégré, prévues à l'article 17, paragraphe (1), point b), et paragraphe (2), ainsi que l'obligation prévue à l'article 17, paragraphe (4), en ce qui concerne ce marquage, sont remplies dans un délai de 90 jours à compter de la date d'entrée en vigueur des normes méthodologiques. Les contraventions prévues à l'article 37, paragraphe (1), points e) et f), sont constatées après l'expiration du délai applicable à chaque obligation.
(5) Les obligations dont l'accomplissement dépend des normes, procédures, seuils ou montants établis par les normes méthodologiques prévues à l'article 49, paragraphe (2), deviennent exigibles 90 jours après la date d'entrée en vigueur de ces normes ; jusqu'à cette date, les contraventions correspondantes ne sont pas constatées. Les interdictions prévues par la présente loi, les obligations de maintien et de test de la capacité d'arrêt, de journalisation et de signalement des incidents graves, ainsi que les autres obligations qui peuvent être remplies sans les normes méthodologiques s'appliquent à compter de la date d'entrée en vigueur de la présente loi, dans les délais prévus aux paragraphes (1) à (4).
(6) Jusqu'à la nomination du vice-président pour la sûreté de l'intelligence artificielle, les attributions de l'Autorité, y compris les mesures urgentes prévues à l'article 32, paragraphe (1), point c), sont exercées par le président de l'ANCOM, qui en répond dans les conditions de la présente loi.
Article 49 → les motifs
(1) Dans un délai de 60 jours à compter de la date de publication de la présente loi au Journal officiel de la Roumanie, Partie I, le Parlement nomme le vice-président pour la sûreté de l'intelligence artificielle, et l'ANCOM complète sa structure organisationnelle et son règlement d'organisation et de fonctionnement par l'Autorité, par décision du président de l'ANCOM, qui est publiée au Journal officiel de la Roumanie, Partie I.
(2) Dans un délai de 120 jours à compter de la date de publication de la présente loi au Journal officiel de la Roumanie, Partie I, le Gouvernement adopte, sur proposition de l'Autorité, sur avis du Conseil scientifique et après une consultation publique d'au moins 30 jours, les normes méthodologiques relatives à la procédure de notification et d'autorisation, à la procédure simplifiée de reconnaissance, aux normes d'évaluation, de sécurité des poids et de capacité d'arrêt, aux conditions de l'environnement isolé, aux normes du marquage de provenance prévu à l'article 17, aux méthodes d'évaluation et aux niveaux de signification des capacités critiques prévues à l'article 5, paragraphe (2), au seuil de l'infrastructure de calcul de grande capacité, au niveau prévu à l'article 16, paragraphe (5), à la procédure de test et à la durée prévues à l'article 14, paragraphes (1) et (6), aux exigences minimales de l'isolement prévues à l'article 3, paragraphe (1), point bb), au montant de l'indemnité compensatoire prévue à l'article 31, paragraphe (3), au montant des taxes, établi en fonction du coût du service, et au montant de l'assurance ou de la garantie financière prévues à l'article 36. Les normes détaillent le cadre établi par la présente loi et ne peuvent fixer le contenu essentiel des obligations, des interdictions et des sanctions ; les normes techniques sont publiées.
(3) Jusqu'à l'adoption des normes méthodologiques, les évaluations sont effectuées conformément aux normes prévues par les codes de bonne pratique adoptés en vertu du règlement sur l'IA et aux méthodes scientifiquement reconnues, et l'Autorité publie des orientations provisoires.
Article 50 → les motifs
La présente loi entre en vigueur 30 jours après la date de sa publication au Journal officiel de la Roumanie, Partie I, à l'exception des articles 40 à 42, 44 et 45, qui entrent en vigueur 270 jours après la date de la publication. Les dispositions de l'article 43 entrent en vigueur en même temps que la présente loi.
La présente loi a été adoptée par le Parlement de la Roumanie, dans le respect des dispositions de l'article 75 et de l'article 76, paragraphe (1), de la Constitution de la Roumanie, republiée.
LE PRÉSIDENT DE LA CHAMBRE DES DÉPUTÉS LE PRÉSIDENT DU SÉNAT
Commentaires sur ce texte
Les commentaires rejoignent la rubrique du document dans le Forum souverainiste. On discute sur le texte, avec des arguments.
Voir toute la discussion dans le forum →