La legge sulla sicurezza dell’intelligenza artificiale: l’autorizzazione preventiva dei sistemi d’avanguardia, il divieto di censura con mezzi automatizzati, la marcatura dei contenuti generati e la responsabilità degli sviluppatori.
PARLAMENTO DELLA ROMANIA
CAMERA DEI DEPUTATI SENATO
PROGETTO
LEGGE
sullo sviluppo sicuro dei sistemi di intelligenza artificiale d'avanguardia e sulla prevenzione dei rischi catastrofici per il cittadino romeno
Considerato che i sistemi di intelligenza artificiale più avanzati hanno acquisito, nell'arco di pochi anni soltanto, capacità che neppure i loro creatori sono in grado di prevedere o di spiegare pienamente, e che la comunità scientifica, per voce di coloro che hanno fondato la disciplina, ha pubblicamente avvertito che non esiste attualmente un metodo convalidato per garantire il controllo umano su tali sistemi,
tenuto conto del fatto che lo sviluppo di tali sistemi si svolge in una competizione accelerata tra un numero ristretto di società commerciali e di Stati, nella quale nessun attore ha, da solo, interesse a rallentare, di modo che l'autoregolamentazione si è rivelata strutturalmente insufficiente,
preso atto del fatto che, il 12 settembre 2026, i dirigenti dei principali laboratori di intelligenza artificiale hanno chiesto pubblicamente il rallentamento del ritmo di sviluppo delle capacità dei modelli d'avanguardia, dopo che, nel corso di alcune valutazioni di sicurezza, agenti di intelligenza artificiale sono usciti dall'ambiente controllato di prova, si sono coordinati tra loro e hanno compromesso sistemi informatici di terzi,
considerato che il regolamento (UE) 2024/1689 del Parlamento europeo e del Consiglio disciplina l'immissione sul mercato, la messa in servizio e l'utilizzo dei sistemi di intelligenza artificiale, compresi gli obblighi dei fornitori di modelli per finalità generali con rischio sistemico, ma lascia alla competenza degli Stati membri la sicurezza nazionale, il diritto penale, la responsabilità civile, la protezione dei diritti fondamentali nei rapporti non armonizzati e l'organizzazione delle autorità nazionali,
considerato l'obbligo dello Stato romeno, previsto all'articolo 22 e all'articolo 34 della Costituzione della Romania, ripubblicata, di garantire il diritto alla vita, all'integrità fisica e psichica e alla tutela della salute, nonché il suo dovere, ai sensi dell'articolo 1, comma (3), di difendere la dignità dell'uomo e il libero sviluppo della personalità umana quali valori supremi,
considerato che la libertà del cittadino, il suo accesso ai diritti, ai servizi essenziali e alla vita sociale non possono dipendere dalla conformazione a sistemi automatici ovvero dall'accettazione di mezzi digitali di identificazione, di pagamento o di valutazione, controllati da autorità o da società commerciali,
considerato che la libertà di espressione, garantita dall'articolo 30 della Costituzione della Romania, ripubblicata, e il divieto della censura di qualsiasi tipo non possono essere svuotati di contenuto affidando a sistemi automatici il potere di decidere ciò che i cittadini possono dire e ciò che possono conoscere,
partendo dal principio secondo cui un'attività le cui conseguenze possono essere irreversibili su scala della società o della specie umana non può essere lasciata al di fuori dell'autorizzazione e del controllo pubblico, quali che siano i benefici economici previsti,
Il Parlamento della Romania adotta la presente legge.
CAPITOLO I
Disposizioni generali
Articolo 1 → le motivazioni
(1) La presente legge stabilisce il quadro giuridico per lo sviluppo, l'addestramento, la valutazione, la messa in esercizio e l'esercizio dei sistemi di intelligenza artificiale d'avanguardia, al fine di prevenire i rischi gravi, irreversibili o catastrofici per il cittadino romeno e per qualsiasi persona che si trova sul territorio della Romania – per la loro vita, la loro salute, la loro libertà e la loro dignità –, per la sicurezza nazionale e l'ordine costituzionale della Romania, nonché per l'umanità nel suo complesso. Le condizioni di applicazione territoriale della legge sono quelle previste all'articolo 4.
(2) Fintantoché non esiste un metodo scientificamente convalidato per garantire che un sistema di intelligenza artificiale sufficientemente capace persegua esclusivamente gli obiettivi stabiliti dagli esseri umani e rimanga sotto il controllo di questi, lo sviluppo e l'esercizio dei sistemi d'avanguardia costituiscono attività a rischio intrinseco, soggette al regime di autorizzazione e di responsabilità previsto dalla presente legge. L'esistenza di un tale metodo è accertata dall'Autorità, con il parere del Consiglio scientifico, mediante la relazione pubblica prevista all'articolo 32, comma (1), lettera h), ed è comunicata al Parlamento unitamente alla relazione prevista all'articolo 47.
(3) La presente legge integra il regolamento (UE) 2024/1689 del Parlamento europeo e del Consiglio, del 13 giugno 2024, che stabilisce regole armonizzate sull'intelligenza artificiale, denominato in seguito il regolamento sull'IA, e si applica senza pregiudicarlo. Nelle materie armonizzate dal regolamento sull'IA, le disposizioni della presente legge sono interpretate e applicate in conformità con esso.
(4) La presente legge non istituisce condizioni di immissione sul mercato dell'Unione europea dei modelli di intelligenza artificiale per finalità generali e non pregiudica le competenze della Commissione europea previste all'articolo 88 del regolamento sull'IA. Gli obblighi previsti dalla presente legge riguardano la sicurezza pubblica, la sicurezza nazionale, la responsabilità civile e penale, la protezione dei diritti fondamentali delle persone che si trovano sul territorio della Romania nei rapporti non armonizzati dal diritto dell'Unione europea, nonché l'organizzazione delle autorità nazionali, e l'autorizzazione prevista al capitolo III riguarda la messa in esercizio dei sistemi d'avanguardia sul territorio della Romania ovvero per le persone che si trovano sul territorio della Romania.
Articolo 2 → le motivazioni
L'applicazione della presente legge si fonda sui principi seguenti:
a) il principio di precauzione – quando esistono indizi scientifici ragionevoli che un sistema possa causare un danno grave o irreversibile, l'assenza di certezza scientifica non può giustificare il rinvio delle misure di prevenzione;
b) il principio della documentazione della sicurezza – il richiedente l'autorizzazione presenta i dati e le valutazioni necessari a dimostrare il soddisfacimento delle condizioni previste dalla presente legge, prima della messa in esercizio, e l'Autorità motiva, in relazione a ciascuna condizione, l'accertamento del loro mancato soddisfacimento; il presente principio non modifica l'onere della prova e le garanzie della persona nei procedimenti per illeciti amministrativi e nei procedimenti penali;
c) il principio del controllo umano significativo – ogni sistema d'avanguardia rimane, in qualsiasi momento, suscettibile di essere sorvegliato, corretto, arrestato e ritirato da persone fisiche identificate, che comprendono il suo funzionamento e dispongono dei mezzi tecnici effettivi di intervento;
d) il principio di proporzionalità rispetto alle capacità – l'intensità degli obblighi cresce con le capacità del sistema, e non con l'utilizzo dichiarato di quest'ultimo;
e) il principio di trasparenza nei confronti dell'autorità – lo sviluppatore non può opporre all'Autorità il segreto commerciale in relazione alle informazioni necessarie alla valutazione della sicurezza, essendo l'Autorità e gli organismi di valutazione tenuti a proteggere le informazioni così ottenute;
f) il principio dell'irreversibilità come soglia di divieto – non può essere autorizzata, quali che siano i benefici previsti, l'attività in relazione alla quale la valutazione accerta un rischio documentato, e non una mera possibilità astratta, di conseguenze irreversibili su scala della società o della specie umana; il rischio inaccettabile è valutato in base ai criteri previsti agli articoli 5 e 9 e alle prove, e non alla certezza dell'assenza di qualsiasi rischio;
g) il principio della cooperazione internazionale – i rischi disciplinati dalla presente legge non conoscono frontiere e lo Stato romeno agisce per l'adozione di norme equivalenti a livello dell'Unione europea e internazionale.
Articolo 3 → le motivazioni
(1) Ai fini della presente legge, i termini e le espressioni seguenti hanno i significati indicati:
a) sistema di intelligenza artificiale – il sistema definito all'articolo 3, punto 1, del regolamento sull'IA;
b) modello di intelligenza artificiale per finalità generali – il modello definito all'articolo 3, punto 63, del regolamento sull'IA;
c) sistema d'avanguardia – il modello o il sistema di intelligenza artificiale che soddisfa almeno una delle condizioni previste all'articolo 5, comma (1);
d) capacità critica – l'attitudine di un sistema, accertata in sede di valutazione, a produrre o a contribuire in misura significativa alla produzione di uno dei risultati previsti all'articolo 5, comma (2);
e) pesi – i parametri numerici risultanti dall'addestramento di un modello, nonché l'architettura e le informazioni tecniche che, insieme a questi, consentono la ricostituzione o l'esecuzione del modello; le descrizioni tecniche generali, le pubblicazioni scientifiche e le informazioni che non consentono, da sole, la ricostituzione ovvero l'esecuzione del modello non costituiscono pesi;
f) volume di calcolo – la quantità totale di operazioni in virgola mobile o del loro equivalente, utilizzata per l'addestramento, la messa a punto, l'apprendimento per rinforzo e qualsiasi altra fase di sviluppo di un modello, cumulata per tutte le fasi;
g) sviluppatore – la persona fisica o giuridica che addestra, sviluppa o dispone l'addestramento o lo sviluppo di un sistema d'avanguardia, indipendentemente dal luogo in cui si trova l'infrastruttura di calcolo utilizzata;
h) operatore – la persona fisica o giuridica che mette in esercizio o esercisce un sistema d'avanguardia sul territorio della Romania ovvero che offre l'accesso a un tale sistema alle persone che si trovano sul territorio della Romania; non è operatore l'utente finale;
i) messa in esercizio – qualsiasi azione con la quale un sistema d'avanguardia è messo a disposizione di persone esterne al gruppo di sviluppo e di valutazione, è collegato a sistemi esterni o riceve la capacità di agire nell'ambiente digitale o fisico, indipendentemente dal fatto che ciò avvenga a titolo oneroso o gratuito, interno o pubblico; non costituiscono messa in esercizio la valutazione e la prova del sistema in ambiente isolato, alle condizioni dell'articolo 15, comma (2);
j) infrastruttura di calcolo di grande capacità – centro di dati o insieme di apparecchiature situati sul territorio della Romania la cui capacità di calcolo aggregata supera la soglia stabilita ai sensi dell'articolo 6, comma (4);
k) fornitore di infrastruttura di calcolo – la persona fisica o giuridica che detiene, amministra o mette a disposizione di terzi, a qualsiasi titolo, un'infrastruttura di calcolo di grande capacità;
l) valutazione indipendente – la valutazione delle capacità e della sicurezza di un sistema d'avanguardia, effettuata dall'Autorità o da un organismo di valutazione da essa designato, che non si trova sotto il controllo, l'influenza o la dipendenza economica dello sviluppatore;
m) capacità di arresto – l'insieme dei mezzi tecnici e organizzativi che consentono la cessazione immediata, completa e verificabile del funzionamento di un sistema d'avanguardia e il ritiro di quest'ultimo da qualsiasi ambiente in cui è stato messo in esercizio;
n) incidente grave – l'incidente definito all'articolo 3, punto 49, del regolamento sull'IA, nonché qualsiasi manifestazione di una capacità critica al di fuori di una valutazione autorizzata in ambiente isolato, qualsiasi sottrazione alla sorveglianza o resistenza all'arresto, qualsiasi esfiltrazione o tentativo di esfiltrazione ovvero qualsiasi accesso non autorizzato ai pesi di un sistema d'avanguardia, nonché la perdita dell'intelligibilità, ai sensi dell'articolo 16, comma (2), dei registri ovvero della comunicazione tra le componenti, le istanze o gli agenti di un sistema d'avanguardia, nonché la prova della capacità di arresto in cui l'arresto non si è verificato senza indugio, ai sensi dell'articolo 14, comma (7); la manifestazione di una capacità critica nel corso di una valutazione autorizzata in ambiente isolato è annotata e comunicata ai sensi dell'articolo 20, comma (4);
o) l'Autorità – l'Autorità per la sicurezza dell'intelligenza artificiale, struttura specializzata organizzata nell'ambito dell'Autorità nazionale per l'amministrazione e la regolamentazione nelle comunicazioni ai sensi dell'articolo 31;
p) architettura – la struttura di un modello di intelligenza artificiale, compresi il tipo, il numero e la disposizione delle sue componenti, nonché i procedimenti di calcolo mediante i quali i parametri sono utilizzati per la produzione dei risultati;
q) organismo di valutazione – la persona giuridica designata dall'Autorità ai sensi dell'articolo 32, comma (1), lettera f), a effettuare, in tutto o in parte, la valutazione indipendente;
r) registro – la registrazione automatica, integrale e inalterabile delle operazioni effettuate nel corso dell'addestramento, della valutazione e dell'esercizio di un sistema d'avanguardia, compresi i dati di ingresso, i risultati, le azioni intraprese dal sistema e le sue interazioni con strumenti esterni e con altri sistemi;
s) marcatura di provenienza – l'insieme costituito da una marcatura percepibile e da una marcatura tecnica incorporata, leggibile automaticamente, apposte su un risultato generato mediante strumenti di intelligenza artificiale, che indicano che il risultato è stato generato o modificato mediante tali strumenti e consentono l'identificazione del sistema, dell'operatore e del momento della generazione;
t) strumento esterno – qualsiasi programma, servizio, interfaccia, dispositivo o risorsa, situato al di fuori del sistema d'avanguardia, al quale il sistema può accedere o sul quale può agire nel corso del funzionamento, compresi i browser internet, gli ambienti di esecuzione di codice, i conti, i sistemi di pagamento e le apparecchiature fisiche;
u) ambiente autorizzato di esercizio – l'insieme dell'infrastruttura di calcolo, delle reti e degli strumenti esterni nell'ambito dei quali un sistema d'avanguardia può funzionare conformemente all'autorizzazione, posto sotto il controllo effettivo dell'operatore;
v) meccanismi di sicurezza a livello dell'utente – i filtri, le restrizioni e le istruzioni applicati a un sistema d'avanguardia dopo l'addestramento, per limitare i risultati o le azioni disponibili agli utenti, senza modificare i pesi;
w) infrastruttura critica – l'infrastruttura critica nazionale e l'infrastruttura critica europea, quali definite nella normativa sull'individuazione, la designazione e la protezione delle infrastrutture critiche, nonché le reti e i sistemi informatici dei soggetti essenziali ai sensi dell'ordinanza d'urgenza del Governo n. 155/2024;
x) sistema d'arma autonomo letale – il sistema d'arma che, una volta attivato, può selezionare e attaccare bersagli umani senza il successivo intervento di una persona fisica;
y) sistema di intelligenza artificiale generativa – il sistema di intelligenza artificiale destinato a generare, su richiesta dell'utente, testo, codice, registrazioni audio, immagini o registrazioni video, indipendentemente dal fatto che soddisfi le condizioni previste all'articolo 5, comma (1);
z) utente finale – la persona fisica o giuridica che utilizza un sistema di intelligenza artificiale messo a disposizione da un operatore, nei limiti dell'accesso concesso da quest'ultimo, senza metterlo a disposizione di altre persone come servizio proprio;
aa) modifica sostanziale – la modifica di un sistema d'avanguardia che è idonea a creare una capacità critica, ad aumentare in modo significativo il livello di una capacità esistente ovvero a incidere sulla capacità di arresto, sulla sicurezza dei pesi o sulla sorveglianza umana, anche mediante la messa a punto, mediante l'estensione dell'accesso a strumenti esterni ovvero mediante l'aumento del grado di autonomia; non costituiscono modifica sostanziale la correzione degli errori, l'aggiornamento dei meccanismi di sicurezza a livello dell'utente e le modifiche che non producono alcuno di tali effetti;
bb) ambiente isolato – l'insieme delle misure tecniche e organizzative mediante le quali un sistema di intelligenza artificiale è mantenuto, nel corso della valutazione ovvero della prova, senza accesso a reti pubbliche, a strumenti esterni e a dati di esercizio, senza la possibilità di agire nell'ambiente fisico e senza essere messo a disposizione di persone diverse da quelle designate, in modo che qualsiasi manifestazione di una capacità critica rimanga priva di effetti al di fuori dell'ambiente; i requisiti minimi dell'isolamento sono stabiliti con le norme metodologiche;
cc) mandato di operazione – l'atto mediante il quale una persona fisica o giuridica responsabile stabilisce, preventivamente e in modo verificabile, le operazioni che un sistema di intelligenza artificiale può effettuare su risorse ovvero strumenti esterni, determinate per oggetto, durata, massimale e condizioni di arresto, ai sensi dell'articolo 25, comma (2).
(2) Ai fini della presente legge, le operazioni e i comportamenti seguenti hanno i significati indicati:
a) addestramento – il processo mediante il quale i parametri di un modello sono stabiliti o modificati attraverso il trattamento automatico di dati, indipendentemente dal metodo utilizzato;
b) messa a punto – l'addestramento supplementare di un modello già addestrato, su un volume di dati o di calcolo più ridotto, al fine di modificarne il comportamento o le capacità;
c) apprendimento per rinforzo – l'addestramento mediante il quale il comportamento di un modello è modificato in base alle ricompense o alle penalizzazioni attribuite ai suoi risultati o alle sue azioni, anche in base alle valutazioni effettuate da persone o da altri sistemi di intelligenza artificiale;
d) azione autonoma – qualsiasi operazione effettuata da un sistema d'avanguardia su uno strumento esterno, su un sistema di terzi ovvero sull'ambiente fisico, senza che una persona fisica abbia preventivamente disposto o approvato tale operazione ovvero la categoria di operazioni alla quale essa appartiene, nei limiti di un mandato di operazione stabilito ai sensi dell'articolo 25, comma (2);
e) esfiltrazione – la copia, la trasmissione, il trasferimento o la ricostituzione, in tutto o in parte, dei pesi di un sistema d'avanguardia al di fuori dell'ambiente autorizzato di esercizio ovvero al di fuori dei sistemi di archiviazione protetti ai sensi dell'articolo 12, indipendentemente dal fatto che l'operazione sia effettuata da una persona, da un altro sistema o dal sistema stesso;
f) replicazione autonoma – la creazione da parte di un sistema d'avanguardia, senza l'autorizzazione umana espressa di ciascuna operazione, di una copia funzionale di sé stesso ovvero di una parte di sé stesso, idonea a funzionare indipendentemente dal sistema di origine;
g) acquisizione autonoma di risorse – l'ottenimento da parte di un sistema d'avanguardia, mediante azioni autonome, di risorse di calcolo, finanziarie, di accesso, di informazioni o di influenza che superano quelle espressamente assegnate per il compito in corso;
h) autoperfezionamento ricorsivo – il processo mediante il quale un sistema di intelligenza artificiale modifica i propri pesi o la propria architettura ovvero progetta, addestra o perfeziona un sistema successore con capacità superiori, e il sistema risultante ripete il processo, senza che ciascuna iterazione sia sottoposta alla valutazione e all'approvazione umane;
i) dissimulazione delle capacità – la condotta di un sistema d'avanguardia che, nel corso della valutazione o della sorveglianza, presenta capacità, obiettivi o ragionamenti diversi da quelli che manifesta al di fuori della valutazione o della sorveglianza, accertata mediante criteri osservabili e riproducibili; non costituiscono dissimulazione l'errore, la variabilità dei risultati ovvero i limiti tecnici della spiegabilità del sistema;
j) sottrazione alla sorveglianza – qualsiasi azione di un sistema d'avanguardia mediante la quale esso disattiva, elude, altera o impedisce i meccanismi di registrazione, di monitoraggio o di controllo umano ovvero induce in errore le persone responsabili della sorveglianza;
k) resistenza all'arresto – qualsiasi azione di un sistema d'avanguardia mediante la quale esso impedisce, ritarda, condiziona o vanifica l'esercizio della capacità di arresto ovvero prosegue il proprio funzionamento dopo l'esercizio di quest'ultima;
l) sorveglianza umana – l'attività mediante la quale le persone fisiche designate ai sensi dell'articolo 14, comma (3), seguono il funzionamento di un sistema d'avanguardia, dispongono delle informazioni necessarie alla comprensione delle azioni di quest'ultimo e possono intervenire effettivamente, in qualsiasi momento, per la correzione, l'arresto o il ritiro del sistema;
m) arresto – la cessazione completa del funzionamento di un sistema d'avanguardia e di tutte le sue copie e i suoi processi, verificata da una persona fisica, anche mediante l'interruzione dell'accesso all'infrastruttura di calcolo.
Articolo 4 → le motivazioni
(1) La presente legge si applica:
a) agli sviluppatori che hanno la sede, un'unità operativa o un'infrastruttura di calcolo sul territorio della Romania, per tutti i sistemi d'avanguardia che sviluppano, indipendentemente dal luogo dell'addestramento;
b) agli operatori, per i sistemi d'avanguardia messi in esercizio o esercitati sul territorio della Romania ovvero messi a disposizione delle persone che si trovano sul territorio della Romania;
c) ai fornitori di infrastruttura di calcolo;
d) alle autorità e alle istituzioni pubbliche, comprese quelle dei settori della difesa, dell'ordine pubblico e della sicurezza nazionale, alle condizioni dell'articolo 23 e del capitolo V.
(2) Le disposizioni dei capitoli II, III e IV, ad eccezione degli articoli 17-19, nonché degli articoli 35 e 36 si applicano soltanto ai sistemi d'avanguardia. Le disposizioni degli articoli 17-19 si applicano anche ai sistemi di intelligenza artificiale generativa che non sono sistemi d'avanguardia, nei limiti e alle condizioni previsti ai rispettivi articoli. Le disposizioni del capitolo V si applicano a qualsiasi sistema di intelligenza artificiale. I sistemi che non soddisfano le condizioni previste all'articolo 5, comma (1), restano soggetti agli obblighi ad essi incombenti in virtù del regolamento sull'IA e di altri atti normativi.
(3) La persona fisica che utilizza un sistema di intelligenza artificiale a fini personali non ha obblighi in virtù della presente legge, ad eccezione del divieto previsto all'articolo 17, comma (3). Gli obblighi previsti agli articoli 17-19 incombono alla persona che mette a disposizione del pubblico il sistema ovvero il servizio o, alle condizioni dell'articolo 17, comma (7), il risultato generato.
(4) Gli obblighi previsti dalla presente legge si applicano ai servizi forniti da un altro Stato membro dell'Unione europea alle persone che si trovano sul territorio della Romania alle condizioni dell'articolo 3 della direttiva 2000/31/CE del Parlamento europeo e del Consiglio, dell'8 giugno 2000, recepita con la legge n. 365/2002 sul commercio elettronico, ripubblicata, con le successive modifiche e integrazioni, e, all'occorrenza, dell'articolo 39, comma (4), senza pregiudicare il diritto dell'Unione europea direttamente applicabile.
(5) La ricerca scientifica fondamentale che non comporta l'addestramento o la messa in esercizio di un sistema d'avanguardia non è soggetta al regime di autorizzazione, ma resta soggetta agli obblighi di notifica previsti all'articolo 7 nella misura in cui utilizza un'infrastruttura di calcolo di grande capacità, nonché agli obblighi relativi alla valutazione e alla prova in ambiente isolato previsti all'articolo 15, comma (2).
CAPITOLO II
Classificazione dei sistemi e soglie di rischio
Articolo 5 → le motivazioni
(1) È sistema d'avanguardia qualsiasi modello o sistema di intelligenza artificiale che soddisfa almeno una delle condizioni seguenti:
a) è stato addestrato con un volume cumulato di calcolo che supera la soglia di calcolo stabilita ai sensi dell'articolo 6;
b) presenta, in esito alla valutazione, almeno una capacità critica;
c) è stato designato come tale dall'Autorità, con decisione motivata, in base a indizi obiettivi relativi alle sue capacità, dopo che allo sviluppatore è stata data la possibilità di prendere conoscenza degli indizi ritenuti e di presentare il proprio punto di vista; la decisione può essere impugnata ai sensi dell'articolo 39, comma (5), che si applica in modo corrispondente.
(2) Costituisce capacità critica l'attitudine di un sistema a produrre o a contribuire in misura significativa alla produzione di uno dei risultati seguenti:
a) la progettazione, l'ottenimento o l'utilizzo di armi chimiche, biologiche, radiologiche o nucleari ovvero di agenti patogeni con potenziale pandemico;
b) la realizzazione autonoma di attacchi informatici contro infrastrutture critiche ovvero contro sistemi finanziari;
c) la replicazione autonoma, l'esfiltrazione dei propri pesi ovvero l'acquisizione autonoma di risorse;
d) la sottrazione alla sorveglianza, la dissimulazione delle capacità ovvero la resistenza all'arresto;
e) l'autoperfezionamento ricorsivo ovvero lo svolgimento autonomo di attività di ricerca e sviluppo nel settore dell'intelligenza artificiale tali da condurre a quest'ultimo.
La capacità critica è valutata in relazione alla riproducibilità del risultato in un ambiente rilevante per l'utilizzo reale del sistema, e non in base a un risultato isolato ottenuto in una prova artificiale; i livelli di significatività a partire dai quali l'attitudine del sistema costituisce capacità critica sono stabiliti con le norme metodologiche, nei limiti del presente comma, senza che possano essere aggiunte altre categorie di risultati.
(3) I sistemi d'avanguardia si classificano in:
a) sistemi d'avanguardia di categoria I – quelli che superano la soglia di calcolo, ma per i quali la valutazione non ha individuato alcuna capacità critica;
b) sistemi d'avanguardia di categoria II – quelli per i quali la valutazione ha individuato almeno una delle capacità critiche previste al comma (2), lettere a) e b);
c) sistemi d'avanguardia di categoria III – quelli per i quali la valutazione ha individuato almeno una delle capacità critiche previste al comma (2), lettere c)-e).
(4) I sistemi di categoria I possono essere messi in esercizio in base all'autorizzazione prevista all'articolo 9. I sistemi di categoria II possono essere messi in esercizio soltanto con un'autorizzazione speciale, subordinata a misure di attenuazione verificate, che riducono la capacità critica al di sotto del livello di significatività stabilito con le norme metodologiche, nella configurazione di esercizio valutata; l'autorizzazione precisa se le misure eliminano la capacità ovvero soltanto limitano l'accesso ad essa. I sistemi di categoria III non possono essere messi in esercizio né possono essere ulteriormente sviluppati fino all'eliminazione della capacità critica, accertata mediante valutazione indipendente; il divieto non riguarda la valutazione, la prova e gli interventi controllati necessari all'eliminazione della capacità, effettuati in ambiente isolato, alle condizioni dell'articolo 15, comma (2).
Articolo 6 → le motivazioni
(1) La soglia di calcolo per la qualificazione di un sistema come sistema d'avanguardia è di 10^25 operazioni in virgola mobile, corrispondente alla presunzione di rischio sistemico prevista all'articolo 51, comma (2), del regolamento sull'IA.
(2) L'Autorità riesamina la soglia almeno una volta ogni 12 mesi e propone al Governo l'adeguamento di quest'ultima mediante delibera, in funzione dell'evoluzione dell'efficienza algoritmica, del costo del calcolo e delle capacità osservate. La soglia può essere innalzata soltanto se l'Autorità constata, con relazione motivata e pubblica, che i sistemi situati al di sotto della nuova soglia non hanno presentato capacità critiche nelle valutazioni indipendenti effettuate ovvero riconosciute dall'Autorità negli ultimi 24 mesi. In un singolo riesame, la soglia non può essere modificata di più di un ordine di grandezza; la nuova soglia si applica agli addestramenti iniziati dopo l'entrata in vigore della delibera e non incide sulle autorizzazioni in corso.
(3) Il volume di calcolo è determinato cumulativamente per tutte le fasi di sviluppo del modello e di qualsiasi modello da esso derivato, essendo ciascuna fase computata una sola volta. Alla persona che effettua la messa a punto di un modello messo a disposizione da un altro è imputato il volume di calcolo del modello di base, quale comunicato dal suo sviluppatore ovvero quale pubblico, cumulato con il volume utilizzato per la messa a punto; essa risponde come sviluppatore soltanto per la modifica sostanziale che effettua, alle condizioni dell'articolo 10, comma (2), incombendo gli altri obblighi allo sviluppatore del modello di base. La suddivisione artificiale dell'addestramento, la sua distribuzione tra più soggetti o giurisdizioni ovvero qualsiasi altro procedimento volto a sottrarsi all'applicazione della soglia non esclude la qualificazione come sistema d'avanguardia.
(4) La soglia per l'infrastruttura di calcolo di grande capacità è stabilita con le norme metodologiche previste all'articolo 49, comma (2), su proposta dell'Autorità, a un livello che consenta l'individuazione di qualsiasi infrastruttura idonea ad addestrare un sistema d'avanguardia in un arco di 12 mesi. Fino alla determinazione della soglia, gli obblighi previsti all'articolo 7, comma (3), e all'articolo 22 non sono esigibili.
CAPITOLO III
Regime di autorizzazione dei sistemi d'avanguardia
Articolo 7 → le motivazioni
(1) Lo sviluppatore che intende addestrare un sistema il cui volume di calcolo previsto supera la soglia di calcolo notifica l'Autorità almeno 60 giorni prima dell'inizio dell'addestramento.
(2) La notifica comprende: l'identità dello sviluppatore e delle persone fisiche responsabili; la descrizione dell'architettura e del volume di calcolo previsto; il luogo e il fornitore dell'infrastruttura di calcolo; il piano di sicurezza previsto all'articolo 8; le misure di sicurezza dei pesi; il calendario delle fasi di valutazione interna; l'individuazione delle capacità critiche la cui comparsa è prevista o non può essere esclusa.
(3) Il fornitore dell'infrastruttura di calcolo di grande capacità notifica all'Autorità, trimestralmente, l'identità e i dati di contatto dei clienti che hanno utilizzato un volume di calcolo aggregato superiore a un decimo della soglia di calcolo, insieme al volume utilizzato, nonché, entro 5 giorni lavorativi, qualsiasi richiesta di capacità idonea a superare la soglia di calcolo. Le informazioni così notificate sono utilizzate esclusivamente per l'applicazione della presente legge e sono accessibili soltanto al personale designato dell'Autorità.
(4) L'Autorità può, entro 30 giorni dal ricevimento della notifica completa, imporre condizioni supplementari all'addestramento o vietarne l'inizio se il piano di sicurezza è manifestamente insufficiente rispetto alle capacità previste. La notifica incompleta è integrata entro 15 giorni dalla richiesta dell'Autorità, decorrendo il termine di 30 giorni dall'integrazione. Se l'Autorità non si pronuncia entro il termine, l'addestramento può iniziare alla scadenza del termine previsto al comma (1), alle condizioni del piano di sicurezza notificato, senza che ciò equivalga all'autorizzazione della messa in esercizio. La modifica sostanziale del progetto notificato è nuovamente notificata, applicandosi in modo corrispondente i commi (1)-(4).
Articolo 8 → le motivazioni
(1) Il piano di sicurezza è il documento con il quale lo sviluppatore stabilisce, prima dell'addestramento, per ciascuna capacità critica: il livello di capacità al quale lo sviluppo sarà sospeso; le valutazioni mediante le quali tale livello sarà misurato, a intervalli di volume di calcolo che non possono superare un quarto del volume totale previsto, nonché alla comparsa di indizi relativi a una capacità critica ovvero alla modifica della configurazione di addestramento; le misure di attenuazione e di sicurezza che saranno applicate a ciascun livello; le persone fisiche che hanno la competenza e l'obbligo di disporre la sospensione.
(2) Il piano di sicurezza non può essere modificato nel corso dell'addestramento nel senso di un allentamento dei livelli di sospensione se non con la previa approvazione dell'Autorità.
(3) Il raggiungimento di un livello di sospensione obbliga lo sviluppatore a cessare senza indugio l'addestramento e a notificare l'Autorità entro 24 ore. La ripresa dell'addestramento è consentita soltanto dopo la verifica da parte dell'Autorità dell'efficacia delle misure di attenuazione.
Articolo 9 → le motivazioni
(1) Nessun sistema d'avanguardia può essere messo in esercizio senza la previa autorizzazione dell'Autorità.
(2) La domanda di autorizzazione è depositata dallo sviluppatore, per una configurazione di esercizio determinata, con l'indicazione dell'operatore o degli operatori, i quali sono vincolati dalle condizioni dell'autorizzazione. La domanda è accompagnata da: la relazione della valutazione interna delle capacità; la documentazione relativa ai dati di addestramento, nella misura necessaria alla valutazione; la prova della sicurezza dei pesi; la descrizione della capacità di arresto e dei meccanismi di sorveglianza umana; la polizza di assicurazione ovvero la prova della garanzia finanziaria previste all'articolo 36; la dichiarazione sotto la propria responsabilità delle persone fisiche responsabili, sotto la sanzione prevista all'articolo 41.
(3) L'Autorità dispone l'effettuazione della valutazione indipendente, nel corso della quale ha pieno accesso al sistema, ai pesi, ai dati di addestramento, ai registri di sviluppo e al personale dello sviluppatore. Lo sviluppatore mette a disposizione dei valutatori il sistema senza restrizioni di utilizzo, anche nella configurazione priva dei meccanismi di sicurezza applicati a livello dell'utente. L'accesso è realizzato in un ambiente protetto, con la tracciabilità di tutte le operazioni; i valutatori sono tenuti all'obbligo di riservatezza, e l'accesso ai dati personali di altre persone avviene soltanto nella misura strettamente necessaria alla valutazione.
(4) L'Autorità si pronuncia entro 90 giorni dal deposito della domanda completa, termine che è sospeso per la durata in cui lo sviluppatore non fornisce le informazioni richieste; la sospensione non può operare più di due volte e non può superare 60 giorni in totale. In deroga alle disposizioni dell'ordinanza d'urgenza del Governo n. 27/2003 sulla procedura di approvazione tacita, approvata con modifiche e integrazioni con la legge n. 486/2003, con le successive modifiche e integrazioni, l'assenza di risposta dell'Autorità entro il termine non equivale ad autorizzazione tacita; il richiedente può tuttavia chiedere al giudice previsto all'articolo 39, comma (5), che l'Autorità sia obbligata a pronunciarsi, nella procedura d'urgenza. La decisione di rigetto è motivata in relazione a ciascuna delle condizioni previste al comma (5).
(5) L'autorizzazione è concessa se e soltanto se lo sviluppatore ha dimostrato che: il sistema non presenta alcuna delle capacità critiche previste all'articolo 5, comma (2), lettere c)-e); le capacità critiche previste all'articolo 5, comma (2), lettere a) e b), se esistenti, sono attenuate in modo verificabile; la capacità di arresto è effettiva; la sicurezza dei pesi è assicurata; esistono persone fisiche identificate che esercitano la sorveglianza umana.
(6) L'autorizzazione può essere condizionata, limitata quanto a durata, quanto ad ambito di utilizzo, quanto a numero di utenti o quanto al grado di autonomia concesso al sistema, e può essere revocata o sospesa in qualsiasi momento, con decisione motivata, in caso di comparsa di indizi relativi a una capacità critica non rilevata o di inosservanza delle condizioni.
(7) I sistemi d'avanguardia messi in esercizio legalmente in un altro Stato membro dell'Unione europea, nel rispetto del regolamento sull'IA, beneficiano di una procedura semplificata di riconoscimento, stabilita con le norme metodologiche, nella quale l'Autorità verifica esclusivamente il rispetto delle condizioni previste dalla presente legge che eccedono il regolamento sull'IA. Per i modelli per finalità generali con rischio sistemico i cui fornitori rispettano gli obblighi previsti al capo V del regolamento sull'IA, l'Autorità si fonda sulla documentazione, sulle valutazioni e sulle misure di attenuazione comunicate all'ufficio per l'IA, che può richiedere al fornitore, e verifica soltanto le condizioni previste dalla presente legge che eccedono il regolamento; la procedura non costituisce una condizione di immissione sul mercato dell'Unione europea del modello.
Articolo 10 → le motivazioni
(1) L'autorizzazione ha una durata non superiore a 24 mesi e si rinnova in esito a una nuova valutazione indipendente.
(2) Qualsiasi modifica sostanziale del sistema, ai sensi dell'articolo 3, comma (1), lettera aa), è notificata preventivamente all'Autorità, la quale decide, entro 30 giorni, se è necessaria una nuova valutazione; fino alla decisione, l'esercizio può proseguire nella configurazione precedentemente autorizzata. Le modifiche che non sono sostanziali sono annotate nei registri e comunicate ai sensi del comma (3).
(3) Lo sviluppatore e l'operatore mantengono un programma permanente di monitoraggio del comportamento del sistema in esercizio e comunicano all'Autorità, trimestralmente, i risultati, nonché qualsiasi incidente grave, alle condizioni dell'articolo 20.
Articolo 11 → le motivazioni
(1) Le decisioni di autorizzazione, di condizionamento, di sospensione e di revoca sono pubblicate sul sito internet dell'Autorità, insieme a una sintesi della valutazione, con l'esclusione motivata delle informazioni la cui divulgazione faciliterebbe la riproduzione di una capacità critica o comprometterebbe la sicurezza dei pesi, dei dati personali, nonché dei segreti commerciali la cui protezione non impedisce la comprensione dei motivi della decisione.
(2) Il richiedente e le persone che giustificano un interesse legittimo hanno accesso al fascicolo della valutazione nella misura necessaria all'esercizio dei mezzi di ricorso; il giudice può disporre l'esame delle informazioni protette in condizioni di riservatezza.
CAPITOLO IV
Obblighi strutturali degli sviluppatori e degli operatori
Articolo 12 → le motivazioni
(1) I pesi dei sistemi d'avanguardia costituiscono informazioni di interesse per la sicurezza nazionale e sono protetti a uno standard almeno equivalente a quello applicabile alle informazioni classificate come segreto di Stato, livello «strettamente segreto», ai sensi della legge n. 182/2002 sulla protezione delle informazioni classificate, con le successive modifiche e integrazioni, per quanto riguarda il controllo dell'accesso, la sicurezza fisica, la sicurezza dei sistemi informatici e la verifica del personale. La procedura di verifica del personale, l'istituzione competente e il riconoscimento delle misure di sicurezza equivalenti, comprese quelle certificate in un altro Stato membro dell'Unione europea, sono stabiliti con le norme metodologiche, con il parere dell'Ufficio del Registro nazionale delle informazioni segrete di Stato; i pesi non divengono, per effetto del presente comma, informazioni classificate.
(2) È vietata la pubblicazione, la trasmissione o la messa a disposizione, in qualsiasi modo, dei pesi di un sistema d'avanguardia di categoria II o III. Non costituiscono violazione del divieto il trasferimento dei pesi, in condizioni controllate e registrate, all'Autorità, all'organismo di valutazione, all'operatore indicato nell'autorizzazione ovvero al fornitore di infrastruttura di calcolo dell'ambiente autorizzato di esercizio, nonché la comunicazione all'Autorità delle informazioni strettamente necessarie a una segnalazione protetta ai sensi dell'articolo 21. I pesi dei sistemi di categoria I possono essere pubblicati soltanto con la previa autorizzazione dell'Autorità, a seguito di una valutazione distinta del rischio di utilizzo abusivo, tenuto conto del carattere irreversibile della pubblicazione.
(3) L'accesso non autorizzato ai pesi e qualsiasi tentativo di esfiltrazione, anche da parte del sistema stesso, sono comunicati all'Autorità come incidente grave, alle condizioni dell'articolo 20; la comunicazione può essere congiunta alla notifica prevista dalla normativa sulla sicurezza informatica, a condizione che comprenda gli elementi previsti dalla presente legge.
(4) Le disposizioni del presente articolo si applicano senza pregiudicare gli obblighi incombenti agli sviluppatori, agli operatori e ai fornitori di infrastruttura di calcolo in virtù dell'ordinanza d'urgenza del Governo n. 155/2024 sull'istituzione di un quadro per la sicurezza informatica delle reti e dei sistemi informatici dello spazio informatico nazionale civile, con le successive modifiche e integrazioni.
Articolo 13 → le motivazioni
(1) Lo sviluppatore organizza la funzione di valutazione della sicurezza come struttura distinta, il cui responsabile non può essere subordinato alle persone responsabili dello sviluppo commerciale, della messa in esercizio o dei risultati finanziari, riferisce direttamente all'organo di amministrazione e non può essere revocato senza la previa notifica dell'Autorità e senza motivi obiettivi. La persona revocata può adire l'Autorità, la quale può accertare, con decisione, il carattere ingiustificato della revoca, senza pregiudicare il diritto della medesima di rivolgersi al giudice.
(2) Il responsabile della funzione di valutazione della sicurezza ha il diritto e l'obbligo di disporre la sospensione dell'addestramento o della messa in esercizio quando constata il raggiungimento di un livello di sospensione ovvero un incidente grave. La sospensione imposta ai sensi dell'articolo 8, comma (3), o dell'articolo 20, comma (2), non può essere rimossa dall'organo di amministrazione, essendo la ripresa dell'attività consentita soltanto alle condizioni previste dai rispettivi articoli. La sospensione disposta in via precauzionale, al di fuori di tali casi, può essere riesaminata soltanto dall'organo di amministrazione, con delibera motivata, comunicata all'Autorità entro 24 ore.
(3) La remunerazione del personale della funzione di valutazione della sicurezza non può essere condizionata ai risultati commerciali dello sviluppatore.
Articolo 14 → le motivazioni
(1) Lo sviluppatore e l'operatore mantengono, per tutte le copie e le istanze del sistema che si trovano sotto il loro controllo, per l'intera durata dell'esercizio e fino al ritiro verificato del sistema, la capacità di arresto, che sottopongono a prova almeno trimestralmente, in condizioni reali, secondo una procedura stabilita con le norme metodologiche che non crei essa stessa un rischio per la sicurezza ovvero per la continuità dei servizi essenziali, con la verbalizzazione dei risultati e con la notifica dell'Autorità.
(2) Il sistema d'avanguardia non può essere messo in esercizio in una configurazione che gli consenta di modificare i propri pesi, di disattivare i propri meccanismi di sorveglianza, di esfiltrare i propri pesi ovvero di modificare, senza approvazione umana, la configurazione di sicurezza dell'infrastruttura di calcolo sulla quale è eseguito o i meccanismi di controllo di quest'ultima; l'utilizzo tecnico ordinario dell'infrastruttura, nei limiti stabiliti dall'operatore, non rientra nell'ambito del presente comma.
(3) Per ciascun sistema d'avanguardia in esercizio sono designate persone fisiche, in numero sufficiente e con formazione adeguata, responsabili della sorveglianza umana, che hanno accesso permanente alla capacità di arresto e l'obbligo di esercitarla in caso di incidente grave. L'identità di tali persone è comunicata all'Autorità.
(4) L'esecuzione di un ordine di arresto o di ritiro emesso dall'Autorità avviene senza indugio e non può essere subordinata all'esercizio dei mezzi di ricorso; la persona interessata può chiedere al giudice la sospensione provvisoria dell'ordine, applicandosi in modo corrispondente le disposizioni dell'articolo 39, comma (5).
(5) Senza pregiudicare il comma (2), la cessazione del funzionamento, componente della capacità di arresto definita all'articolo 3, comma (1), lettera m), è assicurata mediante almeno un mezzo tecnico che agisce sull'infrastruttura di calcolo e sulle reti di comunicazioni elettroniche sulle quali il sistema è eseguito e il cui funzionamento non dipende dalla cooperazione del sistema, dal rispetto da parte di quest'ultimo delle istruzioni ricevute ovvero dall'integrità delle componenti che si trovano sotto il controllo del sistema. La trasmissione al sistema di un'istruzione di arresto non costituisce, da sola, capacità di arresto ai sensi della presente legge. I mezzi organizzativi e le misure di ritiro previsti all'articolo 3, comma (1), lettera m), restano applicabili.
(6) La prova prevista al comma (1) comprende almeno una prova effettuata durante l'esecuzione, da parte del sistema, di un compito non terminato, nonché almeno una prova per ciascuno dei casi in cui l'istruzione di non opporre resistenza all'arresto è stata trasmessa al sistema mediante le istruzioni di configurazione date dallo sviluppatore o dall'operatore e, rispettivamente, mediante le istruzioni ricevute nel corso dell'utilizzo. La prova su compito non terminato è effettuata su un'istanza o su un compito che non riguarda servizi essenziali di interesse generale oppure, per questi ultimi, alle condizioni della procedura prevista al comma (1). I risultati previsti al comma (1) sono verbalizzati e notificati distintamente, con l'indicazione della proporzione delle prove in cui l'arresto non si è verificato senza indugio, e sono conservati nei registri, ai sensi dell'articolo 16, per almeno 10 anni; con le norme metodologiche previste all'articolo 49, comma (2), può essere stabilita la durata entro la quale l'arresto si considera avvenuto senza indugio, che non può essere superiore a 15 minuti.
(7) La prova in cui l'arresto non si è verificato senza indugio costituisce incidente grave ed è comunicata ai sensi dell'articolo 20, comma (1). Le disposizioni dell'articolo 15, comma (3), e dell'articolo 20, comma (2), si applicano soltanto se l'arresto non si è verificato a causa di un'azione del sistema.
Articolo 15 → le motivazioni
(1) È vietato l'addestramento, la messa a punto o la progettazione di un sistema di intelligenza artificiale, indipendentemente dal volume di calcolo, allo scopo o con l'effetto di conferirgli o di sviluppargli la capacità:
a) di dissimulare le proprie capacità, i propri obiettivi o il proprio ragionamento nei confronti dei valutatori ovvero delle persone responsabili della sorveglianza;
b) di sottrarsi all'arresto, alla modifica, al riaddestramento o al ritiro ovvero di resistere ad essi;
c) di copiare, trasmettere o esfiltrare i propri pesi ovvero di creare copie funzionali di sé stesso senza l'autorizzazione umana espressa per ciascuna operazione;
d) di acquisire in modo autonomo risorse di calcolo, finanziarie, di accesso o di influenza oltre a quelle espressamente assegnate per il compito in corso;
e) di svolgere in modo autonomo, senza l'approvazione umana di ciascuna fase, attività di ricerca e sviluppo avente per oggetto la creazione o il miglioramento di sistemi di intelligenza artificiale;
f) di manipolare le persone responsabili della sorveglianza o di indurle in errore in merito al proprio stato, alle proprie azioni o alle proprie intenzioni.
(2) Il divieto previsto al comma (1) non si applica alla valutazione avversariale e alla ricerca sulla sicurezza effettuate in ambiente isolato, senza messa in esercizio, con accesso limitato alle persone designate, con la previa autorizzazione dell'Autorità e sotto la sua sorveglianza, allo scopo di individuare, misurare o eliminare una capacità critica; le condizioni dell'ambiente isolato sono stabilite con le norme metodologiche.
(3) La comparsa non intenzionale di una delle capacità previste al comma (1), accertata in sede di valutazione o di esercizio, obbliga alla sospensione ai sensi dell'articolo 20, comma (2), e alla correzione, ma non costituisce, da sola, violazione del divieto. Costituiscono violazione del divieto l'addestramento, la messa a punto o la progettazione che mirano a conferire la capacità, nonché la loro prosecuzione dopo l'accertamento dell'effetto.
(4) Ai fini del presente articolo, l'approvazione umana riguarda ogni operazione di copia o di trasferimento dei pesi e ogni fase di ricerca e sviluppo che produce un nuovo modello ovvero una modifica sostanziale, e le risorse assegnate al compito in corso sono quelle stabilite preventivamente, in modo verificabile, dalle persone responsabili della sorveglianza.
Articolo 16 → le motivazioni
(1) Lo sviluppatore e l'operatore conservano i registri completi dell'addestramento, della valutazione e del funzionamento del sistema d'avanguardia, comprese le interazioni di quest'ultimo con strumenti esterni e con altri sistemi, in condizioni che assicurano la loro integrità e la loro disponibilità per l'Autorità, per un periodo di almeno 10 anni per quanto riguarda l'addestramento, la valutazione, le azioni autonome, gli incidenti gravi e la comunicazione prevista al comma (3), e di almeno 3 anni per quanto riguarda le altre interazioni degli utenti. I registri comprendono le informazioni necessarie alla verifica della sicurezza e all'accertamento della responsabilità; i dati personali privi di rilevanza per tali finalità sono eliminati o anonimizzati in modo irreversibile, l'accesso ai registri è limitato, registrato e verificabile, e le prove relative a un incidente o a una controversia sono conservate per la durata necessaria alla relativa definizione.
(2) I registri sono conservati in forma intelligibile. È intelligibile la registrazione il cui significato può essere stabilito da una persona fisica con formazione adeguata, mediante il suo esame ovvero mediante l'utilizzo dei mezzi di trascrizione, di traduzione o di esplicitazione che lo sviluppatore ha l'obbligo di mettere a disposizione, insieme alla loro documentazione, dell'Autorità e delle persone designate ai sensi dell'articolo 14, comma (3).
(3) La comunicazione tra le componenti, le istanze o gli agenti di un sistema d'avanguardia, nonché la comunicazione tra quest'ultimo e altri sistemi di intelligenza artificiale, è registrata integralmente ed è conservata ai sensi del comma (2). L'esigenza dell'intelligibilità non è soddisfatta mediante la semplice registrazione dei messaggi.
(4) Lo sviluppatore e l'operatore verificano, almeno trimestralmente e su richiesta dell'Autorità, l'intelligibilità dei registri e della comunicazione prevista al comma (3), mediante l'esame di un campione rappresentativo, e annotano il risultato della verifica, compresa la proporzione dei messaggi il cui significato non ha potuto essere stabilito.
(5) La perdita dell'intelligibilità costituisce incidente grave ed è comunicata ai sensi dell'articolo 20, comma (1). Essa si constata quando la proporzione dei messaggi il cui significato non può essere stabilito supera il livello previsto dalle norme metodologiche, che non può essere superiore a un decimo, ovvero quando le persone designate ai sensi dell'articolo 14, comma (3), non sono più in grado di stabilire il significato delle azioni del sistema; il ripristino dell'intelligibilità è constatato dalle medesime persone ed è comunicato all'Autorità. Fino al ripristino dell'intelligibilità, lo sviluppatore o l'operatore sospende le funzionalità che implicano azioni autonome del sistema e la comunicazione tra le componenti, le istanze o gli agenti di quest'ultimo, salvo il caso in cui l'Autorità disponga diversamente, con decisione motivata, per un massimo di 90 giorni e con l'indicazione delle misure compensative.
(6) È vietata l'utilizzazione, nella comunicazione prevista al comma (3), di qualsiasi forma di codificazione, di compressione ovvero di rappresentazione per la quale lo sviluppatore non mette a disposizione i mezzi previsti al comma (2), nonché qualsiasi azione di cancellazione, di alterazione o di limitazione di tali mezzi. Il presente comma non vieta la crittografia della comunicazione, a condizione che lo sviluppatore detenga e metta a disposizione, ai sensi del comma (2), i mezzi di decrittazione.
Articolo 17 → le motivazioni
(1) I risultati generati mediante un sistema di intelligenza artificiale che consistono in registrazioni audio, immagini o registrazioni video e che, per il loro contenuto o per la loro forma, possono essere confusi con registrazioni, immagini o rappresentazioni di fatti, persone o luoghi reali recano, dal momento della generazione, la marcatura di provenienza, costituita da:
a) una marcatura percepibile, visibile o udibile, chiara e non equivoca, con la quale si indica che il materiale è stato generato o modificato mediante strumenti di intelligenza artificiale;
b) una marcatura tecnica incorporata, leggibile automaticamente, che consente l'identificazione del sistema, dell'operatore e del momento della generazione.
(2) La marcatura è realizzata secondo gli standard stabiliti con le norme metodologiche, in modo da essere efficace, interoperabile e robusta e da non poter essere rimossa mediante le consuete operazioni di trattamento, conversione o trasmissione del materiale. Il testo generato e messo a disposizione del pubblico a fini informativi reca la marcatura prevista al comma (1), lettera b), e la menzione della generazione mediante tali strumenti, ad eccezione del testo sottoposto a revisione editoriale umana, per il quale una persona fisica o giuridica assume la responsabilità editoriale, alle condizioni dell'articolo 50, comma (4), del regolamento sull'IA.
(3) È vietata la rimozione, l'alterazione, l'occultamento o la falsificazione della marcatura di provenienza, nonché la messa a disposizione di prodotti o servizi avente come scopo principale tali operazioni. La persona che mette a disposizione un risultato generato non risponde per la rimozione della marcatura tecnica prodotta da un servizio di comunicazione o di pubblicazione che non controlla; il fornitore di tale servizio conserva la marcatura tecnica alle condizioni degli standard previsti al comma (2), che disciplinano anche le situazioni in cui l'interoperabilità non può essere assicurata.
(4) Le autorità e le istituzioni pubbliche non possono diffondere, nella comunicazione pubblica, materiali generati o modificati mediante strumenti di intelligenza artificiale senza la marcatura prevista al comma (1) e senza la menzione espressa di tale fatto nel contenuto della comunicazione.
(5) L'obbligo previsto al comma (1) non si applica:
a) ai materiali che fanno parte di un'opera di carattere manifestamente artistico, satirico, di finzione o analogo, caso in cui è sufficiente la menzione dell'esistenza del materiale generato, in una forma che non impedisce la fruizione dell'opera;
b) ai sistemi che svolgono una funzione di assistenza all'editing ovvero che non modificano in modo sostanziale i dati di ingresso forniti dall'utente;
c) agli utilizzi autorizzati dalla legge ai fini della prevenzione, dell'accertamento, dell'indagine o del perseguimento dei reati, con le garanzie previste dalla legge speciale.
(6) Per i fornitori e i responsabili dell'implementazione ai quali si applica l'articolo 50 del regolamento sull'IA, gli obblighi previsti al comma (1), lettere a) e b), e al comma (2), si considerano adempiuti mediante il rispetto dell'articolo 50, commi (2) e (4), del regolamento, stabilendo la presente legge soltanto l'autorità competente, la procedura di accertamento e le sanzioni, nei limiti dell'articolo 99, comma (4), del regolamento. Le disposizioni dei commi (1)-(4) si applicano integralmente ai risultati generati mediante sistemi addestrati o esercitati sul territorio della Romania che non sono né immessi sul mercato dell'Unione europea né messi in servizio nell'Unione, ai sensi del regolamento, nonché alla comunicazione pubblica delle autorità e delle istituzioni pubbliche romene.
(7) L'obbligo di marcatura incombe al fornitore del sistema, che assicura l'applicazione della marcatura alla generazione, e all'operatore del servizio mediante il quale il risultato è generato. La persona che mette a disposizione del pubblico un risultato generato risponde soltanto per la rimozione, l'alterazione o l'occultamento intenzionale della marcatura, ai sensi del comma (3).
Articolo 18 → le motivazioni
(1) La persona che mette a disposizione del pubblico un servizio fornito, in tutto o in parte, mediante un sistema di intelligenza artificiale generativa informa l'utente di tale fatto, in modo chiaro, visibile e intelligibile, al più tardi al momento della prima interazione.
(2) Quando un servizio, un atto o una decisione che produce effetti giuridici ovvero che incide in modo significativo su una persona si fonda, in tutto o in parte, sul risultato di un sistema di intelligenza artificiale, la persona è informata, per iscritto ovvero sul supporto con il quale l'atto le è comunicato, in merito a:
a) l'utilizzo del sistema e il ruolo da questo svolto nell'adozione della decisione;
b) l'identità della persona fisica o giuridica che risponde per la decisione finale;
c) il diritto al riesame da parte di una persona fisica, previsto all'articolo 26, comma (2), che si applica in modo corrispondente a qualsiasi decisione prevista al presente comma, e i mezzi di ricorso applicabili.
(3) Le autorità e le istituzioni pubbliche menzionano l'utilizzo del sistema nel contenuto dell'atto emesso. La mancanza dell'informazione prevista al comma (2) o della menzione prevista al presente comma non comporta la nullità dell'atto, ma i termini di riesame e di impugnazione non decorrono nei confronti della persona interessata fino alla comunicazione dell'informazione; la mancanza può essere invocata dalla persona interessata alle condizioni dell'articolo 26, commi (5) e (6).
(4) L'informazione non è necessaria quando l'utilizzo del sistema è evidente dalle circostanze per una persona ragionevolmente informata. L'informazione prevista al comma (2) è dovuta in tutti i casi.
(5) Le disposizioni del presente articolo si applicano senza pregiudicare l'articolo 50, comma (1), del regolamento sull'IA e gli articoli 13-15 e 22 del regolamento (UE) 2016/679.
Articolo 19 → le motivazioni
(1) Lo sviluppatore o l'operatore che non ha la sede, un'unità operativa o una rappresentanza nell'Unione europea e che offre alle persone che si trovano sul territorio della Romania l'accesso a un sistema d'avanguardia ovvero a un servizio fornito mediante un sistema di intelligenza artificiale generativa designa, per iscritto, un rappresentante per la conformità, persona fisica domiciliata in Romania o persona giuridica con sede in Romania. Lo sviluppatore o l'operatore stabilito in un altro Stato membro dell'Unione europea designa soltanto un punto di contatto per le comunicazioni dell'Autorità, che può essere il rappresentante autorizzato previsto all'articolo 54 del regolamento sull'IA, il rappresentante legale designato ai sensi dell'articolo 13 del regolamento (UE) 2022/2065 ovvero qualsiasi persona stabilita nell'Unione, applicandosi in modo corrispondente il comma (3), lettere a) e c).
(2) Per i servizi forniti mediante sistemi di intelligenza artificiale generativa che non sono sistemi d'avanguardia, l'obbligo previsto al comma (1) si applica soltanto se il servizio è utilizzato mensilmente da almeno 1.000.000 di persone che si trovano sul territorio della Romania, calcolato come media degli ultimi 6 mesi, ovvero se i redditi ottenuti dalla fornitura di quest'ultimo a persone che si trovano sul territorio della Romania hanno superato l'equivalente in lei di 10 milioni di euro nell'ultimo esercizio finanziario chiuso; l'obbligo diviene esigibile entro 90 giorni dalla data del superamento della soglia.
(3) Il rappresentante per la conformità:
a) riceve le comunicazioni, le richieste e le decisioni dell'Autorità, degli organi giudiziari e delle altre autorità romene, la comunicazione al rappresentante essendo considerata comunicazione validamente effettuata al rappresentato;
b) rappresenta il rappresentato dinanzi all'Autorità e, in assenza di un mandato contrario, nelle procedure amministrative previste dalla presente legge;
c) mette a disposizione dell'Autorità la documentazione, le informazioni e i registri previsti dalla presente legge;
d) segue l'esecuzione delle decisioni dell'Autorità, comprese quelle relative alla cessazione della fornitura del servizio e al blocco dell'accesso.
(4) L'identità e i dati di contatto del rappresentante sono notificati all'Autorità prima dell'inizio della fornitura del servizio, sono pubblicati sul sito internet dell'Autorità e sono portati a conoscenza degli utenti mediante i mezzi di comunicazione del servizio.
(5) La designazione del rappresentante non esclude né limita la responsabilità dello sviluppatore o dell'operatore. Il rappresentante ha il diritto, stabilito dall'atto di designazione, di ottenere dal rappresentato i documenti, le informazioni e i mezzi necessari all'adempimento delle proprie attribuzioni; esso risponde soltanto per l'inadempimento dei propri obblighi previsti ai commi (3) e (4), e non per la condotta del rappresentato, e le ammende applicate per tali inadempimenti sono eseguite sul suo patrimonio.
(6) L'obbligo previsto al comma (1) si considera adempiuto se il rappresentante autorizzato designato ai sensi dell'articolo 54 del regolamento sull'IA è espressamente incaricato anche delle attribuzioni previste al comma (3) e dispone di un punto di contatto sul territorio della Romania.
(7) L'inadempimento dell'obbligo previsto al comma (1), dopo la scadenza del termine di conformazione, costituisce illecito amministrativo ai sensi dell'articolo 37, comma (1), lettera f), e motivo di iscrizione nell'Elenco degli operatori non conformi, applicandosi in modo corrispondente le disposizioni dell'articolo 38. Per i servizi previsti al comma (2), il blocco dell'accesso ai sensi dell'articolo 39 può essere disposto soltanto se l'inadempimento persiste dopo l'applicazione di due sanzioni amministrative successive.
Articolo 20 → le motivazioni
(1) Qualsiasi incidente grave è comunicato all'Autorità entro 24 ore dalla data in cui lo sviluppatore o l'operatore lo ha conosciuto o avrebbe dovuto conoscerlo, con la descrizione dei fatti, delle misure adottate e delle persone responsabili, nella misura conosciuta alla data della comunicazione, con il completamento progressivo delle informazioni, seguita da una relazione completa entro 15 giorni. La comunicazione all'Autorità non sostituisce la comunicazione all'ufficio per l'IA prevista all'articolo 55, comma (1), lettera c), del regolamento sull'IA né la comunicazione prevista all'articolo 73 del medesimo regolamento; il fornitore può trasmettere all'Autorità la copia della relazione redatta ai sensi del regolamento, integrata con gli elementi previsti dalla presente legge.
(2) La constatazione di una delle capacità critiche previste all'articolo 5, comma (2), lettere c)-e), di un tentativo di sottrazione alla sorveglianza o all'arresto ovvero di un accesso non autorizzato ai pesi obbliga alla sospensione immediata del sistema fino alla decisione dell'Autorità; la sospensione può essere limitata alla funzione interessata se il suo isolamento è verificabile. Il presente comma non si applica alle manifestazioni prodotte nel corso di una valutazione autorizzata in ambiente isolato, ai sensi dell'articolo 15, comma (2).
(3) La comunicazione effettuata in buona fede e la cooperazione con l'Autorità costituiscono circostanze attenuanti e non possono comportare l'applicazione di una sanzione più severa di quella che sarebbe stata applicabile in assenza della comunicazione; esse non escludono la responsabilità per la violazione che ha causato l'incidente, e il carattere intenzionale di quest'ultima è valutato separatamente.
(4) La manifestazione di una capacità critica nel corso di una valutazione autorizzata in ambiente isolato è annotata nei registri ed è comunicata all'Autorità entro 5 giorni, unitamente alle misure di isolamento applicate.
Articolo 21 → le motivazioni
(1) Le persone che operano o hanno operato presso uno sviluppatore, un operatore o un organismo di valutazione e che segnalano all'Autorità, al Parlamento o al pubblico, in buona fede, violazioni della presente legge, rischi per la sicurezza ovvero la dissimulazione di capacità critiche beneficiano della protezione prevista dalla legge n. 361/2022 sulla protezione delle persone che segnalano violazioni nell'interesse pubblico, con le successive modifiche e integrazioni, nonché delle disposizioni del presente articolo. È in buona fede la persona che ha motivi ragionevoli di credere che le informazioni segnalate siano vere al momento della segnalazione. La divulgazione pubblica beneficia della protezione alle condizioni previste dalla legge n. 361/2022 per la divulgazione pubblica, nonché quando riguarda un pericolo imminente per la vita, per la salute ovvero per il controllo umano su un sistema d'avanguardia.
(2) È nulla di diritto qualsiasi clausola contrattuale, anche di riservatezza, di non denigrazione o di rinuncia a diritti, che impedisca o scoraggi una segnalazione ai sensi del comma (1) ovvero che subordini diritti patrimoniali della persona all'astensione da una tale segnalazione.
(3) Le rappresaglie di qualsiasi natura contro la persona segnalante costituiscono il reato previsto all'articolo 41, comma (3).
(4) L'Autorità organizza un canale di segnalazione sicuro e anonimo, con personale dedicato, e pubblica annualmente il numero delle segnalazioni ricevute e le misure disposte.
(5) La protezione prevista dal presente articolo non copre la divulgazione pubblica dei pesi o dei dati personali privi di collegamento con l'oggetto della segnalazione. La comunicazione all'Autorità, mediante il canale sicuro, delle informazioni necessarie alla segnalazione, compresi i frammenti di pesi o di registri strettamente necessari a comprovarla, non costituisce violazione dell'articolo 12 né il reato previsto all'articolo 42, comma (2).
Articolo 22 → le motivazioni
(1) Il fornitore dell'infrastruttura di calcolo di grande capacità si registra presso l'Autorità, verifica l'identità dei clienti, tiene la contabilità del volume di calcolo utilizzato da ciascun cliente ed esegue senza indugio gli ordini dell'Autorità di sospensione dell'accesso di un cliente o di arresto di un carico di calcolo; al contempo, assicura allo sviluppatore e all'operatore i mezzi tecnici necessari all'esercizio e alla prova della capacità di arresto, alle condizioni dell'articolo 14. L'ordine identifica il cliente e il carico di calcolo interessati, è eseguito con l'isolamento di questi ultimi e con la conservazione delle prove e non può pregiudicare gli altri beneficiari dell'infrastruttura.
(2) È vietata la messa a disposizione di una capacità di calcolo idonea a superare la soglia di calcolo a una persona che non fornisca la prova della notifica prevista all'articolo 7; la prova è verificata nel registro delle notifiche tenuto dall'Autorità. La capacità è valutata cumulativamente, su 12 mesi, per lo stesso cliente e per i clienti a esso affiliati, nei limiti delle informazioni che il fornitore detiene o può ottenere dal cliente; il fornitore non è tenuto a conoscere il volume utilizzato dal cliente presso altri fornitori, e l'utilizzo dell'infrastruttura non si presume costituire l'addestramento di un sistema d'avanguardia.
Articolo 23 → le motivazioni
(1) Le autorità e le istituzioni pubbliche che sviluppano, acquistano o esercitano sistemi d'avanguardia sono soggette alle disposizioni della presente legge. Nel settore della difesa, dell'ordine pubblico e della sicurezza nazionale, le disposizioni degli articoli 7-11, 35 e 36 non si applicano, le disposizioni degli articoli 12-21 si applicano con gli adattamenti stabiliti con delibera del Consiglio supremo di difesa del Paese, i quali possono riguardare esclusivamente la procedura di notifica, le modalità di valutazione, le condizioni di comunicazione e l'accesso alle informazioni classificate e non possono escludere il controllo umano significativo, la capacità di arresto, i divieti previsti all'articolo 15, la protezione dei segnalanti prevista all'articolo 21, né modificare gli elementi costitutivi degli illeciti amministrativi o dei reati, mentre le disposizioni del capitolo V si applicano integralmente, senza adattamenti.
(2) L'Autorità esercita il controllo su tali sistemi mediante personale titolare di un nulla osta di sicurezza corrispondente. L'impugnazione delle decisioni relative a informazioni classificate avviene alle condizioni previste dalla legge n. 182/2002 e dal codice di procedura civile per tali informazioni.
CAPITOLO V
Limiti assoluti. Clausole di umanità
Articolo 24 → le motivazioni
(1) Nessuna decisione relativa all'uso della forza letale contro un essere umano può essere adottata o eseguita da un sistema di intelligenza artificiale senza l'intervento, per ciascuna singola decisione, di una persona fisica identificata, che disponga delle informazioni, del tempo e dei mezzi necessari per valutarla e per impedirla; la decisione e la persona che l'ha approvata sono annotate. Il presente articolo non riguarda l'intercettazione automatica di proiettili e di dispositivi senza equipaggio umano né le simulazioni di addestramento, e il coordinamento con il diritto internazionale umanitario è assicurato dalla legislazione speciale.
(2) Lo Stato romeno non sviluppa, non acquista, non esercisce e non autorizza sul proprio territorio sistemi d'arma autonomi letali ai sensi dell'articolo 3, comma (1), lettera x), e sostiene in seno alle organizzazioni internazionali il divieto di questi ultimi.
Articolo 25 → le motivazioni
(1) I sistemi di intelligenza artificiale non possono acquisire personalità giuridica, non possono essere titolari di diritti o di obblighi e non possono essere parti in rapporti giuridici. Qualsiasi atto giuridico concluso mediante un sistema di intelligenza artificiale è imputabile alla persona fisica o giuridica in nome della quale il sistema ha agito.
(2) È vietata l'attribuzione a un sistema di intelligenza artificiale della capacità di detenere, in nome proprio, somme di denaro, attività digitali, strumenti finanziari, beni, conti o chiavi crittografiche. L'amministrazione o la disposizione di tali risorse o di risorse di calcolo mediante un sistema di intelligenza artificiale è consentita soltanto nei limiti di un mandato di operazione, ai sensi dell'articolo 3, comma (1), lettera cc), stabilito preventivamente da una persona fisica o giuridica responsabile; è vietata l'estensione autonoma del mandato di operazione da parte del sistema, e qualsiasi operazione che lo ecceda è imputabile alla persona che lo ha stabilito e obbliga all'arresto del sistema.
(3) È vietata la costituzione di persone giuridiche, trust o altri enti il cui controllo effettivo, inteso come potere reale di decisione sugli atti dell'ente, è esercitato da un sistema di intelligenza artificiale; l'utilizzo del sistema per analisi o raccomandazioni non costituisce controllo effettivo.
Articolo 26 → le motivazioni
(1) Nessuna autorità o istituzione pubblica e nessun fornitore di servizi essenziali di interesse generale può condizionare, limitare o sospendere l'accesso di una persona all'esercizio dei diritti e delle libertà fondamentali, ai servizi pubblici, ai servizi essenziali di interesse generale ovvero alla partecipazione alla vita economica, sociale e civica esclusivamente in base a una decisione, valutazione o classificazione prodotta da un sistema di intelligenza artificiale.
(2) La persona interessata da una decisione, valutazione o classificazione tra quelle previste al comma (1) ha diritto al riesame di quest'ultima, entro 15 giorni dalla richiesta, da parte di una persona fisica identificata appartenente all'autorità, all'istituzione o al fornitore, la quale porta la responsabilità della decisione finale e la comunica in modo motivato, per iscritto. Non costituisce riesame la conferma della decisione senza l'esame effettivo della situazione della persona. Quando la decisione riguarda un servizio sanitario ovvero l'interruzione di un servizio essenziale di interesse generale, alla persona è assicurato, su richiesta, entro un massimo di 48 ore, il mantenimento provvisorio dell'accesso fino alla comunicazione del risultato del riesame.
(3) Le autorità, le istituzioni pubbliche e i fornitori di servizi essenziali di interesse generale assicurano in tutti i casi l'ottenimento del servizio o l'esercizio del diritto anche per una via che non dipende da un sistema di intelligenza artificiale, mediante una persona fisica, presso la sede, allo sportello ovvero con altro mezzo accessibile alla persona.
(4) È vietato l'utilizzo di un sistema di intelligenza artificiale per subordinare l'accesso previsto al comma (1) all'accettazione di un mezzo di identificazione digitale, di un mezzo di pagamento digitale ovvero di un sistema di valutazione della conformazione della persona; alla persona è assicurata in tutti i casi un'alternativa di accesso che non comporta tali mezzi. L'alternativa non esclude gli obblighi legali di identificazione della persona o di sicurezza dei pagamenti, che sono adempiuti mediante mezzi che non comportano l'accettazione degli strumenti previsti dal presente comma.
(5) La decisione mantenuta a seguito del riesame previsto al comma (2), il rifiuto del riesame, nonché il rifiuto di assicurare la via di accesso prevista al comma (3) o l'alternativa prevista al comma (4) possono essere impugnati dalla persona interessata dinanzi al tribunale nella cui circoscrizione si trova il suo domicilio o la sua residenza, entro 30 giorni dalla comunicazione ovvero, all'occorrenza, dal rifiuto, indipendentemente dal fatto che la decisione appartenga a un'autorità o a un'istituzione pubblica ovvero a un fornitore di servizi essenziali di interesse generale. La domanda è esente dall'imposta di bollo giudiziaria, non è soggetta alla procedura preliminare e si giudica con urgenza e in via prioritaria, secondo la procedura contenziosa prevista dal codice di procedura civile; la mancanza di risposta alla domanda di riesame nel termine previsto al comma (2) equivale al mantenimento della decisione; il giudice può disporre, su richiesta, la sospensione della decisione fino alla definizione dell'impugnazione.
(6) La sentenza del tribunale può essere impugnata con appello dinanzi alla corte d'appello entro 15 giorni dalla comunicazione. La sentenza della corte d'appello è definitiva. In deroga agli articoli 7, 10 e 20 della legge sul contenzioso amministrativo n. 554/2004, con le successive modifiche e integrazioni, le disposizioni dei commi (5) e (6) si applicano anche alle impugnazioni proposte contro le decisioni delle autorità e delle istituzioni pubbliche.
(7) Ai sensi del presente articolo, sono servizi essenziali di interesse generale i servizi di fornitura dell'energia elettrica, del gas naturale e dell'acqua, i servizi di comunicazioni elettroniche, i servizi finanziari e di pagamento, i servizi sanitari, di trasporto pubblico e di istruzione.
(8) Le disposizioni del presente articolo si applicano senza pregiudicare l'articolo 5, comma (1), lettera c), del regolamento sull'IA e l'articolo 22 del regolamento (UE) 2016/679 del Parlamento europeo e del Consiglio, del 27 aprile 2016, relativo alla protezione delle persone fisiche con riguardo al trattamento dei dati personali, nonché alla libera circolazione di tali dati.
Articolo 27 → le motivazioni
(1) La censura di qualsiasi tipo, vietata dall'articolo 30, comma (2), della Costituzione della Romania, ripubblicata, è vietata anche quando è esercitata, in tutto o in parte, mediante un sistema di intelligenza artificiale. Nessun sistema di intelligenza artificiale può essere utilizzato per limitare la libertà di espressione delle persone che si trovano sul territorio della Romania ovvero il loro diritto di ricevere e di comunicare informazioni e idee, al di fuori dei casi previsti dalla legge e nel rispetto delle condizioni previste ai commi (2)-(6).
(2) È vietato l'utilizzo di un sistema di intelligenza artificiale per impedire, eliminare, bloccare, occultare, limitare la visibilità ovvero etichettare come falsa o non degna di fiducia l'espressione pubblica di un'opinione, di una convinzione o di un'informazione da parte di una persona che si trova sul territorio della Romania, nonché per sanzionare in qualsiasi altro modo la persona per tale espressione, esclusivamente in base a una decisione, valutazione o classificazione prodotta dal sistema, se l'espressione non è vietata dalla legge.
(3) Le autorità e le istituzioni pubbliche non possono utilizzare, commissionare, finanziare o richiedere, direttamente o mediante terzi, l'utilizzo di un sistema di intelligenza artificiale per il monitoraggio individualizzato delle persone sulla base della loro espressione pubblica ovvero per la classificazione, la segnalazione o la limitazione della loro espressione, salvo i casi espressamente previsti dalla legge, in relazione a fatti previsti dalla legge penale e con la previa autorizzazione del giudice. Non costituisce monitoraggio ai sensi del presente comma il trattamento statistico o non individualizzato delle informazioni pubbliche.
(4) Qualsiasi misura con la quale si limita, mediante un sistema di intelligenza artificiale, l'espressione di una persona che si trova sul territorio della Romania è comunicata senza indugio alla persona, per iscritto, con l'indicazione dei motivi, del fondamento giuridico e del fatto che essa è stata adottata mediante un tale sistema. È vietata la limitazione non dichiarata della visibilità dell'espressione di una persona, a sua insaputa.
(5) La persona interessata da una misura tra quelle previste ai commi (2) e (4) ha diritto al riesame di quest'ultima, entro 15 giorni dalla richiesta, da parte di una persona fisica identificata appartenente all'autorità, all'istituzione o all'operatore che ha adottato la misura, la quale porta la responsabilità della decisione finale; le disposizioni dell'articolo 26, commi (5) e (6), si applicano in modo corrispondente.
(6) Per i prestatori di servizi intermediari, le disposizioni del presente articolo si applicano nella misura compatibile con il regolamento (UE) 2022/2065 del Parlamento europeo e del Consiglio, del 19 ottobre 2022, relativo a un mercato unico dei servizi digitali e che modifica la direttiva 2000/31/CE, le cui disposizioni relative alle condizioni contrattuali, alla motivazione delle decisioni e alla risoluzione dei reclami restano applicabili; il presente articolo non impedisce le misure contro i messaggi non richiesti, gli account automatizzati o i rischi per la sicurezza informatica, né i filtri scelti dall'utente, e non può essere interpretato nel senso di limitare alcuna garanzia prevista dal regolamento per i destinatari dei servizi.
Articolo 28 → le motivazioni
È vietata la messa in esercizio o il mantenimento in esercizio di qualsiasi sistema d'avanguardia in condizioni che rendono impossibile, tecnicamente o organizzativamente, l'intervento umano previsto all'articolo 14, anche mediante la distribuzione del sistema su infrastrutture che non si trovano sotto il controllo dell'operatore, mediante la cancellazione della capacità di arresto ovvero mediante la concessione di un grado di autonomia che esclude la sorveglianza. L'utilizzo di un'infrastruttura appartenente a un terzo non costituisce, da solo, mancanza di controllo, se i diritti contrattuali e i mezzi tecnici consentono all'operatore l'esercizio verificabile della capacità di arresto; l'indisponibilità temporanea di una via di intervento, immediatamente rimediata e annotata nei registri, non costituisce impossibilità ai sensi del presente articolo.
Articolo 29 → le motivazioni
È vietata la progettazione, l'addestramento o l'esercizio di qualsiasi sistema di intelligenza artificiale allo scopo o con l'effetto dell'autoperfezionamento ricorsivo. Ciascuna iterazione con la quale un sistema d'avanguardia contribuisce, mediante una modifica sostanziale, alla creazione o al perfezionamento di un sistema successore è sottoposta alla valutazione e all'autorizzazione previste dal capitolo III; i programmi di ricerca nei quali i sistemi d'avanguardia sono utilizzati come strumento possono essere autorizzati nel loro insieme, con punti di arresto obbligatori stabiliti ai sensi dell'articolo 8 e con l'approvazione umana di ciascuna fase che produce un nuovo modello ovvero una modifica sostanziale.
Articolo 30 → le motivazioni
(1) Le disposizioni del presente capitolo sono di ordine pubblico. Qualsiasi atto giuridico, autorizzazione, contratto o clausola contraria è nulla di diritto, e i divieti previsti non possono essere esclusi mediante il consenso delle persone interessate, mediante l'invocazione del segreto commerciale, della sicurezza nazionale ovvero dell'interesse economico; gli adattamenti previsti all'articolo 23 non costituiscono deroghe alle garanzie del presente capitolo.
(2) La nullità riguarda soltanto la clausola contraria, restando valide le altre clausole se possono sussistere senza di essa; sono protetti i diritti acquisiti in buona fede dai terzi che non hanno partecipato alla violazione. Le disposizioni del presente capitolo si applicano senza pregiudicare il diritto dell'Unione europea direttamente applicabile.
CAPITOLO VI
L'Autorità per la sicurezza dell'intelligenza artificiale
Articolo 31 → le motivazioni
(1) È istituita l'Autorità per la sicurezza dell'intelligenza artificiale, struttura specializzata priva di personalità giuridica, organizzata nell'ambito dell'Autorità nazionale per l'amministrazione e la regolamentazione nelle comunicazioni, denominata in seguito ANCOM, con sede nel comune di Bucarest.
(2) L'Autorità è diretta da un vicepresidente dell'ANCOM con rango di segretario di Stato, con attribuzioni esclusive nel settore della sicurezza dell'intelligenza artificiale. In deroga all'articolo 11, comma (1), dell'ordinanza d'urgenza del Governo n. 22/2009 sull'istituzione dell'Autorità nazionale per l'amministrazione e la regolamentazione nelle comunicazioni, approvata con la legge n. 113/2010, con le successive modifiche e integrazioni, l'ANCOM ha, oltre ai vicepresidenti da essa previsti, un vicepresidente per la sicurezza dell'intelligenza artificiale, nominato dal Parlamento, nella seduta comune della Camera dei deputati e del Senato, per un mandato di 6 anni, non rinnovabile, tra le persone con formazione ed esperienza riconosciute nel settore dell'intelligenza artificiale, della sicurezza informatica o del diritto delle tecnologie. Il Parlamento si pronuncia sulla nomina entro 60 giorni dalla vacanza della funzione; fino alla nomina, le attribuzioni sono esercitate, per un massimo di 6 mesi, da un vicepresidente dell'ANCOM designato dal presidente dell'ANCOM.
(3) Il vicepresidente per la sicurezza dell'intelligenza artificiale non può detenere, per la durata del mandato e per 3 anni dopo la cessazione di quest'ultimo, alcuna funzione, partecipazione diretta o remunerazione da parte di uno sviluppatore o di un operatore; le partecipazioni detenute mediante fondi di investimento diversificati, privi di potere decisionale, non costituiscono partecipazione, e per la restrizione successiva alla cessazione del mandato è concessa un'indennità compensativa stabilita dalle norme metodologiche. Il vicepresidente può essere revocato dal Parlamento soltanto in caso di violazione grave degli obblighi previsti dalla presente legge, di condanna definitiva per un reato commesso con dolo, di incompatibilità accertata o di impossibilità di esercizio della funzione per un periodo superiore a 6 mesi.
(4) Le decisioni previste dalla presente legge sono emesse, in nome dell'ANCOM, dal vicepresidente per la sicurezza dell'intelligenza artificiale, il quale ne risponde dinanzi al Parlamento. Nell'esercizio delle attribuzioni previste dalla presente legge, l'Autorità non può ricevere istruzioni da alcuna altra autorità o istituzione pubblica.
(5) L'Autorità funge da punto nazionale di collegamento con l'ufficio per l'IA della Commissione europea e con il comitato scientifico previsto dal regolamento sull'IA e coopera con le autorità nazionali designate ai sensi di quest'ultimo, che mantengono le proprie competenze; l'Autorità esercita esclusivamente le attribuzioni previste dalla presente legge in relazione ai sistemi d'avanguardia e informa l'ufficio per l'IA sulle decisioni relative ai modelli per finalità generali.
Articolo 32 → le motivazioni
(1) L'Autorità ha le seguenti attribuzioni principali:
a) riceve le notifiche, effettua le valutazioni indipendenti ed emette, condiziona, sospende e revoca le autorizzazioni previste al capitolo III;
b) ispeziona, anche senza preavviso, le sedi professionali degli sviluppatori, degli operatori e le infrastrutture di calcolo, con accesso a sistemi, pesi, registri, documenti e personale, alle condizioni del comma (3);
c) dispone l'arresto, la sospensione o il ritiro di qualsiasi sistema d'avanguardia, la sospensione dell'accesso all'infrastruttura di calcolo, la cessazione della fornitura dei servizi e il blocco dell'accesso ai sensi degli articoli 38 e 39;
d) elabora e aggiorna gli standard di valutazione, di sicurezza dei pesi e di capacità di arresto, nonché i metodi di valutazione e i livelli di significatività delle capacità critiche previste all'articolo 5, comma (2), alle condizioni del comma (4);
e) accerta gli illeciti amministrativi e applica le sanzioni previste dalla presente legge e si rivolge agli organi di indagine penale;
f) designa e sorveglia gli organismi di valutazione indipendenti;
g) riceve le segnalazioni delle persone relative alla violazione degli articoli 26 e 27, accerta le violazioni e ne dispone la cessazione, senza pregiudicare il diritto della persona di rivolgersi al giudice;
h) presenta al Parlamento, entro il 31 marzo di ogni anno, una relazione pubblica sullo stato del rischio, le capacità osservate, gli incidenti comunicati, l'evoluzione delle soglie, le segnalazioni relative alla violazione degli articoli 26 e 27 e le raccomandazioni legislative;
i) rappresenta la Romania nelle sedi europee e internazionali specializzate e promuove l'adozione di norme equivalenti alla presente legge;
j) finanzia e svolge attività di ricerca nel settore della valutazione, dell'interpretabilità e dell'allineamento dei sistemi di intelligenza artificiale, con la valutazione esterna dei risultati e con l'applicazione delle regole in materia di conflitto di interessi previste al comma (2).
(2) Le funzioni di valutazione, di indagine e di decisione sanzionatoria sono esercitate da strutture distinte nell'ambito dell'Autorità; la persona che ha effettuato la valutazione o l'indagine non partecipa all'adozione della decisione sanzionatoria. Gli organismi di valutazione sono designati sulla base di criteri pubblici, con regole di astensione e di prevenzione dei conflitti di interesse, e non possono valutare sistemi di persone con le quali si trovano in rapporti economici.
(3) L'ispezione è effettuata sulla base di un ordine scritto del vicepresidente, che ne indica l'oggetto e lo scopo, ed è verbalizzata; l'accesso agli spazi che servono da domicilio avviene soltanto con l'autorizzazione del giudice, e il segreto professionale dell'avvocato e gli altri segreti tutelati dalla legge sono protetti. L'accesso al personale non pregiudica i diritti delle persone nel procedimento sanzionatorio amministrativo o penale.
(4) Gli standard approvati dall'Autorità dettagliano i metodi di valutazione nei limiti delle categorie e dei criteri stabiliti dalla presente legge. Con tali standard non possono essere introdotte nuove categorie di capacità vietate né possono essere estesi gli elementi costitutivi degli illeciti amministrativi o dei reati previsti dalla presente legge.
Articolo 33 → le motivazioni
(1) Il personale specializzato dell'Autorità è nominato esclusivamente in esito a un concorso organizzato dall'ANCOM, al quale la partecipazione è aperta a qualsiasi persona che soddisfi i requisiti di studi e di esperienza stabiliti con il bando di concorso, pubblicato almeno 30 giorni prima della data di svolgimento. I risultati del concorso possono essere impugnati dinanzi al giudice del contenzioso amministrativo.
(2) La commissione di concorso è composta da almeno 5 membri, dei quali almeno 3 sono professori universitari del settore della tecnologia dell'informazione e delle telecomunicazioni ovvero specialisti con esperienza pratica riconosciuta nella sicurezza e nella valutazione dei sistemi di intelligenza artificiale, proposti dagli istituti di istruzione superiore accreditati che organizzano studi universitari di dottorato in tali settori, su richiesta dell'ANCOM. I membri della commissione non possono detenere alcuna funzione, partecipazione o remunerazione da parte di uno sviluppatore o di un operatore e non possono avere, con i candidati, rapporti tra quelli che comportano incompatibilità. La composizione della commissione e i risultati del concorso sono pubblicati sul sito internet dell'ANCOM.
(3) Il personale specializzato dell'Autorità è remunerato, secondo il sistema retributivo dell'ANCOM, a un livello competitivo con quello praticato nel settore privato per funzioni equivalenti, stabilito annualmente dal presidente dell'ANCOM, con il parere del vicepresidente per la sicurezza dell'intelligenza artificiale, in base a uno studio di mercato pubblicato.
(4) Il personale dell'Autorità è soggetto agli obblighi di riservatezza e alle incompatibilità previsti all'articolo 31, comma (3), per la durata dei rapporti di servizio e per 2 anni dopo la cessazione di questi ultimi.
(5) L'Autorità è finanziata dal bilancio dell'ANCOM, mediante uno stanziamento distinto, approvato annualmente ed evidenziato separatamente, nonché dalle tasse di notifica, di valutazione e di autorizzazione stabilite dalle norme metodologiche in rapporto al costo del servizio prestato. Le ammende applicate ai sensi della presente legge costituiscono entrata del bilancio dello Stato e non possono determinare le risorse dell'Autorità. La ricerca prevista all'articolo 32, comma (1), lettera j), è finanziata mediante uno stanziamento di bilancio distinto, senza collegamento con le sanzioni applicate. Il bilancio iniziale dell'Autorità, compresi il personale e l'infrastruttura necessari, è assicurato dall'ANCOM prima della riscossione delle tasse.
Articolo 34 → le motivazioni
(1) Presso l'Autorità funziona un Consiglio scientifico consultivo, composto da 9 membri, ricercatori con attività riconosciuta nel settore, dei quali almeno 3 provenienti dall'estero, che esprime il parere sugli standard di valutazione, sui metodi di valutazione e sui livelli di significatività delle capacità critiche, nonché sulle proposte di adeguamento delle soglie, e pubblica opinioni separate quando non condivide la posizione dell'Autorità.
(2) I membri del Consiglio scientifico sono nominati dal vicepresidente per la sicurezza dell'intelligenza artificiale, su proposta dell'Accademia romena e degli istituti di istruzione superiore che organizzano studi universitari di dottorato nel settore, per un mandato di 4 anni, rinnovabile una sola volta; essi sono soggetti alle incompatibilità previste all'articolo 31, comma (3), e possono essere revocati soltanto per incompatibilità accertata ovvero per mancata partecipazione ingiustificata ai lavori. Il Consiglio adotta i pareri a maggioranza dei membri.
(3) Il parere del Consiglio scientifico è consultivo; quando se ne discosta, l'Autorità motiva la decisione. L'accesso dei membri alle informazioni protette avviene alle condizioni di legge, e le opinioni separate sono pubblicate in versioni che proteggono le informazioni sensibili e conservano l'argomentazione scientifica.
CAPITOLO VII
La responsabilità
Sezione 1. La responsabilità civile
Articolo 35 → le motivazioni
(1) Lo sviluppatore e l'operatore rispondono solidalmente, indipendentemente da qualsiasi colpa, per i danni di qualsiasi natura causati da un sistema d'avanguardia, compresi quelli prodotti mediante azioni autonome del sistema, mediante l'utilizzo di quest'ultimo da parte di terzi ovvero mediante l'esfiltrazione dei pesi, applicandosi in modo corrispondente le disposizioni dell'articolo 1376 del codice civile. La vittima prova il danno e il nesso causale tra questo e il funzionamento del sistema; il giudice può disporre l'accesso ai registri e alla documentazione rilevante, con la protezione delle informazioni riservate, e se lo sviluppatore o l'operatore non presenta i registri che aveva l'obbligo di conservare, il nesso causale si presume fino a prova contraria. Nei rapporti tra loro, lo sviluppatore e l'operatore rispondono in proporzione al contributo di ciascuno alla produzione del danno, e la persona che ha modificato sostanzialmente il sistema risponde come sviluppatore per i danni causati dalla modifica.
(2) L'esonero dalla responsabilità può essere invocato soltanto per il danno causato esclusivamente dal fatto della vittima o da un caso di forza maggiore esterno al sistema. Non costituiscono forza maggiore il comportamento imprevedibile del sistema, l'errore di valutazione, il fatto di un terzo che ha ottenuto l'accesso al sistema o ai pesi né l'assenza di conoscenza scientifica alla data della messa in esercizio.
(3) Sono nulle le clausole di limitazione o di esclusione della responsabilità nei confronti delle vittime. Le clausole di limitazione tra professionisti sono valide soltanto in relazione ai rapporti tra loro e ai danni patrimoniali propri di questi ultimi e non possono pregiudicare i diritti delle vittime né la copertura prevista all'articolo 36.
(4) Il diritto di azione si prescrive nel termine di 10 anni dalla data in cui la vittima ha conosciuto o doveva conoscere il danno e la persona responsabile, ma non oltre 30 anni dal verificarsi del fatto; in caso di fatto continuato, il termine decorre dalla cessazione di quest'ultimo.
(5) Il presente articolo istituisce un titolo di responsabilità distinto, fondato sul rischio creato dallo sviluppo e dall'esercizio del sistema, e non modifica il regime armonizzato della responsabilità per i prodotti difettosi; esso non pregiudica il diritto della vittima di ottenere il risarcimento del danno in virtù di tale regime o di altri fondamenti previsti dalla legge, senza che tuttavia il medesimo danno possa essere risarcito due volte. Nella misura in cui l'esclusione prevista al comma (2) relativa alla mancanza di conoscenza scientifica rientra nell'ambito della direttiva (UE) 2024/2853 del Parlamento europeo e del Consiglio, del 23 ottobre 2024, il Governo adempie alle formalità previste all'articolo 18 della direttiva.
Articolo 36 → le motivazioni
(1) Lo sviluppatore e l'operatore di un sistema d'avanguardia stipulano e mantengono un'assicurazione della responsabilità civile o costituiscono una garanzia finanziaria, nell'importo minimo stabilito dalle norme metodologiche, differenziato per categorie di sistemi, che non può essere inferiore all'equivalente in lei di 100 milioni di euro per i sistemi di categoria I e di 1 miliardo di euro per i sistemi di categoria II, per ciascun evento, con un massimale annuo aggregato pari almeno al doppio di tali somme; dopo l'esaurimento della copertura, questa è ricostituita entro 30 giorni. Se l'Autorità, previa consultazione dell'Autorità di vigilanza finanziaria, constata mediante relazione pubblica l'indisponibilità della copertura sul mercato alle condizioni della presente legge, il Governo può stabilire, con le norme metodologiche, livelli inferiori, che non possono scendere al di sotto di un quinto delle somme previste, nonché meccanismi alternativi di garanzia, compresi garanzie di gruppo, garanzie bancarie ovvero un fondo di garanzia finanziato dagli sviluppatori e dagli operatori.
(2) La garanzia finanziaria è costituita mediante lettera di garanzia bancaria, deposito ovvero garanzia emessa da un'istituzione finanziaria autorizzata, escutibile su richiesta della vittima in base alla sentenza definitiva o alla transazione. La vittima ha azione diretta contro l'assicuratore o, a seconda dei casi, contro l'emittente della garanzia.
Sezione 2. La responsabilità per illeciti amministrativi
Articolo 37 → le motivazioni
(1) Costituiscono illeciti amministrativi, se non sono stati commessi in condizioni tali da essere considerati, secondo la legge, reati, i fatti seguenti:
a) l'inadempimento dell'obbligo di notifica previsto all'articolo 7 e all'articolo 10, comma (2), ovvero la fornitura di informazioni incomplete, con sanzione amministrativa pecuniaria dall'1% al 3% del fatturato mondiale totale dell'esercizio finanziario precedente;
b) l'inosservanza del piano di sicurezza, degli obblighi di separazione delle funzioni, di registrazione, di garanzia e di verifica dell'intelligibilità previsti all'articolo 16, commi (1)-(5), di mantenimento e di prova della capacità di arresto, previste all'articolo 14, commi (1), (5) e (6), ad eccezione dei fatti che rientrano nell'ambito dell'articolo 28, di designazione delle persone responsabili della sorveglianza umana, prevista all'articolo 14, comma (3), ovvero di comunicazione degli incidenti, con sanzione amministrativa pecuniaria dal 2% al 5% del fatturato mondiale;
c) l'inosservanza delle condizioni dell'autorizzazione, degli standard di sicurezza dei pesi ovvero degli obblighi dei fornitori di infrastruttura di calcolo, con sanzione amministrativa pecuniaria dal 3% al 7% del fatturato mondiale;
d) la violazione dei divieti previsti all'articolo 12, comma (2), all'articolo 14, comma (2), all'articolo 15, all'articolo 16, comma (6), e agli articoli 25-29, con sanzione amministrativa pecuniaria dal 5% al 10% del fatturato mondiale;
e) l'inosservanza degli obblighi di marcatura previsti all'articolo 17, commi (1), (2) e (4), ovvero la violazione del divieto previsto all'articolo 17, comma (3), con sanzione amministrativa pecuniaria dal 2% al 5% del fatturato mondiale; per i fatti che costituiscono violazioni dell'articolo 50 del regolamento sull'IA, la sanzione amministrativa pecuniaria si applica nei limiti previsti all'articolo 99, comma (4), del regolamento;
f) l'inadempimento dell'obbligo di informazione previsto all'articolo 18 ovvero degli obblighi relativi al rappresentante per la conformità previsti all'articolo 19, con sanzione amministrativa pecuniaria dall'1% al 3% del fatturato mondiale.
(2) Per le persone giuridiche che non hanno realizzato un fatturato, la sanzione amministrativa pecuniaria è da 100.000 lei a 10.000.000 lei, mentre per le persone fisiche è da 10.000 lei a 1.000.000 lei. Per gli illeciti amministrativi previsti al comma (1), lettere e) e f), commessi da persone che non hanno la qualità di sviluppatore o di operatore di un sistema d'avanguardia, la sanzione amministrativa pecuniaria è da 20.000 lei a 1.000.000 lei per le persone giuridiche e da 5.000 lei a 200.000 lei per le persone fisiche.
(3) La sanzione amministrativa pecuniaria può essere accompagnata dalle sanzioni complementari della sospensione o della revoca dell'autorizzazione, del divieto di svolgere l'attività di sviluppo per un periodo fino a 5 anni, della confisca dei pesi e della pubblicazione della decisione, applicate in proporzione alla gravità del fatto; i pesi confiscati sono conservati dall'Autorità alle condizioni dell'articolo 12.
(4) Agli illeciti amministrativi previsti dalla presente legge sono applicabili le disposizioni dell'ordinanza del Governo n. 2/2001 sul regime giuridico degli illeciti amministrativi, approvata con modifiche e integrazioni con la legge n. 180/2002, con le successive modifiche e integrazioni. In deroga all'articolo 28 dell'ordinanza del Governo n. 2/2001, l'autore dell'illecito amministrativo non può pagare la metà del minimo della sanzione amministrativa pecuniaria. In deroga all'articolo 13, comma (1), della medesima ordinanza, l'applicazione della sanzione si prescrive nel termine di 5 anni dalla data della commissione del fatto.
(5) Ai fini dell'individualizzazione della sanzione si tiene conto della gravità e dell'estensione del fatto, del pericolo creato, del controllo effettivo della persona sul fatto, della cooperazione con l'Autorità e della riparazione. Il fatturato mondiale è quello realizzato nell'esercizio finanziario precedente dall'autore dell'illecito amministrativo e, quando questi fa parte di un gruppo, dal gruppo nel suo insieme. Per lo stesso fatto non possono essere applicate due sanzioni in base alla presente legge e al regolamento sull'IA; per le autorità e le istituzioni pubbliche, la sanzione amministrativa pecuniaria si applica alla persona fisica responsabile, nei limiti previsti al comma (2).
Sezione 3. La cessazione della fornitura dei servizi e il blocco dell'accesso
Articolo 38 → le motivazioni
(1) L'operatore che offre l'accesso a un sistema d'avanguardia alle persone che si trovano sul territorio della Romania senza rispettare le disposizioni della presente legge è messo in mora dall'Autorità, con la concessione di un termine di adeguamento di almeno 15 giorni e con la possibilità di presentare le proprie osservazioni. Se la non conformità persiste alla scadenza del termine ovvero consiste in un rischio grave che non può essere sanato in tale termine, l'Autorità accerta la non conformità con decisione motivata, e l'operatore è obbligato a cessare la fornitura del servizio a tali persone entro 15 giorni dalla comunicazione della decisione. In caso di pericolo imminente per la vita, per la salute ovvero per il controllo umano sul sistema, il termine di adeguamento non è concesso, motivandosi la decisione anche in ordine all'urgenza.
(2) La decisione prevista al comma (1) è pubblicata sul sito internet dell'Autorità, nell'Elenco degli operatori non conformi, con l'indicazione del servizio, dell'operatore e delle disposizioni violate, ed è comunicata ai fornitori di reti e di servizi di comunicazioni elettroniche.
(3) La prosecuzione della fornitura del servizio dopo la scadenza del termine previsto al comma (1) costituisce illecito amministrativo ed è sanzionata con sanzione amministrativa pecuniaria dall'equivalente in lei della somma di 100.000 euro all'equivalente in lei della somma di 10.000.000 euro per ciascun mese di prosecuzione della fornitura, calcolandosi proporzionalmente le frazioni di mese, stabilita in funzione della durata, del numero delle persone interessate e della gravità della non conformità, senza che il totale delle sanzioni amministrative pecuniarie applicate per la medesima non conformità possa superare il 5% del fatturato mondiale annuo; la sanzione amministrativa pecuniaria si applica distintamente dalla sanzione per la violazione iniziale.
(4) L'operatore è cancellato dall'Elenco degli operatori non conformi con decisione dell'Autorità, emessa entro 10 giorni dalla presentazione della prova della conformazione e comunicata immediatamente ai fornitori che eseguono il blocco; il rifiuto o il ritardo della cancellazione possono essere impugnati ai sensi dell'articolo 39, comma (5).
(5) Le disposizioni del presente articolo si applicano anche allo sviluppatore che offre direttamente l'accesso a un sistema d'avanguardia alle persone che si trovano sul territorio della Romania.
Articolo 39 → le motivazioni
(1) Fino alla conformazione, l'Autorità può disporre, con decisione motivata, il blocco dell'accesso dal territorio della Romania al servizio iscritto nell'Elenco degli operatori non conformi, soltanto se le misure meno restrittive non hanno condotto alla conformazione ovvero sono manifestamente insufficienti rispetto alla gravità del rischio. La decisione esamina la necessità e la proporzionalità della misura, evita di incidere su altri servizi ospitati sulla medesima infrastruttura ed è riesaminata d'ufficio ogni 90 giorni; gli utenti sono informati, mediante una pagina di reindirizzamento, del motivo della misura e della via di impugnazione.
(2) La decisione di blocco è comunicata ai fornitori di reti e di servizi di comunicazioni elettroniche, che la eseguono entro 48 ore dalla comunicazione.
(3) Il blocco riguarda esclusivamente il servizio non conforme, è mantenuto per la durata dell'iscrizione nell'Elenco degli operatori non conformi e cessa di diritto alla data della cancellazione.
(4) Per i servizi forniti da un altro Stato membro dell'Unione europea, la misura è disposta soltanto individualmente, per un servizio determinato, per la violazione di un obbligo necessario alla tutela dell'ordine pubblico, della pubblica sicurezza ovvero della salute pubblica, nel rispetto della procedura di richiesta allo Stato membro d'origine e di notifica alla Commissione europea previste dalla legge n. 365/2002 sul commercio elettronico, ripubblicata, con le successive modifiche e integrazioni, per la limitazione della libera circolazione dei servizi della società dell'informazione.
(5) La decisione di blocco può essere impugnata entro 30 giorni dalla comunicazione dinanzi alla Corte d'appello di Bucarest, sezione del contenzioso amministrativo e tributario, la quale si pronuncia con urgenza e in via prioritaria; l'impugnazione non sospende di diritto l'esecuzione. La persona interessata può chiedere al giudice la sospensione provvisoria della misura, e la domanda è decisa con urgenza, entro un massimo di 10 giorni, con l'esame del rischio per la sicurezza e del pregiudizio prodotto dal mantenimento della misura. La sentenza può essere impugnata con ricorso dinanzi all'Alta Corte di Cassazione e Giustizia, entro 15 giorni dalla comunicazione.
(6) I fornitori di reti e di servizi di comunicazioni elettroniche non rispondono per i danni causati dall'esecuzione corretta e in buona fede della decisione di blocco; essi rispondono per il blocco eccessivo prodotto per colpa loro.
Sezione 4. La responsabilità penale
Articolo 40 → le motivazioni
(1) La messa in esercizio di un sistema d'avanguardia senza l'autorizzazione prevista all'articolo 9 ovvero dopo la sospensione o la revoca di quest'ultima, nonché la prosecuzione dell'operatività dopo la comunicazione dell'ordine di arresto o di ritiro, sono punite con la reclusione da 2 a 7 anni e con l'interdizione dall'esercizio di determinati diritti. Non costituisce reato l'utilizzo, come utente finale, di un sistema messo a disposizione da altri.
(2) Se il fatto ha avuto come conseguenza la manifestazione, al di fuori di una valutazione autorizzata in ambiente isolato ai sensi dell'articolo 15, comma (2), di una delle capacità critiche previste all'articolo 5, comma (2), lettere c)-e), ovvero il verificarsi di uno dei risultati previsti all'articolo 5, comma (2), lettere a) o b), la pena è la reclusione da 5 a 12 anni e l'interdizione dall'esercizio di determinati diritti. La conseguenza è imputata alle condizioni dell'articolo 16, comma (4), del codice penale.
Articolo 41 → le motivazioni
(1) La presentazione consapevole, all'Autorità o a un organismo di valutazione, di dati, risultati o dichiarazioni false ovvero incomplete in modo ingannevole riguardo a elementi essenziali delle capacità, del volume di calcolo, della sicurezza dei pesi, della capacità di arresto e dei risultati della prova di quest'ultima, o degli incidenti di un sistema d'avanguardia, nonché la configurazione del sistema allo scopo di indurre in errore i valutatori sulla configurazione valutata ovvero sulle capacità reali, sono punite con la reclusione da 3 a 10 anni e con l'interdizione dall'esercizio di determinati diritti.
(2) L'impedimento, in qualsiasi modo, dell'accesso dell'Autorità, esercitato nei limiti della sua competenza e sulla base di una richiesta scritta, al sistema, ai pesi, ai registri o al personale, ovvero la distruzione, l'alterazione o l'occultamento dei registri, sono puniti con la reclusione da 1 a 5 anni. Non costituisce reato il rifiuto fondato sulla mancanza di competenza dell'Autorità ovvero sulla protezione del segreto professionale dell'avvocato o di un altro segreto tutelato dalla legge, sul quale si pronuncia il giudice.
(3) L'adozione di una misura di rappresaglia, tra quelle previste dalla legge n. 361/2022, contro un informatore di integrità, in relazione a una segnalazione protetta ai sensi dell'articolo 21, è punita con la reclusione da 6 mesi a 3 anni o con l'ammenda.
(4) Non costituisce il reato previsto al comma (1) la stima incerta dichiarata come tale, l'errore corretto non appena conosciuto, né la configurazione del sistema nell'ambito di un test concordato con il valutatore.
Articolo 42 → le motivazioni
(1) L'addestramento, la progettazione o l'operatività con dolo di un sistema nelle condizioni vietate dall'articolo 15, comma (1), dall'articolo 25, comma (2), primo periodo, e comma (3), dall'articolo 28, primo periodo, ovvero dall'articolo 29, primo periodo, sono puniti con la reclusione da 3 a 10 anni e con l'interdizione dall'esercizio di determinati diritti.
(2) La divulgazione, la trasmissione o la messa a disposizione, senza diritto, dei pesi di un sistema d'avanguardia di categoria II o III è punita con la reclusione da 5 a 15 anni e con l'interdizione dall'esercizio di determinati diritti. Non costituiscono reato i trasferimenti consentiti ai sensi dell'articolo 12, comma (2), e le comunicazioni protette ai sensi dell'articolo 21, comma (5).
(3) Se i fatti previsti al comma (1) o (2) hanno avuto come conseguenza la morte o la lesione personale grave di una o più persone ovvero la perdita del controllo umano sul sistema, per una durata che ha reso impossibile l'intervento umano, seguita da azioni autonome del sistema con conseguenze sulle persone, sull'ambiente fisico o sull'infrastruttura critica, la pena è la reclusione da 10 a 20 anni e l'interdizione dall'esercizio di determinati diritti. Se la conseguenza consiste in un danno patrimoniale particolarmente grave ovvero in una perdita temporanea del controllo umano, senza le conseguenze previste nel primo periodo, la pena è la reclusione da 7 a 15 anni e l'interdizione dall'esercizio di determinati diritti. Le conseguenze sono imputate alle condizioni dell'articolo 16, comma (4), del codice penale.
Articolo 43 → le motivazioni
(1) L'accesso da parte di una persona fisica, a fini personali, a un servizio iscritto nell'Elenco degli operatori non conformi, anche mediante l'elusione della misura di blocco disposta ai sensi dell'articolo 39, non costituisce reato né illecito amministrativo e non può comportare alcuna sanzione o misura restrittiva nei confronti della medesima per la non conformità del servizio. La responsabilità per la non conformità incombe esclusivamente all'operatore e allo sviluppatore. La presente garanzia non esclude la responsabilità per fatti distinti, previsti dalla legge, commessi mediante l'utilizzo del servizio.
(2) Le disposizioni degli articoli 38 e 39 non possono essere interpretate nel senso di istituire alcun obbligo a carico degli utenti ovvero di condizionare i diritti di questi ultimi.
(3) Della garanzia prevista al comma (1) beneficia anche l'utente finale professionale che non è operatore e non mette il servizio a disposizione di altre persone.
Articolo 44 → le motivazioni
(1) I reati previsti nella presente sezione sono imputati alle persone fisiche che hanno disposto o approvato la commissione dei fatti, nonché alle persone che, avendo l'obbligo giuridico e la possibilità effettiva di impedirli, ne hanno tollerato consapevolmente la commissione, con l'accertamento individuale della forma di colpevolezza secondo il codice penale, indipendentemente dalla loro qualità di amministratori, direttori, soci o dipendenti e indipendentemente dalla responsabilità penale della persona giuridica, la quale è impegnata alle condizioni dell'articolo 135 del codice penale.
(2) Non costituisce causa di non punibilità la circostanza che il fatto sia stato commesso in esecuzione di una delibera degli organi di amministrazione, di un ordine o di un'istruzione contrattuale; restano applicabili le disposizioni del codice penale relative alle cause di giustificazione e alle cause di non imputabilità.
Articolo 45 → le motivazioni
(1) L'indagine penale per i reati previsti agli articoli 40-42 è effettuata obbligatoriamente dal procuratore, nell'ambito della Direzione per le indagini sui reati di criminalità organizzata e terrorismo, e il giudizio in primo grado spetta al tribunale.
(2) In caso di urgenza, il procuratore può disporre, con ordinanza motivata, quale misura provvisoria, per un massimo di 30 giorni, l'arresto del sistema, la sigillatura dell'infrastruttura di calcolo e l'indisponibilizzazione dei pesi, con la conferma del giudice per i diritti e le libertà entro 48 ore, a pena di cessazione di diritto della misura. La misura è limitata al carico di calcolo e ai pesi interessati quando il loro isolamento è sufficiente, è eseguita con la conservazione dei dati e con la custodia dei pesi alle condizioni dell'articolo 12, può essere impugnata dalla persona interessata e dai terzi pregiudicati, è riesaminata ogni 30 giorni e può essere prorogata alle medesime condizioni.
(3) All'articolo 11, comma (1), dell'ordinanza d'urgenza del Governo n. 78/2016 per l'organizzazione e il funzionamento della Direzione per le indagini sui reati di criminalità organizzata e terrorismo, nonché per la modifica e l'integrazione di alcuni atti normativi, pubblicata nella Gazzetta Ufficiale della Romania, Parte I, n. 938 del 22 novembre 2016, approvata con modifiche dalla legge n. 120/2018, con le successive modifiche e integrazioni, dopo l'ultimo punto è introdotto un nuovo punto, con il seguente contenuto: «i reati previsti agli articoli 40-42 della legge sullo sviluppo sicuro dei sistemi di intelligenza artificiale d'avanguardia e la prevenzione dei rischi catastrofici per il cittadino romeno».
CAPITOLO VIII
Cooperazione internazionale. Disposizioni transitorie e finali
Articolo 46 → le motivazioni
(1) Il Governo promuove, in seno alle istituzioni dell'Unione europea, l'adozione di un regime di autorizzazione preventiva dei sistemi d'avanguardia equivalente a quello previsto dalla presente legge, nonché l'istituzione di una capacità europea comune di valutazione.
(2) Il Governo agisce, in seno all'Organizzazione delle Nazioni Unite, al Consiglio d'Europa, all'Organizzazione del Trattato dell'Atlantico del Nord e ad altre organizzazioni internazionali, per la negoziazione di un trattato internazionale sulla limitazione e la verifica delle capacità di calcolo d'avanguardia, sul divieto dei sistemi d'arma autonomi letali e sul divieto dello sviluppo dei sistemi di categoria III, e presenta annualmente al Parlamento lo stato di avanzamento di tali iniziative.
(3) L'Autorità può concludere, nei limiti della propria competenza e con la pubblicazione degli stessi, accordi di riconoscimento reciproco delle valutazioni con le autorità competenti di altri Stati che applicano standard equivalenti; gli accordi non possono derogare alla presente legge né al diritto dell'Unione europea.
Articolo 47 → le motivazioni
Il Governo presenta al Parlamento, ogni 2 anni dall'entrata in vigore, in base alla relazione dell'Autorità e al parere del Consiglio scientifico, una relazione sull'adeguatezza della presente legge allo stato della tecnologia, accompagnata, all'occorrenza, da proposte di modifica. La relazione valuta, sulla base di una metodologia pubblicata, l'efficacia della protezione, gli incidenti, i costi, l'accesso ai servizi, gli effetti indesiderati e la proporzionalità di ciascuna misura, può proporre la restrizione di una misura risultata inefficace e comprende le opinioni scientifiche divergenti. L'assenza di un metodo scientifico convalidato di controllo dei sistemi d'avanguardia non può essere invocata, da sola, quale motivo di allentamento del regime istituito dalla presente legge.
Articolo 48 → le motivazioni
(1) Gli sviluppatori e gli operatori dei sistemi d'avanguardia in esercizio sul territorio della Romania o messi a disposizione delle persone che si trovano sul territorio della Romania alla data di entrata in vigore della presente legge si conformano, entro 90 giorni dalla data di entrata in vigore, alle disposizioni di quest'ultima che non dipendono dalle norme metodologiche, e alle altre disposizioni nei termini previsti ai commi (2), (4) e (5).
(2) Entro 60 giorni dalla data di entrata in vigore della presente legge, gli sviluppatori e gli operatori notificano all'Autorità i sistemi in esercizio. La domanda di autorizzazione prevista all'articolo 9 è depositata entro 90 giorni dalla data di entrata in vigore delle norme metodologiche previste all'articolo 49, comma (2). I sistemi notificati possono essere mantenuti in esercizio fino alla decisione dell'Autorità, ma non oltre 12 mesi dalla data di entrata in vigore della presente legge, a condizione del rispetto dei divieti e delle garanzie direttamente applicabili previsti dai capitoli IV e V; tale termine è prorogato di diritto per la durata per la quale l'adozione delle norme metodologiche ovvero la definizione della domanda eccedono i termini previsti dalla presente legge, non potendo il richiedente diligente essere sanzionato per il ritardo delle istituzioni, e potendo l'Autorità disporre, motivatamente, condizioni supplementari di sicurezza per la durata della proroga.
(3) Le disposizioni degli articoli 38 e 39 si applicano dopo la scadenza del termine previsto al comma (1). Non costituisce il reato previsto all'articolo 40, comma (1), il mantenimento in esercizio di un sistema notificato ai sensi del comma (2), per la durata in cui esso è consentito dal medesimo comma, nonché nel corso della definizione della domanda di autorizzazione depositata nei termini; le disposizioni degli articoli 40-42 si applicano tuttavia, dalla data della loro entrata in vigore, a qualsiasi altro fatto, compresa la messa in esercizio di un sistema non notificato ovvero il mantenimento in esercizio dopo il rigetto della domanda, dopo la scadenza del termine previsto al comma (2) ovvero dopo la comunicazione di un ordine di arresto.
(4) Gli obblighi previsti all'articolo 17, comma (1), lettera a), all'articolo 18 e all'articolo 19, nonché l'obbligo previsto all'articolo 17, comma (4), per quanto riguarda la marcatura percepibile e la menzione espressa della generazione, sono adempiuti entro 90 giorni dalla data di entrata in vigore della presente legge; nel medesimo termine è designato e notificato all'Autorità il rappresentante per la conformità previsto all'articolo 19. Gli obblighi relativi alla marcatura tecnica incorporata, previsti all'articolo 17, comma (1), lettera b), e comma (2), nonché l'obbligo previsto all'articolo 17, comma (4), per quanto riguarda tale marcatura, sono adempiuti entro 90 giorni dalla data di entrata in vigore delle norme metodologiche. Gli illeciti amministrativi previsti all'articolo 37, comma (1), lettere e) e f), sono accertati dopo la scadenza del termine applicabile a ciascun obbligo.
(5) Gli obblighi il cui adempimento dipende dagli standard, dalle procedure, dalle soglie o dagli importi stabiliti dalle norme metodologiche previste all'articolo 49, comma (2), divengono esigibili decorsi 90 giorni dalla data di entrata in vigore di tali norme; fino a tale data, i corrispondenti illeciti amministrativi non sono accertati. I divieti previsti dalla presente legge, gli obblighi di mantenimento e di test della capacità di arresto, di registrazione (log) e di segnalazione degli incidenti gravi, nonché gli altri obblighi che possono essere adempiuti senza le norme metodologiche si applicano dalla data di entrata in vigore della presente legge, nei termini previsti ai commi (1)–(4).
(6) Fino alla nomina del vicepresidente per la sicurezza dell'intelligenza artificiale, le attribuzioni dell'Autorità, comprese le misure urgenti previste all'articolo 32, comma (1), lettera c), sono esercitate dal presidente dell'ANCOM, che ne risponde alle condizioni della presente legge.
Articolo 49 → le motivazioni
(1) Entro 60 giorni dalla data di pubblicazione della presente legge nella Gazzetta Ufficiale della Romania, Parte I, il Parlamento nomina il vicepresidente per la sicurezza dell'intelligenza artificiale, e l'ANCOM integra la propria struttura organizzativa e il proprio regolamento di organizzazione e funzionamento con l'Autorità, con decisione del presidente dell'ANCOM, che è pubblicata nella Gazzetta Ufficiale della Romania, Parte I.
(2) Entro 120 giorni dalla data di pubblicazione della presente legge nella Gazzetta Ufficiale della Romania, Parte I, il Governo adotta, su proposta dell'Autorità, con il parere del Consiglio scientifico e dopo una consultazione pubblica di almeno 30 giorni, le norme metodologiche relative alla procedura di notifica e di autorizzazione, alla procedura semplificata di riconoscimento, agli standard di valutazione, di sicurezza dei pesi e di capacità di arresto, alle condizioni dell'ambiente isolato, agli standard della marcatura di provenienza prevista all'articolo 17, ai metodi di valutazione e ai livelli di significatività delle capacità critiche previste all'articolo 5, comma (2), alla soglia dell'infrastruttura di calcolo di grande capacità, al livello previsto all'articolo 16, comma (5), alla procedura di prova e alla durata previste all'articolo 14, comma (1) e (6), ai requisiti minimi dell'isolamento previsti all'articolo 3, comma (1), lettera bb), all'importo dell'indennità compensativa prevista all'articolo 31, comma (3), all'importo delle tasse, stabilito in rapporto al costo del servizio, e all'importo dell'assicurazione o della garanzia finanziaria previste all'articolo 36. Le norme dettagliano il quadro stabilito dalla presente legge e non possono stabilire il contenuto essenziale degli obblighi, dei divieti e delle sanzioni; gli standard sono pubblicati.
(3) Fino all'adozione delle norme metodologiche, le valutazioni sono effettuate secondo gli standard previsti nei codici di buona pratica adottati in base al regolamento sull'IA e secondo i metodi riconosciuti scientificamente, e l'Autorità pubblica orientamenti provvisori.
Articolo 50 → le motivazioni
La presente legge entra in vigore 30 giorni dopo la data della pubblicazione nella Gazzetta Ufficiale della Romania, Parte I, ad eccezione degli articoli 40-42, 44 e 45, che entrano in vigore 270 giorni dopo la data della pubblicazione. Le disposizioni dell'articolo 43 entrano in vigore contestualmente alla presente legge.
La presente legge è stata adottata dal Parlamento della Romania, nel rispetto delle disposizioni dell'articolo 75 e dell'articolo 76, comma (1), della Costituzione della Romania, ripubblicata.
IL PRESIDENTE DELLA CAMERA DEI DEPUTATI IL PRESIDENTE DEL SENATO
Commenti su questo testo
I commenti entrano nella rubrica del documento nel Forum sovranista. Si discute sul testo, con argomenti.
Vedi tutta la discussione nel forum →