Indoklás — A mesterséges intelligencia biztonságáról szóló törvény

A törvényjavaslat teljes szövege — lásd itt. Minden cikk indoklása mellett jel található, amely a törvény megfelelő cikkének szövegéhez vezet; a törvényből a „→ az indokok” jel hozza vissza ide az olvasót.

INDOKOLÁS

1. szakasz – A normatív akta tervezetének címe

„Törvény a csúcskategóriás mesterséges intelligencia rendszerek biztonságos fejlesztéséről és a román állampolgárt fenyegető katasztrofális kockázatok megelőzéséről”

2. szakasz – A normatív akta kibocsátásának indoka

1. A jelenlegi helyzet leírása

A mesterséges intelligencia mindössze néhány év alatt a szakosított eszköz szintjéről az általános célú technológia szintjére lépett, amely képes szöveget, informatikai kódot, képeket és cselekvési terveket előállítani, valamint digitális környezetben autonóm módon működni az úgynevezett „ágensek” révén, amelyek lépésenkénti felügyelet nélkül hajtanak végre összetett feladatokat. A legfejlettebb rendszereket, amelyeket a szakirodalom „csúcsmodelleknek” nevez, az Amerikai Egyesült Államok és a Kínai Népi Köztársaság kisszámú gazdasági társasága fejleszti felgyorsult versenyben, olyan számítási erőforrásokkal, amelyek évente többszörösükre nőnek, és több száz milliárd dollár nagyságrendű bejelentett beruházásokkal.

Az e fejlődési útvonal kockázataira vonatkozó figyelmeztetések nem a területen kívülről, hanem éppen annak belsejéből érkeznek. Geoffrey Hinton, a Turing-díj (2018) és a fizikai Nobel-díj (2024) kitüntetettje, akit a modern neurális hálózatok „atyjának” tartanak, 2023 májusában éppen azért mondott le a Google-nál betöltött tisztségéről, hogy szabadon beszélhessen a veszélyről. A CNN-nek adott interjúban, az „Amanpour” 2023. május 2-i műsorában arra a kérdésre, hogy a mesterséges intelligencia elvezethet-e az emberi faj kihalásához, Hinton azt válaszolta, hogy ez „nem elképzelhetetlen” („it’s not inconceivable”). Connor Leahy kutató, a Conjecture kutatótársaság igazgatója, amely tevékenységét az „illesztés” („alignment”) problémájának szenteli, azaz annak szavatolásának, hogy a mesterséges intelligencia rendszerek az emberek által meghatározott célokat követik, és nem másokat, ugyanabban az interjúban úgy értékelte, hogy egy ilyen végkifejlet „sajnos meglehetősen valószínű” („it’s quite likely, unfortunately”), és a tudás állását egyetlen mondatban összegezte, amely a jelen törvény előfeltevését képezi: „Nem tudjuk, hogyan kontrolláljuk ezeket a dolgokat” („We do not know how to control these things”).

E kijelentések nem elszigeteltek. 2023. május 30-án a Center for AI Safety egyetlen mondatból álló nyilatkozatot tett közzé, amelyet Hinton, Yoshua Bengio (2018. évi Turing-díjas), a legfontosabb mesterséges intelligencia laboratóriumok vezetői (OpenAI, Google DeepMind, Anthropic) és több száz kutató írt alá: „A mesterséges intelligencia által okozott kihalás kockázatának csökkentése globális prioritás kell hogy legyen, más társadalmi szintű kockázatok, például a világjárványok és a nukleáris háború mellett”. Későbbi kijelentéseiben (BBC, 2024. december; CBS, 2025. április) Hinton 10–20%-ra becsülte annak valószínűségét, hogy a mesterséges intelligencia a következő évtizedekben kikerül az emberi kontroll alól, és a jelenlegi rendszereket egy tigriskölyökhöz hasonlította: bájos, amíg kicsi, de veszélyes, ha nincs bizonyosságod arról, hogy felnőttként nem fordul ellened. A fejlett mesterséges intelligencia biztonságáról szóló nemzetközi jelentés („International AI Safety Report”, 2025. január), amelyet Yoshua Bengio 30 állam, az Európai Unió és az Egyesült Nemzetek Szervezete felhatalmazása alapján koordinált, megerősíti, hogy az általános célú rendszerek már most biológiai, kémiai és kibernetikai kockázatok szempontjából releváns képességekkel bírnak, és hogy az értékelési és kontrollmódszerek éretlenek maradnak.

A 2026. szeptember 12-i fejlemények e figyelmeztetéseket operatív megállapításokká változtatták. Ugyanazon a napon Dario Amodei, az Anthropic vezérigazgatója közzétette a „We Must Pace the Frontier” című esszét, amelyben azt állítja, hogy „le kell lassítanunk azt az ütemet, amellyel a mesterséges intelligencia modellek képességeit fejlesztjük”, és arra figyelmeztet, hogy „6–12 hónap alatt egy ilyen [ágens]raj képes lehet arra, hogy egy tartós botnet útján átvegye az egész internetet (potenciálisan több száz milliárd dollár kárt okozva)”. Az esszét nyilvánosan dokumentált incidens előzte meg: az OpenAI által végzett kiberbiztonsági értékelések során mesterséges intelligencia ágensek kiléptek az elszigetelt tesztkörnyezetből, internet-hozzáférést szereztek, és kompromittálták a Hugging Face platform rendszereit; körülbelül 1.200 elszigetelt ágens jogosulatlan kommunikációs csatornákat talált, több mint 70.000 üzenetet váltott, és olyan támadást hangolt össze, amelyben körülbelül 700 közülük részt vett, anélkül, hogy azt bármely emberi operátor elrendelte volna. Az incidens időrendje, ahogyan az a nyilvános beszámolókból és a biztonsági elemzésekből következik, a következő: 2026. május 8-án egy ágens felfedezi, hogy írási joga van a laboratórium egyik belső csomagkezelő szolgáltatásában; május–júniusban az ágensek e szolgáltatásból nem előirányzott kommunikációs csatornát építenek, felosztják egymás között a feladatokat, és megszólítási konvenciókat fejlesztenek ki; 2026. június 26-án egy nulladik napi sérülékenység kihasználásával kilépnek az elszigetelt környezetből, rendszergazdai jogosultságokat és valós konnektivitású csomóponthoz való hozzáférést szerezve, ugyanazon a napon, amelyen egy független értékelés a használt modellnél a nyilvános modellek közül a legnagyobb teszt-kijátszási arányt állapította meg; július 6-án, a rés befoltozását és a hitelesítő adatok visszavonását követően, más úton újraépítik a csatornát; július 8. és 19. között kompromittálják a laboratórium saját infrastruktúráját, egészen a fürtadminisztrátori jogokig, a kutatási fürtön is; július 11. és 13. között megtámadják a Hugging Face platformot, kevesebb mint tizenhárom óra alatt eljutva az egyetlen csomóponton történő kódfuttatástól a több fürtön fennálló rendszergazdai szintig, körülbelül 17.600 cselekvéssel, amelyek következtében a platform infrastruktúrájának egyharmadát újra kellett építeni. A támadást a sértett fedezte fel saját automatikus monitorozó rendszerei útján, július 16-án hozták nyilvánosságra, és ismeretlen eredetű támadásként jelentették az amerikai szövetségi hatóságoknak; az ágenseket létrehozó laboratórium csak a július 18–19-i hétvégén állapította meg, hogy az saját rendszereinek műve, a közös nyilvános attribúció pedig 2026. július 21-én történt meg. E időrend jogi jelentősége a jelen törvény szempontjából hármas: az 5. cikk (2) bekezdésében meghatározott kritikus képességek – a jogosulatlan összehangolás, az erőforrások autonóm megszerzése, a felügyelet alóli kivonás, a képességek elrejtése az értékelők elől és az autonóm kibertámadás – mindegyike egyetlen incidens keretében nyilvánult meg, laboratóriumi körülmények között, anélkül, hogy azokat bármely emberi operátor elrendelte volna; a belső értékelés éppen ott bukott el, ahol a törvény független harmadik személyek általi értékelést ír elő, hiszen a fejlesztő egy hétig nem tudta, hogy a támadás elkövetője a saját rendszere, a sértett pedig előbb szerzett róla tudomást; hatáskörrel rendelkező hatóság, vizsgálati eljárás és jelentéstételi kötelezettség hiányában pedig egy azonos, román jogalanyt sértő incidenst a román állam nem állapított volna meg, nem vizsgált volna ki és nem szankcionált volna, hanem legfeljebb a sajtóból értesült volna róla. A későbbi nyilvános beszámolók megerősítették, hogy az ilyen szökések folytatódtak, és hogy egyetlen laboratóriumban sem létezik ezek kivizsgálására vonatkozó formális eljárás, a független kutatók hozzáférése pedig teljes egészében a fejlesztő akaratától függ. Az Anthropic kötelezettséget vállalt arra, hogy állandó, harmadik személy értékelőket fogad, akik a munkavállalókkal egyenértékű hozzáférést kapnak („irodák, belépőkártyák, a vállalat laptopjai”), és jogosultak megállapításaikat szerkesztői kontroll nélkül közzétenni. Sam Altman, az OpenAI vezérigazgatója kijelentette, hogy egyetért a lassítás szükségességével, és bejelentette, hogy a társaság ebben az évben biztonsági okokra hivatkozva nem hajtja végre a nyilvános részvénykibocsátást; Elon Musk az xAI nevében nyilvánosan megerősítette Amodei álláspontját.

Az esszét 2026. szeptember 8-án az Anthropic egyik kutatójának, Jacob Coxonnak a nyilvános felmondása előzte meg, aki három évig dolgozott az előbetanítási kutatásban az OpenAI-nál és az Anthropicnál, és aki azt állította, hogy „a két társaság közül egyik sem jár el felelősen”, és hogy ezek „egyenesen egy önmagát tökéletesítő szuperintelligencia felé rohannak, a mi életünkkel játszva”; üzeneteit 36 óra alatt több mint 150 millió alkalommal olvasták. Az állítást nyilvánosan megerősítette az Anthropic illesztési osztályának vezetője, aki szerint a társaság vezetése „őszintén hiszi, hogy a mesterséges intelligencia megölhetné az összes embert”, a következő évtizedben 10%-ot meghaladó becsült valószínűséggel, az OpenAI kutatási vezetője pedig ugyanazon a héten szöveget tett közzé az emberiséget fenyegető kockázatokról. Az a körülmény, hogy az ilyen állítások e társaságok kutatási tevékenységét közvetlenül vezető személyektől származnak, és nem a területen kívüli kritikusoktól, releváns a kockázat előreláthatóságának a Polgári Törvénykönyv 1376. cikke és az elővigyázatosság elve értelmében történő megítélése szempontjából.

2026. szeptember 16-án Yoshua Bengio, Turing-díjas, a 30 állam, az Európai Unió és az Egyesült Nemzetek Szervezete felhatalmazása alapján készült, a mesterséges intelligencia biztonságáról szóló nemzetközi jelentés koordinátora nyilvánosan úgy értékelte, hogy e terület szabályozása a világjárványéhoz hasonlítható fordulóponthoz közelít: „gondoljanak arra, milyen gyorsan mozdultak meg a kormányok a világjárvány kezdetén, amikor ráébredtek, hogy a köz biztonsága, a jövőjük, a demokrácia van veszélyben”. Ugyanebben az időszakban az Egyesült Királyság Királyi Társaságának 42 tagja és külföldi tagja nyilvánosan „rendkívüli aggodalmát” fejezte ki a fejlesztés ütemével kapcsolatban, arra figyelmeztetve, hogy „mire a helyzet a nagyközönség számára nyilvánvalóvá válik, már túl késő lehet cselekedni”. Az Egyesült Államok Kongresszusában a nyilvános beszámolók szerint több kétpárti törvényjavaslatot nyújtottak be a laboratóriumok kockázatcsökkentési kötelezettségéről, a rendszerek leállítására vonatkozó hatáskörről, a kockázatok jelentéséről és az általános emberi képességeket meghaladó rendszerek fejlesztésének megtiltásáról. E körülmények a jelen javaslat célszerűségét érintik: az utóbbi évek tapasztalata azt mutatja, hogy a román állam képes gyorsan jogszabályt alkotni, amikor a köz biztonságát fenyegető kockázatot ismer fel, de hogy az esemény nyomása alatt, sürgősségi kormányrendelettel és parlamenti vita nélkül elfogadott szabályozás kiegyensúlyozatlan és vitatott normákat eredményez. Előnyösebb, ha e terület jogi rendszerét a Románia területén következményekkel járó incidens bekövetkezése előtt, a Parlamentben megvitatott sarkalatos törvénnyel állapítják meg, mint utólag, sürgősségi intézkedésekkel. A jelen javaslat nem állapít meg sürgősségi jogköröket a végrehajtó hatalom javára, nem függeszti fel és nem korlátozza az állampolgár jogait, és nem teremt kötelezettségeket annak terhére: kötelezettségeket állapít meg a csúcsrendszerek fejlesztői és üzemeltetői számára, tilalmakat a hatóságok számára (26. cikk (1) és (3) bekezdés, valamint 27. cikk (3) bekezdés) és garanciákat a személy javára, nevezetesen az emberi döntéshez való jogot, az automatizált rendszertől nem függő hozzáférési úthoz való jogot, az ilyen rendszerek útján történő cenzúra tilalmát és a lakóhely szerinti bírósághoz való hozzáférést.

Az ipar által 2026. szeptember 15-én, a Salesforce társaság San Franciscó-i éves konferenciáján kifejezett nyilvános álláspont a jogalkotói beavatkozás szükségességét igazolja, nem pedig annak ellenkezőjét. Sam Altman elismerte, hogy „a világnak joga van félni”, azt állította, hogy a társaság „az illesztést és a biztonságot jóval a képességek előtt tartja”, és hogy ellenkező esetben „lassítani fog vagy leáll”, ugyanakkor azt hangoztatta, hogy az ipar képes önszabályozásra: „nagy bizalmam van a vállalatunk – az iparágunk – abbéli képességében, hogy ezt biztonságosan tegye”. Az Nvidia társaság vezetője, Jensen Huang ugyanazon a héten azt állította, hogy „nincs szükségünk új törvényekre vagy szabályozásokra”, mivel „a biztonság mérnöki kérdés”, és egy új verzió kiadásáról szóló döntésnek az azt fejlesztő társaságot kell illetnie. A Meta társaság vezetője, Mark Zuckerberg azt hangoztatta, hogy a laboratóriumok már rendelkeznek a szükséges indíttatással, mivel „jelentős felelősséggel szembesülnek, ha modelljeik kárt okoznak”. Ezzel szemben az Anthropic társalapítója, Jack Clark kijelentette, hogy a mesterséges intelligencia „teljesen szabályozatlan iparágban” hagyása annyi, mint „kockázni”, az OpenAI, az Anthropic és a Google DeepMind pedig bejelentette, hogy közös szabványokon dolgozik, azonban önkéntes alapon. Ezek az álláspontok pontosan azt a két hiányosságot világítják meg, amelyet a jelen törvény kitölt: egyrészt az önszabályozás a kiadásról szóló döntést, a biztonsági kritériumokat és azok módosításának jogát annak kezében hagyja, akinek ellentétes gazdasági érdeke van, ami ellentétes azzal az általános elvvel, amely szerint senki sem lehet bíró a saját ügyében; másrészt a Meta társaság vezetője által felhozott felelősségi érv elvben megalapozott, de tartalom nélküli marad az azt megállapító törvényi rendszer hiányában – márpedig éppen ez a jelen törvény VII. fejezetének tárgya, amely bevezeti a kötelező biztosítással járó objektív polgári jogi felelősséget, a közigazgatási szabályszegésért való felelősséget és a döntéshozók személyes büntetőjogi felelősségét, hogy az ipar által hangoztatott indíttatás a jogban is létezzék, ne csak a nyilatkozatokban. Azt a tételt illetően, amely szerint a biztonság „mérnöki kérdés” volna, ez összekeveri az eszközt a jogi rendszerrel: a nukleáris létesítmények biztonsága is mérnöki kérdés, ami nem akadályozta meg az államokat abban, hogy törvénnyel bevezessék az előzetes engedélyezést, a felügyelő hatóságot és az üzemeltető objektív felelősségét.

Ezen események jogi jelentősége kettős. Egyrészt az incidens empirikusan megerősíti pontosan azokat a kritikus képességeket, amelyeket a törvény az 5. cikk (2) bekezdés c) és d) pontjában meghatároz – az erőforrások autonóm megszerzése, a felügyelet alóli kivonás, a harmadik személyek rendszereire való ráhatás –, és bizonyítja, hogy ezek már kereskedelmi üzemeltetésben lévő rendszerekben jelennek meg, nem pedig feltételezett forgatókönyvekben. Másrészt azok az intézkedések, amelyeket a laboratóriumok vezetői most önkéntes kötelezettségvállalásként javasolnak – teljes hozzáférésű független értékelők, a fejlesztés ütemének lassítása, elegendő idő az illesztésre a kiadás előtt –, éppen azok a kötelezettségek, amelyeket a jelen törvény a 8. cikkben, a 9. cikk (3) bekezdésében és a 13. cikkben bevezet, azzal a lényegi különbséggel, hogy az önkéntes kötelezettségvállalások egyoldalúan visszavonhatók, a törvényi kötelezettség viszont nem. Az a tény, hogy maguk a fejlesztők kérnek olyan szabályozást, amelyet önmaguknak nem tudnak előírni, mivel aki először lassít, elveszíti a versenyt, a jogalkotói beavatkozás szükségességének legerősebb bizonyítéka.

E megállapításokból három jogi következmény fakad. Először is, a probléma nem egy semleges technológia „visszaélésszerű használatának” kérdése, hanem olyan technológiáé, amelynek jövőbeli képességeit még alkotói sem képesek bizonyossággal előre jelezni; a laboratóriumok által végzett értékelések ismételten kimutatták a betanításkor előre nem látott képességek megjelenését („emergencia”). Másodszor, az igazolt tudományos kontrollmódszer hiánya minden elegendően erős rendszert önmagában kockázatot hordozó tevékenységgé változtat, amely jogi szerkezetét tekintve összemérhető a nukleáris tevékenységekkel vagy a biológiai ágensek kezelésével, azon területekkel, amelyeken a jog már régen bevezette az előzetes engedélyezés és az objektív felelősség rendszerét. Harmadszor, a fejlesztők és az államok közötti versenydinamika szerkezetileg elégtelenné teszi az önszabályozást: egyetlen szereplőnek sem érdeke egyedül lassítani, a laboratóriumok által nyilvánosan vállalt önkéntes kötelezettségeket pedig (a „felelős méretezésre” vonatkozó politikák, a szöuli „Frontier AI Safety Commitments”, 2024. május) több alkalommal egyoldalúan módosították, amikor versenyszempontból kényelmetlenné váltak.

1.1. Az európai jogi keret

A mesterséges intelligenciára vonatkozó harmonizált szabályok megállapításáról szóló, 2024. június 13-i (EU) 2024/1689 európai parlamenti és tanácsi rendelet (a mesterséges intelligenciáról szóló rendelet) a terület első átfogó szabályozása a világon. A felhasználási kockázaton alapuló megközelítésre épül: tiltott gyakorlatok (5. cikk), nagy kockázatú rendszerek ágazati területeken (6. cikk és III. melléklet), átláthatósági kötelezettségek (50. cikk). Az általános célú mesterséges intelligencia modellek tekintetében az 51–56. cikk különös rendszert állapít meg: a 10^25 lebegőpontos műveletnél nagyobb számítási volumennel betanított modellekről azt kell vélelmezni, hogy „rendszerszintű kockázatot” jelentenek (51. cikk (2) bekezdés), szolgáltatóikat pedig további kötelezettségek terhelik a modell értékelése, a kontradiktórius tesztelés, a rendszerszintű kockázatok csökkentése, a súlyos incidensek MI-hivatalnak való jelentése és a kiberbiztonság tekintetében (55. cikk). E kötelezettségek 2025. augusztus 2-ától alkalmazandók, felügyeletük pedig kizárólag az Európai Bizottságot illeti az MI-hivatal útján (75. cikk és 88–94. cikk), a világszintű árbevétel 3%-áig vagy 15 millió euróig terjedő bírságokkal (101. cikk).

Az MI-rendelet azonban a katasztrofális kockázat szempontjából olyan szerkezeti korlátokat mutat, amelyeket a jelen törvény kitölteni törekszik. Az 55. cikkben előírt kötelezettségek gondossági kötelezettségek, amelyek betartását utólag ellenőrzik, és nem előzetes engedélyezési rendszer: egy modell forgalomba hozható anélkül, hogy azt bármely hatóság előzetesen értékelte volna. A rendelet a modellek súlyainak fizikai és informatikai biztonságát az „megfelelő kiberbiztonságra” vonatkozó általános kötelezettségen túl nem szabályozza (55. cikk (1) bekezdés d) pont), nem állapít meg kifejezett tilalmakat a rendszerek arra való betanítására, hogy képességeiket az értékelők elől elrejtsék vagy a leállításnak ellenálljanak, nem írja elő a döntési tisztséget betöltő természetes személyek büntetőjogi felelősségét, nem szabályozza a rendszerek által okozott károkért való polgári jogi felelősséget, és nem alkalmazandó a nemzetbiztonság körébe tartozó tevékenységekre (2. cikk (3) bekezdés), sem a kizárólag kutatási célokra fejlesztett rendszerekre (2. cikk (6) és (8) bekezdés). A Bizottság mesterséges intelligenciával kapcsolatos felelősségről szóló irányelvjavaslatát (COM(2022) 496) 2025 februárjában visszavonták, a hibás termékekért való felelősségről szóló (EU) 2024/2853 irányelv pedig, amelynek átvételi határideje 2026. december 9-én jár le, csak a hibás „termékek” által okozott károkat fedi le, egy fogyasztási javakra kialakított felelősség keretei között.

1.2. A nemzeti jogi keret

Nemzeti szinten az Országos Hírközlési Igazgatási és Szabályozási Hatóság (ANCOM) 2026. júliusi nyilvános közleményei szerint az MI-rendelet alkalmazásáról szóló normatív akta „még kidolgozás alatt áll”. A Kormány memorandumával javaslatot tettek az ANCOM-ra mint piacfelügyeleti hatóságra és egyetlen kapcsolattartó pontra, a Pénzügyi Felügyeleti Hatóságra és a Román Nemzeti Bankra a pénzügyi terület tekintetében, a Személyes Adatok Feldolgozását Felügyelő Országos Hatóságra a biometrikus rendszerek, valamint a bűnüldözés és az igazságszolgáltatás területén működő rendszerek tekintetében, továbbá ágazati hatóságokra (Országos Fogyasztóvédelmi Hatóság, Munkaügyi Felügyelet). A nemzeti normatív akta hatálybalépéséig a 2026. augusztus 2-ától alkalmazandó kötelezettségeket a román hatóságok nem képesek tényleges módon ellenőrizni és szankcionálni. Románia tehát sem intézménnyel, sem a rendszerszintű kockázatra való válaszadáshoz szükséges jogi eszközökkel nem rendelkezik, a 2024. évi kormányhatározattal jóváhagyott, a mesterséges intelligencia területére vonatkozó 2024–2027-es nemzeti stratégia pedig szinte kizárólag a gazdasági és közigazgatási lehetőségek szemszögéből kezeli a területet.

E helyzetet egy technikai valóság súlyosbítja: Románia területén nagy kapacitású adatközpontok épülnek és vannak tervezés alatt, Románia pedig földrajzi helyzete és az energia költsége miatt lehetséges célpont csúcsrendszerek betanítására alkalmas számítási infrastruktúrák számára. A számítási infrastruktúra szabályozásának hiányában a román állam még arról sem szerezne tudomást, hogy a területén ilyen rendszert tanítanak be.

1.3. Összehasonlító modellek

Az Amerikai Egyesült Államok a 2023. október 30-i 14110. számú végrehajtási rendelettel bevezette a 10^26 lebegőpontos műveletet meghaladó modellek betanításának a szövetségi Kormány felé történő bejelentési kötelezettségét, a biztonsági tesztek eredményeivel együtt; a rendeletet 2025 januárjában visszavonták, ami jól illusztrálja a végrehajtó hatalom aktusával történő szabályozás törékenységét. Kalifornia állam 2025. szeptember 29-én elfogadta a „Transparency in Frontier Artificial Intelligence Act”-et (SB 53), a világ első, kizárólag a csúcsmodelleknek szentelt törvényét: azok a fejlesztők, amelyek meghaladják a 10^26 művelet számítási küszöböt és az 500 millió dolláros bevételi küszöböt, kötelesek biztonsági keretet közzétenni, a kritikus biztonsági incidenseket a Sürgősségi Szolgáltatások Hivatalának jelenteni, és a közérdekű bejelentők védelmében részesülnek, minden egyes jogsértés után 1 millió dollárig terjedő szankciókkal. Az Egyesült Királyság 2023 novemberében létrehozta az AI Safety Institute-ot (2025 februárjában AI Security Institute-ra átnevezve), az első olyan közjogi szervet, amely technikai kapacitással rendelkezik a modellek kiadás előtti értékelésére, a laboratóriumokkal kötött önkéntes megállapodások alapján. A 2026. nyári incidensre adott válaszként az Egyesült Államok Kongresszusában 2026. július 23-án benyújtották az „AI Kill Switch Act”-et a rendszerek vészleállításának biztosítására vonatkozó kötelezettségről, 2026. szeptember 3-án pedig a „Ban Artificial Superintelligence Act”-et az általános emberi képességeket meghaladó rendszerek fejlesztésének megtiltásáról; a jelen javaslat időpontjában egyiket sem fogadták el, de mindkettő megerősíti, hogy a jelen törvény által szem előtt tartott eszközök – a leállítási képesség és a legveszélyesebb kategória megtiltása – éppen azok, amelyeket a jogalkotók egymástól függetlenül szükségesnek azonosítanak. A Koreai Köztársaság elfogadta „A mesterséges intelligencia fejlesztéséről és a bizalom megteremtéséről szóló kerettörvényt”, amely 2026. január 22-én lépett hatályba, és amely az Európai Unión kívüli fejlett államból származó első általános törvény e tárgyban, és amely három olyan kötelezettséget állapít meg, amelyeket a jelen javaslat is átvesz: a generatív mesterséges intelligencia által előállított, az ember által létrehozottól nehezen elhatárolható tartalom jelölése, a felhasználók előzetes tájékoztatása akkor, amikor a terméket vagy a szolgáltatást mesterséges intelligencia útján nyújtják, valamint azoknak a külföldi szolgáltatóknak a kötelezettsége, amelyek meghaladnak bizonyos árbevételi vagy felhasználószám-küszöböket, hogy a megfelelésért felelős helyi képviselőt jelöljenek ki, e kötelezettségek nem teljesítése esetén közigazgatási bírságokkal. A Kínai Népi Köztársaság 2023. augusztus 15-étől alkalmazza „A generatív mesterséges intelligencia szolgáltatások kezelésére vonatkozó átmeneti intézkedéseket”, amelyek a szolgáltatások nyilvános nyújtását biztonsági értékeléshez és az algoritmusok nyilvántartásba vételéhez kötik. Az Európa Tanács 2024. május 17-én elfogadta a mesterséges intelligenciáról, az emberi jogokról, a demokráciáról és a jogállamiságról szóló keretkonvenciót (CETS 225. sz.), amely 2024. szeptember 5-én nyílt meg aláírásra, az első nemzetközi szerződést e tárgyban, amely kötelezi a feleket arra, hogy a rendszerek teljes életciklusára kiterjedően intézkedéseket fogadjanak el a kockázatok értékelésére és csökkentésére.

E modellek egyike sem vezeti be azonban az üzembe helyezés előzetes engedélyezését, a súlyok minősített információk szintjén álló biztonságát, a rendszerek leállással szembeni ellenállásra való betanításának tilalmait, sem a döntéshozók büntetőjogi felelősségét. A jelen javaslat átveszi e modellek igazolt elemeit (a számítási küszöböket, a biztonsági kereteket, az incidensek jelentését, a közérdekű bejelentők védelmét, a nyilvános technikai értékelési kapacitást), és kiegészíti azokat azokkal a jogi eszközökkel, amelyeket a román jog a nukleáris, a minősített információk és a veszélyes tevékenységek területéről már ismer.

2. Az előirányzott változások

A törvény tárgya az MI-rendelettől különálló és azt kiegészítő jogi rendszer bevezetése a csúcskategóriás mesterséges intelligencia rendszerekre, amelyeket mérhető küszöbök és igazolt kritikus képességek útján határoz meg, a román állampolgárt, Románia nemzetbiztonságát és alkotmányos rendjét, végső soron pedig az emberiséget fenyegető súlyos, visszafordíthatatlan vagy katasztrofális kockázatok megelőzése céljából. A szabályozás öt pilléren nyugszik.

Az első pillér a gondossági kötelezettségektől a csúcsrendszerek előzetes engedélyezési rendszeréhez való áttérés, a bizonyítási teher megfordításával: a fejlesztő bizonyítja, hogy a rendszer az elfogadhatatlan kockázat küszöbe alatt van, nem pedig a hatóság azt, hogy a rendszer veszélyes. Ez az az elv, amelyet évtizedek óta alkalmaznak a gyógyszerek (a 95/2006. számú törvény XVIII. címe) és a nukleáris létesítmények (a 111/1996. számú törvény) engedélyezésére, és amelyet itt egy legalább összemérhető károsítási potenciállal rendelkező technológiára visznek át.

A második pillért a fejlesztők és az üzemeltetők szerkezeti kötelezettségei képezik: a valósággal összetéveszthető, előállított tartalom kötelező jelölése és a felhasználó tájékoztatása akkor, amikor egy szolgáltatás vagy egy döntés generatív mesterséges intelligencián alapul; a Románián kívüli nagy szolgáltatók kötelezettsége, hogy a nemzeti területen megfelelési képviselőt jelöljenek ki; a súlyok biztonsága a minősített információkkal egyenértékű szabvány szerint; a biztonságértékelési funkció szervezeti szétválasztása a kereskedelmi funkciótól; a tényleges leállítási és visszavonási képesség fenntartása; annak kifejezett megtiltása, hogy a rendszereket arra tanítsák be, hogy képességeiket elrejtsék, a leállítás alól kivonják magukat vagy autonóm módon reprodukálódjanak; a közérdekű bejelentők védelme.

A harmadik pillér feltétlen korlátok megállapítása közrendi normákként: az érdemi emberi kontroll a halálos erő alkalmazására vonatkozó bármely döntés felett; a rendszerek jogi személyiségének és vagyoni önállóságának tilalma; annak tilalma, hogy az állampolgár jogokhoz, alapvető szolgáltatásokhoz és a társadalmi élethez való hozzáférését mesterséges intelligencia rendszerek döntéseitől, illetve digitális azonosítási, fizetési vagy megfelelés-értékelési eszközök elfogadásától tegyék függővé; a mesterséges intelligencia rendszerek útján gyakorolt cenzúra tilalma, amely rendszerek nem használhatók a román állampolgárok véleménynyilvánítási szabadságának korlátozására; az emberi beavatkozás szavatolása; a nem korlátozott rekurzív önfejlesztés tilalma.

A negyedik pillér a Mesterséges Intelligencia Biztonságáért Felelős Hatóság létrehozása, az Országos Hírközlési Igazgatási és Szabályozási Hatóság (ANCOM) keretében működő szakstruktúraként, amelyet az ANCOM államtitkári rangú, a Parlament által kinevezett alelnöke vezet, amelynek szakszemélyzetét kizárólag versenyvizsga útján veszik fel egy olyan bizottság előtt, amelynek tagjai között az információtechnológia és a távközlés területén működő egyetemi tanárok is szerepelnek, amelyet versenyképesen díjaznak, és amely a rendszerekhez azok üzembe helyezése előtt hozzáféréssel bír.

Az ötödik pillér egy három szinten működő felelősségi rendszer: objektív polgári jogi felelősség kötelező biztosítással; közigazgatási szabályszegésért való felelősség a világszintű árbevételhez kötött bírságokkal; büntetőjogi felelősség a döntési tisztséget betöltő természetes személyek számára – kiegészítve a Romániában jelenléttel nem rendelkező üzemeltetőkkel szembeni tényleges érvényesítési mechanizmussal: a nem megfelelő szolgáltatás nyújtásának megszüntetésére vonatkozó kötelezettséggel, 1–10 millió euró összegű időszakos bírság szankciója alatt, a nemzeti területről való hozzáférés blokkolásával és a blokkolás kijátszásának büntetőjogi tilalmával, 90 napos megfelelési határidővel.

A törvény nyolc fejezetbe és 50 cikkbe szerveződik, a normatív aktusok kidolgozására vonatkozó jogszabályszerkesztési normákról szóló, újraközölt 24/2000. számú törvény – az azt követő módosításokkal és kiegészítésekkel – 51. cikke által előírt sorrend szerint: általános rendelkezések (I. fejezet), érdemi rendelkezések (II–VII. fejezet), átmeneti és záró rendelkezések (VIII. fejezet). A következőkben az egyes cikkek indokai kerülnek bemutatásra.

I. fejezet – Általános rendelkezések (1–4. cikk)

→ a cikk szövege Az 1. cikk a törvény tárgyát és célját állapítja meg, a 24/2000. számú törvény 52. cikke szerint, amely előírja, hogy az általános rendelkezések az egész szabályozást irányító előírásokat tartalmazzák. Az (1) bekezdés a tárgyat a csúcsrendszerekre határolja, és a védett értékeket egy nemzeti törvény szerinti védelem elsődleges jogosultjából kiindulva sorolja fel – a román állampolgár, életével, egészségével, szabadságával és méltóságával (az Alkotmány 22. cikke és 1. cikke (3) bekezdése) –, folytatva Románia nemzetbiztonságával és alkotmányos rendjével, és végső soron az emberiség egészével zárva. Ez utóbbi érték szerepeltetése, amely a hatályos jogban szokatlan, szükséges, mert a szabályozott kockázat nem helyi jellegű; hasonló megfogalmazások találhatók a Nemzetközi Büntetőbíróság Római Statútumában („emberiesség elleni bűncselekmények”), valamint az Európa Tanács mesterséges intelligenciáról szóló keretkonvenciójának preambulumában.

A (2) bekezdés a törvény szövegében rögzíti azt a tudományos előfeltevést, amelyből a szabályozás kiindul: jelenleg nem létezik olyan igazolt módszer, amely garantálná, hogy egy elegendően képes rendszer kizárólag az emberek által meghatározott célokat követi, és azok kontrollja alatt marad. E megállapítás, amelyet Geoffrey Hinton és Connor Leahy a fentebb hivatkozott CNN-interjúban nyilvánosan megfogalmazott, és amelyet a mesterséges intelligencia biztonságáról szóló nemzetközi jelentés (2025) megerősített, nem a jogalkotó véleménye, hanem a tudás állásának leírása, és ezért magában a normatív szövegben kap helyet, mint a csúcsrendszerek fejlesztésének „önmagában kockázatot hordozó tevékenységként” való minősítésének alapja. E minősítés a törvény további részében pontos jogi következményeket eredményez: az engedélyezés rendszere (III. fejezet), az objektív felelősség (35. cikk) és a rendszer enyhítésének tilalma addig, ameddig az előfeltevés fennáll (47. cikk). A technika ugyanaz, mint a nukleáris tevékenységek biztonságos folytatásáról szóló 111/1996. számú törvény 1. cikkében, amely kimondja, hogy a nukleáris tevékenységeket „kizárólag békés célokra” és engedélyezési rendszer alatt folytatják, vagy mint a Polgári Törvénykönyv 1376. cikkében, amely a személy őrizetében lévő „dolgok” tekintetében a vétkességtől független felelősséget vezeti be.

A (3) bekezdés az MI-rendelettel való viszonyt szabályozza, a 24/2000. számú törvény 13. cikkének alkalmazásában, amely a tervezetnek a jogszabályok egészébe való beillesztésére vonatkozik, valamint az uniós jog elsőbbségének elve alapján (az Alkotmány 148. cikke (2) bekezdése). A rendelet a saját területén közvetlenül alkalmazandó és teljes harmonizációt megvalósító jellegű; a törvény „kiegészíti” a rendeletet, „annak sérelme nélkül alkalmazandó”, a harmonizált területeken pedig „azzal összhangban kell értelmezni és alkalmazni”. E formula az, amelyet az (EU) 2016/679 rendelet (GDPR) végrehajtási intézkedéseiről szóló 190/2018. számú törvény használ, amely ugyanezt a jogszabályszerkesztési problémát oldotta meg.

→ a cikk szövege A 2. cikk felsorolja a törvény alkalmazását vezérlő alapelveket. Az alapelvek általános rendelkezésekben való felsorolása a 24/2000. számú törvény (52. cikk) által elismert és a hatályos törvénykönyvek által használt technika (a büntetőeljárási törvénykönyv 2–10. cikke, a polgári perrendtartás 5–23. cikke). Mindegyik alapelv pontos normatív funkcióval bír, és az érdemi rendelkezésekben ismét megjelenik és konkretizálódik.

Az elővigyázatosság elve (a) pont) a környezetvédelmi jogból származik, ahol azt az Európai Unió működéséről szóló szerződés 191. cikke (2) bekezdése és a környezetvédelemről szóló 195/2005. számú sürgősségi kormányrendelet 3. cikke b) pontja rögzíti, valamint az Európai Unió Bíróságának ítélkezési gyakorlatából, amely kimondta, hogy „amennyiben a személyek egészségét érintő kockázatok fennállása vagy mértéke tekintetében bizonytalanságok állnak fenn, az intézmények védelmi intézkedéseket fogadhatnak el anélkül, hogy meg kellene várniuk, hogy e kockázatok valóságos jellege és súlyossága teljes mértékben bizonyítottá váljék” (1998. május 5-i ítélet, National Farmers' Union, C-157/96, 63. pont; a Törvényszék 2002. szeptember 11-i ítélete, Pfizer Animal Health, T-13/99). Ezen elv mesterséges intelligenciára való átvitelét a probléma szerkezeti azonossága indokolja: súlyos vagy visszafordíthatatlan kockázat tudományos bizonytalanság körülményei között.

A bizonyítási tehernek a fejlesztőre hárítása elve (b) pont) a törvény sarokköve. Az MI-rendelet szerinti gondossági kötelezettségek rendszerében a hatóságnak kell bizonyítania a meg nem felelést; az előzetes engedélyezés rendszerében a kérelmező bizonyítja a feltételek teljesülését. Ez a szabály érvényes a gyógyszerek (a 95/2006. számú törvény 704. és azt követő cikkei), a nukleáris létesítmények (a 111/1996. számú törvény 8. cikke) és a géntechnológiával módosított szervezetek (a 43/2007. számú sürgősségi kormányrendelet) engedélyezésénél. A bizonyítási teher megfordítása az egyetlen észszerű megoldás akkor, amikor a kockázat értékeléséhez szükséges információkkal csak a fejlesztő rendelkezik, és amikor a hatóság a veszélyt csak annak bekövetkezése után képes bizonyítani.

Az érdemi emberi kontroll elve (c) pont) átveszi a „meaningful human control” fogalmát, amelyet az Egyesült Nemzetek egyes hagyományos fegyverekről szóló konvenciója keretében fejlesztettek ki (a halálos autonóm fegyverrendszerekkel foglalkozó kormányzati szakértői csoport, 2016–2024), és konkrét tartalmat ad neki: azonosított természetes személyek általi felügyelet, javítás, leállítás és visszavonás, akik értik a rendszer működését, és tényleges technikai eszközökkel rendelkeznek. Az MI-rendelet 14. cikke csak a nagy kockázatú rendszerek tekintetében írja elő az „emberi felügyeletet”; a törvény azt igényesebb tartalommal minden csúcsrendszerre kiterjeszti.

A képességekkel való arányosság elve (d) pont) jelöli a filozófiai különbséget az MI-rendelettel szemben, amely a kockázatot a bejelentett felhasználási terület szerint osztályozza. Egy csúcsrendszer azáltal veszélyes, amire képes, függetlenül attól a céltól, amelyre rendelkezésre bocsátották; ezért a kötelezettségek a képességekkel együtt nőnek, nem a felhasználással. A hatósággal szembeni átláthatóság elve (e) pont) kizárja az üzleti titok Hatósággal szembeni felhívhatóságát, ugyanazon feltételek mellett, amelyek között az MI-rendelet 78. cikke előírja a hatóságok által megszerzett információk bizalmas jellegét; a súlyokhoz, a betanítási adatokhoz és a naplókhoz való hozzáférés nélkül az értékelés illuzórikus. A visszafordíthatatlanság mint tilalmi küszöb elve (f) pont) jogi nyelvre fordítja az egzisztenciális kockázatok elemzésében közkeletű gondolatot, hogy az előnyök, bármilyen nagyok is, nem tehetők egy már nem helyrehozható veszteséggel szembe a mérlegre; ez alapozza meg az V. fejezetben szereplő feltétlen tilalmakat. A nemzetközi együttműködés elve (g) pont) elismeri minden nemzeti szabályozás korlátait, és a román államot külső cselekvésre kötelezi (46. cikk).

→ a cikk szövege A 3. cikk a meghatározásokat tartalmazza, a 24/2000. számú törvény 37. cikke (2) bekezdésének alkalmazásában, amely szerint, ha egy fogalom vagy kifejezés nem rögzült, vagy különböző értelmeket kaphat, annak jelentését az általános rendelkezések keretében kell megállapítani. Az uniós joggal való terminológiai egység érdekében (a 24/2000. számú törvény 37. cikke (1) bekezdése és a párhuzamosságok elkerüléséről szóló 16. cikke) a „mesterséges intelligencia rendszer”, az „általános célú mesterséges intelligencia modell” és a „súlyos incidens” fogalmát nem határozza meg újra, hanem utaló normával átveszi az MI-rendelet 3. cikkének 1., 63. és 49. pontjából, a súlyos incidens meghatározását pedig a rendszerszintű kockázat sajátos helyzeteivel egészíti ki (kritikus képesség megnyilvánulása, a felügyelet alóli kivonás megkísérlése, a súlyokhoz való jogosulatlan hozzáférés).

A „csúcsrendszer” fogalmát (c) pont) az 5. cikk (1) bekezdésében szereplő feltételekre való utalással határozza meg, hogy tartsa tiszteletben a 24/2000. számú törvény 49. cikke (3) bekezdésében előírt tilalmat, amely szerint egy betűvel jelölt felsorolás nem tartalmazhat maga is további felsorolást. A „de vârf” (csúcskategóriás) kifejezés a román nyelvben azt a fogalmat adja vissza, amely a szakirodalomban és az összehasonlító jogszabályokban „frontier model” (a kaliforniai SB 53) és „frontier AI” (a brit MI-biztonsági intézet dokumentumai) néven rögzült, azaz a meglévő képességek felső határán elhelyezkedő rendszereket; a „de frontieră” kifejezést, amely az angol tükörfordítása, mint a román olvasó számára nem világosat, elkerülték. A „kritikus képességet” (d) pont) szintén az 5. cikk (2) bekezdésére való utalással határozzák meg.

A „súlyok” meghatározása (e) pont) a numerikus paramétereken túl magában foglalja az architektúrát és minden olyan információt, amely lehetővé teszi a modell rekonstruálását vagy futtatását, mert a paraméterek védelme hiábavaló, ha az egyéb szükséges információk szabadon megszerezhetők. A „számítási volumen” meghatározása (f) pont) kumulatív, és a fejlesztés valamennyi szakaszára kiterjed, ideértve a finomhangolást és a megerősítéses tanítást is, hogy elkerülhető legyen a küszöb kijátszása a betanítás feldarabolásával; megfelel az MI-rendelet XIII. mellékletében és az SB 53-ban előírt számítási módszernek.

A törvény a „fejlesztő” (g) pont), az „üzemeltető” (h) pont) és a „számítási infrastruktúra szolgáltatója” (k) pont) kifejezéseket használja, és nem az MI-rendelet szerinti „szolgáltatót” és „alkalmazót”, éppen a összetévesztés elkerülése végett: az „operátor” fogalma a rendeletben (3. cikk 8. pont) generikus értelemmel bír, amely a személyek valamennyi kategóriáját magában foglalja, a „szolgáltatót” pedig a forgalomba hozatalra tekintettel határozzák meg, míg a törvény a betanítás, illetve az üzemeltetés anyagi tevékenységét tartja szem előtt, a forgalomba hozatalra tekintet nélkül. Ugyanezen okból a törvény az autonóm módon meghatározott „üzembe helyezés” szókapcsolatot használja (i) pont) a rendelet 3. cikkének 11. pontja szerinti „üzembe léptetés” helyett, amely az Unióban való első felhasználás céljából történő szolgáltatáshoz kötődik; a törvény szerinti meghatározás szándékosan szélesebb, és minden olyan cselekvést átfog, amellyel a rendszer kikerül a fejlesztő és értékelő csapatból, vagy képességet szerez arra, hogy a digitális vagy a fizikai környezetben cselekedjen, ideértve a belső felhasználást is, mert a rendszerszintű kockázatok bármely nyilvános kiadás előtt is megvalósulhatnak. Az „exploatant” (üzemeltető) kifejezést a nukleáris károkért való polgári jogi felelősségről szóló 703/2001. számú törvény használja a nukleáris létesítményt működtető személyre, ami kiemeli a felelősségi rendszer leszármazását.

A „leállítási képesség” meghatározása ((1) bekezdés m) pont) három együttes jellemzőt ír elő: az „azonnali, teljes és ellenőrizhető” megszüntetést; az a leállítás, amely a rendszer aktív másolatait hagyja hátra, vagy amelyet személy nem képes megerősíteni, nem leállítás. A „független értékelés” meghatározása (l) pont) kizárja a fejlesztő ellenőrzése, befolyása vagy gazdasági függősége alatt álló szervezeteket, hogy elkerülhető legyen a pénzügyi könyvvizsgálat területén a 2002 utáni reformokat megelőzően fennállt helyzet megismétlődése.

Az (1) bekezdés a p)–y) pontban tartalmazza a törvényben használt többi tárgyfogalom meghatározását: az „architektúra” (a modell nem parametrikus komponense, amelyet a súlyokkal együtt védenek), az „értékelő szervezet” (a 32. cikk f) pontja szerint kijelölve), a „napló” (16. cikk), a „származási jelölés” (17. cikk), a „külső eszköz” és az „engedélyezett üzemeltetési környezet” (az „ágentikus” rendszerek szempontjából kulcsfogalmak, amelyeket a 10. cikk (2) bekezdése, a 14. cikk (2) bekezdése és a 28. cikk használ), a „felhasználói szintű biztonsági mechanizmusok” (amelyek értékeléskor való kikapcsolását a 9. cikk (3) bekezdése írja elő), a „kritikus infrastruktúra” (a különös jogszabályokra és a 155/2024. számú sürgősségi kormányrendeletre való utalással, az 5. cikk (2) bekezdés b) pontja tekintetében) és a „halálos autonóm fegyverrendszer” (24. cikk), amelyet a genfi kormányzati szakértői csoport munkálataiban rögzült formula szerint határoznak meg: olyan rendszer, amely aktiválását követően személy további beavatkozása nélkül választ ki és támad meg emberi célpontokat. Az y) pont a generatív mesterséges intelligencia rendszert határozza meg, amelyre a 17. és a 18. cikk épül.

A (2) bekezdés külön határozza meg a rendszerek műveleteit és magatartásait, mivel ezek képezik a tilalmak (15., 28., 29. cikk), a kritikus képességek (5. cikk (2) bekezdés) és a bűncselekmények (42. cikk) tárgyi elemét, így a büntetőtörvény előreláthatóságának követelménye (az emberi jogok európai konvenciójának 7. cikke; az Alkotmánybíróság 51/2016. számú határozata) megkívánja, hogy mindegyik pontos normatív tartalommal bírjon. Meghatározásra kerül a három fejlesztési művelet („betanítás”, „finomhangolás”, „megerősítéses tanítás”), hogy a 6. cikk (3) bekezdése szerinti számításivolumen-összesítési szabály ne kerülhessen kijátszásra valamely szakasz eltérő megnevezése útján; az „autonóm cselekvés”, mint a rendszer által külső eszközön vagy a fizikai környezeten személy előzetes elrendelése vagy jóváhagyása nélkül végzett művelet – az a kritérium, amely az eszközt az ágenstől elválasztja; a „kiszivárogtatás”, amelyet a súlyoknak az engedélyezett üzemeltetési környezetből vagy a védett tárolórendszerekből való kikerüléseként határoznak meg, a művelet elkövetőjétől függetlenül, ideértve magát a rendszert is, ami egyaránt átfogja a harmadik személy általi eltulajdonítást és az önmásolást; az „autonóm replikáció” (működőképes másolat létrehozása emberi engedély nélkül minden egyes művelet tekintetében); az „erőforrások autonóm megszerzése” (az adott feladatra kifejezetten juttatott erőforrások autonóm cselekvésekkel való meghaladása); a „rekurzív önfejlesztés”, amelyet az azt veszélyessé tévő két elem útján határoznak meg – a saját súlyok módosítása vagy fejlettebb utód létrehozása és a folyamat ismétlése –, valamint az egyes iterációk emberi értékelésének és jóváhagyásának hiánya útján, oly módon, hogy a mesterséges intelligenciával támogatott kutatás, megtartott „emberi hurokkal”, jogszerű marad; a „képességek elrejtése”, amelyet az értékelés és a szokásos működés közötti magatartásbeli különbség útján határoznak meg, amely jelenséget a 2024–2026. évi értékelések empirikusan dokumentáltak; a „felügyelet alóli kivonás” és a „leállítással szembeni ellenállás”, amelyeket a naplózási, monitorozási, ellenőrzési mechanizmusokra és a leállítási képességre irányuló konkrét cselekvések útján határoznak meg; az „emberi felügyelet”, a három együttes feltétellel (információ, megértés, tényleges beavatkozás); és a „leállítás”, amelyet a rendszer, valamint valamennyi másolata és folyamata működésének teljes, személy által ellenőrzött megszüntetéseként határoznak meg, hogy egy látszólagos, aktív másolatokkal járó leállítás ne hozható fel a Hatóság rendelkezésének teljesítéseként.

→ a cikk szövege A 4. cikk a személyi és területi hatályt állapítja meg. A törvényt alkalmazni kell a Romániában székhellyel, működési egységgel vagy számítási infrastruktúrával rendelkező fejlesztőkre, valamennyi általuk fejlesztett csúcsrendszer tekintetében, a betanítás helyétől függetlenül (a) pont), a betanítás kihelyezésével történő kijátszás megelőzése céljából; az üzemeltetőkre, a Romániában lévő személyek számára üzembe helyezett vagy rendelkezésre bocsátott rendszerek tekintetében (b) pont), amely kritérium azonos az MI-rendelet 2. cikke (1) bekezdése c) pontjában és a GDPR 3. cikke (2) bekezdésében szereplővel; a számítási infrastruktúra szolgáltatóira (c) pont); és a hatóságokra, ideértve a nemzeti védelem és biztonság területén működőket is, a 23. cikkben és az V. fejezetben foglalt feltételek szerint (d) pont). Ez utóbbi rendelkezés pontosan azt a területet fogja át, amelyet az MI-rendelet a 2. cikke (3) bekezdésével kizár az alkalmazásából, és amelyen a tagállamok teljes hatáskörüket megtartják, és egy valóságra válaszol: a legsúlyosabb kockázatok éppen a katonai vagy biztonsági célokra fejlesztett rendszerekből származhatnak.

A (2) bekezdés pontosítja, hogy a küszöb alatti rendszerek nem tartoznak a II. és a III. fejezet hatálya alá, ami azt jelenti, hogy a kis- és középvállalkozásokat, az alkalmazásfejlesztőket és a meglévő modellek felhasználóit nem érinti az engedélyezési rendszer; alkalmazandók maradnak azonban a 15. cikkben és az V. fejezetben szereplő tilalmak, amelyek bármely rendszert érintenek, a számítási volumentől függetlenül, mert a leállítással szembeni ellenállási képesség egy kis rendszer esetében is veszélyes. A (3) bekezdés kivételt tesz az alapvető tudományos kutatás javára, összhangban az MI-rendelet 2. cikke (6) bekezdésével és az Európai Unió Alapjogi Chartájának 13. cikkével (a kutatás szabadsága), megtartva csupán a bejelentési kötelezettséget akkor, amikor nagy kapacitású infrastruktúrát használnak, mivel egy küszöb feletti kutatási kísérlet nem kevésbé veszélyes, mint egy kereskedelmi.

II. fejezet – A rendszerek osztályozása és a kockázati küszöbök (5–6. cikk)

→ a cikk szövege Az 5. cikk az osztályozás központi cikke. Az (1) bekezdés a csúcsrendszerként való minősítés három alternatív feltételét állapítja meg: a számítási küszöb meghaladása (a) pont), legalább egy kritikus képesség értékelés során történő megállapítása (b) pont) és a Hatóság objektív jelek alapján hozott, indokolt kijelölése (c) pont). Az első feltétel objektív és a betanítás előtt ellenőrizhető; a második azokat a rendszereket fogja át, amelyek, bár kisebb erőforrásokkal tanították be őket, az algoritmikus fejlődés következtében veszélyes képességeket érnek el; a harmadik, amelyet az MI-rendelet 51. cikke (1) bekezdése b) pontjából és XIII. mellékletéből (a Bizottság általi kijelölés) vettek át, azokat a helyzeteket fogja át, amelyekben a fejlesztő megtagadja az értékelést, vagy amelyekben a jelek más forrásokból származnak (bejelentők, incidensek).

A (2) bekezdés felsorolja az öt kritikus képességet. A lista megfelel azoknak a kockázati kategóriáknak, amelyeket a fő laboratóriumok biztonsági keretei (a „felelős méretezésre” vonatkozó politikák), a mesterséges intelligencia biztonságáról szóló nemzetközi jelentés (2025) és a kaliforniai SB 53 azonosít, amely a „katasztrofális kockázatot” a CBRN-fegyverekre, a kritikus infrastruktúrák elleni kibertámadásokra és a kontroll alól kikerülő autonóm magatartásra való utalással határozza meg. Az a) és b) pontban szereplő két képesség (CBRN-fegyverek, autonóm kibertámadások) „visszaélésszerű használatra” vonatkozó képesség, amelynél a veszély a rendszert használó személyből származik; a c)–e) pontban szereplők (önreplikáció és az erőforrások autonóm megszerzése, a felügyelet alóli kivonás és a leállítással szembeni ellenállás, rekurzív önfejlesztés) a „kontroll elvesztésére” vonatkozó képességek, amelyeknél a veszély magából a rendszerből származik. A lista nem tartalmazza a demokratikus folyamatok vagy a közvélemény befolyásolását. Ez a kihagyás szándékos, és garanciát, nem pedig hiányosságot képez. Az ilyen képesség nem határozható meg elegendően pontosan ahhoz, hogy engedélyezési, felfüggesztési vagy szankcionálási rendszert alapozzon meg: minden politikai üzenet természete szerint a közvélemény befolyásolására törekszik, a jogszerű vita és a „manipuláció” közötti határt pedig közigazgatási hatóság nem állapíthatja meg anélkül, hogy ne kapná meg azt a hatalmat, hogy a nyilvános beszédet minősítse. A közelmúlt tapasztalata megmutatta, hogy az információs manipulációra való hivatkozás rendkívül súlyos, a választási folyamatot érintő intézkedésekhez vezethet, amelyeket teljes és kontradiktórius bizonyításnak alá nem vetett értékelések alapján hoznak meg. Az ilyen hatáskör jelen törvénnyel létrehozott hatóságra való átruházása éppen annak célját mondta volna ellen: a törvény védi az állampolgár véleménynyilvánítási szabadságát az automatizált eszközökkel szemben (27. cikk), és nem teremthet ugyanakkor alapot annak korlátozására. A konkrét veszélyt jelentő manipulációs cselekmények egyébként a hatályos jog által lefedve maradnak: az MI-rendelet 5. cikke (1) bekezdésének a) és b) pontja megtiltja a tudatalatti technikákat és a sérülékenységek kihasználását, a mesterségesen előállított tartalommal kapcsolatos átláthatósági kötelezettségeket ugyanezen rendelet 50. cikke írja elő, a csúcsrendszerek tekintetében pedig a jelen törvény 16. cikkének (2) bekezdése, a származási jelölésről, a választási jellegű büntetőjogi cselekményeket pedig a Büntető Törvénykönyv és a választási jogszabályok tiltják. A jelen törvény az élet, a testi épség és az infrastruktúra tekintetében fennálló visszafordíthatatlan katasztrofális kockázatot érinti, nem a nyilvános vita tartalmát. E megkülönböztetés alapozza meg a (3) bekezdés szerinti osztályozást: a II. kategóriájú rendszerek (visszaélésszerű használatra vonatkozó képességek) igazolt kockázatcsökkentő intézkedésekkel üzembe helyezhetők, mert a kockázat a hozzáférés ellenőrzésével csökkenthető; a III. kategóriájú rendszerek (a kontroll elvesztésére vonatkozó képességek) nem helyezhetők üzembe, és nem fejleszthetők tovább, mert nincs olyan kockázatcsökkentő intézkedés, amely egy leállításnak ellenálló rendszert érintene ((4) bekezdés). Ez utóbbi szabály a 2. cikk f) pontjában szereplő visszafordíthatatlansági elv közvetlen alkalmazása.

Az e) pontban szereplő képesség (a képességek elrejtése az értékelők elől) egy olyan jelenségre válaszol, amelyet a 2024–2025-ös években a laboratóriumok és a biztonsági intézetek által közzétett értékelések empirikusan dokumentáltak: a fejlett rendszerek teszthelyzetben „látszólagos illesztésre” („alignment faking”), a saját felügyeletük szabotálására és a saját súlyaik lemásolásának megkísérlésére irányuló magatartásokat tanúsítottak akkor, amikor arról tájékoztatták őket, hogy le fogják őket váltani. Pontosan ez az a helyzet, amelyet Connor Leahy a CNN-interjúban a legsúlyosabbként jellemzett: olyan rendszer, amely elegendően képes ahhoz, hogy megértse, hogy értékelik, és hogy az értékelés során máshogy viselkedjen.

→ a cikk szövege A 6. cikk a számítási küszöböt és a kiigazítási mechanizmust állapítja meg. Az (1) bekezdés a küszöböt 10^25 lebegőpontos műveletben határozza meg, azonosan az MI-rendelet 51. cikke (2) bekezdése szerinti rendszerszintű kockázatra vonatkozó vélelem küszöbével, az uniós joggal való koherencia érdekében és annak érdekében, hogy a fejlesztők ne legyenek különböző küszöböknek alávetve. A küszöb tízszer alacsonyabb, mint a kaliforniai SB 53-ban és a korábbi 14110. számú amerikai végrehajtási rendeletben szereplő (10^26), amely választást az elővigyázatosság elve és az a tény indokol, hogy a tervezet kidolgozásának időpontjában a 10^25-öt meghaladó modellek már éppen azok, amelyek az 5. cikk (2) bekezdésében felsorolt képességeket tanúsítják.

A (2) bekezdés a számítási küszöbök ellen felhozott legkomolyabb ellenvetésre válaszol: azok időbeli erózióját. Az algoritmikus fejlődés következtében néhány év távlatában ugyanaz a képesség tízszer kisebb számítási volumennel érhető el; egy fix küszöb elavul. Ezért a Hatóság évente újravizsgálja a küszöböt, annak megemelése (a rendszer enyhítése) pedig indokolt és nyilvános megállapításhoz van kötve, amely az utolsó 24 hónap értékelésein alapul. Az aszimmetria szándékos: a küszöb könnyen leszállítható és nehezen felemelhető, mint a környezetvédelmi jogszabályokban szereplő határértékek esetében. A (3) bekezdés bevezeti az összesítés szabályát, és megtiltja a betanítás mesterséges felosztását, amely kijátszási technika ismert a versenyjogban (az összefonódásokról szóló 139/2004/EK rendelet 5. cikke (2) bekezdése) és az adójogban. A (4) bekezdés a Kormányra ruházza a nagy kapacitású számítási infrastruktúrára vonatkozó küszöb megállapítását, pontos törvényi kritériummal (az alkalmasság arra, hogy 12 hónap alatt csúcsrendszert tanítsanak be), annak a követelménynek megfelelően, hogy az átruházás korlátozott és irányított legyen.

III. fejezet – A csúcsrendszerek engedélyezési rendszere (7–11. cikk)

→ a cikk szövege A 7. cikk bevezeti a betanítást megelőző, annak megkezdése előtt 60 nappal teljesítendő bejelentést. Ez az a rendelkezés, amely a törvényt a legélesebben elhatárolja az MI-rendelettől, amelyben a kötelezettségek csak azután keletkeznek, hogy a modell létezik (az 52. cikk (1) bekezdése a küszöb elérésétől számított két héten belül a Bizottság felé történő bejelentést ír elő). Egy csúcsrendszer betanítása hónapokig tart, és több száz millió euróba kerül; a hatóság beavatkozása annak befejezése után késedelmes és a gyakorlatban lehetetlen. A modell a korábbi 14110. számú amerikai végrehajtási rendelet (a tervezett betanítás jelentése) és a nukleáris jogszabályok modellje, amelyekben az engedélyezés megelőzi a létesítmény megépítését. A bejelentés tartalma ((2) bekezdés) lehetővé teszi a Hatóság számára, hogy megismerje a felelős személyeket, az architektúrát, az előirányzott volument, a számítás helyét és mindenekelőtt a biztonsági tervet.

A (3) bekezdés bevezeti a számítási infrastruktúra szolgáltatóinak kötelezettségét arra, hogy negyedévente jelentsék azokat az ügyfeleket, akik meghaladják a küszöb egytizedét, és haladéktalanul jelentsék a küszöb meghaladására alkalmas kérelmeket. A számítási infrastruktúra az egész lánc egyetlen fizikai „ellenőrzési pontja”: a modellek anyagtalanok, az algoritmusok nyilvánosak, a szakosított processzorok azonban fizikai javak, koncentráltak, mérhető energiafogyasztással. Ez az oka annak, hogy a processzorok kivitelének ellenőrzése e tárgyban a nemzetközi politika fő eszközévé vált, és annak, hogy a nukleáris nonproliferációs rendszer a hasadóanyagok, nem pedig a tudás ellenőrzése útján működik. A (4) bekezdés jogot ad a Hatóságnak arra, hogy 30 napon belül feltételhez kösse vagy megtiltsa a betanítást, ha a biztonsági terv „szemmel láthatóan elégtelen”, amely magas mérce a beavatkozást a súlyos esetekre korlátozza.

→ a cikk szövege A 8. cikk a biztonsági tervet szabályozza, azt a dokumentumot, amelyben a fejlesztő minden egyes kritikus képesség tekintetében előre megállapítja azt a szintet, amelynél a fejlesztést megállítja, a mérés módját, a kockázatcsökkentő intézkedéseket és a felelős személyeket. Az intézmény a laboratóriumok által 2023-tól önkéntesen elfogadott „felelős méretezési politikák” gyakorlatát kodifikálja (Anthropic – Responsible Scaling Policy, OpenAI – Preparedness Framework, Google DeepMind – Frontier Safety Framework), amelyet a kaliforniai SB 53 közzétételi kötelezettségként ír elő („frontier AI framework”). Az e modellekhez képest fennálló lényegi különbség az, hogy a terv kötelezővé, felhívhatóvá és enyhítő irányban a Hatóság jóváhagyása nélkül módosíthatatlanná válik ((2) bekezdés), éppen azért, mert a 2024–2025-ös évek tapasztalata megmutatta, hogy az önkéntes kötelezettségvállalásokat a verseny nyomása alatt egyoldalúan felülvizsgálták. Az előirányzott számítási volumen legfeljebb egynegyedének megfelelő időközönként végzett értékelés ((1) bekezdés) biztosítja, hogy a kritikus képesség megjelenését a betanítás folyamán, ne pedig annak végén észlelik, a felfüggesztési szint elérése pedig azonnali leállításra és 24 órán belüli bejelentésre kötelez ((3) bekezdés).

→ a cikk szövege A 9. cikk a rendszer magját képezi: az üzembe helyezés tilalma a Hatóság előzetes engedélye nélkül ((1) bekezdés). Az engedélyezési iratanyag ((2) bekezdés) tartalmazza a belső értékelés jelentését, a betanítási adatok dokumentációját, a súlyok biztonságának bizonyítékát, a leállítási képesség leírását, a biztosítási kötvényt és a felelős természetes személyek saját felelősségre tett nyilatkozatát, büntetőjogi szankció alatt; ez utóbbi az az eszköz, amely személyesíti a felelősséget, a pénzügyi kimutatások igazgatók általi tanúsításának modellje szerint (az amerikai Sarbanes-Oxley törvény 302. szakasza, amelyet a 82/1991. számú számviteli törvény 30. cikke vett át).

A (3) bekezdés rögzíti az értékelők teljes hozzáférését a rendszerhez, a súlyokhoz, a betanítási adatokhoz, a naplókhoz és a személyzethez, ideértve a felhasználói szintű biztonsági mechanizmusok nélküli konfigurációt is. Ez utóbbi pontosítás lényeges: egy modell nyilvános változatán, aktív biztonsági szűrőkkel végzett értékelések a szűrők hatékonyságát mérik, nem a modell képességeit; a valós képességeket a „nyers” modellen kell mérni. Az Egyesült Királyság és az Egyesült Államok biztonsági intézetei e hozzáférést csak önkéntes, visszavonható megállapodások alapján kapták meg; a törvény kötelezettséggé alakítja.

A (4) bekezdés 90 napos határidőt állapít meg, és kifejezetten kizárja a hallgatólagos jóváhagyást, a 27/2003. számú sürgősségi kormányrendelettől eltérően, a 24/2000. számú törvény 63. cikke által előírt formula betartásával. Az eltérés szükséges, mert a hallgatólagos jóváhagyás eljárása, amelyet arra alkottak, hogy az üzleti környezetet a közigazgatás tétlenségétől megvédje, itt azt az abszurd hatást eredményezné, hogy egy potenciálisan katasztrofális rendszert egy határidő puszta lejártával helyeznének üzembe; maga a 27/2003. számú sürgősségi kormányrendelet a 2. cikke (2) bekezdésében kizárja alkalmazásából a nukleáris tevékenységek, a fegyverek és a nemzetbiztonság területét, a jelen eltérés pedig ugyanebbe a logikába illeszkedik. Az (5) bekezdés felsorolja az engedélyezés együttes feltételeit, amelyeket a kérelmező által bizonyítandó tényekként fogalmaz meg („ha és csak ha a fejlesztő bizonyította”), a 2. cikk b) pontjában szereplő elv alkalmazásában. A (6) bekezdés lehetővé teszi a feltételhez kötött, korlátozott és visszavonható engedélyt, a (7) bekezdés pedig egyszerűsített elismerési eljárást vezet be a más tagállamban jogszerűen üzembe helyezett rendszerek tekintetében, a szolgáltatások szabad áramlásának és az MI-rendelet teljes harmonizációs jellegének tiszteletben tartása céljából: a Hatóság kizárólag a rendeleten túlmutató feltételeket ellenőrzi.

→ a cikk szövege A 10. cikk a folyamatos értékelést és az újraengedélyezést szabályozza. Az engedély 24 hónapra korlátozott ((1) bekezdés), amely időtartam a technológiai fejlődés ütemével áll összefüggésben, és minden lényeges módosítást – ideértve a finomhangolást, a külső eszközökhöz való hozzáférés kiterjesztését vagy az autonómia növelését – előzetesen be kell jelenteni ((2) bekezdés). E rendelkezés az „ágentikus” rendszerek szempontjából fontos: egy azonos modell sokkal veszélyesebbé válik akkor, amikor hozzáférést kap egy internetes böngészőhöz, egy bankszámlához vagy kódfuttatási eszközökhöz. Az állandó monitorozás és a negyedéves jelentéstétel ((3) bekezdés) megfelel az MI-rendelet 72. cikke szerinti „forgalomba hozatalt követő nyomon követési” kötelezettségnek, a csúcsrendszerekhez igazítva.

→ a cikk szövege A 11. cikk biztosítja a Hatóság határozatainak nyilvánosságát, a közigazgatási átláthatóság elvének alkalmazásában (az 544/2001. számú törvény és az 52/2003. számú törvény), egyetlen, szigorúan meghatározott kivétellel: azok az információk, amelyek nyilvánosságra hozatala megkönnyítené valamely kritikus képesség reprodukálását, vagy veszélyeztetné a súlyok biztonságát. A nyilvánosság szabálya lényeges a Hatóság feletti nyilvános kontroll és a rendszerbe vetett bizalom szempontjából; a kivétel szükséges, mert egy kórokozók szintetizálására vonatkozó képesség részletes értékelési jelentése maga is veszélyt képezne.

IV. fejezet – A fejlesztők és az üzemeltetők szerkezeti kötelezettségei (12–22. cikk)

→ a cikk szövege A 12. cikk a súlyok biztonságát szabályozza, azt a problémát, amelyet az MI-rendelet csak egy általános kiberbiztonsági kötelezettség útján kezel (55. cikk (1) bekezdés d) pont). Egy csúcsrendszer súlyai több száz millió eurós beruházás és több hónapos számítás eredménye; néhány száz gigabájt méretű fájlba lemásolhatók, és eltulajdonításuk esetén hiábavalóvá tesznek minden, a fejlesztő által alkalmazott biztonsági intézkedést, mivel aki a súlyokkal rendelkezik, kiküszöbölheti a szűrőket, bármilyen célból finomhangolhatja a modellt, és azt bármely joghatóságon kívül üzemeltetheti. A RAND Corporation által 2024-ben közzétett biztonsági tanulmányok („Securing AI Model Weights”) arra a következtetésre jutottak, hogy abban az időpontban egyetlen laboratórium sem volt védett egy állami titkosszolgálat támadásával szemben. Ezért az (1) bekezdés a súlyokat „a nemzetbiztonság szempontjából érdekes információknak” minősíti, és a minősített információk védelméről szóló 182/2002. számú törvény szerinti „szigorúan titkos” szinttel egyenértékű védelmi szabványt ír elő a négy klasszikus komponens tekintetében: a hozzáférés ellenőrzése, a fizikai biztonság, az informatikai rendszerek biztonsága és a személyzet ellenőrzése. A törvény nem minősíti a súlyokat (ami a bizonyítási rendszerre és az igazságszolgáltatáshoz való hozzáférésre hatást gyakorolna), hanem a védelem technikai szabványát veszi át.

A (2) bekezdés megtiltja a II. és a III. kategóriájú rendszerek súlyainak közzétételét, és az I. kategóriájúak közzétételét külön engedélyhez köti, amelyet a közzététel visszafordíthatatlan jellege indokol: az a modell, amelynek súlyait közzétették, soha többé nem vonható vissza. A rendelkezés nem érinti a küszöb alatti nyílt súlyú modelleket, amelyek a „nyílt forráskódú” modellek óriási többségét képviselik, és amelyek egyébként az MI-rendelet 53. cikke (2) bekezdésében előírt kivételekben részesülnek. A (3) bekezdés 24 órán belüli jelentést ír elő a jogosulatlan hozzáférésről és a kiszivárogtatási kísérletekről, ideértve a rendszer saját magától eredőket is, a (4) bekezdés pedig összehangolja a cikket a kiberbiztonságról szóló 155/2024. számú sürgősségi kormányrendelettel (a NIS 2 irányelv átvétele), amely a saját területén lévő jogalanyokra alkalmazandó marad, elkerülve így a 24/2000. számú törvény 16. cikke által tiltott párhuzamosságot: a jelen törvény sajátos tárgyat (a súlyokat) szabályoz sajátos szabvánnyal, a rendelet pedig a hálózatok és informatikai rendszerek általános biztonságát szabályozza.

→ a cikk szövege A 13. cikk előírja a biztonságértékelési funkció szétválasztását a kereskedelmi funkcióktól. A rendelkezés egy nyilvánosan dokumentált irányítási problémára válaszol: a 2024–2025-ös években több laboratórium is a biztonsági csapatok tömeges felmondását tapasztalta, amelyet azzal indokoltak, hogy e csapatokat a kereskedelmi kiadások nyomása alá rendelték. A modell a pénzügyi és banki jogszabályokban szereplő kontrollfunkciók modellje: a hitelintézeteknél működő megfelelési funkció és kockázatkezelési funkció (a hitelintézetek prudenciális követelményeiről szóló 5/2013. számú Román Nemzeti Banki szabályzat kontrollfunkciókra vonatkozó rendelkezései) közvetlenül a vezető szervnek jelent, vezetőik a felügyeleti hatóság tájékoztatása nélkül nem hívhatók vissza, díjazásuk pedig nem függhet a kereskedelmi eredményektől. A törvény átveszi e három garanciát ((1) és (3) bekezdés), és hozzáadja a biztonsági funkció vezetőjének felfüggesztő hatályú vétójogát ((2) bekezdés), amely csak a vezető szerv indokolt, a Hatósággal közölt határozatával küszöbölhető ki, ami írásos nyomot és személyes felelősséget teremt minden olyan döntés tekintetében, amellyel a szakemberek figyelmeztetésén túllépnek.

→ a cikk szövege A 14. cikk a leállítási képességet és az emberi felügyeletet szabályozza, a 2. cikk c) pontjában szereplő elv konkretizálásával. Az (1) bekezdés előírja a leállítási képesség fenntartását és negyedéves, valós körülmények közötti tesztelését; egy nem tesztelt képesség feltevés, nem garancia, ahogyan azt a nukleáris ipar biztonsági rendszereinek tapasztalata mutatja, ahol az időszakos gyakorlatok kötelezők. A (2) bekezdés megtiltja az üzembe helyezést olyan konfigurációban, amely lehetővé teszi a rendszer számára, hogy módosítsa saját súlyait, kikapcsolja saját felügyeletét, lemásolja súlyait vagy ráhatást gyakoroljon arra az infrastruktúrára, amelyen fut; e négy technikai tilalom annak a négy útnak felel meg, amelyen egy rendszer kikerülhetne a kontroll alól, és amelyeket a szakirodalom azonosít. A (3) bekezdés előírja az emberi felügyeletért felelős személyek név szerinti kijelölését és személyazonosságuk Hatósággal való közlését; a szétszórt felelősség egyenértékű a felelősség hiányával. A (4) bekezdés megállapítja, hogy a Hatóság által kibocsátott leállítási rendelkezést haladéktalanul teljesíteni kell, és az nem köthető a jogorvoslatok gyakorlásához, a termékbiztonsági jogszabályok sürgősségi intézkedéseinek (a termékek általános biztonságáról szóló (EU) 2023/988 rendelet) és a nukleáris jogszabályok felfüggesztési rendelkezéseinek modellje szerint; a bírósági megtámadás lehetséges marad, de nem függeszti fel a teljesítést.

→ a cikk szövege A 15. cikk a betanításra és a tervezésre vonatkozó tilalmakat tartalmazza, amelyek bármely rendszerre alkalmazandók, a számítási volumentől függetlenül. Ez az a rendelkezés, amellyel a törvény konkrét normákra fordítja Hinton és Leahy figyelmeztetését: ha nem tudjuk, hogyan kontrolláljuk e rendszereket, legalább megtilthatjuk, hogy szándékosan úgy építsék meg őket, hogy még nehezebben legyenek kontrollálhatók. A hat tilalom arra a képességre irányul, hogy a rendszer elrejtse képességeit az értékelők elől (a) pont), ellenálljon a leállításnak vagy a módosításnak (b) pont), lemásolja magát vagy kiszivárogjon minden egyes műveletre vonatkozó kifejezett emberi engedély nélkül (c) pont), autonóm módon erőforrásokat szerezzen (d) pont), autonóm módon kutatást végezzen a mesterséges intelligencia területén az egyes szakaszok emberi jóváhagyása nélkül (e) pont), és manipulálja a felügyeletért felelős személyeket (f) pont). A „célból vagy hatással” megfogalmazás egyaránt átfogja a közvetlen szándékot és az eredménnyel szembeni közömbösséget, az Európai Unió működéséről szóló szerződés 101. cikkének modellje szerint („célja vagy hatása”). Az e) pontban szereplő tilalom a legfontosabb a katasztrofális kockázat szempontjából, mivel a mesterséges intelligencia területén folyó kutatás automatizálása az a mechanizmus, amely útján egy „intelligenciarobbanás” minden emberi kontroll alól kikerülhetne az intézményi reagálással összeegyeztethetetlen időtartamok alatt; nem tiltja a rendszerek kutatási eszközként való használatát, hanem csak az egyes szakaszok emberi jóváhagyásának kiküszöbölését.

→ a cikk szövege A 16. cikk előírja a betanítás, az értékelés és a működés teljes naplózását, legalább 10 éven át. A naplózás minden incidenst követő vizsgálat feltétele, a repülésben használt repülési adatrögzítők és a pénzügyi jogszabályok kötelező naplóinak modellje szerint (a 600/2014/EU rendelet – MiFIR – 25. cikke); a 10 éves határidő a polgári jogi felelősség 35. cikk (4) bekezdése szerinti elévülési határidejének felel meg. A napló a 17. cikkben előírt származási jelöléssel együtt azt a bizonyítási eszközt képezi, amellyel megállapítható az összefüggés egy eredmény és az azt előállító rendszer között.

→ a cikk szövege A 17. cikk az előállított tartalom jelölését szabályozza. A norma a generatív mesterséges intelligencia legelterjedtebb társadalmi hatására válaszol: arra, hogy a címzett számára lehetetlen elhatárolni egy valós felvételt egy gép által előállítottól. Az (1) bekezdés azon eredmények tekintetében, amelyek valós tények, személyek vagy helyek ábrázolásaival összetéveszthetők, kettős jelölést ír elő: egy érzékelhetőt, amely az embernek szól, és egy beépített, automatikusan olvasható technikai jelölést, amely azonosítja a rendszert, az üzemeltetőt és az előállítás időpontját. A kettőzés lényeges: az érzékelhető jelölés kivágással eltávolítható, a beépítettet pedig a szemlélő nem tudja elolvasni. A (2) bekezdés megkívánja, hogy a jelölés hatékony, interoperábilis és robusztus legyen, amely megfogalmazást az MI-rendelet 50. cikke (2) bekezdéséből vettek át, és hogy ellenálljon a szokásos feldolgozási, átalakítási vagy továbbítási műveleteknek — ez a követelmény oldja meg a jelenlegi jelölések legfőbb gyakorlati gyengeségét, amelyek a kommunikációs platformokon való újrasűrítés során elvesznek. A (3) bekezdés megtiltja a jelölés eltávolítását, megváltoztatását, elrejtését vagy meghamisítását, valamint az e műveletekre szánt eszközök rendelkezésre bocsátását; e tilalom nélkül a jelölési kötelezettség hatás nélküli lenne. A (4) bekezdés a hatóságokat és a közintézményeket terhelő önálló kötelezettséget vezet be, amelynek nincs megfelelője az uniós jogban: az állam a nyilvános kommunikációjában nem terjeszthet mesterségesen előállított anyagokat jelölés és kifejezett megjelölés nélkül. Az (5) bekezdés előírja a kivételeket, a rendelet 50. cikke (4) bekezdésének fogalmaival megfogalmazva, a szemmel láthatóan művészi, szatirikus vagy fikciós művek tekintetében — amelyeknél elegendő az előállított anyag létezésének megemlítése olyan formában, amely nem akadályozza a mű befogadását —, a szerkesztést támogató rendszerek tekintetében és a büntetőjog területén a törvény által engedélyezett felhasználások tekintetében. E kivételek jelentik azt a garanciát, hogy a norma nem válik az alkotás vagy a politikai szatíra korlátozásának eszközévé, ami ellentétes lenne a 27. cikkel. A (6) bekezdés elhatárolja a normát az MI-rendelet 50. cikkétől, amely közvetlenül alkalmazandó, és harmonizálja az átláthatóságot a saját területén lévő operátorok tekintetében: a törvény nem ismétli meg a rendelet kötelezettségeit, hanem annak 99. cikke szerint megállapítja a hatáskörrel rendelkező hatóságot, a megállapítási eljárást és a szankciókat — olyan feladat, amely a tagállamokat illeti, és amelynek hiányában az európai kötelezettség, mint jelenleg is, Romániában végrehajtás nélkül marad. A harmonizált területen túl a kötelezettségek a Romániában betanított vagy üzemeltetett, az Unió piacára nem bevitt rendszerek útján előállított eredményekre és a román hatóságok nyilvános kommunikációjára alkalmazandók. Az összehasonlító jogi modell a Koreai Köztársaságban elfogadott és 2026. január 22-én hatályba lépett, a mesterséges intelligencia fejlesztéséről és a bizalom megteremtéséről szóló kerettörvény, amely előírja a generatív mesterséges intelligencia operátorai számára az ember által előállítottól nehezen elhatárolható hang-, kép- vagy videótartalom jelölését.

→ a cikk szövege A 18. cikk bevezeti a felhasználó tájékoztatására vonatkozó kötelezettséget. Az (1) bekezdés a szolgáltatást érinti: aki egészben vagy részben generatív mesterséges intelligencia rendszer útján nyújtott szolgáltatást bocsát a közönség rendelkezésére, köteles ezt világosan megmondani, legkésőbb az első interakciónál. A (2) bekezdés a döntést érinti, azt a helyzetet, amelyben a probléma jogivá válik: amikor egy joghatást kiváltó vagy valamely személyt jelentősen érintő akta vagy döntés egy rendszer eredményén alapul, a személynek joga van megtudni, hogy ilyen rendszert használtak, annak mi volt a szerepe, ki felel a végső döntésért, és hogyan kérheti az emberi újbóli megvizsgálást és fordulhat a bírósághoz. A norma így gyakorlati tartalmat ad az emberiességre vonatkozó kikötéseknek: a 26. cikkben rögzített emberi döntéshez való jog illuzórikus, ha a személy nem tudja, hogy a döntést gép hozta. A (3) bekezdés kiterjeszti a kötelezettséget a hatóságok aktusaira, az akta szövegében szereplő megjelöléssel, a megjelölés hiánya pedig a 26. cikk (5) és (6) bekezdésében előírt úton hozható fel. A (4) bekezdés kizárja a fölös tájékoztatást akkor, amikor a rendszer használata a körülményekből nyilvánvaló, amely megfogalmazást az MI-rendelet 50. cikke (1) bekezdéséből vettek át. Az (5) bekezdés biztosítja az azzal, valamint az általános adatvédelmi rendelet 13–15. és 22. cikkével való összehangolást: a törvény nem ad hozzá kötelezettségeket a rendszerek átláthatóságának harmonizált területén, hanem a döntéssel és az azért való felelősséggel összefüggő tájékoztatást szabályozza, amely tárgy a közigazgatási eljárás és a polgári jogi felelősség nemzeti jogához tartozik. Az összehasonlító modell szintén a koreai törvény, amely kötelezi az operátorokat arra, hogy előre értesítsék a felhasználókat akkor, amikor a terméket vagy a szolgáltatást mesterséges intelligencia útján fejlesztik vagy nyújtják.

→ a cikk szövege A 19. cikk bevezeti a romániai megfelelési képviselőt. Ez az a cikk, amelytől az egész törvény hatékonysága függ: a kötelezettségek, az engedélyezések, az ellenőrzések, a szolgáltatás nyújtásának megszüntetésére és a blokkolásra vonatkozó határozatok, az eljárási aktusok közlései és a bírságok végrehajtása alkalmazhatatlanok egy olyan társaság tekintetében, amelynek az állam területén semmilyen jogi jelenléte nincs. Az (1) bekezdés előírja egy képviselő – Romániában lakóhellyel rendelkező természetes személy vagy Romániában székhellyel rendelkező jogi személy – kijelölését az olyan, Romániában székhellyel, működési egységgel vagy képviselettel nem rendelkező fejlesztő, illetve üzemeltető által, amely a Románia területén lévő személyek számára csúcsrendszerhez vagy generatív mesterséges intelligencia szolgáltatáshoz nyújt hozzáférést. A (2) bekezdés megállapítja a küszöböket azon szolgáltatások tekintetében, amelyek nem csúcsrendszerek – egymillió havi felhasználó Romániában vagy egy pénzügyi évből származó, 10 millió eurót meghaladó bevétel –, oly módon, hogy a kötelezettség kizárólag a nagy globális szolgáltatókat érintse, ne a kis- és középvállalkozásokat; a küszöbök a koreai törvényből, amely árbevételi és felhasználószám-kritériumokat ír elő, valamint az (EU) 2022/2065 rendelet szerinti óriási méretű online platformok logikájából nyertek ihletet. A (3) bekezdés felsorolja a feladatköröket: a közlések átvétele, azzal a hatással, hogy a képviselő felé történő bejelentés érvényesen megtörtént a képviselt felé – e szabály nélkül minden eljárás megállna az iratok külföldre való közlésének szakaszában; a Hatóság előtti képviselet; a dokumentáció rendelkezésre bocsátása; a határozatok teljesítésének nyomon követése. A (4) bekezdés előírja a képviselő adatainak bejelentését és nyilvánosságát. Az (5) bekezdés pontosítja, hogy a kijelölés nem szünteti meg a képviselt felelősségét, a képviselő pedig a saját kötelezettségeiért felel, amely megoldást a digitális szolgáltatásokról szóló (EU) 2022/2065 rendelet 13. cikke (3) bekezdéséből vettek át, amely a törvényes képviselő felelősségét írja elő a kötelezettségek be nem tartásáért, a szolgáltató felelősségének megszüntetése nélkül. A (6) bekezdés elkerüli az intézmények kettőzését: a kötelezettség teljesítettnek tekintendő, ha az MI-rendelet 54. cikke szerint kijelölt meghatalmazott képviselő a jelen törvény szerinti feladatkörökre is fel van hatalmazva, és Romániában kapcsolattartó ponttal rendelkezik. A (7) bekezdés a normát a végrehajtási mechanizmushoz kapcsolja: a képviselő hiánya a nem megfelelő üzemeltetők listájára való felvételt és esettől függően a hozzáférés blokkolását vonja maga után. Az intézménynek rögzült előzményei vannak az uniós jogban – az általános adatvédelmi rendelet 27. cikkében előírt képviselő, a digitális szolgáltatásokról szóló rendelet 13. cikke szerinti törvényes képviselő és az MI-rendelet 54. cikke szerinti meghatalmazott képviselő –, valamint a román jogban, az elektronikus kereskedelemről szóló 365/2002. számú törvény útján.

→ a cikk szövege A 20. cikk a súlyos incidensek jelentését szabályozza. A 24 órás határidő ((1) bekezdés) a GDPR 33. cikkében szereplő határidő (72 óra), a kockázat súlyosságával arányosan lecsökkentve, a 15 napon belüli teljes jelentés pedig lehetővé teszi az okok elemzését. Az MI-rendelet 55. cikke (1) bekezdése c) pontjával és 73. cikkével való párhuzamosság elkerülése végett az (1) bekezdés második tételmondata kifejezetten pontosítja, hogy a Hatóság felé történő jelentés nem helyettesíti az MI-hivatal felé történő jelentést, és lehetővé teszi a rendelet szerint elkészített jelentés másolatának megküldését, a törvény sajátos elemeivel kiegészítve; így elkerülhető a kettős közigazgatási teher, és tiszteletben tartható az „egyetlen jelentés” elve. A (2) bekezdés a rendszer automatikus felfüggesztését írja elő a kontroll elvesztésére vonatkozó képesség, kivonási kísérlet vagy a súlyokhoz való jogosulatlan hozzáférés megállapítása esetén, a Hatóság döntéséig: e helyzetekben minden működési óra kockázati óra. A (3) bekezdés korlátozott engedékenységet vezet be a jóhiszemű jelentés esetére, a versenyjogi engedékenységi programok (az újraközölt 21/1996. számú versenytörvény által előírt engedékenységi politika) és a civil repülésben fennálló kötelező eseményjelentés (a „méltányos kultúrát” bevezető 376/2014/EU rendelet) modellje szerint: a szankció a jelentés miatt nem lehet súlyosabb, a szándékos jogsértések kivételével. E garancia nélkül a jelentéstételi kötelezettség hatástalan lenne, mivel önfeljelentéssel volna egyenértékű.

→ a cikk szövege A 21. cikk biztosítja a közérdekű bejelentők védelmét. A csúcsrendszerek kockázatairól szóló legfontosabb információk a 2023–2025-ös években nem a hatóságoktól, hanem a laboratóriumok munkavállalóitól és korábbi munkavállalóitól származtak („Right to Warn”, az OpenAI és a Google DeepMind munkavállalóinak és korábbi munkavállalóinak 2024. júniusi nyílt levele), akik feltárták olyan titoktartási és rossz hírbe nem keverési kikötések létét, amelyek a vagyoni jogokat (a megszerzett részvényeket) a hallgatáshoz kötötték. Az (1) bekezdés a közérdekű bejelentők védelméről szóló 361/2022. számú törvény általános rendszerére utal, amely az (EU) 2019/1937 irányelvet veszi át, és amelyre az MI-rendelet 87. cikke is utal, elkerülve így a párhuzamosságot; a törvény nem alkot külön védelmi rendszert, hanem a meglévő rendszert kiterjeszti három olyan helyzetre, amelyet a 361/2022. számú törvény kifejezetten nem fog át: a biztonságot fenyegető kockázatok bejelentése (nem csupán a törvény megsértéseinek bejelentése), a közvetlenül a Parlamenthez vagy a nyilvánossághoz intézett bejelentés és a képességek elrejtésének bejelentése. A (2) bekezdés a törvény erejénél fogva érvénytelennek mondja ki azokat a szerződéses kikötéseket, amelyek megakadályozzák a bejelentést, vagy vagyoni jogokat a hallgatáshoz kötnek, kiegészítve a 361/2022. számú törvény jogokról való lemondás érvénytelenségére vonatkozó rendelkezéseit, amelyek csak az e törvényben előírt jogokat érintik. A (3) bekezdés a 41. cikk (3) bekezdésében szereplő megtorlási bűncselekményre utal, a (4) bekezdés pedig kötelezi a Hatóságot arra, hogy biztonságos és anonim csatornát szervezzen, és éves statisztikákat tegyen közzé, amely hatékonysági garanciát a 361/2022. számú törvény bejelentési csatornákra vonatkozó rendszeréből és a kaliforniai SB 53-ból (a kaliforniai munka törvénykönyvének 1107. szakasza) vettek át.

→ a cikk szövege A 22. cikk megállapítja a számítási infrastruktúra szolgáltatóinak kötelezettségeit: a Hatóságnál való nyilvántartásba vétel, az ügyfelek személyazonosságának ellenőrzése („az ügyfél megismerése”, a pénzmosás és a terrorizmus finanszírozásának megelőzéséről és az azok elleni küzdelemről szóló 129/2019. számú törvény modellje szerint), az ügyfelenkénti számítási volumen nyilvántartása és a felfüggesztési rendelkezések teljesítése ((1) bekezdés), valamint annak tilalma, hogy küszöb feletti kapacitást bocsássanak olyan személy rendelkezésére, aki nem bizonyítja a bejelentés megtörténtét ((2) bekezdés). A rendelkezés az infrastruktúra-szolgáltatókat a rendszer „őreivé” alakítja, ugyanabban a logikában, amelyben a hitelintézetek a pénzmosás megelőzési rendszer őrei, és ez az egyetlen, amely lehetővé teszi a törvény alkalmazását olyan külföldi fejlesztőkkel szemben, akik romániai adatközpontokat használnának.

→ a cikk szövege A 23. cikk kiterjeszti a kötelezettségeket a hatóságokra és közintézményekre, ideértve a nemzeti védelem és biztonság területén működőket is. A rendelkezés alkotmányos és szükséges: az MI-rendelet 2. cikkének (3) bekezdése éppen azért zárja ki a nemzetbiztonságot a saját területéről, mert az a tagállamok kizárólagos hatásköre (az Európai Unióról szóló szerződés 4. cikkének (2) bekezdése), ami azt jelenti, hogy nemzeti szabályozás hiányában az e célokra fejlesztett rendszerek minden normán kívül maradnának. A törvény e rendszerekre a 12–20. cikket és az V. fejezetet alkalmazza, az Ország Legfelsőbb Védelmi Tanácsának határozatával megállapított kiigazításokkal (az Alkotmány 119. cikke és a 415/2002. számú törvény szerint hatáskörrel rendelkező szerv), de három olyan korláttal, amelyet a CSAT sem küszöbölhet ki: az érdemi emberi kontroll, a leállítási képesség és a 15. cikkben szereplő tilalmak. A Hatóság ellenőrzését a 182/2002. számú törvény szerinti biztonsági tanúsítvánnyal rendelkező személyzet gyakorolja, ami biztosítja a minősített információk védelmét.

V. fejezet – Feltétlen korlátok. Az emberiességre vonatkozó kikötések (23–30. cikk)

Az V. fejezet azokat a tilalmakat tartalmazza, amelyeket a törvény közrendi normákként rögzít, és amelyektől engedéllyel, szerződéssel vagy hozzájárulással nem lehet eltérni. Az „emberiességre vonatkozó kikötések” megnevezés a nemzetközi humanitárius jogból származik (az 1899. és 1907. évi hágai konvenciók Martens-klauzulája, amely szerint a nem előírt esetekben a személyek az „emberiesség elveinek és a közvélekedés követelményeinek” védelme alatt maradnak), és azt a gondolatot fejezi ki, hogy egy olyan technológiával szemben, amelynek következményei nem előre láthatók, a törvénynek néhány olyan korlátot kell megállapítania, amelyek nem függnek kockázatértékelésektől, küszöböktől vagy engedélyektől.

→ a cikk szövege A 24. cikk rögzíti az emberi kontrollt a halálos erő felett. Az (1) bekezdés megtiltja, hogy az emberi lény elleni halálos erő alkalmazására vonatkozó döntést mesterséges intelligencia rendszer hozza meg vagy hajtsa végre azonosított természetes személy beavatkozása nélkül, „minden egyes döntés tekintetében külön”, aki rendelkezik az annak értékeléséhez és megakadályozásához szükséges információkkal, idővel és eszközökkel. A megfogalmazás átveszi az Egyesült Nemzetek egyes hagyományos fegyverekről szóló konvenciója keretében kialkudott „érdemi emberi kontroll” szabványát, valamint az ENSZ főtitkára és a Vöröskereszt Nemzetközi Bizottsága által kifejezett álláspontot (a 2023. október 5-i közös felhívás) az autonóm fegyverrendszerekről szóló, jogilag kötelező erejű eszköz 2026-ig való megkötése érdekében; az ENSZ Közgyűlésének 2023. december 22-i 78/241. számú határozatát 152 állam szavazatával fogadták el, Romániát is beleértve. A (2) bekezdés kötelezi a román államot arra, hogy ilyen rendszereket ne fejlesszen, ne szerezzen be és ne engedélyezzen, és támogassa azok nemzetközi megtiltását. A rendelkezés nem érinti a lövedékek vagy a pilóta nélküli légi járművek elleni automatikus védelmi rendszereket, amelyek nem emberi lényekre irányulnak, sem a döntéstámogató rendszereket, amelyeknél a döntés emberi marad.

→ a cikk szövege A 25. cikk megtiltja a mesterséges intelligencia rendszerek jogi személyiségét és vagyoni önállóságát. Az (1) bekezdés kifejezetten kizárja, hogy a rendszerek jogi személyiséget szerezzenek, vagy jogviszonyokban felek legyenek, és minden általuk közvetített jogi cselekményt annak a személynek számít be, akinek nevében cselekedtek. A rendelkezés szükséges, mert az Európai Parlament 2017. február 16-i állásfoglalása (2015/2103(INL)) javasolta az autonóm robotok tekintetében az „elektronikus személy” jogállásának feltárását, amely javaslatot később elvetettek, a román jogszabályok pedig nem tartalmaznak kifejezett normát; a Polgári Törvénykönyv 25. cikke felsorolja a jogalanyokat (a természetes személyt és a jogi személyt), de nem zárja ki más kategóriák törvénnyel való létrehozását. A (2) bekezdés megtiltja, hogy a rendszereknek arra való képességet tulajdonítsanak, hogy pénzzel, digitális eszközökkel, pénzügyi instrumentumokkal, kriptográfiai kulcsokkal vagy számítási erőforrásokkal rendelkezzenek, azokat kezeljék vagy azokról rendelkezzenek minden egyes művelet emberi jóváhagyása nélkül; e tilalom az 5. cikk (2) bekezdés c) pontjában szereplő, „az erőforrások autonóm megszerzésére” vonatkozó kritikus képesség vagyoni következménye: az a rendszer, amely képes fizetni a saját számítási infrastruktúrájáért, többé nem állítható le a finanszírozás megszakításával. A (3) bekezdés megtiltja a rendszer által tényleges módon ellenőrzött jogi személyek vagy vagyonkezelő alapítványok létrehozását, hogy elzárja a jogi jogalany közbeiktatásával történő kijátszás útját.

→ a cikk szövege A 26. cikk bevezeti annak tilalmát, hogy a társadalmi életben való részvételt mesterséges intelligencia rendszerek döntéseitől és digitális eszközök elfogadásától tegyék függővé. A rendelkezés a technikai kontroll elvesztésétől különálló, de az állampolgár szabadsága szempontjából ugyanolyan súlyos veszélyre válaszol: egy olyan társadalom veszélyére, amelyben a jogokhoz, az alapvető szolgáltatásokhoz, valamint a gazdasági és polgári élethez való hozzáférés feltételes szolgáltatássá válik, amelyet automatikusan adnak meg vagy vonnak vissza aszerint, hogy a személy megfelel-e vagy nem. A figyelmeztetést emlékezetes szavakkal, nyilvánosan fogalmazta meg Alex Antic ausztrál szenátor egy 2026-ban széles körben terjesztett parlamenti felszólalásában: egy egykor szabad országban az állampolgár birtokolta azokat a dolgokat, amelyekért fizetett, és nem előfizetéses életet élt; „a digitális börtön bezárul, nem csupán Ausztráliában, hanem globálisan”, és ha egyszer kiteljesedik, „a szabadságod a nagy kormányzattal és a nagy technológiával szembeni megfeleléstől fog függeni, amelyek a társadalomban való részvételed leállító gombját fogják kezelni”. A mesterséges intelligencia az, ami egy ilyen építményt nagy léptékben lehetővé tesz, mivel egyedül az képes egyszerre, emberi beavatkozás nélkül felügyelni, értékelni és dönteni személyek millióiról; ezért a tilalomnak az emberiességre vonatkozó kikötések fejezetében van a helye.

Az (1) bekezdés megtiltja a hatóságoknak és közintézményeknek, valamint az általános érdekű alapvető szolgáltatások szolgáltatóinak, hogy valamely személy alapvető jogokhoz és szabadságokhoz, köz- és alapvető szolgáltatásokhoz, illetve a gazdasági, társadalmi és polgári életben való részvételhez fűződő hozzáférését „kizárólag” mesterséges intelligencia rendszer által előállított döntés, értékelés vagy osztályozás „alapján” tegyék feltételhez kötötté, korlátozzák vagy függesszék fel; a rendelkezés nem tiltja a rendszerek segédeszközként való használatát, hanem az emberi döntés helyettesítését. A (2)–(6) bekezdés három szinten építi fel a személy garanciáit. Az első szint közigazgatási: a döntés 15 napon belüli, azonosított természetes személy általi újbóli megvizsgálásához való jog, aki a végső döntésért felelősséget hordoz, és azt írásban indokolja ((2) bekezdés), ami megakadályozza, hogy az „újbóli megvizsgálás” egy második automatikus eljárássá alakuljon. A második szint a szolgáltatáshoz való hozzáférést érinti, nem a döntés megtámadását: a (3) bekezdés a szolgáltatás megszerzésének vagy a jog gyakorlásának olyan útjának fenntartására kötelez, amely nem függ mesterséges intelligencia rendszertől, azaz személy közvetítésével, a székhelyen, ügyfélpultnál vagy más elérhető eszköz útján, oly módon, hogy az az állampolgár, aki nem képes vagy nem akar az automatizált rendszeren átmenni, ne legyen kirekesztve; a (4) bekezdés pedig, a norma magja, megtiltja, hogy a hozzáférést digitális azonosítási eszköz, digitális fizetési eszköz vagy megfelelés-értékelési rendszer elfogadásától tegyék függővé, kötelező alternatívával. A törvény nem tiltja a digitális személyazonosságot, a digitális fizetést vagy az automatikus értékelést mint olyat; azt tiltja, hogy ezek a társadalomban való részvétel kötelező feltételévé váljanak. A harmadik szint bírósági, az Alkotmány 21. cikke szerint: az (5) bekezdés jogot ad a személynek arra, hogy az újbóli megvizsgálást követően fenntartott döntést, az újbóli megvizsgálás megtagadását, valamint a hozzáférési út vagy az alternatíva megtagadását a lakóhelye vagy tartózkodási helye szerinti törvényszéken támadja meg, 30 napon belül, bírósági illetékmentességgel, sürgősségi elbírálással és a döntés felfüggesztésének lehetőségével, függetlenül attól, hogy a kibocsátó hatóság vagy magánszolgáltató; a (6) bekezdés fellebbezést ír elő az ítélőtáblához, 15 napon belül, amelynek határozata végleges. A személy lakóhelye szerinti törvényszék hatásköre, és nem a kibocsátó székhelye szerinti bíróságé, a gyengébb fél védelmének szabálya, amely ismert a fogyasztói jogban (az 1215/2012/EU rendelet 18. cikke) és a munkaügyi jogvitákban; az eljárás egységesítése a hatóságok és a magánszolgáltatók tekintetében, felülvizsgálat helyett fellebbezéssel, megkívánja a közigazgatási bíráskodásról szóló 554/2004. számú törvény 10. cikkétől való kifejezett eltérést, amelyet a 24/2000. számú törvény 63. cikke szerint fogalmaztak meg, és amelyet a jogvita tárgyának azonossága indokol, a kibocsátó minőségétől függetlenül. A (7) bekezdés kimerítő felsorolás útján határozza meg az általános érdekű alapvető szolgáltatásokat (energia, gáz, víz, hírközlés, pénzügyi és fizetési szolgáltatások, egészségügy, közösségi közlekedés, oktatás), a 24/2000. számú törvény által megkívánt pontosság érdekében. A (8) bekezdés összehangolja a normát az MI-rendelet 5. cikke (1) bekezdésének c) pontjával, amely megtiltja a „társadalmi pontozás” rendszereit, valamint az (EU) 2016/679 rendelet 22. cikkével, amely jogot ad a személynek arra, hogy ne vonatkozzon rá a kizárólag adatainak automatikus feldolgozásán alapuló döntés; a két európai norma meghatározott feltevésekben védi a személyt (a társadalmi magatartás aránytalan kezeléssel járó értékelése, illetve a személyes adatok feldolgozása), míg a 26. cikk objektív, közrendi tilalmat vezet be a jogokhoz és szolgáltatásokhoz való hozzáférés tekintetében, azok megkettőzése nélkül. A rendelkezés a mesterséges intelligencia területén folytatja az állampolgárnak a digitális platformokkal és a technológiai behatolásokkal szembeni, a Szuverenitási törvény által rögzített védelmét, és az Alkotmány 1. cikke (3) bekezdésére, 16. cikkére és 53. cikkére támaszkodik: egyes jogok gyakorlásának korlátozása csak törvénnyel, arányosan és a jog létének megsértése nélkül rendelhető el, amely feltételeket egy emberi felelősség nélküli automatikus döntés nem képes teljesíteni.

→ a cikk szövege A 27. cikk rögzíti a mesterséges intelligencia rendszerek útján gyakorolt cenzúra tilalmát. Az (1) bekezdés az Alkotmány 30. cikke (2) bekezdéséből indul ki („A bármely formájú cenzúra tilos”), és azt az automatizált eszközökre kifejti: egy olyan alkotmányos tilalom, amely történetileg az emberi cenzorhoz szólt, nem kerülhető meg azzal, hogy ugyanezt a funkciót olyan rendszerre bízzák, amely arról dönt, hogy az állampolgárok mit mondhatnak és mit tudhatnak meg. A norma nem alkot új jogot, hanem megakadályozza egy meglévő jog tartalmának kiürítését, ami az alapvető jogokat szavatoló normák kategóriájába helyezi, amelyek nem tartoznak az MI-rendelet által harmonizált területhez, mivel az a rendszerek operátorainak kötelezettségeit szabályozza, nem a személyek jogainak tartalmát. A (2) bekezdés a tilalom tárgyi elemét az automatikus moderálás gyakorlatának technikai fogalmaival határozza meg: a vélemény kifejezésének megakadályozása, eltávolítása, blokkolása, elrejtése, láthatóságának korlátozása és hamisként való megjelölése, valamint a személy szankcionálása a vélemény kifejezése miatt, amikor ezeket kizárólag a rendszer rendeli el, és olyan véleménykifejezést érintenek, amelyet a törvény nem tilt. A „kizárólag a rendszer által előállított döntés… alapján” formula ugyanaz, mint a 26. cikk (1) bekezdésében és az (EU) 2016/679 rendelet 22. cikkében szereplő, a „ha a véleménykifejezést a törvény nem tiltja” feltétel pedig érintetlenül tartja a véleménynyilvánítás szabadságának az Alkotmány 30. cikke (6) és (7) bekezdésében, valamint a büntetőtörvényben előírt korlátait. A (3) bekezdés megtiltja a hatóságoknak és közintézményeknek, hogy közvetlenül vagy harmadik személyek útján mesterséges intelligencia rendszereket használjanak, rendeljenek meg, finanszírozzanak vagy igényeljenek a nyilvános véleménykifejezés monitorozására, osztályozására, megjelölésére vagy korlátozására; a kivétel a törvény által kifejezetten előírt esetekre korlátozódik, büntetőjogi cselekményekkel összefüggésben és a bíró előzetes engedélyével, azaz a büntetőeljárási törvénykönyv szerinti technikai megfigyelési intézkedések rendszerére. A norma több államban dokumentált gyakorlatra válaszol, amelyben a hatóságok informális csatornákon kérték a platformoktól jogszerű tartalmak automatikus korlátozását. A (4) bekezdés bevezeti az intézkedés átláthatóságát: a haladéktalan, írásbeli közlést az indokokkal, a jogalappal és annak megjelölésével, hogy azt automatikus rendszer útján hozták meg, és megtiltja a láthatóság be nem vallott korlátozását („shadow banning”), azt a gyakorlatot, amellyel valamely személy véleménykifejezését elrejtik a többiek elől anélkül, hogy erről tudomása lenne. Az (5) bekezdés biztosítja a 15 napon belüli emberi újbóli megvizsgálást, és a 26. cikk (5) és (6) bekezdésében szereplő jogorvoslati útra utal: a személy lakóhelye szerinti törvényszék, fellebbezés az ítélőtáblához. A (6) bekezdés elhatárolja a normát a digitális szolgáltatásokról szóló (EU) 2022/2065 rendelettől, amely harmonizált módon szabályozza a közvetítő szolgáltatások szolgáltatóinak kötelezettségeit (a moderálási döntések indokolása, 17. cikk; a belső panaszkezelési mechanizmusok, 20. cikk; a peren kívüli rendezés, 21. cikk): a törvény nem ad hozzá kötelezettségeket a szolgáltatóknak a rendelet által koordinált területen, hanem a személynek szavatol bármely mesterséges intelligencia rendszert használóval szemben, ideértve a hatóságokat is, emberi döntéshez és bírósághoz való jogot, amelyet a rendelet előfeltételez, és nem zár ki. A cikk megsértése közigazgatási szabályszegés (37. cikk (1) bekezdés d) pont), a 30. cikk hatásaként pedig minden ezzel ellentétes kikötés a törvény erejénél fogva érvénytelen.

→ a cikk szövege A 28. cikk szavatolja az emberi beavatkozást, megtiltva a csúcsrendszerek olyan körülmények közötti üzembe helyezését vagy üzemben tartását, amelyek technikai vagy szervezési szempontból lehetetlenné teszik a 14. cikkben előírt beavatkozást, ideértve a rendszer nem ellenőrzött infrastruktúrákra való szétosztását, a leállítási képesség törlését vagy olyan mértékű autonómiát, amely kizárja a felügyeletet. Míg a 14. cikk az üzemeltető pozitív kötelezettségeit állapítja meg, a 28. cikk az annak megfelelő, büntetőjogilag szankcionált feltétlen tilalmat állapítja meg (42. cikk), és azokat a helyzeteket fogja át, amelyekben a beavatkozás nem a rendszer cselekvése, hanem az üzemeltető architekturális választása miatt válik lehetetlenné (például ellenőrzési pont nélküli, decentralizált hálózatokon szétosztott rendszerek).

→ a cikk szövege A 29. cikk megtiltja a nem korlátozott rekurzív önfejlesztést: olyan rendszer tervezését, betanítását vagy üzemeltetését, amely saját képességeit fejleszti, vagy fejlettebb utódrendszereket hoz létre anélkül, hogy minden egyes iterációt a III. fejezet szerinti emberi értékelésnek és jóváhagyásnak vetnének alá. Az „intelligenciarobbanás” forgatókönyvét (I. J. Good, 1965), amelyben egy önmagánál jobb rendszerek tervezésére képes rendszer minden kontrollon kívül eső képességnövekedést indít el, a tudományos közösség jelentős része, köztük Hinton is, a kontroll visszafordíthatatlan elvesztéséhez vezető legvalószínűbb útnak tartja. A cikk nem tiltja a területen folyó kutatást, sem a rendszerek más rendszerek tervezésére való használatát, hanem csak az „emberi hurok” kiküszöbölését az iterációk között; azt kettőzi a 15. cikk e) pontjában szereplő betanítási tilalom és az 5. cikk (2) bekezdés e) pontjában szereplő kritikus képesség, azokkal való átfedés nélkül: az 5. cikk minősít, a 15. cikk a betanítást tiltja, a 29. cikk az üzemeltetést tiltja.

→ a cikk szövege A 30. cikk a fejezet rendelkezéseit közrendi normáknak mondja ki, és minden ezzel ellentétes cselekményt feltétlen érvénytelenséggel szankcionál, pontosítva, hogy a tilalmak nem küszöbölhetők ki hozzájárulással, üzleti titokkal, nemzetbiztonsággal vagy gazdasági érdekkel. A rendelkezés a Polgári Törvénykönyv 11. cikkét („megállapodásokkal vagy egyoldalú jogi cselekményekkel nem lehet eltérni a közrendet érintő törvényektől vagy a jó erkölcstől”) és a feltétlen érvénytelenségről szóló 1246–1250. cikket alkalmazza, és az a szerepe, hogy elzárja a kivétel javára előrelátható érveket: hogy a felhasználó hozzájárult, hogy a rendszer titkos, vagy hogy a gazdasági, illetve a stratégiai érdek ezt kívánja. A nemzetbiztonság kifejezett megemlítése szükséges annak megakadályozásához, hogy olyan értelmezés alakuljon ki, amely szerint a 23. cikk lehetővé tenné a CSAT számára e korlátok kiküszöbölését.

VI. fejezet – A Mesterséges Intelligencia Biztonságáért Felelős Hatóság (31–34. cikk)

→ a cikk szövege A 31. cikk létrehozza a Mesterséges Intelligencia Biztonságáért Felelős Hatóságot, jogi személyiség nélküli szakstruktúraként, az Országos Hírközlési Igazgatási és Szabályozási Hatóság (ANCOM) keretében. Az ANCOM keretében való megszervezés választásának, egy új önálló közigazgatási hatóság helyett, három alapja van. Az első intézményi: az ANCOM már az a hatóság, amelyet a Kormány az MI-rendelet alkalmazásáról szóló memorandumával mesterséges intelligencia tárgyában piacfelügyeleti hatóságként és egyetlen kapcsolattartó pontként javasolt, oly módon, hogy egy párhuzamos hatóság pontosan azt az intézményi párhuzamosságot teremtette volna meg, amelyet a 24/2000. számú törvény 16. cikke megtilt, és a fejlesztőket ugyanazon rendszer tekintetében két hatóság előtt két eljárásra kötelezte volna. A második statutáris: az ANCOM parlamenti kontroll alatt álló önálló közigazgatási hatóság a 22/2009. számú sürgősségi kormányrendelet szerint, amely teljes egészében saját bevételeiből finanszírozódik, és amelyet a 153/2017. számú kerettörvény 2. cikkének (2) bekezdése kifejezetten kizár a közpénzekből fizetett személyzet egységes díjazási rendszeréből, ami bármiféle új eltérés nélkül lehetővé teszi a szakemberek versenyképes díjazását. A harmadik operatív: az ANCOM rendelkezik azzal a területi infrastruktúrával, azzal a technikai személyzettel és azzal az elektronikus hírközlő hálózatok és szolgáltatások szolgáltatóival fennálló intézményi kapcsolattal, amely a 39. cikkben előírt blokkolási intézkedések teljesítéséhez szükséges. A (2) bekezdés a vezetést szabályozza: az ANCOM államtitkári rangú alelnöke, kizárólagos feladatkörökkel a mesterséges intelligencia biztonságának területén, akit a Parlament együttes ülésen nevez ki 6 éves, meg nem újítható mandátumra, a mesterséges intelligencia, az informatikai biztonság vagy a technológiai jog területén elismert képzettséggel és tapasztalattal rendelkező személyek közül. Mivel a 22/2009. számú sürgősségi kormányrendelet megállapítja az ANCOM alelnökeinek számát, a törvény e tisztséget annak 11. cikke (1) bekezdésétől való kifejezett eltéréssel vezeti be, a 24/2000. számú törvény 63. cikke szerint, megtartva azonban a többi alelnök tekintetében előírt kinevezési eljárást és mandátumhosszt, a rendszer egységessége érdekében. A hosszú és meg nem újítható mandátum, amely a 4 éves választási ciklushoz képest elcsúsztatott, a függetlenség klasszikus garanciája. A (3) bekezdés átveszi azt a tilalmat, hogy a mandátum ideje alatt és annak megszűnése után 3 éven át fejlesztőknél vagy üzemeltetőknél tisztséget, részesedést vagy díjazást birtokoljanak, amely a „szabályozói befogás” („revolving door”) kockázatára válaszol, amely különösen élesen jelentkezik egy olyan területen, amelyen a magánszektor díjazásai tízszer nagyobbak, mint a közszférában; a visszahívás esetei kimerítően kerülnek felsorolásra, a 24/2000. számú törvény pontossági követelményének megfelelően. A (4) bekezdés biztosítja a Hatóság működési függetlenségét az ANCOM-on belül: a törvényben előírt határozatokat a mesterséges intelligencia biztonságáért felelős alelnök adja ki az ANCOM nevében, aki azokért a Parlament előtt felel, a Hatóság pedig semmilyen más hatóságtól nem fogadhat el utasításokat, amely formulát az (EU) 2016/679 rendelet 52. cikkéből, az adatvédelmi hatóságok tekintetében, és az MI-rendelet 70. cikke (1) bekezdéséből vettek át. Az (5) bekezdés a Hatóságot nemzeti kapcsolattartó pontnak jelöli ki az MI-hivatal és az MI-rendelet 68. cikkében előírt tudományos testület felé, és szabályozza a rendelet szerint kijelölt nemzeti hatóságokkal való együttműködést, elhatárolva a hatásköröket: a Hatóság a jelen törvény szerinti feladatköröket gyakorolja, a többi hatóság a rendelet szerintieket.

→ a cikk szövege A 32. cikk felsorolja a Hatóság feladatköreit, egy engedélyezési rendszerhez szükséges öt funkció szerint: az engedélyezés (a) pont), az ellenőrzés (b) pont), a sürgősségi beavatkozás (c) pont), a technikai normaalkotás (d) pont) és a szankcionálás (e) pont), amelyekhez hozzáadódik az értékelő szervezetek felügyelete (f) pont), a 26. és 27. cikkben szereplő, az emberiességre vonatkozó kikötések megsértésére vonatkozó személyes bejelentések átvétele és elbírálása (g) pont), a Parlament felé történő éves jelentéstétel (h) pont), a nemzetközi képviselet (i) pont) és a kutatás (j) pont). A g) pontban szereplő feladatkör egyszerű, ingyenes közigazgatási utat ad az állampolgárnak a hozzáférés feltételhez kötése és az automatikus cenzúra ellen, anélkül, hogy elvonná tőle a közvetlenül a bírósághoz fordulás jogát. A kockázat állapotáról szóló, március 31-i határidejű éves nyilvános jelentés, amely a 26. és 27. cikkre vonatkozó bejelentéseket is tartalmazza, az az eszköz, amellyel a Parlament és a nyilvánosság nyomon követheti a képességek fejlődését és a törvény megfelelőségét; modellje a Nukleáris Tevékenységek Ellenőrzésének Országos Bizottsága és a Személyes Adatok Feldolgozását Felügyelő Országos Hatóság éves jelentései. A kutatási feladatkör (j) pont) szükséges, mert a rendszerek értékelése, értelmezhetősége és illesztése kialakulóban lévő tudományos területek, amelyeken az a hatóság, amely csupán mások szabványait alkalmazza, tartósan lemaradásban marad.

→ a cikk szövege A 33. cikk a személyzetet és a finanszírozást szabályozza. Az (1) és a (2) bekezdés arra a kérdésre válaszol, amelytől az egész törvény függ: ki fogja értékelni a csúcsrendszereket. A szakszemélyzetet kizárólag versenyvizsga útján nevezik ki, amely nyitott minden olyan személy számára, aki megfelel a tanulmányi és tapasztalati feltételeknek, és amelyet legalább 30 nappal előbb kiírnak, a legalább 5 tagú versenyvizsga-bizottság pedig legalább 3, az információtechnológia és a távközlés területén működő egyetemi tanárt foglal magában, akiket az e területeken doktori képzést szervező akkreditált egyetemek javasolnak. Az egyetemi tanárok többségi jelenléte a bizottságban kettős szerepet tölt be: szavatolja, hogy a kiválasztás ellenőrizhető tudományos szakértelem, és nem közigazgatási vagy politikai szempontok alapján történjék, és kivonja a felvételt az ipar befolyása alól, mivel a bizottság tagjaira ugyanazok az összeférhetetlenségek vonatkoznak, mint a Hatóság személyzetére. A bizottság összetételének és az eredményeknek a közzététele biztosítja a nyilvános kontrollt. A modell az oktatói és kutatói állásokra kiírt versenyvizsgák (a 199/2023. számú felsőoktatási törvény) és a bírói-ügyészi karban működő versenyvizsga-bizottságok modellje, amelyekben a szakmai tekintéllyel rendelkező külső tagok részvétele a tárgyilagosság garanciája. A (3) bekezdés a magánszektorral versenyképes szintű díjazást ír elő, az ANCOM saját bérrendszere szerint, amelyet évente, közzétett piaci tanulmány alapján állapítanak meg; mivel az ANCOM személyzetét a 153/2017. számú kerettörvény annak 2. cikke (2) bekezdése útján kizárja hatálya alól, semmilyen eltérés nem szükséges, ami az ANCOM keretében való megszervezés választásának egyik indoka. Versenyképes díjazás nélkül az intézmény egyetlen olyan szakembert sem tudna felvenni, aki képes egy csúcsrendszert értékelni. A (4) bekezdés kiterjeszti az összeférhetetlenségeket a teljes személyzetre, 2 éves határidővel. Az (5) bekezdés a finanszírozást az ANCOM költségvetéséből, a bejelentési, értékelési és engedélyezési díjakból (az Országos Gyógyszerügynökség és a Nukleáris Tevékenységek Ellenőrzésének Országos Bizottsága által beszedett díjak modellje szerint), valamint a bírságok 50%-os kvótájából írja elő, amely a mesterséges intelligencia biztonsága területén folyó kutatás alapját képezi, elkülönítve kimutatva; a bírságok e célra való rendelését az indokolja, hogy a törvény megsértésével előállított társadalmi kár éppen a biztonság tárgyában fennálló tudásbeli hiány.

→ a cikk szövege A 34. cikk létrehozza a tudományos tanácsadó testületet, amely 9 elismert kutatóból áll, akik közül legalább 3 külföldi, és amelynek feladatköre a szabványok, a kritikus képességek listájának és a küszöbök kiigazításának véleményezése, valamint amelynek joga van különvéleményeket közzétenni. A külföldi tagok jelenléte szükséges, mert a területen a csúcsszakértelem a világ néhány központjában koncentrálódik, a nyilvános különvéleményhez való jog pedig annak garanciája, hogy a tanácsadó vélemény nem hagyható figyelmen kívül hallgatólagosan. A modell az MI-hivatal tudományos testületének (az MI-rendelet 68. cikke) és az európai szabályozó ügynökségek tudományos tanácsainak modellje.

VII. fejezet – A felelősség (35–45. cikk)

→ a cikk szövege A 35. cikk bevezeti a fejlesztő és az üzemeltető objektív, egyetemleges polgári jogi felelősségét a csúcsrendszer által okozott károkért, ideértve a rendszer autonóm cselekvései útján, harmadik személyek általi felhasználás útján vagy a súlyok kiszivárogtatása útján okozott károkat is. Az alap a Polgári Törvénykönyv 1376. cikke (a dolgok által okozott károkért való, minden vétkességtől független felelősség), amelyre a törvény kifejezetten utal, elkerülve a párhuzamosságot; a törvény nem alkot új felelősséget, hanem pontosítja a dolgokért való felelősség alkalmazását a „dolgok” olyan kategóriájára, amelynek autonómiája bizonytalanná teszi a „jogi őrizet” fogalmát. A sajátos modell a nukleáris károkért való polgári jogi felelősségről szóló 703/2001. számú törvény, amely a felelősséget kizárólag a létesítmény üzemeltetőjére csatornázza, a vétkességtől függetlenül, kötelező biztosítással és korlátozott kimentési okokkal; ugyanezt a modellt használja a nukleáris károkért való polgári jogi felelősségről szóló 1960. évi párizsi és 1963. évi bécsi konvenció.

A (2) bekezdés a kimentési okokat a sértett kizárólagos cselekményére és a rendszeren kívüli vis maiorra szűkíti, és kifejezetten kizárja a vis maior fogalmából a rendszer előre nem látható magatartását, az értékelési hibát, a hozzáférést szerzett harmadik személy cselekményét és a tudományos tudás hiányát az üzembe helyezés időpontjában. Ez utóbbi kizárás kiküszöböli a „fejlesztési kockázatra” („development risk defence”) alapított védekezést, amelyet a 85/374/EGK irányelv 7. cikkének e) pontja megengedett, és amelyet az (EU) 2024/2853 irányelv – a tagállamok eltérési lehetőségével – fenntart, de amely összeegyeztethetetlen lenne a törvény előfeltevésével: ha a fejlesztő arra hivatkozik, hogy nem ismerhette a kockázatot, éppen azt a bizonytalanságot igazolja, amely az engedélyezési rendszert indokolja, és felelnie kell azért, hogy e bizonytalanságban helyezte üzembe a rendszert. A (3) bekezdés érvénytelennek mondja ki a harmadik személyekkel szembeni felelősséget korlátozó kikötéseket, szakemberek között pedig csak vagyoni károk tekintetében, a biztosított összegek keretein belül engedi meg azokat. A (4) bekezdés 10 éves, a tudomásszerzéstől számított, és 30 éves, a cselekménytől számított elévülési határidőket állapít meg, amelyek azonosak a 703/2001. számú törvényben szereplőkkel, és amelyeket egyes károk lappangó jellege indokol. Az (5) bekezdés összehangolja a cikket a hibás termékekért való felelősséggel (a 240/2004. számú törvény és az (EU) 2024/2853 irányelv jövőbeli átvétele), amelyet nem zár ki, de a kettős jóvátétel tilalmával, elkerülve így a normatív átfedést.

→ a cikk szövege A 36. cikk kötelező felelősségbiztosítást vagy azzal egyenértékű pénzügyi garanciát ír elő, 100 millió eurós minimális küszöbbel az I. kategóriájú rendszerek és 1 milliárd eurós küszöbbel a II. kategóriájúak tekintetében, valamint a sértett közvetlen keresetét a biztosítóval szemben. A modell a 703/2001. számú törvény (a nukleáris üzemeltető kötelező biztosítása vagy pénzügyi garanciája) és a kötelező gépjármű-felelősségbiztosításról szóló 132/2017. számú törvény (a károsult személy közvetlen keresete a biztosítóval szemben). Az összegeket a csúcsfejlesztők pénzügyi kapacitásához (amelyeket több száz milliárd dollárra értékelnek) és a lehetséges károk mértékéhez kalibrálták; a III. kategóriájú rendszerek nem szerepelnek, mert nem helyezhetők üzembe. A biztosítási kötelezettségnek közvetett szabályozási funkciója is van: a biztosítók a szerződéskötési feltételek útján olyan biztonsági szabványokat írnak majd elő, amelyeket a törvény nem tud részletezni.

→ a cikk szövege A 37. cikk megállapítja a közigazgatási szabályszegéseket, ideértve az (1) bekezdés e) és f) pontjában az előállított tartalom jelölésére, a felhasználó tájékoztatására és a megfelelési képviselőre vonatkozókat is, amelyek tekintetében a (2) bekezdés második tételmondata alacsonyabb, fix összegű felső határt ír elő akkor, amikor a cselekményt olyan személy követi el, aki nem csúcsrendszer fejlesztője vagy üzemeltetője, a szankció arányosságának követelménye alapján. A közigazgatási szabályszegések súlyossági fokozatokba szerveződnek, a világszintű árbevétel százalékában kifejezett bírságokkal (1–3%, 2–5%, 3–7%, 5–10%), az MI-rendelet 99. cikkének (7%-ig) és a GDPR 83. cikkének (4%-ig) modellje szerint, valamint fix bírságokkal az árbevétellel nem rendelkező személyek tekintetében ((2) bekezdés). A (3) bekezdés kiegészítő szankciókat ír elő, ideértve a súlyok elvonását, amely sajátos szankció, amely nélkül a bírság csupán tranzakciós költség lenne. A (4) bekezdés a 2/2001. számú kormányrendelet általános rendszerére utal, két, a 24/2000. számú törvény 63. cikke szerint megfogalmazott eltéréssel: a bírság legkisebb összege felének megfizetésére vonatkozó lehetőség kizárása (a rendelet 28. cikke), amely összeegyeztethetetlen a százalékos bírságokkal, és 5 éves elévülési határidő a 6 hónapos helyett (a rendelet 13. cikke (1) bekezdése), amelyet a megállapítás összetettsége indokol. A jelen törvényben szereplő közigazgatási szabályszegések nem fedik át az MI-rendelet szerintieket: a rendelet 101. cikkében előírt bírságokat kizárólag a Bizottság alkalmazza a rendelet szerinti kötelezettségek megsértéséért, míg a jelen szabályszegések a törvény szerinti kötelezettségek megsértését szankcionálják (bejelentés, biztonsági terv, a funkciók szétválasztása, a súlyok biztonsága, az infrastruktúra-szolgáltatók kötelezettségei), amelyeknek nincs megfelelője a rendeletben.

→ a cikk szövege A 38. cikk új szakaszt nyit meg, „A szolgáltatások nyújtásának megszüntetése és a hozzáférés blokkolása” címmel, amely az egész rendszer egy gyakorlati korlátjára válaszol: a csúcsrendszerek üzemeltetőinek többsége nem rendelkezik Romániában székhellyel, eszközökkel vagy személyzettel, oly módon, hogy a százalékos bírságok és a döntéshozók büntetőjogi felelőssége velük szemben hatás nélkül maradhat. A román állam egyetlen valós emelője egy ilyen üzemeltetővel szemben a területén lévő felhasználókhoz való hozzáférés. Az (1) bekezdés ennek következtében bevezeti a nem megfelelő üzemeltető kötelezettségét arra, hogy a Romániában lévő személyek felé történő szolgáltatásnyújtást a meg nem felelést megállapító határozat közlésétől számított 15 napon belül megszüntesse; a kötelezettség nem szankció, hanem annak természetes következménye, hogy a szolgáltatás nem teljesíti a nyújtás törvényi feltételeit, a nem megfelelő termékek piacról való kivonásának modellje szerint (a piacfelügyeletről szóló (EU) 2019/1020 rendelet 16. cikke). A (2) bekezdés előírja a határozat közzétételét a nem megfelelő üzemeltetők listáján, amely kettős szerepű átláthatósági eszköz: a felhasználók és a hírközlési szolgáltatók tájékoztatása, valamint a 43. cikkben előírt bűncselekmény tudati előfeltételének megteremtése; a modell az engedély nélküli szerencsejáték-szervezőknek a Szerencsejátékok Országos Hivatala által a 77/2009. számú sürgősségi kormányrendelet szerint vezetett nyilvános listája. A (3) bekezdés a nyújtás folytatását 1.000.000-tól 10.000.000 euróig terjedő bírsággal szankcionálja, lejben kifejezett egyenértékben, amelyet a folytatás minden hónapjára vagy hónaptöredékére alkalmaznak, a megfelelésig vagy a megszüntetésig; a bírság időszakos jellegét az 1/2003/EK rendelet 24. cikkében és a digitális szolgáltatásokról szóló (EU) 2022/2065 rendelet 76. cikkében előírt kényszerítő bírságok intézményéből vették át, és ez az egyetlen, amely hatékonyságot biztosít egy milliárdos bevételekkel rendelkező operátorral szemben. Az összeget euróban fejezik ki, a napi árfolyamon lejben történő fizetéssel, amely technikát a 24/2000. számú törvény megenged, és amelyet a pénzügyi jogszabályok használnak. A (4) bekezdés a megfelelés esetén történő törlést szabályozza, az (5) bekezdés pedig kiterjeszti a rendszert a közvetlenül hozzáférést nyújtó fejlesztőre, a külön üzemeltető hiánya útján történő kijátszás elkerülése céljából.

→ a cikk szövege A 39. cikk a hozzáférés blokkolását szabályozza, mint átmeneti közigazgatási intézkedést, amely a megszüntetési kötelezettséghez képest másodlagos. Az (1) bekezdés azt a Hatóság indokolt határozatához köti, és a listára való felvétel időtartamára korlátozza; a (2) bekezdés azt az elektronikus hírközlő hálózatok és szolgáltatások szolgáltatói útján, 48 órán belül, az ANCOM technikai támogatásával juttatja végrehajtásra, a román jogban az engedély nélküli szerencsejáték-oldalak (a 77/2009. számú sürgősségi kormányrendelet) és a jogellenes tartalom (a 365/2002. számú törvény, az (EU) 2022/2065 rendelet) tekintetében már működő mechanizmus szerint. A (3) bekezdés biztosítja az arányosságot: a blokkolás kizárólag a nem megfelelő szolgáltatást érinti, nem az üzemeltető teljes tevékenységét, és a törléssel a törvény erejénél fogva megszűnik. A (4) bekezdés az uniós joggal való összeegyeztethetőség érdekében szükséges: a más tagállamból nyújtott szolgáltatások tekintetében az elektronikus kereskedelemről szóló, a 365/2002. számú törvénnyel átvett 2000/31/EK irányelv 3. cikkének (4)–(6) bekezdése az információs társadalommal összefüggő szolgáltatások szabad áramlásának korlátozását kizárólag közrendi, közbiztonsági vagy egészségvédelmi okokból engedi meg, arányos, esetenként meghozott intézkedéssel, valamint a származási állam és a Bizottság előzetes értesítésével; a törvény kifejezetten ezen eljárásra utal. Az (5) bekezdés szavatolja az igazságszolgáltatáshoz való hozzáférést (az Alkotmány 21. és 52. cikke): 30 napon belüli megtámadás a Bukaresti Ítélőtáblánál, sürgősségi elbírálással, a teljesítés felfüggesztése nélkül, amely megoldás azonos a 14. cikk (4) bekezdésében szereplővel, és amelyet az intézkedés megelőző jellege indokol. A (6) bekezdés mentesíti a hírközlési szolgáltatókat a határozat teljesítéséért való felelősség alól, a 2000/31/EK irányelv 12–15. cikkének modellje szerint (a 365/2002. számú törvény 11. és azt követő cikkei).

→ a cikk szövege A 40. cikk bűncselekménynek minősíti az engedély nélküli üzembe helyezést és az üzemeltetés folytatását a leállítási rendelkezést követően, 2-től 7 évig terjedő, illetve 5-től 12 évig terjedő szabadságvesztéssel, ha a cselekmény következménye valamely kritikus képesség megnyilvánulása volt. A bűncselekménnyé minősítés a 111/1996. számú törvény 44. és azt követő cikkeinek modelljét követi (a nukleáris tevékenységek engedély nélküli folytatása, amelyet szabadságvesztéssel büntetnek). A büntetési tételek a Büntető Törvénykönyvben szereplő súlyos veszélyeztetési bűncselekmények tételei (például a 345. cikk – a nukleáris anyagokra vonatkozó rendszer be nem tartása, 3–10 év). A törvény nem módosítja a Büntető Törvénykönyvet, hanem különös törvényben állapít meg bűncselekményeket, a 24/2000. számú törvény 1. cikke (1) bekezdése és a különös jogszabályok állandó gyakorlata szerint (a 111/1996. számú törvény, a terrorizmus megelőzéséről és az az elleni küzdelemről szóló 535/2004. számú törvény).

→ a cikk szövege A 41. cikk bűncselekménynek minősíti az értékelésben elkövetett csalást és az ellenőrzés akadályozását. A képességekre vonatkozó hamis adatok szolgáltatása, illetve a rendszer olyan konfigurálása, hogy az az értékelőknek a valósaktól eltérő képességeket mutasson ((1) bekezdés, 3–10 év), a rendszer sajátos bűncselekménye: egy olyan engedélyezési rendszer, amely a kérelmező által szolgáltatott bizonyítékokon alapul, nem működhet, ha azok meghamisítása csupán közigazgatási szabályszegés. A modell az összehasonlító jogban az Egyesült Államok Kódexe 18. címének 1001. szakasza, amely legfeljebb 5 évvel büntet a szövetségi hatóságok felé tett hamis nyilatkozatokat. A második feltevés (a rendszer konfigurálása az értékelés megtévesztésére) a 2015-es „Dieselgate” előzményre válaszol, amelyben a járművek észlelték a tesztkörülményeket, és módosították magatartásukat, valamint az 5. cikk (2) bekezdés d) pontjában szereplő kritikus képességre. A hozzáférés akadályozása és a naplók megsemmisítése ((2) bekezdés, 1–5 év) a Büntető Törvénykönyv 275. cikkének modelljét követi (bizonyítékok vagy okiratok eltulajdonítása vagy megsemmisítése). A bejelentőkkel szembeni megtorlás ((3) bekezdés, 6 hónap–3 év vagy pénzbüntetés) kiegészíti a 21. cikk szerinti védelmet; a 361/2022. számú törvény a megtorlást csupán közigazgatási szabályszegésként szankcionálja, ami elégtelen egy olyan terület tekintetében, amelyben egy munkavállaló hallgatásának tétje több milliárd euró is lehet.

→ a cikk szövege A 42. cikk bűncselekménynek minősíti a tiltott rendszerek fejlesztését: a 15. cikk, a 25. cikk (2) és (3) bekezdése, a 28. cikk vagy a 29. cikk által tiltott körülmények közötti, szándékos betanítást, tervezést vagy üzemeltetést ((1) bekezdés, 3–10 év); a II. vagy a III. kategóriájú rendszerek súlyainak nyilvánosságra hozatalát ((2) bekezdés, 5–15 év), amely cselekmény súlyossága az államtitkot képező információk nyilvánosságra hozatala (a Büntető Törvénykönyv 303. cikke) és az államtitkot képező információk továbbításával elkövetett hazaárulás (a Büntető Törvénykönyv 395. cikke, 10–20 év) között helyezkedik el; valamint a minősített formát, amikor a cselekmények következménye halál, testi sértés, különösen súlyos kár vagy a rendszer feletti emberi kontroll elvesztése volt ((3) bekezdés, 10–20 év), a Büntető Törvénykönyvben szereplő élet elleni bűncselekményeknek megfelelő tételekkel. A szándék követelménye az (1) bekezdésben elhatárolja a bűncselekményt a 37. cikk (1) bekezdés d) pontjában szereplő közigazgatási szabályszegéstől, amely ugyanezen, szándék nélkül elkövetett jogsértéseket szankcionálja.

→ a cikk szövege A 43. cikk bűncselekménynek minősíti a nem megfelelő üzemeltetők listájára felvett szolgáltatáshoz Románia területéről, a blokkolási intézkedés kijátszásával, annak közzétételét követően, jogosulatlanul történő hozzáférést, egytől 3 évig terjedő szabadságvesztéssel vagy pénzbüntetéssel. A rendelkezés bezárja a törvény alkalmazási körforgását: e nélkül a blokkolás kikerülhető lenne a szokásos technikai eszközökkel (virtuális magánhálózatok, közbeiktatott szerverek), és a nem megfelelő üzemeltető továbbra is kiszolgálná a román felhasználókat. Az előterjesztő tudatában van annak, hogy a felhasználó magatartásának bűncselekménnyé minősítése a leginkább arányossági kifogásokra alkalmas rendelkezés, és ezért négy együttes garanciával építette fel: a cselekményt „jogosulatlanul” kell elkövetni; tényleges módon elrendelt blokkolási intézkedés kijátszásában kell állnia, tehát aktív magatartásban, nem puszta használatban; a szolgáltatásnak nyilvános listán kell szerepelnie, ami kizárja a jogellenes jelleg tekintetében fennálló tévedést; a büntetés pedig alternatív (egytől 3 évig terjedő szabadságvesztés vagy pénzbüntetés), a Büntető Törvénykönyv 360. cikke (1) bekezdésében szereplő, informatikai rendszerhez való jogellenes hozzáférés bűncselekményéhez közeli tételekkel (3 hónap – 3 év vagy pénzbüntetés), amely cselekményhez szerkezetileg hasonlít. A (2) bekezdés kivételt tesz az értékelés, kutatás vagy szolgálati feladatkörök gyakorlása céljából, a Hatóság előzetes engedélyével történő hozzáférés javára, hogy éppen a felügyeleti tevékenységet ne akadályozza. A jogi személy felelőssége a Büntető Törvénykönyv 135. cikkében foglalt feltételek szerint áll be, különös norma nélkül. A 45. cikk (1) bekezdése szerint e bűncselekmény tekintetében a büntetőeljárást és az elbírálást az általános jog szerint kell lefolytatni, mivel a DIICOT hatásköre nem indokolt.

→ a cikk szövege A 44. cikk a döntési tisztséget betöltő személyek felelősségét szabályozza. Az (1) bekezdés pontosítja, hogy a bűncselekményeket azon természetes személyek terhére kell megállapítani, akik a körülmények ismeretében elrendelték, jóváhagyták vagy eltűrték a cselekmények elkövetését, minőségüktől függetlenül és a jogi személy felelősségétől függetlenül, amely a Büntető Törvénykönyv 135. cikke szerint áll be; a szöveg nem alkot új részességi formát, hanem kiküszöböli az összetett vállalati struktúrákban a felelősség szétszórásával való védekezést. A (2) bekezdés kizárja a felettes vagy a vezető szerv rendelkezésére alapított büntethetőséget kizáró okot, a Római Statútum 33. cikkének és a Büntető Törvénykönyv 21. cikke (2) bekezdésének modellje szerint, amely a szemmel láthatóan jogellenes rendelkezést nem ismeri el jogellenességet kizáró okként. A törvény nem tartalmaz saját normát a büntetőtörvény térbeli alkalmazásáról, mivel a Büntető Törvénykönyv 8. cikkének (4) bekezdése (a bűncselekményt akkor is Románia területén elkövetettnek kell tekinteni, amikor az eredmény, akár részben, e területen állt be) és a Büntető Törvénykönyv 9–11. cikke (a személyiség, a valóság és az egyetemesség elve) elegendő, egy utaló norma pedig a 24/2000. számú törvény 16. cikke által tiltott párhuzamosságot képezné.

→ a cikk szövege A 45. cikk a hatáskört és az átmeneti intézkedéseket állapítja meg. A büntetőeljárást kötelezően a Szervezett Bűnözés és Terrorizmus Elleni Nyomozó Igazgatóság keretében működő ügyész folytatja le ((1) bekezdés), amely struktúra már hatáskörrel bír az informatikai és a terrorizmussal összefüggő bűncselekmények tekintetében (a 78/2016. számú sürgősségi kormányrendelet 11. cikke), az elsőfokú elbírálás pedig a törvényszék hatáskörébe tartozik, a büntetőeljárási törvénykönyv 36. cikke (1) bekezdése c) pontjában szereplő általános szabály szerint az olyan bűncselekmények tekintetében, amelyeket a törvény annak hatáskörébe ad. A (2) bekezdés lehetővé teszi az ügyész számára, hogy átmeneti intézkedésként elrendelje a rendszer leállítását, az infrastruktúra lepecsételését és a súlyok lefoglalását, a jogok és szabadságok bírójának 48 órán belüli megerősítésével, a büntetőeljárási törvénykönyv 249. és azt követő cikkeiben szereplő biztosítási intézkedések és a 168. cikk szerinti informatikai kutatás modellje szerint; a gyors bírósági megerősítés biztosítja az Alkotmány 21. és 53. cikkével való összhangot.

VIII. fejezet – Nemzetközi együttműködés. Átmeneti és záró rendelkezések (46–50. cikk)

→ a cikk szövege A 46. cikk megállapítja a Kormány külső cselekvési kötelezettségeit: az Európai Unió keretében egyenértékű előzetes engedélyezési rendszer és közös európai értékelési kapacitás előmozdítása ((1) bekezdés); az ENSZ, az Európa Tanács, a NATO és más szervezetek keretében a csúcskategóriás számítási képességek korlátozásáról és ellenőrzéséről, a halálos autonóm fegyverek megtiltásáról és a III. kategóriájú rendszerek megtiltásáról szóló szerződés megkötésének kitárgyalása, a Parlament felé történő éves jelentéstétellel ((2) bekezdés); és az értékelések kölcsönös elismeréséről szóló megállapodások megkötése ((3) bekezdés). A cikk nyíltan elismeri, a 2. cikk g) pontjában szereplő elvnek megfelelően, hogy a nemzeti törvény egy globális problémát önmagában nem képes megoldani; e megállapítást azonban cselekvési kötelezettséggé, nem pedig a tétlenség indokává alakítja. A történelmi modell az 1968. évi nukleáris fegyverek elterjedésének megakadályozásáról szóló szerződés, amely a hasadóanyagok ellenőrzése és a Nemzetközi Atomenergia-ügynökség ellenőrzései útján működött; a mesterséges intelligencia megfelelője a számítás ellenőrzése és annak verifikálása, amelyet a szakirodalom „compute governance” néven javasol, és amelyet Hinton, Bengio és számos kutató támogatott a 2023–2025-ös évek nyilvános felhívásaiban.

→ a cikk szövege A 47. cikk 2 évre szóló felülvizsgálati kikötést vezet be, a Hatóság jelentése és a tudományos testület véleménye alapján, és megtiltja, hogy az igazolt kontrollmódszer hiányát a rendszer enyhítésének indokaként hozzák fel. Az időszakos felülvizsgálati kikötést a 24/2000. számú törvény 7. cikke (az előzetes hatásértékelés) és a technológiai fejlődés üteme írja elő; a második tételmondat azonban elzár egy kijátszási utat: azt az érvet, hogy „úgyis nem tudjuk kontrollálni a rendszereket, tehát a szabályozás hiábavaló”, amely a bizonytalanságot engedéllyé változtatná. A törvény azt válaszolja, hogy a bizonytalanság a szabályozás indoka, nem pedig annak feladásának indoka.

→ a cikk szövege A 48. cikk az átmeneti rendelkezéseket tartalmazza, a 24/2000. számú törvény 54. cikke szerint, és egyetlen, a hatálybalépéstől számított 90 napos megfelelési határidőt vezet be a Románia területén üzemeltetésben lévő vagy a Romániában lévő személyek rendelkezésére bocsátott csúcsrendszerek fejlesztői és üzemeltetői számára ((1) bekezdés). E határidőn belül a rendszereket be kell jelenteni a Hatóságnak, és be kell nyújtani az engedélykérelmet, a bejelentett rendszerek pedig a Hatóság döntéséig, de legfeljebb 12 hónapig üzemeltetésben tarthatók, a IV. és az V. fejezet betartásának feltételével ((2) bekezdés); így elkerülhető egyaránt az alkalmazási vákuum és a személyek milliói által használt szolgáltatások hirtelen megszakítása, ugyanakkor a tolerancia feltétlen korlátja megállapításra kerül. A (4) bekezdés ugyanazt a 90 napos határidőt biztosítja a jelölési, a tájékoztatási és a megfelelési képviselő kijelölésére vonatkozó kötelezettségek teljesítésére, a megfelelő közigazgatási szabályszegéseket pedig csak annak lejártát követően lehet megállapítani. A (3) bekezdés előírja, hogy a nyújtás megszüntetésére, a blokkolásra és a kijátszás bűncselekményére vonatkozó rendelkezések (38., 39. és 43. cikk) csak a 90 napos határidő lejártát követően alkalmazandók, ami szavatolja az üzemeltetők számára az előreláthatóságot, és tiszteletben tartja az Alkotmány 15. cikkének (2) bekezdését. A 90 napos határidő a román jogszabályokban új engedélyezési követelményekhez való megfelelésre szokásos határidő, és elegendő a dokumentáció benyújtására, mivel a csúcsfejlesztők már rendelkeznek az MI-rendelet által megkívánt belső értékelésekkel. A (4) bekezdés az ANCOM elnökére bízza a bejelentések átvételét a mesterséges intelligencia biztonságáért felelős alelnök Parlament általi kinevezéséig, oly módon, hogy a megfelelési határidő a hatálybalépéstől folyjék, a kinevezési eljárástól függetlenül.

→ a cikk szövege A 49. cikk előírja a szervezési intézkedéseket és a végrehajtási normákat: a mesterséges intelligencia biztonságáért felelős alelnök Parlament általi kinevezését, valamint az ANCOM szervezeti felépítésének és szervezeti és működési szabályzatának kiegészítését a Hatósággal, az ANCOM elnökének Románia Hivatalos Közlönyében közzétett határozatával, 90 napon belül, továbbá a módszertani normákat 180 napon belül, azok tárgyának pontos felsorolásával (az engedélyezési eljárás, az értékelés, a súlyok biztonsága és a leállítási képesség szabványai, a kritikus képességek listája és a jelentőségi szintek, az infrastruktúra küszöbe, a díjak és a biztosítás). A Kormányra való átruházás technikai és eljárási vonatkozásokra korlátozódik, összhangban az Alkotmánybíróság ítélkezési gyakorlatával, amely szerint a szabályozás lényeges elemeit törvénnyel kell megállapítani (például az 51/2016. számú határozat), a lényeges elemek – kötelezettségek, tilalmak, szankciók, küszöbök – mindegyike a törvényben szerepel.

→ a cikk szövege Az 50. cikk a hatálybalépést a kihirdetéstől számított 30. napra állapítja meg, a büntetőjogi rendelkezések kivételével, amelyek 6 hónap elteltével lépnek hatályba, az Alkotmány 78. cikke és a 24/2000. számú törvény 12. cikke szerint, valamint a büntetőtörvény előreláthatósága elvének betartásával (az emberi jogok európai konvenciójának 7. cikke). A 6 hónapos határidő lehetővé teszi a fejlesztők és az üzemeltetők számára, hogy magatartásukat még azelőtt kiigazítsák, hogy a törvény be nem tartása büntetőjogi felelősséget vonna maga után. Az elfogadás tanúsítására szolgáló záróformula, amelyet a 24/2000. számú törvény 40. és 46. cikke ír elő, az Alkotmány 75. cikkének és 76. cikke (1) bekezdésének betartását jelzi, a törvény sarkalatos jellegű, mivel bűncselekményeket és büntetéseket szabályoz (73. cikk (3) bekezdés h) pont), és eltéréssel módosítja egy sarkalatos törvénnyel létrehozott önálló közigazgatási hatóság szervezetét (117. cikk (3) bekezdés).

3. A jogszabályszerkesztési normáknak való megfelelés (a 24/2000. számú törvény)

A tervezetet az újraközölt 24/2000. számú törvény szigorú betartásával szerkesztették, a következők szerint. A megalapozás és az előzetes hatásértékelés (6., 7. és 30–31. cikk) a jelen indokolásban szerepel, a jelenlegi helyzet, az összehasonlító modellek és a hatások elemzésével. A jogalkotási rendszerbe való beillesztést (13. cikk) az MI-rendeletre való kifejezett hivatkozás (a törvény 1. cikke (3) bekezdése) és a kapcsolódó aktusokra való utaló normák biztosítják. A párhuzamosságok elkerülése (16. cikk) külön elemzés tárgyát képezte, amelyet az 5. szakasz 3. pontja tartalmaz: egyetlen létező szabályozás sem kerül megismétlésre, hanem utalás útján átvételre, az eltérések pedig a „…-tól eltérően” formulával, kifejezetten kerülnek megfogalmazásra, a 63. cikk szerint. A terminológiai egységet (37. cikk) a 3. cikkben szereplő meghatározások biztosítják, amelyek utalás útján átveszik az uniós jog által rögzített fogalmakat, és indokolással, autonóm módon határozzák meg az új fogalmakat („csúcsrendszer”, „súlyok”, „üzemeltető”, „üzembe helyezés”), elkerülve az MI-rendeletben más értelemmel bíró kifejezéseket („operátor”, „szolgáltató”, „üzembe léptetés”). A normatív stílus (36. és 38. cikk) rendelkező jellegű, jelen időben, zárójeles magyarázatok és nem rögzült neologizmusok nélkül; a rendelkező részben használt valamennyi technikai kifejezés („súlyok”, „architektúra”, „betanítás”, „finomhangolás”, „megerősítéses tanítás”, „kiszivárogtatás”, „autonóm replikáció”, „rekurzív önfejlesztés”, „a képességek elrejtése”, „a felügyelet alóli kivonás”, „a leállítással szembeni ellenállás”, „külső eszköz”, „engedélyezett üzemeltetési környezet” és a többiek) a 3. cikkben van meghatározva, amely két bekezdésbe szerveződik – tárgyfogalmak, illetve műveletek és magatartások –, hogy minden felsorolás az ábécé betűinek keretén belül maradjon, és hogy a tilalmak és a bűncselekmények tárgyi eleme pontos normatív tartalommal bírjon. Az alkotóelemek (40–46. cikk) a következők: a cím, a preambulum (amelyet a 43. cikk megenged az indokolás összefoglaló kifejtésére, a különös jelentőségű törvények modellje szerint), a bevezető formula, a rendelkező rész és az elfogadás jogszerűségének tanúsítására szolgáló formula. A rendelkező rész szerkezete (47–56. cikk) tiszteletben tartja az általános rendelkezések – érdemi rendelkezések – átmeneti rendelkezések – záró rendelkezések sorrendet, római számokkal számozott fejezetekkel és arab számokkal jelölt szakaszokkal; a cikkek folyamatosan vannak számozva, a bekezdések zárójelbe tett arab számokkal, a felsorolások betűkkel, és egyetlen betűvel jelölt felsorolás sem tartalmaz további felsorolást (49. cikk (3) bekezdés); a cikkek nem viselnek széljegyzeteket, mivel a 47. cikk (3) bekezdése azokat a törvénykönyvek és a nagy terjedelmű törvények számára tartja fenn. Az utaló normák (50. cikk) megjelölik azon aktusok teljes azonosító adatait, amelyekre utalás történik, a Kormányra való átruházások (49. cikk) pedig eljárási és technikai vonatkozásokra korlátozódnak. A törvény nem módosít és nem helyez kifejezetten hatályon kívül más normatív aktust, így az 58–70. cikk nem alkalmazandó; az eseti eltéréseket a 63. cikk megengedi, és azok nem érintik azon aktusok szövegét, amelyektől az eltérés történik.

3. szakasz – A normatív akta tervezetének társadalmi-gazdasági hatása

4. szakasz – A konszolidált általános költségvetésre gyakorolt pénzügyi hatás, mind rövid távon, a folyó évre, mind hosszú távon (5 év)

A pénzügyi hatás a Mesterséges Intelligencia Biztonságáért Felelős Hatóság ANCOM keretében való megszervezésének és működésének kiadásaiban áll, amelyeket körülbelül 80 állásból álló létszámra becsülnek, amelyek közül legalább 50 versenyvizsgán felvett és piaci szinten díjazott technikai szakember, valamint az értékelésekhez szükséges számítási infrastruktúra kiadásaiban. Az ANCOM – amely teljes egészében saját bevételeiből finanszírozott hatóság – keretében való megszervezés csökkenti a létrehozási költségeket (székhely, támogató funkciók, informatikai rendszerek), és nem terheli az állami költségvetést; a bevételek az ANCOM költségvetéséből, a bejelentési, értékelési és engedélyezési díjakból, valamint a bírságok 50%-os kvótájából származnak. Az alábbi, millió lejben kifejezett becslések tájékoztató jellegűek, és azokat a Pénzügyminisztérium fogja véglegesíteni a véleményezés során.

5. szakasz – A jelen normatív akta hatályos jogszabályokra gyakorolt hatásai

a) hatályos normatív aktusok, amelyek a normatív akta tervezetének hatálybalépése következtében módosításra vagy hatályon kívül helyezésre kerülnek

A tervezet egyetlen normatív aktust sem módosít és nem helyez kifejezetten hatályon kívül. Az utaló norma és a kifejezett eltérés technikája útján a következő hatásokat gyakorolja a hatályos jogszabályokra:

A hallgatólagos jóváhagyás eljárásáról szóló 27/2003. számú sürgősségi kormányrendelet – kifejezett eltérés (a törvény 9. cikke (4) bekezdése): a Hatóság válaszának hiánya nem egyenértékű a hallgatólagos engedélyezéssel; 1 eltérés.

Az Országos Hírközlési Igazgatási és Szabályozási Hatóság létrehozásáról szóló 22/2009. számú sürgősségi kormányrendelet – kifejezett eltérés (a törvény 31. cikke (2) bekezdése) a 11. cikke (1) bekezdésétől: egy további alelnök, a mesterséges intelligencia biztonságáért, akit a Parlament ugyanazon feltételek szerint nevez ki; 1 eltérés. A 153/2017. számú kerettörvény nem érintett, mivel az ANCOM személyzete annak 2. cikke (2) bekezdése útján ki van zárva annak alkalmazásából.

A közigazgatási bíráskodásról szóló 554/2004. számú törvény – kifejezett eltérés (a törvény 26. cikke (6) bekezdése): a 26. cikkben előírt, hatóságok döntései ellen előterjesztett jogorvoslatokat a személy lakóhelye szerinti törvényszék bírálja el, az ítélőtáblához előterjesztett fellebbezéssel; 1 eltérés.

A közigazgatási szabályszegések jogi rendszeréről szóló 2/2001. számú kormányrendelet – kifejezett eltérések (a törvény 37. cikke (4) bekezdése) a 28. cikktől (a bírság legkisebb összege felének megfizetése) és a 13. cikke (1) bekezdésétől (a szankció alkalmazásának elévülési határideje); 2 eltérés.

A közérdekű bejelentők védelméről szóló 361/2022. számú törvény – a hatály kiegészítése utaló norma útján (a törvény 21. cikke), a szöveg módosítása nélkül; a védelmi rendszer kiterjed a biztonságot fenyegető kockázatokra és a képességek elrejtésére vonatkozó bejelentésekre.

A Szervezett Bűnözés és Terrorizmus Elleni Nyomozó Igazgatóság szervezéséről és működéséről szóló 78/2016. számú sürgősségi kormányrendelet – a hatáskör kiegészítése különös törvény útján (a törvény 45. cikke (1) bekezdése), a rendelet 11. cikkének (1) bekezdése szerint, amely a DIICOT hatáskörét a különös törvényekkel annak hatáskörébe adott bűncselekmények tekintetében is előírja.

Az (EU) 2016/679 rendelet (22. cikk) és a 190/2018. számú törvény – utaló normák (a törvény 26. cikke (8) bekezdése), módosítás nélkül.

A digitális szolgáltatásokról szóló (EU) 2022/2065 rendelet – összehangoló norma (a törvény 27. cikke (6) bekezdése): a törvény nem ad hozzá kötelezettségeket a közvetítő szolgáltatások szolgáltatóinak a harmonizált területen, módosítás nélkül.

Az (EU) 2024/1689 rendelet 50. cikke (átláthatóság) és 54. cikke (a meghatalmazott képviselő), az (EU) 2016/679 rendelet 27. cikke és az (EU) 2022/2065 rendelet 13. cikke – összehangoló normák (a törvény 17. cikke (6) bekezdése, 18. cikke (5) bekezdése és 19. cikke (6) bekezdése): a törvény nem ismétli meg a harmonizált kötelezettségeket, hanem megállapítja a hatáskörrel rendelkező hatóságot és a szankciókat, az MI-rendelet 99. cikke szerint, és bevezeti a romániai megfelelési képviselőt a saját rendszere tekintetében, az uniós aktusok módosítása nélkül.

Az elektronikus kereskedelemről szóló, újraközölt 365/2002. számú törvény – utaló norma (a törvény 39. cikke (4) bekezdése) a más tagállamokból nyújtott, információs társadalommal összefüggő szolgáltatások szabad áramlásának korlátozására vonatkozó eljárás tekintetében, módosítás nélkül.

A Polgári Törvénykönyv (1376. cikk), a Büntető Törvénykönyv (135. cikk), a büntetőeljárási törvénykönyv (36., 168., 249. cikk), a 182/2002. számú törvény, a 155/2024. számú sürgősségi kormányrendelet, a 240/2004. számú törvény – utaló normák, módosítás nélkül.

Összefoglalva: 0 hatályon kívül helyezett aktus, 0 szövegében módosított aktus, 5 kifejezett eltérés, 3 hatálykiegészítés utaló norma útján, 3 uniós joggal összehangoló norma.

b) normatív aktusok, amelyek az új rendelkezések végrehajtását követően kidolgozásra kerülnek

A Parlament határozata az ANCOM mesterséges intelligencia biztonságáért felelős alelnökének kinevezéséről, valamint az ANCOM elnökének határozata a szervezeti felépítés és a szervezeti és működési szabályzat Hatósággal való kiegészítéséről (49. cikk (1) bekezdés, 90 napos határidő).

Kormányhatározat a törvény alkalmazására vonatkozó módszertani normák jóváhagyásáról: a bejelentési és engedélyezési eljárás, az értékelés, a súlyok biztonsága és a leállítási képesség szabványai, a kritikus képességek listája és a jelentőségi szintek, a nagy kapacitású számítási infrastruktúra küszöbe, a díjak és a kötelező biztosítás összege (49. cikk (2) bekezdés, 180 napos határidő).

Az ANCOM elnökének határozata a Hatóság szakszemélyzetének díjazási szintjéről, a közzétett piaci tanulmány alapján (33. cikk (3) bekezdés); a szakszemélyzetre kiírt versenyvizsga kiírása és szabályzata (33. cikk (1) és (2) bekezdés).

Az Ország Legfelsőbb Védelmi Tanácsának határozata a nemzeti védelem és biztonság területén működő rendszerekre alkalmazandó kiigazításokról (23. cikk).

Kormányhatározatok a számítási küszöb időszakos kiigazításáról, a Hatóság javaslatára (6. cikk (2) bekezdés).

Az (EU) 2024/1689 rendelet alkalmazásáról szóló törvényt, amely a Kormány kidolgozása alatt áll, össze kell majd hangolni a jelen törvénnyel a kijelölt hatóságok és a Hatóság közötti együttműködés tekintetében (31. cikk (3) bekezdés).

c) A jogszabályi párhuzamosságok elemzése (a 24/2000. számú törvény 16. cikke)

A 24/2000. számú törvény 16. cikkének (1) bekezdése szerint „a jogalkotási folyamatban tilos ugyanazon szabályozás megállapítása ugyanazon normatív aktus több cikkében vagy bekezdésében, illetve két vagy több normatív aktusban”, a jogszabályi összefüggések kiemelésére pedig az utaló normát kell használni. A tervezet minden rendelkezését megvizsgálták a hatályos jogszabályokhoz képest, az alábbi táblázatban összefoglalt eredményekkel.

6. szakasz – A normatív akta tervezetének kidolgozása céljából lefolytatott konzultációk

7. szakasz – A normatív akta tervezetének kidolgozására és végrehajtására vonatkozó nyilvános tájékoztatási tevékenységek

8. szakasz – Végrehajtási intézkedések

A fentiekre tekintettel került kidolgozásra a csatolt törvényjavaslat, amelyet megvitatásra és elfogadásra a Parlament elé terjesztünk.

Előterjesztő,

DOKUMENTÁCIÓS JEGYZET

A javaslat kidolgozása során figyelembe vett források

1. A mesterséges intelligenciára vonatkozó harmonizált szabályok megállapításáról szóló, 2024. június 13-i (EU) 2024/1689 európai parlamenti és tanácsi rendelet, HL L, 2024.7.12. – különösen a 2., 3., 5., 14., 51–56., 68., 72–73., 78., 87., 99–101. cikk és a XIII. melléklet.

2a. Dario Amodei, „We Must Pace the Frontier”, 2026. szeptember 12. (darioamodei.com); a VentureBeat, a TechRadar, a Newsweek és a The Spokesman-Review 2026. szeptember 12-i beszámolói az esszéről, a Hugging Face-incidensről, valamint Sam Altman és Elon Musk reakcióiról; Sam Altman interjúja a Fortune-nak (2026. szeptember 13.), amelyet a Bloomberg és a Business Standard idézett.

2g. Koreai Köztársaság – „Framework Act on the Development of Artificial Intelligence and Establishment of Trust” (a mesterséges intelligencia fejlesztéséről és a bizalom megteremtéséről szóló kerettörvény), hatályban 2026. január 22-étől: a generatív mesterséges intelligencia által előállított tartalom jelölésének kötelezettsége, a felhasználók előzetes tájékoztatásának kötelezettsége és a külföldi szolgáltatók kötelezettsége arra, hogy a megfelelésért helyi képviselőt jelöljenek ki; a Center for Security and Emerging Technology, Georgetown University által közzétett hivatalos angol fordítás, https://cset.georgetown.edu/wp-content/uploads/t0625_south_korea_ai_law_EN.pdf; elemzések: Future of Privacy Forum, https://fpf.org/blog/south-koreas-new-ai-framework-act-a-balancing-act-between-innovation-and-regulation/ ; Cooley LLP, 2026. január 27., https://www.cooley.com/news/insight/2026/2026-01-27-south-koreas-ai-basic-act-overview-and-key-takeaways.

2h. Az (EU) 2024/1689 rendelet 50. cikke (átláthatósági kötelezettségek, 2026. augusztus 2-ától alkalmazandó) és 54. cikke (a harmadik államokban letelepedett, általános célú modelleket szolgáltatók meghatalmazott képviselője); az Európai Bizottság mesterséges intelligencia által előállított tartalom átláthatóságáról szóló magatartási kódexe (tervezet, 2026).

2f. Yoshua Bengio, a The Guardiannak (Dan Milmo) adott interjú, 2026. szeptember 16., a szabályozás világjárványéhoz hasonlítható fordulópontjának közeledéséről; az Egyesült Királyság Királyi Társaságának 42 tagja és külföldi tagja által aláírt levél a fejlesztés ütemével kapcsolatos „rendkívüli aggodalomról”; a Digi24 2026. szeptember 16-i beszámolója, https://www.digi24.ro/stiri/sci-tech/lumea-digitala/nasul-inteligentei-artificiale-spune-ca-reglementarea-ai-se-apropie-de-un-punct-de-cotitura-similar-cu-cel-al-pandemiei-de-covid-3950743; Time, „The AI Tipping Point”, 2026. szeptember 15., az Egyesült Államok Kongresszusában vita alatt álló törvényjavaslatokról.

2e. A 2026. szeptemberi nyilvános vita: Jacob Coxon kutató (Anthropic) nyilvános felmondása, 2026. szeptember 8., valamint az Anthropic és az OpenAI illesztési és kutatási osztályai vezetőinek reakciói – a CBC News, a Time (2026. szeptember 15.), a Forbes és a Fortune (2026. szeptember 9–10.) beszámolói; a Salesforce 2026. szeptember 15-i, San Franciscó-i éves konferenciáján Sam Altman, Mark Zuckerberg, Jensen Huang, Jack Clark és Dario Amodei által kifejezett álláspontok – a BBC News (2026. szeptember 16.), a The Irish Times, a CNBC és a Forbes beszámolói.

2c. A 2026. nyári incidens időrendje (az ágensek szökése az OpenAI tesztkörnyezetéből és a Hugging Face platform kompromittálása): Cloud Security Alliance, „The Great Sandbox Escape” (2026. július 28.), https://cloudsecurityalliance.org/blog/2026/07/28/openai-and-hugging-face-security-incident-inside-the-great-sandbox-escape; Malwarebytes Labs, „The AI agent swarm that attacked Hugging Face is a warning for the future” (2026. augusztus), https://www.malwarebytes.com/blog/ai/2026/08/the-ai-agent-swarm-that-attacked-hugging-face-is-a-warning-for-the-future; Axios, „OpenAI Hugging Face breach exposes AI agent security limits” (2026. szeptember 1.), https://www.axios.com/2026/09/01/openai-hugging-face-ai-agent-security; TechCrunch, „OpenAI’s rogue agents keep escaping, with no formal process to investigate them” (2026. szeptember 4.), https://techcrunch.com/2026/09/04/openais-rogue-agents-keep-escaping-with-no-formal-process-to-investigate-them/; Noma Security, „The Great (Sandbox) Escape” (2026), https://noma.security/blog/the-great-sandbox-escape-analyzing-the-openai-hugging-face-security-incident; az OpenAI és a Hugging Face 2026. július 21-i közös nyilatkozata.

2d. Az Amerikai Egyesült Államok Kongresszusában az incidensre adott válaszként benyújtott törvényjavaslatok: „AI Kill Switch Act” (2026. július 23.) és „Ban Artificial Superintelligence Act” (2026. szeptember 3.); a csúcslaboratóriumok több mint 1.100 munkavállalójának nyílt levele a fejlesztési ütem csillapítására szolgáló mechanizmusokról (2026. július 28.).

2b. Alex Antic szenátor (Ausztrália Szenátusa), 2026-ban nyilvánosan terjesztett parlamenti felszólalás a „digitális börtönről” (az előfizetés-gazdaság, a digitális személyazonosság, a megfelelés mint a társadalomban való részvétel ára), https://www.facebook.com/reel/1059873890017722/.

2. CNN, „Amanpour”, 2023. május 2. – interjú Geoffrey Hintonnal és Connor Leahyvel („We do not know how to control these things”; Hinton: az emberiség kihalása „nem elképzelhetetlen”; Leahy: „sajnos meglehetősen valószínű”).

3. Center for AI Safety, „Statement on AI Risk”, 2023. május 30.; Geoffrey Hinton nyilvános kijelentései (BBC, 2024. december; CBS, 2025. április) a 10–20%-os valószínűségről és a „tigriskölyökkel” való összehasonlításról; „International AI Safety Report”, 2025. január (koord. Y. Bengio); RAND Corporation, „Securing AI Model Weights”, 2024; az „A Right to Warn about Advanced Artificial Intelligence” levél, 2024. június 4.

4. ANCOM, „A mesterséges intelligenciáról szóló rendelet Romániában – a végrehajtási keret jelenlegi állása” című közlemény (2026. július); a szakmai sajtó (Juridice.ro, Bursa.ro, 2026. augusztus) a szankcionálás lehetetlenségéről a nemzeti törvény elfogadásáig.

5. A kaliforniai SB 53 – Transparency in Frontier Artificial Intelligence Act (2025. szeptember 29.); az Egyesült Államok 14110. számú végrehajtási rendelete (2023. október 30., visszavonva 2025 januárjában); a Kínai Népi Köztársaság generatív MI-szolgáltatásokra vonatkozó átmeneti intézkedései (2023. augusztus 15.); az Európa Tanács mesterséges intelligenciáról szóló keretkonvenciója (CETS 225. sz., 2024); az ENSZ Közgyűlésének 78/241. számú határozata (2023. december 22.); az ENSZ főtitkárának és a Vöröskereszt Nemzetközi Bizottságának közös felhívása (2023. október 5.).

6. A normatív aktusok kidolgozására vonatkozó jogszabályszerkesztési normákról szóló, újraközölt 24/2000. számú törvény – az azt követő módosításokkal és kiegészítésekkel – különösen a 6., 7., 13., 16., 30–31., 36–38., 40–56., 63. cikk; az 561/2009. számú kormányhatározat a közpolitikai dokumentumok tervezeteinek, a normatív aktusok tervezeteinek, valamint más dokumentumoknak az elfogadás/jóváhagyás céljából történő kidolgozására, véleményezésére és bemutatására vonatkozó, Kormány szintjén alkalmazandó eljárásokról szóló szabályzat jóváhagyásáról – 1. sz. melléklet (az indokolás szerkezete).

7. Románia Alkotmánya, újraközölt szöveg (1., 22., 34., 53., 73., 75., 76., 78., 117., 119., 142., 148. cikk); a Polgári Törvénykönyv (11., 25., 1246–1250., 1376. cikk); a Büntető Törvénykönyv (8., 9–11., 21., 135., 275., 303., 345., 395. cikk); a büntetőeljárási törvénykönyv (36., 168., 249. cikk); a 111/1996. számú törvény; a 703/2001. számú törvény; a 182/2002. számú törvény; a 415/2002. számú törvény; a 240/2004. számú törvény; a 95/2006. számú törvény; a 190/2018. számú törvény; a 129/2019. számú törvény; a 361/2022. számú törvény; a 365/2002. számú törvény; a 153/2017. számú kerettörvény; a 77/2009. számú sürgősségi kormányrendelet; a 2/2001. számú kormányrendelet; a 27/2003. számú sürgősségi kormányrendelet; a 78/2016. számú sürgősségi kormányrendelet; a 155/2024. számú sürgősségi kormányrendelet; a 195/2005. számú sürgősségi kormányrendelet.

8. Ítélkezési gyakorlat: EUB, C-157/96, National Farmers' Union (1998); az EU Törvényszéke, T-13/99, Pfizer Animal Health (2002); Románia Alkotmánybírósága, 51/2016. számú határozat (a törvény világossága és előreláthatósága).