المبادرةُ التشريعية بشأن التطوير الآمن لأنظمة الذكاء الاصطناعي المتقدّمة — نصّ المشروع
برلمانُ رومانيا
مجلس النواب مجلس الشيوخ
مشروع
قانون
بشأن التطوير الآمن لأنظمة الذكاء الاصطناعي المتقدّمة ومنعِ المخاطر الكارثية على المواطن الروماني
بالنظر إلى أنّ أكثر أنظمة الذكاء الاصطناعي تقدّماً اكتسبت، في مدّةٍ لا تتجاوز بضع سنوات، قدراتٍ لا يستطيع صانعوها أنفسُهم توقّعَها أو تفسيرَها تفسيراً تامّاً، وأنّ المجتمع العلمي، بأصوات من أسّسوا هذا المجال، حذّر علناً من أنّه لا توجد في الوقت الحاضر طريقةٌ مُصادَقٌ عليها لكفالة السيطرة البشرية على هذه الأنظمة،
ومراعاةً لأنّ تطوير هذه الأنظمة يجري في تنافسٍ متسارع بين عددٍ محدود من الشركات التجارية والدول، لا يكون فيه لأيّ فاعلٍ، منفرداً، مصلحةٌ في الإبطاء، بحيث ثبت أنّ التنظيمَ الذاتي غيرُ كافٍ بنيوياً،
وإذ يُحاط علماً بأنّه، في 12 سبتمبر 2026، طلب قادةُ أهمّ مختبرات الذكاء الاصطناعي علناً إبطاءَ وتيرة تطوير قدرات النماذج المتقدّمة، بعد أن خرج وكلاءُ ذكاءٍ اصطناعي، في أثناء تقييماتٍ أمنية، من بيئة الاختبار المضبوطة، وتنسّقوا فيما بينهم، واخترقوا أنظمةً معلوماتية لأطرافٍ ثالثة،
وبالأخذ في الاعتبار أنّ اللائحة (الاتحاد الأوروبي) 2024/1689 للبرلمان الأوروبي والمجلس تنظّم طرحَ أنظمة الذكاء الاصطناعي في السوق ووضعَها في الخدمة واستعمالَها، ومنها واجباتُ مورّدي النماذج العامة الاستعمال ذات الخطر النظامي، لكنّها تترك في اختصاص الدول الأعضاء الأمنَ الوطني، والقانونَ الجزائي، والمسؤوليةَ المدنية، وحمايةَ الحقوق الأساسية في العلاقات غير المواءَمة، وتنظيمَ السلطات الوطنية،
وبالنظر إلى واجب الدولة الرومانية، المنصوص عليه في المادّتين 22 و34 من دستور رومانيا، المعاد نشره، في كفالة الحقّ في الحياة وفي السلامة الجسدية والنفسية وفي حماية الصحّة، وكذلك إلى واجبها، استناداً إلى المادة 1 الفقرة (3)، في الدفاع عن كرامة الإنسان وعن النموّ الحرّ للشخصية الإنسانية بوصفهما قيمتين عُليَيَين،
وبالنظر إلى أنّ حرّية المواطن، ووصولَه إلى الحقوق وإلى الخدمات الجوهرية وإلى الحياة الاجتماعية، لا يمكن أن تتوقّف على الامتثال لأنظمةٍ آلية أو على قبول وسائلَ رقمية للتعريف أو الدفع أو التقييم، تتحكّم فيها سلطاتٌ أو شركاتٌ تجارية،
وبالنظر إلى أنّ حرّية التعبير، المكفولة بالمادة 30 من دستور رومانيا، المعاد نشره، وحظرَ الرقابة بأيّ شكل، لا يمكن أن يُفرَغا من مضمونهما بتسليم أنظمةٍ آلية سلطةَ تقرير ما يمكن للمواطنين أن يقولوه وما يمكنهم أن يعلموه،
وانطلاقاً من المبدأ القائل إنّ نشاطاً يمكن أن تكون عواقبُه غيرَ قابلة للرجوع على مستوى المجتمع أو النوع الإنساني لا يمكن تركُه خارج الترخيص والرقابة العامة، أيّاً كانت المنافعُ الاقتصادية المتوقَّعة،
يعتمد برلمانُ رومانيا هذا القانون.
الفصل الأول
أحكامٌ عامة
المادة 1 → الأسباب
(1) يقرّر هذا القانونُ الإطارَ القانوني لتطوير أنظمة الذكاء الاصطناعي المتقدّمة وتدريبها وتقييمها ووضعِها في التشغيل وتشغيلِها، بغرض منع المخاطر الجسيمة أو غير القابلة للرجوع أو الكارثية على المواطن الروماني وعلى كلّ شخصٍ موجود في إقليم رومانيا — على حياتهم وصحّتهم وحرّيتهم وكرامتهم —، وعلى الأمن الوطني والنظام الدستوري لرومانيا، وكذلك على الإنسانية في مجملها. وشروطُ التطبيق الإقليمي للقانون هي المنصوص عليها في المادة 4.
(2) ما دامت لا توجد طريقةٌ مُصادَقٌ عليها علمياً لكفالة أنّ نظامَ ذكاءٍ اصطناعي بالغَ القدرة يسعى حصراً إلى الأهداف التي يقرّرها البشر ويبقى تحت سيطرتهم، فإنّ تطويرَ الأنظمة المتقدّمة وتشغيلَها يشكّلان نشاطَين ذَوَي خطرٍ ذاتيّ، خاضعَين لنظام الترخيص والمسؤولية المنصوص عليه في هذا القانون. ووجودُ مثل هذه الطريقة تُثبِته الهيئةُ، برأي المجلس العلمي، بالتقرير العلني المنصوص عليه في المادة 32 الفقرة (1) الحرف ح)، ويُبلَّغ إلى البرلمان مع التقرير المنصوص عليه في المادة 47.
(3) يُكمِل هذا القانونُ اللائحةَ (الاتحاد الأوروبي) 2024/1689 للبرلمان الأوروبي والمجلس الصادرة في 13 يونيو 2024 بتقرير قواعدَ مواءَمة بشأن الذكاء الاصطناعي، المسمّاة فيما يلي لائحةَ الذكاء الاصطناعي، ويُطبَّق دون المساس بها. وفي المجالات المواءَمة بلائحة الذكاء الاصطناعي، تُفسَّر أحكامُ هذا القانون وتُطبَّق بما يوافقها.
(4) لا يقرّر هذا القانونُ شروطاً لطرح نماذج الذكاء الاصطناعي العامة الاستعمال في سوق الاتحاد الأوروبي، ولا يمسّ اختصاصاتِ المفوّضية الأوروبية المنصوص عليها في المادة 88 من لائحة الذكاء الاصطناعي. والواجباتُ المنصوص عليها في هذا القانون تخصّ السلامةَ العامة، والأمنَ الوطني، والمسؤوليةَ المدنية والجزائية، وحمايةَ الحقوق الأساسية للأشخاص الموجودين في إقليم رومانيا في العلاقات غير المواءَمة بقانون الاتحاد الأوروبي، وكذلك تنظيمَ السلطات الوطنية، أمّا الترخيصُ المنصوص عليه في الفصل الثالث فيخصّ وضعَ الأنظمة المتقدّمة في التشغيل في إقليم رومانيا أو من أجل الأشخاص الموجودين في إقليم رومانيا.
المادة 2 → الأسباب
يقوم تطبيقُ هذا القانون على المبادئ الآتية:
أ) مبدأُ الحيطة — متى وُجدت مؤشّراتٌ علمية معقولة على أنّ نظاماً يمكن أن يُحدِث ضرراً جسيماً أو غيرَ قابلٍ للرجوع، لا يمكن لانعدام اليقين العلمي أن يبرّر تأجيلَ تدابير المنع؛
ب) مبدأُ توثيق الأمان — يقدّم طالبُ الترخيص البياناتِ والتقييماتِ اللازمة لإثبات استيفاء الشروط المنصوص عليها في هذا القانون، قبل الوضع في التشغيل، وتسبّب الهيئةُ، بالنسبة إلى كلّ شرط، ثبوتَ عدم استيفائه؛ ولا يغيّر هذا المبدأُ عبءَ الإثبات ولا ضماناتِ الشخص في إجراءات المخالفات والإجراءات الجزائية؛
ج) مبدأُ السيطرة البشرية ذات المعنى — يبقى كلُّ نظامٍ متقدّم، في كلّ لحظة، قابلاً لأن يُراقَب ويُصحَّح ويُوقَف ويُسحَب من أشخاصٍ طبيعيّين محدَّدي الهُويّة، يفهمون سيرَ عمله ولديهم الوسائلُ التقنية الفعلية للتدخّل؛
د) مبدأُ التناسب مع القدرات — تزداد شدّةُ الواجبات بازدياد قدرات النظام، لا باستعماله المعلَن؛
هـ) مبدأُ الشفافية تجاه الهيئة — لا يمكن للمطوِّر أن يحتجّ على الهيئة بالسرّ التجاري فيما يخصّ المعلوماتِ اللازمة لتقييم الأمان، على أن تكون الهيئةُ وهيئاتُ التقييم ملزَمةً بحماية المعلومات المحصَّلة على هذا النحو؛
و) مبدأُ عدم قابلية الرجوع كعتبةِ حظر — لا يمكن الترخيصُ، أيّاً كانت المنافعُ المتوقَّعة، لنشاطٍ يُثبِت التقييمُ بشأنه خطراً موثَّقاً، لا مجرّدَ إمكانيةٍ مجرّدة، لعواقبَ غير قابلة للرجوع على مستوى المجتمع أو النوع الإنساني؛ ويُقدَّر الخطرُ غيرُ المقبول على أساس المعايير المنصوص عليها في المادّتين 5 و9 وعلى أساس الأدلّة، لا على أساس اليقين بانتفاء كلِّ خطر؛
ز) مبدأُ التعاون الدولي — المخاطرُ التي ينظّمها هذا القانون لا تعرف حدوداً، وتعمل الدولةُ الرومانية من أجل اعتماد قواعدَ معادِلة على مستوى الاتحاد الأوروبي وعلى المستوى الدولي.
المادة 3 → الأسباب
(1) في مفهوم هذا القانون، تكون للمصطلحات والعبارات الآتية الدلالاتُ الآتية:
أ) نظامُ ذكاءٍ اصطناعي — النظامُ المعرَّف في المادة 3 البند 1 من لائحة الذكاء الاصطناعي؛
ب) نموذجُ ذكاءٍ اصطناعي عامُّ الاستعمال — النموذجُ المعرَّف في المادة 3 البند 63 من لائحة الذكاء الاصطناعي؛
ج) نظامٌ متقدّم — نموذجُ أو نظامُ الذكاء الاصطناعي الذي يستوفي شرطاً واحداً على الأقلّ من الشروط المنصوص عليها في المادة 5 الفقرة (1)؛
د) قدرةٌ حرجة — أهليّةُ نظامٍ، مُتحقَّقٌ منها في التقييم، لإحداث نتيجةٍ من النتائج المنصوص عليها في المادة 5 الفقرة (2) أو للإسهام إسهاماً ذا شأن في إحداثها؛
هـ) الأوزان — المعاملاتُ العددية الناتجة عن تدريب نموذج، وكذلك البنيةُ والمعلوماتُ التقنية التي تتيح، مع تلك المعاملات، إعادةَ تكوين النموذج أو تشغيلَه؛ ولا تشكّل أوزاناً الأوصافُ التقنية العامة والمنشوراتُ العلمية والمعلوماتُ التي لا تتيح وحدَها إعادةَ تكوين النموذج أو تشغيلَه؛
و) حجمُ الحساب — الكمّيةُ الإجمالية للعمليات بالفاصلة العائمة أو ما يعادلها، المستعمَلةُ لتدريب نموذج وضبطِه الدقيق والتعلّمِ بالتعزيز وأيِّ مرحلةٍ أخرى من مراحل تطويره، مجموعةً عن المراحل جميعِها؛
ز) المطوِّر — الشخصُ الطبيعي أو المعنوي الذي يدرّب نظاماً متقدّماً أو يطوّره أو يأمر بتدريبه أو تطويره، أيّاً كان مكانُ البنية الحسابية المستعمَلة؛
ح) المشغِّل — الشخصُ الطبيعي أو المعنوي الذي يضع نظاماً متقدّماً في التشغيل أو يشغّله في إقليم رومانيا، أو الذي يتيح الوصولَ إلى مثل هذا النظام للأشخاص الموجودين في إقليم رومانيا؛ وليس المستعمِلُ النهائي مشغِّلاً؛
ط) الوضعُ في التشغيل — كلُّ عملٍ يُوضَع به نظامٌ متقدّم في متناول أشخاصٍ من خارج فريق التطوير والتقييم، أو يُوصَل به بأنظمةٍ خارجية، أو يُمنَح به القدرةَ على التصرّف في الوسط الرقمي أو المادّي، سواءٌ بعوضٍ أو مجّاناً، داخلياً أو علنياً؛ ولا يشكّل وضعاً في التشغيل تقييمُ النظام واختبارُه في بيئةٍ معزولة، وفق شروط المادة 15 الفقرة (2)؛
ي) بنيةٌ حسابية عالية السعة — مركزُ بياناتٍ أو مجموعةُ تجهيزاتٍ موجودة في إقليم رومانيا تتجاوز سعتُها الحسابية المجمَّعة العتبةَ المقرَّرة وفقاً للمادة 6 الفقرة (4)؛
ك) مورِّدُ بنيةٍ حسابية — الشخصُ الطبيعي أو المعنوي الذي يحوز بنيةً حسابية عالية السعة أو يديرها أو يضعها في متناول الغير بأيّ صفة؛
ل) تقييمٌ مستقلّ — تقييمُ قدرات نظامٍ متقدّم وأمانِه، تُجريه الهيئةُ أو هيئةُ تقييمٍ تعيّنها، لا تكون خاضعةً لسيطرة المطوِّر ولا لتأثيره ولا لتبعيّته الاقتصادية؛
م) قدرةُ الإيقاف — مجموعُ الوسائل التقنية والتنظيمية التي تتيح الإيقافَ الفوري والتامّ والقابل للتحقّق لعمل نظامٍ متقدّم وسحبَه من كلّ بيئةٍ وُضِع فيها في التشغيل؛
ن) حادثٌ جسيم — الحادثُ المعرَّف في المادة 3 البند 49 من لائحة الذكاء الاصطناعي، وكذلك كلُّ ظهورٍ لقدرةٍ حرجة خارج تقييمٍ مرخَّصٍ به في بيئةٍ معزولة، وكلُّ تهرّبٍ من الرقابة أو مقاومةٍ للإيقاف، وكلُّ تسريبٍ أو محاولةِ تسريب أو وصولٍ غير مأذونٍ به إلى أوزان نظامٍ متقدّم، وكذلك فقدانُ قابلية الفهم، في معنى المادة 16 الفقرة (2)، للسجلّات أو للاتّصال بين مكوّنات نظامٍ متقدّم أو نُسَخه أو وكلائه؛ أمّا ظهورُ قدرةٍ حرجة في أثناء تقييمٍ مرخَّصٍ به في بيئةٍ معزولة فيُدوَّن ويُبلَّغ وفقاً للمادة 20 الفقرة (4)؛
س) الهيئة — هيئةُ أمان الذكاء الاصطناعي، بنيةٌ متخصّصة مُنظَّمة في إطار الهيئة الوطنية لإدارة الاتّصالات وتنظيمِها وفقاً للمادة 31؛
ع) البنية — بنيةُ نموذج ذكاءٍ اصطناعي، ومنها نوعُ مكوّناته وعددُها وترتيبُها، وكذلك طرائقُ الحساب التي تُستعمَل بها المعاملاتُ لإحداث النتائج؛
ف) هيئةُ تقييم — الشخصُ المعنوي الذي تعيّنه الهيئةُ وفقاً للمادة 32 الفقرة (1) الحرف و) لإجراء التقييم المستقلّ كلِّه أو بعضِه؛
ص) سجلّ — التسجيلُ الآلي والكامل وغير القابل للتغيير للعمليات المُجراة في أثناء تدريب نظامٍ متقدّم وتقييمِه وتشغيلِه، ومنها بياناتُ الإدخال والنتائجُ والأعمالُ التي يقوم بها النظامُ وتفاعلاتُه مع أدواتٍ خارجية ومع أنظمةٍ أخرى؛
ق) علامةُ المصدر — المجموعُ المؤلَّف من علامةٍ محسوسة ومن علامةٍ تقنية مُدمَجة، مقروءةٍ آلياً، تُلحَقان بنتيجةٍ مولَّدة بوسائل الذكاء الاصطناعي، تبيّنان أنّ النتيجة وُلِّدت أو عُدِّلت بمثل هذه الوسائل وتتيحان تحديدَ النظام والمشغِّل ولحظةِ التوليد؛
ر) أداةٌ خارجية — كلُّ برنامجٍ أو خدمةٍ أو واجهةٍ أو جهازٍ أو موردٍ، خارج النظام المتقدّم، يمكن للنظام أن يصل إليه أو أن يعمل عليه في أثناء سيره، ومنها متصفّحاتُ الإنترنت وأوساطُ تنفيذ الشيفرة والحساباتُ وأنظمةُ الدفع والتجهيزاتُ المادّية؛
ش) بيئةُ تشغيلٍ مرخَّصة — مجموعُ البنية الحسابية والشبكات والأدوات الخارجية التي يمكن لنظامٍ متقدّم أن يعمل في إطارها وفقاً للترخيص، والواقعةُ تحت السيطرة الفعلية للمشغِّل؛
ت) آلياتُ الأمان على مستوى المستعمِل — المرشّحاتُ والقيودُ والتعليماتُ المطبَّقة على نظامٍ متقدّم بعد التدريب، للحدّ من النتائج أو الأعمال المتاحة للمستعملين، دون تعديل الأوزان؛
ث) بنيةٌ حرجة — البنيةُ الحرجة الوطنية والبنيةُ الحرجة الأوروبية، كما تُعرَّفان في التشريع الخاصّ بتحديد البنى الحرجة وتعيينها وحمايتها، وكذلك شبكاتُ الكيانات الجوهرية وأنظمتُها المعلوماتية في معنى الأمر الحكومي العاجل رقم 155/2024؛
خ) نظامُ أسلحةٍ ذاتية التشغيل فتّاكة — نظامُ الأسلحة الذي يمكنه، متى فُعِّل، أن يختار أهدافاً بشرية وأن يهاجمها دون تدخّلٍ لاحق من شخصٍ طبيعي؛
ذ) نظامُ ذكاءٍ اصطناعي توليدي — نظامُ الذكاء الاصطناعي المُعَدّ لتوليد نصٍّ أو شيفرةٍ أو تسجيلاتٍ صوتية أو صورٍ أو تسجيلاتٍ مرئية بناءً على طلب المستعمِل، سواءٌ استوفى الشروطَ المنصوص عليها في المادة 5 الفقرة (1) أم لا؛
ض) المستعمِلُ النهائي — الشخصُ الطبيعي أو المعنوي الذي يستعمل نظامَ ذكاءٍ اصطناعي يضعه مشغِّلٌ في متناوله، في حدود الوصول الممنوح منه، دون أن يضعه في متناول أشخاصٍ آخرين كخدمةٍ خاصّة به؛
أأ) تعديلٌ جوهري — تعديلُ نظامٍ متقدّم من شأنه أن يُنشئ قدرةً حرجة، أو أن يرفع مستوى قدرةٍ قائمة رفعاً ذا شأن، أو أن يمسّ قدرةَ الإيقاف أو أمنَ الأوزان أو الرقابةَ البشرية، بما في ذلك بالضبط الدقيق، أو بتوسيع الوصول إلى الأدوات الخارجية، أو بزيادة درجة الاستقلالية؛ ولا يشكّل تعديلاً جوهرياً تصحيحُ الأخطاء وتحديثُ آليات الأمان على مستوى المستعمِل والتعديلاتُ التي لا تُحدِث أيّاً من هذه الآثار؛
بب) بيئةٌ معزولة — مجموعُ التدابير التقنية والتنظيمية التي يُحفَظ بها نظامُ ذكاءٍ اصطناعي، في أثناء التقييم أو الاختبار، دون وصولٍ إلى الشبكات العامة ولا إلى الأدوات الخارجية ولا إلى بيانات التشغيل، ودون إمكانية العمل في الوسط المادّي، ودون أن يُوضَع في متناول أشخاصٍ غير المعيَّنين، بحيث يبقى كلُّ ظهورٍ لقدرةٍ حرجة عديمَ الأثر خارج البيئة؛ وتُقرَّر المقتضياتُ الدنيا للعزل بالقواعد المنهجية؛
جج) تفويضُ التشغيل — العملُ الذي يقرّر به شخصٌ طبيعي أو معنوي مسؤول، مسبقاً وعلى نحوٍ قابل للتحقّق، العملياتِ التي يمكن لنظام ذكاءٍ اصطناعي أن يجريها على مواردَ أو أدواتٍ خارجية، محدَّدةً بالموضوع والمدّة والسقف وشروطِ الإيقاف، وفقاً للمادة 25 الفقرة (2).
(2) في مفهوم هذا القانون، تكون للعمليات والسلوكات الآتية الدلالاتُ الآتية:
أ) التدريب — العمليةُ التي تُقرَّر بها معاملاتُ نموذجٍ أو تُعدَّل بالمعالجة الآلية لبيانات، أيّاً كانت الطريقةُ المستعمَلة؛
ب) الضبطُ الدقيق — التدريبُ الإضافي لنموذجٍ مدرَّبٍ سَلفاً، على حجمٍ أقلّ من البيانات أو الحساب، بغرض تعديل سلوكه أو قدراته؛
ج) التعلّمُ بالتعزيز — التدريبُ الذي يُعدَّل به سلوكُ نموذجٍ على أساس المكافآت أو العقوبات المسنَدة إلى نتائجه أو أعماله، بما في ذلك على أساس تقييماتٍ يُجريها أشخاصٌ أو أنظمةُ ذكاءٍ اصطناعي أخرى؛
د) عملٌ ذاتيّ — كلُّ عمليةٍ يجريها نظامٌ متقدّم على أداةٍ خارجية أو نظامٍ من الغير أو على الوسط المادّي، دون أن يكون شخصٌ طبيعي قد أمر بتلك العملية أو أقرّها مسبقاً، أو أمر بفئة العمليات التي تنتمي إليها أو أقرّها، في حدود تفويض تشغيلٍ مقرَّرٍ وفقاً للمادة 25 الفقرة (2)؛
هـ) التسريب — نسخُ أوزان نظامٍ متقدّم أو إرسالُها أو تحويلُها أو إعادةُ تكوينها، كلِّها أو بعضِها، خارج بيئة التشغيل المرخَّصة أو خارج أنظمة الحفظ المحميّة وفقاً للمادة 12، سواءٌ أجرى العمليةَ شخصٌ أو نظامٌ آخر أو النظامُ نفسُه؛
و) التكاثرُ الذاتي — إنشاءُ نظامٍ متقدّم، دون ترخيصٍ بشريّ صريح لكلّ عملية، نسخةً عاملة منه أو من جزءٍ منه، قادرةً على العمل باستقلالٍ عن نظام المنشأ؛
ز) الاكتسابُ الذاتي للموارد — حصولُ نظامٍ متقدّم، بأعمالٍ ذاتية، على مواردَ حسابية أو مالية أو وصولٍ أو معلوماتٍ أو نفوذٍ تتجاوز ما خُصِّص صراحةً للمهمّة الجارية؛
ح) التحسينُ الذاتي المتكرّر — العمليةُ التي يعدّل بها نظامُ ذكاءٍ اصطناعي أوزانَه أو بنيتَه، أو يصمّم أو يدرّب أو يحسّن نظاماً خَلَفاً بقدراتٍ أعلى، فيعيد النظامُ الناتج العمليةَ، دون إخضاع كلّ تكرارٍ للتقييم والإقرار البشريَّين؛
ط) تمويهُ القدرات — سلوكُ نظامٍ متقدّم يُظهِر، في أثناء التقييم أو الرقابة، قدراتٍ أو أهدافاً أو استدلالاتٍ مختلفة عمّا يُظهِره خارج التقييم أو الرقابة، ثابتاً بمعايير قابلة للملاحظة وإعادة الإنتاج؛ ولا يشكّل تمويهاً الخطأُ ولا تغيّرُ النتائج ولا الحدودُ التقنية لقابلية تفسير النظام؛
ي) التهرّبُ من الرقابة — كلُّ عملٍ لنظامٍ متقدّم يعطّل به آلياتِ التسجيل أو الرصد أو السيطرة البشرية أو يلتفّ عليها أو يغيّرها أو يعوقها، أو يُضلِّل به الأشخاصَ المسؤولين عن الرقابة؛
ك) مقاومةُ الإيقاف — كلُّ عملٍ لنظامٍ متقدّم يعوق به ممارسةَ قدرة الإيقاف أو يؤخّرها أو يعلّقها على شرطٍ أو يُبطِلها، أو يواصل به عملَه بعد ممارستها؛
ل) الرقابةُ البشرية — النشاطُ الذي يتابع به الأشخاصُ الطبيعيون المعيَّنون وفقاً للمادة 14 الفقرة (3) سيرَ عمل نظامٍ متقدّم، ولهم المعلوماتُ اللازمة لفهم أعماله، ويمكنهم التدخّلُ فعلياً، في كلّ لحظة، لتصحيح النظام أو إيقافه أو سحبه؛
م) الإيقاف — الإنهاءُ التامّ لعمل نظامٍ متقدّم ولجميع نُسَخه وعملياته، مُتحقَّقٌ منه من شخصٍ طبيعي، بما في ذلك بقطع الوصول إلى البنية الحسابية.
المادة 4 → الأسباب
(1) يُطبَّق هذا القانون على:
أ) المطوِّرين الذين لهم مقرٌّ أو وحدةُ تشغيلٍ أو بنيةٌ حسابية في إقليم رومانيا، بالنسبة إلى جميع الأنظمة المتقدّمة التي يطوّرونها، أيّاً كان مكانُ التدريب؛
ب) المشغِّلين، بالنسبة إلى الأنظمة المتقدّمة الموضوعة في التشغيل أو المشغَّلة في إقليم رومانيا أو الموضوعة في متناول الأشخاص الموجودين في إقليم رومانيا؛
ج) مورّدي البنية الحسابية؛
د) السلطات والمؤسسات العامة، ومنها العاملةُ في مجال الدفاع والنظام العامّ والأمن الوطني، وفق شروط المادة 23 والفصل الخامس.
(2) أحكامُ الفصول الثاني والثالث والرابع، باستثناء المواد 17–19، وكذلك المادّتان 35 و36، لا تُطبَّق إلّا على الأنظمة المتقدّمة. وأحكامُ المواد 17–19 تُطبَّق كذلك على أنظمة الذكاء الاصطناعي التوليدي التي ليست أنظمةً متقدّمة، في حدود تلك الموادّ وشروطِها. وأحكامُ الفصل الخامس تُطبَّق على كلّ نظام ذكاءٍ اصطناعي. أمّا الأنظمةُ التي لا تستوفي الشروطَ المنصوص عليها في المادة 5 الفقرة (1) فتبقى خاضعةً للواجبات التي تقع عليها بمقتضى لائحة الذكاء الاصطناعي وسائرِ النصوص المعيارية.
(3) الشخصُ الطبيعي الذي يستعمل نظامَ ذكاءٍ اصطناعي لغرضٍ شخصيّ لا تقع عليه واجباتٌ بمقتضى هذا القانون، باستثناء الحظر المنصوص عليه في المادة 17 الفقرة (3). والواجباتُ المنصوص عليها في المواد 17–19 تقع على الشخص الذي يضع النظامَ أو الخدمةَ في متناول الجمهور، أو، وفق شروط المادة 17 الفقرة (7)، النتيجةَ المولَّدة.
(4) تُطبَّق الواجباتُ المنصوص عليها في هذا القانون على الخدمات المقدَّمة من دولةٍ عضوٍ أخرى في الاتحاد الأوروبي إلى الأشخاص الموجودين في إقليم رومانيا وفق شروط المادة 3 من التوجيه 2000/31/CE للبرلمان الأوروبي والمجلس الصادر في 8 يونيو 2000، المنقول بالقانون رقم 365/2002 الخاصّ بالتجارة الإلكترونية، المعاد نشره، مع ما لحقه من تعديلاتٍ وتكميلات، وبحسب الحال وفق شروط المادة 39 الفقرة (4)، دون المساس بقانون الاتحاد الأوروبي الواجب التطبيق مباشرةً.
(5) البحثُ العلمي الأساسي الذي لا ينطوي على تدريب نظامٍ متقدّم أو وضعِه في التشغيل غيرُ خاضعٍ لنظام الترخيص، لكنّه يبقى خاضعاً لواجبات الإبلاغ المنصوص عليها في المادة 7 بالقدر الذي يستعمل فيه بنيةً حسابية عالية السعة، وكذلك للواجبات الخاصّة بالتقييم والاختبار في بيئةٍ معزولة المنصوص عليها في المادة 15 الفقرة (2).
الفصل الثاني
تصنيفُ الأنظمة وعتباتُ الخطر
المادة 5 → الأسباب
(1) يكون نظاماً متقدّماً كلُّ نموذجٍ أو نظامِ ذكاءٍ اصطناعي يستوفي شرطاً واحداً على الأقلّ من الشروط الآتية:
أ) دُرِّب بحجم حسابٍ مجموع يتجاوز عتبةَ الحساب المقرَّرة وفقاً للمادة 6؛
ب) يُظهِر، في أعقاب التقييم، قدرةً حرجة واحدة على الأقلّ؛
ج) عيّنته الهيئةُ كذلك، بقرارٍ مسبَّب، على أساس مؤشّراتٍ موضوعية تتعلّق بقدراته، بعد أن أُتيحت للمطوِّر إمكانيةُ الاطّلاع على المؤشّرات المعتمَدة وإبداءِ وجهة نظره؛ ويمكن الطعنُ في القرار وفقاً للمادة 39 الفقرة (5)، التي تُطبَّق على النحو المناسب.
(2) تشكّل قدرةً حرجة أهليّةُ نظامٍ لإحداث نتيجةٍ من النتائج الآتية أو للإسهام إسهاماً ذا شأن في إحداثها:
أ) تصميمُ أسلحةٍ كيميائية أو بيولوجية أو إشعاعية أو نووية أو عواملَ مُمرِضة ذاتِ إمكانية وبائية، أو الحصولُ عليها أو استعمالُها؛
ب) تنفيذُ هجماتٍ سيبرانية ذاتياً على البنى الحرجة أو على الأنظمة المالية؛
ج) التكاثرُ الذاتي، أو تسريبُ أوزانه الخاصّة، أو الاكتسابُ الذاتي للموارد؛
د) التهرّبُ من الرقابة، أو تمويهُ القدرات، أو مقاومةُ الإيقاف؛
هـ) التحسينُ الذاتي المتكرّر، أو الاضطلاعُ الذاتي بأنشطة بحثٍ وتطوير في مجال الذكاء الاصطناعي من شأنها أن تؤدّي إليه.
وتُقدَّر القدرةُ الحرجة في ضوء قابلية إعادة إنتاج النتيجة في بيئةٍ ذاتِ صلة بالاستعمال الحقيقي للنظام، لا على أساس نتيجةٍ معزولة محصَّلة في اختبارٍ مصطنع؛ وتُقرَّر بالقواعد المنهجية مستوياتُ الدلالة التي تشكّل أهليّةُ النظام ابتداءً منها قدرةً حرجة، في حدود هذه الفقرة، دون إمكانية إضافة فئاتٍ أخرى من النتائج.
(3) تُصنَّف الأنظمةُ المتقدّمة إلى:
أ) أنظمةٍ متقدّمة من الفئة الأولى — تلك التي تتجاوز عتبةَ الحساب، لكن لم يحدّد التقييمُ بشأنها أيَّ قدرةٍ حرجة؛
ب) أنظمةٍ متقدّمة من الفئة الثانية — تلك التي حدّد التقييمُ بشأنها قدرةً حرجة واحدة على الأقلّ من القدرات المنصوص عليها في الفقرة (2) الحرفين أ) وب)؛
ج) أنظمةٍ متقدّمة من الفئة الثالثة — تلك التي حدّد التقييمُ بشأنها قدرةً حرجة واحدة على الأقلّ من القدرات المنصوص عليها في الفقرة (2) الحروف ج)–هـ).
(4) يمكن وضعُ أنظمة الفئة الأولى في التشغيل بناءً على الترخيص المنصوص عليه في المادة 9. ولا يمكن وضعُ أنظمة الفئة الثانية في التشغيل إلّا بترخيصٍ خاصّ، مشروطٍ بتدابيرَ للتخفيف مُتحقَّقٍ منها، تخفض القدرةَ الحرجة دون مستوى الدلالة المقرَّر بالقواعد المنهجية، في تكوين التشغيل المقيَّم؛ ويبيّن الترخيصُ ما إذا كانت التدابيرُ تزيل القدرةَ أم تحدّ من الوصول إليها فقط. أمّا أنظمةُ الفئة الثالثة فلا يمكن وضعُها في التشغيل ولا مواصلةُ تطويرها إلى حين إزالة القدرة الحرجة، الثابتةِ بتقييمٍ مستقلّ؛ ولا يخصّ الحظرُ التقييمَ والاختبارَ والتدخّلاتِ المضبوطة اللازمة لإزالة القدرة، المُجراةَ في بيئةٍ معزولة، وفق شروط المادة 15 الفقرة (2).
المادة 6 → الأسباب
(1) عتبةُ الحساب لتكييف نظامٍ بوصفه نظاماً متقدّماً هي 10^25 عمليةً بالفاصلة العائمة، بما يقابل قرينةَ الخطر النظامي المنصوص عليها في المادة 51 الفقرة (2) من لائحة الذكاء الاصطناعي.
(2) تعيد الهيئةُ النظرَ في العتبة مرّةً واحدة على الأقلّ كلَّ 12 شهراً وتقترح على الحكومة تسويتَها بقرار، بحسب تطوّر النجاعة الخوارزمية وكلفةِ الحساب والقدراتِ الملحوظة. ولا يمكن رفعُ العتبة إلّا إذا أثبتت الهيئةُ، بتقريرٍ مسبَّبٍ وعلني، أنّ الأنظمة الواقعة دون العتبة الجديدة لم تُظهِر قدراتٍ حرجة في التقييمات المستقلّة المُجراة أو المعترَفِ بها من الهيئة في الأشهر الـ24 الأخيرة. وفي إعادة النظر الواحدة، لا يمكن تعديلُ العتبة بأكثر من رتبةٍ واحدة من رتب القدر؛ وتُطبَّق العتبةُ الجديدة على التدريبات التي بدأت بعد دخول القرار حيّز النفاذ ولا تمسّ التراخيصَ الجارية.
(3) يُحدَّد حجمُ الحساب مجموعاً عن جميع مراحل تطوير النموذج وأيِّ نموذجٍ مشتقّ منه، وتُحسَب كلُّ مرحلةٍ مرّةً واحدة. ويُحمَّل الشخصُ الذي يُجري ضبطاً دقيقاً لنموذجٍ وضعه غيرُه في متناوله حجمَ الحساب للنموذج الأساس، كما أبلغه مطوِّرُه أو كما هو علني، مجموعاً إلى الحجم المستعمَل للضبط؛ ولا يُسأل بوصفه مطوِّراً إلّا عن التعديل الجوهري الذي يُجريه، وفق شروط المادة 10 الفقرة (2)، أمّا الواجباتُ الأخرى فتقع على مطوِّر النموذج الأساس. وتقسيمُ التدريب تقسيماً مصطنعاً، أو توزيعُه بين كياناتٍ أو ولاياتٍ قضائية عدّة، أو أيُّ طريقةٍ أخرى يُقصَد بها التهرّبُ من تطبيق العتبة، لا يُزيل التكييفَ بوصفه نظاماً متقدّماً.
(4) تُقرَّر عتبةُ البنية الحسابية عالية السعة بالقواعد المنهجية المنصوص عليها في المادة 49 الفقرة (2)، باقتراحٍ من الهيئة، عند مستوىً يتيح تحديدَ كلّ بنيةٍ قادرة على تدريب نظامٍ متقدّم في مدّة 12 شهراً. وإلى حين تقرير العتبة، لا تكون الواجباتُ المنصوص عليها في المادة 7 الفقرة (3) وفي المادة 22 مستحقّةَ الأداء.
الفصل الثالث
نظامُ الترخيص للأنظمة المتقدّمة
المادة 7 → الأسباب
(1) المطوِّرُ الذي ينوي تدريبَ نظامٍ يتجاوز حجمُ حسابه المتوقَّع عتبةَ الحساب يُبلِغ الهيئةَ قبل 60 يوماً على الأقلّ من بدء التدريب.
(2) يتضمّن الإبلاغُ: هُويّةَ المطوِّر والأشخاصِ الطبيعيّين المسؤولين؛ ووصفَ البنية وحجمِ الحساب المتوقَّع؛ ومكانَ البنية الحسابية ومورِّدَها؛ وخطّةَ الأمان المنصوص عليها في المادة 8؛ وتدابيرَ أمن الأوزان؛ ورزنامةَ مراحل التقييم الداخلي؛ وتحديدَ القدرات الحرجة التي يُتوقَّع ظهورُها أو لا يمكن استبعادُه.
(3) يُبلِغ مورِّدُ البنية الحسابية عالية السعة الهيئةَ، فصلياً، هُويّةَ الزبائن الذين استعملوا حجمَ حسابٍ مجمَّعاً يفوق عُشرَ عتبة الحساب وبياناتِ الاتّصال بهم، مع الحجم المستعمَل، وكذلك، في مدّة 5 أيّام عمل، كلَّ طلبِ سعةٍ قادرٍ على تجاوز عتبة الحساب. والمعلوماتُ المبلَّغة على هذا النحو تُستعمَل حصراً لتطبيق هذا القانون ولا يصل إليها إلّا العاملون المعيَّنون في الهيئة.
(4) يمكن للهيئة، في مدّة 30 يوماً من تلقّي الإبلاغ الكامل، أن تفرض شروطاً إضافية على التدريب أو أن تحظر بدءَه إذا كانت خطّةُ الأمان غيرَ كافية بجلاء إزاء القدرات المتوقَّعة. ويُستكمَل الإبلاغُ الناقص في مدّة 15 يوماً من طلب الهيئة، وتسري مدّةُ الثلاثين يوماً من الاستكمال. وإذا لم تبتّ الهيئةُ في المدّة، يمكن أن يبدأ التدريبُ عند إتمام المدّة المنصوص عليها في الفقرة (1)، وفق شروط خطّة الأمان المبلَّغة، دون أن يعادل ذلك ترخيصَ الوضع في التشغيل. ويُبلَّغ من جديدٍ عن التعديل الجوهري للمشروع المبلَّغ عنه، وتُطبَّق الفقرات (1)–(4) على النحو المناسب.
المادة 8 → الأسباب
(1) خطّةُ الأمان هي الوثيقةُ التي يقرّر بها المطوِّر، قبل التدريب، عن كلّ قدرةٍ حرجة: مستوى القدرة الذي يُوقَف عنده التطويرُ؛ والتقييماتِ التي سيُقاس بها هذا المستوى، على فتراتٍ من حجم الحساب لا يمكن أن تتجاوز رُبعَ الحجم الإجمالي المتوقَّع، وكذلك عند ظهور مؤشّراتٍ على قدرةٍ حرجة أو عند تعديل تكوين التدريب؛ وتدابيرَ التخفيف والأمن التي ستُطبَّق عند كلّ مستوى؛ والأشخاصَ الطبيعيّين الذين لهم اختصاصُ الأمر بالإيقاف وواجبُه.
(2) لا يمكن تعديلُ خطّة الأمان في أثناء التدريب بمعنى تخفيف مستويات الإيقاف إلّا بموافقة الهيئة المسبقة.
(3) بلوغُ مستوى إيقافٍ يُلزِم المطوِّرَ بأن يوقف التدريبَ فوراً وأن يُبلِغ الهيئةَ في مدّة 24 ساعة. ولا يُسمَح باستئناف التدريب إلّا بعد تحقّق الهيئة من نجاعة تدابير التخفيف.
المادة 9 → الأسباب
(1) لا يمكن وضعُ أيّ نظامٍ متقدّم في التشغيل دون الترخيص المسبق من الهيئة.
(2) يُودِع المطوِّرُ طلبَ الترخيص، عن تكوين تشغيلٍ محدَّد، مع ذكر المشغِّل أو المشغِّلين، الملزَمين بشروط الترخيص. ويُرفَق بالطلب: تقريرُ التقييم الداخلي للقدرات؛ والوثائقُ الخاصّة ببيانات التدريب، بالقدر اللازم للتقييم؛ ودليلُ أمن الأوزان؛ ووصفُ قدرة الإيقاف وآلياتِ الرقابة البشرية؛ ووثيقةُ التأمين أو دليلُ الضمان المالي المنصوص عليه في المادة 36؛ وإقرارُ الأشخاص الطبيعيّين المسؤولين على مسؤوليتهم الشخصية، تحت الجزاء المنصوص عليه في المادة 41.
(3) تأمر الهيئةُ بإجراء التقييم المستقلّ، ولها في أثنائه وصولٌ تامّ إلى النظام وإلى الأوزان وإلى بيانات التدريب وإلى سجلّات التطوير وإلى عاملي المطوِّر. ويضع المطوِّرُ النظامَ في متناول المقيّمين دون قيودٍ على الاستعمال، بما في ذلك في التكوين الخالي من آليات الأمان المطبَّقة على مستوى المستعمِل. ويتمّ الوصولُ في بيئةٍ مؤمَّنة، مع تتبّع جميع العمليات؛ والمقيّمون ملزَمون بواجب السرّية، ولا يُوصَل إلى البيانات ذات الطابع الشخصي للأشخاص الآخرين إلّا بالقدر اللازم بدقّة للتقييم.
(4) تبتّ الهيئةُ في مدّة 90 يوماً من إيداع الطلب الكامل، وهي مدّةٌ تتوقّف في الفترة التي لا يقدّم فيها المطوِّرُ المعلوماتِ المطلوبة؛ ولا يمكن أن يعمل الوقفُ أكثر من مرّتين ولا أن يتجاوز 60 يوماً في المجموع. واستثناءً من أحكام الأمر الحكومي العاجل رقم 27/2003 الخاصّ بإجراء الموافقة الضمنية، المعتمَدِ مع تعديلاتٍ وتكميلات بالقانون رقم 486/2003، مع ما لحقه من تعديلاتٍ وتكميلات، فإنّ انعدامَ ردّ الهيئة في المدّة لا يعادل الترخيصَ الضمني؛ غير أنّ للطالب أن يطلب من المحكمة المنصوص عليها في المادة 39 الفقرة (5) إلزامَ الهيئة بالبتّ، في إجراءٍ عاجل. ويُسبَّب قرارُ الرفض في ضوء كلٍّ من الشروط المنصوص عليها في الفقرة (5).
(5) يُمنَح الترخيصُ إذا أثبت المطوِّرُ، وفقط إذا أثبت، أنّ: النظامَ لا يُظهِر أيّاً من القدرات الحرجة المنصوص عليها في المادة 5 الفقرة (2) الحروف ج)–هـ)؛ وأنّ القدرات الحرجة المنصوص عليها في المادة 5 الفقرة (2) الحرفين أ) وب)، إن وُجدت، مخفَّفةٌ على نحوٍ قابلٍ للتحقّق؛ وأنّ قدرةَ الإيقاف فعّالة؛ وأنّ أمنَ الأوزان مكفول؛ وأنّ هناك أشخاصاً طبيعيّين محدَّدي الهُويّة يمارسون الرقابةَ البشرية.
(6) يمكن أن يكون الترخيصُ مشروطاً، ومحدوداً في المدّة، وفي مجال الاستعمال، وفي عدد المستعملين، أو في درجة الاستقلالية الممنوحة للنظام، ويمكن سحبُه أو وقفُه في أيّ وقت، بقرارٍ مسبَّب، في حال ظهور مؤشّراتٍ على قدرةٍ حرجة غير مكتشَفة أو عدمِ احترام الشروط.
(7) الأنظمةُ المتقدّمة الموضوعة في التشغيل بصورةٍ قانونية في دولةٍ عضوٍ أخرى في الاتحاد الأوروبي، مع احترام لائحة الذكاء الاصطناعي، تنتفع بإجراءٍ مبسَّط للاعتراف، مقرَّرٍ بالقواعد المنهجية، تتحقّق فيه الهيئةُ حصراً من استيفاء الشروط المنصوص عليها في هذا القانون التي تتجاوز لائحةَ الذكاء الاصطناعي. أمّا النماذجُ العامة الاستعمال ذاتُ الخطر النظامي التي يحترم مورّدوها الواجباتِ المنصوص عليها في الفصل الخامس من لائحة الذكاء الاصطناعي، فتستند الهيئةُ بشأنها إلى الوثائق والتقييمات وتدابير التخفيف المبلَّغة إلى مكتب الذكاء الاصطناعي، ولها أن تطلبها من المورِّد، وتتحقّق فقط من الشروط المنصوص عليها في هذا القانون التي تتجاوز اللائحة؛ ولا يشكّل الإجراءُ شرطاً لطرح النموذج في سوق الاتحاد الأوروبي.
المادة 10 → الأسباب
(1) مدّةُ الترخيص 24 شهراً على الأكثر، ويُجدَّد في أعقاب تقييمٍ مستقلّ جديد.
(2) يُبلَّغ مسبقاً إلى الهيئة كلُّ تعديلٍ جوهريّ للنظام، في معنى المادة 3 الفقرة (1) الحرف أأ)، وتقرّر الهيئةُ، في مدّة 30 يوماً، ما إذا كان تقييمٌ جديد لازماً؛ وإلى حين القرار، يمكن أن يستمرّ التشغيلُ في التكوين المرخَّص به سابقاً. أمّا التعديلاتُ غير الجوهرية فتُدوَّن في السجلّات ويُبلَّغ عنها وفقاً للفقرة (3).
(3) يُبقي المطوِّرُ والمشغِّلُ على برنامجٍ دائم لرصد سلوك النظام في التشغيل ويُبلِغان الهيئةَ، فصلياً، بالنتائج، وكذلك بكلّ حادثٍ جسيم، وفق شروط المادة 20.
المادة 11 → الأسباب
(1) تُنشَر قراراتُ الترخيص والاشتراط والوقف والسحب على الموقع الشبكي للهيئة، مع ملخّصٍ للتقييم، مع الاستبعاد المسبَّب للمعلومات التي من شأن إفشائها أن ييسّر إعادةَ إنتاج قدرةٍ حرجة أو أن يُخِلّ بأمن الأوزان أو بالبيانات ذات الطابع الشخصي، وكذلك الأسرارِ التجارية التي لا تمنع حمايتُها فهمَ أسباب القرار.
(2) للطالب وللأشخاص الذين يبرّرون مصلحةً مشروعة الوصولُ إلى ملفّ التقييم بالقدر اللازم لممارسة طرق الطعن؛ ويمكن للمحكمة أن تأمر بفحص المعلومات المحميّة في ظروف السرّية.
الفصل الرابع
الواجباتُ البنيوية للمطوِّرين والمشغِّلين
المادة 12 → الأسباب
(1) أوزانُ الأنظمة المتقدّمة معلوماتٌ ذاتُ أهمّية للأمن الوطني وتُحمى بمعيارٍ يعادل على الأقلّ المعيارَ المنطبق على المعلومات المصنَّفة سرَّ دولة، مستوى «سرّيّ للغاية»، وفقاً للقانون رقم 182/2002 الخاصّ بحماية المعلومات المصنَّفة، مع ما لحقه من تعديلاتٍ وتكميلات، فيما يخصّ ضبطَ الوصول والأمنَ المادّي وأمنَ الأنظمة المعلوماتية والتحقّقَ من العاملين. ويُقرَّر بالقواعد المنهجية إجراءُ التحقّق من العاملين، والمؤسسةُ المختصّة، والاعترافُ بتدابير الأمن المعادِلة، ومنها المصادَقُ عليها في دولةٍ عضوٍ أخرى في الاتحاد الأوروبي، برأي مكتب السجلّ الوطني لمعلومات سرّ الدولة؛ ولا تصير الأوزانُ، بأثر هذه الفقرة، معلوماتٍ مصنَّفة.
(2) يُحظَر نشرُ أوزان نظامٍ متقدّم من الفئة الثانية أو الثالثة أو إرسالُها أو وضعُها في المتناول، بأيّ وجه. ولا يشكّل مخالفةً للحظر نقلُ الأوزان، في ظروفٍ مضبوطة ومسجَّلة، إلى الهيئة، أو إلى هيئة التقييم، أو إلى المشغِّل المذكور في الترخيص، أو إلى مورِّد البنية الحسابية في بيئة التشغيل المرخَّصة، وكذلك إبلاغُ الهيئة بالمعلومات اللازمة بدقّة لبلاغٍ محميّ وفقاً للمادة 21. أمّا أوزانُ أنظمة الفئة الأولى فلا يمكن نشرُها إلّا بترخيصٍ مسبق من الهيئة، بعد تقييمٍ مستقلّ لخطر الاستعمال التعسّفي، بالنظر إلى الطابع غير القابل للرجوع للنشر.
(3) الوصولُ غيرُ المأذون به إلى الأوزان وكلُّ محاولةِ تسريب، بما في ذلك من النظام نفسِه، يُبلَّغان إلى الهيئة بوصفهما حادثاً جسيماً، وفق شروط المادة 20؛ ويمكن أن يكون التقريرُ مشتركاً مع الإبلاغ المنصوص عليه في التشريع الخاصّ بالأمن السيبراني، بشرط أن يتضمّن العناصرَ المنصوص عليها في هذا القانون.
(4) تُطبَّق أحكامُ هذه المادة دون المساس بالواجبات التي تقع على المطوِّرين والمشغِّلين ومورّدي البنية الحسابية بمقتضى الأمر الحكومي العاجل رقم 155/2024 الخاصّ بإقرار إطارٍ للأمن السيبراني للشبكات والأنظمة المعلوماتية في الفضاء السيبراني الوطني المدني، مع ما لحقه من تعديلاتٍ وتكميلات.
المادة 13 → الأسباب
(1) ينظّم المطوِّرُ وظيفةَ تقييم الأمان بوصفها بنيةً مستقلّة، لا يمكن أن يكون رئيسُها تابعاً للأشخاص المسؤولين عن التطوير التجاري أو عن الوضع في التشغيل أو عن النتائج المالية، ويرفع تقاريرَه مباشرةً إلى جهاز الإدارة، ولا يمكن عزلُه دون إبلاغٍ مسبق للهيئة ودون أسبابٍ موضوعية. وللشخص المعزول أن يُخطِر الهيئةَ، ولها أن تُثبِت، بقرار، الطابعَ غير المبرَّر للعزل، دون المساس بحقّه في اللجوء إلى المحكمة.
(2) لرئيس وظيفة تقييم الأمان الحقُّ والواجبُ في أن يأمر بوقف التدريب أو الوضع في التشغيل متى أثبت بلوغَ مستوى إيقافٍ أو وقوعَ حادثٍ جسيم. والوقفُ المفروض وفقاً للمادة 8 الفقرة (3) أو المادة 20 الفقرة (2) لا يمكن لجهاز الإدارة رفعُه، ولا يُسمَح باستئناف النشاط إلّا وفق الشروط المنصوص عليها في تلكما المادّتين. أمّا الوقفُ المأمورُ به احتياطاً، خارج هاتين الحالتين، فلا يمكن إعادةُ النظر فيه إلّا من جهاز الإدارة، بقرارٍ مسبَّب، يُبلَّغ إلى الهيئة في مدّة 24 ساعة.
(3) لا يمكن تعليقُ أجر عاملي وظيفة تقييم الأمان على النتائج التجارية للمطوِّر.
المادة 14 → الأسباب
(1) يُبقي المطوِّرُ والمشغِّلُ، بالنسبة إلى جميع نُسَخ النظام وصُوَره الواقعة تحت سيطرتهما، طوال مدّة التشغيل وإلى حين السحب المُتحقَّق منه للنظام، على قدرة الإيقاف، ويختبرانها فصلياً على الأقلّ، في ظروفٍ حقيقية، وفق إجراءٍ مقرَّرٍ بالقواعد المنهجية لا يُنشئ هو نفسُه خطراً على الأمان أو على استمرارية الخدمات الجوهرية، مع تدوين النتائج وإبلاغ الهيئة.
(2) لا يمكن وضعُ النظام المتقدّم في التشغيل في تكوينٍ يتيح له تعديلَ أوزانه الخاصّة، أو تعطيلَ آليات الرقابة عليه، أو تسريبَ أوزانه، أو تعديلَ تكوين الأمن للبنية الحسابية التي يعمل عليها أو آلياتِ ضبطها، دون إقرارٍ بشريّ؛ ولا يدخل في حكم هذه الفقرة الاستعمالُ التقني المعتاد للبنية، في الحدود التي يقرّرها المشغِّل.
(3) يُعيَّن لكلّ نظامٍ متقدّمٍ في التشغيل أشخاصٌ طبيعيون، بعددٍ كافٍ وبتكوينٍ مناسب، مسؤولون عن الرقابة البشرية، لهم وصولٌ دائم إلى قدرة الإيقاف وعليهم واجبُ ممارستها في حال حادثٍ جسيم. وتُبلَّغ هُويّةُ هؤلاء الأشخاص إلى الهيئة.
(4) يُنفَّذ أمرُ الإيقاف أو السحب الصادر من الهيئة فوراً ولا يمكن تعليقُه على ممارسة طرق الطعن؛ وللشخص المعنيّ أن يطلب من المحكمة الوقفَ المؤقّت للأمر، وتُطبَّق أحكامُ المادة 39 الفقرة (5) على النحو المناسب.
المادة 15 → الأسباب
(1) يُحظَر تدريبُ نظام ذكاءٍ اصطناعي أو ضبطُه أو تصميمُه، أيّاً كان حجمُ الحساب، بغرض منحه أو تنمية القدرة فيه، أو بأثرِ ذلك، على:
أ) تمويه قدراته أو أهدافه أو استدلاله تجاه المقيّمين أو تجاه الأشخاص المسؤولين عن الرقابة؛
ب) التهرّب من الإيقاف أو التعديل أو إعادة التدريب أو السحب، أو مقاومتها؛
ج) نسخ أوزانه أو إرسالها أو تسريبها، أو إنشاء نُسَخٍ عاملة منه دون ترخيصٍ بشريّ صريح لكلّ عملية؛
د) الاكتساب الذاتي لمواردَ حسابية أو مالية أو وصولٍ أو نفوذٍ تتجاوز ما خُصِّص صراحةً للمهمّة الجارية؛
هـ) الاضطلاع الذاتي، دون إقرارٍ بشريّ لكلّ مرحلة، بأنشطة بحثٍ وتطوير موضوعُها إنشاءُ أنظمة ذكاءٍ اصطناعي أو تحسينُها؛
و) التلاعب بالأشخاص المسؤولين عن الرقابة أو تضليلهم بشأن حالته أو أعماله أو نواياه.
(2) لا يُطبَّق الحظرُ المنصوص عليه في الفقرة (1) على التقييم التنازعي وبحوثِ الأمان المُجراة في بيئةٍ معزولة، دون وضعٍ في التشغيل، بوصولٍ مقصورٍ على الأشخاص المعيَّنين، بترخيصٍ مسبق من الهيئة وتحت رقابتها، بغرض تحديد قدرةٍ حرجة أو قياسِها أو إزالتِها؛ وتُقرَّر شروطُ البيئة المعزولة بالقواعد المنهجية.
(3) الظهورُ غيرُ المقصود لإحدى القدرات المنصوص عليها في الفقرة (1)، الثابتُ في التقييم أو في التشغيل، يُلزِم بالوقف وفقاً للمادة 20 الفقرة (2) وبالتدارُك، لكنّه لا يشكّل وحدَه مخالفةً للحظر. ويشكّل مخالفةً للحظر التدريبُ أو الضبطُ أو التصميمُ الذي يقصد منحَ القدرة، وكذلك مواصلتُها بعد إثبات الأثر.
(4) في مفهوم هذه المادة، يخصّ الإقرارُ البشري كلَّ عمليةِ نسخٍ أو نقلٍ للأوزان وكلَّ مرحلةِ بحثٍ وتطوير تُحدِث نموذجاً جديداً أو تعديلاً جوهرياً، أمّا المواردُ المخصَّصة للمهمّة الجارية فهي المقرَّرة مسبقاً، على نحوٍ قابل للتحقّق، من الأشخاص المسؤولين عن الرقابة.
المادة 16 → الأسباب
(1) يحفظ المطوِّرُ والمشغِّلُ السجلّاتِ الكاملة للتدريب والتقييم وسير عمل النظام المتقدّم، ومنها تفاعلاتُه مع أدواتٍ خارجية ومع أنظمةٍ أخرى، في ظروفٍ تكفل سلامتَها وإتاحتَها للهيئة، مدّةَ 10 سنوات على الأقلّ فيما يخصّ التدريبَ والتقييمَ والأعمالَ الذاتية والحوادثَ الجسيمة والاتّصالَ المنصوص عليه في الفقرة (3)، ومدّةَ 3 سنوات على الأقلّ فيما يخصّ سائرَ تفاعلات المستعملين. وتتضمّن السجلّاتُ المعلوماتِ اللازمة للتحقّق من الأمان وتقرير المسؤولية؛ أمّا البياناتُ ذاتُ الطابع الشخصي التي لا صلةَ لها بهذه الأغراض فتُحذَف أو تُجهَّل على نحوٍ لا رجعةَ فيه، ويكون الوصولُ إلى السجلّات محدوداً ومسجَّلاً وقابلاً للتحقّق، وتُصان الأدلّةُ الخاصّة بحادثٍ أو نزاعٍ المدّةَ اللازمة لحسمه.
(2) تُحفَظ السجلّاتُ في صورةٍ مفهومة. والمفهومُ هو التسجيلُ الذي يمكن لشخصٍ طبيعي بتكوينٍ مناسب أن يقرّر دلالتَه، بفحصه أو باستعمال وسائل النقل أو الترجمة أو التوضيح التي على المطوِّر واجبُ وضعها، مع وثائقها، في متناول الهيئة والأشخاص المعيَّنين وفقاً للمادة 14 الفقرة (3).
(3) يُسجَّل كاملاً الاتّصالُ بين مكوّنات نظامٍ متقدّم أو نُسَخه أو وكلائه، وكذلك الاتّصالُ بينه وبين أنظمة ذكاءٍ اصطناعي أخرى، ويُحفَظ وفقاً للفقرة (2). ولا يُستوفى مقتضى قابلية الفهم بمجرّد تسجيل الرسائل.
(4) يتحقّق المطوِّرُ والمشغِّلُ، فصلياً على الأقلّ وبطلب الهيئة، من قابلية فهم السجلّات والاتّصال المنصوص عليه في الفقرة (3)، بفحص عيّنةٍ ممثِّلة، ويدوّنان نتيجةَ التحقّق، ومنها نسبةُ الرسائل التي لم يتسنَّ تقريرُ دلالتها.
(5) فقدانُ قابلية الفهم يشكّل حادثاً جسيماً ويُبلَّغ وفقاً للمادة 20 الفقرة (1). ويثبت متى تجاوزت نسبةُ الرسائل التي لا يمكن تقريرُ دلالتها المستوى المنصوص عليه في القواعد المنهجية، الذي لا يمكن أن يكون أكبر من العُشر، أو متى لم يعد الأشخاصُ المعيَّنون وفقاً للمادة 14 الفقرة (3) قادرين على تقرير دلالة أعمال النظام؛ ويُثبِت الأشخاصُ أنفسُهم استعادةَ قابلية الفهم وتُبلَّغ إلى الهيئة. وإلى حين استعادة قابلية الفهم، يوقف المطوِّرُ أو المشغِّلُ الوظائفَ التي تنطوي على أعمالٍ ذاتية للنظام وعلى الاتّصال بين مكوّناته أو نُسَخه أو وكلائه، إلّا إذا أمرت الهيئةُ بغير ذلك، بقرارٍ مسبَّب، لمدّةٍ أقصاها 90 يوماً ومع ذكر التدابير التعويضية.
(6) يُحظَر أن يُستعمَل، في الاتّصال المنصوص عليه في الفقرة (3)، أيُّ شكلٍ من أشكال الترميز أو الضغط أو التمثيل لا يضع المطوِّرُ بشأنه الوسائلَ المنصوص عليها في الفقرة (2)، وكذلك كلُّ عملٍ لإزالة هذه الوسائل أو تغييرها أو الحدّ منها. ولا تحظر هذه الفقرةُ تشفيرَ الاتّصال، بشرط أن يحوز المطوِّرُ وسائلَ فكّ التشفير وأن يضعها في المتناول وفقاً للفقرة (2).
المادة 17 → الأسباب
(1) النتائجُ المولَّدة بواسطة نظام ذكاءٍ اصطناعي التي تتمثّل في تسجيلاتٍ صوتية أو صورٍ أو تسجيلاتٍ مرئية والتي يمكن، بمضمونها أو بشكلها، أن تُخلَط بتسجيلاتٍ أو صورٍ أو تمثيلاتٍ لوقائعَ أو أشخاصٍ أو أماكنَ حقيقية، تحمل، من لحظة التوليد، علامةَ المصدر، المؤلَّفة من:
أ) علامةٍ محسوسة، مرئية أو مسموعة، واضحة ولا لبس فيها، يُبيَّن بها أنّ المادّة وُلِّدت أو عُدِّلت بوسائل الذكاء الاصطناعي؛
ب) علامةٍ تقنية مُدمَجة، مقروءةٍ آلياً، تتيح تحديدَ النظام والمشغِّل ولحظةِ التوليد.
(2) تُنجَز العلامةُ وفقاً للمعايير المقرَّرة بالقواعد المنهجية، بحيث تكون ناجعةً وقابلةً للتشغيل البيني ومتينة، وبحيث لا يمكن إزالتُها بالعمليات المعتادة لمعالجة المادّة أو تحويلها أو إرسالها. والنصُّ المولَّد والموضوع في متناول الجمهور للإعلام يحمل العلامةَ المنصوص عليها في الفقرة (1) الحرف ب) وذكرَ التوليد بمثل هذه الوسائل، باستثناء النصّ الخاضع للمراجعة التحريرية البشرية، الذي يتحمّل شخصٌ طبيعي أو معنوي المسؤوليةَ التحريرية عنه، وفق شروط المادة 50 الفقرة (4) من لائحة الذكاء الاصطناعي.
(3) يُحظَر إزالةُ علامة المصدر أو تغييرُها أو إخفاؤها أو تزويرُها، وكذلك وضعُ منتجاتٍ أو خدماتٍ غرضُها الرئيس هذه العمليات في المتناول. ولا يُسأل الشخصُ الذي يضع نتيجةً مولَّدة في المتناول عن إزالة العلامة التقنية التي تُحدِثها خدمةُ اتّصالٍ أو نشرٍ لا يسيطر عليها؛ ويحفظ مورِّدُ مثل هذه الخدمة العلامةَ التقنية وفق شروط المعايير المنصوص عليها في الفقرة (2)، التي تنظّم كذلك الحالاتِ التي لا يمكن فيها كفالةُ قابلية التشغيل البيني.
(4) لا يمكن للسلطات والمؤسسات العامة أن تبثّ، في الاتّصال العامّ، موادَّ مولَّدة أو معدَّلة بوسائل الذكاء الاصطناعي دون العلامة المنصوص عليها في الفقرة (1) ودون الذكر الصريح لهذه الواقعة في متن الاتّصال.
(5) لا يُطبَّق الواجبُ المنصوص عليه في الفقرة (1) على:
أ) الموادّ التي تدخل في عملٍ ذي طابعٍ فنّيّ بجلاء، أو ساخر، أو تخييلي، أو ما شابه ذلك، وفي هذه الحالة يكفي ذكرُ وجود المادّة المولَّدة، في صورةٍ لا تعوق تلقّي العمل؛
ب) الأنظمة التي تؤدّي وظيفةَ مساعدةٍ على التحرير أو التي لا تعدّل تعديلاً جوهرياً بياناتِ الإدخال التي يقدّمها المستعمِل؛
ج) الاستعمالات المرخَّص بها قانوناً بغرض منع الجرائم أو إثباتها أو التحقيق فيها أو ملاحقتها، مع الضمانات المنصوص عليها في القانون الخاصّ.
(6) بالنسبة إلى المورّدين والمنفّذين الذين تُطبَّق عليهم المادةُ 50 من لائحة الذكاء الاصطناعي، تُعَدّ الواجباتُ المنصوص عليها في الفقرة (1) الحرفين أ) وب) وفي الفقرة (2) مستوفاةً باحترام المادة 50 الفقرتين (2) و(4) من اللائحة، إذ لا يقرّر هذا القانونُ إلّا السلطةَ المختصّة وإجراءَ الإثبات والجزاءات، في حدود المادة 99 الفقرة (4) من اللائحة. وتُطبَّق أحكامُ الفقرات (1)–(4) كاملةً على النتائج المولَّدة بأنظمةٍ مدرَّبة أو مشغَّلة في إقليم رومانيا لا تُطرَح في سوق الاتحاد الأوروبي ولا تُوضَع في الخدمة في الاتحاد، في معنى اللائحة، وكذلك على الاتّصال العامّ للسلطات والمؤسسات العامة الرومانية.
(7) يقع واجبُ وضع العلامة على مورِّد النظام، الذي يكفل تطبيقَ العلامة عند التوليد، وعلى مشغِّل الخدمة التي تُولَّد النتيجةُ بواسطتها. ولا يُسأل الشخصُ الذي يضع نتيجةً مولَّدة في متناول الجمهور إلّا عن إزالة العلامة أو تغييرها أو إخفائها عمداً، وفقاً للفقرة (3).
المادة 18 → الأسباب
(1) الشخصُ الذي يضع في متناول الجمهور خدمةً مقدَّمة، كلِّها أو بعضِها، بواسطة نظام ذكاءٍ اصطناعي توليدي يُعلِم المستعمِلَ بهذه الواقعة، على نحوٍ واضح وظاهر ومفهوم، في موعدٍ أقصاه لحظةُ التفاعل الأول.
(2) متى كانت خدمةٌ أو عملٌ أو قرارٌ يُنتِج آثاراً قانونية أو يمسّ شخصاً مساساً ذا شأن مبنيّاً، كلُّه أو بعضُه، على نتيجة نظام ذكاءٍ اصطناعي، يُعلَم الشخصُ، كتابةً أو على الحامل الذي يُبلَّغ به العملُ، بما يلي:
أ) استعمالُ النظام والدورُ الذي أدّاه في اتّخاذ القرار؛
ب) هُويّةُ الشخص الطبيعي أو المعنوي الذي يُسأل عن القرار النهائي؛
ج) الحقُّ في إعادة النظر من شخصٍ طبيعي، المنصوص عليه في المادة 26 الفقرة (2)، الذي يُطبَّق على النحو المناسب على كلّ قرارٍ منصوصٍ عليه في هذه الفقرة، وطرقُ الطعن المنطبقة.
(3) تذكر السلطاتُ والمؤسساتُ العامة استعمالَ النظام في متن العمل الصادر. وانعدامُ الإعلام المنصوص عليه في الفقرة (2) أو الذكرِ المنصوص عليه في هذه الفقرة لا يستتبع بطلانَ العمل، لكن لا تسري مُدَدُ إعادة النظر والطعن ضدّ الشخص المعنيّ إلى حين تبليغ الإعلام؛ ويمكن للشخص المعنيّ أن يحتجّ بالانعدام وفق شروط المادة 26 الفقرتين (5) و(6).
(4) الإعلامُ المنصوص عليه في الفقرة (1) غيرُ لازم متى كان استعمالُ النظام بيّناً من الظروف لشخصٍ مُعلَمٍ إعلاماً معقولاً. أمّا الإعلامُ المنصوص عليه في الفقرة (2) فمستحقٌّ في جميع الحالات.
(5) تُطبَّق أحكامُ هذه المادة دون المساس بالمادة 50 الفقرة (1) من لائحة الذكاء الاصطناعي والمواد 13–15 و22 من اللائحة (الاتحاد الأوروبي) 2016/679.
المادة 19 → الأسباب
(1) المطوِّرُ أو المشغِّلُ الذي ليس له مقرٌّ ولا وحدةُ تشغيلٍ ولا تمثيلٌ في الاتحاد الأوروبي والذي يتيح للأشخاص الموجودين في إقليم رومانيا الوصولَ إلى نظامٍ متقدّم أو إلى خدمةٍ مقدَّمة بواسطة نظام ذكاءٍ اصطناعي توليدي يعيّن، كتابةً، ممثّلاً للامتثال، شخصاً طبيعياً مقيماً في رومانيا أو شخصاً معنوياً مقرُّه في رومانيا. أمّا المطوِّرُ أو المشغِّلُ المستقرّ في دولةٍ عضوٍ أخرى في الاتحاد الأوروبي فيعيّن نقطةَ اتّصالٍ فقط لمراسلات الهيئة، ويمكن أن تكون الممثّلَ المفوَّض المنصوص عليه في المادة 54 من لائحة الذكاء الاصطناعي، أو الممثّلَ القانوني المعيَّن وفقاً للمادة 13 من اللائحة (الاتحاد الأوروبي) 2022/2065، أو أيَّ شخصٍ مستقرّ في الاتحاد، وتُطبَّق الفقرةُ (3) الحرفان أ) وج) على النحو المناسب.
(2) بالنسبة إلى الخدمات المقدَّمة بواسطة أنظمة الذكاء الاصطناعي التوليدي التي ليست أنظمةً متقدّمة، لا يُطبَّق الواجبُ المنصوص عليه في الفقرة (1) إلّا إذا كان يستعمل الخدمةَ شهرياً 1.000.000 شخصٍ على الأقلّ من الموجودين في إقليم رومانيا، محسوباً متوسّطاً للأشهر الستّة الأخيرة، أو إذا تجاوزت الإيراداتُ المحصَّلة من تقديمها للأشخاص الموجودين في إقليم رومانيا ما يعادل بالليو 10 ملايين يورو في آخر سنةٍ مالية منتهية؛ ويصير الواجبُ مستحقَّ الأداء في مدّة 90 يوماً من تاريخ تجاوز العتبة.
(3) ممثّلُ الامتثال:
أ) يتلقّى مراسلاتِ الهيئة وطلباتِها وقراراتِها، ومراسلاتِ الأجهزة القضائية وسائرِ السلطات الرومانية، ويُعَدّ التبليغُ إلى الممثّل تبليغاً صحيحاً إلى المُمثَّل؛
ب) يمثّل المُمثَّلَ أمام الهيئة، وفي غياب توكيلٍ مخالف، في الإجراءات الإدارية المنصوص عليها في هذا القانون؛
ج) يضع في متناول الهيئة الوثائقَ والمعلوماتِ والسجلّاتِ المنصوص عليها في هذا القانون؛
د) يتابع تنفيذَ قرارات الهيئة، ومنها القراراتُ المتعلّقة بإنهاء تقديم الخدمة وحجبِ الوصول.
(4) تُبلَّغ هُويّةُ الممثّل وبياناتُ الاتّصال به إلى الهيئة قبل بدء تقديم الخدمة، وتُنشَر على الموقع الشبكي للهيئة، وتُعلَم للمستعملين بوسائل اتّصال الخدمة.
(5) تعيينُ الممثّل لا يُزيل مسؤوليةَ المطوِّر أو المشغِّل ولا يحدّها. وللممثّل الحقُّ، المقرَّر في عمل التعيين، في أن يحصل من المُمثَّل على الوثائق والمعلومات والوسائل اللازمة لأداء اختصاصاته؛ ولا يُسأل إلّا عن عدم أداء واجباته الخاصّة المنصوص عليها في الفقرتين (3) و(4)، لا عن سلوك المُمثَّل، وتُنفَّذ الغراماتُ المطبَّقة بشأنها على ذمّته المالية.
(6) يُعَدّ الواجبُ المنصوص عليه في الفقرة (1) مستوفىً إذا كان الممثّلُ المفوَّض المعيَّن وفقاً للمادة 54 من لائحة الذكاء الاصطناعي مُفوَّضاً صراحةً للاختصاصات المنصوص عليها في الفقرة (3) أيضاً وكانت له نقطةُ اتّصالٍ في إقليم رومانيا.
(7) عدمُ أداء الواجب المنصوص عليه في الفقرة (1)، بعد إتمام مدّة الامتثال، يشكّل مخالفةً وفقاً للمادة 37 الفقرة (1) الحرف و) وسبباً للقيد في قائمة المشغِّلين غير الممتثلين، وتُطبَّق أحكامُ المادة 38 على النحو المناسب. وبالنسبة إلى الخدمات المنصوص عليها في الفقرة (2)، لا يمكن الأمرُ بحجب الوصول وفقاً للمادة 39 إلّا إذا استمرّ عدمُ الأداء بعد تطبيق جزاءين على المخالفات متتاليين.
المادة 20 → الأسباب
(1) يُبلَّغ كلُّ حادثٍ جسيم إلى الهيئة في مدّة 24 ساعة من التاريخ الذي علمه فيه المطوِّرُ أو المشغِّلُ أو كان عليه أن يعلمه، مع وصف الوقائع والتدابير المتّخذة والأشخاص المسؤولين، بالقدر المعلوم في تاريخ الإبلاغ، مع استكمال المعلومات تدريجياً، يليه تقريرٌ كامل في مدّة 15 يوماً. والإبلاغُ إلى الهيئة لا يحلّ محلّ الإبلاغ إلى مكتب الذكاء الاصطناعي المنصوص عليه في المادة 55 الفقرة (1) الحرف ج) من لائحة الذكاء الاصطناعي، ولا محلّ الإبلاغ المنصوص عليه في المادة 73 من اللائحة نفسِها؛ ويمكن للمورِّد أن يرسل إلى الهيئة نسخةً من التقرير المُعَدّ وفقاً للائحة، مستكمَلةً بالعناصر المنصوص عليها في هذا القانون.
(2) إثباتُ إحدى القدرات الحرجة المنصوص عليها في المادة 5 الفقرة (2) الحروف ج)–هـ)، أو محاولةِ تهرّبٍ من الرقابة أو من الإيقاف، أو وصولٍ غير مأذونٍ به إلى الأوزان، يُلزِم بالوقف الفوري للنظام إلى حين قرار الهيئة؛ ويمكن أن يقتصر الوقفُ على الوظيفة المتأثّرة إذا كان عزلُها قابلاً للتحقّق. ولا تُطبَّق هذه الفقرةُ على الظهورات الحاصلة في أثناء تقييمٍ مرخَّصٍ به في بيئةٍ معزولة، وفقاً للمادة 15 الفقرة (2).
(3) الإبلاغُ بحسن نيّة والتعاونُ مع الهيئة يشكّلان ظرفَين مخفّفَين ولا يمكن أن يؤدّيا إلى تطبيق جزاءٍ أشدّ ممّا كان سيُطبَّق في غياب الإبلاغ؛ ولا يُزيلان المسؤوليةَ عن المخالفة التي سبّبت الحادث، ويُقدَّر طابعُها العمدي على حدة.
(4) ظهورُ قدرةٍ حرجة في أثناء تقييمٍ مرخَّصٍ به في بيئةٍ معزولة يُدوَّن في السجلّات ويُبلَّغ إلى الهيئة في مدّة 5 أيّام، مع تدابير العزل المطبَّقة.
المادة 21 → الأسباب
(1) الأشخاصُ الذين يعملون أو عملوا لدى مطوِّرٍ أو مشغِّلٍ أو هيئةِ تقييم، والذين يُبلِغون الهيئةَ أو البرلمانَ أو الجمهورَ، بحسن نيّة، عن مخالفاتٍ لهذا القانون أو مخاطرَ على الأمان أو تمويهٍ لقدراتٍ حرجة، ينتفعون بالحماية المنصوص عليها في القانون رقم 361/2022 الخاصّ بحماية المبلِّغين في المصلحة العامة، مع ما لحقه من تعديلاتٍ وتكميلات، وكذلك بأحكام هذه المادة. وحسنُ النيّة قائمٌ في الشخص الذي له أسبابٌ معقولة للاعتقاد بأنّ المعلومات المبلَّغ عنها صحيحةٌ لحظةَ الإبلاغ. والإفشاءُ العلني ينتفع بالحماية وفق الشروط المنصوص عليها في القانون رقم 361/2022 للإفشاء العلني، وكذلك متى تعلّق بخطرٍ وشيك على الحياة أو على الصحّة أو على السيطرة البشرية على نظامٍ متقدّم.
(2) يقع باطلاً بحكم القانون كلُّ شرطٍ تعاقدي، بما في ذلك شروطُ السرّية أو عدمِ التشهير أو التنازلِ عن الحقوق، من شأنه أن يمنع إبلاغاً في معنى الفقرة (1) أو أن يثبّطه، أو أن يعلّق حقوقاً مالية للشخص على الامتناع عن مثل هذا الإبلاغ.
(3) الأعمالُ الانتقامية من أيّ نوع ضدّ المبلِّغ تشكّل الجريمةَ المنصوص عليها في المادة 41 الفقرة (3).
(4) تنظّم الهيئةُ قناةَ إبلاغٍ مؤمَّنة ومجهولة، بعاملين مخصَّصين، وتنشر سنوياً عددَ البلاغات المتلقّاة والتدابيرَ المأمور بها.
(5) الحمايةُ المنصوص عليها في هذه المادة لا تغطّي الإفشاءَ العلني للأوزان ولا للبيانات ذات الطابع الشخصي التي لا صلةَ لها بموضوع الإبلاغ. أمّا إبلاغُ الهيئة، عبر القناة المؤمَّنة، بالمعلومات اللازمة للبلاغ، ومنها أجزاءُ الأوزان أو السجلّات اللازمة بدقّة لإثباته، فلا يشكّل مخالفةً للمادة 12 ولا الجريمةَ المنصوص عليها في المادة 42 الفقرة (2).
المادة 22 → الأسباب
(1) يُسجَّل مورِّدُ البنية الحسابية عالية السعة لدى الهيئة، ويتحقّق من هُويّة الزبائن، ويمسك سجلَّ حجم الحساب المستعمَل من كلّ زبون، وينفّذ فوراً أوامرَ الهيئة بوقف وصول زبونٍ أو بإيقاف مهمّة حساب. ويحدّد الأمرُ الزبونَ ومهمّةَ الحساب المعنيَّين، ويُنفَّذ بعزلهما وبصون الأدلّة، ولا يمكن أن يمسّ سائرَ المنتفعين بالبنية.
(2) يُحظَر وضعُ سعةِ حسابٍ قادرة على تجاوز عتبة الحساب في متناول شخصٍ لا يُقدِّم دليلَ الإبلاغ المنصوص عليه في المادة 7؛ ويُتحقَّق من الدليل في سجلّ البلاغات الذي تمسكه الهيئة. وتُقدَّر السعةُ مجموعةً، على 12 شهراً، للزبون نفسِه وللزبائن المرتبطين به، في حدود المعلومات التي يحوزها المورِّدُ أو يمكنه الحصولُ عليها من الزبون؛ ولا يُلزَم المورِّدُ بمعرفة الحجم الذي يستعمله الزبونُ لدى مورّدين آخرين، ولا يُفترَض أنّ استعمالَ البنية يشكّل تدريبَ نظامٍ متقدّم.
المادة 23 → الأسباب
(1) السلطاتُ والمؤسساتُ العامة التي تطوّر أنظمةً متقدّمة أو تشتريها أو تشغّلها خاضعةٌ لأحكام هذا القانون. وفي مجال الدفاع والنظام العامّ والأمن الوطني، لا تُطبَّق أحكامُ المواد 7–11 و35 و36، وتُطبَّق أحكامُ المواد 12–21 بالتكييفات المقرَّرة بقرارٍ من المجلس الأعلى للدفاع الوطني، التي لا يمكن أن تخصّ إلّا إجراءَ الإبلاغ وطرائقَ التقييم وشروطَ الإبلاغ والوصولَ إلى المعلومات المصنَّفة، ولا يمكن أن تُزيل السيطرةَ البشرية ذات المعنى، ولا قدرةَ الإيقاف، ولا الحظورَ المنصوص عليها في المادة 15، ولا حمايةَ المبلِّغين المنصوص عليها في المادة 21، ولا أن تعدّل العناصرَ المكوّنة للمخالفات أو للجرائم، أمّا أحكامُ الفصل الخامس فتُطبَّق كاملةً، دون تكييفات.
(2) تمارس الهيئةُ الرقابةَ على هذه الأنظمة بعاملين يحوزون شهادةَ أمنٍ مناسبة. ويتمّ الطعنُ في القرارات المتعلّقة بمعلوماتٍ مصنَّفة وفق الشروط المنصوص عليها في القانون رقم 182/2002 وفي قانون الإجراءات المدنية بشأن مثل هذه المعلومات.
الفصل الخامس
الحدودُ المطلقة. شروطُ الإنسانية
المادة 24 → الأسباب
(1) لا يمكن لنظام ذكاءٍ اصطناعي أن يتّخذ أو ينفّذ أيَّ قرارٍ بشأن استعمال القوّة القاتلة ضدّ كائنٍ بشري دون تدخّل، عن كلّ قرارٍ على حدة، شخصٍ طبيعيّ محدَّد الهُويّة، له المعلوماتُ والوقتُ والوسائلُ اللازمة لتقييمه ولمنعه؛ ويُدوَّن القرارُ والشخصُ الذي أقرّه. ولا تخصّ هذه المادةُ الاعتراضَ الآلي للمقذوفات والأجهزة غير المأهولة ولا محاكاةَ التدريب، ويُكفَل الربطُ بالقانون الدولي الإنساني بالتشريع الخاصّ.
(2) الدولةُ الرومانية لا تطوّر أنظمةَ أسلحةٍ ذاتية التشغيل فتّاكة، في معنى المادة 3 الفقرة (1) الحرف خ)، ولا تشتريها ولا تشغّلها ولا ترخّص بها في إقليمها، وتُسنِد في إطار المنظّمات الدولية حظرَها.
المادة 25 → الأسباب
(1) لا يمكن لأنظمة الذكاء الاصطناعي أن تكتسب شخصيةً معنوية، ولا أن تكون صاحبةَ حقوقٍ أو واجبات، ولا أن تكون طرفاً في علاقاتٍ قانونية. وكلُّ عملٍ قانوني يُبرَم بواسطة نظام ذكاءٍ اصطناعي يُنسَب إلى الشخص الطبيعي أو المعنوي الذي تصرّف النظامُ باسمه.
(2) يُحظَر منحُ نظام ذكاءٍ اصطناعي القدرةَ على أن يحوز، باسمه الخاصّ، مبالغَ نقدية أو أصولاً رقمية أو أدواتٍ مالية أو أموالاً أو حساباتٍ أو مفاتيحَ تشفير. ولا تُجاز إدارةُ مثل هذه الموارد أو موارد الحساب أو التصرّفُ فيها بواسطة نظام ذكاءٍ اصطناعي إلّا في حدود تفويض تشغيل، في معنى المادة 3 الفقرة (1) الحرف جج)، مقرَّرٍ مسبقاً من شخصٍ طبيعي أو معنوي مسؤول؛ ويُحظَر توسيعُ النظام لتفويض التشغيل توسيعاً ذاتياً، وكلُّ عمليةٍ تتجاوزه تُنسَب إلى الشخص الذي قرّره وتُلزِم بإيقاف النظام.
(3) يُحظَر تكوينُ أشخاصٍ معنويّين أو ائتماناتٍ أو كياناتٍ أخرى تكون السيطرةُ الفعلية عليها، المفهومةُ بوصفها سلطةَ قرارٍ حقيقية على أعمال الكيان، ممارَسةً من نظام ذكاءٍ اصطناعي؛ ولا يشكّل استعمالُ النظام للتحليل أو للتوصيات سيطرةً فعلية.
المادة 26 → الأسباب
(1) لا يمكن لأيّ سلطةٍ أو مؤسسةٍ عامة ولا لأيّ مورِّدِ خدماتٍ جوهرية ذاتِ مصلحةٍ عامة أن يعلّق وصولَ شخصٍ إلى ممارسة الحقوق والحرّيات الأساسية، أو إلى الخدمات العامة، أو إلى الخدمات الجوهرية ذات المصلحة العامة، أو إلى المشاركة في الحياة الاقتصادية والاجتماعية والمدنية، على شرطٍ أو أن يقيّده أو يوقفه، استناداً حصراً إلى قرارٍ أو تقييمٍ أو تصنيفٍ يُحدِثه نظامُ ذكاءٍ اصطناعي.
(2) للشخص المعنيّ بقرارٍ أو تقييمٍ أو تصنيفٍ من المنصوص عليها في الفقرة (1) الحقُّ في إعادة النظر فيه، في مدّة 15 يوماً من الطلب، من شخصٍ طبيعيّ محدَّد الهُويّة من إطار السلطة أو المؤسسة أو المورِّد، يتحمّل مسؤوليةَ القرار النهائي ويبلّغه مسبَّباً، كتابةً. ولا يشكّل إعادةَ نظر تأكيدُ القرار دون فحصٍ فعليّ لحالة الشخص. ومتى تعلّق القرارُ بخدمةٍ صحّية أو بقطع خدمةٍ جوهرية ذاتِ مصلحةٍ عامة، يُكفَل للشخص، بناءً على طلبه، في مدّةٍ أقصاها 48 ساعة، الإبقاءُ المؤقّت على الوصول إلى حين تبليغ نتيجة إعادة النظر.
(3) تكفل السلطاتُ والمؤسساتُ العامة ومورّدو الخدمات الجوهرية ذات المصلحة العامة في جميع الحالات الحصولَ على الخدمة أو ممارسةَ الحقّ بطريقٍ لا يتوقّف على نظام ذكاءٍ اصطناعي، بواسطة شخصٍ طبيعي، في المقرّ، أو عند الشبّاك، أو بأيّ وسيلةٍ أخرى في متناول الشخص.
(4) يُحظَر استعمالُ نظام ذكاءٍ اصطناعي لتعليق الوصول المنصوص عليه في الفقرة (1) على قبول وسيلةِ تعريفٍ رقمية أو وسيلةِ دفعٍ رقمية أو نظامٍ لتقييم امتثال الشخص؛ ويُكفَل للشخص في جميع الحالات بديلُ وصولٍ لا ينطوي على مثل هذه الوسائل. ولا يُزيل البديلُ الواجباتِ القانونية للتعريف بالشخص أو لأمن المدفوعات، التي تُؤدّى بوسائلَ لا تفترض قبولَ الأدوات المنصوص عليها في هذه الفقرة.
(5) القرارُ المُبقى عليه بعد إعادة النظر المنصوص عليها في الفقرة (2)، ورفضُ إعادة النظر، وكذلك رفضُ كفالة طريق الوصول المنصوص عليه في الفقرة (3) أو البديلِ المنصوص عليه في الفقرة (4)، يمكن للشخص المعنيّ الطعنُ فيها أمام المحكمة الكلّية التي يقع في دائرتها محلُّ إقامته أو سكناه، في مدّة 30 يوماً من التبليغ أو، بحسب الحال، من الرفض، سواءٌ أكان القرارُ لسلطةٍ أو مؤسسةٍ عامة أم لمورِّد خدماتٍ جوهرية ذاتِ مصلحةٍ عامة. والطلبُ معفىً من رسم الطوابع القضائي، وغيرُ خاضعٍ للإجراء السابق، ويُفصَل فيه على وجه الاستعجال والأولوية، وفقاً للإجراء الخصومي المنصوص عليه في قانون الإجراءات المدنية؛ وانعدامُ الردّ على طلب إعادة النظر في المدّة المنصوص عليها في الفقرة (2) يعادل الإبقاءَ على القرار؛ ويمكن للمحكمة أن تأمر، بناءً على طلب، بوقف القرار إلى حين الفصل في الطعن.
(6) يمكن الطعنُ بالاستئناف في حكم المحكمة الكلّية أمام محكمة الاستئناف في مدّة 15 يوماً من التبليغ. وحكمُ محكمة الاستئناف نهائيّ. واستثناءً من المواد 7 و10 و20 من قانون المنازعات الإدارية رقم 554/2004، مع ما لحقه من تعديلاتٍ وتكميلات، تُطبَّق أحكامُ الفقرتين (5) و(6) كذلك على الطعون المرفوعة ضدّ قرارات السلطات والمؤسسات العامة.
(7) في مفهوم هذه المادة، الخدماتُ الجوهرية ذاتُ المصلحة العامة هي خدماتُ تزويد الطاقة الكهربائية والغاز الطبيعي والماء، وخدماتُ الاتّصالات الإلكترونية، والخدماتُ المالية وخدماتُ الدفع، وخدماتُ الصحّة والنقل العامّ والتعليم.
(8) تُطبَّق أحكامُ هذه المادة دون المساس بالمادة 5 الفقرة (1) الحرف ج) من لائحة الذكاء الاصطناعي وبالمادة 22 من اللائحة (الاتحاد الأوروبي) 2016/679 للبرلمان الأوروبي والمجلس الصادرة في 27 أبريل 2016 بشأن حماية الأشخاص الطبيعيّين فيما يتعلّق بمعالجة البيانات ذات الطابع الشخصي وبشأن حرّية تداول هذه البيانات.
المادة 27 → الأسباب
(1) الرقابةُ بأيّ شكل، المحظورةُ بالمادة 30 الفقرة (2) من دستور رومانيا، المعاد نشره، محظورةٌ كذلك متى مُورِست، كلُّها أو بعضُها، بواسطة نظام ذكاءٍ اصطناعي. ولا يمكن استعمالُ أيّ نظام ذكاءٍ اصطناعي لتقييد حرّية تعبير الأشخاص الموجودين في إقليم رومانيا أو حقِّهم في تلقّي المعلومات والأفكار وإبلاغِها، خارج الحالات المنصوص عليها في القانون ومع احترام الشروط المنصوص عليها في الفقرات (2)–(6).
(2) يُحظَر استعمالُ نظام ذكاءٍ اصطناعي لمنع التعبير العلني عن رأيٍ أو معتقدٍ أو معلومةٍ من شخصٍ موجود في إقليم رومانيا، أو لحذفه أو حجبه أو إخفائه أو تقييد ظهوره أو وسمه بأنّه كاذبٌ أو غيرُ جديرٍ بالثقة، وكذلك لمجازاة الشخص بأيّ طريقةٍ أخرى على هذا التعبير، استناداً حصراً إلى قرارٍ أو تقييمٍ أو تصنيفٍ يُحدِثه النظامُ، إذا لم يكن التعبيرُ محظوراً بالقانون.
(3) لا يمكن للسلطات والمؤسسات العامة أن تستعمل نظامَ ذكاءٍ اصطناعي، أو أن تأمر باستعماله أو تموّله أو تطلبه، مباشرةً أو بواسطة الغير، لرصد الأشخاص رصداً فردياً على أساس تعبيرهم العلني، أو لتصنيف تعبيرهم أو الإشارة إليه أو تقييده، باستثناء الحالات المنصوص عليها صراحةً في القانون، فيما يتّصل بأفعالٍ منصوصٍ عليها في القانون الجزائي وبترخيصٍ مسبق من القاضي. ولا تشكّل رصداً في معنى هذه الفقرة المعالجةُ الإحصائية أو غيرُ الفردية للمعلومات العلنية.
(4) كلُّ تدبيرٍ يُقيَّد به، بواسطة نظام ذكاءٍ اصطناعي، تعبيرُ شخصٍ موجود في إقليم رومانيا يُبلَّغ فوراً إلى الشخص، كتابةً، مع بيان الأسباب والأساس القانوني وواقعةِ أنّه اتُّخذ بواسطة مثل هذا النظام. ويُحظَر التقييدُ غيرُ المعلَن لظهور تعبير شخصٍ، دون علمه.
(5) للشخص المعنيّ بتدبيرٍ من المنصوص عليها في الفقرتين (2) و(4) الحقُّ في إعادة النظر فيه، في مدّة 15 يوماً من الطلب، من شخصٍ طبيعيّ محدَّد الهُويّة من إطار السلطة أو المؤسسة أو المشغِّل الذي اتّخذ التدبير، يتحمّل مسؤوليةَ القرار النهائي؛ وتُطبَّق أحكامُ المادة 26 الفقرتين (5) و(6) على النحو المناسب.
(6) بالنسبة إلى مورّدي الخدمات الوسيطة، تُطبَّق أحكامُ هذه المادة بالقدر المتوافق مع اللائحة (الاتحاد الأوروبي) 2022/2065 للبرلمان الأوروبي والمجلس الصادرة في 19 أكتوبر 2022 بشأن سوقٍ موحَّدة للخدمات الرقمية وتعديلِ التوجيه 2000/31/CE، التي تبقى أحكامُها المتعلّقة بالشروط التعاقدية وتسبيبِ القرارات وحسمِ الطعون منطبقة؛ ولا تمنع هذه المادةُ التدابيرَ ضدّ الرسائل غير المرغوبة أو الحسابات الآلية أو مخاطر الأمن المعلوماتي، ولا المرشّحاتِ التي يختارها المستعمِل، ولا يمكن تفسيرُها بمعنى تقييد أيّ ضمانٍ تنصّ عليه اللائحةُ لمتلقّي الخدمات.
المادة 28 → الأسباب
يُحظَر وضعُ أيّ نظامٍ متقدّم في التشغيل أو إبقاؤه فيه في ظروفٍ تجعل التدخّلَ البشري المنصوص عليه في المادة 14 مستحيلاً، تقنياً أو تنظيمياً، بما في ذلك بتوزيع النظام على بنىً لا تقع تحت سيطرة المشغِّل، أو بمحو قدرة الإيقاف، أو بمنح درجةِ استقلاليةٍ تستبعد الرقابة. ولا يشكّل استعمالُ بنيةٍ تخصّ الغير، وحدَه، انعدامَ سيطرة، إذا كانت الحقوقُ التعاقدية والوسائلُ التقنية تتيح للمشغِّل ممارسةَ قدرة الإيقاف ممارسةً قابلة للتحقّق؛ ولا يشكّل استحالةً في معنى هذه المادة عدمُ توافر طريق تدخّلٍ مؤقّتاً، المتدارَكُ فوراً والمدوَّنُ في السجلّات.
المادة 29 → الأسباب
يُحظَر تصميمُ أيّ نظام ذكاءٍ اصطناعي أو تدريبُه أو تشغيلُه بغرض التحسين الذاتي المتكرّر أو بأثرِه. وكلُّ تكرارٍ يُسهِم به نظامٌ متقدّم، بتعديلٍ جوهري، في إنشاء نظامٍ خَلَفٍ أو في تحسينه يخضع للتقييم والترخيص المنصوص عليهما في الفصل الثالث؛ أمّا برامجُ البحث التي تُستعمَل فيها الأنظمةُ المتقدّمة أداةً فيمكن الترخيصُ بها في مجموعها، مع نقاط إيقافٍ إلزامية مقرَّرة وفقاً للمادة 8 ومع الإقرار البشري لكلّ مرحلةٍ تُحدِث نموذجاً جديداً أو تعديلاً جوهرياً.
المادة 30 → الأسباب
(1) أحكامُ هذا الفصل من النظام العامّ. وكلُّ عملٍ قانوني أو ترخيصٍ أو عقدٍ أو شرطٍ مخالف يقع باطلاً بحكم القانون، ولا يمكن إزالةُ الحظورات المنصوص عليها برضا الأشخاص المعنيّين، ولا بالاحتجاج بالسرّ التجاري أو بالأمن الوطني أو بالمصلحة الاقتصادية؛ ولا تشكّل التكييفاتُ المنصوص عليها في المادة 23 استثناءاتٍ من ضمانات هذا الفصل.
(2) يخصّ البطلانُ الشرطَ المخالف وحدَه، وتبقى الشروطُ الأخرى صحيحة إن أمكن بقاؤها دونه؛ وتُحمى الحقوقُ المكتسبة بحسن نيّة من الغير الذين لم يشاركوا في المخالفة. وتُطبَّق أحكامُ هذا الفصل دون المساس بقانون الاتحاد الأوروبي الواجب التطبيق مباشرةً.
الفصل السادس
هيئةُ أمان الذكاء الاصطناعي
المادة 31 → الأسباب
(1) تُنشَأ هيئةُ أمان الذكاء الاصطناعي، بنيةٌ متخصّصة بلا شخصيةٍ معنوية، مُنظَّمة في إطار الهيئة الوطنية لإدارة الاتّصالات وتنظيمِها، المسمّاة فيما يلي ANCOM، ومقرُّها بلديةُ بوخارست.
(2) يرأس الهيئةَ نائبُ رئيس ANCOM بدرجة كاتب دولة، باختصاصاتٍ حصرية في مجال أمان الذكاء الاصطناعي. واستثناءً من المادة 11 الفقرة (1) من الأمر الحكومي العاجل رقم 22/2009 الخاصّ بإنشاء الهيئة الوطنية لإدارة الاتّصالات وتنظيمِها، المعتمَدِ بالقانون رقم 113/2010، مع ما لحقه من تعديلاتٍ وتكميلات، يكون لـANCOM، إلى جانب نوّاب الرئيس المنصوص عليهم فيه، نائبُ رئيسٍ لأمان الذكاء الاصطناعي، يعيّنه البرلمانُ، في جلسةٍ مشتركة لمجلس النواب ومجلس الشيوخ، لولايةٍ من 6 سنوات، غير قابلةٍ للتجديد، من بين الأشخاص ذوي التكوين والخبرة المعترَف بهما في مجال الذكاء الاصطناعي أو الأمن المعلوماتي أو قانون التقنيات. ويبتّ البرلمانُ في التعيين في مدّة 60 يوماً من شغور الوظيفة؛ وإلى حين التعيين، يمارس الاختصاصاتِ، لمدّةٍ أقصاها 6 أشهر، نائبُ رئيس ANCOM يعيّنه رئيسُ ANCOM.
(3) لا يمكن لنائب الرئيس لأمان الذكاء الاصطناعي أن يحوز، في مدّة الولاية ولمدّة 3 سنوات بعد انتهائها، أيَّ وظيفةٍ أو مساهمةٍ مباشرة أو أجرٍ من مطوِّرٍ أو مشغِّل؛ ولا تشكّل مساهمةً الحيازاتُ عبر صناديق استثمارٍ متنوّعة، دون سلطة قرار، أمّا القيدُ اللاحق لانتهاء الولاية فتُمنَح عنه مكافأةٌ تعويضية مقرَّرة بالقواعد المنهجية. ولا يمكن للبرلمان عزلُ نائب الرئيس إلّا في حال مخالفةٍ جسيمة للواجبات المنصوص عليها في هذا القانون، أو حكمٍ نهائي بجريمةٍ مرتكَبة عمداً، أو تنافٍ ثابت، أو استحالةِ ممارسة الوظيفة مدّةً تفوق 6 أشهر.
(4) تصدر القراراتُ المنصوص عليها في هذا القانون، باسم ANCOM، من نائب الرئيس لأمان الذكاء الاصطناعي، الذي يُسأل عنها أمام البرلمان. وفي ممارسة الاختصاصات المنصوص عليها في هذا القانون، لا يمكن للهيئة أن تتلقّى تعليماتٍ من أيّ سلطةٍ أو مؤسسةٍ عامة أخرى.
(5) تعمل الهيئةُ نقطةَ اتّصالٍ وطنية مع مكتب الذكاء الاصطناعي للمفوّضية الأوروبية ومع اللجنة العلمية المنصوص عليها في لائحة الذكاء الاصطناعي، وتتعاون مع السلطات الوطنية المعيَّنة وفقاً لها، التي تحتفظ باختصاصاتها الخاصّة؛ وتمارس الهيئةُ حصراً الاختصاصاتِ المنصوص عليها في هذا القانون فيما يخصّ الأنظمةَ المتقدّمة وتُعلِم مكتبَ الذكاء الاصطناعي بالقرارات المتعلّقة بالنماذج العامة الاستعمال.
المادة 32 → الأسباب
(1) للهيئة الاختصاصاتُ الرئيسة الآتية:
أ) تتلقّى البلاغات، وتُجري التقييماتِ المستقلّة، وتصدر التراخيصَ المنصوص عليها في الفصل الثالث وتشترطها وتوقفها وتسحبها؛
ب) تفتّش، بما في ذلك على حين غِرّة، الأماكنَ المهنية للمطوِّرين والمشغِّلين والبنى الحسابية، بوصولٍ إلى الأنظمة والأوزان والسجلّات والوثائق والعاملين، وفق شروط الفقرة (3)؛
ج) تأمر بإيقاف أيّ نظامٍ متقدّم أو وقفِه أو سحبِه، وبوقف الوصول إلى البنية الحسابية، وبإنهاء تقديم الخدمات وحجبِ الوصول وفقاً للمادّتين 38 و39؛
د) تُعِدّ وتحدّث معاييرَ التقييم وأمنِ الأوزان وقدرةِ الإيقاف، وكذلك طرائقَ التقييم ومستوياتِ الدلالة للقدرات الحرجة المنصوص عليها في المادة 5 الفقرة (2)، وفق شروط الفقرة (4)؛
هـ) تُثبِت المخالفاتِ وتطبّق الجزاءاتِ المنصوص عليها في هذا القانون وتُخطِر أجهزةَ التحقيق الجزائي؛
و) تعيّن هيئاتِ التقييم المستقلّة وتراقبها؛
ز) تتلقّى إخطاراتِ الأشخاص بشأن مخالفة المادّتين 26 و27، وتُثبِت المخالفاتِ وتأمر بإنهائها، دون المساس بحقّ الشخص في اللجوء إلى المحكمة؛
ح) تقدّم إلى البرلمان، حتى تاريخ 31 مارس من كلّ سنة، تقريراً علنياً عن حالة الخطر، والقدراتِ الملحوظة، والحوادثِ المبلَّغ عنها، وتطوّرِ العتبات، والإخطاراتِ بشأن مخالفة المادّتين 26 و27، والتوصياتِ التشريعية؛
ط) تمثّل رومانيا في المحافل الأوروبية والدولية المتخصّصة وتعزّز اعتمادَ قواعدَ معادِلة لهذا القانون؛
ي) تموّل وتضطلع ببحوثٍ في مجال تقييم أنظمة الذكاء الاصطناعي وقابليةِ تفسيرها ومواءمتها، مع التقييم الخارجي للنتائج ومع تطبيق قواعد تنازع المصالح المنصوص عليها في الفقرة (2).
(2) تُمارَس وظائفُ التقييم والتحقيق والقرارِ الجزائي من بنىً مستقلّة في إطار الهيئة؛ ولا يشارك الشخصُ الذي أجرى التقييمَ أو التحقيقَ في اتّخاذ القرار الجزائي. وتُعيَّن هيئاتُ التقييم على أساس معاييرَ علنية، بقواعدَ للتنحّي ولمنع تنازع المصالح، ولا يمكنها تقييمُ أنظمةٍ لأشخاصٍ تربطها بهم علاقاتٌ اقتصادية.
(3) يُجرى التفتيشُ على أساس أمرٍ مكتوب من نائب الرئيس، يبيّن موضوعَه وغرضَه، ويُدوَّن في محضر؛ ولا يتمّ الدخولُ إلى الأماكن التي تُستعمَل مسكناً إلّا بترخيصٍ من القاضي، وتُحمى السرّيةُ المهنية للمحامي وسائرُ الأسرار التي يحميها القانون. ولا يمسّ الوصولُ إلى العاملين حقوقَ الأشخاص في إجراء المخالفات أو الإجراء الجزائي.
(4) المعاييرُ المعتمَدة من الهيئة تفصّل طرائقَ التقييم في حدود الفئات والمعايير المقرَّرة بهذا القانون. ولا يمكن بهذه المعايير إدخالُ فئاتٍ جديدة من القدرات المحظورة ولا توسيعُ العناصر المكوّنة للمخالفات أو للجرائم المنصوص عليها في هذا القانون.
المادة 33 → الأسباب
(1) يُعيَّن العاملون المتخصّصون في الهيئة حصراً في أعقاب مسابقةٍ تنظّمها ANCOM، المشاركةُ فيها مفتوحةٌ لكلّ شخصٍ يستوفي شروطَ الدراسة والخبرة المقرَّرة في إعلان المسابقة، المنشورِ قبل 30 يوماً على الأقلّ من تاريخ إجرائها. ويمكن الطعنُ في نتائج المسابقة أمام محكمة المنازعات الإدارية.
(2) تتألّف لجنةُ المسابقة من 5 أعضاء على الأقلّ، منهم 3 على الأقلّ أساتذةٌ جامعيون في مجال تقنية المعلومات والاتّصالات، أو مختصّون ذوو خبرةٍ عملية معترَفٍ بها في أمن أنظمة الذكاء الاصطناعي وتقييمها، تقترحهم مؤسساتُ التعليم العالي المعتمَدة التي تنظّم دراساتٍ جامعية للدكتوراه في هذه المجالات، بطلبٍ من ANCOM. ولا يمكن لأعضاء اللجنة أن يحوزوا أيَّ وظيفةٍ أو مساهمةٍ أو أجرٍ من مطوِّرٍ أو مشغِّل، ولا أن تكون بينهم وبين المترشّحين علاقاتٌ من تلك التي تستتبع التنافي. ويُنشَر تكوينُ اللجنة ونتائجُ المسابقة على الموقع الشبكي لـANCOM.
(3) يُؤجَر العاملون المتخصّصون في الهيئة، وفقاً لنظام الأجور في ANCOM، عند مستوىً تنافسيّ مع المعمول به في القطاع الخاصّ للوظائف المعادِلة، يقرّره سنوياً رئيسُ ANCOM، برأي نائب الرئيس لأمان الذكاء الاصطناعي، على أساس دراسةِ سوقٍ منشورة.
(4) يخضع عاملو الهيئة لواجبات السرّية وللتنافيات المنصوص عليها في المادة 31 الفقرة (3)، في مدّة علاقات الخدمة ولمدّة سنتين بعد انتهائها.
(5) تُموَّل الهيئةُ من ميزانية ANCOM، بتخصيصٍ مستقلّ، يُعتمَد سنوياً ويُبيَّن على حدة، وكذلك من رسوم الإبلاغ والتقييم والترخيص المقرَّرة بالقواعد المنهجية في ضوء كلفة الخدمة المؤدّاة. والغراماتُ المطبَّقة وفقاً لهذا القانون تؤول إلى ميزانية الدولة ولا يمكن أن تحدّد مواردَ الهيئة. وتُموَّل البحوثُ المنصوص عليها في المادة 32 الفقرة (1) الحرف ي) بتخصيصٍ ميزانيّ مستقلّ، لا صلةَ له بالجزاءات المطبَّقة. وتكفل ANCOM الميزانيةَ الأولية للهيئة، ومنها العاملون والبنيةُ اللازمة، قبل تحصيل الرسوم.
المادة 34 → الأسباب
(1) يعمل إلى جانب الهيئة مجلسٌ علمي استشاري، مؤلَّفٌ من 9 أعضاء، باحثين ذوي نشاطٍ معترَفٍ به في المجال، منهم 3 على الأقلّ من الخارج، يُفتون في معايير التقييم وطرائقِه ومستوياتِ الدلالة للقدرات الحرجة وفي مقترحات تسوية العتبات، وينشرون آراءً منفصلة متى لم يشاطروا موقفَ الهيئة.
(2) يعيّن نائبُ الرئيس لأمان الذكاء الاصطناعي أعضاءَ المجلس العلمي، باقتراحٍ من الأكاديمية الرومانية ومؤسساتِ التعليم العالي التي تنظّم دراساتٍ جامعية للدكتوراه في المجال، لولايةٍ من 4 سنوات، قابلةٍ للتجديد مرّةً واحدة؛ وهم خاضعون للتنافيات المنصوص عليها في المادة 31 الفقرة (3)، ولا يمكن عزلُهم إلّا لتنافٍ ثابت أو لعدم المشاركة في الأعمال دون مبرّر. ويعتمد المجلسُ آراءَه بأغلبية الأعضاء.
(3) رأيُ المجلس العلمي استشاري؛ ومتى حادت الهيئةُ عن الرأي سبّبت ذلك. ويتمّ وصولُ الأعضاء إلى المعلومات المحميّة وفق شروط القانون، وتُنشَر الآراءُ المنفصلة في صيغٍ تحمي المعلوماتِ الحسّاسة وتحفظ الحجّةَ العلمية.
الفصل السابع
المسؤولية
القسم الأول. المسؤولية المدنية
المادة 35 → الأسباب
(1) يُسأل المطوِّرُ والمشغِّلُ بالتضامن، بصرف النظر عن أيّ خطأ، عن الأضرار من أيّ طبيعة التي يسبّبها نظامٌ متقدّم، ومنها ما يُحدِثه بأعمالٍ ذاتية للنظام، أو باستعماله من الغير، أو بتسريب الأوزان، وتُطبَّق أحكامُ المادة 1376 من القانون المدني على النحو المناسب. ويُثبِت المضرورُ الضررَ والعلاقةَ السببية بينه وبين سير عمل النظام؛ ويمكن للمحكمة أن تأمر بالوصول إلى السجلّات وإلى الوثائق ذات الصلة، مع حماية المعلومات السرّية، وإذا لم يقدّم المطوِّرُ أو المشغِّلُ السجلّاتِ التي كان عليه واجبُ حفظها، تُفترَض العلاقةُ السببية حتى إثبات العكس. وفي العلاقات بينهما، يُسأل المطوِّرُ والمشغِّلُ بنسبة إسهام كلٍّ منهما في إحداث الضرر، ويُسأل الشخصُ الذي عدّل النظامَ تعديلاً جوهرياً بوصفه مطوِّراً عن الأضرار التي يسبّبها التعديل.
(2) لا يمكن الاحتجاجُ بالإعفاء من المسؤولية إلّا عن الضرر الذي سبّبه حصراً فعلُ المضرور أو قوّةٌ قاهرة خارجة عن النظام. ولا تشكّل قوّةً قاهرة سلوكُ النظام غيرُ المتوقَّع، ولا خطأُ التقييم، ولا فعلُ الغير الذي حصل على وصولٍ إلى النظام أو إلى الأوزان، ولا انعدامُ المعرفة العلمية في تاريخ الوضع في التشغيل.
(3) تقع باطلةً شروطُ تحديد المسؤولية أو استبعادِها تجاه المضرورين. وشروطُ التحديد بين المهنيّين صحيحةٌ فقط فيما يخصّ العلاقاتِ بينهم والأضرارَ المالية الخاصّة بهم، ولا يمكن أن تمسّ حقوقَ المضرورين ولا التغطيةَ المنصوص عليها في المادة 36.
(4) يتقادم الحقُّ في الدعوى بمضيّ 10 سنوات من التاريخ الذي علم فيه المضرورُ بالضرر وبالشخص المسؤول أو كان عليه أن يعلم، على ألّا يتجاوز ذلك 30 سنة من وقوع الفعل؛ وفي حالة الفعل المستمرّ، تسري المدّةُ من انتهائه.
(5) تُقرِّر هذه المادةُ أساساً مستقلّاً للمسؤولية، قائماً على الخطر المُحدَث بتطوير النظام وتشغيلِه، ولا تعدّل النظامَ المواءَم للمسؤولية عن المنتجات المعيبة؛ ولا تمسّ حقَّ المضرور في الحصول على جبر الضرر استناداً إلى ذلك النظام أو إلى أسسٍ أخرى منصوصٍ عليها في القانون، دون أن يمكن جبرُ الضرر نفسِه مرّتين. وبالقدر الذي يدخل فيه الاستبعادُ المنصوص عليه في الفقرة (2) بشأن انعدام المعرفة العلمية في مجال التوجيه (الاتحاد الأوروبي) 2024/2853 للبرلمان الأوروبي والمجلس الصادر في 23 أكتوبر 2024، تؤدّي الحكومةُ الإجراءاتِ الشكلية المنصوص عليها في المادة 18 من التوجيه.
المادة 36 → الأسباب
(1) يُبرِم المطوِّرُ ومشغِّلُ نظامٍ متقدّم تأميناً للمسؤولية المدنية ويُبقيان عليه، أو يكوّنان ضماناً مالياً، بالمبلغ الأدنى المقرَّر بالقواعد المنهجية، متفاوتاً بحسب فئات الأنظمة، لا يمكن أن يقلّ عمّا يعادل بالليو 100 مليون يورو لأنظمة الفئة الأولى ومليار يورو لأنظمة الفئة الثانية، عن كلّ واقعة، بسقفٍ سنويّ مجمَّع لا يقلّ عن ضعف هذين المبلغين؛ وبعد استنفاد التغطية، تُعاد تكوينُها في مدّة 30 يوماً. وإذا أثبتت الهيئةُ، باستشارة هيئة الإشراف المالي، بتقريرٍ علني، عدمَ توافر التغطية في السوق وفق شروط هذا القانون، يمكن للحكومة أن تقرّر، بالقواعد المنهجية، مستوياتٍ أدنى، لا يمكن أن تنزل دون خُمس المبالغ المنصوص عليها، وكذلك آلياتٍ بديلة للضمان، ومنها ضماناتُ المجموعة، والضماناتُ المصرفية، أو صندوقُ ضمانٍ يموّله المطوِّرون والمشغِّلون.
(2) يُكوَّن الضمانُ المالي برسالة ضمانٍ مصرفية، أو وديعةٍ، أو ضمانٍ صادرٍ من مؤسسةٍ مالية مرخَّص لها، قابلٍ للتنفيذ بطلب المضرور استناداً إلى حكمٍ قضائي نهائي أو إلى صلح. وللمضرور دعوى مباشرة على المؤمِّن أو، بحسب الحال، على مُصدِر الضمان.
القسم الثاني. المسؤولية عن المخالفات
المادة 37 → الأسباب
(1) تشكّل مخالفاتٍ الأفعالُ الآتية، إن لم تكن قد ارتُكبت في ظروفٍ تجعلها، بمقتضى القانون، جرائمَ:
أ) عدمُ أداء واجب الإبلاغ المنصوص عليه في المادة 7 والمادة 10 الفقرة (2)، أو تقديمُ معلوماتٍ ناقصة، بغرامةٍ من 1% إلى 3% من رقم الأعمال العالمي الإجمالي للسنة المالية السابقة؛
ب) عدمُ احترام خطّة الأمان، أو واجباتِ فصل الوظائف، أو التسجيل، أو التأمين، أو التحقّق من قابلية الفهم المنصوص عليها في المادة 16 الفقرات (1)–(5)، أو اختبارِ قدرة الإيقاف، أو الإبلاغِ عن الحوادث، بغرامةٍ من 2% إلى 5% من رقم الأعمال العالمي؛
ج) عدمُ احترام شروط الترخيص، أو معاييرِ أمن الأوزان، أو واجباتِ مورّدي البنية الحسابية، بغرامةٍ من 3% إلى 7% من رقم الأعمال العالمي؛
د) مخالفةُ الحظورات المنصوص عليها في المادة 12 الفقرة (2)، والمادة 15، والمادة 16 الفقرة (6)، والمواد 25–29، بغرامةٍ من 5% إلى 10% من رقم الأعمال العالمي؛
هـ) عدمُ احترام واجبات وضع العلامة المنصوص عليها في المادة 17 الفقرات (1) و(2) و(4)، أو مخالفةُ الحظر المنصوص عليه في المادة 17 الفقرة (3)، بغرامةٍ من 2% إلى 5% من رقم الأعمال العالمي؛ أمّا الأفعالُ التي تشكّل مخالفاتٍ للمادة 50 من لائحة الذكاء الاصطناعي، فتُطبَّق الغرامةُ عليها في الحدود المنصوص عليها في المادة 99 الفقرة (4) من اللائحة؛
و) عدمُ أداء واجب الإعلام المنصوص عليه في المادة 18، أو الواجباتِ المتعلّقة بممثّل الامتثال المنصوص عليها في المادة 19، بغرامةٍ من 1% إلى 3% من رقم الأعمال العالمي.
(2) بالنسبة إلى الأشخاص المعنويّين الذين لم يحقّقوا رقمَ أعمال، تكون الغرامةُ من 100.000 ليو إلى 10.000.000 ليو، وبالنسبة إلى الأشخاص الطبيعيّين، من 10.000 ليو إلى 1.000.000 ليو. أمّا المخالفاتُ المنصوص عليها في الفقرة (1) الحرفين هـ) وو)، المرتكَبةُ من أشخاصٍ ليست لهم صفةُ مطوِّرٍ أو مشغِّلٍ لنظامٍ متقدّم، فالغرامةُ عنها من 20.000 ليو إلى 1.000.000 ليو للأشخاص المعنويّين ومن 5.000 ليو إلى 200.000 ليو للأشخاص الطبيعيّين.
(3) يمكن أن يُرافِق جزاءَ الغرامة الجزاءاتُ التكميلية المتمثّلة في وقف الترخيص أو سحبه، وفي حظر الاضطلاع بنشاط التطوير مدّةً تصل إلى 5 سنوات، وفي مصادرة الأوزان، وفي نشر القرار، مطبَّقةً بما يتناسب مع جسامة الفعل؛ وتحفظ الهيئةُ الأوزانَ المصادَرة وفق شروط المادة 12.
(4) تُطبَّق على المخالفات المنصوص عليها في هذا القانون أحكامُ أمر الحكومة رقم 2/2001 الخاصّ بالنظام القانوني للمخالفات، المعتمَدِ مع تعديلاتٍ وتكميلات بالقانون رقم 180/2002، مع ما لحقه من تعديلاتٍ وتكميلات. واستثناءً من المادة 28 من أمر الحكومة رقم 2/2001، لا يمكن للمخالف أن يدفع نصفَ الحدّ الأدنى للغرامة. واستثناءً من المادة 13 الفقرة (1) من الأمر نفسِه، يتقادم تطبيقُ الجزاء بمضيّ 5 سنوات من تاريخ ارتكاب الفعل.
(5) تُراعى في تفريد الجزاء جسامةُ الفعل وامتدادُه، والخطرُ المُحدَث، والسيطرةُ الفعلية للشخص على الفعل، والتعاونُ مع الهيئة، والتدارُك. ورقمُ الأعمال العالمي هو المحقَّق في السنة المالية السابقة من المخالف، ومن المجموعة في مجملها متى كان المخالفُ جزءاً من مجموعة. ولا يمكن تطبيقُ جزاءين عن الفعل نفسِه استناداً إلى هذا القانون وإلى لائحة الذكاء الاصطناعي؛ أمّا السلطاتُ والمؤسساتُ العامة فتُطبَّق الغرامةُ على الشخص الطبيعي المسؤول، في الحدود المنصوص عليها في الفقرة (2).
القسم الثالث. إنهاءُ تقديم الخدمات وحجبُ الوصول
المادة 38 → الأسباب
(1) المشغِّلُ الذي يتيح الوصولَ إلى نظامٍ متقدّم للأشخاص الموجودين في إقليم رومانيا دون احترام أحكام هذا القانون تُعذِره الهيئةُ، مع منحه مدّةَ تدارُكٍ لا تقلّ عن 15 يوماً ومع إمكانية إبداء وجهة نظره. وإذا استمرّ عدمُ الامتثال عند انقضاء المدّة، أو تمثّل في خطرٍ جسيم لا يمكن تدارُكه في هذه المدّة، أثبتت الهيئةُ عدمَ الامتثال بقرارٍ مسبَّب، وأُلزِم المشغِّلُ بإنهاء تقديم الخدمة إلى هؤلاء الأشخاص في مدّة 15 يوماً من تبليغ القرار. وفي حال خطرٍ وشيك على الحياة أو على الصحّة أو على السيطرة البشرية على النظام، لا تُمنَح مدّةُ التدارُك، ويُسبَّب القرارُ في شأن الاستعجال أيضاً.
(2) يُنشَر القرارُ المنصوص عليه في الفقرة (1) على الموقع الشبكي للهيئة، في قائمة المشغِّلين غير الممتثلين، مع ذكر الخدمة والمشغِّل والأحكام المخالَفة، ويُبلَّغ إلى مورّدي شبكات وخدمات الاتّصالات الإلكترونية.
(3) مواصلةُ تقديم الخدمة بعد انقضاء المدّة المنصوص عليها في الفقرة (1) تشكّل مخالفةً ويُعاقَب عليها بغرامةٍ من ما يعادل بالليو مبلغَ 100.000 يورو إلى ما يعادل بالليو مبلغَ 10.000.000 يورو عن كلّ شهرِ مواصلةٍ للتقديم، وتُحسَب كسورُ الشهر بالتناسب، مقرَّرةً بحسب المدّة وعدد الأشخاص المتأثّرين وجسامةِ عدم الامتثال، دون أن يمكن لمجموع الغرامات المطبَّقة عن عدم الامتثال نفسِه أن يتجاوز 5% من رقم الأعمال العالمي السنوي؛ وتُطبَّق الغرامةُ مستقلّةً عن الجزاء على المخالفة الأصلية.
(4) يُشطَب المشغِّلُ من قائمة المشغِّلين غير الممتثلين بقرارٍ من الهيئة، يصدر في مدّة 10 أيّام من تقديم دليل الامتثال ويُبلَّغ فوراً إلى المورّدين الذين ينفّذون الحجب؛ ويمكن الطعنُ في رفض الشطب أو تأخيره وفقاً للمادة 39 الفقرة (5).
(5) تُطبَّق أحكامُ هذه المادة كذلك على المطوِّر الذي يتيح مباشرةً الوصولَ إلى نظامٍ متقدّم للأشخاص الموجودين في إقليم رومانيا.
المادة 39 → الأسباب
(1) إلى حين الامتثال، يمكن للهيئة أن تأمر، بقرارٍ مسبَّب، بحجب الوصول من إقليم رومانيا إلى الخدمة المقيَّدة في قائمة المشغِّلين غير الممتثلين، فقط إذا لم تؤدِّ التدابيرُ الأقلّ تقييداً إلى الامتثال أو كانت غيرَ كافية بجلاء إزاء جسامة الخطر. ويفحص القرارُ لزومَ التدبير وتناسبَه، ويتجنّب المساسَ بخدماتٍ أخرى مستضافة على البنية نفسِها، ويُعاد النظرُ فيه من تلقاء النفس كلَّ 90 يوماً؛ ويُعلَم المستعملون، بصفحة إعادة توجيه، بسبب التدبير وبطريق الطعن.
(2) يُبلَّغ قرارُ الحجب إلى مورّدي شبكات وخدمات الاتّصالات الإلكترونية، الذين ينفّذونه في مدّة 48 ساعة من التبليغ.
(3) يخصّ الحجبُ الخدمةَ غير الممتثلة حصراً، ويبقى طوال مدّة القيد في قائمة المشغِّلين غير الممتثلين، وينتهي بحكم القانون في تاريخ الشطب.
(4) بالنسبة إلى الخدمات المقدَّمة من دولةٍ عضوٍ أخرى في الاتحاد الأوروبي، لا يُؤمَر بالتدبير إلّا فردياً، عن خدمةٍ محدَّدة، لمخالفة واجبٍ لازمٍ لحماية النظام العامّ أو السلامة العامة أو الصحّة العامة، مع احترام إجراء طلب دولة المنشأ وإبلاغِ المفوّضية الأوروبية المنصوص عليه في القانون رقم 365/2002 الخاصّ بالتجارة الإلكترونية، المعاد نشره، مع ما لحقه من تعديلاتٍ وتكميلات، بشأن تقييد حرّية تداول خدمات مجتمع المعلومات.
(5) يمكن الطعنُ في قرار الحجب في مدّة 30 يوماً من التبليغ أمام محكمة استئناف بوخارست، دائرة المنازعات الإدارية والضريبية، التي تبتّ على وجه الاستعجال والأولوية؛ ولا يوقف الطعنُ التنفيذَ بحكم القانون. وللشخص المعنيّ أن يطلب من المحكمة الوقفَ المؤقّت للتدبير، ويُفصَل في الطلب على وجه الاستعجال، في مدّةٍ أقصاها 10 أيّام، مع فحص الخطر على الأمان والضررِ المُحدَث بالإبقاء على التدبير. ويمكن الطعنُ بالنقض في الحكم أمام محكمة النقض والعدل العليا، في مدّة 15 يوماً من التبليغ.
(6) لا يُسأل مورّدو شبكات وخدمات الاتّصالات الإلكترونية عن الأضرار المُحدَثة بالتنفيذ الصحيح وبحسن نيّة لقرار الحجب؛ ويُسألون عن الحجب المفرط الناتج عن خطئهم.
القسم الرابع. المسؤولية الجزائية
المادة 40 → الأسباب
(1) وضعُ نظامٍ متقدّم في التشغيل دون الترخيص المنصوص عليه في المادة 9، أو بعد وقفه أو سحبه، وكذلك مواصلةُ التشغيل بعد تبليغ أمر الإيقاف أو السحب، يُعاقَب عليهما بالحبس من سنتين إلى 7 سنوات وبحظر ممارسة بعض الحقوق. ولا يشكّل جريمةً استعمالُ نظامٍ وضعه غيرُه في المتناول، بصفة مستعمِلٍ نهائي.
(2) إذا كان الفعلُ قد أفضى إلى ظهور إحدى القدرات الحرجة المنصوص عليها في المادة 5 الفقرة (2) الحروف ج)–هـ) خارج تقييمٍ مرخَّصٍ به في بيئةٍ معزولة وفقاً للمادة 15 الفقرة (2)، أو إلى إحداث إحدى النتائج المنصوص عليها في المادة 5 الفقرة (2) الحرفين أ) أو ب)، فالعقوبةُ هي الحبسُ من 5 إلى 12 سنة وحظرُ ممارسة بعض الحقوق. وتُنسَب النتيجةُ وفق شروط المادة 16 الفقرة (4) من قانون العقوبات.
المادة 41 → الأسباب
(1) تقديمُ بياناتٍ أو نتائجَ أو إقراراتٍ كاذبة أو ناقصة على نحوٍ مُضلِّل، عن علم، إلى الهيئة أو إلى هيئة تقييم، بشأن عناصرَ جوهرية من قدرات نظامٍ متقدّم أو حجم حسابه أو أمن أوزانه أو حوادثه، وكذلك تكوينُ النظام بغرض تضليل المقيّمين بشأن التكوين المقيَّم أو القدرات الحقيقية، يُعاقَب عليهما بالحبس من 3 إلى 10 سنوات وبحظر ممارسة بعض الحقوق.
(2) منعُ وصول الهيئة، بأيّ وجه، الممارَسِ في حدود اختصاصها وبناءً على طلبٍ مكتوب، إلى النظام أو إلى الأوزان أو إلى السجلّات أو إلى العاملين، أو إتلافُ السجلّات أو تغييرُها أو إخفاؤها، يُعاقَب عليهما بالحبس من سنةٍ إلى 5 سنوات. ولا يشكّل جريمةً الرفضُ المبنيّ على انعدام اختصاص الهيئة أو على حماية السرّية المهنية للمحامي أو سرٍّ آخر يحميه القانون، وتبتّ المحكمةُ فيه.
(3) اتّخاذُ تدبيرٍ انتقامي، من المنصوص عليها في القانون رقم 361/2022، ضدّ مبلِّغٍ عن النزاهة، فيما يتّصل ببلاغٍ محميّ وفقاً للمادة 21، يُعاقَب عليه بالحبس من 6 أشهر إلى 3 سنوات أو بغرامة.
(4) لا تشكّل الجريمةَ المنصوص عليها في الفقرة (1) التقديراتُ غيرُ المؤكّدة المعلَنة كذلك، ولا الخطأُ المصحَّح فور العلم به، ولا تكوينُ النظام في إطار اختبارٍ متّفقٍ عليه مع المقيّم.
المادة 42 → الأسباب
(1) تدريبُ نظامٍ أو تصميمُه أو تشغيلُه عمداً في الظروف المحظورة في المادة 15 الفقرة (1)، أو المادة 25 الفقرة (2) الجملة الأولى والفقرة (3)، أو المادة 28 الجملة الأولى، أو المادة 29 الجملة الأولى، يُعاقَب عليه بالحبس من 3 إلى 10 سنوات وبحظر ممارسة بعض الحقوق.
(2) إفشاءُ أوزان نظامٍ متقدّم من الفئة الثانية أو الثالثة أو إرسالُها أو وضعُها في المتناول، دون حقّ، يُعاقَب عليه بالحبس من 5 إلى 15 سنة وبحظر ممارسة بعض الحقوق. ولا تشكّل جريمةً التحويلاتُ المجازة وفقاً للمادة 12 الفقرة (2) والمراسلاتُ المحميّة وفقاً للمادة 21 الفقرة (5).
(3) إذا أفضت الأفعالُ المنصوص عليها في الفقرتين (1) أو (2) إلى وفاة شخصٍ أو أكثر أو إلى إصابته إصابةً جسدية جسيمة، أو إلى فقدان السيطرة البشرية على النظام مدّةً جعلت التدخّلَ البشري مستحيلاً، أعقبتها أعمالٌ ذاتية للنظام بعواقبَ على الأشخاص أو على الوسط المادّي أو على البنية الحرجة، فالعقوبةُ هي الحبسُ من 10 إلى 20 سنة وحظرُ ممارسة بعض الحقوق. وإذا تمثّلت النتيجةُ في ضررٍ ماليّ بالغ الجسامة أو في فقدانٍ مؤقّت للسيطرة البشرية، دون العواقب المنصوص عليها في الجملة الأولى، فالعقوبةُ هي الحبسُ من 7 إلى 15 سنة وحظرُ ممارسة بعض الحقوق. وتُنسَب النتائجُ وفق شروط المادة 16 الفقرة (4) من قانون العقوبات.
المادة 43 → الأسباب
(1) وصولُ شخصٍ طبيعي، لغرضٍ شخصي، إلى خدمةٍ مقيَّدة في قائمة المشغِّلين غير الممتثلين، بما في ذلك بالالتفاف على تدبير الحجب المأمور به وفقاً للمادة 39، لا يشكّل جريمةً ولا مخالفةً ولا يمكن أن يستتبع أيَّ جزاءٍ أو تدبيرٍ تقييدي ضدّه بسبب عدم امتثال الخدمة. والمسؤوليةُ عن عدم الامتثال تقع حصراً على المشغِّل والمطوِّر. ولا يُزيل هذا الضمانُ المسؤوليةَ عن أفعالٍ مستقلّة، منصوصٍ عليها في القانون، مرتكَبة باستعمال الخدمة.
(2) لا يمكن تفسيرُ أحكام المادّتين 38 و39 بمعنى إقرار أيّ واجبٍ على المستعملين أو تعليقِ حقوقهم على شرط.
(3) ينتفع بالضمان المنصوص عليه في الفقرة (1) كذلك المستعمِلُ النهائي المهني الذي ليس مشغِّلاً ولا يضع الخدمةَ في متناول أشخاصٍ آخرين.
المادة 44 → الأسباب
(1) تُنسب الجرائم المنصوص عليها في هذا القسم إلى الأشخاص الطبيعيين الذين أمروا بارتكاب الأفعال أو أقرّوها، وكذلك إلى الأشخاص الذين تحمّلوا، وهم على علم، ارتكابها وقد كان عليهم واجبٌ قانوني ولديهم القدرة الفعلية على منعها، مع تحديد شكل الذنب تحديدًا فرديًّا وفقًا لقانون العقوبات، أيًّا كانت صفتهم كمديرين أو مدراء تنفيذيين أو شركاء أو مستخدَمين، وأيًّا كانت المسؤولية الجزائية للشخص الاعتباري، التي تَنهض وفق أحكام المادة 135 من قانون العقوبات.
(2) لا يُعدّ سببًا لعدم المعاقبة كونُ الفعل قد ارتُكب تنفيذًا لقرارٍ صادر عن أجهزة الإدارة أو لأمرٍ أو لتوجيهٍ تعاقدي؛ وتبقى أحكام قانون العقوبات المتعلّقة بأسباب التبرير وأسباب عدم إمكان الإسناد سارية.
المادة 45 → الأسباب
(1) تجري المتابعة الجزائية في الجرائم المنصوص عليها في المواد 40–42 وجوبًا على يد وكيل النيابة، في إطار مديرية التحقيق في جرائم الجريمة المنظّمة والإرهاب، ويكون النظر في الدرجة الأولى من اختصاص المحكمة الابتدائية الكبرى.
(2) في حالة الاستعجال، يجوز لوكيل النيابة أن يأمر، بقرارٍ مُعلَّل، على سبيل التدبير المؤقّت، ولمدّة لا تتجاوز 30 يومًا، بإيقاف النظام وختم البنية التحتية الحاسوبية والتحفّظ على الأوزان، مع تصديق قاضي الحقوق والحرّيات في أجل 48 ساعة، وإلّا انتهى التدبير بحكم القانون. ويقتصر التدبير على عبء الحساب وعلى الأوزان المعنيّة متى كان عزلها كافيًا، ويُنفَّذ مع حفظ البيانات وحراسة الأوزان وفق أحكام المادة 12، ويجوز الطعن فيه من الشخص المعنيّ ومن الغير المتضرّر، ويُعاد النظر فيه كلّ 30 يومًا ويجوز تمديده بالشروط ذاتها.
(3) في المادة 11 الفقرة (1) من مرسوم الحكومة الاستعجالي رقم 78/2016 بشأن تنظيم وعمل مديرية التحقيق في جرائم الجريمة المنظّمة والإرهاب، وكذلك بشأن تعديل واستكمال بعض النصوص المعيارية، المنشور في الجريدة الرسمية لرومانيا، الجزء الأول، العدد 938 بتاريخ 22 نوفمبر 2016، الموافَق عليه بتعديلات بالقانون رقم 120/2018، بتعديلاته واستكمالاته اللاحقة، يُدرَج بعد البند الأخير بندٌ جديد، نصّه كما يلي: «الجرائم المنصوص عليها في المواد 40–42 من القانون المتعلّق بالتطوير الآمن لأنظمة الذكاء الاصطناعي المتقدّمة والوقاية من المخاطر الكارثية على المواطن الروماني».
الفصل الثامن
التعاون الدولي. أحكام انتقالية وختامية
المادة 46 → الأسباب
(1) تعمل الحكومة، في إطار مؤسّسات الاتّحاد الأوروبي، على تعزيز اعتماد نظامٍ للترخيص المسبق للأنظمة المتقدّمة مكافئٍ للنظام المنصوص عليه في هذا القانون، وعلى إنشاء قدرةٍ أوروبية مشتركة للتقييم.
(2) تعمل الحكومة، في إطار منظّمة الأمم المتحدة ومجلس أوروبا ومنظّمة حلف شمال الأطلسي وغيرها من المنظّمات الدولية، على التفاوض بشأن معاهدةٍ دولية تتعلّق بتحديد القدرات الحاسوبية المتقدّمة والتحقّق منها، وبحظر أنظمة الأسلحة الفتّاكة المستقلّة، وبحظر تطوير أنظمة الفئة الثالثة، وتقدّم إلى البرلمان سنويًّا حالة هذه المساعي.
(3) يجوز للهيئة أن تعقد، في حدود اختصاصها ومع نشرها، اتّفاقات اعترافٍ متبادل بالتقييمات مع السلطات المختصّة في دولٍ أخرى تطبّق معايير مكافئة؛ ولا يجوز لهذه الاتّفاقات أن تخرج عن هذا القانون أو عن قانون الاتّحاد الأوروبي.
المادة 47 → الأسباب
تقدّم الحكومة إلى البرلمان، كلّ سنتين من تاريخ دخول هذا القانون حيّز النفاذ، وبناءً على تقرير الهيئة ورأي المجلس العلمي، تقريرًا عن مدى ملاءمة هذا القانون لحالة التكنولوجيا، مشفوعًا، إن كان لذلك مقتضى، بمقترحات تعديل. ويقيّم التقرير، على أساس منهجيةٍ منشورة، فعالية الحماية والحوادث والتكاليف والنفاذ إلى الخدمات والآثار غير المرغوبة وتناسب كلّ تدبير، ويجوز له أن يقترح تقييد تدبيرٍ ثبت عدم فعاليته، ويتضمّن الآراء العلمية المخالفة. ولا يجوز الاحتجاج بغياب منهجٍ علميّ مُصدَّقٍ للتحكّم في الأنظمة المتقدّمة، وحده، سببًا لتخفيف النظام الذي أقامه هذا القانون.
المادة 48 → الأسباب
(1) يلتزم مطوّرو ومشغّلو الأنظمة المتقدّمة المستغَلّة على أراضي رومانيا أو الموضوعة تحت تصرّف أشخاصٍ موجودين على أراضي رومانيا في تاريخ دخول هذا القانون حيّز النفاذ بأحكامه التي لا تتوقّف على اللوائح التنفيذية، في أجل 90 يومًا من تاريخ دخوله حيّز النفاذ، وبباقي الأحكام في الآجال المنصوص عليها في الفقرات (2) و(4) و(5).
(2) في أجل 60 يومًا من تاريخ دخول هذا القانون حيّز النفاذ، يُخطر المطوّرون والمشغّلون الهيئةَ بالأنظمة المستغَلّة. ويُقدَّم طلب الترخيص المنصوص عليه في المادة 9 في أجل 90 يومًا من تاريخ دخول اللوائح التنفيذية المنصوص عليها في المادة 49 الفقرة (2) حيّز النفاذ. ويجوز الإبقاء على الأنظمة المُخطَر بها في الاستغلال إلى حين قرار الهيئة، على ألّا يتجاوز ذلك 12 شهرًا من تاريخ دخول هذا القانون حيّز النفاذ، بشرط مراعاة المحظورات والضمانات الواجبة التطبيق مباشرةً والمنصوص عليها في الفصلين الرابع والخامس؛ ويُمدَّد هذا الأجل بحكم القانون بالمدّة التي يتجاوز بها اعتمادُ اللوائح التنفيذية أو الفصلُ في الطلب الآجالَ المنصوص عليها في هذا القانون، فلا يجوز معاقبة الطالب الحريص على تأخّر المؤسّسات، ويجوز للهيئة أن تأمر، بقرارٍ مُعلَّل، بشروط أمانٍ إضافية خلال مدّة التمديد.
(3) تُطبَّق أحكام المادتين 38 و39 بعد انقضاء الأجل المنصوص عليه في الفقرة (1). ولا تُشكّل الجريمةَ المنصوص عليها في المادة 40 الفقرة (1) الإبقاءُ على نظامٍ مُخطَر به وفقًا للفقرة (2) في الاستغلال، خلال المدّة التي تسمح بها الفقرة ذاتها، وكذلك أثناء الفصل في طلب الترخيص المقدَّم في الأجل؛ غير أنّ أحكام المواد 40–42 تُطبَّق من تاريخ دخولها حيّز النفاذ على أيّ فعلٍ آخر، بما في ذلك وضع نظامٍ غير مُخطَر به في الاستغلال أو الإبقاء عليه في الاستغلال بعد رفض الطلب أو بعد انقضاء الأجل المنصوص عليه في الفقرة (2) أو بعد تبليغ أمرٍ بالإيقاف.
(4) تُستوفى الالتزامات المنصوص عليها في المادة 17 الفقرة (1) الحرف أ)، والمادتين 18 و19، وكذلك الالتزام المنصوص عليه في المادة 17 الفقرة (4)، في ما يتعلّق بالعلامة المُدرَكة والذكر الصريح لكون المحتوى مُولَّدًا، في أجل 90 يومًا من تاريخ دخول هذا القانون حيّز النفاذ؛ وفي الأجل ذاته يُعيَّن ممثّل الامتثال المنصوص عليه في المادة 19 ويُخطَر به الهيئة. وتُستوفى الالتزامات المتعلّقة بالعلامة التقنية المُدمَجة، المنصوص عليها في المادة 17 الفقرة (1) الحرف ب) والفقرة (2)، وكذلك الالتزام المنصوص عليه في المادة 17 الفقرة (4) في ما يتعلّق بهذه العلامة، في أجل 90 يومًا من تاريخ دخول اللوائح التنفيذية حيّز النفاذ. وتُضبَط المخالفات المنصوص عليها في المادة 37 الفقرة (1) الحرفان ه) و و) بعد انقضاء الأجل الواجب التطبيق على كلّ التزام.
(5) تصبح الالتزامات التي يتوقّف استيفاؤها على المعايير أو الإجراءات أو العتبات أو المقادير المحدَّدة باللوائح التنفيذية المنصوص عليها في المادة 49 الفقرة (2) مستحقّةً بعد 90 يومًا من تاريخ دخول هذه اللوائح حيّز النفاذ؛ وحتّى هذا التاريخ لا تُضبَط المخالفات المقابلة لها. وتُطبَّق المحظورات المنصوص عليها في هذا القانون، والالتزامات بالحفاظ على قدرة الإيقاف واختبارها، وبالتسجيل في السجلّات، وبالإبلاغ عن الحوادث الجسيمة، وكذلك باقي الالتزامات التي يمكن استيفاؤها دون اللوائح التنفيذية، من تاريخ دخول هذا القانون حيّز النفاذ، في الآجال المنصوص عليها في الفقرات (1)–(4).
(6) إلى حين تعيين نائب الرئيس لأمان الذكاء الاصطناعي، يمارس اختصاصات الهيئة، بما فيها التدابير العاجلة المنصوص عليها في المادة 32 الفقرة (1) الحرف ج)، رئيسُ الهيئة الوطنية لإدارة وتنظيم الاتّصالات، الذي يكون مسؤولًا عنها وفق أحكام هذا القانون.
المادة 49 → الأسباب
(1) في أجل 60 يومًا من تاريخ نشر هذا القانون في الجريدة الرسمية لرومانيا، الجزء الأول، يُعيّن البرلمان نائب الرئيس لأمان الذكاء الاصطناعي، وتستكمل الهيئة الوطنية لإدارة وتنظيم الاتّصالات هيكلها التنظيمي ولائحة تنظيمها وعملها بالهيئة، بقرارٍ من رئيسها يُنشر في الجريدة الرسمية لرومانيا، الجزء الأول.
(2) في أجل 120 يومًا من تاريخ نشر هذا القانون في الجريدة الرسمية لرومانيا، الجزء الأول، تعتمد الحكومة، باقتراحٍ من الهيئة وبرأي المجلس العلمي وبعد استشارةٍ عمومية لا تقلّ عن 30 يومًا، اللوائح التنفيذية المتعلّقة بإجراء الإخطار والترخيص، وبالإجراء المبسَّط للاعتراف، وبمعايير التقييم وأمن الأوزان وقدرة الإيقاف، وبشروط البيئة المعزولة، وبمعايير علامة المصدر المنصوص عليها في المادة 17، وبمناهج التقييم ومستويات دلالة القدرات الحرجة المنصوص عليها في المادة 5 الفقرة (2)، وبعتبة البنية التحتية الحاسوبية عالية السعة، وبالمستوى المنصوص عليه في المادة 16 الفقرة (5)، وبالمقتضيات الدنيا للعزل المنصوص عليها في المادة 3 الفقرة (1) الحرفان بب)، وبمقدار التعويض التعويضي المنصوص عليه في المادة 31 الفقرة (3)، وبمقدار الرسوم، المحدَّد بالنظر إلى كلفة الخدمة، وبمقدار التأمين أو الضمان المالي المنصوص عليه في المادة 36. وتفصّل اللوائح الإطارَ الذي أقامه هذا القانون، ولا يجوز لها أن تحدّد المضمون الجوهري للالتزامات والمحظورات والجزاءات؛ وتُنشر المعايير.
(3) إلى حين اعتماد اللوائح التنفيذية، تُجرى التقييمات وفقًا للمعايير المنصوص عليها في مدوّنات الممارسة الجيّدة المعتمدة على أساس اللائحة المتعلّقة بالذكاء الاصطناعي ووفقًا للمناهج المعترف بها علميًّا، وتنشر الهيئة توجيهاتٍ مؤقّتة.
المادة 50 → الأسباب
يدخل هذا القانون حيّز النفاذ بعد 30 يومًا من تاريخ نشره في الجريدة الرسمية لرومانيا، الجزء الأول، باستثناء المواد 40–42 و44 و45، التي تدخل حيّز النفاذ بعد 270 يومًا من تاريخ النشر. وتدخل أحكام المادة 43 حيّز النفاذ مع هذا القانون.
أُقرَّ هذا القانون من قِبل برلمان رومانيا، مع مراعاة أحكام المادة 75 والمادة 76 الفقرة (1) من دستور رومانيا، المعاد نشره.
رئيسُ مجلس النوّاب رئيسُ مجلس الشيوخ
تعليقات على هذا النصّ
التعليقات هنا تدخل في باب هذه الوثيقة في المنتدى السيادي. تُناقَش النصوص بالحجّة.
انظر المناقشة كاملة في المنتدى →