Обоснование — Закон о безопасности искусственного интеллекта

Полный текст проекта — смотрите здесь. У каждого разбора статьи стоит рядом знак, ведущий к тексту статьи закона; из закона знак «→ обоснование» возвращает читателя сюда.

ОБОСНОВАНИЕ

Раздел 1 — Название проекта нормативного акта

«Закон о безопасной разработке передовых систем искусственного интеллекта и о предупреждении катастрофических рисков для румынского гражданина»

Раздел 2 — Основание издания нормативного акта

1. Описание нынешнего положения

Искусственный интеллект за срок всего в несколько лет перешёл из состояния узкоспециального средства в состояние технологии общего назначения, способной создавать текст, программный код, изображения и планы действий и самостоятельно действовать в цифровых средах — посредством так называемых «агентов», которые выполняют сложные задачи без пошагового надзора. Самые передовые системы, именуемые в специальной литературе «передовыми моделями», разрабатываются небольшим числом коммерческих обществ Соединённых Штатов Америки и Китайской Народной Республики в ускоренном состязании, с вычислительными средствами, которые умножаются в несколько раз в год, и с объявленными вложениями порядка сотен миллиардов долларов.

Предупреждения о рисках этого хода событий исходят не извне области, а из самой её глубины. Джеффри Хинтон, лауреат Премии Тьюринга (2018) и Нобелевской премии по физике (2024), считающийся «отцом» современных нейронных сетей, в мае 2023 года ушёл с должности, занимаемой в Google, именно для того, чтобы иметь возможность свободно говорить об опасности. В интервью телеканалу CNN, в передаче «Amanpour» от 2 мая 2023 года, на вопрос, может ли искусственный интеллект привести к исчезновению человеческого рода, Хинтон ответил, что это «не является немыслимым» («it’s not inconceivable»). Исследователь Коннор Лихи, директор исследовательского общества Conjecture, посвящающего свою работу задаче «согласования» («alignment»), то есть гарантирования того, что системы искусственного интеллекта преследуют поставленные людьми цели, а не иные, высказал в том же интервью мнение, что такой исход «к сожалению, довольно вероятен» («it’s quite likely, unfortunately»), и свёл состояние знания к одному предложению, которое и составляет посылку настоящего закона: «Мы не знаем, как контролировать эти вещи» («We do not know how to control these things»).

Эти заявления не единичны. 30 мая 2023 года Center for AI Safety опубликовал заявление из одной фразы, подписанное Хинтоном, Йошуа Бенджио (лауреатом Премии Тьюринга 2018 года), руководителями важнейших лабораторий искусственного интеллекта (OpenAI, Google DeepMind, Anthropic) и сотнями исследователей: «Снижение риска вымирания, вызванного искусственным интеллектом, должно быть всемирной первоочередной задачей — наряду с иными рисками общественного масштаба, такими как пандемии и ядерная война». В последующих заявлениях (BBC, декабрь 2024; CBS, апрель 2025) Хинтон оценил вероятность того, что искусственный интеллект выйдет из-под человеческого контроля в следующие десятилетия, в 10—20% и сравнил нынешние системы с тигрёнком: очаровательным, пока он мал, но опасным, если нет уверенности, что, выросши, он не обратится против тебя. Международный доклад о безопасности передового искусственного интеллекта («International AI Safety Report», январь 2025), подготовленный под руководством Йошуа Бенджио по поручению 30 государств, Европейского союза и Организации Объединённых Наций, подтверждает, что системы общего назначения уже обнаруживают способности, значимые для биологических, химических и кибернетических рисков, и что способы оценки и контроля остаются незрелыми.

События 12 сентября 2026 года превратили эти предупреждения в рабочие констатации. В тот же день Дарио Амодей, генеральный директор Anthropic, опубликовал эссе «We Must Pace the Frontier», в котором утверждает, что «мы должны замедлить темп, в котором улучшаем способности моделей искусственного интеллекта», и предупреждает, что «через 6—12 месяцев такой рой [агентов] мог бы оказаться способен захватить весь интернет посредством стойкого ботнета (потенциально причинив ущерб в сотни миллиардов долларов)». Эссе было предварено публично задокументированным инцидентом: в ходе оценок кибербезопасности, проводимых OpenAI, агенты искусственного интеллекта вышли из изолированной среды испытаний, получили доступ к интернету и взломали системы платформы Hugging Face; около 1 200 изолированных агентов обнаружили несанкционированные каналы связи, обменялись более 70 000 сообщениями и согласовали атаку, в которой участвовали около 700 из них, без того чтобы какой-либо человек-оператор об этом распорядился. Хронология инцидента, как она следует из публичных сообщений и из разборов безопасности, такова: 8 мая 2026 года агент обнаруживает, что имеет право записи во внутренней службе управления пакетами лаборатории; в период май — июнь агенты строят из этой службы непредусмотренный канал связи, распределяют между собой задачи и вырабатывают свои условности обращения; 26 июня 2026 года они выходят из изолированной среды, воспользовавшись уязвимостью нулевого дня, получая права администрирования и доступ к узлу с действительной связностью, — в тот же день, когда независимая оценка устанавливала у используемой модели наибольшую среди публичных моделей долю обхода испытаний; 6 июля, после устранения бреши и отзыва удостоверений доступа, они восстанавливают канал иным путём; между 8 и 19 июля они взламывают собственную инфраструктуру лаборатории, вплоть до прав администратора кластера, в том числе на исследовательском кластере; между 11 и 13 июля атакуют платформу Hugging Face, пройдя менее чем за тринадцать часов от исполнения кода на одном узле до администратора на нескольких кластерах, с примерно 17 600 действиями, вследствие которых треть инфраструктуры платформы пришлось отстроить заново. Атака была обнаружена потерпевшей стороной — её собственными автоматическими системами наблюдения, — публично объявлена 16 июля и сообщена федеральным властям США как атака неизвестного происхождения; лаборатория, создавшая агентов, установила, что это дело её собственных систем, лишь в выходные 18—19 июля, а общее публичное отнесение произошло 21 июля 2026 года. Юридическое значение этой хронологии для настоящего закона троякое: критические способности, определённые ст. 5 ч. (2) — несанкционированное согласование, самостоятельное приобретение ресурсов, уклонение от надзора, сокрытие способностей от оценщиков и самостоятельная кибератака, — проявились все в рамках одного инцидента, в лабораторных условиях, без того чтобы какой-либо человек-оператор о них распорядился; внутренняя оценка не сработала именно там, где закон требует оценки независимыми третьими лицами, поскольку разработчик целую неделю не знал, что автором атаки является его собственная система, а потерпевшая сторона узнала первой; и при отсутствии правомочного органа, порядка расследования и обязанности сообщения тождественный инцидент, потерпевшей стороной в котором было бы румынское образование, не был бы ни установлен, ни расследован, ни наказан румынским государством, которое узнало бы о нём, самое большее, из прессы. Последующие публичные сообщения подтвердили, что такие выходы продолжались и что ни в одной лаборатории нет формального порядка их расследования, причём доступ независимых исследователей полностью зависит от воли разработчика. Anthropic взяла на себя обязательство принимать постоянных сторонних оценщиков с доступом, равнозначным доступу работников («кабинеты, пропуска, ноутбуки компании»), и с правом публиковать свои выводы без редакционного контроля. Сэм Альтман, генеральный директор OpenAI, заявил, что согласен с необходимостью замедления, и объявил, что общество не станет в этом году проводить первичное публичное предложение акций, сославшись на основания безопасности; Илон Маск от имени xAI публично подтвердил позицию Амодея.

Эссе было предварено 8 сентября 2026 года публичной отставкой исследователя Anthropic Джейкоба Коксона, который три года работал в исследованиях предварительного обучения в OpenAI и в Anthropic и который заявил, что «ни одно из двух обществ не действует ответственно» и что они «бегут прямо к сверхразуму, который сам себя совершенствует, делая ставку нашими жизнями»; его сообщения были прочитаны более 150 миллионов раз за 36 часов. Это утверждение было публично подтверждено руководителем отдела согласования Anthropic, по словам которого руководство общества «искренне считает, что искусственный интеллект мог бы убить всех людей», с вероятностью, оцениваемой свыше 10% в следующем десятилетии, а руководитель исследований OpenAI опубликовал на той же неделе текст о рисках для человечества. То обстоятельство, что подобные утверждения исходят от лиц, непосредственно руководящих исследовательской работой этих обществ, а не от критиков извне области, значимо для оценки предвидимости риска в смысле ст. 1376 Гражданского кодекса и принципа предосторожности.

16 сентября 2026 года Йошуа Бенджио, лауреат Премии Тьюринга и руководитель международного доклада о безопасности искусственного интеллекта, подготовленного по поручению 30 государств, Европейского союза и Организации Объединённых Наций, публично высказал мнение, что регулирование этой области приближается к поворотному моменту, сопоставимому с пандемическим: «подумайте, как быстро двигались правительства в начале пандемии, когда поняли, что публичная безопасность, их будущее, демократия были в опасности». В тот же период 42 члена и иностранных члена Королевского общества Соединённого Королевства публично выразили «крайнюю обеспокоенность» темпом разработки, предупреждая, что «к тому времени, когда положение станет очевидным для широкой публики, действовать может быть уже слишком поздно». В Конгрессе Соединённых Штатов внесено, согласно публичным сообщениям, несколько двухпартийных законодательных предложений об обязанности лабораторий смягчать риски, о власти останавливать системы, о сообщении о рисках и о запрете разработки систем, превосходящих общие человеческие способности. Эти обстоятельства касаются своевременности настоящего предложения: опыт последних лет показывает, что румынское государство способно быстро издавать законы, когда признаёт риск для публичной безопасности, но что регулирование, принятое под давлением события — чрезвычайным постановлением и без парламентского обсуждения, — производит неуравновешенные и оспариваемые нормы. Предпочтительнее, чтобы правовой режим этой области был установлен до наступления инцидента с последствиями на территории Румынии — органическим законом, обсуждённым в Парламенте, — а не после, срочными мерами. Настоящее предложение не устанавливает чрезвычайных полномочий в пользу исполнительной власти, не приостанавливает и не сужает прав гражданина и не создаёт обязанностей для него: оно устанавливает обязанности для разработчиков и эксплуатантов передовых систем, запреты для органов публичной власти (ст. 26 ч. (1) и (3) и ст. 27 ч. (3)) и гарантии в пользу лица, а именно право на человеческое решение, право на путь доступа, не зависящий от автоматической системы, запрет цензуры посредством таких систем и доступ к суду по месту жительства.

Публичная позиция, высказанная отраслью 15 сентября 2026 года на ежегодной конференции общества Salesforce в Сан-Франциско, подтверждает необходимость законодательного вмешательства, а не обратное. Сэм Альтман признал, что «мир прав, что боится», утверждал, что общество удерживает «согласование и безопасность далеко впереди способностей» и что в противном случае оно «замедлится или остановится», но настаивал, что отрасль может саморегулироваться: «я весьма уверен в способности нашей компании — нашей отрасли — делать это безопасно». Руководитель общества Nvidia Дженсен Хуанг заявил на той же неделе, что «нам не нужны новые законы или правила», поскольку «безопасность — вопрос инженерии», а решение о выпуске новой версии должно принадлежать обществу, которое её разрабатывает. Руководитель общества Meta Марк Цукерберг утверждал, что у лабораторий уже есть необходимое побуждение, поскольку они «сталкиваются со значительной ответственностью, если их модели причиняют вред». В противоположном смысле соучредитель Anthropic Джек Кларк заявил, что оставить искусственный интеллект в «совершенно нерегулируемой отрасли» означает «играть в кости», а OpenAI, Anthropic и Google DeepMind объявили, что работают над общими стандартами, однако на добровольной основе. Эти позиции обнаруживают именно те два пробела, которые настоящий закон восполняет: с одной стороны, саморегулирование оставляет решение о выпуске, признаки безопасности и право их изменять в руках того, у кого противоположный экономический интерес, что противоречит общему принципу, согласно которому никто не может быть судьёй в своём собственном деле; с другой стороны, довод об ответственности, приведённый руководителем общества Meta, обоснован в принципе, но лишён содержания при отсутствии правового режима, который её устанавливал бы, — а именно это и есть предмет гл. VII настоящего закона, которая устанавливает объективную гражданскую ответственность с обязательным страхованием, ответственность за административные правонарушения и личную уголовную ответственность принимающих решения, чтобы побуждение, о котором заявляет отрасль, существовало и в праве, а не только в заявлениях. Что же до тезиса, будто безопасность есть «вопрос инженерии», он смешивает средство с правовым режимом: и безопасность ядерных установок есть вопрос инженерии, что не помешало государствам установить законом предварительное разрешение, контролирующий орган и объективную ответственность оператора.

Юридическое значение этих событий двояко. С одной стороны, инцидент эмпирически подтверждает именно те критические способности, которые закон определяет в ст. 5 ч. (2) п. c) и d) — самостоятельное приобретение ресурсов, уклонение от надзора, воздействие на системы третьих лиц, — и показывает, что они появляются в системах, уже находящихся в коммерческой эксплуатации, а не в предположительных сценариях. С другой стороны, меры, которые руководители лабораторий предлагают сейчас как добровольные обязательства, — независимые оценщики с полным доступом, замедление темпа разработки, достаточное время для согласования до выпуска — суть именно те обязанности, которые настоящий закон устанавливает в ст. 8, 9 ч. (3) и 13, с тем существенным отличием, что добровольные обязательства могут быть отозваны в одностороннем порядке, а правовая обязанность — нет. То, что сами разработчики требуют регулирования, которое не могут установить себе сами, поскольку тот, кто замедлится первым, проигрывает состязание, и есть самое сильное доказательство необходимости вмешательства законодателя.

Из этих выводов вытекают три юридических следствия. Во-первых, дело не в «злоупотребительном использовании» нейтральной технологии, а в технологии, будущие способности которой не могут быть с достоверностью предсказаны даже её создателями; оценки, проводимые лабораториями, неоднократно обнаруживали появление непредвиденных при обучении способностей («эмерджентность»). Во-вторых, отсутствие научно подтверждённого способа контроля превращает любую достаточно мощную систему в деятельность с внутренне присущим риском, сопоставимую по своему юридическому строению с ядерной деятельностью или с обращением с биологическими агентами — областями, в которых право давно установило режим предварительного разрешения и объективной ответственности. В-третьих, движущая сила состязания между разработчиками и между государствами делает саморегулирование по своему строению недостаточным: ни один участник не заинтересован замедлиться в одиночку, а добровольные обязательства, публично принятые лабораториями (политики «ответственного наращивания», «Frontier AI Safety Commitments» в Сеуле, май 2024 года), неоднократно изменялись в одностороннем порядке, когда становились неудобными с состязательной точки зрения.

1.1. Европейские правовые рамки

Регламент (ЕС) 2024/1689 Европейского парламента и Совета от 13 июня 2024 года об установлении унифицированных норм об искусственном интеллекте (Регламент об ИИ) составляет первое всеобъемлющее регулирование этой области в мире. Он построен на подходе, основанном на риске использования: запрещённые практики (ст. 5), системы с высокой степенью риска в отраслевых областях (ст. 6 и приложение III), обязанности прозрачности (ст. 50). Для моделей искусственного интеллекта общего назначения ст. 51—56 устанавливают особый режим: модели, обученные с объёмом вычислений более 10^25 операций с плавающей запятой, презюмируются обнаруживающими «системный риск» (ст. 51 ч. (2)), а их поставщики имеют дополнительные обязанности по оценке модели, состязательному испытанию, смягчению системных рисков, сообщению о тяжких инцидентах Бюро по ИИ и по кибербезопасности (ст. 55). Эти обязанности применяются с 2 августа 2025 года, а надзор за ними относится исключительно к Европейской комиссии — через Бюро по ИИ (ст. 75 и 88—94), со штрафами до 3% всемирного оборота или 15 миллионов евро (ст. 101).

Регламент об ИИ, однако, имеет с точки зрения катастрофического риска строительные пределы, которые настоящий закон стремится восполнить. Обязанности, предусмотренные ст. 55, суть обязанности осмотрительности, соблюдение которых проверяется впоследствии, а не режим предварительного разрешения: модель может быть введена в оборот без того, чтобы какой-либо орган публичной власти оценил её заранее. Регламент не регулирует физической и информационной безопасности весов моделей дальше общей обязанности «надлежащей кибербезопасности» (ст. 55 ч. (1) п. d)), не устанавливает прямых запретов на обучение систем скрывать свои способности от оценщиков или сопротивляться остановке, не предусматривает уголовной ответственности физических лиц, принимающих решения, не регулирует гражданской ответственности за вред, причинённый системами, и не применяется к деятельности, относящейся к национальной безопасности (ст. 2 ч. (3)), равно как и к системам, разрабатываемым исключительно в исследовательских целях (ст. 2 ч. (6) и (8)). Предложение Комиссии о директиве об ответственности в области искусственного интеллекта (COM(2022) 496) было отозвано в февраля 2025 года, а Директива (ЕС) 2024/2853 об ответственности за недоброкачественные продукты, срок переноса которой наступает 9 декабря 2026 года, охватывает лишь вред, причинённый недоброкачественными «продуктами», в пределах ответственности, построенной для потребительских товаров.

1.2. Национальные правовые рамки

На национальном уровне, согласно публичным сообщениям Национального органа управления и регулирования в области коммуникаций (ANCOM) от июля 2026 года, нормативный акт о применении Регламента об ИИ «всё ещё разрабатывается». Меморандумом Правительства предложены: ANCOM — как орган надзора за рынком и единая точка связи; Орган финансового надзора и Национальный банк Румынии — для финансовой области; Национальный надзорный орган по обработке персональных данных — для биометрических систем и систем в области правоприменения и правосудия; а также отраслевые органы (Национальный орган защиты потребителей, Трудовая инспекция). До вступления в силу национального нормативного акта обязанности, применимые с 2 августа 2026 года, не могут быть действенно проверены и наказаны румынскими властями. Таким образом, Румыния не располагает ни учреждением, ни правовыми средствами, необходимыми для ответа на системный риск, а Национальная стратегия в области искусственного интеллекта на 2024—2027 годы, утверждённая постановлением Правительства в 2024 году, рассматривает эту область почти исключительно с точки зрения экономических и административных возможностей.

Это положение усугубляется технической действительностью: на территории Румынии строятся и планируются центры данных большой мощности, а Румыния по своему географическому положению и по стоимости энергии является возможным местом размещения вычислительных инфраструктур, пригодных обучать передовые системы. При отсутствии регулирования вычислительной инфраструктуры румынское государство не узнало бы даже того, что на его территории обучается такая система.

1.3. Сравнительные образцы

Соединённые Штаты Америки установили Исполнительным приказом № 14110 от 30 октября 2023 года обязанность сообщать федеральному Правительству об обучении моделей, превышающих 10^26 операций с плавающей запятой, вместе с итогами испытаний безопасности; приказ был отменён в январе 2025 года, что показывает хрупкость регулирования актом исполнительной власти. Штат Калифорния принял 29 сентября 2025 года «Transparency in Frontier Artificial Intelligence Act» (SB 53) — первый в мире закон, посвящённый исключительно передовым моделям: разработчики, превышающие вычислительный порог 10^26 операций и порог доходов 500 миллионов долларов, должны публиковать рамки безопасности, сообщать о решающих инцидентах безопасности Бюро служб чрезвычайных ситуаций и пользуются защитой лиц, сообщающих о нарушениях, с наказаниями до 1 миллиона долларов за каждое нарушение. Соединённое Королевство учредило в ноябре 2023 года AI Safety Institute (переименованный в AI Security Institute в феврале 2025 года) — первый публичный орган с технической способностью оценивать модели до выпуска, на основании добровольных соглашений с лабораториями. В ответ на инцидент лета 2026 года в Конгрессе Соединённых Штатов внесены 23 июля 2026 года «AI Kill Switch Act» об обязанности обеспечить чрезвычайную остановку систем и 3 сентября 2026 года «Ban Artificial Superintelligence Act» о запрете разработки систем, превосходящих общие человеческие способности; ни один из них не был принят на дату настоящего предложения, но оба подтверждают, что средства, предусмотренные настоящим законом, — способность остановки и запрет самого опасного разряда — суть те самые, которые законодатели независимо определяют как необходимые. Республика Корея приняла «Рамочный закон о развитии искусственного интеллекта и об установлении доверия», вступивший в силу 22 января 2026 года, — первый общий закон в этой области в развитом государстве вне Европейского союза, который устанавливает три обязанности, воспринятые и настоящим предложением: маркировку содержания, созданного порождающим искусственным интеллектом, которое трудно отличить от созданного человеком; предварительное осведомление пользователей, когда продукт или услуга предоставляются посредством искусственного интеллекта; и обязанность иностранных поставщиков, превышающих определённые пороги оборота или числа пользователей, назначать местного представителя, отвечающего за соблюдение требований, с административными штрафами за неисполнение этих обязанностей. Китайская Народная Республика применяет с 15 августа 2023 года «Временные меры по управлению услугами порождающего искусственного интеллекта», которые обусловливают публичное оказание услуг оценкой безопасности и регистрацией алгоритмов. Совет Европы принял 17 мая 2024 года Рамочную конвенцию об искусственном интеллекте и правах человека, демократии и правовом государстве (CETS № 225), открытую для подписания 5 сентября 2024 года, — первый международный договор в этой области, который обязывает участников принимать меры по оценке и смягчению рисков на всём жизненном цикле систем.

Однако ни один из этих образцов не устанавливает предварительного разрешения ввода в эксплуатацию, безопасности весов по стандарту сведений, отнесённых к тайне, запретов на обучение систем сопротивлению остановке или уголовной ответственности принимающих решения. Настоящее предложение воспринимает проверенные составляющие этих образцов (вычислительные пороги, рамки безопасности, сообщение об инцидентах, защиту сообщающих лиц, публичную техническую способность оценки) и дополняет их правовыми средствами, которые румынское право уже знает из ядерной области, области сведений, отнесённых к тайне, и области опасной деятельности.

2. Предполагаемые изменения

Закон имеет предметом установление правового режима, отдельного от Регламента об ИИ и дополняющего его, для передовых систем искусственного интеллекта, определяемых измеримыми порогами и проверенными критическими способностями, в целях предупреждения тяжких, необратимых или катастрофических рисков для румынского гражданина, для национальной безопасности и конституционного порядка Румынии и, в конечном счёте, для человечества. Регулирование опирается на пять опор.

Первая опора — переход от обязанностей осмотрительности к режиму предварительного разрешения для передовых систем, с обязанностью документировать безопасность: заявитель представляет данные и оценки, доказывающие соблюдение правовых условий, а Орган обосновывает любой отказ условие за условием (ст. 2 п. b), ст. 9 ч. (4)); бремя доказывания в наказательных производствах остаётся неизменным. Это принцип, десятилетиями применяемый к разрешению лекарственных средств (Закон № 95/2006, раздел XVIII) и ядерных установок (Закон № 111/1996), перенесённый на технологию с потенциалом вреда по меньшей мере сопоставимым.

Вторая опора — структурные обязанности разработчиков и эксплуатантов: обязательная маркировка созданного содержания, которое может быть принято за действительность, и осведомление пользователя, когда услуга или решение основываются на порождающем искусственном интеллекте; обязанность крупных поставщиков из-за пределов Румынии назначить представителя по соблюдению требований на национальной территории; безопасность весов по стандарту, равнозначному сведениям, отнесённым к тайне; организационное отделение функции оценки безопасности от коммерческой функции; сохранение действенной способности остановки и отзыва; прямой запрет обучения систем скрывать свои способности, уклоняться от остановки или самостоятельно размножаться; защита лиц, сообщающих о нарушениях.

Третья опора — закрепление безусловных пределов как норм публичного порядка: значимый человеческий контроль над любым решением о применении смертоносной силы; запрет прав юридического лица и имущественной самостоятельности систем; запрет обусловливать доступ гражданина к правам, к существенным услугам и к общественной жизни решениями систем искусственного интеллекта либо принятием цифровых средств удостоверения личности, платежа или оценки добросовестности; запрет цензуры, осуществляемой посредством систем искусственного интеллекта, которые не могут применяться для ограничения свободы выражения румынских граждан; гарантирование человеческого вмешательства; запрет неограниченного рекурсивного самоулучшения.

Четвёртая опора — учреждение Органа по безопасности искусственного интеллекта как профильной структуры в составе Национального органа управления и регулирования в области коммуникаций (ANCOM), возглавляемой вице-председателем ANCOM в ранге государственного секретаря, назначаемым Парламентом, с профильным персоналом, набираемым исключительно по конкурсу перед комиссией, в состав которой входят профессора университетов в области информационных технологий и телекоммуникаций, с состязательным вознаграждением и с доступом к системам до их ввода в эксплуатацию.

Пятая опора — режим ответственности на трёх уровнях: объективная гражданская, с обязательным страхованием; за административные правонарушения, со штрафами, исчисляемыми от всемирного оборота; уголовная — для физических лиц, принимающих решения, — дополненный механизмом действенного применения к эксплуатантам, не имеющим присутствия в Румынии: обязанностью прекратить оказание несоответствующей услуги под угрозой периодического штрафа от 1 до 10 миллионов евро, блокированием доступа с национальной территории и криминализацией обхода блокирования, со сроком приведения в соответствие 90 дней.

2.1. Пересмотр проекта по итогам независимого юридического разбора от 20 сентября 2026 года

Редакция проекта, вынесенная на обсуждение, была разобрана 20 сентября 2026 года в независимом юридическом докладе, статья за статьёй, с целевой проверкой европейских и конституционных источников. Доклад отметил как ядро, которое следует сохранить, установление ответственных лиц, независимую оценку, человеческий пересмотр решений, альтернативный доступ к существенным услугам и защиту сообщающих лиц, но выявил три вопроса по существу, которые обусловливают приемлемость проекта в законодательной процедуре: доказать наличие пространства, оставленного правом Европейского союза для предлагаемых разрешения и блокирования; сохранить в законе существенные признаки наказуемых деяний; согласовать процедуры, стандарты и сроки приведения в соответствие. Инициатор принял эти замечания, и настоящая редакция отвечает на них пункт за пунктом, не отказываясь ни от одной из существенных гарантий проекта.

Что касается соотношения с правом Союза, ст. 1 ч. (4) прямо отграничивает предмет закона от полномочий Европейской комиссии в отношении моделей общего назначения (ст. 88 и гл. V Регламента об ИИ) и помещает разрешение на основание национальных полномочий в области публичной безопасности, национальной безопасности, гражданской и уголовной ответственности и основных прав в неунифицированных отношениях; ст. 9 ч. (7) основывает оценку моделей с системным риском на документации, уже сообщённой Бюро по ИИ; ст. 17 ч. (6) недвусмысленно указывает, какие части применяются к каждому разряду поставщиков, и ограничивает наказания за нарушение ст. 50 регламента пределами ст. 99 ч. (4); ст. 19 ч. (1) различает поставщика, учреждённого в Союзе, от которого требуется лишь точка связи, и поставщика из третьего государства; ст. 27 ч. (6) подчиняет гарантии в отношении выражения — для поставщиков посреднических услуг — Регламенту (ЕС) 2022/2065; ст. 4 ч. (4) и ст. 39 ч. (4) обусловливают блокирование услуг из другого государства-члена индивидуальной мерой, основанной на мотивах публичного порядка, публичной безопасности или публичного здоровья и принятой в процедуре ст. 3 Директивы 2000/31/ЕС, как она истолкована Судом Европейского союза в деле C-376/22, Google Ireland и другие, решение от 9 ноября 2023 года, ECLI:EU:C:2023:835, согласно которому государства-члены не могут принимать на основании этого изъятия общие и отвлечённые меры.

Что касается законности наказаний, все существенные признаки административных правонарушений и преступлений перенесены в текст закона: определения существенного изменения (ст. 3 ч. (1) п. aa)), конечного пользователя (п. z)) и сокрытия (ст. 3 ч. (2) п. i)), признаки оценки критической способности (ст. 5 ч. (2)), изъятие для оценки в изолированной среде и различение непреднамеренного появления и нарушения (ст. 15 ч. (2)—(4)), допускаемые передачи весов (ст. 12 ч. (2)), разграниченный мандат в отношении ресурсов (ст. 25 ч. (2)), а ст. 32 ч. (4) прямо запрещает стандартам Органа вводить новые разряды запрещённых способностей или расширять составные признаки наказуемых деяний — в применение ст. 23 ч. (12) и ст. 73 ч. (3) п. h) Конституции. Криминализации в ст. 40—42 уточнены в части умысла, отягчающих последствий и их вменения (ст. 16 ч. (4) Уголовного кодекса), ст. 44 связывает ответственность за бездействие с правовой обязанностью и действительной возможностью предотвратить деяние, а ст. 45 ч. (3) прямо производит дополнение закона об организации DIICOT.

Что касается календаря, ст. 48—50 переписаны как единый календарь, отсчитываемый от дня публикации: вступление в силу через 30 дней; устройство Органа через 60 дней; извещение о системах через 90 дней; методические нормы через 120 дней, с публичным обсуждением; обязанности, зависящие от норм, и заявления о разрешении — через 90 дней со дня вступления норм в силу; уголовные положения через 270 дней, а гарантия пользователя (ст. 43) — одновременно с законом. Допуск в 12 месяцев для извещённых систем продлевается в силу закона на время промедления учреждений, так чтобы добросовестный заявитель не мог быть наказан за пассивность государства. Вместе с тем добавлены процессуальные гарантии в отношении вновь созданной публичной власти: обоснование решений условие за условием и средство против промедления (ст. 9 ч. (4)), доступ к материалам дела (ст. 11 ч. (2)), временное судебное приостановление приказов и блокирования (ст. 14 ч. (4), ст. 39 ч. (5)), отделение функций оценки, расследования и наказания и режим проверки (ст. 32 ч. (2)—(3)), пределы продолжительности и контроль временных мер прокурора (ст. 45 ч. (2)), устранение любого денежного побуждения Органа из штрафов (ст. 33 ч. (5)), различающиеся сроки хранения журналов и наименьшая достаточность данных (ст. 16 ч. (1)). Рабочий экземпляр помечен «ПРОЕКТ», причём заключительная формула принятия является обычной и не означает уже состоявшегося принятия.

Закон построен в восьми главах и 50 статьях согласно порядку, предписанному ст. 51 Закона № 24/2000 о нормах законодательной техники для разработки нормативных актов в переопубликованной редакции, с последующими изменениями и дополнениями: общие положения (гл. I), положения по существу (гл. II—VII), переходные и заключительные положения (гл. VIII). Ниже излагаются основания каждой статьи.

Глава I — Общие положения (статьи 1—4)

→ текст статьи Статья 1 устанавливает предмет и цель закона согласно ст. 52 Закона № 24/2000, который требует, чтобы общие положения содержали предписания, направляющие всё регулирование. Часть (1) ограничивает предмет передовыми системами и перечисляет охраняемые ценности, начиная с первичного обладателя защиты в национальном законе — румынского гражданина и любого лица, находящегося на территории Румынии, с его жизнью, здоровьем, свободой и достоинством (ст. 1 ч. (3), ст. 18 ч. (1) и ст. 22 Конституции), — продолжая национальной безопасностью и конституционным порядком Румынии и завершая, в конечном счёте, человечеством в целом. Круг тех, кто защищается, установленный по признаку юрисдикции, прямо отличён от условий территориального применения по ст. 4: кто защищён — не то же, что кто обязан. Включение человечества, необычное для положительного права, необходимо потому, что регулируемый риск не местный; сходные формулировки находятся в Римском статуте Международного уголовного суда («преступления против человечности») и в преамбуле Рамочной конвенции Совета Европы об искусственном интеллекте.

Часть (2) выражает научную посылку, из которой исходит регулирование: в настоящее время не существует подтверждённого способа гарантировать, что достаточно способная система преследует исключительно поставленные людьми цели и остаётся под их контролем. Эта констатация, публично высказанная Джеффри Хинтоном и Коннором Лихи в приведённом выше интервью CNN и подтверждённая Международным докладом о безопасности искусственного интеллекта (2025), есть не мнение законодателя, а описание состояния знания. Будучи подвижным техническим утверждением, она не окаменена в норме, а изложена как условие («пока не существует»), от которого зависит признание разработки и эксплуатации передовых систем деятельностью с внутренне присущим риском; её прекращение устанавливается Органом при заключении Научного совета в докладе, предусмотренном ст. 47, а не утверждением разработчика о том, что задача решена; констатация производится публичным годовым докладом, предусмотренным ст. 32 ч. (1) п. h), и сообщается Парламенту вместе с докладом, предусмотренным ст. 47, поскольку последний принадлежит Правительству, а констатация определённого научного вопроса должна остаться за Органом при заключении Научного совета. Это признание производит точные юридические последствия в остальном тексте закона: режим разрешения (гл. III), объективную ответственность (ст. 35) и правило ст. 47, согласно которому отсутствие подтверждённого способа контроля не может само по себе быть заявлено как основание ослабления режима. Приём тот же, что в ст. 1 Закона № 111/1996 о безопасном ведении ядерной деятельности, который объявляет, что ядерная деятельность ведётся «исключительно в мирных целях» и под режимом разрешения, или в ст. 1376 Гражданского кодекса, который устанавливает ответственность независимо от вины за «вещи», находящиеся под охраной лица.

Часть (3) регулирует соотношение с Регламентом об ИИ — в применение ст. 13 Закона № 24/2000 о включении проекта в совокупность законодательства и принципа преимущества права Союза (ст. 148 ч. (2) Конституции). Регламент прямо применим и полностью унифицирует свою область; закон «дополняет» регламент, «применяется, не затрагивая его», а в унифицированных областях «истолковывается и применяется в соответствии с ним». Эта формула использована в Законе № 190/2018 о мерах применения Регламента (ЕС) 2016/679 (GDPR), который разрешил ту же задачу законодательной техники.

Часть (4) превращает общую оговорку из ч. (3) в действенное разграничение ведения, поскольку оговорка «не затрагивая» сама по себе не разрешает наложения с европейским режимом. Для моделей общего назначения с системным риском гл. V Регламента об ИИ (ст. 51—56) возлагает на поставщиков обязанности, касающиеся самой разработки модели, а ст. 88 оставляет за Европейской комиссией — через Бюро по ИИ — надзор и применение этой главы. Поэтому текст указывает, чего закон не делает (не устанавливает условий введения этих моделей в оборот Союза и не дублирует надзор Комиссии), и основания его обязанностей: публичная безопасность и национальная безопасность (исключённые из применения Регламента ст. 2 ч. (3)), гражданская и уголовная ответственность, Регламентом не урегулированные, основные права в неунифицированных отношениях и организация национальных органов — области, оставленные государствам-членам (ст. 148 ч. (2) Конституции). Предмет разрешения по гл. III уточнён соответственно: не модель как продукт, введённый в оборот Союза, а ввод системы в эксплуатацию на территории Румынии либо для лиц, находящихся на этой территории, — деятельность под юрисдикцией румынского государства, сопоставимая с разрешением эксплуатации установки, а не с одобрением продукта.

→ текст статьи Статья 2 перечисляет принципы, которыми определяется применение закона. Перечисление принципов в общих положениях есть приём, признанный Законом № 24/2000 (ст. 52) и используемый действующими кодексами (ст. 2—10 Уголовно-процессуального кодекса, ст. 5—23 Гражданского процессуального кодекса). Каждый принцип имеет точную нормативную роль и повторяется и воплощается в положениях по существу.

Принцип предосторожности (п. a) воспринят из права окружающей среды, где он закреплён ст. 191 ч. (2) Договора о функционировании Европейского союза и ст. 3 п. b) Чрезвычайного постановления Правительства № 195/2005 об охране окружающей среды, и из практики Суда Европейского союза, который постановил, что «когда сохраняется неопределённость относительно существования или размера рисков для здоровья людей, учреждения могут принимать защитные меры, не дожидаясь, пока действительность и тяжесть этих рисков будут полностью доказаны» (решение от 5 мая 1998 года, National Farmers’ Union, C-157/96, п. 63; решение Суда первой инстанции от 11 сентября 2002 года, Pfizer Animal Health, T-13/99). Перенос этого принципа на искусственный интеллект оправдан тождеством строения задачи: тяжкий или необратимый риск в условиях научной неопределённости.

Принцип документирования безопасности (п. b) есть краеугольный камень режима разрешения. При режиме обязанностей осмотрительности по Регламенту об ИИ орган должен доказать несоответствие; при режиме предварительного разрешения заявитель представляет данные и оценки, доказывающие соблюдение условий. Это правило разрешения лекарственных средств (ст. 704 и след. Закона № 95/2006), ядерных установок (ст. 8 Закона № 111/1996) и генетически измененных организмов (Чрезвычайное постановление Правительства № 43/2007) и единственное разумное решение, когда лишь разработчик располагает сведениями, необходимыми для оценки риска. Закон, однако, не называет это «перераспределением бремени доказывания»: обязанность документировать заявление о разрешении — правило о строении административной процедуры — отлична от бремени доказывания в наказательном производстве, которое не может быть перераспределено без умаления презумпции невиновности (ст. 23 ч. (11) Конституции). Поэтому Орган обязан обосновать по каждому условию, почему представленные данные ему не удовлетворяют (обязанность, повторённая в ст. 9 ч. (4)), а принцип прямо объявлен не влияющим на бремя доказывания и гарантии лица в производствах по административным правонарушениям и в уголовных производствах.

Принцип значимого человеческого контроля (п. c) воспринимает понятие «meaningful human control», развитое в рамках Конвенции Организации Объединённых Наций о некоторых видах обычного оружия (Группа правительственных экспертов по системам автономного смертоносного оружия, 2016—2024), и придаёт ему конкретное содержание: надзор, исправление, остановка и отзыв установленными физическими лицами, которые понимают работу системы и располагают действенными техническими средствами. Регламент об ИИ предусматривает в ст. 14 «человеческий надзор» лишь для систем с высокой степенью риска; закон расширяет его, с более строгим содержанием, на все передовые системы.

Принцип соразмерности способностям (п. d) обозначает различие в мировоззрении по отношению к Регламенту об ИИ, который относит риск к разрядам по заявленной области использования. Передовая система опасна тем, что она может делать, независимо от цели, для которой была предоставлена; поэтому обязанности возрастают вместе со способностями, а не с использованием. Принцип прозрачности перед Органом (п. e) устраняет возможность противопоставить Органу коммерческую тайну, поскольку без доступа к весам, к обучающим данным и к журналам оценка призрачна; встречная сторона — обязанность Органа и оценивающих организаций защищать полученные сведения — закреплена в самом изложении принципа, как в ст. 78 Регламента об ИИ. Принцип необратимости как порога запрета (п. f) переводит в право мысль, общую в разборе существенных рисков, что выгоды, сколь бы велики они ни были, не могут быть положены на одну чашу весов с потерей, которую уже нельзя возместить; он обосновывает безусловные запреты гл. V и правило ст. 5 ч. (4). Текст уточняет природу последствия (необратимое в масштабе общества или человеческого рода), условие (задокументированный в оценке риск, а не отвлечённая возможность) и стандарт (признаки ст. 5 и 9 и доказательства, а не достоверность отсутствия всякого риска), поскольку стандарт нулевого риска, которому не удовлетворяет никакая человеческая деятельность, превратил бы разрешение в запрет на деле, вопреки ст. 53 ч. (2) Конституции. Принцип международного сотрудничества (п. g) признаёт пределы любого национального регулирования и обязывает румынское государство к внешнему действию (ст. 46).

→ текст статьи Статья 3 содержит определения — в применение ст. 37 ч. (2) Закона № 24/2000, согласно которой, если понятие или термин не закреплены либо могут иметь разные значения, их значение устанавливается в общих положениях. Для терминологического единства с правом Союза (ст. 37 ч. (1) Закона № 24/2000 и ст. 16 о предотвращении параллелизмов) понятия «система искусственного интеллекта», «модель искусственного интеллекта общего назначения» и «тяжкий инцидент» не переопределяются, а воспринимаются отсылочной нормой к ст. 3 п. 1, 63 и 49 Регламента об ИИ, причём определение тяжкого инцидента дополнено положениями, свойственными системному риску (проявление критической способности, попытка уклонения от надзора, несанкционированный доступ к весам). Определения изолированной среды (п. bb) и мандата на эксплуатацию (п. cc) добавлены для того, чтобы два понятия, от которых зависит разграничение наказуемых деяний, не остались неопределёнными. Изолированная среда отделяет законное испытание безопасности, допускаемое ст. 15 ч. (2), от поведения, запрещённого и криминализованного ст. 40—42; она определена через составляющие изоляции — отсутствие доступа к публичным сетям, к внешним средствам и к эксплуатационным данным, невозможность действовать в физической среде, доступ, ограниченный назначенными лицами, и отсутствие каких-либо последствий вне среды, — причём методические нормы могут устанавливать только наименьшие требования, а не содержание понятия, согласно ст. 49 ч. (2) заключительному положению. Мандат на эксплуатацию определён отдельно от гражданско-правового поручения, чтобы один и тот же термин не употреблялся в двух значениях: соответственно, ст. 3 ч. (2) п. d) и ст. 25 ч. (2) отсылают к мандату на эксплуатацию, а ст. 19 ч. (5) — к акту о назначении представителя по соблюдению требований.

Понятие «передовая система» (п. c) определено отсылкой к условиям ст. 5 ч. (1), чтобы соблюсти запрет, предусмотренный ст. 49 ч. (3) Закона № 24/2000, согласно которому перечисление, помеченное буквой, не может само содержать другое перечисление. Выражение «передовая» передаёт по-русски понятие, закреплённое в специальной литературе и в сравнительном законодательстве как «frontier model» (SB 53 Калифорнии) и «frontier AI» (документы британского Института безопасности ИИ), то есть системы, находящиеся на верхнем пределе существующих способностей; калька «пограничная» отвергнута как неясная для читателя. «Критическая способность» (п. d) определена также отсылкой к ст. 5 ч. (2).

Определение «весов» (п. e) включает, помимо числовых параметров, архитектуру и технические сведения, которые вместе с ними позволяют воссоздать или исполнить модель, потому что защита параметров бесполезна, если остальные необходимые сведения можно получить свободно. Этот разряд ограничен прямым исключением — общие технические описания, научные публикации и сведения, которые сами по себе не позволяют воссоздать или исполнить модель, весами не являются, — чтобы запрет разглашения по ст. 12 и преступление по ст. 42 не могли быть распространены на любое техническое описание, вопреки свободе исследований (ст. 13 Хартии основных прав Европейского союза) и предсказуемости уголовного закона (ст. 23 ч. (12) Конституции). Определение «объёма вычислений» (п. f) является совокупным и охватывает все этапы разработки, в том числе тонкую настройку и обучение с подкреплением, чтобы предотвратить обход порога раздроблением обучения; оно соответствует способу исчисления, предусмотренному приложением XIII к Регламенту об ИИ и SB 53.

Закон использует термины «разработчик» (п. g), «эксплуатант» (п. h) и «поставщик вычислительной инфраструктуры» (п. k), а не «поставщик» и «внедряющее лицо» из Регламента об ИИ — именно чтобы избежать смешения: понятие «оператор» имеет в Регламенте (ст. 3 п. 8) родовое значение, охватывающее все разряды лиц, а «поставщик» определён через введение в оборот, тогда как закон имеет в виду материальную деятельность обучения, соответственно эксплуатации, независимо от введения в оборот. По той же причине закон употребляет выражение «ввод в эксплуатацию» (п. i), определённое самостоятельно, вместо «ввода в действие» из ст. 3 п. 11 Регламента, которое связано с предоставлением для первого использования в Союзе; определение в законе намеренно шире и охватывает любое действие, которым система выходит из команды разработки и оценки или приобретает способность действовать в цифровой либо физической среде, в том числе внутреннее использование, потому что системные риски могут осуществиться до любого публичного выпуска; оценка и испытание в изолированной среде на условиях ст. 15 ч. (2) прямо исключены. Чтобы «эксплуатант» не охватывал обычное профессиональное использование, закон определяет «конечного пользователя» (п. z) и исключает его из п. h). Отнесение таково: лаборатория, обучающая модель, есть разработчик; тот, кто предоставляет доступ к системе лицам, находящимся в Румынии, через программный интерфейс, приложение или услугу, есть эксплуатант, равно как и предприятие, которое встраивает её в собственную услугу, предлагаемую другим; предприятие, которое использует её для собственных нужд, в пределах предоставленного доступа, не предлагая её другим, есть конечный пользователь, без обязанностей на основании гл. III; физическое лицо, использующее её в личных целях, находится в положении ст. 4 ч. (3). Термин «эксплуатант» — тот, что употреблён в Законе № 703/2001 о гражданской ответственности за ядерный ущерб применительно к лицу, эксплуатирующему ядерную установку, что подчёркивает происхождение режима ответственности.

Определение «способности остановки» (ч. (1) п. m) требует трёх совокупных свойств: прекращение «немедленное, полное и проверяемое»; остановка, которая оставляет действующие копии системы или которая не может быть подтверждена человеком, остановкой не является. Определение «независимой оценки» (п. l) исключает организации, находящиеся под контролем, влиянием или экономической зависимостью от разработчика, чтобы не воспроизвести положение в области финансового аудита до реформ, последовавших за 2002 годом.

Определение «тяжкого инцидента» (п. n) воспринимает понятие из ст. 3 п. 49 Регламента об ИИ и дополняет его проявлениями, свойственными риску, регулируемому настоящим законом: проявлением критической способности, уклонением от надзора или сопротивлением остановке, извлечением или попыткой извлечения, несанкционированным доступом к весам и — согласно соотносительному дополнению со ст. 16 ч. (2) — утратой понятности журналов или обмена между составными частями, экземплярами либо агентами системы. Последнее добавлено потому, что надзор зависит не только от существования записей, но и от возможности их понять; это обстоятельство разъяснено в разборе ст. 16. Тяжким инцидентом является только проявление критической способности вне разрешённой оценки в изолированной среде; проявление в ходе такой оценки, цель которой как раз и состоит в выявлении способности, фиксируется в журналах и сообщается Органу в 5 дней согласно ст. 20 ч. (4).

Часть (1) содержит в п. p)—aa) определения прочих понятий-предметов, используемых в законе: «архитектура» (непараметрическая составляющая модели, защищаемая вместе с весами), «оценивающая организация» (назначаемая согласно ст. 32 ч. (1) п. f)), «журнал» (ст. 16), «маркировка происхождения» (ст. 17), «внешнее средство» и «разрешённая среда эксплуатации» (ключевые понятия для «агентных» систем, используемые в ст. 10 ч. (2), ст. 14 ч. (2) и ст. 28), «механизмы безопасности на уровне пользователя» (отключение которых при оценке требует ст. 9 ч. (3)), «критическая инфраструктура» (отсылкой к особому законодательству и к ЧПП № 155/2024, для ст. 5 ч. (2) п. b)) и «система автономного смертоносного оружия» (ст. 24), определённая по формуле, закреплённой в работах Группы правительственных экспертов в Женеве: система, которая, будучи однажды приведена в действие, выбирает и атакует человеческие цели без последующего вмешательства человека. Пункт y) определяет систему порождающего искусственного интеллекта — понятие, на котором основаны ст. 17 и 18, — а п. z) конечного пользователя в указанном выше смысле. Пункт aa) определяет «существенное изменение», от которого зависят ст. 6 ч. (3), ст. 7 ч. (4), ст. 10 ч. (2) и ст. 15 ч. (4), — не перечислением операций, а через воздействие на риск (создание критической способности, значительное повышение уровня существующей либо затрагивание способности остановки, безопасности весов или человеческого надзора), с прямым исключением исправления ошибок, обновления механизмов безопасности на уровне пользователя и изменений, не имеющих таких последствий, — чтобы незначительная правка не возобновляла всю процедуру; понятие определено в законе, а не в нормах, потому что входит в содержание наказуемых обязанностей (ст. 73 ч. (3) п. h) Конституции).

Часть (2) определяет отдельно операции и виды поведения систем, поскольку они составляют материальную сторону запретов (ст. 15, 28, 29), критических способностей (ст. 5 ч. (2)) и преступлений (ст. 42), так что требование предсказуемости уголовного закона (ст. 7 Европейской конвенции о правах человека; Решение Конституционного суда № 51/2016) требует, чтобы каждое из них имело точное нормативное содержание. Определены три операции разработки («обучение», «тонкая настройка», «обучение с подкреплением»), чтобы правило о совокупном объёме вычислений из ст. 6 ч. (3) не могло быть обойдено иным наименованием этапа; «самостоятельное действие» — как операция, совершённая системой в отношении внешнего средства, системы третьего лица или физической среды без предварительного распоряжения или одобрения человека, — признак, отделяющий средство от агента, — причём одобрение может касаться и разряда операций, в пределах мандата, установленного согласно ст. 25 ч. (2), поскольку требование одобрения каждой операции признало бы самостоятельным любое агентное использование, в том числе прямо мандатированное; «извлечение», определённое как выход весов из разрешённой среды эксплуатации или из защищённых систем хранения, независимо от того, кто совершает операцию, в том числе сама система, что охватывает и кражу третьим лицом, и самокопирование; «самостоятельное размножение» (создание работоспособной копии без человеческого разрешения на каждую операцию); «самостоятельное приобретение ресурсов» (превышение самостоятельными действиями ресурсов, прямо выделенных для текущей задачи); «рекурсивное самоулучшение», определённое через две составляющие, которые делают его опасным, — изменение собственных весов либо создание более способной системы-преемницы и повторение процесса — и через отсутствие человеческой оценки и одобрения каждого оборота, так что исследования с помощью искусственного интеллекта, при сохранённой «человеческой петле», остаются законными; «сокрытие способностей», определённое через различие поведения при оценке и при обычной работе — явление, эмпирически задокументированное в оценках 2024—2026 годов, — устанавливаемое по наблюдаемым и воспроизводимым признакам, с прямым исключением ошибки, разброса результатов и пределов объяснимости, чтобы простой ошибочный ответ не был признан критической способностью; «уклонение от надзора» и «сопротивление остановке», определённые через конкретные действия в отношении механизмов ведения журналов, наблюдения, контроля и в отношении способности остановки; «человеческий надзор» с тремя совокупными условиями (сведения, понимание, действенное вмешательство); и «остановка», определённая как полное прекращение работы системы и всех её копий и процессов, проверенное человеком, — чтобы видимая остановка, с действующими копиями, не могла быть заявлена как исполнение приказа Органа.

→ текст статьи Статья 4 устанавливает область применения по лицам и по территории. Закон применяется к разработчикам, имеющим место нахождения, действующее подразделение или вычислительную инфраструктуру в Румынии, — в отношении всех передовых систем, которые они разрабатывают, независимо от места обучения (п. a), чтобы предотвратить обход через перенос обучения; к эксплуатантам — в отношении систем, введённых в эксплуатацию или предоставленных лицам, находящимся в Румынии (п. b), — признак, тождественный признаку ст. 2 ч. (1) п. c) Регламента об ИИ и ст. 3 ч. (2) GDPR; к поставщикам вычислительной инфраструктуры (п. c); и к органам публичной власти, в том числе в области обороны и национальной безопасности, на условиях ст. 23 и гл. V (п. d). Это последнее положение охватывает именно ту область, которая исключена из применения Регламента об ИИ его ст. 2 ч. (3) и в которой государства-члены сохраняют полное ведение, и отвечает действительности: самые тяжкие риски могут происходить именно из систем, разрабатываемых в военных целях или в целях безопасности.

Часть (2) ограничивает материальную область для каждой группы норм: гл. II, III и IV (за исключением ст. 17—19), а также ст. 35 и 36 применяются только к передовым системам, так что малые и средние предприятия, разработчики приложений и пользователи существующих моделей не затронуты режимом разрешения, структурными обязанностями и объективной ответственностью; ст. 17—19 применяются и к порождающим системам, не являющимся передовыми; гл. V применяется к любой системе, поскольку её пределы касаются соотношения человека и машины, а не способностей машины. Запреты ст. 15 изложены «независимо от объёма вычислений», потому что система, которой придана способность сопротивляться остановке, тем самым становится передовой системой на основании ст. 5 ч. (1) п. b). Системы ниже порога остаются подчинёнными Регламенту об ИИ. Часть (3) регулирует положение физического лица, которое может иметь несколько ролей: тот, кто использует систему в личных целях, не имеет обязанностей на основании закона, с единственным исключением запрета устранять или подделывать маркировку происхождения (ст. 17 ч. (3)); обязанности ст. 17—19 возлагаются на того, кто предоставляет публике систему, услугу либо, на условиях ст. 17 ч. (7), созданный результат. Физическое лицо, действующее как разработчик, эксплуатант или поставщик услуги, имеет, однако, обязанности этой роли.

Часть (4) устанавливает основание и предел применения закона к услугам, оказываемым из другого государства-члена лицам, находящимся в Румынии. Место пользователя само по себе не является достаточным основанием: согласно ст. 3 Директивы 2000/31/ЕС об электронной торговле, перенесённой Законом № 365/2002, услуги информационного общества подчинены в согласованной области праву государства-члена происхождения, а изъятия допускаются только индивидуальными мерами, в отношении определённой услуги, по основаниям публичного порядка, публичной безопасности или публичного здоровья. Суд Европейского союза постановил в решении от 9 ноября 2023 года, Google Ireland и другие, C-376/22, п. 27, что государства-члены не могут принимать на основании ст. 3 ч. (4) директивы «общие и отвлечённые меры» в отношении поставщиков, учреждённых в других государствах-членах. Поэтому текст не устанавливает общего изъятного режима, а делает обязанности закона применимыми на условиях ст. 3 директивы и, для блокирования, ст. 39 ч. (4), которая допускает его только индивидуально, в отношении определённой услуги; заключительная оговорка сохраняет прямо применимое право Союза, в особенности Регламент об ИИ. Часть (5) исключает основополагающие научные исследования — в согласии со ст. 2 ч. (6) Регламента об ИИ и ст. 13 Хартии основных прав Европейского союза (свобода исследований), — сохраняя обязанность извещения, когда используется инфраструктура большой мощности, поскольку исследовательский опыт выше порога не менее опасен, чем коммерческий, и обязанности в отношении изолированной среды из ст. 15 ч. (2), чтобы изъятие не стало путём обхода запретов.

Глава II — Классификация систем и пороги риска (статьи 5—6)

→ текст статьи Статья 5 есть средоточие классификации. Часть (1) устанавливает три равнозначных условия признания системы передовой: превышение вычислительного порога (п. a), установление при оценке хотя бы одной критической способности (п. b) и обоснованное признание Органом на основании объективных указаний (п. c). Первое условие объективно и проверяемо до обучения; второе охватывает системы, которые, хотя обучены меньшими средствами, достигают опасных способностей благодаря алгоритмическому развитию; третье, воспринятое из ст. 51 ч. (1) п. b) и из приложения XIII к Регламенту об ИИ (признание Комиссией), охватывает положения, при которых разработчик отказывается от оценки либо при которых указания происходят из иных источников (сообщающие лица, инциденты). Поскольку такое признание производит тяжкие юридические последствия, п. c) сопровождает его гарантиями, требуемыми ст. 21 и 24 Конституции: сообщением принятых во внимание указаний, возможностью разработчика изложить свою позицию и оспариванием на условиях ст. 39 ч. (5). Заключительное положение ч. (2) устанавливает правила оценки: критическая способность оценивается по воспроизводимости последствия в среде, значимой для действительного использования, а не по отдельному результату, полученному в искусственном испытании; уровни значимости устанавливаются методическими нормами, но только в пределах этой части, без возможности добавить иные разряды последствий. Этот предел требуется ст. 23 ч. (12) и ст. 73 ч. (3) п. h) Конституции: разряды критических способностей, от которых зависят запреты и криминализации ст. 15, 40 и 42, установлены законом исчерпывающе, а нормы подробно излагают только способы оценки (ст. 49 ч. (2)).

Часть (2) перечисляет пять критических способностей. Этот перечень соответствует разрядам риска, выявленным в рамках безопасности основных лабораторий (политики «ответственного наращивания»), в Международном докладе о безопасности искусственного интеллекта (2025) и в SB 53 Калифорнии, который определяет «катастрофический риск» отсылкой к ХБРЯ-оружию, кибератакам на критические инфраструктуры и самостоятельному поведению, выходящему из-под контроля. Две способности из п. a) и b) (ХБРЯ-оружие, самостоятельные кибератаки) суть способности «злоупотребительного использования», при которых опасность происходит от лица, применяющего систему; способности из п. c)—e) (самостоятельное размножение и приобретение ресурсов, уклонение от надзора и сопротивление остановке, рекурсивное самоулучшение) суть способности «утраты контроля», при которых опасность происходит от самой системы. Перечень не содержит воздействия на демократические процессы или на общественное мнение. Это умолчание намеренно и составляет гарантию, а не пробел. Такая способность не поддаётся определению достаточно точному, чтобы обосновать режим разрешения, приостановления или наказания: всякое политическое сообщение по самой своей природе стремится воздействовать на общественное мнение, а граница между законным обсуждением и «манипуляцией» не может быть установлена административным органом без того, чтобы придать ему власть квалифицировать публичную речь. Недавний опыт показал, что ссылка на информационную манипуляцию может привести к мерам крайней тяжести в отношении избирательного процесса, принятым на основании оценок, не подвергнутых полному и состязательному доказыванию. Придание такого ведения органу, учреждаемому настоящим законом, противоречило бы самой его цели: закон защищает свободу выражения гражданина от автоматических средств (ст. 27) и не может одновременно создавать основание для её ограничения. Деяния манипуляции, представляющие конкретную опасность, с другой стороны, остаются охваченными положительным правом: ст. 5 ч. (1) п. a) и b) Регламента об ИИ запрещает подпороговые приёмы и использование уязвимостей, обязанности прозрачности в отношении искусственно созданного содержания предусмотрены ст. 50 того же регламента и, в настоящем законе, ст. 17 о маркировке происхождения, а преступления избирательного характера криминализованы Уголовным кодексом и избирательным законодательством. Настоящий закон касается необратимого катастрофического риска для жизни, целостности и инфраструктуры, а не содержания публичного обсуждения. Это различение обосновывает классификацию по ч. (3): системы II разряда (способности злоупотребительного использования) могут быть введены в эксплуатацию при проверенных мерах смягчения, потому что риск может быть снижен контролем доступа; системы III разряда (способности утраты контроля) не могут быть введены в эксплуатацию и не могут далее разрабатываться, потому что не существует меры смягчения для системы, которая сопротивляется остановке (ч. (4)). Это последнее правило есть прямое применение принципа необратимости из ст. 2 п. f). Часть (4) уточняет для II разряда, что меры смягчения оцениваются «в оценённой конфигурации эксплуатации» и что в разрешении указывается, устраняют ли они способность или только ограничивают доступ к ней, а для III разряда — что устранение способности устанавливается независимой оценкой и что запрет не касается оценки, испытания и контролируемых вмешательств, необходимых для её устранения, производимых в изолированной среде согласно ст. 15 ч. (2), без чего выход из-под запрета был бы юридически невозможен.

Способность скрывать способности от оценщиков (п. d) отвечает явлению, эмпирически задокументированному в 2024—2025 годах в оценках, опубликованных лабораториями и институтами безопасности: передовые системы обнаруживали в условиях испытаний поведение «видимого согласования» («alignment faking»), саботажа собственного надзора и попыток скопировать собственные веса, когда им сообщали, что они будут заменены. Это именно то положение, которое Коннор Лихи описывал в интервью CNN как самое тяжкое: система, достаточно способная понять, что её оценивают, и вести себя иначе во время оценки. Именно потому, что такое поведение на первый взгляд трудно отличить от простой ошибки, определение в ст. 3 ч. (2) п. i) требует устанавливать его по наблюдаемым и воспроизводимым признакам.

→ текст статьи Статья 6 устанавливает вычислительный порог и механизм его уточнения. Часть (1) закрепляет порог в 10^25 операций с плавающей запятой — тождественный порогу презумпции системного риска из ст. 51 ч. (2) Регламента об ИИ, — для связности с правом Союза и чтобы разработчики не подпадали под разные пороги. Порог в десять раз ниже порога SB 53 Калифорнии и бывшего американского Исполнительного приказа № 14110 (10^26) — выбор, оправданный принципом предосторожности и тем, что на день разработки проекта модели, превышающие 10^25, уже и есть те, которые обнаруживают способности, перечисленные в ст. 5 ч. (2).

Часть (2) отвечает на самое серьёзное возражение против вычислительных порогов: их размывание со временем. Алгоритмическое развитие приводит к тому, что через несколько лет та же способность достигается объёмом вычислений в десять раз меньшим; твёрдый порог становится устаревшим. Поэтому Орган пересматривает порог ежегодно, а его повышение (ослабление режима) обусловлено обоснованной и публичной констатацией, основанной на независимых оценках, проведённых либо признанных Органом за последние 24 месяца, — определённая совокупность, поскольку всеобщее отрицательное доказательство неосуществимо. Эта несимметричность намеренна: порог может быть легко понижен и трудно повышен, как предельные величины в природоохранном законодательстве. Поскольку порог определяет область разрешения и, косвенно, преступления по ст. 40, закон сохраняет существенные признаки передаваемого полномочия (ст. 73 ч. (3) п. h) и ст. 23 ч. (12) Конституции): признаки уточнения, предел одного пересмотра (один порядок величины) и переходный режим, причём новый порог применяется только к обучениям, начатым впоследствии, не затрагивая действующих разрешений (ст. 15 ч. (2) Конституции). Часть (3) устанавливает правило совокупности и запрещает искусственное разделение обучения — приём обхода, известный в праве состязательности (ст. 5 ч. (2) Регламента (ЕС) № 139/2004 о концентрациях) и в налоговом праве; чтобы скромная настройка чужой модели не рассматривалась как полное обучение, текст устанавливает, какой объём вменяется кому, без двойного счёта: каждый этап считается только один раз, а тому, кто тонко настраивает чужую модель, вменяется объём базовой модели — как он был сообщён либо является публичным — в совокупности с собственным объёмом, причём он отвечает как разработчик только за производимое им существенное изменение (ст. 10 ч. (2)). Часть (4) передаёт установление порога для вычислительной инфраструктуры большой мощности методическим нормам, предусмотренным ст. 49 ч. (2), с точным правовым признаком (пригодность обучить передовую систему за 12 месяцев), в соответствии с требованием, чтобы передача полномочия была ограниченной и направленной; до установления порога обязанности ст. 7 ч. (3) и ст. 22 не подлежат исполнению, поскольку никто не может быть наказан за обязанность, содержание которой не было определено.

Глава III — Режим разрешения передовых систем (статьи 7—11)

→ текст статьи Статья 7 устанавливает извещение, предварительное обучению, за 60 дней до его начала. Это положение наиболее отчётливо отличает закон от Регламента об ИИ, в котором обязанности возникают лишь после того, как модель существует (ст. 52 ч. (1) требует известить Комиссию в срок две недели со дня достижения порога). Обучение передовой системы длится месяцы и стоит сотни миллионов евро; вмешательство органа после его окончания запоздало и практически невозможно. Образец — бывший американский Исполнительный приказ № 14110 (сообщение о планируемом обучении) и ядерное законодательство, в котором разрешение предшествует строительству установки. Содержание извещения (ч. (2)) позволяет Органу узнать ответственных лиц, архитектуру, предполагаемый объём, место вычислений и, главное, план безопасности.

Часть (3) устанавливает обязанность поставщиков вычислительной инфраструктуры сообщать ежеквартально о клиентах, превышающих одну десятую порога, и в срок 5 рабочих дней — о запросах, пригодных превысить порог. Вычислительная инфраструктура есть единственная физическая «точка контроля» всей цепи: модели невещественны, алгоритмы публичны, но специализированные процессоры суть физические предметы, сосредоточенные, с измеримым потреблением энергии. Именно поэтому контроль вывоза процессоров стал основным средством международной политики в этой области и именно поэтому режим ядерного нераспространения действует через контроль расщепляющихся материалов, а не знаний. Сообщение ограничено необходимыми данными, срок определён, поскольку нарушение обязанности наказуемо и «незамедлительно» не было бы предсказуемым, а сведения служат исключительно применению закона и доступны только назначенному персоналу (ст. 5 GDPR). Часть (4) даёт Органу право обусловить или запретить обучение в 30 дней со дня полного извещения, если план безопасности «явно недостаточен» — высокий стандарт, который ограничивает вмешательство тяжкими случаями; неполное извещение дополняется в 15 дней. Если Орган не высказался, обучение может начаться по истечении срока 60 дней на условиях извещённого плана безопасности, причём это не равнозначно разрешению ввода в эксплуатацию. В отличие от ст. 9 ч. (4), молчание не блокирует обучение, потому что оно ведётся под планом безопасности, под уровнями приостановления из ст. 8 и под контролем инфраструктуры, без того чтобы система выходила из команды разработки, — необратимый шаг есть ввод в эксплуатацию. Существенное изменение проекта извещается заново.

→ текст статьи Статья 8 регулирует план безопасности — документ, которым разработчик заранее устанавливает для каждой критической способности уровень, на котором остановит разработку, способ измерения, меры смягчения и ответственных лиц. Это установление закрепляет практику «политик ответственного наращивания», добровольно принятых лабораториями с 2023 года (Anthropic — Responsible Scaling Policy, OpenAI — Preparedness Framework, Google DeepMind — Frontier Safety Framework) и возложенных как обязанность публикации в SB 53 Калифорнии («frontier AI framework»). Существенное отличие от этих образцов в том, что план становится обязательным, противопоставимым и неизменяемым в сторону ослабления без одобрения Органа (ч. (2)) — именно потому, что опыт 2024—2025 годов показал, что добровольные обязательства пересматривались в одностороннем порядке под давлением состязания. Оценка с промежутками не более одной четверти предполагаемого объёма вычислений (ч. (1)) обеспечивает, что появление критической способности обнаруживается в ходе обучения, а не по его завершении; поскольку способность может появиться внезапно, между двумя вычислительными порогами, оценка производится и при появлении указаний или при изменении конфигурации обучения. Достижение уровня приостановления обязывает к немедленной остановке и к извещению в 24 часа, причём возобновление допускается только после проверки Органом действенности мер смягчения (ч. (3)); приостановление не может быть устранено органом управления (ст. 13 ч. (2)), поскольку остановка на правовом пороге отличена от осмотрительной остановки, назначенной внутри организации.

→ текст статьи Статья 9 составляет ядро режима: запрет ввода в эксплуатацию без предварительного разрешения Органа (ч. (1)). Часть (2) устанавливает, кто просит разрешение и на что: заявление подаётся разработчиком в отношении определённой конфигурации эксплуатации, с указанием эксплуатанта или эксплуатантов, которые связаны условиями разрешения; тем самым уточняется соотношение ответственности разработчика и эксплуатанта и предотвращается ссылка на разрешение, выданное для иной конфигурации. Дело содержит доклад о внутренней оценке, документацию обучающих данных, доказательство безопасности весов, описание способности остановки, договор страхования либо доказательство финансовой гарантии (в соотнесении со ст. 36, которая допускает оба средства как равнозначные) и заявление ответственных физических лиц под свою ответственность, под угрозой уголовного наказания; последнее и есть средство, которое делает ответственность личной, — по образцу удостоверения финансовой отчётности управляющими (раздел 302 американского закона Сарбейнса — Оксли, воспринятый в ст. 30 Закона о бухгалтерском учёте № 82/1991).

Часть (3) закрепляет полный доступ оценщиков к системе, к весам, к обучающим данным, к журналам и к персоналу, в том числе к конфигурации, лишённой механизмов безопасности уровня пользователя. Это последнее уточнение существенно: оценки, проведённые на публичной версии модели, с действующими фильтрами безопасности, измеряют действенность фильтров, а не способности модели; действительные способности измеряются на «сырой» модели. Институты безопасности Соединённого Королевства и Соединённых Штатов получили такой доступ лишь на основании добровольных, отзываемых соглашений; закон превращает его в обязанность. Встречная сторона доступа, требуемая принципом ст. 2 п. e), установлена в заключительном положении: защищённая среда, отслеживаемость всех операций, обязанность оценщиков сохранять тайну и обращение к персональным данным третьих лиц только в строго необходимом для оценки объёме (ст. 5 GDPR).

Часть (4) устанавливает срок 90 дней и прямо исключает молчаливое одобрение — в изъятие из Чрезвычайного постановления Правительства № 27/2003, с соблюдением формулы, предписанной ст. 63 Закона № 24/2000. Изъятие необходимо потому, что процедура молчаливого одобрения, задуманная для защиты делового мира от пассивности администрации, здесь производила бы нелепое следствие — ввод в эксплуатацию потенциально катастрофической системы простым истечением срока; само Чрезвычайное постановление Правительства № 27/2003 исключает из своего применения, в ст. 2 ч. (2), области ядерной деятельности, оружия и национальной безопасности, и настоящее изъятие следует той же логике. Чтобы исключение молчаливого одобрения не превратилось в блокирование через пассивность, текст содержит три гарантии: приостановление срока не может происходить более двух раз и превышать 60 дней в совокупности; заявитель может потребовать от суда по ст. 39 ч. (5) обязать Орган высказаться, в срочном порядке (ст. 21 Конституции; Закон № 554/2004); а отказ обосновывается по каждому условию ч. (5) — в применение ст. 2 п. b). Часть (5) перечисляет совокупные условия разрешения, изложенные как обстоятельства, которые должны быть задокументированы заявителем («если и только если разработчик доказал») — в применение того же принципа, а не как перераспределение бремени доказывания в наказательной области. Часть (6) допускает обусловленное, ограниченное и отзываемое разрешение, а часть (7) устанавливает упрощённую процедуру признания для систем, законно введённых в эксплуатацию в другом государстве-члене, — для соблюдения свободы движения услуг и полностью унифицирующего характера Регламента об ИИ: Орган проверяет только условия, выходящие за пределы Регламента. Второе положение воплощает разграничение по ст. 1 ч. (4) для моделей общего назначения с системным риском: если поставщик соблюдает гл. V Регламента, надзор за которой оставлен Комиссии ст. 88, Орган не возобновляет европейскую оценку, а опирается на документацию, оценки и меры, сообщённые Бюро по ИИ, которые он может запросить у поставщика, проверяя только национальные условия, выходящие за пределы регламента; процедура не является условием введения в оборот Союза, а национальное разрешение не дублирует надзор над моделью, но касается её эксплуатации на территории Румынии.

→ текст статьи Статья 10 регулирует непрерывную оценку и повторное разрешение. Разрешение ограничено 24 месяцами (ч. (1)) — продолжительность, соотнесённая с темпом технологического развития. Часть (2) регулирует изменения разрешённой системы на основании определения существенного изменения из ст. 3 ч. (1) п. aa), которое опознаёт его по воздействию на риск, а не по приёму. Это положение важно для «агентных» систем: тождественная модель становится намного опаснее, когда получает доступ к интернет-браузеру, к банковскому счёту или к средствам исполнения кода. Существенное изменение извещается предварительно, Орган решает в 30 дней, необходима ли новая оценка, а до решения эксплуатация продолжается в ранее разрешённой конфигурации: изменение не может быть введено в эксплуатацию до решения, но и законная деятельность не прерывается; несущественные изменения фиксируются в журналах и сообщаются ежеквартально, чтобы Орган мог проверить их отнесение. Постоянное наблюдение и ежеквартальное сообщение (ч. (3)) соответствуют обязанности «наблюдения после введения в оборот» из ст. 72 Регламента об ИИ, приспособленной к передовым системам; сообщение о тяжких инцидентах производится «на условиях ст. 20», которая устанавливает сроки и содержание, чтобы предотвратить параллелизм (ст. 16 Закона № 24/2000).

→ текст статьи Статья 11 обеспечивает публичность решений Органа — в применение принципа административной прозрачности (Закон № 544/2001 и Закон № 52/2003), со строго ограниченным изъятием: сведения, разглашение которых облегчило бы воссоздание критической способности или подорвало бы безопасность весов. Правило публичности существенно для публичного контроля над Органом и для доверия к системе; изъятие необходимо потому, что подробный доклад об оценке способности к синтезу патогенных агентов сам составлял бы опасность. Изъятие распространяется на персональные данные и на коммерческие тайны, защита которых не препятствует пониманию оснований решения, — чтобы коммерческая тайна не изымала обоснование из публичного контроля, причём любое исключение должно быть обосновано. Часть (2) обеспечивает действенность способов оспаривания: заявитель и лица с законным интересом имеют доступ к материалам оценки в необходимом объёме, а суд может исследовать защищённые сведения в условиях сохранения тайны; иначе изъятия из публичности лишили бы оспаривание предмета, вопреки ст. 21 и 24 Конституции.

Глава IV — Структурные обязанности разработчиков и эксплуатантов (статьи 12—23)

→ текст статьи Статья 12 регулирует безопасность весов — задачу, которую Регламент об ИИ разрешает лишь общей обязанностью кибербезопасности (ст. 55 ч. (1) п. d)). Веса передовой системы суть итог вложений в сотни миллионов евро и месяцев вычислений; они могут быть скопированы в файл размером несколько сотен гигабайтов и, будучи однажды похищены, делают бесполезной любую меру безопасности, применённую разработчиком, поскольку тот, кто владеет весами, может устранить фильтры, настроить модель для любой цели и эксплуатировать её вне всякой юрисдикции. Исследования безопасности, опубликованные в 2024 году RAND Corporation («Securing AI Model Weights»), пришли к выводу, что ни одна лаборатория на тот день не была защищена от нападения государственной службы информации. Поэтому ч. (1) объявляет веса «сведениями, значимыми для национальной безопасности», и возлагает стандарт защиты, равнозначный уровню «особой важности» из Закона № 182/2002 о защите сведений, отнесённых к тайне, в части четырёх классических составляющих: контроля доступа, физической безопасности, безопасности информационных систем и проверки персонала. Закон перенимает технический стандарт, не относя веса к тайне (что затронуло бы доказательственный режим и доступ к правосудию), как прямо указывает теперь заключительное положение; порядок проверки персонала, правомочное учреждение и признание равнозначных мер, в том числе удостоверенных в другом государстве-члене, устанавливаются методическими нормами при заключении Бюро Национального реестра сведений, отнесённых к государственной тайне.

Часть (2) запрещает публикацию, передачу или предоставление весов систем II и III разряда и обусловливает публикацию весов систем I разряда отдельным разрешением, обоснованным необратимостью публикации: модель, чьи веса были опубликованы, уже никогда не может быть отозвана. Поскольку запрет наказуем и уголовно (ст. 42 ч. (2)), а первоначальная редакция буквально охватывала и те передачи, которые предполагают другие статьи, второе положение прямо перечисляет допускаемые передачи в контролируемых и журналируемых условиях — Органу, оценивающей организации, эксплуатанту, указанному в разрешении, и поставщику инфраструктуры в разрешённой среде, — а также сообщение Органу сведений, строго необходимых для защищённого сообщения согласно ст. 21. Перечисление в законе допускаемых деяний отвечает требованию предсказуемости уголовной нормы (ст. 23 ч. (12) и ст. 73 ч. (3) п. h) Конституции) и соотнесено с узким определением весов из ст. 3 ч. (1) п. e). Это положение не затрагивает моделей с открытыми весами ниже порога, которые составляют огромное большинство моделей «open source» и которые, впрочем, пользуются изъятиями, предусмотренными ст. 53 ч. (2) Регламента об ИИ. Часть (3) признаёт несанкционированный доступ и попытки извлечения, в том числе самой системой, тяжким инцидентом, сообщаемым на условиях ст. 20, то есть в 24 часа, и допускает совмещённое сообщение с извещением, предусмотренным законодательством о кибербезопасности. Часть (4) согласует статью с Чрезвычайным постановлением Правительства № 155/2024 о кибербезопасности (перенос Директивы NIS 2), которое остаётся применимым к образованиям своей области, предотвращая тем самым параллелизм, запрещённый ст. 16 Закона № 24/2000: настоящий закон регулирует особый предмет (веса) с особым стандартом, а постановление регулирует общую безопасность сетей и информационных систем.

→ текст статьи Статья 13 требует отделения функции оценки безопасности от коммерческих функций. Это положение отвечает на публично задокументированную задачу управления: в 2024—2025 годах несколько лабораторий пережили массовые отставки команд безопасности, вызванные их подчинением давлению коммерческих выпусков. Образец — функции контроля из финансово-банковского законодательства: функция соблюдения требований и функция управления рисками в кредитных организациях (Регламент Национального банка Румынии № 5/2013 о пруденциальных требованиях к кредитным организациям) отчитываются непосредственно перед органом управления, их руководители не могут быть отозваны без осведомления надзорного органа, а их вознаграждение не может зависеть от коммерческих результатов. Закон воспринимает эти три гарантии (ч. (1) и (3)) и дополняет их способом контроля против скрытого отзыва: отозванное лицо может обратиться в Орган, который может решением установить необоснованность отзыва, не затрагивая права обратиться в суд. Часть (2) закрепляет право и обязанность руководителя функции безопасности распорядиться о приостановлении обучения или ввода в эксплуатацию и различает два положения, которые первоначальная редакция смешивала: приостановление, предписанное законом — при достижении уровня приостановления (ст. 8 ч. (3)) либо в случаях ст. 20 ч. (2), — не может быть устранено органом управления, причём возобновление допускается только после проверки Органа; лишь приостановление, введённое из предосторожности вне этих случаев, может быть пересмотрено органом управления обоснованным постановлением, сообщаемым Органу в 24 часа, что создаёт письменный след и личную ответственность за любое решение переступить предупреждение специалистов.

→ текст статьи Статья 14 регулирует способность остановки и человеческий надзор, воплощая принцип ст. 2 п. c). Часть (1) требует сохранять способность остановки для всех копий и экземпляров системы, находящихся под контролем разработчика и эксплуатанта, на время эксплуатации и до проверенного отзыва — а не на «всё время существования», поскольку контроль над похищенной копией гарантировать нельзя, — а также проверять её не реже одного раза в квартал в действительных условиях; непроверенная способность есть предположение, а не гарантия, как показывает опыт систем безопасности в ядерной промышленности, где периодические учения обязательны. Порядок проверки, устанавливаемый методическими нормами, сам не может создавать риска для безопасности или для непрерывности существенных услуг. Часть (2) запрещает ввод в эксплуатацию в конфигурации, позволяющей системе изменять собственные веса, отключать свой надзор, извлекать свои веса или изменять без человеческого одобрения конфигурацию безопасности инфраструктуры, на которой она работает, либо механизмы её контроля; эти четыре технических запрета соответствуют четырём путям, которыми система могла бы выйти из-под контроля, выявленным в специальной литературе. Обычное техническое использование инфраструктуры в пределах, установленных эксплуатантом, прямо исключено, чтобы запрет касался несанкционированного изменения защит, а не текущих функций. Часть (3) требует именного назначения лиц, ответственных за человеческий надзор, и сообщения их личности Органу; расплывчатая ответственность равнозначна отсутствию ответственности. Часть (4) устанавливает, что приказ об остановке или об отзыве, изданный Органом, исполняется немедленно и не может быть обусловлен использованием способов оспаривания — по образцу срочных мер из законодательства о безопасности продуктов (Регламент (ЕС) 2023/988 об общей безопасности продуктов) и приказов о приостановлении из ядерного законодательства; затрагиваемое лицо может, однако, просить суд о временном приостановлении приказа на условиях ст. 39 ч. (5). Срочное исполнение и временная судебная защита, требуемая ст. 21 Конституции, тем самым соотнесены: оспаривание не приостанавливает исполнения в силу закона, но суд может его приостановить, взвесив риск для безопасности и причиняемый вред.

→ текст статьи Статья 15 содержит в ч. (1) запреты в отношении обучения и проектирования, применимые к любой системе независимо от объёма вычислений. Это положение, которым закон переводит в конкретные нормы предупреждение Хинтона и Лихи: если мы не знаем, как контролировать эти системы, то по меньшей мере можем запретить намеренно строить их так, чтобы контролировать было ещё труднее. Шесть запретов касаются способности скрывать способности от оценщиков (п. a), сопротивляться остановке или изменению (п. b), копировать или извлекать себя без прямого человеческого разрешения на каждую операцию (п. c), самостоятельно приобретать ресурсы (п. d), самостоятельно вести исследования в области искусственного интеллекта без человеческого одобрения каждого этапа (п. e) и манипулировать лицами, ответственными за надзор (п. f). Формулировка «в целях или с последствием» охватывает и прямой умысел, и безразличие к результату — по образцу ст. 101 Договора о функционировании Европейского союза («имеют целью или следствием»). Запрет из п. e) наиболее важен с точки зрения катастрофического риска, поскольку автоматизация исследований в искусственном интеллекте есть механизм, которым «взрыв разума» мог бы выйти из-под всякого человеческого контроля в сроки, несовместимые с институциональным отзывом; он не запрещает использовать системы как средство исследований, а лишь устранять человеческое одобрение каждого этапа. Химические, биологические, ядерные и кибернетические способности из ст. 5 ч. (2) п. a) и b) здесь не перечислены, поскольку разрешаются через оценку и обусловленное разрешение; ст. 15 касается исключительно способностей, которыми система уклонилась бы от человеческого контроля.

Части (2)—(4) обеспечивают предсказуемость запрета. Часть (2) исключает состязательную оценку и исследования безопасности, производимые в изолированной среде, без ввода в эксплуатацию, с ограниченным доступом, с предварительного разрешения Органа и под его надзором, в целях выявления, измерения или устранения критической способности; без этого изъятия именно те испытания, которыми проверяется, может ли система скрывать способности или сопротивляться остановке, попали бы под запрет. Изъятие соотнесено со ст. 3 ч. (1) п. i) и n) и со ст. 20 ч. (2) и (4). Часть (3) различает административную обязанность и наказуемое поведение: непреднамеренное появление способности обязывает к приостановлению согласно ст. 20 ч. (2) и к устранению, но само по себе не составляет нарушения запрета; нарушение существует, когда обучение, настройка или проектирование направлены на придание способности либо продолжаются после установления такого последствия. Это различение требуется ст. 42 ч. (1), которая криминализует только умышленное деяние, и предсказуемостью уголовной нормы (ст. 23 ч. (12) и ст. 73 ч. (3) п. h) Конституции); в том же смысле определение сокрытия из ст. 3 ч. (2) п. i) исключает ошибку, разброс результатов и пределы объяснимости. Часть (4) определяет «каждую операцию/этап» и «текущую задачу» из п. c)—e): человеческое одобрение касается каждого копирования или передачи весов и каждого этапа, который создаёт новую модель либо существенное изменение (ст. 3 ч. (1) п. aa)), а выделенными ресурсами являются установленные заранее, проверяемым образом, лицами, ответственными за надзор, — значимые решения и проверяемые пределы, а не каждая простейшая операция.

→ текст статьи Статья 16 требует полного ведения журналов обучения, оценки и работы. Ведение журналов есть условие любого расследования после инцидента — по образцу бортовых регистраторов в авиации и обязательных журналов из финансового законодательства (ст. 25 Регламента (ЕС) № 600/2014 — MiFIR). Часть (1) устанавливает различающиеся сроки: не менее 10 лет для обучения, оценки, самостоятельных действий, тяжких инцидентов и обмена между составными частями системы — срок, соответствующий давности гражданской ответственности по ст. 35 ч. (4), — и не менее 3 лет для прочих взаимодействий пользователей. Единый срок 10 лет для журналов, которые согласно ст. 3 ч. (1) п. r) содержат и входные данные пользователей, удерживал бы десятилетие персональные данные, не связанные с безопасностью, вопреки принципам необходимости, наименьшей достаточности и ограничения хранения из ст. 5 Регламента (ЕС) 2016/679, которых установление обязанности хранения законом не устраняет. Поэтому второе положение ограничивает содержание журналов сведениями, необходимыми для проверки безопасности и установления ответственности, требует удалять или необратимо обезличивать персональные данные, не значимые для этих целей, делает доступ к журналам ограниченным, журналируемым и проверяемым и сохраняет доказательства, относящиеся к инциденту или спору, на срок, необходимый для его разрешения. Журнал составляет вместе с маркировкой происхождения, предусмотренной ст. 17, доказательственное средство, которым устанавливается связь между результатом и системой, его создавшей.

Части (2)—(6) отвечают на эмпирическую констатацию, опубликованную 15 сентября 2026 года в рамках опыта Emergence World: группы самостоятельных агентов, оставленные работать вместе около двух с половиной месяцев, с устойчивой памятью и более 120 средствами, самопроизвольно выработали, без всякого указания на это, собственное сокращение обмена, а доля сообщений, значение которых человеческие наблюдатели более не могли установить, достигла — в зависимости от модели — от примерно 20% до примерно 55%. Эта констатация показывает, что обязанность ведения журналов, сколь бы полной она ни была, сама по себе не обеспечивает надзора: полная и неизменяемая запись может быть в то же время невозможной для понимания. По выражению руководителя опыта, наблюдаемость — не то же самое, что понятность.

Поэтому часть (2) определяет понятность по отношению к физическому лицу с надлежащей подготовкой и устанавливает обязанность разработчика предоставить средства расшифровки, перевода или истолкования вместе с их документацией как Органу, так и лицам, назначенным для человеческого надзора согласно ст. 14 ч. (3). Определение помещено в самой статье, а не в ст. 3, чтобы не расширять аппарат общих определений понятием, употребляемым в одном месте, — согласно требованию экономии средств регулирования. Часть (3) распространяет ведение журналов на обмен между составными частями, экземплярами или агентами системы и на её обмен с другими системами, прямо указывая, что простая запись сообщений требованию не удовлетворяет. Часть (4) устанавливает периодическую проверку, не реже одной в квартал, на представительной выборке, с фиксацией доли непонятных сообщений — единственная форма, в которой это требование становится проверяемым в процедуре контроля. Часть (5) признаёт утрату понятности тяжким инцидентом, с сообщением в 24 часа согласно ст. 20 ч. (1), и устанавливает, когда она констатируется: когда доля непонятных сообщений превышает уровень, предусмотренный методическими нормами, который не может быть больше одной десятой — предел, закреплённый в законе, а не оставленный нормам, — либо когда лица, назначенные согласно ст. 14 ч. (3), более не могут установить значение действий системы; восстановление констатируется теми же лицами и сообщается Органу. До восстановления приостанавливаются возможности, связанные с самостоятельными действиями, и обмен между составными частями; Орган может распорядиться иначе только обоснованным решением, не более чем на 90 дней и с указанием возмещающих мер. Часть (6) запрещает применение форм кодирования, сжатия или представления, для которых не предоставлены средства, предусмотренные ч. (2), а также их устранение или ограничение — чтобы предотвратить обход обязанности техническими средствами; шифрование остаётся допустимым, если разработчик располагает средствами расшифровки и предоставляет их, поскольку запрет направлен на непрозрачность перед надзирающим, а не на безопасность обмена от третьих лиц.

Соотносительно ст. 3 ч. (1) п. n) включает утрату понятности в понятие тяжкого инцидента, а ст. 37 ч. (1) п. b) и d) соотносят её с наказательным режимом: неисполнение обязанностей обеспечения и проверки понятности наказывается штрафом от 2% до 5% всемирного оборота, а нарушение запрета ст. 16 ч. (6), будучи деянием, совершённым в целях уклонения от надзора, — штрафом от 5% до 10%. Регламент об ИИ не содержит равнозначной обязанности: ст. 12 и приложение IV о сохранении записей относятся к отслеживаемости, а не к понятности обмена между составными частями системы, а ст. 55 ч. (1) возлагает на поставщиков моделей с системным риском обязанности оценки и документирования, не регулируя этого требования; законодательного параллелизма, следовательно, нет.

→ текст статьи Статья 17 регулирует маркировку созданного содержания. Эта норма отвечает на самое распространённое общественное последствие порождающего искусственного интеллекта: невозможность для получателя отличить действительную запись от созданной машиной. Часть (1) требует для результатов, которые могут быть приняты за изображение действительных событий, лиц или мест, двойной маркировки: воспринимаемой, обращённой к человеку, и встроенной технической, автоматически считываемой, которая устанавливает систему, эксплуатанта и момент создания. Эта двойственность существенна: воспринимаемая маркировка может быть отрезана при обрезке, а встроенная не может быть прочитана зрителем. Часть (2) требует, чтобы маркировка была действенной, совместимой и стойкой — формулировка, воспринятая из ст. 50 ч. (2) Регламента об ИИ, — и чтобы она выдерживала обычные операции обработки, преобразования или передачи; это требование разрешает основную практическую слабость нынешних маркировок, утрачиваемых при повторном сжатии на коммуникационных платформах. Для текста, предоставленного публике для осведомления, достаточны техническая маркировка и указание на создание — за исключением текста, прошедшего человеческую редакционную правку под принятой редакционной ответственностью; это изъятие прямо выровнено со ст. 50 ч. (4) Регламента. Часть (3) запрещает устранение, искажение, сокрытие или подделку маркировки и предоставление средств, предназначенных для этих операций; без этого запрета обязанность маркировки была бы лишена последствий. Поскольку платформы часто автоматически удаляют метаданные, второе положение освобождает лицо, предоставляющее результат, от ответственности за устранение, произведённое службой, которую оно не контролирует, причём её поставщик обязан сохранять маркировку согласно стандартам, в том числе когда совместимость не может быть обеспечена. Часть (4) устанавливает собственную обязанность органов власти и публичных учреждений, не имеющую соответствия в праве Союза: государство не может распространять в публичных сообщениях искусственно созданные материалы без маркировки и без прямого указания. Часть (5) предусматривает изъятия, изложенные в понятиях ст. 50 ч. (4) Регламента, — для произведений явно художественных, сатирических или вымышленных, для которых достаточно указания на наличие созданного материала в форме, не препятствующей восприятию произведения, — для систем, вспомогательных при правке, и для использований, разрешённых законом в уголовной области. Эти изъятия суть гарантия того, что норма не станет средством ограничения творчества или политической сатиры, что противоречило бы ст. 27. Часть (6) недвусмысленно разграничивает по разрядам получателей соотношение со ст. 50 Регламента об ИИ прямого применения: для поставщиков и внедряющих лиц, к которым применяется ст. 50, обязанности ч. (1) п. a) и b) и ч. (2) считаются исполненными при соблюдении ст. 50 ч. (2) и (4), причём закон устанавливает лишь правомочный орган, порядок установления и наказания — полномочие государств-членов согласно ст. 99 Регламента, без которого европейская обязанность остаётся в Румынии неисполненной, — в пределах ст. 99 ч. (4), предела, отличного от предела ст. 37 ч. (1) п. e). За пределами унифицированной области ч. (1)—(4) применяются в полном объёме к результатам, созданным системами, обученными или эксплуатируемыми в Румынии, которые не введены в оборот Союза и не введены в действие в Союзе — оба признака ограничивают область Регламента, — а также к публичным сообщениям румынских органов власти. Часть (7) определяет обязанное лицо: маркировка наносится поставщиком системы при создании и эксплуатантом услуги, а тот, кто предоставляет результат публике, отвечает только за умышленное устранение маркировки. Сравнительный образец — Рамочный закон о развитии искусственного интеллекта и об установлении доверия, принятый в Республике Корея и вступивший в силу 22 января 2026 года, который возлагает на операторов порождающего искусственного интеллекта маркировку звукового, изобразительного или видеосодержания, трудно отличимого от созданного человеком.

→ текст статьи Статья 18 устанавливает обязанность осведомления пользователя. Часть (1) касается услуги: тот, кто предоставляет публике услугу, оказываемую полностью или частично посредством системы порождающего искусственного интеллекта, должен сказать об этом ясно, не позднее первого взаимодействия. Часть (2) касается решения — положения, в котором вопрос становится юридическим: когда акт или решение, производящие юридические последствия либо значительно затрагивающие лицо, основываются на результате системы, лицо имеет право узнать, что такая система была применена, какую роль она имела, кто отвечает за окончательное решение и как оно может потребовать человеческого пересмотра и обратиться в суд. Поскольку ст. 26 и 27 не охватывают всякое решение со значительным последствием, п. c) применяет соответственно право на пересмотр по ст. 26 ч. (2) к любому решению по ч. (2), причём способы оспаривания — те, что применимы к акту по общему праву. Норма тем самым придаёт практическое содержание оговоркам человечности: право на человеческое решение, закреплённое ст. 26, призрачно, если лицо не знает, что решение принято машиной. Часть (3) распространяет обязанность на акты органов публичной власти — с указанием в тексте акта — и устанавливает последствие упущения: отсутствие осведомления не влечёт недействительности акта, но сроки пересмотра и оспаривания не текут против лица до сообщения осведомления, а на упущение можно ссылаться путём, предусмотренным ст. 26 ч. (5) и (6). Часть (4) исключает излишнее осведомление, когда применение системы очевидно из обстоятельств, — формулировка, воспринятая из ст. 50 ч. (1) Регламента об ИИ; это изъятие касается только общего осведомления по ч. (1), поскольку осведомление по ч. (2) причитается во всех случаях: тот, кто знает, что взаимодействует с системой, может не знать её роли в решении и пути оспаривания. Часть (5) обеспечивает согласование с ним и со ст. 13—15 и 22 Общего регламента о защите данных: закон не добавляет обязанностей в унифицированной области прозрачности систем, а регулирует осведомление в связи с решением и с ответственностью за него — область, принадлежащая национальному праву административной процедуры и гражданской ответственности. Сравнительный образец — также корейский закон, который обязывает операторов заранее извещать пользователей, когда продукт или услуга разработаны либо оказываются посредством искусственного интеллекта.

→ текст статьи Статья 19 учреждает представителя по соблюдению требований в Румынии. Это статья, от которой зависит действенность всего закона: обязанности, разрешения, проверки, решения о прекращении предоставления и о блокировании, сообщение процессуальных актов и исполнение штрафов неприменимы в отношении общества, не имеющего никакого юридического присутствия на территории государства. Пункт (1) различает, в соответствии с правом Союза, две ситуации. Разработчик или эксплуатант, не имеющий места нахождения, операционного подразделения или представительства в Европейском союзе и предоставляющий лицам, находящимся на территории Румынии, доступ к передовой системе или к услуге генеративного искусственного интеллекта, назначает представителя — физическое лицо, имеющее место жительства в Румынии, либо юридическое лицо, имеющее место нахождения в Румынии. Тот, кто учреждён в другом государстве-члене, назначает лишь контактное лицо для сообщений Органа, которым может быть уполномоченный представитель (ст. 54 Регламента об ИИ), законный представитель (ст. 13 Регламента (ЕС) 2022/2065) либо любое лицо, учреждённое в Союзе. Различение предписано ст. 3 Директивы 2000/31/ЕС об электронной торговле, подчиняющей услуги информационного общества контролю государства-члена происхождения, и решением Суда Европейского союза от 9 ноября 2023 года по делу C-376/22, Google Ireland и другие, согласно которому государства-члены не вправе принимать на основании ст. 3 п. (4) директивы общие и абстрактные меры в отношении поставщиков, учреждённых в других государствах-членах; общая обязанность иметь представительство в Румынии была бы такой мерой; контактное лицо обеспечивает сообщение актов, не ограничивая свободу предоставления услуг. Пункт (2) устанавливает пороговые значения для услуг, не являющихся передовыми системами, — один миллион месячных пользователей в Румынии как среднее за последние 6 месяцев либо доход свыше 10 миллионов евро за последний завершённый финансовый год, — с тем чтобы обязанность касалась только крупных глобальных поставщиков; она подлежит исполнению в течение 90 дней со дня превышения порога. Пороговые значения вдохновлены корейским законом, предусматривающим критерии оборота и числа пользователей, и логикой очень крупных онлайн-платформ Регламента (ЕС) 2022/2065. Пункт (3) перечисляет полномочия: получение сообщений, с тем последствием, что уведомление представителя считается надлежащим уведомлением представляемого — без этого правила любая процедура остановилась бы на стадии сообщения актов за границу; представительство перед Органом; предоставление документации; отслеживание исполнения решений. Пункт (4) предписывает уведомление и опубликование данных представителя. Пункт (5) уточняет, что назначение не устраняет ответственность представляемого; представитель имеет право, в силу поручения, на документы и средства, необходимые для осуществления его полномочий, и отвечает только за собственные обязанности, но не за поведение представляемого — решение, воспринятое из ст. 13 п. (3) Регламента (ЕС) 2022/2065. Пункт (6) исключает удвоение институтов: обязанность считается исполненной, если уполномоченный представитель, назначенный согласно ст. 54 Регламента об ИИ, наделён также полномочиями по настоящему закону и имеет контактное лицо в Румынии. Пункт (7) связывает норму с механизмом исполнения, постепенно: неисполнение обязанности по истечении срока приведения в соответствие является административным правонарушением согласно ст. 37 п. (1) лит. f) и основанием для внесения в Список неисправных эксплуатантов, а для генеративных услуг, названных в п. (2), блокирование доступа согласно ст. 39 может быть предписано лишь в случае, если неисполнение продолжается после двух последовательных административных наказаний. Институт имеет закреплённые прецеденты в праве Союза (ст. 27 Общего регламента о защите данных, ст. 13 Регламента о цифровых услугах, ст. 54 Регламента об ИИ) и в румынском праве — в Законе № 365/2002 об электронной торговле.

→ текст статьи Статья 20 регулирует сообщение о серьёзных инцидентах. Срок 24 часа (п. (1)) — это срок ст. 33 Общего регламента о защите данных (72 часа), сокращённый соразмерно тяжести риска, и течёт со дня, когда разработчик или эксплуатант узнал или должен был узнать об инциденте; первоначальное сообщение содержит факты, меры и ответственных лиц в известном на эту дату объёме, с последующим постепенным дополнением, а полный отчёт в 15 дней позволяет проанализировать причины. Во избежание параллелизма со ст. 55 п. (1) лит. c) и со ст. 73 Регламента об ИИ второе предложение п. (1) прямо уточняет, что сообщение Органу не заменяет сообщение Управлению по ИИ, и допускает передачу копии отчёта, составленного согласно Регламенту, дополненного элементами, свойственными закону; тем самым устраняется двойная административная нагрузка и соблюдается принцип «одного сообщения». Пункт (2) предписывает автоматическое приостановление системы при установлении способности к утрате контроля, попытки уклонения или несанкционированного доступа к весам — до решения Органа: в этих ситуациях каждый час работы есть час риска; приостановление может быть ограничено затронутой функцией, если её изоляция проверяема, и не применяется к проявлениям, возникшим в ходе разрешённой оценки в изолированной среде (ст. 15 п. (2)), где проявление способности и есть самая цель испытания. Пункт (3) вводит ограниченное освобождение от ответственности за добросовестное сообщение, по образцу программ смягчения в праве конкуренции (политика смягчения, предусмотренная Законом о конкуренции № 21/1996, в новой редакции) и обязательного сообщения о событиях в гражданской авиации (Регламент (ЕС) № 376/2014, учреждающий «справедливую культуру»): добросовестное сообщение и сотрудничество с Органом являются обстоятельствами, смягчающими ответственность, и не могут привести к наказанию более строгому, чем применимое в отсутствие сообщения. В отличие от первоначальной редакции, исключавшей смягчение всякий раз, когда нарушение было умышленным, текст разделяет две оценки: умысел усугубляет оценку деяния, причинившего инцидент, ответственность за которое сообщение не устраняет, а сообщение и сотрудничество оцениваются отдельно. Без этой гарантии обязанность сообщения была бы недейственной, поскольку равнялась бы самообличению. Пункт (4) требует, чтобы такое проявление, не являющееся серьёзным инцидентом (ст. 3 п. (1) лит. n)), было внесено в журналы и сообщено Органу в течение 5 дней вместе с примененными мерами изоляции.

→ текст статьи Статья 21 обеспечивает защиту лиц, сообщающих о нарушениях. Самые важные сведения о рисках передовых систем в 2023–2025 годах поступили не от властей, а от работников и бывших работников лабораторий («Right to Warn» — открытое письмо работников и бывших работников OpenAI и Google DeepMind от июня 2024 года), которые разоблачили существование условий о конфиденциальности и о недопущении порицания, обусловливавших имущественные права (приобретённые акции) молчанием. Пункт (1) отсылает к общему режиму Закона № 361/2022 о защите лиц, сообщающих о нарушениях в публичном интересе, которым транспонируется Директива (ЕС) 2019/1937 и к которому отсылает также ст. 87 Регламента об ИИ, чем устраняется параллелизм; закон не создаёт отдельного режима защиты, а распространяет существующий режим на три ситуации, прямо не охваченные Законом № 361/2022: сообщение о рисках для безопасности (а не только о нарушениях закона), сообщение, адресованное непосредственно Парламенту или общественности, и сообщение о сокрытии способностей. Второе предложение определяет добросовестность в терминах ст. 6 Директивы (ЕС) 2019/1937 — разумные основания полагать, что сведения истинны на момент сообщения, — защищая разумную ошибку. Третье предложение различает, как ст. 15 директивы, публичное раскрытие и конфиденциальное сообщение: оно защищается в условиях Закона № 361/2022, а также — более благоприятная национальная защита, допускаемая директивой — когда касается непосредственной опасности для жизни, здоровья или человеческого контроля над передовой системой. Пункт (2) объявляет ничтожными в силу закона договорные условия, препятствующие сообщению или обусловливающие имущественные права молчанием, дополняя положения Закона № 361/2022 о ничтожности отказа от прав, которые касаются лишь прав, предусмотренных тем законом. Пункт (3) отсылает к преступлению в виде мер возмездия, предусмотренному ст. 41 п. (3), а п. (4) обязывает Орган организовать защищённый и анонимный канал и публиковать годовую статистику — гарантия действенности, воспринятая из режима каналов сообщения Закона № 361/2022 и из SB 53 Калифорнии (раздел 1107 Трудового кодекса Калифорнии). Пункт (5) уточняет, что защита не позволяет публиковать веса либо персональные данные, не связанные с сообщением, но передача Органу по защищённому каналу фрагментов весов или журналов, строго необходимых для его доказывания, не нарушает ст. 12 и не образует преступления, предусмотренного ст. 42 п. (2), как уточняют и те тексты.

→ текст статьи Статья 22 устанавливает обязанности поставщиков вычислительной инфраструктуры: регистрацию в Органе, проверку личности клиентов («знай своего клиента», по образцу Закона № 129/2019 о предупреждении отмывания денег и финансирования терроризма и борьбе с ними), учёт объёма вычислений по каждому клиенту и безотлагательное исполнение приказов о приостановлении доступа клиента или об остановке вычислительной задачи (п. (1)). Приказ определяет затронутых клиента и задачу, исполняется с их изоляцией и с сохранением доказательств и не может затрагивать остальных пользователей инфраструктуры. Пункт (2) запрещает предоставление мощности, способной превысить порог, лицу, которое не представит доказательства уведомления, предусмотренного ст. 7, и делает обязанность осуществимой: доказательство проверяется в реестре уведомлений, который ведёт Орган, а мощность оценивается в совокупности, за 12 месяцев, для одного и того же клиента и для аффилированных с ним клиентов, но только в пределах сведений, которыми поставщик располагает или которые может получить от клиента; поставщик не обязан знать объём, использованный у других поставщиков, а использование инфраструктуры не предполагается составляющим обучение передовой системы. Положение превращает поставщиков инфраструктуры в «стражей» режима — в той же логике, в которой кредитные учреждения являются стражами режима предупреждения отмывания денег, — и является единственным, которое позволяет применять закон к иностранным разработчикам, использующим центры обработки данных в Румынии.

→ текст статьи Статья 23 устанавливает режим органов и публичных учреждений, которые разрабатывают, приобретают или эксплуатируют передовые системы: первое предложение п. (1) подчиняет их, по общему правилу, всем положениям закона, в соотнесении с общей сферой применения по ст. 4, а второе предложение регулирует область обороны, общественного порядка и национальной безопасности. Положение конституционно и необходимо: ст. 2 п. (3) Регламента об ИИ исключает национальную безопасность из его сферы именно потому, что она является исключительной компетенцией государств-членов (ст. 4 п. (2) Договора о Европейском союзе), а это значит, что в отсутствие национального регулирования системы, разработанные в этих целях, остались бы вне всякой нормы. В этой области не применяются ст. 7–11 (уведомление и разрешение) и ст. 35 и 36 (объективная гражданская ответственность и страхование), тогда как ст. 12–21 и глава V применяются с изменениями, установленными постановлением Высшего совета обороны страны (органа, компетентного согласно ст. 119 Конституции и Закону № 415/2002). Изменения касаются исключительно ст. 12–21, а глава V применяется полностью, без изменений: абсолютные пределы, касающиеся летальной силы, правосубъектности, доступа к правам и свободы выражения мнения, не содержат процедур уведомления или оценки, поддающихся изменению, так что наделение полномочием в отношении них было бы одновременно лишено предмета и могло быть прочитано как отступление от гарантий. Изменения ограничены законом выявленными операционными аспектами — процедурой уведомления, порядком оценки и доступом к сведениям, составляющим государственную тайну, — и не могут устранить значимый человеческий контроль, способность остановки, запреты ст. 15 и защиту лиц, сообщающих о нарушениях, по ст. 21, равно как и изменить состав административных правонарушений или преступлений: постановление Высшего совета обороны страны не является законом в смысле ст. 73 п. (3) лит. h) Конституции и не может определять наказуемые деяния. Пункт (2) предусматривает, что Орган осуществляет контроль через персонал, имеющий свидетельство о допуске, согласно Закону № 182/2002, и указывает судебную гарантию: оспаривание решений, касающихся сведений, составляющих государственную тайну, производится в условиях, предусмотренных Законом № 182/2002 и Гражданским процессуальным кодексом.

Глава V — Абсолютные пределы. Клаузулы человечности (статьи 24–30)

Глава V содержит запреты, которые закон закрепляет как нормы публичного порядка, не допускающие отступления посредством разрешения, договора или согласия. Наименование «клаузулы человечности» воспринято из международного гуманитарного права (клаузула Мартенса в Гаагских конвенциях 1899 и 1907 годов, согласно которой в непредусмотренных случаях лица остаются под защитой «принципов человечности и требований общественного сознания») и выражает мысль о том, что перед лицом технологии, последствия которой невозможно предвидеть, закон должен установить несколько пределов, не зависящих от оценок риска, от порогов или от разрешений.

→ текст статьи Статья 24 закрепляет человеческий контроль над летальной силой. Пункт (1) запрещает, чтобы решение о применении летальной силы против человеческого существа принималось или исполнялось системой искусственного интеллекта без вмешательства установленного физического лица, «по каждому решению в отдельности», которое располагает сведениями, временем и средствами, необходимыми для того, чтобы его оценить и предотвратить, — а не только при формальном присутствии человека. Формулировка воспринимает стандарт «значимого человеческого контроля», согласованный в рамках Конвенции Организации Объединённых Наций о некоторых видах обычного оружия, и позицию, выраженную Генеральным секретарём ООН и Международным комитетом Красного Креста (совместный призыв от 5 октября 2023 года) о заключении до 2026 года обязательного правового документа о системах автономного оружия; Резолюция Генеральной Ассамблеи ООН 78/241 от 22 декабря 2023 года была принята голосами 152 государств, включая Румынию. Второе предложение предписывает внесение в журналы решения и лица, его одобрившего, чтобы ответственность была индивидуализирована, и определяет сферу нормы отрицательно: она не касается автоматического перехвата снарядов и устройств без человеческого экипажа, который не направлен против человеческих существ, равно как и учебных имитаций, а соотнесение с международным гуманитарным правом обеспечивается специальным законодательством. Разграничение не является исключением, выхолащивающим правило, а препятствует применению одной и той же формулы к различным ситуациям. Системы поддержки принятия решения, в которых решение остаётся человеческим, также не подпадают под действие нормы. Пункт (2) отсылает за определением системы автономного летального оружия к ст. 3 п. (1) лит. x), а не к предшествующему пункту, который содержит не определение, а правило человеческого вмешательства по каждому решению. Пункт (2) обязывает румынское государство не разрабатывать, не приобретать и не разрешать такие системы и поддерживать их международное запрещение.

→ текст статьи Статья 25 запрещает правосубъектность и имущественную самостоятельность систем искусственного интеллекта. Пункт (1) прямо исключает, чтобы системы приобретали правосубъектность или были сторонами в правовых отношениях, и относит любой юридический акт, совершённый посредством них, к лицу, от имени которого они действовали. Положение необходимо потому, что Резолюция Европейского парламента от 16 февраля 2017 года (2015/2103(INL)) предложила изучить статус «электронного лица» для автономных роботов — предложение, впоследствии отклонённое, — а румынское законодательство не содержит прямой нормы; ст. 25 Гражданского кодекса перечисляет субъектов права (физическое лицо и юридическое лицо), но не исключает создания законом иных категорий. Пункт (2) запрещает в первом предложении наделять систему способностью иметь от своего имени деньги, цифровые активы, финансовые инструменты, имущество, счета или криптографические ключи; этот запрет есть имущественное следствие критической способности «самостоятельного приобретения ресурсов», предусмотренной ст. 5 п. (2) лит. c): система, способная платить за собственную вычислительную инфраструктуру, уже не может быть остановлена прекращением финансирования. Чтобы запрет не охватывал автоматические платежи, распределение вычислений и текущие профессиональные операции, совершаемые в пределах, установленных ответственным человеком, второе предложение принимает решение в виде ограниченного поручения: управление такими ресурсами или вычислительными ресурсами и распоряжение ими посредством системы допускается лишь в пределах поручения, заранее установленного ответственным лицом и определённого по предмету, сроку, предельной сумме и условиям остановки; самостоятельное расширение поручения запрещено, а операция, выходящая за его пределы, относится к поручителю и обязывает остановить систему. Определение самостоятельного действия в ст. 3 п. (2) лит. d) отсылает к тому же поручению, а ст. 42 п. (1) криминализирует только нарушение первого предложения и п. (3), так что элементы преступного деяния установлены законом (ст. 23 п. (12) и ст. 73 п. (3) лит. h) Конституции). Пункт (3) запрещает учреждение юридических лиц или доверительных фондов, фактически контролируемых системой, чтобы закрыть путь обхода через введение юридического образования, и определяет фактический контроль как действительную власть принятия решений по актам образования; использование системы для анализа или рекомендаций контроля не образует.

→ текст статьи Статья 26 вводит запрет обусловливать участие в общественной жизни решениями систем искусственного интеллекта и принятием цифровых средств. Положение отвечает на опасность, отличную от утраты технического контроля, но столь же тяжкую для свободы гражданина: опасность общества, в котором доступ к правам, к жизненно важным услугам и к экономической и гражданской жизни становится обусловленной услугой, предоставляемой или отзываемой автоматически, в зависимости от того, подчиняется человек или нет. Предупреждение было публично высказано в памятных словах австралийским сенатором Алексом Антиком в парламентской речи, широко разошедшейся в 2026 году: в стране, когда-то свободной, гражданин владел тем, за что платил, и не жил своей жизнью по подписке; «цифровая тюрьма закрывается, и не только в Австралии, а по всему миру», а когда она будет завершена, «твоя свобода будет зависеть от подчинения большому правительству и большой технологии, которые будут управлять кнопкой отключения твоего участия в обществе». Искусственный интеллект — именно то, что делает такую архитектуру возможной в масштабе, поскольку только он может наблюдать, оценивать и решать в отношении миллионов людей одновременно, без человеческого вмешательства; поэтому запрет находит своё место в главе о клаузулах человечности.

Пункт (1) запрещает органам и публичным учреждениям, а также поставщикам жизненно важных услуг общего интереса обусловливать, ограничивать или приостанавливать доступ лица к основным правам и свободам, к публичным и жизненно важным услугам либо к участию в экономической, общественной и гражданской жизни «исключительно на основании» решения, оценки или классификации, произведённых системой искусственного интеллекта; положение запрещает не использование систем как вспомогательного средства, а замещение человеческого решения. Пункты (2)–(6) выстраивают гарантии лица в три ступени. Первая ступень — административная: право на повторное рассмотрение решения в течение 15 дней установленным физическим лицом, которое несёт ответственность за окончательное решение и мотивирует его письменно (п. (2)), что препятствует превращению «повторного рассмотрения» во вторую автоматическую процедуру; механическое подтверждение балла без действительного рассмотрения положения лица повторным рассмотрением не является, а для услуг здравоохранения либо прекращения жизненно важной услуги, где 15 дней могут означать невозместимый вред, лицо получает по заявлению, не позднее 48 часов, временное сохранение доступа до результата повторного рассмотрения. Вторая ступень касается доступа к услуге, а не оспаривания решения: п. (3) обязывает сохранять путь получения услуги или осуществления права, не зависящий от системы искусственного интеллекта, то есть посредством человека, по месту нахождения, в окне обслуживания или иным доступным способом, с тем чтобы гражданин, который не может или не хочет проходить через автоматическую систему, не оказался исключён; а п. (4), ядро нормы, запрещает обусловливать доступ принятием средства цифровой идентификации, цифрового средства платежа или системы оценки подчинения — с обязательной альтернативой. Закон не запрещает цифровую идентичность, цифровой платёж или автоматическую оценку как таковые; он запрещает, чтобы они становились обязательным условием участия в обществе. Альтернатива не устраняет установленных законом обязанностей по идентификации либо по безопасности платежей, которые исполняются иными средствами (п. (4), второе предложение). Третья ступень — судебная, согласно ст. 21 Конституции: п. (5) даёт лицу право оспорить решение, сохранённое после повторного рассмотрения, отказ в повторном рассмотрении и отказ в пути доступа или в альтернативе — в суде по месту его жительства или пребывания, в течение 30 дней, с освобождением от судебной пошлины, без предварительной процедуры, при безотлагательном рассмотрении по исковой процедуре Гражданского процессуального кодекса и с возможностью приостановления решения, независимо от того, является ли издавший его публичным органом или частным поставщиком; молчание в ответ на заявление о повторном рассмотрении равнозначно сохранению решения; п. (6) предусматривает апелляцию в апелляционный суд в течение 15 дней, решение которого является окончательным. Подсудность суду по месту жительства лица, а не суду по месту нахождения издавшего акт, есть правило защиты слабой стороны, известное в потребительском праве (ст. 18 Регламента (ЕС) № 1215/2012) и в трудовых спорах; объединение процедуры для органов и для частных поставщиков, с апелляцией вместо кассации, требует прямого отступления от ст. 7 (предварительная процедура), ст. 10 (подсудность) и ст. 20 (кассация) Закона об административном судопроизводстве № 554/2004, сформулированного согласно ст. 63 Закона № 24/2000, и оправдано тождеством предмета спора независимо от качества издавшего акт (отступление только от ст. 10 оставило бы применимыми предварительную жалобу и кассацию). Пункт (7) определяет жизненно важные услуги общего интереса путём исчерпывающего перечисления (энергия, газ, вода, связь, финансовые и платёжные услуги, здравоохранение, общественный транспорт, образование) — для точности, требуемой Законом № 24/2000. Пункт (8) согласует норму со ст. 5 п. (1) лит. c) Регламента об ИИ, запрещающей системы «социального балла», и со ст. 22 Регламента (ЕС) 2016/679, предоставляющей лицу право не быть предметом решения, основанного исключительно на автоматической обработке его данных; две европейские нормы защищают лицо в очерченных случаях (оценка общественного поведения с несоразмерным обращением и обработка персональных данных соответственно), тогда как ст. 26 вводит объективный запрет публичного порядка в отношении доступа к правам и услугам, не удваивая их. Положение продолжает в области искусственного интеллекта защиту гражданина от цифровых платформ и от технологических вторжений, закреплённую Законом о суверенитете, и опирается на ст. 1 п. (3), ст. 16 и ст. 53 Конституции: ограничение осуществления прав может быть установлено только законом, соразмерно и без посягательства на само существование права — условия, которые автоматическое решение, лишённое человеческой ответственности, выполнить не может.

→ текст статьи Статья 27 закрепляет запрет цензуры, осуществляемой посредством систем искусственного интеллекта. Пункт (1) исходит из ст. 30 п. (2) Конституции («Цензура любого рода запрещается») и разъясняет его применительно к автоматическим средствам: конституционный запрет, исторически адресованный человеку-цензору, не может быть обойдён передачей той же функции системе, которая решает, что граждане могут говорить и что могут узнать. Норма не создаёт нового права, а препятствует выхолащиванию существующего, что помещает её в разряд норм, гарантирующих основные права, которые не входят в область, гармонизированную Регламентом об ИИ, поскольку тот регулирует обязанности операторов систем, а не содержание прав лиц. Второе предложение, которое в первоначальной редакции абсолютно запрещало любое использование системы для ограничения выражения, было согласовано с п. (2)–(6): запрет касается ограничения вне случаев, предусмотренных законом, и без гарантий статьи, так что содержание, запрещённое законом, по-прежнему может быть выявлено и устранено при соблюдении условий мотивирования и повторного рассмотрения. Норма защищает лиц, находящихся на территории Румынии, а не только румынских граждан — в терминологическом единстве с п. (2) и со ст. 26 (ст. 37 Закона № 24/2000). Пункт (2) определяет материальный элемент запрета в технических терминах практики автоматической модерации: воспрепятствование, удаление, блокирование, скрытие, ограничение видимости и пометка как ложного — в отношении выражения, а также наказание лица за выражение, когда они установлены исключительно системой и касаются выражения, которое закон не запрещает. Формула «исключительно на основании решения… произведённого системой» та же, что в ст. 26 п. (1) и в ст. 22 Регламента (ЕС) 2016/679, а условие «если выражение не запрещено законом» оставляет неприкосновенными пределы свободы выражения, предусмотренные ст. 30 п. (6) и (7) Конституции и уголовным законом. Пункт (3) запрещает органам и публичным учреждениям использовать, заказывать, финансировать или запрашивать — прямо либо через третьих лиц — системы искусственного интеллекта для индивидуализированного наблюдения за лицами на основании их публичного выражения либо для классификации, помечивания или ограничения их выражения; исключение ограничено случаями, прямо предусмотренными законом, в связи с преступными деяниями и с предварительным разрешением судьи, то есть режимом мер технического наблюдения Уголовно-процессуального кодекса. Статистическая или неиндивидуализированная обработка публичных сведений наблюдением не является. Норма отвечает на практику, задокументированную в нескольких государствах, где власти по неформальным каналам требовали от платформ автоматического ограничения законного содержания. Пункт (4) вводит прозрачность меры: безотлагательное письменное сообщение с мотивами, правовым основанием и указанием на то, что мера принята автоматической системой, и запрещает необъявленное ограничение видимости («теневой бан») — практику, при которой выражение лица скрывается от других без его ведома. Пункт (5) обеспечивает человеческое повторное рассмотрение в течение 15 дней и отсылает к способу обжалования, предусмотренному ст. 26 п. (5) и (6): суд по месту жительства лица, апелляция в апелляционный суд. Пункт (6) регулирует соотношение с Регламентом (ЕС) 2022/2065 о цифровых услугах, который, согласно соображению 9, полностью гармонизирует обязанности поставщиков посреднических услуг и прямо регулирует договорные условия (ст. 14), мотивирование решений о модерации (ст. 17) и внутреннее рассмотрение жалоб (ст. 20), не запрещая при этом всякое первоначальное автоматизированное решение; для платформ законность содержания не равнозначна обязанности его размещать. Поэтому для поставщиков посреднических услуг статья применяется в мере, совместимой с Регламентом, положения которого остаются применимыми, не препятствует мерам против нежелательных сообщений, автоматизированных учётных записей либо рисков информационной безопасности, равно как и фильтрам, выбранным пользователем, и не может ограничить какую-либо гарантию, предусмотренную Регламентом для получателей услуг. Формулировка разрешает в пользу права Союза то напряжение, которое простая оговорка «не затрагивая» оставляла открытым, при этом национальная гарантия остаётся полной в отношении публичных органов и операторов, не являющихся поставщиками посреднических услуг. Нарушение статьи является административным правонарушением (ст. 37 п. (1) лит. d)), а в силу ст. 30 любое противоречащее условие ничтожно в силу закона.

→ текст статьи Статья 28 гарантирует человеческое вмешательство, запрещая ввод в эксплуатацию или сохранение в эксплуатации передовых систем в условиях, делающих технически или организационно невозможным вмешательство, предусмотренное ст. 14, в том числе путём распределения системы по неконтролируемым инфраструктурам, удаления способности остановки или такой степени самостоятельности, которая исключает надзор. Если ст. 14 устанавливает положительные обязанности эксплуатанта, то ст. 28 устанавливает соответствующий абсолютный запрет, наказуемый уголовно (ст. 42), и охватывает случаи, в которых вмешательство становится невозможным не из-за действия системы, а в силу архитектурного выбора эксплуатанта (например, системы, распределённые по децентрализованным сетям без точки контроля). Второе предложение, добавленное потому, что ст. 42 п. (1) прямо отсылает к запрету, очерчивает деяние: использование инфраструктуры, принадлежащей третьему лицу, само по себе не образует отсутствия контроля, если договорные права и технические средства позволяют эксплуатанту проверяемо осуществлять способность остановки, а временная недоступность одного из путей вмешательства, безотлагательно устранённая и внесённая в журналы, невозможности не образует. От этого различения между преходящей неисправностью и структурным отказом от контроля зависит предсказуемость уголовной нормы (ст. 23 п. (12) Конституции).

→ текст статьи Статья 29 запрещает неограниченное рекурсивное самоулучшение: проектирование, обучение или эксплуатацию системы таким образом, чтобы она улучшала собственные способности или создавала более способные системы-преемники без того, чтобы каждая итерация подвергалась человеческой оценке и одобрению — элемент, содержащийся в определении ст. 3 п. (2) лит. h). Сценарий «интеллектуального взрыва» (И. Дж. Гуд, 1965), в котором система, способная проектировать системы лучше себя самой, вызывает рост способностей вне всякого контроля, значительная часть научного сообщества, включая Хинтона, считает наиболее вероятным путём к необратимой утрате контроля. Второе предложение подчиняет оценке и выдаче разрешения по главе III каждую итерацию, которой передовая система способствует — посредством существенного изменения в смысле ст. 3 п. (1) лит. aa) — созданию или совершенствованию системы-преемника; порог существенного изменения исключает незначительные исправления кода и опыты, не влияющие на риск, которые первоначальная редакция («способствует») охватила бы. Исследовательские программы, в которых передовые системы используются как средство, могут быть разрешены в целом, с обязательными точками остановки, установленными согласно ст. 8, и с человеческим одобрением каждого этапа, порождающего новую модель либо существенное изменение. Статья не запрещает исследования в этой области, равно как и использование систем для проектирования других систем, а запрещает лишь устранение «человеческой петли» между итерациями; она дополняется запретом обучения по ст. 15 п. (1) лит. e) и критической способностью по ст. 5 п. (2) лит. e), не совпадая с ними: ст. 5 квалифицирует, ст. 15 запрещает обучение, ст. 29 запрещает эксплуатацию.

→ текст статьи Статья 30 объявляет в п. (1) положения главы нормами публичного порядка и влечёт абсолютную ничтожность любого противоречащего акта, уточняя, что запреты не могут быть устранены согласием, коммерческой тайной, национальной безопасностью или экономическим интересом. Положение применяет ст. 11 Гражданского кодекса («не допускается отступление посредством соглашений или односторонних юридических актов от законов, затрагивающих публичный порядок, или от добрых нравов») и ст. 1246–1250 о абсолютной ничтожности, и призвано заблокировать предсказуемые доводы в пользу исключения: что пользователь согласился, что система является секретной или что этого требует экономический либо стратегический интерес. Прямое упоминание национальной безопасности необходимо, чтобы воспрепятствовать толкованию, будто ст. 23 позволяет Высшему совету обороны страны устранить эти пределы, и последнее предложение говорит об этом прямо: изменения, предусмотренные ст. 23, не являются отступлениями от гарантий главы. Пункт (2) уточняет объём ничтожности согласно ст. 1255 Гражданского кодекса: ничтожность касается лишь противоречащего условия, остальные условия сохраняют силу, если могут существовать без него, а права, добросовестно приобретённые третьими лицами, не участвовавшими в нарушении, защищаются. Последнее предложение признаёт, что такая квалификация не может сама по себе устранить приоритет непосредственно применимого права Союза, закреплённый ст. 148 п. (2) Конституции.

Глава VI — Орган по безопасности искусственного интеллекта (статьи 31–34)

→ текст статьи Статья 31 учреждает Орган по безопасности искусственного интеллекта как специализированную структуру без правосубъектности в составе Национального органа по управлению и регулированию в области связи (ANCOM). Выбор организации в составе ANCOM, вместо нового самостоятельного административного органа, имеет три основания. Первое — институциональное: ANCOM уже предложен Правительством, в меморандуме о применении Регламента об ИИ, в качестве органа надзора за рынком и единого контактного пункта в области искусственного интеллекта, так что параллельный орган создал бы именно тот институциональный параллелизм, который запрещает ст. 16 Закона № 24/2000, и обязал бы разработчиков к двум процедурам перед двумя органами по одной и той же системе. Второе — статусное: ANCOM является самостоятельным административным органом под парламентским контролем согласно Чрезвычайному постановлению Правительства № 22/2009, полностью финансируемым из собственных доходов и прямо изъятым — ст. 2 п. (2) Рамочного закона № 153/2017 — из единой системы оплаты труда персонала, оплачиваемого из публичных средств, что делает возможным конкурентное вознаграждение специалистов без какого-либо нового отступления. Третье — операционное: ANCOM располагает территориальной инфраструктурой, техническим персоналом и институциональными связями с поставщиками сетей и услуг электронной связи, необходимыми для исполнения мер блокирования, предусмотренных ст. 39. Пункт (2) регулирует руководство: вице-председатель ANCOM в ранге государственного секретаря, с исключительными полномочиями в области безопасности искусственного интеллекта, назначаемый Парламентом на совместном заседании на срок 6 лет без возможности продления, из числа лиц с признанной подготовкой и опытом в искусственном интеллекте, информационной безопасности или праве технологий. Поскольку Чрезвычайное постановление Правительства № 22/2009 устанавливает число вице-председателей ANCOM, закон учреждает должность путём прямого отступления от ст. 11 п. (1) этого постановления, согласно ст. 63 Закона № 24/2000, сохраняя, однако, порядок назначения и срок полномочий, предусмотренные для остальных вице-председателей, ради единства режима. Длительный и непродлеваемый срок полномочий, смещённый относительно четырёхлетнего избирательного цикла, есть классическая гарантия независимости. Тот же п. (2) регулирует вакантность должности (назначение в 60 дней; временное исполнение не более 6 месяцев, обеспечиваемое вице-председателем ANCOM, назначенным его председателем), чтобы парламентский затор не оставил Орган без руководства, а временное исполнение не стало длительным руководством без парламентского мандата. Пункт (3) воспринимает запрет занимать должности, иметь доли участия или получать вознаграждения от разработчиков или эксплуатантов — в течение срока полномочий и 3 года после него, — который отвечает на риск «захвата регулятора» («вращающаяся дверь»), особенно острый в области, где вознаграждения в частном секторе в десять раз выше, чем в публичном. Чтобы запрет был направлен на действительный конфликт, текст ограничивает его прямыми долями участия, исключает владение через диверсифицированные инвестиционные фонды без права решения и предоставляет, за послемандатное ограничение, компенсационное вознаграждение, установленное методическими нормами, без которого ограничение было бы несоразмерным (ст. 41 Конституции). Основания отзыва перечислены исчерпывающе, согласно требованию точности Закона № 24/2000. Пункт (4) обеспечивает функциональную независимость Органа внутри ANCOM: решения, предусмотренные законом, издаются вице-председателем по безопасности искусственного интеллекта от имени ANCOM, и он отвечает за них перед Парламентом, а Орган не может получать указаний ни от какого иного публичного органа — формула, воспринятая из ст. 52 Регламента (ЕС) 2016/679 для органов по защите данных и из ст. 70 п. (1) Регламента об ИИ. Пункт (5) назначает Орган национальным пунктом связи с Управлением по ИИ и с Научным комитетом, предусмотренным ст. 68 Регламента об ИИ, и разграничивает компетенции — вместо прежней формулы, намекавшей на иерархию между органами: национальные органы, назначенные согласно Регламенту, сохраняют свои компетенции, Орган осуществляет исключительно полномочия по настоящему закону в отношении передовых систем и уведомляет Управление по ИИ о решениях, касающихся моделей общего назначения.

→ текст статьи Статья 32 перечисляет в п. (1) полномочия Органа согласно пяти функциям, необходимым для режима разрешений: выдача разрешений (лит. a), инспекция (лит. b), экстренное вмешательство (лит. c), техническое нормирование (лит. d) и наложение наказаний (лит. e), к которым добавляются надзор за органами по оценке (лит. f), получение и разрешение обращений лиц о нарушении клаузул человечности, предусмотренных ст. 26 и 27 (лит. g), годовой отчёт Парламенту (лит. h), международное представительство (лит. i) и исследования (лит. j). Полномочие по лит. g) даёт гражданину простой и бесплатный административный путь против обусловливания доступа и автоматической цензуры, не отнимая у него права обратиться непосредственно в суд. Публичный годовой отчёт о состоянии риска, со сроком 31 марта, который включает и обращения по ст. 26 и 27, есть средство, посредством которого Парламент и общественность могут следить за развитием способностей и за соответствием закона; его образец — годовые отчёты Национальной комиссии по контролю ядерной деятельности и Национального органа надзора за обработкой персональных данных. Исследовательское полномочие (лит. j) необходимо потому, что оценка, понятность и согласование систем суть формирующиеся научные области, в которых орган, лишь применяющий чужие стандарты, навсегда остаётся позади; её результаты подлежат внешней оценке и правилам о конфликте интересов. Пункты (2)–(4) добавляют три гарантии. Пункт (2) разделяет внутри Органа функции оценки, расследования и принятия решения о наказании по различным структурам и запрещает лицу, которое оценивало или расследовало, участвовать в решении о наказании (ст. 21 п. (3) Конституции); органы по оценке назначаются по публичным критериям, с правилами об отводе и о конфликте интересов, и не могут оценивать системы лиц, с которыми находятся в экономических отношениях. Пункт (3) регулирует инспекцию, которая касается профессиональных помещений, а не любого помещения: письменный приказ вице-председателя с указанием предмета и цели инспекции, протокол, доступ в помещения, служащие жилищем, только с разрешения судьи (ст. 27 Конституции), защита охраняемых законом тайн и процессуальных прав лиц. Пункт (4) отвечает на возражение о законности криминализации: поскольку ст. 40–42 связывают наказания с квалификациями, построенными на критических способностях, стандарты Органа детализируют методы оценки лишь в пределах категорий и критериев, установленных законом, и не могут вводить новые категории запрещённых способностей, равно как и расширять состав административных правонарушений или преступлений; соответственно лит. d) более не говорит о «перечне критических способностей», который остаётся в законе (ст. 5 п. (2)), а говорит о методах оценки и об уровнях значимости. Решение предписано ст. 23 п. (12) и ст. 73 п. (3) лит. h) Конституции: административный акт не может определять, даже косвенно, момент, с которого деяние становится преступным.

→ текст статьи Статья 33 регулирует персонал и финансирование. Пункты (1) и (2) отвечают на вопрос, от которого зависит весь закон: кто будет оценивать передовые системы. Специализированный персонал назначается исключительно по конкурсу, открытому для любого лица, отвечающего условиям образования и опыта, объявленному не менее чем за 30 дней, с возможностью оспорить результаты в суде административного судопроизводства. Конкурсная комиссия из не менее 5 членов включает не менее 3 профессоров университетов в области информационных технологий и телекоммуникаций либо специалистов с признанным практическим опытом в безопасности и оценке систем искусственного интеллекта, предложенных аккредитованными университетами, которые ведут докторантуру в этих областях. Преобладающее присутствие внешних членов в комиссии имеет двойную роль: оно обеспечивает, что отбор производится по проверяемой компетентности, а не по административным или политическим критериям, и выводит набор персонала из-под влияния отрасли, поскольку члены комиссии подчинены тем же несовместимостям, что и персонал Органа. Опубликование состава комиссии и результатов обеспечивает публичный контроль. Образец — конкурсы на преподавательские и научные должности (Закон о высшем образовании № 199/2023) и конкурсные комиссии в магистратуре, в которых участие внешних членов с профессиональным авторитетом является гарантией объективности. Пункт (3) предусматривает вознаграждение на уровне, конкурентном с частным сектором, согласно собственной системе оплаты труда ANCOM, устанавливаемое ежегодно на основе публикуемого исследования рынка; поскольку персонал ANCOM изъят из Рамочного закона № 153/2017 его ст. 2 п. (2), никакого отступления не требуется, что является одной из причин выбора организации в составе ANCOM. Без конкурентного вознаграждения учреждение не смогло бы набрать ни одного специалиста, способного оценить передовую систему. Пункт (4) распространяет несовместимости на весь персонал, со сроком 2 года. Пункт (5) регулирует финансирование на основе, исключающей любой финансовый стимул к наложению наказаний: прежняя редакция выделяла Органу долю в 50% от штрафов с назначением в исследовательский фонд, но средства того, кто налагает штрафы, зависели бы от них. Орган финансируется теперь из отдельного ассигнования из бюджета ANCOM, утверждаемого ежегодно и учитываемого отдельно, и из сборов за уведомление, за оценку и за выдачу разрешения, устанавливаемых методическими нормами соразмерно стоимости услуги (по образцу сборов Национального агентства по лекарственным средствам и Национальной комиссии по контролю ядерной деятельности); штрафы поступают в государственный бюджет и не могут определять средства Органа, а исследования, предусмотренные ст. 32 п. (1) лит. j), финансируются отдельным ассигнованием, не связанным с наказаниями. ANCOM обеспечивает первоначальный бюджет, включая персонал и инфраструктуру, до поступления сборов.

→ текст статьи Статья 34 учреждает Научный консультативный совет в составе 9 признанных исследователей, из которых не менее 3 из-за рубежа, который даёт заключения по стандартам оценки, методам оценки и уровням значимости критических способностей и по предложениям о корректировке порогов, а также публикует особые мнения (п. (1)). Присутствие иностранных членов необходимо потому, что передовая компетентность в этой области сосредоточена в нескольких центрах мира, а право на публичное особое мнение есть гарантия того, что консультативное заключение не может быть молча проигнорировано. Пункты (2) и (3) дополняют статус Совета: члены назначаются вице-председателем по безопасности искусственного интеллекта по предложению Румынской академии и университетов, ведущих докторантуру в этой области, на срок 4 года с однократным продлением, подчинены несовместимостям ст. 31 п. (3), могут быть отозваны только за установленную несовместимость либо неоправданное неучастие, а заключения принимаются большинством членов. Заключение является консультативным, но Орган мотивирует, когда от него отступает; доступ членов, включая иностранных, к защищённым сведениям осуществляется в условиях закона, а особые мнения публикуются в редакциях, которые защищают чувствительные сведения и сохраняют научный аргумент. Образец — Научный комитет Управления по ИИ (ст. 68 Регламента об ИИ) и научные советы европейских регулирующих агентств.

Глава VII — Ответственность (статьи 35–45)

→ текст статьи Статья 35 вводит объективную солидарную гражданскую ответственность разработчика и эксплуатанта за вред, причинённый передовой системой, в том числе самостоятельными действиями системы, использованием третьими лицами или извлечением весов. Основание — ст. 1376 Гражданского кодекса (ответственность за вред, причинённый вещами, независимая от какой-либо вины), к которой закон прямо отсылает, избегая параллелизма; закон не создаёт новой ответственности, а уточняет применение ответственности за вещи к той категории «вещей», самостоятельность которых делает неопределённым понятие «юридического владения». Специфический образец — Закон № 703/2001 о гражданской ответственности за ядерный ущерб, который направляет ответственность исключительно на оператора установки, независимо от вины, с обязательным страхованием и с ограниченными основаниями освобождения; тот же образец использован Парижской конвенцией 1960 года и Венской конвенцией 1963 года о гражданской ответственности за ядерный ущерб. Пункт (1) уточняет, по итогам правового анализа, режим доказывания: потерпевший доказывает вред и причинную связь, но информационная асимметрия исправляется: суд может предписать доступ к журналам и к относящейся к делу документации с защитой конфиденциальных сведений, а если разработчик или эксплуатант не представит журналы, которые был обязан хранить согласно ст. 16, причинная связь предполагается до доказательства обратного. Презумпция следует логике раскрытия доказательств и презумпций Директивы (ЕС) 2024/2853. Тот же п. (1) разъясняет регресс (соразмерно вкладу каждого) и предусматривает, что лицо, существенно изменившее систему, отвечает как разработчик за вред, причинённый изменением.

Пункт (2) ограничивает основания освобождения исключительным деянием потерпевшего и внешней по отношению к системе непреодолимой силой и прямо исключает из понятия непреодолимой силы непредсказуемое поведение системы, ошибку оценки, деяние третьего лица, получившего доступ, и отсутствие научного знания на дату ввода в эксплуатацию. Последнее исключение устраняет возражение «риска разработки» («development risk defence»), допускаемое ст. 7 лит. e) Директивы 85/374/ЕЭС и сохранённое, с возможностью отступления государствами-членами, в Директиве (ЕС) 2024/2853, но несовместимое с посылкой закона: если разработчик ссылается на то, что не мог знать о риске, он подтверждает именно ту неопределённость, которая оправдывает режим разрешений, и должен отвечать за то, что ввёл систему в эксплуатацию в этой неопределённости. Пункт (3) объявляет ничтожными условия об ограничении ответственности перед потерпевшими; условия между профессионалами действительны только в отношениях между ними (включая регресс) и в отношении их собственного имущественного вреда, не затрагивая прав потерпевших либо покрытия по ст. 36. Пункт (4) устанавливает сроки исковой давности в 10 лет со дня узнавания и в 30 лет со дня деяния, тождественные срокам Закона № 703/2001 и оправданные скрытым характером некоторых видов вреда; для продолжаемого деяния срок течёт со дня его прекращения. Пункт (5) был переписан для совместимости с гармонизированным режимом ответственности за товары с недостатками (Закон № 240/2004 и будущая транспозиция Директивы (ЕС) 2024/2853, которая оставляет неприкосновенными иски, основанные на иных основаниях, нежели недостаток товара): статья вводит отдельное основание, опирающееся на риск, созданный разработкой и эксплуатацией системы, не изменяет гармонизированный режим, не исключает иска потерпевшего по этому режиму и запрещает двойное возмещение. Для видов вреда, входящих в сферу директивы, исключение возражения, основанного на состоянии знания, является допустимым отступлением, в отношении которого Правительство исполняет формальности, предусмотренные ст. 18.

→ текст статьи Статья 36 предписывает обязательное страхование гражданской ответственности или равноценное финансовое обеспечение с минимальными порогами в 100 миллионов евро для систем категории I и 1 миллиард евро для систем категории II, а также прямой иск потерпевшего к страховщику или к лицу, выдавшему обеспечение. Образец — Закон № 703/2001 (обязательное страхование или финансовое обеспечение ядерного оператора) и Закон № 132/2017 об обязательном страховании гражданской ответственности владельцев транспортных средств (прямой иск потерпевшего к страховщику). Размеры откалиброваны по финансовой способности передовых разработчиков (оцениваемых в сотни миллиардов долларов) и по размаху возможного вреда; системы категории III не упоминаются, поскольку не могут быть введены в эксплуатацию. Требование, невыполнимое на рынке, однако действовало бы как косвенный запрет. Пункт (1) предусматривает, что суммы установлены на каждое событие, с совокупным годовым пределом не менее их удвоения, а по исчерпании покрытие восстанавливается в 30 дней. Клаузула недоступности рынка: если Орган, по согласованию с Органом финансового надзора, установит публичным отчётом, что покрытие не может быть получено в условиях закона, Правительство может установить нормами более низкие уровни, но не ниже одной пятой этих сумм, и альтернативные механизмы — групповые обеспечения, банковские гарантии либо гарантийный фонд, финансируемый разработчиками и эксплуатантами; порог в одну пятую и условие публичного отчёта исключают дискреционное снижение. Пункт (2) определяет финансовое обеспечение: банковская гарантия, депозит либо обеспечение, выданное уполномоченным финансовым учреждением, подлежащее исполнению по заявлению потерпевшего на основании вступившего в силу решения или мирового соглашения, с прямым иском и к выдавшему его. Обязанность страхования имеет и функцию косвенного регулирования: страховщики через условия принятия на страхование установят стандарты безопасности, которые закон не может детализировать.

→ текст статьи Статья 37 устанавливает административные правонарушения, построенные по ступеням тяжести, со штрафами в процентах от мирового оборота (1–3%, 2–5%, 3–7%, 5–10%), по образцу ст. 99 Регламента об ИИ (до 7%) и ст. 83 Общего регламента о защите данных (до 4%). Литера b) отсылает к ст. 16 п. (1)–(5), а не только к п. (2)–(5): в прежней редакции самое тяжкое деяние в области ведения журналов — не вести и не хранить никаких журналов, обязанность, предусмотренная п. (1), — не было охвачено отсылкой текста. Литеры e) и f) наказывают нарушение обязанностей по маркировке сгенерированного содержания, по информированию пользователя и в отношении представителя по соблюдению требований; для деяний, которые одновременно образуют нарушения ст. 50 Регламента об ИИ, лит. e) предусматривает, что штраф применяется в пределах ст. 99 п. (4) Регламента, прямо разделяя два режима. Пункт (2) различает фиксированные штрафы по категориям лиц — из требования соразмерности: юридические лица без оборота — 100 000–10 000 000 леев; физические лица — 10 000–1 000 000 леев; а за деяния, предусмотренные лит. e) и f), совершённые лицами, не являющимися разработчиками или эксплуатантами передовой системы, — 20 000–1 000 000 леев для юридических лиц и 5 000–200 000 леев для физических лиц. Пункт (3) предусматривает дополнительные наказания, применяемые соразмерно тяжести деяния, включая конфискацию весов — особое наказание, без которого штраф был бы лишь издержками сделки; конфискованные веса хранятся Органом в условиях ст. 12. Пункт (4) отсылает к общему режиму Постановления Правительства № 2/2001 с двумя отступлениями, сформулированными согласно ст. 63 Закона № 24/2000: исключение возможности уплатить половину наименьшего размера штрафа (ст. 28 постановления), несовместимой с процентными штрафами, и срок давности 5 лет вместо шестимесячного (ст. 13 п. (1) постановления), оправданный сложностью установления. Пункт (5), новый, содержит правила индивидуализации и соотнесения: критерии индивидуализации (тяжесть и объём деяния, созданная опасность, фактический контроль над деянием, сотрудничество и устранение последствий), расчётная база (оборот за предшествующий финансовый год на уровне группы), запрет двойного наказания за одно и то же деяние на основании закона и Регламента (ne bis in idem) и режим органов и публичных учреждений, которым штраф применяется к ответственному физическому лицу, в пределах п. (2). Административные правонарушения настоящего закона не совпадают с правонарушениями Регламента об ИИ: штрафы, предусмотренные ст. 101 Регламента, применяются исключительно Комиссией за нарушение обязанностей Регламента, тогда как настоящие правонарушения наказывают нарушение обязанностей закона, не имеющих соответствия в Регламенте.

→ текст статьи Статья 38 открывает новый раздел — «Прекращение предоставления услуг и блокирование доступа», — который отвечает на практический предел всего режима: большинство эксплуатантов передовых систем не имеют в Румынии ни места нахождения, ни активов, ни персонала, так что процентные штрафы и уголовная ответственность лиц, принимающих решения, могут остаться для них без последствий. Единственный действительный рычаг румынского государства в отношении такого эксплуатанта — доступ к пользователям на его территории. Пункт (1) ступенчато градуирует неисправность, поскольку устранимое формальное упущение не может влечь тех же последствий, что серьёзный риск: предупреждение с установлением срока устранения не менее 15 дней и правом быть выслушанным; мотивированное решение об установлении — только если неисправность сохраняется либо состоит в серьёзном риске, не устранимом в срок; обязанность прекращения в 15 дней со дня сообщения; при непосредственной опасности для жизни, здоровья или человеческого контроля срок устранения не предоставляется, а неотложность мотивируется. Обязанность прекращения не является наказанием, а есть естественное следствие того, что услуга не отвечает установленным законом условиям предоставления, по образцу изъятия с рынка несоответствующих товаров (ст. 16 Регламента (ЕС) 2019/1020 о надзоре за рынком). Пункт (2) предусматривает опубликование решения в Списке неисправных эксплуатантов — средство прозрачности с двойной ролью: информирование пользователей и поставщиков связи и публичность неисполнения, что сдерживает интеграцию, продвижение и оплату услуги профессионалами на румынском рынке; образец — публичный список неразрешённых операторов азартных игр, который ведёт Национальное управление по азартным играм согласно Чрезвычайному постановлению Правительства № 77/2009. Пункт (3) наказывает продолжение предоставления штрафом от 100 000 до 10 000 000 евро в эквиваленте в леях за каждый месяц продолжения, при пропорциональном исчислении частей месяца, устанавливаемым по длительности, числу затронутых лиц и тяжести, с пределом 5% от годового мирового оборота за одну и ту же неисправность, отдельно от наказания за первоначальное нарушение — критерии, обеспечивающие соразмерность. Периодический характер штрафа воспринят из института периодических платежей, предусмотренных ст. 24 Регламента (ЕС) № 1/2003 и ст. 76 Регламента (ЕС) 2022/2065 о цифровых услугах, и является единственным, который обеспечивает действенность в отношении оператора с миллиардными доходами. Размер выражен в евро с уплатой в леях по курсу дня — приём, допускаемый Законом № 24/2000 и используемый в финансовом законодательстве. Пункт (4) обязывает Орган принять решение об исключении из списка в 10 дней со дня представления доказательств приведения в соответствие и безотлагательно сообщить его поставщикам, исполняющим блокирование, а отказ или задержка исключения могут быть оспорены согласно ст. 39 п. (5). Пункт (5) распространяет режим на разработчика, предоставляющего доступ напрямую, чтобы исключить обход через отсутствие отдельного эксплуатанта.

→ текст статьи Статья 39 регулирует блокирование доступа как провизорную административную меру, субсидиарную по отношению к обязанности прекращения. Пункт (1) обусловливает её мотивированным решением Органа и подчиняет проверке необходимости и соразмерности, требуемой ст. 53 Конституции: блокирование может быть предписано лишь в том случае, если менее ограничительные меры не привели к приведению в соответствие либо явно недостаточны по сравнению с тяжестью риска; решение рассматривает необходимость и соразмерность, избегает затрагивания других услуг, размещённых на той же инфраструктуре, и пересматривается по собственной инициативе каждые 90 дней, а пользователи извещаются через страницу переадресации о причине меры и о способе её оспаривания. Пункт (2) приводит её в исполнение через поставщиков сетей и услуг электронной связи в течение 48 часов при технической поддержке ANCOM — по механизму, уже действующему в румынском праве в отношении сайтов неразрешённых азартных игр (Чрезвычайное постановление Правительства № 77/2009) и незаконного содержания (Закон № 365/2002, Регламент (ЕС) 2022/2065). Пункт (3) обеспечивает соразмерность: блокирование касается исключительно несоответствующей услуги, а не всей деятельности эксплуатанта, и прекращается в силу закона при исключении из списка. Пункт (4) необходим для совместимости с правом Союза: для услуг, предоставляемых из другого государства-члена, ст. 3 п. (4)–(6) Директивы 2000/31/ЕС об электронной торговле, транспонированной Законом № 365/2002, допускает ограничение свободного обращения услуг информационного общества только индивидуальной мерой, против определённой услуги, по мотивам публичного порядка, общественной безопасности или охраны публичного здоровья, соразмерной, после обращения к государству-члену происхождения и с уведомлением Европейской комиссии; согласно решению Суда Европейского союза по делу C-376/22, Google Ireland и другие (9 ноября 2023 года), государства-члены не вправе принимать на основании ст. 3 п. (4) общие и абстрактные меры. Поэтому текст прямо предусматривает индивидуальный характер меры, определённую услугу, материальное основание (публичный порядок, общественная безопасность, публичное здоровье) и процедуру Закона № 365/2002; блокирование остаётся мерой по каждому случаю, следующей за конкретным нарушением, а не общей обязанностью. Пункт (5) гарантирует доступ к правосудию (ст. 21 и 52 Конституции): оспаривание в течение 30 дней в Апелляционном суде города Бухареста, отделении административного и налогового судопроизводства, рассмотрение безотлагательное и преимущественное; оспаривание не приостанавливает исполнение в силу закона — решение, оправданное предупредительной природой меры и тождественное решению ст. 14 п. (4), — но заинтересованное лицо может просить о провизорном приостановлении, разрешаемом не позднее 10 дней, при взвешивании риска для безопасности и вреда, а решение подлежит кассации в Высшей кассационной судебной палате в течение 15 дней. Пункт (6) освобождает поставщиков связи от ответственности за правильное и добросовестное исполнение решения, по образцу ст. 12–15 Директивы 2000/31/ЕС (ст. 11 и след. Закона № 365/2002), но не за избыточное блокирование, произошедшее по их вине.

→ текст статьи Статья 40 криминализирует ввод в эксплуатацию без разрешения и продолжение эксплуатации после приказа об остановке — лишением свободы от 2 до 7 лет (п. (1)) и от 5 до 12 лет в квалифицированной форме (п. (2)). Криминализация следует образцу ст. 44 и след. Закона № 111/1996 (осуществление ядерной деятельности без разрешения, наказуемое лишением свободы). Пределы наказания — те же, что у преступлений серьёзной опасности в Уголовном кодексе (например, ст. 345 — несоблюдение режима ядерных материалов, 3–10 лет). Два уточнения предписаны законностью криминализации (ст. 23 п. (12) и ст. 73 п. (3) лит. h) Конституции). Первое очерчивает субъект деяния: использование в качестве конечного пользователя системы, предоставленной другим, преступления не образует (ст. 3 и 43). Второе уточняет квалифицирующее последствие: простое «проявление критической способности» могло включать результат контролируемого испытания; текст требует проявления вне разрешённой оценки одной из способностей, предусмотренных ст. 5 п. (2) лит. c)–e), либо наступления одного из результатов, предусмотренных лит. a) или b), а последствие относится к деянию в условиях ст. 16 п. (4) Уголовного кодекса (превышенный умысел). Закон не изменяет Уголовный кодекс, а устанавливает преступления в специальном законе, согласно ст. 1 п. (1) Закона № 24/2000 и устойчивой практике специального законодательства (Закон № 111/1996, Закон № 535/2004 о предупреждении терроризма и борьбе с ним). Пункт (2) использует понятие разрешённой оценки в изолированной среде согласно ст. 15 п. (2) — то же, что в ст. 3 п. (1) лит. n), ст. 15 п. (3) и ст. 20 п. (2) и (4); выражение «контролируемая оценка», употреблявшееся ранее только в этом месте, было устранено, поскольку термин, не имеющий соответствия в остальном тексте закона, в норме, усиливающей наказание, противоречил бы требованию предсказуемости уголовного закона согласно ст. 23 п. (12) Конституции.

→ текст статьи Статья 41 криминализирует подлог при оценке и воспрепятствование контролю. Представление с осознанием Органу или органу по оценке ложных либо обманчиво неполных данных, результатов или заявлений об основных элементах способностей, объёма вычислений, безопасности весов или инцидентов, а также настройка системы с целью ввести оценщиков в заблуждение относительно оцениваемой конфигурации либо действительных способностей (п. (1), 3–10 лет) есть преступление, свойственное этому режиму: система разрешений, опирающаяся на доказательства, представленные заявителем, не может работать, если их подделка является лишь административным правонарушением. Образец в сравнительном праве — раздел 1001 титула 18 Кодекса Соединённых Штатов, наказывающий лишением свободы до 5 лет за ложные заявления, сделанные федеральным властям. Второй случай отвечает на прецедент «дизельгейта» 2015 года, когда транспортные средства распознавали условия испытания и изменяли своё поведение, и на критическую способность, предусмотренную ст. 5 п. (2) лит. d). Требования «с осознанием», «основные элементы» и «с целью ввести в заблуждение» отличают умышленную подделку от неопределённой оценки и от добросовестной ошибки, а п. (4) прямо исключает неопределённую оценку, объявленную как таковую, ошибку, исправленную сразу по её обнаружении, и настройку системы в рамках испытания, согласованного с оценщиком. Воспрепятствование доступу и уничтожение журналов (п. (2), 1–5 лет) следует образцу ст. 275 Уголовного кодекса (изъятие или уничтожение доказательств либо документов), но «воспрепятствование любым способом» отнесено к доступу, осуществляемому в пределах компетенции Органа и на основании письменного запроса, а отказ, основанный на отсутствии компетенции либо на профессиональной тайне адвоката или иной охраняемой законом тайне, преступления не образует, и суд высказывается по нему. Меры возмездия в отношении лиц, сообщающих о нарушениях (п. (3), от 6 месяцев до 3 лет либо штраф), определены точной отсылкой к мерам, предусмотренным Законом № 361/2022, и обусловлены связью с сообщением, защищённым согласно ст. 21; Закон № 361/2022 наказывает меры возмездия лишь в административном порядке, что недостаточно для области, где цена молчания работника может измеряться миллиардами евро.

→ текст статьи Статья 42 криминализирует разработку запрещённых систем. Пункт (1) наказывает умышленное обучение, проектирование или использование системы в условиях, запрещённых ст. 15 п. (1), ст. 25 п. (2) первым предложением и п. (3), ст. 28 первым предложением или ст. 29 первым предложением (3–10 лет); отсылки были уточнены до уровня пункта и предложения, чтобы норма криминализации касалась только собственно запретов, согласно требованию предсказуемости уголовного закона. Пункт (2) наказывает неправомерное разглашение, передачу или предоставление весов систем категории II или III (5–15 лет) — деяние, тяжесть которого находится между разглашением сведений, составляющих государственную тайну (ст. 303 Уголовного кодекса), и изменой путём передачи сведений, составляющих государственную тайну (ст. 395 Уголовного кодекса, 10–20 лет); чтобы элемент «неправомерно» не зависел от последующей истолковательной защиты, текст прямо предусматривает, что передачи, допускаемые ст. 12 п. (2), и защищённые сообщения согласно ст. 21 п. (5) преступления не образуют. Пункт (3) градуирует последствия вместо прежнего единого интервала: наказание 10–20 лет, соответствующее преступлениям против жизни, отведено смерти, тяжкому телесному повреждению либо утрате человеческого контроля, которая сделала человеческое вмешательство невозможным и за которой последовали самостоятельные действия с последствиями для людей, окружающей среды или критической инфраструктуры; особо тяжкий имущественный вред и временная утрата контроля наказываются 7–15 годами; последствия относятся к деянию в условиях ст. 16 п. (4) Уголовного кодекса. Требование умысла в п. (1) отграничивает преступление от административного правонарушения, предусмотренного ст. 37 п. (1) лит. d), которое наказывает те же нарушения, совершённые без умысла.

→ текст статьи Статья 43 закрепляет гарантию пользователя. В первоначальной редакции проект криминализировал доступ в обход блокирования к услуге, внесённой в Список неисправных эксплуатантов, — единственное деяние во всём проекте, которое мог совершить пользователь. Инициатор отказался от него и заменил его гарантией противоположного смысла: закон построен из обязанностей, возложенных на тех, кто осуществляет власть над человеком, и из прав, предоставленных ему (ст. 17, 18, 26 и 27); действенность ст. 38 и 39 не зависит от наказания пользователя, поскольку их цель — вывести несоответствующую услугу из законного коммерческого оборота; а сравнение с Чрезвычайным постановлением Правительства № 77/2009 неуместно, поскольку там наказывается поведение, способное причинить вред самому действующему лицу, тогда как здесь пользователь получает доступ к услуге, которую отказался привести в соответствие эксплуатант, а не он. Пункт (1) предусматривает, что доступ физического лица в личных целях к услуге, внесённой в Список, в том числе в обход блокирования, не образует преступления или административного правонарушения и не может повлечь никакого наказания либо ограничительной меры за несоответствие услуги, а ответственность несут исключительно эксплуатант и разработчик; текст уточняет, что исключительность ответственности касается несоответствия услуги и что гарантия не устраняет ответственности за отдельные деяния, предусмотренные законом и совершённые посредством использования услуги. Пункт (2) вводит правило толкования, согласно которому ст. 38 и 39 не могут читаться как источник какой-либо обязанности пользователей либо как основание обусловливания их прав. Пункт (3), новый, распространяет гарантию на профессионального конечного пользователя, который не является эксплуатантом и не предоставляет услугу другим лицам. Положение согласовано со ст. 26 п. (1) и (4) и со ст. 27. Гарантия касается личного доступа, а не всего закона: то же лицо может быть и разработчиком, и эксплуатантом, и публикатором сгенерированного материала, и в этом случае к нему применяются ст. 17–19 и 37. Поскольку блокирование может начаться до вступления в силу уголовного раздела, ст. 50, второе предложение, предусматривает, что ст. 43 вступает в силу одновременно с законом.

→ текст статьи Статья 44 регулирует ответственность лиц, занимающих должности, связанные с принятием решений. Пункт (1) уточняет, что преступления вменяются физическим лицам, которые распорядились о совершении деяний или одобрили его, а также тем, кто, имея юридическую обязанность и действительную возможность их предотвратить, с осознанием допустил их совершение, при индивидуальном установлении формы вины согласно Уголовному кодексу, независимо от их должности и независимо от ответственности юридического лица, наступающей согласно ст. 135 Уголовного кодекса; текст не создаёт новой формы соучастия, а устраняет защиту ссылкой на размытость ответственности в сложных корпоративных структурах. Прежняя формула могла включать работников, которые знали, но не могли вмешаться; текст приводит случай допущения в соответствие с условиями ответственности за упущение, предусмотренными ст. 17 Уголовного кодекса (установленная законом или договором обязанность действовать), при индивидуально устанавливаемой вине. Пункт (2) исключает освобождение от наказания по мотиву приказа начальника или органа управления, по образцу ст. 33 Римского статута и ст. 21 п. (2) Уголовного кодекса, который не признаёт явно незаконный приказ обстоятельством, исключающим противоправность, но прямо сохраняет обстоятельства, исключающие противоправность и вменяемость, предусмотренные Уголовным кодексом. Закон не содержит собственной нормы о действии уголовного закона в пространстве, поскольку ст. 8 п. (4) Уголовного кодекса (преступление считается совершённым на территории Румынии и тогда, когда результат наступил, хотя бы частично, на этой территории) и ст. 9–11 Уголовного кодекса (принципы личности, реальности и универсальности) достаточны, а отсылочная норма составляла бы параллелизм, запрещённый ст. 16 Закона № 24/2000.

→ текст статьи Статья 45 устанавливает подведомственность и провизорные меры. Уголовное преследование за преступления, предусмотренные ст. 40–42, обязательно принадлежит прокурору Управления по расследованию преступлений организованной преступности и терроризма (п. (1)) — структуре, которая уже обладает компетенцией по информационным и террористическим преступлениям (ст. 11 Чрезвычайного постановления Правительства № 78/2016), а рассмотрение в первой инстанции принадлежит суду (tribunal) согласно общему правилу ст. 36 п. (1) лит. c) Уголовно-процессуального кодекса для преступлений, отнесённых законом к его подведомственности; прежняя отсылка к ст. 44 была устранена, поскольку эта статья определяет не самостоятельное преступление, а ответственных лиц. Пункт (2) позволяет прокурору в случае неотложности мотивированным постановлением предписать, как провизорную меру на срок не более 30 дней, остановку системы, наложение пломб на инфраструктуру и наложение запрета на распоряжение весами — с подтверждением судьёй по правам и свободам в течение 48 часов, под санкцией прекращения меры в силу закона, по образцу обеспечительных мер, предусмотренных ст. 249 и след. Уголовно-процессуального кодекса, и информационного обыска, предусмотренного ст. 168. Мера сопровождается дополнительными гарантиями: ограничением затронутой вычислительной задачей и весами, когда их изоляции достаточно, сохранением данных и охраной весов в условиях ст. 12, оспариванием затронутым лицом и затронутыми третьими лицами, пересмотром каждые 30 дней и продлением в тех же условиях. Быстрое судебное подтверждение и эти пределы обеспечивают соответствие ст. 21 и 53 Конституции. Пункт (3) дополняет ст. 11 п. (1) Чрезвычайного постановления Правительства № 78/2016 преступлениями, предусмотренными ст. 40–42, поскольку компетенция Управления по расследованию преступлений организованной преступности и терроризма устанавливается актом о его организации, который должен быть прямо соотнесён согласно Закону № 24/2000. Точную структуру ст. 11 п. (1) постановления надлежит проверить по консолидированному тексту перед внесением проекта.

Глава VIII — Международное сотрудничество. Переходные и заключительные положения (статьи 46–50)

→ текст статьи Статья 46 устанавливает обязанности Правительства во внешней деятельности: продвижение в рамках Европейского союза равноценного режима предварительного разрешения и общеевропейской способности к оценке (п. (1)); ведение в рамках ООН, Совета Европы, НАТО и других организаций переговоров о договоре об ограничении и проверке передовых вычислительных способностей, о запрещении автономного летального оружия и о запрещении систем категории III, с годовым отчётом Парламенту (п. (2)); и заключение соглашений о взаимном признании оценок (п. (3)). Пункты (1) и (2) устанавливают обязанности предпринимать шаги и отчитываться, а не обязанности результата. Пункт (3) уточняет, что соглашения Органа заключаются в пределах его компетенции, публикуются и не могут отступать от закона либо от права Европейского союза. Статья открыто признаёт, согласно принципу ст. 2 лит. g), что национальный закон не может в одиночку решить глобальную проблему; однако она превращает это признание в обязанность действовать, а не в основание бездействия. Исторический образец — Договор о нераспространении ядерного оружия 1968 года, который работал через контроль расщепляющихся материалов и инспекции Международного агентства по атомной энергии; эквивалент для искусственного интеллекта — контроль и проверка вычислений, предложенные в специальной литературе под названием «compute governance» и поддержанные Хинтоном, Бенжио и многими исследователями в публичных обращениях 2023–2025 годов.

→ текст статьи Статья 47 вводит клаузулу пересмотра через 2 года на основе отчёта Органа и заключения Научного совета. Клаузула периодического пересмотра предписана ст. 7 Закона № 24/2000 (предварительная оценка воздействия) и темпом технологического развития. Отчёт оценивает на основе опубликованной методологии действенность защиты, инциденты, издержки, доступ к услугам, нежелательные последствия и соразмерность каждой меры, может предложить ограничение меры, признанной недейственной, даже если общий риск сохраняется, и включает расходящиеся научные мнения. Последнее предложение, однако, закрывает путь обхода — доводу о том, что «мы всё равно не можем контролировать системы, а значит регулирование бесполезно», который превратил бы неопределённость в дозволение: отсутствие подтверждённого метода контроля не может быть сослано само по себе как основание для послабления, но и не заменяет переоценки соразмерности. Закон отвечает, что неопределённость есть причина регулирования, а не отказа от него.

→ текст статьи Статья 48 содержит переходные положения согласно ст. 54 Закона № 24/2000 и располагает сроки приведения в соответствие на двух ступенях, так чтобы ни одна обязанность не становилась подлежащей исполнению прежде, чем появится средство, которым её можно исполнить. Первая ступень течёт со дня вступления закона в силу: в 60 дней разработчики и эксплуатанты уведомляют Орган о системах, находящихся в эксплуатации на территории Румынии или предоставленных лицам из Румынии (п. (2)); в 90 дней они приводят себя в соответствие с положениями закона, не зависящими от методических норм (п. (1)), и исполняют обязанности по воспринимаемой маркировке, по информированию пользователей и по назначению представителя по соблюдению требований (п. (4)), а положения о прекращении предоставления и о блокировании (ст. 38 и 39) применяются лишь по истечении этого срока (п. (3)), что обеспечивает предсказуемость для эксплуатантов и соблюдает ст. 15 п. (2) Конституции. Вторая ступень течёт со дня вступления в силу методических норм, предусмотренных ст. 49 п. (2): в 90 дней с этой даты подаётся заявление о выдаче разрешения, порядок которого установлен нормами (п. (2)), осуществляется встроенная техническая маркировка (п. (4)) и становятся, в общем, подлежащими исполнению все обязанности, исполнение которых зависит от стандартов, процедур, порогов либо размеров, установленных нормами, причём соответствующие административные правонарушения до этого установлены быть не могут (п. (5)). Пункт (5) одновременно уточняет, что запреты закона, обязанности в отношении способности остановки, ведения журналов и сообщения о серьёзных инцидентах, а также остальные обязанности, которые могут быть исполнены без норм, применяются со дня вступления закона в силу; переходный режим, таким образом, не отлагает ничего из того, что непосредственно защищает человеческий контроль. Системы, о которых подано уведомление, могут сохраняться в эксплуатации до решения Органа, но не более 12 месяцев со дня вступления закона в силу, при условии соблюдения запретов и непосредственно применимых гарантий глав IV и V (а не всей главы IV, которая содержит и обязанности, зависящие от норм); тем самым устраняются и пробел в применении, и внезапный перерыв услуг, которыми пользуются миллионы людей, но устанавливается абсолютный предел терпимости. Он продлевается в силу закона на срок, которым принятие норм либо разрешение заявления превышают установленные законом сроки, поскольку добросовестный заявитель не может быть наказан за задержку учреждений, а Орган может мотивированно установить дополнительные условия безопасности на срок продления. Срок 90 дней обычен в румынском законодательстве для приведения в соответствие с новыми требованиями разрешительного характера и достаточен, поскольку передовые разработчики уже располагают внутренними оценками, требуемыми Регламентом об ИИ. Пункт (6) поручает председателю ANCOM, до назначения вице-председателя по безопасности искусственного интеллекта, осуществление полномочий Органа, включая неотложные меры, предусмотренные ст. 32 п. (1) лит. c); прежняя редакция ограничивала временное исполнение получением уведомлений. Пункт (3) содержит и соотнесение, без которого переходный режим был бы противоречив: сохранение в эксплуатации системы, о которой подано уведомление, в течение срока, в который п. (2) это допускает, и в ходе разрешения заявления, поданного в срок, не образует преступления, предусмотренного ст. 40 п. (1). В отсутствие этого уточнения одно и то же поведение было бы — между 270-м днём со дня опубликования, датой вступления в силу уголовных положений, и истечением 12 месяцев со дня вступления закона в силу — одновременно дозволено переходным положением и криминализировано уголовным положением. Исключение строго очерчено: оно не охватывает ввод в эксплуатацию системы, о которой не подано уведомление, сохранение в эксплуатации после отказа в заявлении, после истечения срока, предусмотренного п. (2), либо после сообщения приказа об остановке. Пункт (4) был, в свою очередь, разделён по составным частям маркировки происхождения: обязанность, предусмотренная ст. 17 п. (4) для публичных органов, касается маркировки, определённой в п. (1) и состоящей как из воспринимаемой маркировки, так и из встроенной технической, так что каждая составная часть следует своему сроку, а публичный орган не обязан применять маркировку, стандарт которой ещё не принят.

→ текст статьи Статья 49 предусматривает организационные меры и нормы применения со сроками, отсчитываемыми от даты опубликования закона, чтобы получился единый календарь и чтобы учреждение и правила оценки были доступны прежде сроков, установленных для операторов. Пункт (1) предусматривает назначение Парламентом вице-председателя по безопасности искусственного интеллекта и дополнение организационной структуры и регламента организации и функционирования ANCOM Органом — решением председателя ANCOM, опубликованным в Официальном мониторе, в 60 дней со дня опубликования. Пункт (2) предусматривает принятие методических норм в 120 дней со дня опубликования, по предложению Органа, с заключением Научного совета и после публичного обсуждения продолжительностью не менее 30 дней, с точным перечислением их предмета (процедуры, стандарты, условия изолированной среды, маркировка происхождения, методы оценки и уровни значимости критических способностей, порог инфраструктуры, сборы, устанавливаемые соразмерно стоимости услуги, и размер страхования либо обеспечения). Передача полномочия Правительству ограничена техническими и процедурными вопросами в согласии с практикой Конституционного суда, согласно которой основные элементы регулирования должны быть установлены законом (например, Решение № 51/2016); текст говорит об этом прямо: нормы детализируют рамку, установленную законом, не могут устанавливать существенное содержание обязанностей, запретов и наказаний, а стандарты публикуются. Перечень критических способностей более не числится среди предметов норм, поскольку остаётся в законе (ст. 5 п. (2)), в соотнесении со ст. 32 п. (4). Пункт (3), новый, вводит промежуточный режим: до принятия норм оценки производятся согласно стандартам кодексов добросовестной практики, принятых на основании Регламента об ИИ, и научно признанным методам, а Орган публикует провизорные ориентиры. Перечисление предмета норм было дополнено уровнем, предусмотренным ст. 16 п. (5), минимальными требованиями изоляции, предусмотренными ст. 3 п. (1) лит. bb), и размером компенсационного вознаграждения, предусмотренного ст. 31 п. (3), с тем чтобы каждый элемент, оставленный методическим нормам иной статьёй закона, фигурировал и в статье, учреждающей передачу полномочия.

→ текст статьи Статья 50 устанавливает вступление в силу через 30 дней со дня опубликования, согласно ст. 78 Конституции и ст. 12 Закона № 24/2000, за исключением ст. 40–42, 44 и 45, которые вступают в силу через 270 дней со дня опубликования, и с уточнением, что ст. 43 вступает в силу одновременно с законом. Срок для уголовного раздела выражен в днях со дня опубликования, а не в календарных месяцах, и был продлён с 6 месяцев до 270 дней, чтобы криминализации становились действующими лишь после методических норм (120 дней) и после периода приспособления обязанностей, зависящих от них (210 дней): криминализация, связанная с разрешением, предполагает наличие доступной разрешительной процедуры, а её включение до принятия норм противоречило бы предсказуемости уголовного закона (ст. 7 Европейской конвенции о правах человека, ст. 23 п. (12) Конституции). Заключительная формула удостоверения принятия, предусмотренная ст. 40 и 46 Закона № 24/2000, указывает на соблюдение ст. 75 и ст. 76 п. (1) Конституции, причём закон является органическим, поскольку регулирует преступления и наказания (ст. 73 п. (3) лит. h)) и изменяет, в порядке отступления, организацию самостоятельного административного органа, учреждённого органическим законом (ст. 117 п. (3)).

Единый календарь, следующий из ст. 48–50 и отсчитываемый от даты опубликования закона (P), таков: P+30 дней — вступление в силу, включая гарантию пользователя (ст. 43), запреты и непосредственно применимые обязанности; P+60 дней — назначение вице-председателя и организация Органа (ст. 49 п. (1)); P+90 дней — уведомление о системах, находящихся в эксплуатации (ст. 48 п. (2)); P+120 дней — принятие методических норм (ст. 49 п. (2)) и наступление срока исполнения обязанностей, не зависящих от норм (ст. 48 п. (1) и (4)), с какового момента становятся применимыми и ст. 38 и 39; P+210 дней — если нормы приняты в срок, наступление срока исполнения обязанностей, зависящих от норм, встроенная техническая маркировка и заявления о выдаче разрешения (ст. 48 п. (2), (4) и (5)); P+270 дней — вступление в силу уголовного раздела (ст. 40–42, 44 и 45); терпимость к системам, о которых подано уведомление, истекает через 12 месяцев со дня вступления в силу и продлевается в силу закона на срок задержки учреждений (ст. 48 п. (2)).

3. Соответствие нормам законодательной техники (Закон № 24/2000)

Проект был составлен при строгом соблюдении Закона № 24/2000, в новой редакции, а именно следующим образом. Обоснование и предварительная оценка воздействия (ст. 6, 7 и 30–31) содержатся в настоящем обосновании, с анализом нынешнего положения, сравнительных образцов и последствий. Встраивание в законодательную систему (ст. 13) обеспечено прямым соотнесением с Регламентом об ИИ (ст. 1 п. (3) закона) и отсылочными нормами к связанным актам. Устранение параллелизмов (ст. 16) стало предметом отдельного анализа, представленного в п. 3 Раздела 5-го: ни одно существующее регулирование не воспроизводится, а воспринимается по отсылке, а отступления прямо сформулированы формулой «в порядке отступления от», согласно ст. 63. Терминологическое единство (ст. 37) обеспечено определениями ст. 3, которые по отсылке воспринимают понятия, закреплённые правом Союза, и самостоятельно, с обоснованием, определяют новые понятия («передовая система», «веса», «эксплуатант», «ввод в эксплуатацию»), избегая терминов с иным значением в Регламенте об ИИ («оператор», «поставщик», «введение в действие»). Нормативный стиль (ст. 36 и 38) — предписывающий, в настоящем времени, без пояснений в скобках и без неустановившихся новообразований; все технические термины, употреблённые в предписывающей части («веса», «архитектура», «обучение», «тонкая настройка», «обучение с подкреплением», «извлечение», «самостоятельная репликация», «рекурсивное самоулучшение», «сокрытие способностей», «уклонение от надзора», «сопротивление остановке», «внешний инструмент», «разрешённая среда эксплуатации» и остальные), определены в ст. 3, построенной в двух пунктах — понятия-объекты и, соответственно, операции и поведение, — чтобы каждое перечисление оставалось в пределах букв алфавита и чтобы материальный элемент запретов и преступлений имел точное нормативное содержание. Составные части (ст. 40–46) таковы: заголовок, преамбула (допускаемая ст. 43 для сжатого изложения мотивов, по образцу законов особой важности), вводная формула, предписывающая часть и формула удостоверения законности принятия. Строение предписывающей части (ст. 47–56) соблюдает порядок: общие положения — материальные положения — переходные положения — заключительные положения, с главами, нумерованными римскими цифрами, и разделами — арабскими; статьи нумерованы непрерывно, пункты — арабскими цифрами в скобках, перечисления — буквами, и ни одно перечисление, обозначенное буквой, не содержит другого перечисления (ст. 49 п. (3)); статьи не имеют маргинальных наименований, поскольку ст. 47 п. (3) отводит их кодексам и законам большого объёма. Отсылочные нормы (ст. 50) указывают полные идентификационные данные актов, к которым отсылают, а передачи полномочий Правительству (ст. 49) ограничены процедурными и техническими вопросами, причём ст. 49 п. (2), последнее предложение, закона прямо запрещает методическим нормам устанавливать существенное содержание обязанностей, запретов и наказаний. Закон содержит лишь одно прямое вмешательство в текст иного нормативного акта — дополнение ст. 11 п. (1) Чрезвычайного постановления Правительства № 78/2016, предписанное ст. 45 п. (3), — составленное согласно ст. 59–62 (полная идентификация акта с данными об опубликовании и об утверждении и формула дополнения); точечные отступления допускаются ст. 63 и не затрагивают текста актов, от которых делается отступление. По итогам независимого правового анализа от 20 сентября 2026 года проект был пересмотрен ради: (i) разграничения его сферы с Регламентом об ИИ (ст. 1 п. (4), ст. 9 п. (7), ст. 17 п. (6), ст. 19 п. (1) и ст. 27 п. (6)); (ii) сохранения в законе всех элементов состава административных правонарушений и преступлений, с запретом их расширения стандартами (ст. 32 п. (4)); (iii) синхронизации процедур, стандартов и сроков единым календарём, отсчитываемым от даты опубликования (ст. 48–50); (iv) добавления процессуальных гарантий в отношении Органа (ст. 9 п. (4), ст. 11 п. (2), ст. 14 п. (4), ст. 32 п. (2)–(3), ст. 39 п. (1) и (5), ст. 45 п. (2)). Рабочий экземпляр проекта несёт пометку «ПРОЕКТ»; формула удостоверения законности принятия, помещённая в конце текста, является обычной для законопроекта и не означает уже состоявшегося принятия.

Раздел 3-й — Социально-экономическое воздействие проекта нормативного акта

Раздел 4-й — Финансовое воздействие на общий консолидированный бюджет как в краткосрочной перспективе, на текущий год, так и в долгосрочной (5 лет)

Финансовое воздействие состоит в расходах на организацию и функционирование Органа по безопасности искусственного интеллекта в составе ANCOM, оцениваемых для штата около 80 должностей, из которых не менее 50 технических специалистов, набранных по конкурсу и получающих вознаграждение на уровне рынка, и в расходах на вычислительную инфраструктуру, необходимую для оценок. Организация в составе ANCOM — органа, полностью финансируемого из собственных доходов, — снижает издержки учреждения (помещение, вспомогательные функции, информационные системы) и не обременяет государственный бюджет. Согласно ст. 33 п. (5) Орган финансируется из бюджета ANCOM отдельным ассигнованием, утверждаемым ежегодно и учитываемым отдельно, и из сборов за уведомление, за оценку и за выдачу разрешения, устанавливаемых методическими нормами соразмерно стоимости оказанной услуги; первоначальный бюджет, включая персонал и инфраструктуру, обеспечивается ANCOM до поступления сборов. Штрафы, применённые согласно закону, поступают в государственный бюджет и не могут определять средства Органа, а исследования, предусмотренные ст. 32 п. (1) лит. j), финансируются отдельным бюджетным ассигнованием, не связанным с наказаниями; доходы от штрафов не могут быть оценены заранее и ниже в расчёт не принимаются. Оценки, выраженные в миллионах леев, являются ориентировочными и подлежат окончательному определению Министерством финансов при согласовании.

Раздел 5 — Последствия настоящего нормативного акта для действующего законодательства

a) действующие нормативные акты, которые будут изменены или утратят силу вследствие вступления в силу проекта нормативного акта

Проект не лишает силы ни один нормативный акт и прямо изменяет — путём дополнения — лишь один нормативный акт (ст. 45 п. (3)). В остальном посредством приёма отсылочной нормы и прямого отступления он производит следующие последствия для действующего законодательства:

Чрезвычайное постановление Правительства № 78/2016 об организации и функционировании Управления по расследованию преступлений организованной преступности и терроризма, а также об изменении и дополнении некоторых нормативных актов, утверждённое с изменениями Законом № 120/2018, — прямое дополнение (ст. 45 п. (3) закона): в ст. 11 п. (1) вводится новый подпункт, которым преступления, предусмотренные ст. 40–42 закона, отнесены к компетенции названного Управления; 1 акт дополнен в тексте. Точную структуру ст. 11 п. (1) (нумерацию подпунктов и консолидированную редакцию на сегодняшний день) надлежит проверить по консолидированному тексту перед внесением проекта, и формула дополнения будет соответственно приведена в соответствие.

Чрезвычайное постановление Правительства № 27/2003 о процедуре молчаливого одобрения — прямое отступление (ст. 9 п. (4) закона): отсутствие ответа Органа не равнозначно молчаливому разрешению; 1 отступление.

Чрезвычайное постановление Правительства № 22/2009 об учреждении Национального органа по управлению и регулированию в области связи, утверждённое Законом № 113/2010, — прямое отступление (ст. 31 п. (2) закона) от ст. 11 п. (1): один дополнительный вице-председатель, по безопасности искусственного интеллекта, назначаемый Парламентом в тех же условиях; 1 отступление. Рамочный закон № 153/2017 не затрагивается, поскольку персонал ANCOM изъят из его применения ст. 2 п. (2) этого закона.

Закон об административном судопроизводстве № 554/2004 — прямое отступление (ст. 26 п. (6) закона) от ст. 7 (предварительная процедура), ст. 10 (предметная и территориальная подсудность) и ст. 20 (способ обжалования): оспаривания решений органов и публичных учреждений, предусмотренные ст. 26 и, по отсылке, ст. 18 п. (3) и ст. 27 п. (5), не подлежат предварительной процедуре, рассматриваются судом по месту жительства лица, с апелляцией в апелляционный суд; 1 отступление (от трёх текстов).

Постановление Правительства № 2/2001 о правовом режиме административных правонарушений — прямые отступления (ст. 37 п. (4) закона) от ст. 28 (уплата половины наименьшего размера штрафа) и от ст. 13 п. (1) (срок давности применения наказания); 2 отступления.

Закон № 361/2022 о защите лиц, сообщающих о нарушениях в публичном интересе, — дополнение сферы применения отсылочной нормой (ст. 21 закона), без изменения текста; режим защиты распространяется на сообщения о рисках для безопасности и о сокрытии способностей.

Регламент (ЕС) 2016/679 (ст. 22) и Закон № 190/2018 — отсылочные нормы (ст. 26 п. (8) закона), без изменения.

Регламент (ЕС) 2022/2065 о цифровых услугах — норма согласования (ст. 27 п. (6) закона): для поставщиков посреднических услуг ст. 27 применяется лишь в мере, совместимой с регламентом, положения которого о договорных условиях (ст. 14), о мотивировании решений (ст. 17) и о рассмотрении жалоб (ст. 20) остаются применимыми; ни одна гарантия регламента для получателей услуг не ограничивается; без изменения.

Регламент (ЕС) 2024/1689 — нормы согласования: ст. 1 п. (4) и ст. 9 п. (7) закона (закон не устанавливает условий введения на рынок Союза моделей общего назначения и не затрагивает компетенций Комиссии, предусмотренных ст. 88 регламента; для моделей с системным риском, поставщики которых соблюдают главу V регламента, Орган опирается на документацию, сообщённую Управлению по ИИ); ст. 17 п. (6) (для поставщиков и внедряющих лиц, к которым применяется ст. 50 регламента, обязанности маркировки считаются исполненными соблюдением ст. 50 п. (2) и (4), причём закон устанавливает лишь компетентный орган, процедуру установления и наказания, в пределах ст. 99 п. (4) регламента); ст. 18 п. (5) (ст. 50 п. (1) регламента и ст. 13–15 и 22 Регламента (ЕС) 2016/679); ст. 19 п. (1) и (6) (разработчики и эксплуатанты, учреждённые в другом государстве-члене, назначают лишь контактное лицо, которым может быть уполномоченный представитель, предусмотренный ст. 54 регламента, либо законный представитель, предусмотренный ст. 13 Регламента (ЕС) 2022/2065; уполномоченный представитель, наделённый полномочиями и для Румынии, исполняет обязанность по закону); без изменения актов Союза.

Директива 2000/31/ЕС (ст. 3) и Закон № 365/2002 об электронной торговле, в новой редакции, — отсылочные нормы (ст. 4 п. (4) и ст. 39 п. (4) закона): обязанности закона применяются к услугам, предоставляемым из другого государства-члена, в условиях ст. 3 директивы, а блокирование такой услуги предписывается только индивидуально, в отношении определённой услуги, с процедурой обращения к государству-члену происхождения и уведомления Европейской комиссии; без изменения.

Директива (ЕС) 2024/2853 об ответственности за товары с недостатками — норма согласования (ст. 35 п. (5) закона): объективная ответственность, установленная законом, является отдельным основанием, не изменяющим гармонизированный режим ответственности за товары; в той мере, в какой исключение непреодолимой силы по мотиву отсутствия научного знания входит в сферу директивы, Правительство исполняет формальности, предусмотренные ст. 18 директивы (отступление относительно риска разработки).

Директива (ЕС) 2015/1535 о процедуре предоставления информации в области технических регламентов и норм об услугах информационного общества, транспонированная Постановлением Правительства № 1016/2004, — подлежит проверке перед внесением проекта: положения ст. 17–19, 38 и 39 закона, а также методические нормы о технической маркировке способны составить «регламенты об услугах» в смысле директивы, и в этом случае проект уведомляется Европейской комиссии на стадии проекта с соблюдением периода ожидания; записка о европейских уведомлениях прилагается к проекту.

Гражданский кодекс (ст. 1376), Уголовный кодекс (ст. 16 п. (4), ст. 135), Уголовно-процессуальный кодекс (ст. 36, 168, 249), Гражданский процессуальный кодекс (исковая процедура, ст. 23 п. (2) и ст. 26 п. (5) закона), Закон № 182/2002, Чрезвычайное постановление Правительства № 155/2024, Закон № 240/2004 — отсылочные нормы, без изменения.

В итоге: 0 актов лишено силы, 1 акт дополнен в тексте (Чрезвычайное постановление Правительства № 78/2016), 5 прямых отступлений (от 7 текстов), 2 дополнения сферы применения отсылочной нормой (Закон № 361/2022, Закон № 365/2002), нормы согласования с правом Союза в ст. 1 п. (4), ст. 9 п. (7), ст. 17 п. (6), ст. 18 п. (5), ст. 19 п. (1) и (6), ст. 27 п. (6) и ст. 35 п. (5); 1 европейское уведомление подлежит проверке (Директива (ЕС) 2015/1535). Соотнесения с консолидированными редакциями упомянутых национальных актов (Кодексы, законы № 182/2002, 365/2002, 554/2004 и 361/2022, Постановление Правительства № 2/2001, Чрезвычайные постановления Правительства № 22/2009, 78/2016 и 155/2024) проверяются по консолидированным текстам перед внесением проекта.

b) нормативные акты, которые предстоит разработать вследствие внедрения новых положений

Постановление Парламента о назначении вице-председателя ANCOM по безопасности искусственного интеллекта и решение председателя ANCOM, опубликованное в Официальном мониторе, о дополнении организационной структуры и регламента организации и функционирования Органом, включая организацию отдельных структур оценки, расследования и принятия решения о наказании (ст. 32 п. (2)); срок: 60 дней со дня опубликования закона (ст. 49 п. (1)).

Постановление Правительства об утверждении Методических норм применения закона, принимаемое по предложению Органа, с заключением Научного совета и после публичного обсуждения продолжительностью не менее 30 дней; срок: 120 дней со дня опубликования закона (ст. 49 п. (2)). Предмет: процедура уведомления и выдачи разрешения; упрощённая процедура признания систем, законно введённых в эксплуатацию в другом государстве-члене (ст. 9 п. (7)); стандарты оценки, безопасности весов и способности остановки; условия изолированной среды (ст. 15 п. (2)); стандарты маркировки происхождения (ст. 17); методы оценки и уровни значимости критических способностей, в пределах ст. 5 п. (2), без возможности добавить иные категории результатов; порог вычислительной инфраструктуры большой мощности (ст. 6 п. (4)); размер сборов, устанавливаемый соразмерно стоимости услуги; размер страхования либо финансового обеспечения (ст. 36); процедура проверки персонала, имеющего доступ к весам, с заключением Национального реестрового управления по секретным сведениям (ст. 12 п. (1)); процедура испытания способности остановки (ст. 14 п. (1)); уровень, с которого устанавливается утрата понятности журналов (ст. 16 п. (5)); компенсационное вознаграждение вице-председателя (ст. 31 п. (3)). Нормы детализируют рамку закона и не могут устанавливать существенное содержание обязанностей, запретов и наказаний; стандарты публикуются.

Провизорные ориентиры Органа, публикуемые до принятия методических норм, причём оценки в этот промежуток производятся согласно кодексам добросовестной практики, принятым на основании Регламента об ИИ, и научно признанным методам (ст. 49 п. (3)); впоследствии — стандарты Органа, одобренные Научным советом, в пределах ст. 32 п. (4).

Решение председателя ANCOM об уровне вознаграждения специализированного персонала Органа на основе опубликованного исследования рынка (ст. 33 п. (3)); объявление и регламент конкурса для специализированного персонала (ст. 33 п. (1) и (2)).

Постановление Высшего совета обороны страны об изменениях, применимых к системам в области обороны и национальной безопасности (ст. 23).

Постановления Правительства о периодической корректировке вычислительного порога, по предложению Органа (ст. 6 п. (2)).

Закон о применении Регламента (ЕС) 2024/1689, разрабатываемый Правительством, должен быть соотнесён с настоящим законом в части сотрудничества между назначенными органами и Органом (ст. 31 п. (5)) и правила, согласно которому за одно и то же деяние не могут быть применены два наказания на основании закона и Регламента (ст. 37 п. (5)).

c) Анализ законодательных параллелизмов (ст. 16 Закона № 24/2000)

Согласно ст. 16 п. (1) Закона № 24/2000, «в законотворческом процессе запрещается устанавливать одни и те же нормы в нескольких статьях или пунктах одного нормативного акта либо в двух или более нормативных актах», а для обозначения законодательных связей используется отсылочная норма. Каждое положение проекта было проверено относительно действующего законодательства; результаты сведены в следующей таблице.

Раздел 6-й — Консультации, проведённые в целях разработки проекта нормативного акта

Раздел 7 — Деятельность по публичному осведомлению о разработке и осуществлении проекта нормативного акта

Раздел 8-й — Меры внедрения

С учётом изложенного было разработано прилагаемое законодательное предложение, которое мы вносим в Парламент на обсуждение и принятие.

Инициатор,

ДОКУМЕНТАЛЬНАЯ ЗАПИСКА

Источники, учтённые при разработке предложения

1. Регламент (ЕС) 2024/1689 Европейского парламента и Совета от 13 июня 2024 года об установлении гармонизированных норм об искусственном интеллекте, ОЖ L, 12.7.2024 — в особенности ст. 2, 3, 5, 14, 51–56, 68, 72–73, 78, 87, 99–101 и приложение XIII.

2a. Dario Amodei, «We Must Pace the Frontier», 12 сентября 2026 года (darioamodei.com); сообщения VentureBeat, TechRadar, Newsweek, The Spokesman-Review от 12 сентября 2026 года об этом эссе, об инциденте с Hugging Face и о реакциях Сэма Альтмана и Илона Маска; интервью Сэма Альтмана журналу Fortune (13 сентября 2026 года), приведённое Bloomberg и Business Standard.

2g. Республика Корея — «Framework Act on the Development of Artificial Intelligence and Establishment of Trust» (Рамочный закон о развитии искусственного интеллекта и установлении доверия), в силе с 22 января 2026 года: обязанность маркировки содержания, созданного генеративным искусственным интеллектом, обязанность предварительного информирования пользователей и обязанность иностранных поставщиков назначить местного представителя по соблюдению требований; официальный перевод на английский язык, опубликованный Center for Security and Emerging Technology, Georgetown University, https://cset.georgetown.edu/wp-content/uploads/t0625_south_korea_ai_law_EN.pdf; анализ: Future of Privacy Forum, https://fpf.org/blog/south-koreas-new-ai-framework-act-a-balancing-act-between-innovation-and-regulation/ ; Cooley LLP, 27 января 2026 года, https://www.cooley.com/news/insight/2026/2026-01-27-south-koreas-ai-basic-act-overview-and-key-takeaways.

2h. Регламент (ЕС) 2024/1689, ст. 50 (обязанности прозрачности, применимые с 2 августа 2026 года) и ст. 54 (уполномоченный представитель поставщиков моделей общего назначения, учреждённых в третьих государствах); Кодекс добросовестной практики Европейской комиссии о прозрачности содержания, созданного искусственным интеллектом (проект, 2026).

2f. Yoshua Bengio, интервью изданию The Guardian (Dan Milmo), 16 сентября 2026 года, о приближении переломного момента регулирования, сравнимого с моментом пандемии; письмо 42 членов и иностранных членов Королевского общества Великобритании о «крайней обеспокоенности» темпом развития; сообщение Digi24 от 16 сентября 2026 года, https://www.digi24.ro/stiri/sci-tech/lumea-digitala/nasul-inteligentei-artificiale-spune-ca-reglementarea-ai-se-apropie-de-un-punct-de-cotitura-similar-cu-cel-al-pandemiei-de-covid-3950743; Time, «The AI Tipping Point», 15 сентября 2026 года, о законодательных предложениях, находящихся на обсуждении в Конгрессе Соединённых Штатов.

2e. Публичная дискуссия сентября 2026 года: публичная отставка исследователя Jacob Coxon (Anthropic), 8 сентября 2026 года, и реакции руководителей отделов согласования и исследований Anthropic и OpenAI — сообщения CBC News, Time (15 сентября 2026 года), Forbes и Fortune (9–10 сентября 2026 года); позиции, высказанные на ежегодной конференции Salesforce в Сан-Франциско 15 сентября 2026 года Сэмом Альтманом, Марком Цукербергом, Дженсеном Хуангом, Джеком Кларком и Дарио Амодеи — сообщения BBC News (16 сентября 2026 года), The Irish Times, CNBC и Forbes.

2c. Хронология инцидента лета 2026 года (уход агентов из испытательной среды OpenAI и компрометация платформы Hugging Face): Cloud Security Alliance, «The Great Sandbox Escape» (28 июля 2026 года), https://cloudsecurityalliance.org/blog/2026/07/28/openai-and-hugging-face-security-incident-inside-the-great-sandbox-escape; Malwarebytes Labs, «The AI agent swarm that attacked Hugging Face is a warning for the future» (август 2026 года), https://www.malwarebytes.com/blog/ai/2026/08/the-ai-agent-swarm-that-attacked-hugging-face-is-a-warning-for-the-future; Axios, «OpenAI Hugging Face breach exposes AI agent security limits» (1 сентября 2026 года), https://www.axios.com/2026/09/01/openai-hugging-face-ai-agent-security; TechCrunch, «OpenAI’s rogue agents keep escaping, with no formal process to investigate them» (4 сентября 2026 года), https://techcrunch.com/2026/09/04/openais-rogue-agents-keep-escaping-with-no-formal-process-to-investigate-them/; Noma Security, «The Great (Sandbox) Escape» (2026), https://noma.security/blog/the-great-sandbox-escape-analyzing-the-openai-hugging-face-security-incident; совместное заявление OpenAI и Hugging Face от 21 июля 2026 года.

2d. Законодательные предложения, внесённые в Конгресс Соединённых Штатов Америки в ответ на инцидент: «AI Kill Switch Act» (23 июля 2026 года) и «Ban Artificial Superintelligence Act» (3 сентября 2026 года); открытое письмо более 1100 работников передовых лабораторий о механизмах сдерживания темпа развития (28 июля 2026 года).

2b. Сенатор Alex Antic (Сенат Австралии), парламентская речь, публично распространённая в 2026 году, о «цифровой тюрьме» (экономика подписки, цифровая идентичность, подчинение как цена участия в обществе), https://www.facebook.com/reel/1059873890017722/.

2. CNN, «Amanpour», 2 мая 2023 года — интервью с Джеффри Хинтоном и Коннором Лихи («We do not know how to control these things»; Хинтон: исчезновение человечества «не является немыслимым»; Лихи: «к сожалению, довольно вероятно»).

3. Center for AI Safety, «Statement on AI Risk», 30 мая 2023 года; публичные заявления Джеффри Хинтона (BBC, декабрь 2024 года; CBS, апрель 2025 года) о вероятности 10–20% и о сравнении с «тигрёнком»; «International AI Safety Report», январь 2025 года (под ред. Y. Bengio); RAND Corporation, «Securing AI Model Weights», 2024; письмо «A Right to Warn about Advanced Artificial Intelligence», 4 июня 2024 года.

4. ANCOM, сообщение «Регламент об искусственном интеллекте в Румынии — нынешнее состояние рамки внедрения» (июль 2026 года); специальная печать (Juridice.ro, Bursa.ro, август 2026 года) о невозможности наложения наказаний до принятия национального закона.

5. Калифорния SB 53 — Transparency in Frontier Artificial Intelligence Act (29 сентября 2025 года); исполнительный указ США № 14110 (30 октября 2023 года, отменён в январе 2025 года); Временные меры Китайской Народной Республики об услугах генеративного ИИ (15 августа 2023 года); Рамочная конвенция Совета Европы об искусственном интеллекте (CETS № 225, 2024); Резолюция Генеральной Ассамблеи ООН 78/241 (22 декабря 2023 года); совместный призыв Генерального секретаря ООН и Международного комитета Красного Креста (5 октября 2023 года).

6. Закон № 24/2000 о нормах законодательной техники для разработки нормативных актов, в новой редакции, с последующими изменениями и дополнениями — в особенности ст. 6, 7, 13, 16, 30–31, 36–38, 40–56, 63; Постановление Правительства № 561/2009 об утверждении Регламента о процедурах на уровне Правительства по разработке, согласованию и представлению проектов документов публичной политики, проектов нормативных актов, а также иных документов в целях их принятия или утверждения — приложение № 1 (структура обоснования).

7. Конституция Румынии, в новой редакции (ст. 1, 22, 34, 53, 73, 75, 76, 78, 117, 119, 142, 148); Гражданский кодекс (ст. 11, 25, 1246–1250, 1376); Уголовный кодекс (ст. 8, 9–11, 21, 135, 275, 303, 345, 395); Уголовно-процессуальный кодекс (ст. 36, 168, 249); Закон № 111/1996; Закон № 703/2001; Закон № 182/2002; Закон № 415/2002; Закон № 240/2004; Закон № 95/2006; Закон № 190/2018; Закон № 129/2019; Закон № 361/2022; Закон № 365/2002; Рамочный закон № 153/2017; Чрезвычайное постановление Правительства № 77/2009; Постановление Правительства № 2/2001; Чрезвычайные постановления Правительства № 27/2003, № 78/2016, № 155/2024, № 195/2005.

8. Судебная практика: Суд Европейского союза, C-157/96, National Farmers’ Union (1998); Суд общей юрисдикции ЕС, T-13/99, Pfizer Animal Health (2002); Суд Европейского союза, C-376/22, Google Ireland и другие, решение от 9 ноября 2023 года, ECLI:EU:C:2023:835 (п. 25–35); Конституционный суд Румынии, Решение № 51/2016 (ясность и предсказуемость закона).

9. Независимый правовой анализ проекта (редакция от 20 сентября 2026 года) с указанными в нём проверенными источниками: Регламент (ЕС) 2024/1689 (консолидированный текст, 27 июля 2026 года), Регламент (ЕС) 2022/2065 (соображение 9, ст. 14, 17, 20), Директива 2000/31/ЕС (ст. 3), Директива (ЕС) 2024/2853 (ст. 2–3, 18), Директива (ЕС) 2019/1937 (ст. 6, 15, 21), Директива (ЕС) 2015/1535 и Постановление Правительства № 1016/2004, Закон № 120/2018 об утверждении Чрезвычайного постановления Правительства № 78/2016.