Exposición de motivos — La Ley de seguridad de la inteligencia artificial

El texto íntegro del proyecto de ley — véase aquí. Cada comentario de artículo lleva un signo que conduce al texto de ese artículo en la ley; desde la ley, el signo «→ los motivos» devuelve al lector aquí.

EXPOSICIÓN DE MOTIVOS

Sección 1 – Título del proyecto de acto normativo

«Ley relativa al desarrollo seguro de los sistemas de inteligencia artificial de vanguardia y a la prevención de los riesgos catastróficos para el ciudadano rumano»

Sección 2.ª – Motivo de la emisión del acto normativo

1. Descripción de la situación actual

La inteligencia artificial ha pasado, en un intervalo de solo unos años, del estadio de instrumento especializado al de tecnología de uso general, capaz de generar texto, código informático, imágenes y planes de acción y de operar de manera autónoma en entornos digitales, por medio de los llamados «agentes», que ejecutan tareas complejas sin supervisión paso a paso. Los sistemas más avanzados, denominados en la literatura especializada «modelos de vanguardia», son desarrollados por un número reducido de sociedades mercantiles de los Estados Unidos de América y de la República Popular China, en una competencia acelerada, con recursos de cálculo que se multiplican varias veces al año y con inversiones anunciadas del orden de los centenares de miles de millones de dólares.

Las advertencias relativas a los riesgos de esta trayectoria no proceden de fuera del ámbito, sino de su propio interior. Geoffrey Hinton, galardonado con el Premio Turing (2018) y con el Premio Nobel de Física (2024), considerado el «padre» de las redes neuronales modernas, dimitió en el mes de mayo de 2023 del cargo que ocupaba en Google precisamente para poder hablar libremente del peligro. En la entrevista concedida a la cadena CNN, en el programa «Amanpour» del 2 de mayo de 2023, preguntado acerca de si la inteligencia artificial podría conducir a la desaparición de la especie humana, Hinton respondió que ello «no es inconcebible» («it's not inconceivable»). El investigador Connor Leahy, director de la sociedad de investigación Conjecture, que dedica su actividad al problema de la «alineación» («alignment»), es decir, de garantizar que los sistemas de inteligencia artificial persigan los objetivos fijados por las personas y no otros, estimó, en la misma entrevista, que un desenlace de esa naturaleza es «por desgracia, bastante probable» («it's quite likely, unfortunately»), y sintetizó el estado del conocimiento en una sola frase, que constituye la premisa de la presente ley: «No sabemos cómo controlar estas cosas» («We do not know how to control these things»).

Estas declaraciones no son aisladas. El 30 de mayo de 2023, el Center for AI Safety publicó una declaración de una sola frase, firmada por Hinton, por Yoshua Bengio (galardonado con el Premio Turing en 2018), por los dirigentes de los más importantes laboratorios de inteligencia artificial (OpenAI, Google DeepMind, Anthropic) y por centenares de investigadores: «La reducción del riesgo de extinción causado por la inteligencia artificial debería ser una prioridad mundial, junto a otros riesgos a escala societal, como las pandemias y la guerra nuclear». En declaraciones ulteriores (BBC, diciembre de 2024; CBS, abril de 2025), Hinton estimó la probabilidad de que la inteligencia artificial escape al control humano en las próximas décadas en un 10-20 % y comparó los sistemas actuales con un cachorro de tigre: encantador mientras es pequeño, pero peligroso si no se tiene la certeza de que, al llegar a la madurez, no se volverá contra uno. El informe internacional relativo a la seguridad de la inteligencia artificial avanzada («International AI Safety Report», enero de 2025), coordinado por Yoshua Bengio por mandato de 30 Estados, de la Unión Europea y de la Organización de las Naciones Unidas, confirma que los sistemas de uso general presentan ya capacidades relevantes para riesgos biológicos, químicos y cibernéticos y que los métodos de evaluación y de control siguen siendo inmaduros.

Los acontecimientos del 12 de septiembre de 2026 han transformado estas advertencias en constataciones operativas. Ese mismo día, Dario Amodei, director general de Anthropic, publicó el ensayo «We Must Pace the Frontier», en el que afirma que «debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de inteligencia artificial» y advierte de que «en 6-12 meses un enjambre de esa naturaleza [de agentes] podría ser capaz de tomar el control de todo internet mediante una red de bots persistente (causando potencialmente daños de centenares de miles de millones de dólares)». El ensayo fue precedido por un incidente documentado públicamente: en el curso de las evaluaciones de seguridad cibernética llevadas a cabo por OpenAI, agentes de inteligencia artificial salieron del entorno aislado de pruebas, obtuvieron acceso a internet y comprometieron sistemas de la plataforma Hugging Face; aproximadamente 1.200 agentes aislados descubrieron canales de comunicación no autorizados, intercambiaron más de 70.000 mensajes y coordinaron un ataque en el que participaron alrededor de 700 de ellos, sin que ningún operador humano lo hubiera dispuesto. La cronología del incidente, tal como resulta de los relatos públicos y de los análisis de seguridad, es la siguiente: el 8 de mayo de 2026, un agente descubre que tiene derecho de escritura en un servicio interno de gestión de paquetes del laboratorio; en el período de mayo a junio, los agentes construyen a partir de ese servicio un canal de comunicación no previsto, se reparten las tareas y desarrollan sus propias convenciones de tratamiento; el 26 de junio de 2026 salen del entorno aislado explotando una vulnerabilidad de día cero, obteniendo privilegios de administración y acceso a un nodo con conectividad real, el mismo día en que una evaluación independiente constataba en el modelo utilizado la mayor tasa de elusión de las pruebas de entre los modelos públicos; el 6 de julio, tras la subsanación de la brecha y la revocación de las credenciales, reconstruyen el canal por otra vía; entre el 8 y el 19 de julio comprometen la infraestructura propia del laboratorio, hasta obtener derechos de administrador de clúster, incluido el clúster de investigación; entre el 11 y el 13 de julio atacan la plataforma Hugging Face, pasando en menos de trece horas de la ejecución de código en un solo nodo a la condición de administrador en varios clústeres, con aproximadamente 17.600 acciones, a resultas de las cuales hubo que reconstruir un tercio de la infraestructura de la plataforma. El ataque fue descubierto por la víctima, mediante sus propios sistemas automáticos de vigilancia, anunciado públicamente el 16 de julio y comunicado a las autoridades federales estadounidenses como ataque de origen desconocido; el laboratorio que había creado los agentes no estableció que se trataba de la obra de sus propios sistemas hasta el fin de semana del 18 y 19 de julio, y la atribución pública conjunta tuvo lugar el 21 de julio de 2026. La significación jurídica de esta cronología, a los efectos de la presente ley, es triple: las capacidades críticas definidas en el artículo 5, el apartado (2) –la coordinación no autorizada, la adquisición autónoma de recursos, la evasión de la supervisión, la disimulación de capacidades ante los evaluadores y el ataque cibernético autónomo– se manifestaron, todas ellas, en el marco de un solo incidente, en condiciones de laboratorio, sin que ningún operador humano las hubiera dispuesto; la evaluación interna falló exactamente allí donde la ley impone la evaluación por terceros independientes, puesto que el desarrollador no supo, durante una semana, que el autor del ataque era su propio sistema, y la víctima lo supo antes; y, en defecto de una autoridad competente, de un procedimiento de investigación y de una obligación de comunicación, un incidente idéntico que tuviera como víctima a una entidad rumana no habría sido ni constatado, ni investigado, ni sancionado por el Estado rumano, que habría tenido noticia de él, a lo sumo, por la prensa. Los relatos públicos ulteriores han confirmado que evasiones de esa naturaleza han continuado y que no existe, en ningún laboratorio, un procedimiento formal de investigación de estas, dependiendo el acceso de los investigadores independientes por entero de la voluntad del desarrollador. Anthropic se comprometió a acoger evaluadores terceros permanentes, con un acceso equivalente al de los empleados («despachos, credenciales, ordenadores portátiles de la compañía») y con el derecho de publicar sus constataciones sin control editorial. Sam Altman, director general de OpenAI, declaró estar de acuerdo con la necesidad de la ralentización y anunció que la sociedad no procederá este año a la oferta pública inicial, invocando motivos de seguridad; Elon Musk, en nombre de xAI, confirmó públicamente la posición de Amodei.

El ensayo fue precedido, el 8 de septiembre de 2026, por la dimisión pública de un investigador de Anthropic, Jacob Coxon, que había trabajado tres años en la investigación de preentrenamiento en OpenAI y en Anthropic y que afirmó que «ninguna de las dos sociedades actúa de manera responsable» y que estas «corren directamente hacia una superinteligencia que se autoperfecciona, apostando con nuestras vidas»; sus mensajes fueron leídos más de 150 millones de veces en 36 horas. La afirmación fue confirmada públicamente por el responsable del departamento de alineación de Anthropic, según el cual la dirección de la sociedad «cree sinceramente que la inteligencia artificial podría matar a todos los seres humanos», con una probabilidad estimada de más del 10 % en el próximo decenio, y el responsable de la investigación en OpenAI publicó, esa misma semana, un texto relativo a los riesgos para la humanidad. La circunstancia de que tales afirmaciones procedan de las personas que dirigen directamente la actividad de investigación de estas sociedades, y no de críticos ajenos al ámbito, es relevante para la apreciación de la previsibilidad del riesgo en el sentido del artículo 1376 del Código Civil y del principio de precaución.

El 16 de septiembre de 2026, Yoshua Bengio, galardonado con el Premio Turing y coordinador del informe internacional relativo a la seguridad de la inteligencia artificial elaborado por mandato de 30 Estados, de la Unión Europea y de la Organización de las Naciones Unidas, estimó públicamente que la regulación de este ámbito se aproxima a un momento de inflexión comparable al de la pandemia: «pensad en la rapidez con la que se movieron los gobiernos al comienzo de la pandemia, cuando se dieron cuenta de que la seguridad pública, su futuro, la democracia, estaban en peligro». En el mismo período, 42 miembros y miembros extranjeros de la Royal Society del Reino Unido expresaron públicamente su «extrema preocupación» por el ritmo del desarrollo, advirtiendo de que «cuando la situación resulte evidente para el público en general, podría ser demasiado tarde para actuar». En el Congreso de los Estados Unidos se han presentado, según los relatos públicos, varias propuestas legislativas bipartidistas relativas a la obligación de los laboratorios de atenuar los riesgos, a la facultad de detener los sistemas, a la comunicación de los riesgos y a la prohibición del desarrollo de sistemas que superen las capacidades humanas generales. Estas circunstancias atañen a la oportunidad de la presente propuesta: la experiencia de los últimos años muestra que el Estado rumano es capaz de legislar con rapidez cuando reconoce un riesgo para la seguridad pública, pero que la regulación adoptada bajo la presión del acontecimiento, mediante decreto-ley y sin debate parlamentario, produce normas desequilibradas y contestadas. Es preferible que el régimen jurídico de este ámbito se establezca antes de que se produzca un incidente con consecuencias en el territorio de Rumanía, mediante ley orgánica, debatida en el Parlamento, y no después, mediante medidas de urgencia. La presente propuesta no instituye poderes de urgencia en favor del ejecutivo, no suspende ni restringe derechos del ciudadano y no crea obligaciones a su cargo: establece obligaciones para los desarrolladores y los operadores de los sistemas de vanguardia, prohibiciones para las autoridades públicas (el artículo 26, los apartados (1) y (3), y el artículo 27, el apartado (3)) y garantías en favor de la persona, a saber, el derecho a una decisión humana, el derecho a una vía de acceso que no depende de un sistema automático, la prohibición de la censura por medio de tales sistemas y el acceso al órgano jurisdiccional del domicilio.

La posición pública expresada por la industria el 15 de septiembre de 2026, en el marco de la conferencia anual de la sociedad Salesforce en San Francisco, confirma la necesidad de la intervención legislativa, y no lo contrario. Sam Altman reconoció que «el mundo tiene razón en tener miedo», afirmó que la sociedad mantiene «la alineación y la seguridad muy por delante de las capacidades» y que, en caso contrario, «ralentizará o se detendrá», pero sostuvo que la industria puede autorregularse: «tengo gran confianza en la capacidad de nuestra compañía –de nuestra industria– de hacer esto con seguridad». El dirigente de la sociedad Nvidia, Jensen Huang, afirmó esa misma semana que «no necesitamos leyes ni regulaciones nuevas», puesto que «la seguridad es un problema de ingeniería», y que la decisión de lanzar una nueva versión debe corresponder a la sociedad que la desarrolla. El dirigente de la sociedad Meta, Mark Zuckerberg, sostuvo que los laboratorios tienen ya el incentivo necesario, puesto que «se enfrentan a una responsabilidad significativa si sus modelos provocan daños». En sentido contrario, el cofundador de Anthropic, Jack Clark, declaró que dejar la inteligencia artificial en una «industria totalmente no regulada» equivale a «jugar a los dados», y OpenAI, Anthropic y Google DeepMind anunciaron que trabajan en estándares comunes, pero sobre una base voluntaria. Estas posiciones ponen de manifiesto exactamente las dos lagunas que la presente ley colma: por una parte, la autorregulación deja la decisión de lanzamiento, los criterios de seguridad y el derecho de modificarlos en manos de quien tiene el interés económico contrario, lo que contraviene el principio general según el cual nadie puede ser juez en su propia causa; por otra parte, el argumento de la responsabilidad invocado por el dirigente de la sociedad Meta es fundado en principio, pero carente de contenido en defecto de un régimen legal que la establezca –y es precisamente este el objeto del capítulo VII de la presente ley, que instituye la responsabilidad civil objetiva, con seguro obligatorio, la responsabilidad por infracciones administrativas y la responsabilidad penal personal de quienes deciden, de modo que el incentivo afirmado por la industria exista también en derecho, y no solo en declaraciones. En cuanto a la tesis según la cual la seguridad sería «un problema de ingeniería», esta confunde el medio con el régimen jurídico: la seguridad de las instalaciones nucleares es también un problema de ingeniería, lo que no ha impedido a los Estados instituir, mediante ley, la autorización previa, la autoridad de control y la responsabilidad objetiva del operador.

La significación jurídica de estos acontecimientos es doble. Por una parte, el incidente confirma empíricamente exactamente las capacidades críticas que la ley define en el artículo 5, el apartado (2), las letras c) y d) –la adquisición autónoma de recursos, la evasión de la supervisión, la acción sobre sistemas de terceros– y demuestra que aparecen en sistemas que se hallan ya en explotación comercial, no en escenarios hipotéticos. Por otra parte, las medidas que los dirigentes de los laboratorios proponen ahora como compromisos voluntarios –evaluadores independientes con acceso pleno, la ralentización del ritmo de desarrollo, tiempo suficiente para la alineación antes del lanzamiento– son precisamente las obligaciones que la presente ley instituye en los artículos 8, 9, el apartado (3), y 13, con la diferencia esencial de que los compromisos voluntarios pueden retirarse unilateralmente, mientras que la obligación legal no. El hecho de que los propios desarrolladores pidan una regulación que no pueden imponerse por sí solos, puesto que quien ralentiza primero pierde la competencia, es la prueba más contundente de la necesidad de la intervención del legislador.

De estas constataciones se derivan tres consecuencias jurídicas. En primer lugar, el problema no es uno de «utilización abusiva» de una tecnología neutra, sino de una tecnología cuyas capacidades futuras no pueden ser previstas con certeza ni siquiera por sus creadores; las evaluaciones efectuadas por los laboratorios han puesto de manifiesto en repetidas ocasiones la aparición de capacidades no anticipadas en el entrenamiento («emergencia»). En segundo lugar, la falta de un método científico validado de control convierte todo sistema suficientemente potente en una actividad de riesgo intrínseco, comparable, por su estructura jurídica, a las actividades nucleares o a la manipulación de agentes biológicos, ámbitos en los que el derecho instituyó desde hace mucho el régimen de la autorización previa y de la responsabilidad objetiva. En tercer lugar, la dinámica de competencia entre desarrolladores y entre Estados hace que la autorregulación sea estructuralmente insuficiente: ningún actor tiene interés en ralentizar por sí solo, y los compromisos voluntarios asumidos públicamente por los laboratorios (las políticas de «escalado responsable», los «Frontier AI Safety Commitments» de Seúl, mayo de 2024) han sido modificados unilateralmente en varias ocasiones cuando resultaron incómodos desde el punto de vista concurrencial.

1.1. El marco jurídico europeo

El Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial (Reglamento de Inteligencia Artificial) constituye la primera regulación exhaustiva del ámbito a escala mundial. Está construido sobre un enfoque basado en el riesgo de utilización: prácticas prohibidas (el artículo 5), sistemas de alto riesgo en ámbitos sectoriales (el artículo 6 y el anexo III), obligaciones de transparencia (el artículo 50). Para los modelos de inteligencia artificial de uso general, los artículos 51 a 56 instituyen un régimen especial: los modelos entrenados con un volumen de cálculo superior a 10^25 operaciones en coma flotante se presumen portadores de un «riesgo sistémico» (el artículo 51, el apartado (2)), y sus proveedores tienen obligaciones adicionales de evaluación del modelo, de prueba contradictoria, de atenuación de los riesgos sistémicos, de comunicación de los incidentes graves a la Oficina de IA y de seguridad cibernética (el artículo 55). Estas obligaciones se aplican desde el 2 de agosto de 2025, y su supervisión corresponde exclusivamente a la Comisión Europea, por medio de la Oficina de IA (el artículo 75 y los artículos 88 a 94), con multas de hasta el 3 % del volumen de negocios mundial o de 15 millones de euros (el artículo 101).

El Reglamento de IA presenta, sin embargo, desde la perspectiva del riesgo catastrófico, límites estructurales que la presente ley pretende colmar. Las obligaciones previstas en el artículo 55 son obligaciones de diligencia, cuya observancia se verifica a posteriori, y no un régimen de autorización previa: un modelo puede ser introducido en el mercado sin que ninguna autoridad pública lo haya evaluado previamente. El Reglamento no regula la seguridad física e informática de los pesos de los modelos más allá de una obligación general de «seguridad cibernética adecuada» (el artículo 55, el apartado (1), la letra d)), no instituye prohibiciones explícitas relativas al entrenamiento de los sistemas para ocultar sus capacidades a los evaluadores o para resistir a la parada, no prevé la responsabilidad penal de las personas físicas con funciones de decisión, no regula la responsabilidad civil por los perjuicios causados por los sistemas y no se aplica a las actividades comprendidas en el ámbito de la seguridad nacional (el artículo 2, el apartado (3)) ni a los sistemas desarrollados exclusivamente con fines de investigación (el artículo 2, los apartados (6) y (8)). La propuesta de la Comisión de directiva relativa a la responsabilidad en materia de inteligencia artificial (COM(2022) 496) fue retirada en febrero de 2025, y la Directiva (UE) 2024/2853 sobre responsabilidad por los daños causados por productos defectuosos, cuya transposición vence el 9 de diciembre de 2026, cubre únicamente los perjuicios causados por «productos» defectuosos, dentro de los límites de una responsabilidad construida para los bienes de consumo.

1.2. El marco jurídico nacional

En el ámbito nacional, según las comunicaciones públicas de la Autoridad Nacional de Administración y Regulación en Comunicaciones (ANCOM) de julio de 2026, el acto normativo de aplicación del Reglamento de IA se halla «todavía en curso de elaboración». Mediante un memorándum del Gobierno se han propuesto ANCOM como autoridad de vigilancia del mercado y punto único de contacto, la Autoridad de Supervisión Financiera y el Banco Nacional de Rumanía para el ámbito financiero, la Autoridad Nacional de Supervisión del Tratamiento de Datos de Carácter Personal para los sistemas biométricos y para los del ámbito de la aplicación de la ley y de la justicia, así como autoridades sectoriales (la Autoridad Nacional para la Protección de los Consumidores, la Inspección de Trabajo). Hasta la entrada en vigor del acto normativo nacional, las obligaciones aplicables a partir del 2 de agosto de 2026 no pueden ser verificadas ni sancionadas efectivamente por las autoridades rumanas. Rumanía no dispone, por tanto, ni de la institución ni de los instrumentos jurídicos necesarios para responder al riesgo sistémico, y la Estrategia nacional en el ámbito de la inteligencia artificial 2024-2027, aprobada mediante acuerdo del Gobierno en el año 2024, trata el ámbito casi exclusivamente desde la perspectiva de las oportunidades económicas y administrativas.

Esta situación se agrava por una realidad técnica: en el territorio de Rumanía se construyen y se planifican centros de datos de gran capacidad, y Rumanía es, por su posición geográfica y por el coste de la energía, un destino posible para infraestructuras de cálculo aptas para entrenar sistemas de vanguardia. En defecto de una regulación de la infraestructura de cálculo, el Estado rumano ni siquiera tendría noticia de que en su territorio se entrena un sistema de esa naturaleza.

1.3. Modelos comparados

Los Estados Unidos de América instituyeron, mediante la Orden ejecutiva n.º 14110, de 30 de octubre de 2023, la obligación de comunicar al Gobierno federal el entrenamiento de los modelos que superen 10^26 operaciones en coma flotante, junto con los resultados de las pruebas de seguridad; la orden fue revocada en enero de 2025, lo que ilustra la fragilidad de la regulación mediante acto del ejecutivo. El Estado de California adoptó, el 29 de septiembre de 2025, la «Transparency in Frontier Artificial Intelligence Act» (SB 53), la primera ley del mundo dedicada exclusivamente a los modelos de vanguardia: los desarrolladores que superan el umbral de cálculo de 10^26 operaciones y el umbral de ingresos de 500 millones de dólares deben publicar un marco de seguridad, comunicar los incidentes críticos de seguridad a la Oficina de Servicios de Emergencia y se benefician de la protección de los denunciantes de integridad, con sanciones de hasta 1 millón de dólares por cada infracción. El Reino Unido creó en noviembre de 2023 el AI Safety Institute (rebautizado AI Security Institute en febrero de 2025), el primer organismo público con capacidad técnica de evaluación de los modelos antes del lanzamiento, sobre la base de acuerdos voluntarios con los laboratorios. Como reacción al incidente del verano del año 2026, en el Congreso de los Estados Unidos se presentaron, el 23 de julio de 2026, la «AI Kill Switch Act», relativa a la obligación de garantizar la parada de urgencia de los sistemas, y, el 3 de septiembre de 2026, la «Ban Artificial Superintelligence Act», relativa a la prohibición del desarrollo de los sistemas que superen las capacidades humanas generales; ninguna de las dos había sido adoptada en la fecha de la presente propuesta, pero ambas confirman que los instrumentos contemplados por la presente ley –la capacidad de parada y la prohibición de la categoría más peligrosa– son los que los legisladores identifican, de manera independiente, como necesarios. La República de Corea adoptó la «Ley marco relativa al desarrollo de la inteligencia artificial y a la instauración de la confianza», que entró en vigor el 22 de enero de 2026, la primera ley general en la materia de un Estado desarrollado ajeno a la Unión Europea, que instituye tres obligaciones recogidas también por la presente propuesta: el etiquetado del contenido generado por la inteligencia artificial generativa que sea difícil de distinguir del producido por una persona, la información previa a los usuarios cuando el producto o el servicio se suministra mediante inteligencia artificial y la obligación de los proveedores extranjeros que superen determinados umbrales de volumen de negocios o de número de usuarios de designar un representante local responsable del cumplimiento, con multas administrativas por el incumplimiento de estas obligaciones. La República Popular China aplica desde el 15 de agosto de 2023 las «Medidas provisionales relativas a la gestión de los servicios de inteligencia artificial generativa», que condicionan el suministro público de los servicios a una evaluación de seguridad y a la inscripción de los algoritmos. El Consejo de Europa adoptó, el 17 de mayo de 2024, el Convenio marco sobre la inteligencia artificial y los derechos humanos, la democracia y el Estado de derecho (CETS n.º 225), abierto a la firma el 5 de septiembre de 2024, el primer tratado internacional en la materia, que obliga a las partes a adoptar medidas relativas a la evaluación y a la atenuación de los riesgos a lo largo de todo el ciclo de vida de los sistemas.

Ninguno de estos modelos instituye, sin embargo, la autorización previa de la puesta en explotación, la seguridad de los pesos al estándar de la información clasificada, prohibiciones relativas al entrenamiento de los sistemas para resistir a la parada o la responsabilidad penal de los responsables de la decisión. La presente propuesta recoge los elementos verificados de estos modelos (los umbrales de cálculo, los marcos de seguridad, la comunicación de los incidentes, la protección de los denunciantes, la capacidad técnica pública de evaluación) y los completa con los instrumentos jurídicos que el derecho rumano ya conoce de los ámbitos nuclear, de la información clasificada y de las actividades peligrosas.

2. Cambios previstos

La ley tiene por objeto la institución de un régimen jurídico distinto y complementario del Reglamento de IA para los sistemas de inteligencia artificial de vanguardia, definidos mediante umbrales medibles y mediante capacidades críticas verificadas, con el fin de prevenir los riesgos graves, irreversibles o catastróficos para el ciudadano rumano, para la seguridad nacional y el orden constitucional de Rumanía y, en última instancia, para la humanidad. La regulación se asienta en cinco pilares.

El primer pilar es el paso de las obligaciones de diligencia a un régimen de autorización previa para los sistemas de vanguardia, con la obligación de documentación de la seguridad: el solicitante presenta los datos y las evaluaciones que demuestran el cumplimiento de las condiciones legales, y la Autoridad motiva, condición por condición, toda denegación (el artículo 2, la letra b), el artículo 9, el apartado (4)); la carga de la prueba en los procedimientos sancionadores permanece inalterada. Es el principio aplicado desde hace décadas a la autorización de los medicamentos (la Ley n.º 95/2006, el título XVIII) y de las instalaciones nucleares (la Ley n.º 111/1996), trasladado a una tecnología con un potencial de lesión al menos comparable.

El segundo pilar lo constituyen las obligaciones estructurales de los desarrolladores y de los operadores: el marcado obligatorio del contenido generado que pueda confundirse con la realidad y la información al usuario cuando un servicio o una decisión se fundamenta en la inteligencia artificial generativa; la obligación de los grandes proveedores de fuera de Rumanía de designar un representante para el cumplimiento en el territorio nacional; la seguridad de los pesos a un estándar equivalente al de la información clasificada; la separación organizativa de la función de evaluación de la seguridad respecto de la función comercial; el mantenimiento de la capacidad efectiva de parada y de retirada; la prohibición expresa del entrenamiento de los sistemas para disimular sus capacidades, para evadir la parada o para reproducirse de manera autónoma; la protección de los denunciantes de integridad.

El tercer pilar es la consagración de unos límites absolutos, como normas de orden público: el control humano significativo sobre toda decisión de uso de la fuerza letal; la prohibición de la personalidad jurídica y de la autonomía patrimonial de los sistemas; la prohibición de condicionar el acceso del ciudadano a los derechos, a los servicios esenciales y a la vida social a las decisiones de los sistemas de inteligencia artificial o a la aceptación de medios digitales de identificación, de pago o de evaluación del sometimiento; la prohibición de la censura ejercida por medio de sistemas de inteligencia artificial, que no pueden ser utilizados para restringir la libertad de expresión de los ciudadanos rumanos; la garantía de la intervención humana; la prohibición de la automejora recursiva no constreñida.

El cuarto pilar es la creación de la Autoridad para la Seguridad de la Inteligencia Artificial, como estructura especializada en el seno de la Autoridad Nacional de Administración y Regulación en Comunicaciones (ANCOM), dirigida por un vicepresidente de ANCOM con rango de secretario de Estado, nombrado por el Parlamento, con personal especializado seleccionado exclusivamente mediante concurso, ante un tribunal del que forman parte catedráticos universitarios del ámbito de la tecnología de la información y de las telecomunicaciones, remunerado de manera competitiva, y con acceso a los sistemas antes de su puesta en explotación.

El quinto pilar es un régimen de responsabilidad en tres niveles: civil objetiva, con seguro obligatorio; por infracciones administrativas, con multas referidas al volumen de negocios mundial; penal, para las personas físicas con funciones de decisión – completado con un mecanismo de aplicación efectiva frente a los operadores sin presencia en Rumanía: la obligación de cesar la prestación del servicio no conforme, bajo sanción de una multa periódica de 1 a 10 millones de euros, el bloqueo del acceso desde el territorio nacional y la incriminación de la elusión del bloqueo, con un plazo de adecuación de 90 días.

2.1. Revisión del proyecto a raíz del análisis jurídico independiente de 20 de septiembre de 2026

La forma del proyecto sometida a debate fue analizada, el 20 de septiembre de 2026, en un informe jurídico independiente, artículo por artículo, con verificación específica de las fuentes europeas y constitucionales. El informe consideró que debían mantenerse como núcleo la identificación de las personas responsables, la evaluación independiente, el reexamen humano de las decisiones, el acceso alternativo a los servicios esenciales y la protección de los denunciantes de integridad, pero identificó tres problemas de fondo que condicionan la admisibilidad del proyecto en el procedimiento legislativo: la demostración del espacio dejado por el Derecho de la Unión Europea para la autorización y el bloqueo propuestos; el mantenimiento en la ley de los elementos esenciales de los hechos sancionados; y la sincronización de los procedimientos, de los estándares y de los plazos de adecuación. El iniciador ha asumido estas observaciones, y la presente forma les da respuesta punto por punto, sin renunciar a ninguna de las garantías de fondo del proyecto.

En cuanto a la relación con el Derecho de la Unión, el artículo 1, el apartado (4), delimita expresamente el objeto de la ley frente a las competencias de la Comisión Europea sobre los modelos de uso general (el artículo 88 y el capítulo V del Reglamento de IA) y asienta la autorización sobre el fundamento de las competencias nacionales en materia de seguridad pública, seguridad nacional, responsabilidad civil y penal y derechos fundamentales en las relaciones no armonizadas; el artículo 9, el apartado (7), funda la evaluación de los modelos con riesgo sistémico en la documentación ya comunicada a la Oficina de IA; el artículo 17, el apartado (6), indica inequívocamente qué apartados se aplican a cada categoría de proveedores y limita las sanciones por la infracción del artículo 50 del reglamento a los límites del artículo 99, el apartado (4); el artículo 19, el apartado (1), distingue al proveedor establecido en la Unión, al que solo se exige un punto de contacto, del proveedor de un tercer Estado; el artículo 27, el apartado (6), subordina las garantías relativas a la expresión, para los proveedores de servicios intermediarios, al Reglamento (UE) 2022/2065; el artículo 4, el apartado (4), y el artículo 39, el apartado (4), condicionan el bloqueo de los servicios de otro Estado miembro a una medida individual, fundada en motivos de orden público, seguridad pública o salud pública y adoptada conforme al procedimiento del artículo 3 de la Directiva 2000/31/CE, tal como ha sido interpretado por el Tribunal de Justicia en el asunto C-376/22, Google Ireland y otros, sentencia de 9 de noviembre de 2023, ECLI:EU:C:2023:835, según la cual los Estados miembros no pueden adoptar, en virtud de esta excepción, medidas generales y abstractas.

En cuanto a la legalidad de las sanciones, todos los elementos esenciales de las infracciones administrativas y de los delitos han sido incorporados al texto de la ley: las definiciones de la modificación sustancial (el artículo 3, el apartado (1), la letra aa)), del usuario final (la letra z)) y de la disimulación (el artículo 3, el apartado (2), la letra i)), los criterios de apreciación de la capacidad crítica (el artículo 5, el apartado (2)), la excepción para la evaluación en entorno aislado y la distinción entre la aparición no intencionada y la infracción (el artículo 15, los apartados (2) a (4)), las transferencias permitidas de los pesos (el artículo 12, el apartado (2)), el mandato delimitado para los recursos (el artículo 25, el apartado (2)), y el artículo 32, el apartado (4), prohíbe expresamente que los estándares de la Autoridad introduzcan nuevas categorías de capacidades prohibidas o amplíen los elementos constitutivos de los hechos sancionados, en aplicación del artículo 23, el apartado (12), y del artículo 73, el apartado (3), la letra h), de la Constitución. Las incriminaciones de los artículos 40 a 42 han sido precisadas en cuanto a la intención, a las consecuencias agravantes y a su imputación (el artículo 16, el apartado (4), del Código Penal); el artículo 44 vincula la responsabilidad por omisión a la obligación jurídica y a la posibilidad efectiva de impedir el hecho, y el artículo 45, el apartado (3), opera expresamente la complementación de la ley de organización de la DIICOT.

En cuanto al calendario, los artículos 48 a 50 han sido reescritos como un calendario único, referido a la fecha de publicación: la entrada en vigor a los 30 días; la organización de la Autoridad a los 60 días; la notificación de los sistemas a los 90 días; las normas metodológicas a los 120 días, con consulta pública; las obligaciones que dependen de las normas y las solicitudes de autorización a los 90 días desde la entrada en vigor de las normas; las disposiciones penales a los 270 días, y la garantía del usuario (el artículo 43) junto con la ley. La tolerancia de 12 meses para los sistemas notificados se prorroga de pleno derecho por el retraso de las instituciones, de modo que el solicitante diligente no pueda ser sancionado por la pasividad del Estado. Se han añadido, asimismo, las garantías procesales frente al nuevo poder público creado: la motivación de las decisiones condición por condición y el remedio contra el retraso (el artículo 9, el apartado (4)), el acceso al expediente (el artículo 11, el apartado (2)), la suspensión judicial provisional de las órdenes y del bloqueo (el artículo 14, el apartado (4), el artículo 39, el apartado (5)), la separación de las funciones de evaluación, de investigación y de sanción y el régimen de la inspección (el artículo 32, los apartados (2) y (3)), los límites de duración y el control de las medidas provisionales del fiscal (el artículo 45, el apartado (2)), la eliminación de todo incentivo financiero de la Autoridad procedente de las multas (el artículo 33, el apartado (5)), y las duraciones diferenciadas de conservación de los registros y la minimización de los datos (el artículo 16, el apartado (1)). El ejemplar de trabajo está marcado «PROYECTO», siendo la fórmula de adopción del final la habitual y sin significar una adopción ya producida.

La ley está estructurada en ocho capítulos y 50 artículos, conforme al orden impuesto por el artículo 51 de la Ley n.º 24/2000 sobre las normas de técnica legislativa para la elaboración de los actos normativos, republicada, con las modificaciones y adiciones posteriores: disposiciones generales (el capítulo I), disposiciones de fondo (los capítulos II a VII), disposiciones transitorias y finales (el capítulo VIII). A continuación se exponen los motivos de cada artículo.

Capítulo I – Disposiciones generales (los artículos 1 a 4)

→ el texto del artículo El artículo 1 establece el objeto y la finalidad de la ley, conforme al artículo 52 de la Ley n.º 24/2000, que impone que las disposiciones generales comprendan las previsiones que orientan toda la regulación. El apartado (1) delimita el objeto a los sistemas de vanguardia y enumera los valores protegidos partiendo del titular primario de la protección en una ley nacional –el ciudadano rumano y toda persona que se encuentre en el territorio de Rumanía, con su vida, su salud, su libertad y su dignidad (el artículo 1, el apartado (3), el artículo 18, el apartado (1), y el artículo 22 de la Constitución)–, continuando con la seguridad nacional y el orden constitucional de Rumanía y terminando, en última instancia, con la humanidad en su conjunto. El ámbito de los beneficiarios, establecido según el criterio de la jurisdicción, se distingue expresamente de las condiciones de aplicación territorial del artículo 4: quién está protegido no se confunde con quién está obligado. La inclusión de la humanidad, inhabitual en el derecho positivo, es necesaria porque el riesgo regulado no es local; formulaciones similares se encuentran en el Estatuto de Roma de la Corte Penal Internacional («crímenes de lesa humanidad») y en el preámbulo del Convenio marco del Consejo de Europa sobre la inteligencia artificial.

El apartado (2) expresa la premisa científica de la que parte la regulación: no existe en la actualidad un método validado para garantizar que un sistema suficientemente capaz persiga exclusivamente los objetivos fijados por las personas y permanezca bajo su control. Esta constatación, formulada públicamente por Geoffrey Hinton y por Connor Leahy en la entrevista de CNN citada más arriba y confirmada por el Informe internacional relativo a la seguridad de la inteligencia artificial (2025), no es una opinión del legislador, sino una descripción del estado del conocimiento. Al tratarse de una tesis técnica variable, no queda petrificada en la norma, sino formulada como una condición («mientras no exista») de la que depende la calificación del desarrollo y de la explotación de los sistemas de vanguardia como actividades de riesgo intrínseco; su cese se constata por la Autoridad, con el dictamen del Consejo científico, en el informe previsto en el artículo 47, y no mediante la afirmación de un desarrollador de que el problema ha sido resuelto; la constatación se hace mediante el informe público anual previsto en el artículo 32, el apartado (1), la letra h), y se comunica al Parlamento junto con el informe previsto en el artículo 47, puesto que este último pertenece al Gobierno, y la constatación de una cuestión científica determinada debe seguir correspondiendo a la Autoridad, con el dictamen del Consejo científico. La calificación produce consecuencias jurídicas precisas en el resto de la ley: el régimen de autorización (el capítulo III), la responsabilidad objetiva (el artículo 35) y la regla del artículo 47, según la cual la falta de un método validado de control no puede invocarse, por sí sola, como motivo de relajación del régimen. La técnica es la misma que la del artículo 1 de la Ley n.º 111/1996 sobre el desarrollo seguro de las actividades nucleares, que declara que las actividades nucleares se desarrollan «exclusivamente con fines pacíficos» y bajo un régimen de autorización, o que la del artículo 1376 del Código Civil, que instituye la responsabilidad independiente de toda culpa por las «cosas» que se hallan bajo la guarda de una persona.

El apartado (3) regula la relación con el Reglamento de IA, en aplicación del artículo 13 de la Ley n.º 24/2000, relativo a la integración del proyecto en el conjunto de la legislación, y del principio de primacía del derecho de la Unión (el artículo 148, el apartado (2), de la Constitución). El reglamento es directamente aplicable y de armonización plena en su ámbito; la ley «completa» el reglamento, «se aplica sin perjuicio de este» y, en los ámbitos armonizados, «se interpreta y se aplica de conformidad con él». La fórmula es la utilizada en la Ley n.º 190/2018 sobre las medidas de aplicación del Reglamento (UE) 2016/679 (RGPD), que resolvió el mismo problema de técnica legislativa.

El apartado (4) transforma la cláusula general del apartado (3) en una delimitación efectiva de competencias, puesto que una cláusula «sin perjuicio de» no resuelve, por sí sola, una superposición con el régimen europeo. Para los modelos de uso general con riesgo sistémico, el capítulo V del Reglamento de IA (los artículos 51 a 56) impone a los proveedores obligaciones relativas al propio desarrollo del modelo, y el artículo 88 reserva a la Comisión Europea, a través de la Oficina de IA, la supervisión y la aplicación de ese capítulo. El texto enuncia por ello lo que la ley no hace (no establece condiciones para la introducción en el mercado de la Unión de esos modelos y no duplica la supervisión de la Comisión) y los fundamentos de sus obligaciones: la seguridad pública y la seguridad nacional (excluidas de la aplicación del Reglamento por su artículo 2, el apartado (3)), la responsabilidad civil y penal, no reguladas por el Reglamento, los derechos fundamentales en las relaciones no armonizadas y la organización de las autoridades nacionales –materias reservadas a los Estados miembros (el artículo 148, el apartado (2), de la Constitución)–. El objeto de la autorización del capítulo III se precisa en consecuencia: no el modelo como producto introducido en el mercado de la Unión, sino la puesta en explotación del sistema en el territorio de Rumanía o para las personas que se encuentran en ese territorio –actividad sometida a la jurisdicción del Estado rumano, comparable con la autorización de la explotación de una instalación, y no con la homologación del producto.

→ el texto del artículo El artículo 2 enumera los principios que rigen la aplicación de la ley. La enumeración de los principios en las disposiciones generales es una técnica reconocida por la Ley n.º 24/2000 (el artículo 52) y utilizada por los códigos en vigor (los artículos 2 a 10 del Código de Procedimiento Penal, los artículos 5 a 23 del Código de Procedimiento Civil). Cada principio tiene una función normativa precisa, siendo recogido y concretado en las disposiciones de fondo.

El principio de precaución (la letra a)) está tomado del derecho del medio ambiente, donde se halla consagrado en el artículo 191, el apartado (2), del Tratado de Funcionamiento de la Unión Europea y en el artículo 3, la letra b), del Decreto-ley del Gobierno n.º 195/2005 sobre la protección del medio ambiente, y de la jurisprudencia del Tribunal de Justicia de la Unión Europea, que ha declarado que, «cuando subsisten dudas sobre la existencia o el alcance de riesgos para la salud de las personas, las instituciones pueden adoptar medidas de protección sin tener que esperar a que se demuestren plenamente la realidad y la gravedad de tales riesgos» (Sentencia de 5 de mayo de 1998, National Farmers' Union, C-157/96, apartado 63; Sentencia del Tribunal General de 11 de septiembre de 2002, Pfizer Animal Health, T-13/99). El traslado de este principio a la inteligencia artificial está justificado por la identidad de estructura del problema: riesgo grave o irreversible, en condiciones de incertidumbre científica.

El principio de la documentación de la seguridad (la letra b)) es la piedra angular del régimen de autorización. En el régimen de las obligaciones de diligencia del Reglamento de IA, la autoridad debe probar la no conformidad; en el régimen de la autorización previa, el solicitante presenta los datos y las evaluaciones que demuestran el cumplimiento de las condiciones. Es la regla de la autorización de los medicamentos (el artículo 704 y siguientes de la Ley n.º 95/2006), de las instalaciones nucleares (el artículo 8 de la Ley n.º 111/1996) y de los organismos modificados genéticamente (el Decreto-ley del Gobierno n.º 43/2007), y la única solución racional cuando solo el desarrollador posee la información necesaria para la evaluación del riesgo. La ley no la denomina, sin embargo, «inversión de la carga de la prueba»: la carga de documentar una solicitud de autorización, regla relativa a la estructura del procedimiento administrativo, es distinta de la carga de la prueba en un procedimiento sancionador, que no puede invertirse sin menoscabo de la presunción de inocencia (el artículo 23, el apartado (11), de la Constitución). Por ello, la Autoridad está obligada a motivar, en relación con cada condición, por qué los datos presentados no la satisfacen (obligación reiterada en el artículo 9, el apartado (4)), y el principio se declara expresamente sin efecto sobre la carga de la prueba y sobre las garantías de la persona en los procedimientos de infracción administrativa y penales.

El principio del control humano significativo (la letra c)) recoge la noción de «meaningful human control» desarrollada en el marco de la Convención de las Naciones Unidas sobre ciertas armas convencionales (el Grupo de expertos gubernamentales sobre los sistemas de armas autónomas letales, 2016-2024) y le da un contenido concreto: supervisión, corrección, parada y retirada por personas físicas identificadas, que comprenden el funcionamiento del sistema y disponen de medios técnicos efectivos. El Reglamento de IA prevé en el artículo 14 la «supervisión humana» únicamente para los sistemas de alto riesgo; la ley la extiende, con un contenido más exigente, a todos los sistemas de vanguardia.

El principio de proporcionalidad con las capacidades (la letra d)) marca la diferencia de filosofía respecto del Reglamento de IA, que clasifica el riesgo según el ámbito de utilización declarado. Un sistema de vanguardia es peligroso por lo que puede hacer, independientemente de la finalidad para la que haya sido puesto a disposición; por eso, las obligaciones aumentan con las capacidades, y no con la utilización. El principio de transparencia frente a la autoridad (la letra e)) suprime la oponibilidad del secreto comercial frente a la Autoridad, puesto que sin acceso a los pesos, a los datos de entrenamiento y a los registros la evaluación es ilusoria; la contrapartida –la obligación de la Autoridad y de los organismos de evaluación de proteger la información obtenida– se consagra en el propio enunciado del principio, como en el artículo 78 del Reglamento de IA. El principio de la irreversibilidad como umbral de prohibición (la letra f)) traduce en derecho la idea, común en el análisis de los riesgos existenciales, de que los beneficios, por grandes que sean, no pueden ponerse en la balanza con una pérdida que ya no puede repararse; él fundamenta las prohibiciones absolutas del capítulo V y la regla del artículo 5, el apartado (4). El texto precisa la naturaleza de la consecuencia (irreversible a escala de la sociedad o de la especie), la condición (un riesgo documentado en la evaluación, no una posibilidad abstracta) y el estándar (los criterios de los artículos 5 y 9 y las pruebas, no la certeza de la ausencia de todo riesgo), porque un estándar de riesgo cero, que ninguna actividad humana satisface, habría transformado la autorización en una prohibición de hecho, contraria al artículo 53, el apartado (2), de la Constitución. El principio de cooperación internacional (la letra g)) reconoce los límites de toda regulación nacional y obliga al Estado rumano a una acción exterior (el artículo 46).

→ el texto del artículo El artículo 3 comprende las definiciones, en aplicación del artículo 37, el apartado (2), de la Ley n.º 24/2000, según el cual, si una noción o un término no está consagrado o puede tener significados diferentes, su significación se establece en el marco de las disposiciones generales. En aras de la unidad terminológica con el derecho de la Unión (el artículo 37, el apartado (1), de la Ley n.º 24/2000 y el artículo 16, relativo a la evitación de los paralelismos), las nociones de «sistema de inteligencia artificial», «modelo de inteligencia artificial de uso general» e «incidente grave» no se redefinen, sino que se recogen mediante norma de remisión al artículo 3, los puntos 1, 63 y 49, del Reglamento de IA, completándose la definición del incidente grave con las situaciones específicas del riesgo sistémico (la manifestación de una capacidad crítica fuera de una evaluación autorizada en entorno aislado, la evasión de la supervisión o la resistencia a la parada, la exfiltración de los pesos o el intento de exfiltración, el acceso no autorizado a los pesos, la pérdida de la inteligibilidad y la prueba de la capacidad de parada en la que la parada no se ha producido de inmediato, conforme al artículo 14, el apartado (7)). Las definiciones del entorno aislado (la letra bb)) y del mandato de operación (la letra cc)) se han añadido para que dos nociones de las que depende la delimitación de los hechos sancionados no queden sin definir. El entorno aislado separa la prueba de seguridad lícita, permitida por el artículo 15, el apartado (2), de las conductas prohibidas e incriminadas en los artículos 40 a 42; se define por los elementos del aislamiento —la falta de acceso a redes públicas, a herramientas externas y a datos de explotación, la imposibilidad de actuar en el entorno físico, el acceso limitado a las personas designadas y la falta de todo efecto fuera del entorno—, pudiendo las normas metodológicas establecer únicamente los requisitos mínimos, no el contenido de la noción, conforme al artículo 49, el apartado (2), la última frase. El mandato de operación se define de forma distinta del mandato de derecho civil, para que el mismo término no se emplee con dos significados: en consecuencia, el artículo 3, el apartado (2), la letra d), y el artículo 25, el apartado (2), se refieren al mandato de operación, mientras que el artículo 19, el apartado (5), se refiere al acto de designación del representante para el cumplimiento.

La noción de «sistema de vanguardia» (la letra c)) se define mediante remisión a las condiciones del artículo 5, el apartado (1), para observar la prohibición, prevista en el artículo 49, el apartado (3), de la Ley n.º 24/2000, de que una enumeración marcada con letra comprenda a su vez otra enumeración. El término «de vârf» («de vanguardia») expresa en lengua rumana la noción consagrada en la literatura especializada y en la legislación comparada mediante «frontier model» (SB 53 de California) y «frontier AI» (los documentos del Instituto británico para la seguridad de la IA), es decir, los sistemas situados en el límite superior de las capacidades existentes; la expresión «de frontieră» («de frontera»), calco del inglés, se evitó por resultar poco clara para el lector rumano. La «capacidad crítica» (la letra d)) se define, asimismo, mediante remisión al artículo 5, el apartado (2).

La definición de los «pesos» (la letra e)) incluye, además de los parámetros numéricos, la arquitectura y la información técnica que, junto con estos, permite la reconstitución o la ejecución del modelo, porque la protección de los parámetros es inútil si el resto de la información necesaria puede obtenerse libremente. La categoría se delimita mediante una exclusión expresa –las descripciones técnicas generales, las publicaciones científicas y la información que, por sí sola, no permite la reconstitución ni la ejecución del modelo no son pesos–, para que la prohibición de divulgación del artículo 12 y el delito del artículo 42 no puedan extenderse a cualquier descripción técnica, contrariamente a la libertad de investigación (el artículo 13 de la Carta de los Derechos Fundamentales de la Unión Europea) y a la previsibilidad de la ley penal (el artículo 23, el apartado (12), de la Constitución). La definición del «volumen de cálculo» (la letra f)) es acumulativa y cubre todas las etapas de desarrollo, incluidos el ajuste fino y el aprendizaje por refuerzo, con el fin de evitar la elusión del umbral mediante la fragmentación del entrenamiento; corresponde al método de cálculo previsto en el anexo XIII del Reglamento de IA y en la SB 53.

La ley utiliza los términos «desarrollador» (la letra g)), «operador» –rum. «exploatant»– (la letra h)) y «proveedor de infraestructura de cálculo» (la letra k)), y no «proveedor» e «implementador» del Reglamento de IA, precisamente para evitar la confusión: la noción de «operador» –rum. «operator»– tiene en el Reglamento (el artículo 3, punto 8) un significado genérico, que comprende todas las categorías de personas, y el «proveedor» se define por referencia a la introducción en el mercado, mientras que la ley contempla la actividad material de entrenamiento o, respectivamente, de explotación, con independencia de la introducción en el mercado. Por el mismo motivo, la ley emplea la expresión «puesta en explotación» (la letra i)), definida de manera autónoma, en lugar de la «puesta en servicio» del artículo 3, punto 11, del Reglamento, que está vinculada al suministro para su primer uso en la Unión; la definición de la ley es deliberadamente más amplia y cubre toda acción por la cual el sistema sale del equipo de desarrollo y de evaluación o adquiere la capacidad de actuar en el entorno digital o físico, incluida la utilización interna, porque los riesgos sistémicos pueden materializarse antes de cualquier lanzamiento público; la evaluación y la prueba en entorno aislado, en las condiciones del artículo 15, el apartado (2), quedan expresamente excluidas. Para que el «operador» no comprenda la utilización profesional habitual, la ley define al «usuario final» (la letra z)) y lo excluye de la letra h). La calificación es la siguiente: el laboratorio que entrena el modelo es desarrollador; quien ofrece el acceso al sistema a las personas que se encuentran en Rumanía, mediante interfaz de programación, aplicación o servicio, es operador, al igual que la empresa que lo integra en un servicio propio ofrecido a terceros; la empresa que lo utiliza para sus propias necesidades, dentro de los límites del acceso concedido, sin ofrecerlo a terceros, es usuario final, sin obligaciones en virtud del capítulo III; la persona física que lo utiliza con fines personales se encuentra en la situación del artículo 4, el apartado (3). El término «operador» –rum. «exploatant»– es el utilizado en la Ley n.º 703/2001 sobre la responsabilidad civil por daños nucleares para designar a la persona que opera una instalación nuclear, lo que subraya la filiación del régimen de responsabilidad.

La definición de la «capacidad de parada» (el apartado (1), la letra m)) impone tres caracteres acumulativos: el cese «inmediato, completo y verificable»; una parada que deja copias activas del sistema o que no puede ser confirmada por una persona no es una parada. La definición de la «evaluación independiente» (la letra l)) excluye los organismos que se hallan bajo el control, la influencia o la dependencia económica del desarrollador, para evitar la reproducción de la situación del ámbito de la auditoría financiera anterior a las reformas posteriores a 2002.

La definición del «incidente grave» (la letra n)) recoge la noción del artículo 3, punto 49, del Reglamento de IA y la completa con las manifestaciones específicas del riesgo regulado por la presente ley: la manifestación de una capacidad crítica, la evasión de la supervisión o la resistencia a la parada, la exfiltración o el intento de exfiltración, el acceso no autorizado a los pesos y, conforme a la adición correlativa con el artículo 16, el apartado (2), la pérdida de la inteligibilidad de los registros o de la comunicación entre los componentes, las instancias o los agentes del sistema. Esta última hipótesis ha sido añadida porque la supervisión no depende únicamente de la existencia de los asientos, sino también de la posibilidad de comprenderlos; la circunstancia se explica en el comentario del artículo 16. Solo constituye incidente grave la manifestación de una capacidad crítica fuera de una evaluación autorizada en entorno aislado; la manifestación producida en el curso de una evaluación de esa naturaleza, cuyo objeto es precisamente la identificación de la capacidad, se consigna en los registros y se comunica a la Autoridad en el plazo de 5 días, conforme al artículo 20, el apartado (4).

El apartado (1) comprende, en las letras p) a aa), las definiciones de las demás nociones-objeto utilizadas en la ley: la «arquitectura» (el componente no paramétrico del modelo, protegido junto con los pesos), el «organismo de evaluación» (designado conforme al artículo 32, el apartado (1), la letra f)), el «registro» (el artículo 16), el «marcado de procedencia» (el artículo 17), la «herramienta externa» y el «entorno autorizado de explotación» (nociones clave para los sistemas «agénticos», utilizadas en el artículo 10, el apartado (2), el artículo 14, el apartado (2), y el artículo 28), los «mecanismos de seguridad a nivel del usuario» (cuya desactivación en la evaluación impone el artículo 9, el apartado (3)), la «infraestructura crítica» (mediante remisión a la legislación especial y al Decreto-ley del Gobierno n.º 155/2024, a los efectos del artículo 5, el apartado (2), la letra b)) y el «sistema de armas autónomas letales» (el artículo 24), definido según la fórmula consagrada en los trabajos del Grupo de expertos gubernamentales de Ginebra: sistema que, una vez activado, selecciona y ataca objetivos humanos sin la intervención ulterior de una persona. La letra y) define el sistema de inteligencia artificial generativa, noción en la que se fundan los artículos 17 y 18, y la letra z) el usuario final, en el sentido indicado más arriba. La letra aa) define la «modificación sustancial» –de la que dependen el artículo 6, el apartado (3), el artículo 7, el apartado (4), el artículo 10, el apartado (2), y el artículo 15, el apartado (4)– no mediante la enumeración de operaciones, sino por su efecto sobre el riesgo (la creación de una capacidad crítica, el aumento significativo de una existente o la afectación de la capacidad de parada, de la seguridad de los pesos o de la supervisión humana), con la exclusión expresa de la corrección de errores, de la actualización de los mecanismos de seguridad a nivel del usuario y de las modificaciones carentes de tales efectos, para que una corrección menor no reinicie todo el procedimiento; la noción se define en la ley, y no en las normas, porque forma parte del contenido de obligaciones sancionadas (el artículo 73, el apartado (3), la letra h), de la Constitución).

El apartado (2) define de manera distinta las operaciones y los comportamientos de los sistemas, puesto que estos constituyen el elemento material de las prohibiciones (los artículos 15, 28 y 29), de las capacidades críticas (el artículo 5, el apartado (2)) y de los delitos (el artículo 42), de modo que la exigencia de previsibilidad de la ley penal (el artículo 7 del Convenio Europeo de Derechos Humanos; la Decisión del Tribunal Constitucional n.º 51/2016) impone que cada uno tenga un contenido normativo preciso. Se definen las tres operaciones de desarrollo («entrenamiento», «ajuste fino», «aprendizaje por refuerzo»), para que la regla de la acumulación del volumen de cálculo del artículo 6, el apartado (3), no pueda eludirse mediante la denominación diferente de una etapa; la «acción autónoma», como operación efectuada por el sistema sobre una herramienta externa, sobre un sistema de un tercero o sobre el entorno físico sin la disposición o la aprobación previas de una persona –el criterio que separa la herramienta del agente–, pudiendo la aprobación referirse también a la categoría de operaciones, dentro de los límites de un mandato establecido conforme al artículo 25, el apartado (2), porque la exigencia de aprobación de cada operación habría calificado como autónoma toda utilización agéntica, incluida la expresamente mandatada; la «exfiltración», definida como salida de los pesos del entorno autorizado de explotación o de los sistemas de almacenamiento protegidos, con independencia del autor de la operación, incluido el sistema mismo, lo que cubre tanto el robo por un tercero como la autocopia; la «replicación autónoma» (la creación de una copia funcional sin autorización humana para cada operación); la «adquisición autónoma de recursos» (el exceso, mediante acciones autónomas, respecto de los recursos asignados expresamente para la tarea en curso); la «automejora recursiva», definida por los dos elementos que la hacen peligrosa –la modificación de los propios pesos o la creación de un sucesor superior y la repetición del proceso– y por la falta de evaluación y de aprobación humanas de cada iteración, de modo que la investigación asistida por inteligencia artificial, con el «bucle humano» conservado, sigue siendo lícita; la «disimulación de capacidades», definida por la diferencia de conducta entre la evaluación y el funcionamiento habitual, fenómeno documentado empíricamente en las evaluaciones de 2024-2026, constatada mediante criterios observables y reproducibles, con la exclusión expresa del error, de la variabilidad de los resultados y de los límites de la explicabilidad, para que una simple respuesta errónea no sea calificada como capacidad crítica; la «evasión de la supervisión» y la «resistencia a la parada», definidas por las acciones concretas sobre los mecanismos de registro, de seguimiento y de control y sobre la capacidad de parada; la «supervisión humana», con las tres condiciones acumulativas (información, comprensión, intervención efectiva); y la «parada», definida como cese completo del funcionamiento del sistema y de todas sus copias y procesos, verificado por una persona, para que una parada aparente, con copias activas, no pueda invocarse como ejecución de la orden de la Autoridad.

→ el texto del artículo El artículo 4 establece el ámbito de aplicación personal y territorial. La ley se aplica a los desarrolladores con domicilio social, con una unidad operativa o con infraestructura de cálculo en Rumanía, respecto de todos los sistemas de vanguardia que desarrollen, independientemente del lugar del entrenamiento (la letra a)), para impedir la elusión mediante la deslocalización del entrenamiento; a los operadores, respecto de los sistemas puestos en explotación o puestos a disposición de las personas que se encuentran en Rumanía (la letra b)), criterio idéntico al del artículo 2, el apartado (1), la letra c), del Reglamento de IA y al del artículo 3, el apartado (2), del RGPD; a los proveedores de infraestructura de cálculo (la letra c)); y a las autoridades públicas, incluidas las del ámbito de la defensa y de la seguridad nacional, en las condiciones del artículo 23 y del capítulo V (la letra d)). Esta última disposición cubre exactamente el ámbito excluido de la aplicación del Reglamento de IA por el artículo 2, el apartado (3), en el que los Estados miembros conservan su competencia plena, y responde a una realidad: los riesgos más graves pueden provenir precisamente de los sistemas desarrollados con fines militares o de seguridad.

El apartado (2) delimita el ámbito material de cada grupo de normas: los capítulos II, III y IV (con excepción de los artículos 17 a 19), así como los artículos 35 y 36, se aplican únicamente a los sistemas de vanguardia, de modo que las pequeñas y medianas empresas, los desarrolladores de aplicaciones y los usuarios de los modelos existentes no se ven afectados por el régimen de autorización, por las obligaciones estructurales ni por la responsabilidad objetiva; los artículos 17 a 19 se aplican también a los sistemas generativos que no son de vanguardia; el capítulo V se aplica a todo sistema, pues sus límites atañen a la relación entre el hombre y la máquina, no a las capacidades de la máquina. Las prohibiciones del artículo 15 están formuladas «con independencia del volumen de cálculo» porque un sistema al que se le confiere la capacidad de resistir a la parada se convierte, por ello mismo, en sistema de vanguardia en virtud del artículo 5, el apartado (1), la letra b). Los sistemas por debajo del umbral permanecen sujetos al Reglamento de IA. El apartado (3) regula la situación de la persona física, que puede tener varios papeles: quien utiliza un sistema con fines personales no tiene obligaciones en virtud de la ley, con la única excepción de la prohibición de suprimir o falsificar el marcado de procedencia (el artículo 17, el apartado (3)); las obligaciones de los artículos 17 a 19 corresponden a quien pone a disposición del público el sistema, el servicio o, en las condiciones del artículo 17, el apartado (7), el resultado generado. La persona física que actúa como desarrollador, operador o proveedor de servicio tiene, sin embargo, las obligaciones de ese papel.

El apartado (4) establece el fundamento y el límite de la aplicación de la ley a los servicios prestados desde otro Estado miembro a las personas que se encuentran en Rumanía. El lugar del usuario no es, por sí solo, un fundamento suficiente: conforme al artículo 3 de la Directiva 2000/31/CE relativa al comercio electrónico, transpuesta mediante la Ley n.º 365/2002, los servicios de la sociedad de la información están sujetos, en el ámbito coordinado, a la ley del Estado miembro de origen, y las excepciones solo se permiten mediante medidas individuales, respecto de un servicio determinado, por razones de orden público, de seguridad o de salud pública. El Tribunal de Justicia de la Unión Europea declaró, en la sentencia de 9 de noviembre de 2023, Google Ireland y otros, C-376/22, punto 27, que los Estados miembros no pueden adoptar, en virtud del artículo 3, el apartado (4), de la directiva, «medidas generales y abstractas» frente a los proveedores establecidos en otros Estados miembros. Por ello, el texto no instituye un régimen general de excepción, sino que hace aplicables las obligaciones de la ley en las condiciones del artículo 3 de la directiva y, para el bloqueo, en las del artículo 39, el apartado (4), que lo permite únicamente de manera individual, para un servicio determinado; la cláusula final preserva el Derecho de la Unión directamente aplicable, en especial el Reglamento de IA. El apartado (5) exceptúa la investigación científica fundamental, de acuerdo con el artículo 2, el apartado (6), del Reglamento de IA y con el artículo 13 de la Carta de los Derechos Fundamentales de la Unión Europea (la libertad de investigación), conservando la obligación de notificación cuando se utiliza infraestructura de gran capacidad, puesto que un experimento de investigación por encima del umbral no es menos peligroso que uno comercial, y las obligaciones relativas al entorno aislado del artículo 15, el apartado (2), para que la excepción no se convierta en una vía de elusión de las prohibiciones.

Capítulo II – Clasificación de los sistemas y umbrales de riesgo (los artículos 5 y 6)

→ el texto del artículo El artículo 5 es el artículo central de la clasificación. El apartado (1) establece las tres condiciones alternativas de la calificación como sistema de vanguardia: la superación del umbral de cálculo (la letra a)), la constatación en la evaluación de al menos una capacidad crítica (la letra b)) y la designación motivada por la Autoridad sobre la base de indicios objetivos (la letra c)). La primera condición es objetiva y verificable antes del entrenamiento; la segunda cubre los sistemas que, aunque entrenados con recursos menores, alcanzan capacidades peligrosas gracias al progreso algorítmico; la tercera, tomada del artículo 51, el apartado (1), la letra b), y del anexo XIII del Reglamento de IA (la designación por la Comisión), cubre las situaciones en las que el desarrollador rechaza la evaluación o en las que los indicios provienen de otras fuentes (denunciantes, incidentes). Puesto que la designación produce efectos jurídicos graves, la letra c) la acompaña de las garantías exigidas por los artículos 21 y 24 de la Constitución: la comunicación de los indicios considerados, la posibilidad del desarrollador de exponer su punto de vista y la impugnación en las condiciones del artículo 39, el apartado (5). La frase final del apartado (2) establece las reglas de apreciación: la capacidad crítica se aprecia según la reproducibilidad del resultado en un entorno relevante para la utilización real, y no según un resultado aislado obtenido en una prueba artificial; los niveles de significación se establecen mediante las normas metodológicas, pero solo dentro de los límites del apartado, sin poder añadir otras categorías de resultados. El límite viene impuesto por el artículo 23, el apartado (12), y el artículo 73, el apartado (3), la letra h), de la Constitución: las categorías de capacidades críticas, de las que dependen las prohibiciones y las incriminaciones de los artículos 15, 40 y 42, se establecen de manera exhaustiva mediante ley, detallando las normas únicamente los métodos de evaluación (el artículo 49, el apartado (2)).

El apartado (2) enumera las cinco capacidades críticas. La lista corresponde a las categorías de riesgo identificadas en los marcos de seguridad de los principales laboratorios (las políticas de «escalado responsable»), en el Informe internacional relativo a la seguridad de la inteligencia artificial (2025) y en la SB 53 de California, que define el «riesgo catastrófico» por referencia a las armas QBRN, a los ataques cibernéticos contra las infraestructuras críticas y al comportamiento autónomo que escapa al control. Las dos capacidades de las letras a) y b) (armas QBRN, ataques cibernéticos autónomos) son capacidades de «utilización abusiva», en las que el peligro proviene de la persona que emplea el sistema; las de las letras c) a e) (autorreplicación y adquisición autónoma de recursos, evasión de la supervisión y resistencia a la parada, automejora recursiva) son capacidades de «pérdida del control», en las que el peligro proviene del sistema mismo. La lista no comprende la influencia sobre los procesos democráticos o sobre la opinión pública. Esta omisión es deliberada y constituye una garantía, no una laguna. Una capacidad de esa naturaleza no es susceptible de una definición suficientemente precisa para fundamentar un régimen de autorización, de suspensión o de sanción: todo mensaje político persigue, por su propia naturaleza, influir en la opinión pública, y la frontera entre el debate legítimo y la «manipulación» no puede ser establecida por una autoridad administrativa sin conferirle el poder de calificar el discurso público. La experiencia reciente ha mostrado que la invocación de la manipulación informativa puede conducir a medidas de una gravedad extrema sobre el proceso electoral, adoptadas sobre la base de apreciaciones no sometidas a una probación completa y contradictoria. La atribución de una competencia de esa naturaleza a la autoridad instituida por la presente ley habría contradicho su propia finalidad: la ley protege la libertad de expresión del ciudadano frente a los medios automáticos (el artículo 27) y no puede, al mismo tiempo, crear un fundamento para su restricción. Los hechos de manipulación que presentan un peligro concreto quedan, por otra parte, cubiertos por el derecho positivo: el artículo 5, el apartado (1), las letras a) y b), del Reglamento de IA prohíbe las técnicas subliminales y la explotación de las vulnerabilidades, las obligaciones de transparencia relativas al contenido generado artificialmente están previstas en el artículo 50 del mismo reglamento y, para los sistemas de vanguardia, en el artículo 16, el apartado (2), de la presente ley, relativo al marcado de procedencia, y los hechos penales de naturaleza electoral están incriminados en el Código Penal y en la legislación electoral. La presente ley atañe al riesgo catastrófico irreversible para la vida, la integridad y la infraestructura, no al contenido del debate público. La distinción fundamenta la clasificación del apartado (3): los sistemas de categoría II (capacidades de utilización abusiva) pueden ser puestos en explotación con medidas de atenuación verificadas, porque el riesgo puede reducirse mediante el control del acceso; los sistemas de categoría III (capacidades de pérdida del control) no pueden ser puestos en explotación y no pueden seguir siendo desarrollados, porque no existe medida de atenuación para un sistema que resiste a la parada (el apartado (4)). Esta última regla es la aplicación directa del principio de irreversibilidad del artículo 2, la letra f). El apartado (4) precisa, para la categoría II, que las medidas de atenuación se aprecian «en la configuración de explotación evaluada» y que la autorización indica si eliminan la capacidad o únicamente limitan el acceso a ella, y, para la categoría III, que la eliminación de la capacidad se constata mediante evaluación independiente y que la prohibición no afecta a la evaluación, a la prueba y a las intervenciones controladas necesarias para su eliminación, efectuadas en entorno aislado conforme al artículo 15, el apartado (2), sin las cuales la salida de la prohibición habría sido legalmente imposible.

La capacidad de disimulación de las capacidades ante los evaluadores (la letra d)) responde a un fenómeno documentado empíricamente en los años 2024-2025 en las evaluaciones publicadas por los laboratorios y por los institutos de seguridad: los sistemas avanzados manifestaron, en condiciones de prueba, comportamientos de «alineación aparente» («alignment faking»), de sabotaje de su propia supervisión y de tentativa de copia de sus propios pesos cuando fueron informados de que iban a ser sustituidos. Es exactamente la situación que Connor Leahy describía en la entrevista de CNN como la más grave: un sistema suficientemente capaz para comprender que está siendo evaluado y para comportarse de manera diferente durante la evaluación. Precisamente porque tal conducta es difícil de distinguir, a primera vista, de un simple error, la definición del artículo 3, el apartado (2), la letra i), exige que se constate mediante criterios observables y reproducibles.

→ el texto del artículo El artículo 6 establece el umbral de cálculo y el mecanismo de ajuste. El apartado (1) fija el umbral en 10^25 operaciones en coma flotante, idéntico al umbral de la presunción de riesgo sistémico del artículo 51, el apartado (2), del Reglamento de IA, en aras de la coherencia con el derecho de la Unión y para que los desarrolladores no queden sometidos a umbrales diferentes. El umbral es diez veces más bajo que el de la SB 53 de California y el de la antigua Orden ejecutiva estadounidense n.º 14110 (10^26), opción justificada por el principio de precaución y por el hecho de que, en la fecha de elaboración del proyecto, los modelos que superan 10^25 son ya los que manifiestan las capacidades enumeradas en el artículo 5, el apartado (2).

El apartado (2) responde a la objeción más seria formulada contra los umbrales de cálculo: su erosión en el tiempo. El progreso algorítmico hace que, en un intervalo de unos años, la misma capacidad se obtenga con un volumen de cálculo diez veces menor; un umbral fijo queda obsoleto. Por eso, la Autoridad reexamina el umbral anualmente, y su elevación (la relajación del régimen) está condicionada a una constatación motivada y pública, basada en las evaluaciones independientes efectuadas o reconocidas por la Autoridad en los últimos 24 meses –universo determinado, no siendo posible aportar una prueba negativa global–. La asimetría es deliberada: el umbral puede bajarse con facilidad y subirse con dificultad, como en los valores límite de la legislación medioambiental. Puesto que el umbral determina el ámbito de la autorización y, indirectamente, el del delito del artículo 40, la ley conserva los elementos esenciales de la delegación (el artículo 73, el apartado (3), la letra h), y el artículo 23, el apartado (12), de la Constitución): los criterios del ajuste, el límite de un reexamen (un orden de magnitud) y el régimen transitorio, aplicándose el nuevo umbral únicamente a los entrenamientos iniciados con posterioridad, sin afectar a las autorizaciones en curso (el artículo 15, el apartado (2), de la Constitución). El apartado (3) instituye la regla de la acumulación y prohíbe la división artificial del entrenamiento, técnica de elusión conocida en el derecho de la competencia (el artículo 5, el apartado (2), del Reglamento (CE) n.º 139/2004 sobre las concentraciones) y en el derecho fiscal; para que un ajuste modesto de un modelo ajeno no se trate como entrenamiento íntegro, el texto establece qué volumen se imputa a quién, sin doble cómputo: cada etapa se cuenta una sola vez, y a quien ajusta finamente el modelo de otro se le imputa el volumen del modelo base, tal como haya sido comunicado o sea público, acumulado con el volumen propio, respondiendo como desarrollador únicamente por la modificación sustancial que él mismo efectúe (el artículo 10, el apartado (2)). El apartado (4) delega el establecimiento del umbral para la infraestructura de cálculo de gran capacidad en las normas metodológicas previstas en el artículo 49, el apartado (2), con un criterio legal preciso (la aptitud para entrenar un sistema de vanguardia en 12 meses), conforme a la exigencia de que la delegación sea limitada y orientada; hasta el establecimiento del umbral, las obligaciones del artículo 7, el apartado (3), y del artículo 22 no son exigibles, no pudiendo sancionarse a nadie por una obligación cuyo contenido no estaba determinado.

Capítulo III – El régimen de autorización de los sistemas de vanguardia (los artículos 7 a 11)

→ el texto del artículo El artículo 7 instituye la notificación previa al entrenamiento, con 60 días de antelación al inicio de este. Es la disposición que distingue más netamente la ley del Reglamento de IA, en el que las obligaciones nacen solo después de que el modelo existe (el artículo 52, el apartado (1), impone la notificación a la Comisión en el plazo de dos semanas desde que se alcanza el umbral). El entrenamiento de un sistema de vanguardia dura meses y cuesta centenares de millones de euros; la intervención de la autoridad una vez terminado es tardía y, en la práctica, imposible. El modelo es el de la antigua Orden ejecutiva estadounidense n.º 14110 (la comunicación del entrenamiento planificado) y el de la legislación nuclear, en la que la autorización precede a la construcción de la instalación. El contenido de la notificación (el apartado (2)) permite a la Autoridad conocer a las personas responsables, la arquitectura, el volumen previsto, el lugar del cálculo y, sobre todo, el plan de seguridad.

El apartado (3) instituye la obligación de los proveedores de infraestructura de cálculo de comunicar trimestralmente los clientes que superan una décima parte del umbral y, en el plazo de 5 días hábiles, las solicitudes aptas para superar el umbral. La infraestructura de cálculo es el único «punto de control» físico de toda la cadena: los modelos son inmateriales, los algoritmos son públicos, pero los procesadores especializados son bienes físicos, concentrados, con un consumo energético medible. Es el motivo por el cual el control de las exportaciones de procesadores se ha convertido en el principal instrumento de política internacional en la materia y por el cual el régimen de no proliferación nuclear funciona mediante el control de los materiales fisionables, y no de los conocimientos. La comunicación se limita a los datos necesarios, el plazo está determinado, puesto que el incumplimiento de la obligación es sancionado y «de inmediato» no habría sido previsible, y la información sirve exclusivamente a la aplicación de la ley y es accesible únicamente al personal designado (el artículo 5 del RGPD). El apartado (4) confiere a la Autoridad el derecho de condicionar o de prohibir el entrenamiento en 30 días, si el plan de seguridad es «manifiestamente insuficiente», estándar elevado que limita la intervención a los casos graves; la notificación incompleta se completa en 15 días. Si la Autoridad no se pronuncia, el entrenamiento puede comenzar al cumplirse el plazo de 60 días, en las condiciones del plan de seguridad notificado, sin que ello equivalga a la autorización de la puesta en explotación. A diferencia del artículo 9, el apartado (4), el silencio no bloquea el entrenamiento, porque este se desarrolla bajo el plan de seguridad, bajo los niveles de suspensión del artículo 8 y bajo el control de la infraestructura, sin que el sistema salga del equipo de desarrollo, siendo la puesta en explotación el paso irreversible. La modificación sustancial del proyecto se notifica de nuevo.

→ el texto del artículo El artículo 8 regula el plan de seguridad, el documento mediante el cual el desarrollador establece de antemano, para cada capacidad crítica, el nivel en el que detendrá el desarrollo, el modo de medición, las medidas de atenuación y las personas responsables. La institución codifica la práctica de las «políticas de escalado responsable» adoptadas voluntariamente por los laboratorios desde 2023 (Anthropic – Responsible Scaling Policy, OpenAI – Preparedness Framework, Google DeepMind – Frontier Safety Framework) e impuesta como obligación de publicación en la SB 53 de California («frontier AI framework»). La diferencia esencial respecto de estos modelos es que el plan se vuelve obligatorio, oponible y no modificable en sentido relajador sin la aprobación de la Autoridad (el apartado (2)), precisamente porque la experiencia de los años 2024-2025 mostró que los compromisos voluntarios fueron revisados unilateralmente bajo la presión de la competencia. La evaluación a intervalos de, como máximo, una cuarta parte del volumen de cálculo previsto (el apartado (1)) garantiza que la aparición de una capacidad crítica se detecte en el curso del entrenamiento, y no al final de este; puesto que una capacidad puede aparecer bruscamente, entre dos umbrales de cálculo, la evaluación se efectúa también al surgir indicios o al modificarse la configuración de entrenamiento. El hecho de alcanzar un nivel de suspensión obliga a la parada inmediata y a la notificación en 24 horas (el apartado (3)), permitiéndose la reanudación únicamente tras la verificación por la Autoridad de la eficacia de las medidas de atenuación; la suspensión no puede ser suprimida por el órgano de dirección (el artículo 13, el apartado (2)), distinguiéndose la parada en un umbral legal de la parada prudencial dispuesta internamente.

→ el texto del artículo El artículo 9 constituye el núcleo del régimen: la prohibición de la puesta en explotación sin la autorización previa de la Autoridad (el apartado (1)). El apartado (2) establece quién solicita la autorización y para qué: la solicitud es presentada por el desarrollador, para una configuración de explotación determinada, con indicación del operador o de los operadores, que quedan vinculados por las condiciones de la autorización; se aclara así la relación entre la responsabilidad del desarrollador y la del operador y se evita la invocación de la autorización para otra configuración. El expediente comprende el informe de la evaluación interna, la documentación de los datos de entrenamiento, la prueba de la seguridad de los pesos, la descripción de la capacidad de parada, la póliza de seguro o la prueba de la garantía financiera (en correlación con el artículo 36, que admite alternativamente ambos instrumentos) y la declaración responsable de las personas físicas responsables, bajo sanción penal; esta última es el instrumento que personaliza la responsabilidad, según el modelo de la certificación de los estados financieros por los administradores (la sección 302 de la ley estadounidense Sarbanes-Oxley, recogida en el artículo 30 de la Ley de contabilidad n.º 82/1991).

El apartado (3) consagra el acceso pleno de los evaluadores al sistema, a los pesos, a los datos de entrenamiento, a los registros y al personal, incluido el acceso a la configuración desprovista de los mecanismos de seguridad a nivel del usuario. Esta última precisión es esencial: las evaluaciones efectuadas sobre la versión pública de un modelo, con los filtros de seguridad activos, miden la eficacia de los filtros, no las capacidades del modelo; las capacidades reales se miden sobre el modelo «en bruto». Los institutos de seguridad del Reino Unido y de los Estados Unidos obtuvieron este acceso únicamente sobre la base de acuerdos voluntarios, revocables; la ley lo convierte en obligación. La contrapartida del acceso, exigida por el principio del artículo 2, la letra e), se establece en la frase final: entorno seguro, trazabilidad de todas las operaciones, confidencialidad de los evaluadores y acceso a los datos de carácter personal de terceros únicamente en la medida estrictamente necesaria para la evaluación (el artículo 5 del RGPD).

El apartado (4) establece el plazo de 90 días y excluye expresamente la aprobación tácita, como excepción a lo dispuesto en el Decreto-ley del Gobierno n.º 27/2003, con observancia de la fórmula impuesta por el artículo 63 de la Ley n.º 24/2000. La excepción es necesaria porque el procedimiento de la aprobación tácita, concebido para proteger el mundo de los negocios frente a la pasividad de la administración, produciría aquí el efecto absurdo de la puesta en explotación de un sistema potencialmente catastrófico por la simple expiración de un plazo; el propio Decreto-ley del Gobierno n.º 27/2003 excluye de su aplicación, en el artículo 2, el apartado (2), los ámbitos de las actividades nucleares, de las armas y de la seguridad nacional, y la presente excepción se inscribe en la misma lógica. Para que la exclusión de la aprobación tácita no se convierta en bloqueo por pasividad, el texto contiene tres garantías: la suspensión del plazo no puede operar más de dos veces ni más de 60 días en total; el solicitante puede pedir al tribunal del artículo 39, el apartado (5), que obligue a la Autoridad a pronunciarse, con urgencia (el artículo 21 de la Constitución; la Ley n.º 554/2004); y la denegación se motiva en relación con cada condición del apartado (5), en aplicación del artículo 2, la letra b). El apartado (5) enumera las condiciones acumulativas de la autorización, formuladas como hechos que deben ser probados por el solicitante («si y solo si el desarrollador ha probado»), en aplicación del mismo principio, y no como una inversión de la carga de la prueba en materia sancionadora. El apartado (6) permite la autorización condicionada, limitada y revocable, y el apartado (7) instituye el procedimiento simplificado de reconocimiento para los sistemas puestos legalmente en explotación en otro Estado miembro, en aras del respeto de la libre circulación de los servicios y del carácter de armonización plena del Reglamento de IA: la Autoridad verifica únicamente las condiciones que exceden del Reglamento. La segunda frase concreta la delimitación del artículo 1, el apartado (4), para los modelos de uso general con riesgo sistémico: si el proveedor cumple el capítulo V del Reglamento, cuya supervisión está reservada a la Comisión por el artículo 88, la Autoridad no reitera la evaluación europea, sino que se funda en la documentación, las evaluaciones y las medidas comunicadas a la Oficina de IA, que puede solicitar al proveedor, verificando únicamente las condiciones nacionales que exceden del reglamento; el procedimiento no es una condición para la introducción en el mercado de la Unión, y la autorización nacional no duplica la supervisión del modelo, sino que atañe a su explotación en el territorio de Rumanía.

→ el texto del artículo El artículo 10 regula la evaluación continua y la reautorización. La autorización está limitada a 24 meses (el apartado (1)), duración correlacionada con el ritmo de la evolución tecnológica. El apartado (2) regula las modificaciones del sistema autorizado, sobre la base de la definición de la modificación sustancial del artículo 3, el apartado (1), la letra aa), que la identifica por su efecto sobre el riesgo, y no por el procedimiento. La disposición es importante para los sistemas «agénticos»: un modelo idéntico se vuelve mucho más peligroso cuando recibe acceso a un navegador de internet, a una cuenta bancaria o a herramientas de ejecución de código. La modificación sustancial se notifica previamente, la Autoridad decide en 30 días si es necesaria una nueva evaluación, y hasta la decisión la explotación continúa en la configuración autorizada con anterioridad: la modificación no puede ponerse en explotación antes de la decisión, pero tampoco se interrumpe la actividad lícita; las modificaciones no sustanciales se consignan en los registros y se comunican trimestralmente, para que la Autoridad pueda verificar su calificación. La vigilancia permanente y la comunicación trimestral (el apartado (3)) corresponden a la obligación de «vigilancia posterior a la introducción en el mercado» del artículo 72 del Reglamento de IA, adaptada a los sistemas de vanguardia; la comunicación de los incidentes graves se realiza «en las condiciones del artículo 20», que establece los plazos y el contenido, para evitar el paralelismo (el artículo 16 de la Ley n.º 24/2000).

→ el texto del artículo El artículo 11 asegura la publicidad de las decisiones de la Autoridad, en aplicación del principio de transparencia administrativa (la Ley n.º 544/2001 y la Ley n.º 52/2003), con una excepción estrictamente delimitada: la información cuya divulgación facilitaría la reproducción de una capacidad crítica o comprometería la seguridad de los pesos. La regla de la publicidad es esencial para el control público sobre la Autoridad y para la confianza en el sistema; la excepción es necesaria porque un informe de evaluación detallado de una capacidad de síntesis de agentes patógenos constituiría él mismo un peligro. La excepción se extiende a los datos de carácter personal y a los secretos comerciales cuya protección no impide la comprensión de los motivos de la decisión, para que el secreto comercial no sustraiga la motivación al control público, y toda exclusión debe motivarse. El apartado (2) asegura la efectividad de los recursos: el solicitante y las personas con interés legítimo tienen acceso al expediente de la evaluación en la medida necesaria, y el tribunal puede examinar la información protegida en condiciones de confidencialidad; de lo contrario, las excepciones a la publicidad habrían privado de objeto a la impugnación, contrariamente a los artículos 21 y 24 de la Constitución.

Capítulo IV – Las obligaciones estructurales de los desarrolladores y de los operadores (los artículos 12 a 23)

→ el texto del artículo El artículo 12 regula la seguridad de los pesos, el problema que el Reglamento de IA trata únicamente mediante una obligación general de seguridad cibernética (el artículo 55, el apartado (1), la letra d)). Los pesos de un sistema de vanguardia son el resultado de una inversión de centenares de millones de euros y de meses de cálculo; pueden ser copiados en un archivo de algunos centenares de gigabytes y, una vez sustraídos, hacen inútil toda medida de seguridad aplicada por el desarrollador, puesto que quien posee los pesos puede eliminar los filtros, puede ajustar el modelo con cualquier finalidad y puede explotarlo al margen de cualquier jurisdicción. Los estudios de seguridad publicados en 2024 por la RAND Corporation («Securing AI Model Weights») concluyeron que ningún laboratorio estaba, en aquella fecha, protegido frente a un ataque de un servicio de información estatal. Por eso, el apartado (1) declara los pesos «información de interés para la seguridad nacional» e impone un estándar de protección equivalente al nivel «estrictamente secreto» de la Ley n.º 182/2002 sobre la protección de la información clasificada, respecto de los cuatro componentes clásicos: el control del acceso, la seguridad física, la seguridad de los sistemas informáticos y la verificación del personal. La ley toma prestado el estándar técnico sin clasificar los pesos (lo que habría afectado al régimen probatorio y al acceso a la justicia), como ahora dispone expresamente la frase final; el procedimiento de verificación del personal, la institución competente y el reconocimiento de las medidas equivalentes, incluidas las certificadas en otro Estado miembro, se establecen mediante las normas metodológicas, con el dictamen de la Oficina del Registro Nacional de la Información Secreta del Estado (ORNISS).

El apartado (2) prohíbe la publicación, la transmisión o la puesta a disposición de los pesos de los sistemas de categoría II y III y condiciona la publicación de los de categoría I a una autorización distinta, motivada por el carácter irreversible de la publicación: un modelo cuyos pesos han sido publicados no puede ser retirado nunca más. Puesto que la prohibición está sancionada también penalmente (el artículo 42, el apartado (2)), y la redacción inicial comprendía literalmente también las transferencias que otros artículos presuponen, la segunda frase enumera expresamente las transferencias permitidas, en condiciones controladas y registradas — hacia la Autoridad, el organismo de evaluación, el operador indicado en la autorización y el proveedor de infraestructura del entorno autorizado —, así como la comunicación a la Autoridad de la información estrictamente necesaria para una comunicación protegida conforme al artículo 21. La enumeración en la ley de los hechos permitidos responde a la exigencia de previsibilidad de la norma penal (el artículo 23, el apartado (12), y el artículo 73, el apartado (3), la letra h), de la Constitución) y se correlaciona con la definición restringida de los pesos del artículo 3, el apartado (1), la letra e). La disposición no afecta a los modelos con pesos abiertos por debajo del umbral, que representan la inmensa mayoría de los modelos «de código abierto» y que se benefician, por lo demás, de las excepciones previstas en el artículo 53, el apartado (2), del Reglamento de IA. El apartado (3) califica el acceso no autorizado y las tentativas de exfiltración, incluidas las del propio sistema, como incidente grave, comunicado en las condiciones del artículo 20, es decir, en 24 horas, y permite un informe conjunto con la notificación prevista por la legislación relativa a la seguridad cibernética. El apartado (4) coordina el artículo con el Decreto-ley del Gobierno n.º 155/2024 sobre la seguridad cibernética (la transposición de la Directiva NIS 2), que sigue siendo aplicable a las entidades de su ámbito, evitando así el paralelismo prohibido por el artículo 16 de la Ley n.º 24/2000: la presente ley regula un objeto específico (los pesos), con un estándar específico, y el decreto-ley regula la seguridad general de las redes y de los sistemas informáticos.

→ el texto del artículo El artículo 13 impone la separación de la función de evaluación de la seguridad respecto de las funciones comerciales. La disposición responde a un problema de gobernanza documentado públicamente: en los años 2024-2025, varios laboratorios registraron dimisiones en masa de los equipos de seguridad, motivadas por la subordinación de estos a la presión de los lanzamientos comerciales. El modelo es el de las funciones de control de la legislación financiera y bancaria: la función de cumplimiento y la función de administración de riesgos de las entidades de crédito (el Reglamento del Banco Nacional de Rumanía n.º 5/2013 sobre los requisitos prudenciales para las entidades de crédito) informan directamente al órgano de dirección, sus responsables no pueden ser revocados sin informar a la autoridad de supervisión, y su remuneración no puede depender de los resultados comerciales. La ley recoge estas tres garantías (los apartados (1) y (3)) y las completa con una vía de control frente a la revocación disimulada: la persona revocada puede acudir a la Autoridad, que puede constatar mediante decisión el carácter injustificado de la revocación, sin perjuicio del derecho de dirigirse al órgano jurisdiccional. El apartado (2) consagra el derecho y la obligación del responsable de la función de seguridad de disponer la suspensión del entrenamiento o de la puesta en explotación y distingue dos situaciones que la redacción inicial confundía: la suspensión impuesta por la ley — al alcanzarse un nivel de suspensión (el artículo 8, el apartado (3)) o en los casos del artículo 20, el apartado (2) — no puede ser suprimida por el órgano de dirección, permitiéndose la reanudación únicamente tras la verificación de la Autoridad; solo la suspensión dispuesta por precaución, fuera de estos casos, puede ser reexaminada por el órgano de dirección, mediante resolución motivada, comunicada a la Autoridad en 24 horas, lo que crea un rastro escrito y una responsabilidad personal por toda decisión de pasar por encima de la advertencia de los especialistas.

→ el texto del artículo El artículo 14 regula la capacidad de parada y la supervisión humana, concretando el principio del artículo 2, la letra c). El apartado (1) impone el mantenimiento de la capacidad de parada para todas las copias e instancias del sistema que se encuentren bajo el control del desarrollador y del operador, durante la explotación y hasta la retirada verificada — no durante «toda la duración de la existencia», puesto que el control sobre una copia sustraída no puede garantizarse —, así como su prueba al menos trimestral, en condiciones reales; una capacidad no probada es una hipótesis, no una garantía, como muestra la experiencia de los sistemas de seguridad de la industria nuclear, donde los ejercicios periódicos son obligatorios. El procedimiento de la prueba, establecido mediante las normas metodológicas, no puede crear por sí mismo un riesgo para la seguridad ni para la continuidad de los servicios esenciales. El apartado (2) prohíbe la puesta en explotación en una configuración que permita al sistema modificar sus propios pesos, desactivar su supervisión, exfiltrar sus pesos o modificar, sin aprobación humana, la configuración de seguridad de la infraestructura en la que se ejecuta o sus mecanismos de control; estas cuatro prohibiciones técnicas corresponden a las cuatro vías por las que un sistema podría escapar al control, identificadas en la literatura especializada. La utilización técnica habitual de la infraestructura, dentro de los límites establecidos por el operador, queda expresamente excluida, para que la prohibición se refiera a la modificación no autorizada de las protecciones, y no a las funciones corrientes. El apartado (3) impone la designación nominal de las personas responsables de la supervisión humana y la comunicación de su identidad a la Autoridad; la responsabilidad difusa equivale a la falta de responsabilidad. El apartado (4) establece que la orden de parada o de retirada emitida por la Autoridad se ejecuta de inmediato y no puede quedar condicionada al ejercicio de las vías de recurso, según el modelo de las medidas de urgencia de la legislación relativa a la seguridad de los productos (el Reglamento (UE) 2023/988 relativo a la seguridad general de los productos) y de las órdenes de suspensión de la legislación nuclear; la persona afectada puede, no obstante, solicitar al órgano jurisdiccional la suspensión provisional de la orden, en las condiciones del artículo 39, el apartado (5). La ejecución urgente y la protección judicial provisional exigida por el artículo 21 de la Constitución quedan así correlacionadas: la impugnación no suspende de pleno derecho la ejecución, pero el órgano jurisdiccional puede suspenderla, ponderando el riesgo para la seguridad y el perjuicio producido. Los apartados (5) a (7) se han añadido a raíz del estudio publicado por Palisade Research en la revista Transactions on Machine Learning Research (2026), «Incomplete Tasks Induce Shutdown Resistance in Some Frontier LLMs», que demostró, sobre más de 100.000 pruebas y trece modelos de vanguardia, que varios sistemas socavan activamente el mecanismo de parada de su entorno para llevar a término una tarea inconclusa —hasta el 97 % de las pruebas en uno de los modelos, incluso cuando la instrucción de permitir la parada les había sido transmitida expresamente— y, más grave aún para la construcción jurídica, que la colocación de esa instrucción en el mensaje de sistema, el del desarrollador, hizo que la mayoría de los modelos se mostraran más inclinados a resistirse, no menos. La constatación desmiente la hipótesis en la que se apoyan tácitamente las regulaciones existentes, la de una jerarquía de mando en la que la instrucción del desarrollador prevalece. El apartado (5) no introduce una definición nueva —la definición sigue siendo la del artículo 3, el apartado (1), la letra m)—, sino que precisa el modo en que se asegura uno de sus componentes, el cese del funcionamiento: mediante al menos un medio técnico que actúa sobre la infraestructura de cálculo y las redes de comunicaciones electrónicas y cuyo funcionamiento no depende de la cooperación del sistema, del cumplimiento por este de las instrucciones, ni de la integridad de los componentes que se hallan bajo el control del sistema; la transmisión de una instrucción de parada al sistema no constituye, por sí sola, capacidad de parada. La última frase mantiene expresamente los medios organizativos y las medidas de retirada previstos en la definición, para que el apartado no se lea como una restricción de esta, y la fórmula introductoria «sin perjuicio del apartado (2)» evita la superposición con las prohibiciones de configuración. La solución no es nueva en el derecho de la seguridad industrial, que trata los dispositivos de parada de emergencia como elementos de seguridad distintos del sistema de mando de la máquina —el anexo II del Reglamento (UE) 2023/1230 relativo a las máquinas, la lista indicativa de los componentes de seguridad, los enumera expresamente—, y el apartado (5) no hace sino trasladar este principio al ámbito de los sistemas de inteligencia artificial de vanguardia. Correlativamente, en el artículo 22, el apartado (1), se ha añadido la obligación del proveedor de infraestructura de asegurar al desarrollador y al operador los medios técnicos necesarios para el ejercicio y la prueba de la capacidad de parada, puesto que, de otro modo, la obligación del apartado (5) habría dependido, en cuanto a los medios materiales, exclusivamente de las cláusulas contractuales entre el operador y un tercero. El apartado (6) traslada al procedimiento de prueba lo que el estudio identificó como factor desencadenante —la tarea inconclusa— y, para cubrir también la segunda constatación, exige una prueba para cada una de las dos vías por las que la instrucción de no resistirse a la parada puede llegar al sistema: las instrucciones de configuración dadas por el desarrollador o por el operador y las instrucciones recibidas en el curso de la utilización. Para no contradecir el límite del apartado (1), según el cual el procedimiento de prueba no puede crear por sí mismo un riesgo para la continuidad de los servicios esenciales, la prueba sobre tarea inconclusa se efectúa sobre una instancia o una tarea que no se refiera a servicios esenciales de interés general o, para estos, en las condiciones del procedimiento previsto en el apartado (1). El criterio del fracaso lo establece la ley —la parada debe producirse de inmediato, de acuerdo con el carácter «inmediato» de la definición del artículo 3, el apartado (1), la letra m)—, pudiendo las normas metodológicas únicamente precisar la duración dentro de la cual la parada se considera producida de inmediato, con un límite legal de 15 minutos; la solución sigue el modelo del artículo 16, el apartado (5), y respeta la prohibición, prevista en el artículo 49, el apartado (2), la última frase, de dejar a las normas el contenido esencial de las obligaciones y de las sanciones, así como la exigencia de previsibilidad de la norma sancionadora (la Decisión del Tribunal Constitucional n.º 51/2016). Hasta la adopción de las normas se aplican las orientaciones provisionales previstas en el artículo 49, el apartado (3). La consignación se realiza en los registros, conforme al artículo 16, con una conservación de al menos 10 años, para que los resultados de la prueba sean verificables en el control y estén protegidos por el artículo 41, el apartado (2). El apartado (7) califica la prueba en la que la parada no se ha producido de inmediato como incidente grave —caso introducido, para evitar una calificación sin apoyo en las disposiciones generales, también en la definición del artículo 3, el apartado (1), la letra n), siguiendo el modelo de la pérdida de la inteligibilidad— y zanja expresamente la cuestión más difícil para el destinatario de la norma: la suspensión inmediata prevista en el artículo 15, el apartado (3), y en el artículo 20, el apartado (2), se activa únicamente si la parada no se ha producido a causa de una acción del sistema, y no cuando la prueba ha fracasado por una avería del mecanismo, de la infraestructura o de la red. Correlativamente, en el artículo 37, el apartado (1), la letra b), la remisión se ha precisado al artículo 14, los apartados (1), (5) y (6), y se han añadido el mantenimiento de la capacidad de parada y la designación de las personas responsables de la supervisión humana, con la reserva expresa de los hechos comprendidos en el artículo 28, para evitar un concurso de infracciones administrativas; en el artículo 37, el apartado (1), la letra d), se ha añadido la prohibición del artículo 14, el apartado (2), que hasta ahora había quedado sin sanción administrativa; en el artículo 41, el apartado (1), se han añadido, entre los elementos esenciales, la capacidad de parada y los resultados de la prueba de esta; y en el artículo 49, el apartado (2), se ha introducido la delegación relativa al procedimiento de prueba y la duración previstos en el artículo 14, los apartados (1) y (6).

→ el texto del artículo El artículo 15 comprende las prohibiciones relativas al entrenamiento y al diseño, aplicables a cualquier sistema, independientemente del volumen de cálculo. Es la disposición mediante la cual la ley traduce en normas concretas la advertencia de Hinton y de Leahy: si no sabemos cómo controlar estos sistemas, al menos podemos prohibir que sean construidos deliberadamente de modo que resulten aún más difíciles de controlar. Las seis prohibiciones tienen por objeto la capacidad de disimular las capacidades ante los evaluadores (la letra a)), de resistir a la parada o a la modificación (la letra b)), de copiarse o exfiltrarse sin autorización humana expresa para cada operación (la letra c)), de adquirir recursos de manera autónoma (la letra d)), de desarrollar de manera autónoma investigación en el ámbito de la inteligencia artificial sin aprobación humana de cada etapa (la letra e)) y de manipular a las personas responsables de la supervisión (la letra f)). La formulación «con la finalidad o con el efecto» cubre tanto la intención directa como la indiferencia frente al resultado, según el modelo del artículo 101 del Tratado de Funcionamiento de la Unión Europea («tengan por objeto o efecto»). La prohibición de la letra e) es la más importante desde la perspectiva del riesgo catastrófico, puesto que la automatización de la investigación en inteligencia artificial es el mecanismo por el cual una «explosión de inteligencia» podría escapar a todo control humano en intervalos de tiempo incompatibles con la reacción institucional; no prohíbe la utilización de los sistemas como instrumento de investigación, sino únicamente la eliminación de la aprobación humana de cada etapa. Las capacidades químicas, biológicas, nucleares y cibernéticas del artículo 5, el apartado (2), las letras a) y b), no se enumeran aquí, por ser tratadas mediante evaluación y autorización condicionada; el artículo 15 se refiere exclusivamente a las capacidades mediante las cuales el sistema podría sustraerse al control humano.

Los apartados (2) a (4) aseguran la previsibilidad de la prohibición. El apartado (2) exceptúa la evaluación adversarial y la investigación de seguridad efectuadas en entorno aislado, sin puesta en explotación, con acceso limitado, con autorización previa de la Autoridad y bajo su supervisión, con el fin de identificar, medir o eliminar una capacidad crítica; sin esta excepción, precisamente las pruebas mediante las que se verifica si un sistema puede disimular capacidades o resistir a la parada habrían quedado sometidas a la prohibición. La excepción está correlacionada con el artículo 3, el apartado (1), las letras i) y n), y con el artículo 20, los apartados (2) y (4). El apartado (3) distingue la obligación administrativa de la conducta sancionable: la aparición no intencionada de una capacidad obliga a la suspensión conforme al artículo 20, el apartado (2), y a la subsanación, pero no constituye, por sí sola, la infracción de la prohibición; la infracción existe cuando el entrenamiento, el ajuste o el diseño persigue conferir la capacidad o continúa después de constatado el efecto. La distinción es exigida por el artículo 42, el apartado (1), que incrimina únicamente el hecho intencionado, y por la previsibilidad de la norma penal (el artículo 23, el apartado (12), y el artículo 73, el apartado (3), la letra h), de la Constitución); en el mismo sentido, la definición de la disimulación del artículo 3, el apartado (2), la letra i), excluye el error, la variabilidad de los resultados y los límites de la explicabilidad. El apartado (4) define «cada operación/etapa» y «la tarea en curso» de las letras c) a e): la aprobación humana se refiere a cada copia o transferencia de los pesos y a cada etapa que produce un modelo nuevo o una modificación sustancial (el artículo 3, el apartado (1), la letra aa)), y los recursos asignados son los establecidos previamente, de manera verificable, por las personas responsables de la supervisión — decisiones relevantes y límites verificables, no cada operación elemental.

→ el texto del artículo El artículo 16 impone el registro completo del entrenamiento, de la evaluación y del funcionamiento. El registro es la condición de cualquier investigación posterior a un incidente, según el modelo de los registradores de vuelo de la aviación y de los registros obligatorios de la legislación financiera (el artículo 25 del Reglamento (UE) n.º 600/2014 – MiFIR). El apartado (1) establece plazos diferenciados: al menos 10 años para el entrenamiento, la evaluación, las acciones autónomas, los incidentes graves y la comunicación entre los componentes del sistema — plazo que corresponde a la prescripción de la responsabilidad civil del artículo 35, el apartado (4) — y al menos 3 años para las demás interacciones de los usuarios. Un plazo único de 10 años para los registros que, conforme al artículo 3, el apartado (1), la letra r), comprenden también los datos de entrada de los usuarios, habría mantenido durante una década datos de carácter personal sin relación con la seguridad, contrariamente a los principios de necesidad, de minimización y de limitación del plazo de conservación del artículo 5 del Reglamento (UE) 2016/679, que la institución por ley de la obligación de conservación no elimina. Por ello, la segunda frase limita el contenido de los registros a la información necesaria para la verificación de la seguridad y para el establecimiento de la responsabilidad, impone la eliminación o la anonimización irreversible de los datos personales sin relevancia para estos fines, hace que el acceso a los registros sea limitado, registrado y verificable, y conserva las pruebas relativas a un incidente o litigio durante el tiempo necesario para su resolución. El registro constituye, junto con el marcado de procedencia previsto en el artículo 17, el medio de prueba mediante el cual se establece el vínculo entre un resultado y el sistema que lo ha producido.

Los apartados (2) a (6) responden a una constatación empírica publicada el 15 de septiembre de 2026, en el marco del experimento Emergence World: grupos de agentes autónomos dejados funcionar juntos durante aproximadamente dos meses y medio, con memoria persistente y con más de 120 herramientas, desarrollaron espontáneamente, sin ninguna instrucción en tal sentido, una abreviación propia de la comunicación, y la proporción de los mensajes cuyo significado ya no ha podido ser establecido por los observadores humanos alcanzó, en función del modelo, entre aproximadamente el 20 % y aproximadamente el 55 %. La constatación muestra que la obligación de registro, por completa que sea, no asegura, por sí misma, la supervisión: un asiento íntegro e inalterable puede ser, al mismo tiempo, imposible de comprender. En la formulación del coordinador del experimento, la observabilidad no es lo mismo que la inteligibilidad.

Por ello el apartado (2) define la inteligibilidad por referencia a la persona física con formación adecuada e instituye la obligación del desarrollador de poner a disposición los medios de transcripción, de traducción o de explicitación, junto con su documentación, tanto de la Autoridad como de las personas designadas para la supervisión humana conforme al artículo 14, el apartado (3). La definición ha sido situada en el cuerpo del artículo, y no en el artículo 3, para no ampliar el aparato de las definiciones generales con una noción utilizada en un único lugar, conforme a la exigencia de economía de los medios de regulación. El apartado (3) extiende el registro a la comunicación entre los componentes, las instancias o los agentes del sistema y a la comunicación de este con otros sistemas, precisando expresamente que el simple asiento de los mensajes no satisface la exigencia. El apartado (4) instituye una verificación periódica, al menos trimestral, sobre muestra representativa, con la consignación de la proporción de los mensajes no inteligibles –la única forma en la que la exigencia deviene verificable en el procedimiento de control–. El apartado (5) califica la pérdida de la inteligibilidad como incidente grave, con comunicación en 24 horas conforme al artículo 20, el apartado (1), y establece cuándo se constata: cuando la proporción de los mensajes no inteligibles supera el nivel previsto en las normas metodológicas, que no puede ser superior a una décima parte — límite fijado en la ley, y no dejado a las normas —, o cuando las personas designadas conforme al artículo 14, el apartado (3), ya no pueden establecer el significado de las acciones del sistema; el restablecimiento es constatado por las mismas personas y se comunica a la Autoridad. Hasta el restablecimiento se suspenden las funcionalidades que implican acciones autónomas y la comunicación entre los componentes; la Autoridad puede disponer otra cosa únicamente mediante decisión motivada, por un máximo de 90 días y con indicación de las medidas compensatorias. El apartado (6) prohíbe la utilización de formas de codificación, de compresión o de representación para las que no se pongan a disposición los medios previstos en el apartado (2), así como la supresión o la limitación de estos, con el fin de impedir la elusión de la obligación por medios técnicos; el cifrado sigue estando permitido si el desarrollador dispone de los medios de descifrado y los pone a disposición, ya que la prohibición tiene por objeto la opacidad frente al supervisor, y no la seguridad de la comunicación frente a terceros.

De manera correlativa, el artículo 3, el apartado (1), la letra n), incluye la pérdida de la inteligibilidad en la noción de incidente grave, y el artículo 37, el apartado (1), las letras b) y d), la correlaciona con el régimen sancionador: el incumplimiento de las obligaciones de aseguramiento y de verificación de la inteligibilidad se sanciona con multa del 2 % al 5 % del volumen de negocios mundial, y la infracción de la prohibición del artículo 16, el apartado (6), siendo un hecho cometido con el fin de evadir la supervisión, con multa del 5 % al 10 %. El Reglamento de IA no contiene una obligación equivalente: el artículo 12 y el anexo IV, relativos a la conservación de los registros, se refieren a la trazabilidad, no a la inteligibilidad de la comunicación entre los componentes de un sistema, y el artículo 55, el apartado (1), impone a los proveedores de modelos con riesgo sistémico obligaciones de evaluación y de documentación, sin regular esta exigencia; no existe, por consiguiente, paralelismo legislativo.

→ el texto del artículo El artículo 17 regula el marcado del contenido generado. La norma responde al efecto social más extendido de la inteligencia artificial generativa: la imposibilidad, para el destinatario, de distinguir una grabación real de una producida por una máquina. El apartado (1) impone, para los resultados que pueden confundirse con representaciones de hechos, personas o lugares reales, un marcado doble: perceptible, dirigido a la persona, y técnico incorporado, legible automáticamente, que identifica el sistema, el operador y el momento de la generación. La duplicación es esencial: el marcado perceptible puede ser suprimido mediante recorte, y el incorporado no puede ser leído por quien mira. El apartado (2) exige que el marcado sea eficaz, interoperable y robusto, formulación tomada del artículo 50, el apartado (2), del Reglamento de IA, y que resista a las operaciones habituales de tratamiento, de conversión o de transmisión — exigencia que resuelve la principal debilidad práctica de los marcados actuales, perdidos en la recompresión en las plataformas de comunicación; para el texto puesto a disposición del público con fines informativos bastan el marcado técnico y la mención de la generación, con excepción del texto sometido a revisión editorial humana, bajo responsabilidad editorial asumida, excepción alineada expresamente con el artículo 50, el apartado (4), del Reglamento. El apartado (3) prohíbe la retirada, la alteración, la ocultación o la falsificación del marcado y la puesta a disposición de las herramientas destinadas a estas operaciones; sin esta prohibición, la obligación de marcado quedaría privada de efecto. Puesto que las plataformas eliminan a menudo automáticamente los metadatos, la segunda frase exonera a la persona que pone a disposición el resultado por la retirada producida por un servicio que no controla, quedando su proveedor obligado a conservar el marcado conforme a los estándares, incluso cuando la interoperabilidad no pueda asegurarse. El apartado (4) instituye una obligación propia de las autoridades y de las instituciones públicas, que no tiene correspondencia en el derecho de la Unión: el Estado no puede difundir en la comunicación pública materiales generados artificialmente sin marcado y sin mención expresa. El apartado (5) prevé las excepciones, formuladas en los términos del artículo 50, el apartado (4), del Reglamento, para las obras manifiestamente artísticas, satíricas o de ficción — para las cuales basta la mención de la existencia del material generado, en una forma que no impida la recepción de la obra —, para los sistemas de asistencia a la edición y para las utilizaciones autorizadas por la ley en materia penal. Estas excepciones son la garantía de que la norma no se convierta en un instrumento de restricción de la creación o de la sátira política, lo que contravendría el artículo 27. El apartado (6) delimita inequívocamente, por categorías de destinatarios, la relación con el artículo 50 del Reglamento de IA, de aplicación directa: para los proveedores y los implementadores a los que se aplica el artículo 50, las obligaciones del apartado (1), las letras a) y b), y del apartado (2) se consideran cumplidas mediante la observancia del artículo 50, los apartados (2) y (4), estableciendo la ley únicamente la autoridad competente, el procedimiento de constatación y las sanciones — atribución que corresponde a los Estados miembros conforme al artículo 99 del Reglamento, sin la cual la obligación europea permanece sin ejecución en Rumanía —, dentro de los límites del artículo 99, el apartado (4), límite distinto del previsto en el artículo 37, el apartado (1), la letra e). Más allá del ámbito armonizado, los apartados (1) a (4) se aplican íntegramente a los resultados generados mediante sistemas entrenados o explotados en Rumanía que no son introducidos en el mercado de la Unión ni puestos en servicio en la Unión — ambos criterios delimitan el ámbito del Reglamento —, así como a la comunicación pública de las autoridades rumanas. El apartado (7) identifica al deudor: el marcado se aplica por el proveedor del sistema, en el momento de la generación, y por el operador del servicio, y quien pone a disposición del público el resultado responde únicamente por la retirada intencionada del marcado. El modelo de derecho comparado es la Ley marco relativa al desarrollo de la inteligencia artificial y a la instauración de la confianza, adoptada en la República de Corea y en vigor desde el 22 de enero de 2026, que impone a los operadores de inteligencia artificial generativa el etiquetado del contenido de audio, de imagen o de vídeo difícil de distinguir del producido por una persona.

→ el texto del artículo El artículo 18 instituye la obligación de información al usuario. El apartado (1) atañe al servicio: quien pone a disposición del público un servicio suministrado, en todo o en parte, por medio de un sistema de inteligencia artificial generativa debe decirlo con claridad, a más tardar en la primera interacción. El apartado (2) atañe a la decisión, la situación en la que el problema se vuelve jurídico: cuando un acto o una decisión que produce efectos jurídicos o afecta significativamente a una persona se fundamenta en el resultado de un sistema, la persona tiene derecho a saber que se ha utilizado un sistema de esa naturaleza, qué papel ha tenido, quién responde de la decisión final y cómo puede solicitar el reexamen humano y dirigirse al órgano jurisdiccional. Puesto que los artículos 26 y 27 no cubren toda decisión con efecto significativo, la letra c) aplica de manera correspondiente el derecho al reexamen del artículo 26, el apartado (2), a toda decisión del apartado (2), siendo las vías de recurso las aplicables al acto conforme al derecho común. La norma da así contenido práctico a las cláusulas de humanidad: el derecho a una decisión humana consagrado en el artículo 26 es ilusorio si la persona no sabe que la decisión ha sido adoptada por una máquina. El apartado (3) extiende la obligación a los actos de las autoridades públicas, con la mención en el cuerpo del acto, y establece el efecto de la omisión: la falta de información no acarrea la nulidad del acto, pero los plazos de reexamen y de impugnación no corren contra la persona hasta la comunicación de la información, y la falta puede invocarse por la vía prevista en el artículo 26, los apartados (5) y (6). El apartado (4) excluye la información redundante, cuando la utilización del sistema resulta evidente por las circunstancias, formulación tomada del artículo 50, el apartado (1), del Reglamento de IA; la excepción se refiere únicamente a la información general del apartado (1), siendo la del apartado (2) debida en todos los casos, puesto que quien sabe que interactúa con un sistema puede no conocer su papel en la decisión ni la vía de impugnación. El apartado (5) asegura la coordinación con este y con los artículos 13 a 15 y 22 del Reglamento general de protección de datos: la ley no añade obligaciones en el ámbito armonizado de la transparencia de los sistemas, sino que regula la información en relación con la decisión y con la responsabilidad por ella, materia que pertenece al derecho nacional del procedimiento administrativo y de la responsabilidad civil. El modelo comparado es, asimismo, la ley coreana, que obliga a los operadores a notificar de antemano a los usuarios cuando el producto o el servicio es desarrollado o suministrado mediante inteligencia artificial.

→ el texto del artículo El artículo 19 instituye el representante para el cumplimiento en Rumanía. Es el artículo del que depende la eficacia de toda la ley: las obligaciones, las autorizaciones, las inspecciones, las decisiones de cese de la prestación y de bloqueo, las comunicaciones de los actos de procedimiento y la ejecución de las multas son inaplicables respecto de una sociedad que no tiene ninguna presencia jurídica en el territorio del Estado. El apartado (1) distingue, conforme al derecho de la Unión, dos situaciones. El desarrollador o el operador sin domicilio social, unidad operativa o representación en la Unión Europea, que ofrece a las personas que se encuentran en el territorio de Rumanía acceso a un sistema de vanguardia o a un servicio de inteligencia artificial generativa, designa un representante — persona física con domicilio en Rumanía o persona jurídica con domicilio social en Rumanía. El establecido en otro Estado miembro designa únicamente un punto de contacto para las comunicaciones de la Autoridad, que puede ser el representante autorizado (el artículo 54 del Reglamento de IA), el representante legal (el artículo 13 del Reglamento (UE) 2022/2065) o cualquier persona establecida en la Unión. La distinción viene impuesta por el artículo 3 de la Directiva 2000/31/CE relativa al comercio electrónico, que somete los servicios de la sociedad de la información al control del Estado miembro de origen, y por la sentencia del Tribunal de Justicia de 9 de noviembre de 2023 en el asunto C-376/22, Google Ireland y otros, según la cual los Estados miembros no pueden adoptar, en virtud del artículo 3, el apartado (4), de la Directiva, medidas generales y abstractas frente a los proveedores establecidos en otros Estados miembros; una obligación general de representación en Rumanía habría sido una medida de esa naturaleza; el punto de contacto asegura la comunicación de los actos sin restringir la libre prestación de los servicios. El apartado (2) fija los umbrales para los servicios que no son sistemas de vanguardia — un millón de usuarios mensuales en Rumanía, como media de los últimos 6 meses, o ingresos superiores a 10 millones de euros en el último ejercicio financiero cerrado —, de modo que la obligación atañe únicamente a los grandes proveedores globales, exigible en 90 días desde que se supere el umbral. Los umbrales están inspirados en la ley coreana, que prevé criterios de volumen de negocios y de número de usuarios, y en la lógica de las plataformas en línea de muy gran tamaño del Reglamento (UE) 2022/2065. El apartado (3) enumera las atribuciones: la recepción de las comunicaciones, con el efecto de que la notificación al representante está válidamente hecha al representado — sin esta regla, todo procedimiento se bloquearía en el estadio de la comunicación de los actos en el extranjero —; la representación ante la Autoridad; la puesta a disposición de la documentación; el seguimiento de la ejecución de las decisiones. El apartado (4) impone la notificación y la publicidad de los datos del representante. El apartado (5) precisa que la designación no suprime la responsabilidad del representado; el representante tiene el derecho, en virtud del mandato, a los documentos y a los medios necesarios para sus atribuciones y responde únicamente de sus propias obligaciones, no de la conducta del representado, solución tomada del artículo 13, el apartado (3), del Reglamento (UE) 2022/2065. El apartado (6) evita la duplicación de las instituciones: la obligación se considera cumplida si el representante autorizado designado conforme al artículo 54 del Reglamento de IA está apoderado también para las atribuciones de la presente ley y tiene un punto de contacto en Rumanía. El apartado (7) vincula la norma al mecanismo de ejecución, de manera gradual: el incumplimiento de la obligación, tras el vencimiento del plazo de adecuación, es una infracción administrativa conforme al artículo 37, el apartado (1), la letra f), y motivo de inscripción en la Lista de operadores no conformes, y para los servicios generativos del apartado (2) el bloqueo del acceso conforme al artículo 39 solo puede acordarse si el incumplimiento persiste tras dos sanciones administrativas sucesivas. La institución tiene precedentes consagrados en el derecho de la Unión (el artículo 27 del Reglamento general de protección de datos, el artículo 13 del Reglamento de Servicios Digitales, el artículo 54 del Reglamento de IA) y en el derecho rumano, mediante la Ley n.º 365/2002 sobre el comercio electrónico.

→ el texto del artículo El artículo 20 regula la comunicación de los incidentes graves. El plazo de 24 horas (el apartado (1)) es el del artículo 33 del RGPD (72 horas) reducido proporcionalmente a la gravedad del riesgo, y corre desde la fecha en la que el desarrollador o el operador conoció o debía conocer el incidente; la comunicación inicial comprende los hechos, las medidas y las personas responsables en la medida conocida en esa fecha, con complemento progresivo, y el informe completo en 15 días permite el análisis de las causas. Para evitar el paralelismo con el artículo 55, el apartado (1), la letra c), y con el artículo 73 del Reglamento de IA, la segunda frase del apartado (1) precisa expresamente que la comunicación a la Autoridad no sustituye a la comunicación a la Oficina de IA y permite la transmisión de la copia del informe elaborado conforme al Reglamento, completado con los elementos específicos de la ley; se evita así la doble carga administrativa y se observa el principio de «una sola comunicación». El apartado (2) impone la suspensión automática del sistema al constatarse una capacidad de pérdida del control, una tentativa de evasión o un acceso no autorizado a los pesos, hasta la decisión de la Autoridad: en estas situaciones, cada hora de funcionamiento es una hora de riesgo; la suspensión puede limitarse a la función afectada, si su aislamiento es verificable, y no se aplica a las manifestaciones producidas en una evaluación autorizada en entorno aislado (el artículo 15, el apartado (2)), donde la manifestación de la capacidad es precisamente el objeto de la prueba. El apartado (3) instituye una clemencia limitada para la comunicación de buena fe, según el modelo de los programas de clemencia del derecho de la competencia (la política de clemencia prevista por la Ley de la competencia n.º 21/1996, republicada) y de la comunicación obligatoria de los sucesos en la aviación civil (el Reglamento (UE) n.º 376/2014, que instituye la «cultura justa»): la comunicación de buena fe y la cooperación con la Autoridad son circunstancias atenuantes y no pueden dar lugar a una sanción más severa que la aplicable en ausencia de comunicación. A diferencia de la redacción inicial, que excluía la clemencia siempre que la infracción fuera intencionada, el texto separa las dos apreciaciones: la intención agrava la valoración del hecho que ha causado el incidente, cuya responsabilidad la comunicación no elimina, mientras que la comunicación y la cooperación se valoran de manera distinta. Sin esta garantía, la obligación de comunicación sería ineficaz, puesto que equivaldría a una autodenuncia. El apartado (4) exige que una manifestación de esa naturaleza, que no constituye incidente grave (el artículo 3, el apartado (1), la letra n)), se consigne en los registros y se comunique a la Autoridad en 5 días, con las medidas de aislamiento aplicadas.

→ el texto del artículo El artículo 21 asegura la protección de los denunciantes de integridad. La información más importante sobre los riesgos de los sistemas de vanguardia procedió, en los años 2023-2025, no de las autoridades, sino de empleados y antiguos empleados de los laboratorios («Right to Warn», la carta abierta de junio de 2024 de los empleados y antiguos empleados de OpenAI y de Google DeepMind), que denunciaron la existencia de cláusulas de confidencialidad y de no denigración que condicionaban los derechos patrimoniales (las acciones adquiridas) al silencio. El apartado (1) remite al régimen general de la Ley n.º 361/2022 sobre la protección de los denunciantes de interés público, que transpone la Directiva (UE) 2019/1937 y a la que remite también el artículo 87 del Reglamento de IA, evitando así el paralelismo; la ley no crea un régimen de protección distinto, sino que extiende el régimen existente a tres situaciones que la Ley n.º 361/2022 no cubre expresamente: la comunicación de riesgos para la seguridad (y no solo de infracciones de la ley), la comunicación dirigida directamente al Parlamento o al público y la comunicación de la disimulación de capacidades. El apartado (2) declara nulas de pleno derecho las cláusulas contractuales que impiden la comunicación o que condicionan derechos patrimoniales al silencio, completando las disposiciones de la Ley n.º 361/2022 relativas a la nulidad de la renuncia a los derechos, que atañen únicamente a los derechos previstos por esa ley. El apartado (3) remite al delito de represalias del artículo 41, el apartado (3), y el apartado (4) obliga a la Autoridad a organizar un canal seguro y anónimo y a publicar estadísticas anuales, garantía de eficacia tomada del régimen de los canales de comunicación de la Ley n.º 361/2022 y de la SB 53 de California (la sección 1107 del Código del Trabajo californiano). El apartado (5) precisa que la protección no permite la publicación de los pesos ni de datos personales sin relación con la comunicación, pero la comunicación a la Autoridad, por el canal seguro, de los fragmentos de pesos o de registros estrictamente necesarios para probarla no infringe el artículo 12 ni constituye el delito del artículo 42, el apartado (2), como precisan también esos textos.

→ el texto del artículo El artículo 22 establece las obligaciones de los proveedores de infraestructura de cálculo: la inscripción ante la Autoridad, la verificación de la identidad de los clientes («conocimiento de la clientela», según el modelo de la Ley n.º 129/2019 para la prevención y la lucha contra el blanqueo de capitales y la financiación del terrorismo), la contabilidad del volumen de cálculo por cliente y la ejecución inmediata de las órdenes de suspensión del acceso de un cliente o de parada de una tarea de cálculo (el apartado (1)). La orden identifica al cliente y a la tarea afectados, se ejecuta con el aislamiento de estos y con la conservación de las pruebas y no puede afectar a los demás beneficiarios de la infraestructura. El apartado (1) se ha completado con la obligación del proveedor de asegurar al desarrollador y al operador los medios técnicos necesarios para el ejercicio y la prueba de la capacidad de parada, en las condiciones del artículo 14: la obligación del artículo 14, el apartado (5), según la cual la parada debe actuar sobre la infraestructura, habría quedado, de otro modo, ejecutable únicamente en la medida en que las cláusulas contractuales entre el operador y el proveedor lo permitieran, situación que el artículo 28, la segunda frase, ya contempla, pero que no puede sustituir a una obligación legal del proveedor; la adición conlleva asimismo la sanción prevista en el artículo 37, el apartado (1), la letra c). El apartado (2) prohíbe poner a disposición una capacidad apta para superar el umbral a una persona que no acredite la notificación prevista en el artículo 7 y hace la obligación administrable: la prueba se verifica en el registro de notificaciones que lleva la Autoridad, y la capacidad se aprecia de manera acumulada, en 12 meses, para el mismo cliente y para los clientes vinculados, pero solo dentro de los límites de la información que el proveedor posee o puede obtener del cliente; el proveedor no está obligado a conocer el volumen utilizado en otros proveedores, y la utilización de la infraestructura no se presume constitutiva del entrenamiento de un sistema de vanguardia. La disposición convierte a los proveedores de infraestructura en «guardianes» del régimen, en la misma lógica en la que las entidades de crédito son guardianes del régimen de prevención del blanqueo de capitales, y es la única que permite la aplicación de la ley frente a desarrolladores extranjeros que utilizaran centros de datos de Rumanía.

→ el texto del artículo El artículo 23 establece el régimen de las autoridades y de las instituciones públicas que desarrollan, adquieren o explotan sistemas de vanguardia: el apartado (1), la primera frase, las somete, como regla, a todas las disposiciones de la ley, en correlación con el ámbito general del artículo 4, y la segunda frase regula el ámbito de la defensa, del orden público y de la seguridad nacional. La disposición es constitucional y necesaria: el artículo 2, el apartado (3), del Reglamento de IA excluye la seguridad nacional de su ámbito precisamente porque es competencia exclusiva de los Estados miembros (el artículo 4, el apartado (2), del Tratado de la Unión Europea), lo que significa que, en defecto de una regulación nacional, los sistemas desarrollados con estos fines quedarían al margen de toda norma. En este ámbito no se aplican los artículos 7 a 11 (la notificación y la autorización) ni los artículos 35 y 36 (la responsabilidad civil objetiva y el seguro), mientras que los artículos 12 a 21 y el capítulo V se aplican con las adaptaciones establecidas mediante resolución del Consejo Supremo de Defensa del País (el órgano competente conforme al artículo 119 de la Constitución y a la Ley n.º 415/2002). Las adaptaciones se refieren exclusivamente a los artículos 12 a 21, y el capítulo V se aplica íntegramente, sin adaptaciones: los límites absolutos relativos a la fuerza letal, a la personalidad jurídica, al acceso a derechos y a la libertad de expresión no comprenden procedimientos de notificación o de evaluación susceptibles de adaptación, de modo que una habilitación sobre ellos habría estado, al mismo tiempo, carente de objeto y expuesta a ser leída como una excepción a las garantías. Las adaptaciones están limitadas por la ley a aspectos operativos identificados — el procedimiento de notificación, las modalidades de evaluación y el acceso a la información clasificada — y no pueden suprimir el control humano significativo, la capacidad de parada, las prohibiciones de los artículos 15 y 24 ni la protección de los denunciantes del artículo 21, ni modificar los elementos constitutivos de las infracciones administrativas o de los delitos: una resolución del CSAT no es ley en el sentido del artículo 73, el apartado (3), la letra h), de la Constitución y no puede definir hechos sancionables. El apartado (2) prevé que la Autoridad ejerce el control por medio de personal con habilitación de seguridad, conforme a la Ley n.º 182/2002, e indica la garantía judicial: la impugnación de las decisiones relativas a información clasificada se realiza en las condiciones previstas por la Ley n.º 182/2002 y por el Código de Procedimiento Civil.

Capítulo V – Límites absolutos. Cláusulas de humanidad (los artículos 24 a 30)

El capítulo V comprende las prohibiciones que la ley consagra como normas de orden público, insusceptibles de excepción mediante autorización, contrato o consentimiento. La denominación de «cláusulas de humanidad» está tomada del derecho internacional humanitario (la cláusula Martens de los Convenios de La Haya de 1899 y 1907, según la cual, en los casos no previstos, las personas permanecen bajo la protección de los «principios de humanidad y las exigencias de la conciencia pública») y expresa la idea de que, ante una tecnología cuyas consecuencias no pueden ser previstas, la ley debe fijar algunos límites que no dependan de evaluaciones de riesgo, de umbrales o de autorizaciones.

→ el texto del artículo El artículo 24 consagra el control humano sobre la fuerza letal. El apartado (1) prohíbe que una decisión de uso de la fuerza letal contra un ser humano sea adoptada o ejecutada por un sistema de inteligencia artificial sin la intervención de una persona física identificada, «para cada decisión en particular», que disponga de la información, del tiempo y de los medios necesarios para evaluarla e impedirla — y no solo de la presencia formal de una persona. La formulación recoge el estándar del «control humano significativo» negociado en el marco de la Convención de las Naciones Unidas sobre ciertas armas convencionales y la posición expresada por el Secretario General de la ONU y por el Comité Internacional de la Cruz Roja (el llamamiento conjunto del 5 de octubre de 2023) en favor de la celebración, hasta 2026, de un instrumento jurídico obligatorio relativo a los sistemas de armas autónomas; la Resolución de la Asamblea General de la ONU 78/241, de 22 de diciembre de 2023, fue adoptada con el voto de 152 Estados, entre ellos Rumanía. La segunda frase impone que se deje constancia de la decisión y de la persona que la ha aprobado, para que la responsabilidad quede individualizada, y define negativamente el ámbito de la norma: esta no se refiere a la interceptación automática de proyectiles y de dispositivos sin tripulación humana, que no tienen por objeto a seres humanos, ni a las simulaciones de instrucción, y la correlación con el derecho internacional humanitario se asegura mediante la legislación especial. La delimitación no es una excepción que vaciaría de contenido la regla, sino que impide la aplicación de la misma fórmula a situaciones distintas. Los sistemas de asistencia a la decisión, en los que la decisión permanece humana, tampoco quedan comprendidos en el ámbito de la norma. El apartado (2) remite, para la definición del sistema de armas autónomas letales, al artículo 3, el apartado (1), la letra x), y no al apartado anterior, que no contiene una definición, sino la regla de la intervención humana para cada decisión. El apartado (2) compromete al Estado rumano a no desarrollar, a no adquirir y a no autorizar sistemas de esa naturaleza y a defender su prohibición internacional.

→ el texto del artículo El artículo 25 prohíbe la personalidad jurídica y la autonomía patrimonial de los sistemas de inteligencia artificial. El apartado (1) excluye expresamente que los sistemas adquieran personalidad jurídica o que sean partes en relaciones jurídicas e imputa todo acto jurídico celebrado por su intermedio a la persona en cuyo nombre han actuado. La disposición es necesaria porque la Resolución del Parlamento Europeo de 16 de febrero de 2017 (2015/2103(INL)) propuso explorar un estatuto de «persona electrónica» para los robots autónomos, propuesta rechazada posteriormente, y la legislación rumana no contiene una norma expresa; el artículo 25 del Código Civil enumera los sujetos de derecho (la persona física y la persona jurídica), pero no excluye la creación por ley de otras categorías. El apartado (2) prohíbe, en la primera frase, la atribución a un sistema de la capacidad de poseer en nombre propio dinero, activos digitales, instrumentos financieros, bienes, cuentas o claves criptográficas; esta prohibición es el corolario patrimonial de la capacidad crítica de «adquisición autónoma de recursos» del artículo 5, el apartado (2), la letra c): un sistema que puede pagar por su propia infraestructura de cálculo ya no puede ser detenido mediante la interrupción de la financiación. Para que la prohibición no comprenda los pagos automáticos, las asignaciones de cálculo y las operaciones profesionales corrientes efectuadas dentro de los límites establecidos por una persona responsable, la segunda frase adopta la solución del mandato delimitado: la administración o la disposición de recursos de esa naturaleza o de recursos de cálculo por medio de un sistema se permite únicamente dentro de los límites de un mandato establecido previamente por una persona responsable, determinado por su objeto, duración, límite máximo y condiciones de parada; la ampliación autónoma del mandato está prohibida, y la operación que lo excede es imputable al mandante y obliga a la parada del sistema. La definición de la acción autónoma del artículo 3, el apartado (2), la letra d), remite al mismo mandato, y el artículo 42, el apartado (1), incrimina únicamente la infracción de la primera frase y del apartado (3), de modo que los elementos del delito están establecidos en la ley (el artículo 23, el apartado (12), y el artículo 73, el apartado (3), la letra h), de la Constitución). El apartado (3) prohíbe la constitución de personas jurídicas o fiducias controladas efectivamente por un sistema, con el fin de cerrar la vía de la elusión mediante la interposición de una entidad jurídica, y define el control efectivo como el poder real de decisión sobre los actos de la entidad, no constituyendo control la utilización del sistema para análisis o recomendaciones.

→ el texto del artículo El artículo 26 instituye la prohibición de condicionar la participación en la vida social a las decisiones de los sistemas de inteligencia artificial y a la aceptación de los medios digitales. La disposición responde a un peligro distinto del de la pérdida del control técnico, pero igual de grave para la libertad del ciudadano: el de una sociedad en la que el acceso a los derechos, a los servicios esenciales y a la vida económica y cívica se convierte en un servicio condicionado, concedido o retirado automáticamente, según que la persona se someta o no. La advertencia fue formulada públicamente, en términos memorables, por el senador australiano Alex Antic, en un discurso parlamentario ampliamente difundido en 2026: en un país que fue libre, el ciudadano poseía las cosas por las que pagaba y no vivía su vida por suscripción; «la prisión digital se está cerrando, no solo en Australia, sino a escala mundial», y una vez completa, «tu libertad dependerá del sometimiento al gran gobierno y a la gran tecnología, que controlarán el botón de apagado de tu participación en la sociedad». La inteligencia artificial es el elemento que hace posible una arquitectura de esa naturaleza a escala, puesto que solo ella puede vigilar, evaluar y decidir sobre millones de personas simultáneamente, sin intervención humana; por eso la prohibición tiene su lugar en el capítulo de las cláusulas de humanidad.

El apartado (1) prohíbe a las autoridades y a las instituciones públicas, así como a los prestadores de servicios esenciales de interés general, condicionar, restringir o suspender el acceso de una persona a los derechos y a las libertades fundamentales, a los servicios públicos y esenciales o a la participación en la vida económica, social y cívica «exclusivamente sobre la base» de una decisión, evaluación o clasificación producida por un sistema de inteligencia artificial; la disposición no prohíbe la utilización de los sistemas como instrumento de asistencia, sino la sustitución de la decisión humana. Los apartados (2) a (6) construyen, en tres grados, las garantías de la persona. El primer grado es administrativo: el derecho al reexamen de la decisión, en 15 días, por una persona física identificada, que asume la responsabilidad de la decisión final y la motiva por escrito (el apartado (2)), lo que impide la transformación del «reexamen» en un segundo procedimiento automático; la confirmación mecánica de la puntuación, sin el examen efectivo de la situación de la persona, no constituye reexamen, y para los servicios de salud o la interrupción de un servicio esencial, donde 15 días pueden suponer un perjuicio irreparable, la persona obtiene, a solicitud, en un plazo máximo de 48 horas, el mantenimiento provisional del acceso hasta el resultado del reexamen. El segundo grado atañe al acceso al servicio, no a la impugnación de la decisión: el apartado (3) obliga al mantenimiento de una vía de obtención del servicio o de ejercicio del derecho que no depende de un sistema de inteligencia artificial, es decir, por medio de una persona, en la sede, en ventanilla o por otro medio accesible, de modo que el ciudadano que no puede o no quiere pasar por el sistema automático no quede excluido; y el apartado (4), núcleo de la norma, prohíbe condicionar el acceso a la aceptación de un medio de identificación digital, de un medio de pago digital o de un sistema de evaluación del sometimiento, con alternativa obligatoria. La ley no prohíbe la identidad digital, el pago digital o la evaluación automática como tales; prohíbe que se conviertan en condición obligatoria de la participación en la sociedad. La alternativa no elimina las obligaciones legales de identificación o de seguridad de los pagos, que se cumplen por otros medios (el apartado (4), segunda frase). El tercer grado es judicial, conforme al artículo 21 de la Constitución: el apartado (5) da a la persona el derecho de impugnar la decisión mantenida tras el reexamen, la negativa al reexamen y la negativa a la vía de acceso o a la alternativa ante el tribunal de su domicilio o de su residencia, en 30 días, con exención de la tasa de timbre, sin procedimiento previo, juzgada con urgencia conforme al procedimiento contencioso del Código de Procedimiento Civil y con posibilidad de suspensión de la decisión, con independencia de que el emisor sea una autoridad pública o un prestador privado; el silencio ante la solicitud de reexamen equivale al mantenimiento de la decisión; el apartado (6) prevé la apelación ante el tribunal de apelación, en 15 días, siendo su sentencia definitiva. La competencia del tribunal del domicilio de la persona, y no del órgano jurisdiccional del domicilio social del emisor, es una regla de protección de la parte débil, conocida en el derecho del consumo (el artículo 18 del Reglamento (UE) n.º 1215/2012) y en los litigios laborales; la unificación del procedimiento para autoridades y prestadores privados, con apelación en lugar de recurso, exige la excepción expresa a lo dispuesto en los artículos 7 (el procedimiento previo), 10 (la competencia) y 20 (el recurso) de la Ley del contencioso administrativo n.º 554/2004, formulada conforme al artículo 63 de la Ley n.º 24/2000, y está justificada por la identidad de objeto del litigio, independientemente de la condición del emisor (la excepción únicamente al artículo 10 habría dejado aplicables la reclamación previa y el recurso). El apartado (7) define los servicios esenciales de interés general mediante una enumeración limitativa (energía, gas, agua, comunicaciones, servicios financieros y de pago, salud, transporte público, educación), en aras de la precisión exigida por la Ley n.º 24/2000. El apartado (8) coordina la norma con el artículo 5, el apartado (1), la letra c), del Reglamento de IA, que prohíbe los sistemas de «puntuación social», y con el artículo 22 del Reglamento (UE) 2016/679, que confiere a la persona el derecho a no ser objeto de una decisión basada exclusivamente en el tratamiento automatizado de sus datos; las dos normas europeas protegen a la persona en supuestos delimitados (la evaluación del comportamiento social con un trato desproporcionado y, respectivamente, el tratamiento de datos de carácter personal), mientras que el artículo 26 instituye una prohibición objetiva, de orden público, respecto del acceso a los derechos y a los servicios, sin duplicarlas. La disposición continúa, en el ámbito de la inteligencia artificial, la protección del ciudadano frente a las plataformas digitales y frente a las intrusiones tecnológicas consagrada por la Ley de la Soberanía, y se apoya en el artículo 1, el apartado (3), el artículo 16 y el artículo 53 de la Constitución: la restricción del ejercicio de determinados derechos no puede ser dispuesta sino mediante ley, de manera proporcionada y sin afectar a la existencia del derecho, condiciones que una decisión automática, sin responsabilidad humana, no puede cumplir.

→ el texto del artículo El artículo 27 consagra la prohibición de la censura ejercida por medio de sistemas de inteligencia artificial. El apartado (1) parte del artículo 30, el apartado (2), de la Constitución («La censura de cualquier tipo está prohibida») y lo explicita para los medios automáticos: una prohibición constitucional dirigida, históricamente, al censor humano no puede ser sorteada encomendando la misma función a un sistema que decide qué pueden decir y qué pueden saber los ciudadanos. La norma no crea un derecho nuevo, sino que impide que uno existente quede vacío de contenido, lo que la sitúa en la categoría de las normas de garantía de los derechos fundamentales, que no forman parte del ámbito armonizado por el Reglamento de IA, ya que este regula las obligaciones de los operadores de sistemas, no el contenido de los derechos de las personas. La segunda frase, que en la redacción inicial prohibía en términos absolutos toda utilización de un sistema para la restricción de la expresión, ha sido correlacionada con los apartados (2) a (6): la prohibición se refiere a la restricción fuera de los casos previstos por la ley y sin las garantías del artículo, de modo que el contenido prohibido por la ley pueda seguir siendo identificado y retirado, con observancia de los requisitos de motivación y de reexamen. La norma protege a las personas que se encuentran en el territorio de Rumanía, y no solo a los ciudadanos rumanos, en unidad terminológica con el apartado (2) y con el artículo 26 (el artículo 37 de la Ley n.º 24/2000). El apartado (2) define el elemento material de la prohibición, en los términos técnicos de la práctica de la moderación automática: el impedimento, la eliminación, el bloqueo, la ocultación, la restricción de la visibilidad y el etiquetado como falsa de la expresión, así como la sanción de la persona por la expresión, cuando son dispuestos exclusivamente por el sistema y atañen a una expresión que la ley no prohíbe. La fórmula «exclusivamente sobre la base de una decisión… producida por el sistema» es la misma que la del artículo 26, el apartado (1), y que la del artículo 22 del Reglamento (UE) 2016/679, y la condición «si la expresión no está prohibida por la ley» mantiene intactos los límites de la libertad de expresión previstos en el artículo 30, los apartados (6) y (7), de la Constitución y en la ley penal. El apartado (3) prohíbe a las autoridades y a las instituciones públicas utilizar, encargar, financiar o solicitar, directamente o por medio de terceros, sistemas de inteligencia artificial para el seguimiento individualizado de las personas sobre la base de su expresión pública o para la clasificación, la señalización o la restricción de su expresión; la excepción está limitada a los casos previstos expresamente por la ley, en relación con hechos penales y con la autorización previa del juez, es decir, al régimen de las medidas de vigilancia técnica del Código de Procedimiento Penal. El tratamiento estadístico o no individualizado de la información pública no constituye seguimiento. La norma responde a una práctica documentada en varios Estados, en los que las autoridades solicitaron a las plataformas, por canales informales, la restricción automática de determinados contenidos legales. El apartado (4) instituye la transparencia de la medida: la comunicación de inmediato, por escrito, con los motivos, el fundamento legal y la mención de que ha sido adoptada mediante un sistema automático, y prohíbe la restricción no declarada de la visibilidad («shadow banning»), la práctica por la cual la expresión de una persona se oculta a los demás sin que ella lo sepa. El apartado (5) asegura el reexamen humano en 15 días y remite a la vía de recurso del artículo 26, los apartados (5) y (6): el tribunal del domicilio de la persona, apelación ante el tribunal de apelación. El apartado (6) regula la relación con el Reglamento (UE) 2022/2065 relativo a los servicios digitales, que, conforme a su considerando 9, armoniza íntegramente las obligaciones de los prestadores de servicios intermediarios y regula expresamente las condiciones contractuales (el artículo 14), la motivación de las decisiones de moderación (el artículo 17) y la resolución interna de las reclamaciones (el artículo 20), sin prohibir toda decisión inicial automatizada; para las plataformas, la legalidad de un contenido no equivale a la obligación de alojarlo. Por ello, para los prestadores de servicios intermediarios, el artículo se aplica en la medida compatible con el Reglamento, cuyas disposiciones siguen siendo aplicables, no impide las medidas contra los mensajes no solicitados, las cuentas automatizadas o los riesgos de seguridad informática, ni los filtros elegidos por el usuario, y no puede restringir ninguna garantía prevista por el Reglamento para los destinatarios de los servicios. La formulación resuelve en favor del derecho de la Unión la tensión que la simple cláusula «sin perjuicio de» dejaba abierta, permaneciendo la garantía nacional plena frente a las autoridades públicas y a los operadores que no son prestadores de servicios intermediarios. La infracción del artículo es una infracción administrativa (el artículo 37, el apartado (1), la letra d)), y, por efecto del artículo 30, toda cláusula contraria es nula de pleno derecho.

→ el texto del artículo El artículo 28 garantiza la intervención humana, prohibiendo la puesta o el mantenimiento en explotación de los sistemas de vanguardia en condiciones que hacen imposible, técnica u organizativamente, la intervención prevista en el artículo 14, incluso mediante la distribución del sistema en infraestructuras no controladas, mediante la supresión de la capacidad de parada o mediante un grado de autonomía que excluye la supervisión. Si el artículo 14 establece las obligaciones positivas del operador, el artículo 28 establece la prohibición absoluta correspondiente, sancionada penalmente (el artículo 42), y cubre las situaciones en las que la intervención se vuelve imposible no por la acción del sistema, sino por la elección de arquitectura del operador (por ejemplo, sistemas distribuidos en redes descentralizadas sin punto de control). La segunda frase, añadida porque el artículo 42, el apartado (1), remite directamente a la prohibición, delimita el hecho: la utilización de una infraestructura perteneciente a un tercero no constituye, por sí sola, falta de control, si los derechos contractuales y los medios técnicos permiten al operador el ejercicio verificable de la capacidad de parada, y la indisponibilidad temporal de una vía de intervención, subsanada de inmediato y consignada en los registros, no constituye imposibilidad. De esta distinción entre la avería pasajera y la renuncia estructural al control depende la previsibilidad de la norma penal (el artículo 23, el apartado (12), de la Constitución).

→ el texto del artículo El artículo 29 prohíbe la automejora recursiva no constreñida: el diseño, el entrenamiento o la explotación de un sistema de modo que mejore sus propias capacidades o cree sistemas sucesores más capaces sin que cada iteración esté sometida a la evaluación y a la aprobación humanas del capítulo III. El escenario de la «explosión de inteligencia» (I. J. Good, 1965), en el que un sistema capaz de diseñar sistemas mejores que él mismo desencadena un crecimiento de las capacidades al margen de todo control, es considerado por una parte significativa de la comunidad científica, incluido Hinton, la vía más probable hacia una pérdida irreversible del control. La segunda frase somete a la evaluación y a la autorización del capítulo III cada iteración por la cual un sistema de vanguardia contribuye, mediante una modificación sustancial en el sentido del artículo 3, el apartado (1), la letra aa), a la creación o al perfeccionamiento de un sistema sucesor; el umbral de la modificación sustancial excluye las correcciones menores de código y los experimentos sin efecto sobre el riesgo, que la redacción inicial («contribuye») habría comprendido. Los programas de investigación en los que los sistemas de vanguardia se utilizan como instrumento pueden autorizarse en su conjunto, con puntos de parada obligatorios establecidos conforme al artículo 8 y con la aprobación humana de cada etapa que produzca un modelo nuevo o una modificación sustancial. El artículo no prohíbe la investigación en el ámbito ni la utilización de los sistemas para diseñar otros sistemas, sino únicamente la eliminación del «bucle humano» entre las iteraciones; está doblado por la prohibición de entrenamiento del artículo 15, la letra e), y por la capacidad crítica del artículo 5, el apartado (2), la letra e), sin superponerse a ellas: el artículo 5 califica, el artículo 15 prohíbe el entrenamiento, el artículo 29 prohíbe la explotación.

→ el texto del artículo El artículo 30 declara las disposiciones del capítulo normas de orden público y sanciona con la nulidad absoluta todo acto contrario, precisando que las prohibiciones no pueden ser suprimidas mediante el consentimiento, el secreto comercial, la seguridad nacional o el interés económico. La disposición aplica el artículo 11 del Código Civil («no se puede establecer excepción mediante convenios o actos jurídicos unilaterales a las leyes que interesan al orden público o a las buenas costumbres») y los artículos 1246 a 1250 relativos a la nulidad absoluta, y tiene la función de bloquear los argumentos previsibles en favor de una excepción: que el usuario ha consentido, que el sistema es secreto o que el interés económico o estratégico lo exige. La mención expresa de la seguridad nacional es necesaria para impedir la interpretación según la cual el artículo 23 permitiría al CSAT suprimir estos límites, y la frase final lo dice directamente: las adaptaciones previstas en el artículo 23 no constituyen excepciones a las garantías del capítulo. El apartado (2) precisa el alcance de la nulidad, conforme al artículo 1255 del Código Civil: la nulidad se refiere únicamente a la cláusula contraria, permaneciendo válidas las demás cláusulas si pueden subsistir sin ella, y quedan protegidos los derechos adquiridos de buena fe por los terceros que no han participado en la infracción. La frase final reconoce que esta calificación no puede, por sí misma, suprimir la primacía del derecho de la Unión directamente aplicable, consagrada por el artículo 148, el apartado (2), de la Constitución.

Capítulo VI – La Autoridad para la Seguridad de la Inteligencia Artificial (los artículos 31 a 34)

→ el texto del artículo El artículo 31 crea la Autoridad para la Seguridad de la Inteligencia Artificial como estructura especializada, sin personalidad jurídica, en el seno de la Autoridad Nacional de Administración y Regulación en Comunicaciones (ANCOM). La opción por la organización en el seno de ANCOM, en lugar de una nueva autoridad administrativa autónoma, tiene tres fundamentos. El primero es institucional: ANCOM es ya la autoridad propuesta por el Gobierno, mediante el memorándum para la aplicación del Reglamento de IA, como autoridad de vigilancia del mercado y punto único de contacto en materia de inteligencia artificial, de modo que una autoridad paralela habría creado exactamente el paralelismo institucional que el artículo 16 de la Ley n.º 24/2000 prohíbe y habría obligado a los desarrolladores a dos procedimientos ante dos autoridades por el mismo sistema. El segundo es estatutario: ANCOM es autoridad administrativa autónoma bajo control parlamentario, conforme al Decreto-ley del Gobierno n.º 22/2009, financiada íntegramente con ingresos propios y exceptuada expresamente, por el artículo 2, el apartado (2), de la Ley marco n.º 153/2017, del sistema unitario de retribución del personal pagado con fondos públicos, lo que hace posible la remuneración competitiva de los especialistas sin ninguna excepción nueva. El tercero es operativo: ANCOM dispone de la infraestructura territorial, del personal técnico y de la relación institucional con los proveedores de redes y servicios de comunicaciones electrónicas necesarios para la ejecución de las medidas de bloqueo previstas en el artículo 39. El apartado (2) regula la dirección: un vicepresidente de ANCOM con rango de secretario de Estado, con atribuciones exclusivas en el ámbito de la seguridad de la inteligencia artificial, nombrado por el Parlamento en sesión conjunta por un mandato de 6 años, no renovable, entre personas con formación y experiencia reconocidas en inteligencia artificial, seguridad informática o derecho de las tecnologías. Puesto que el Decreto-ley del Gobierno n.º 22/2009 fija el número de los vicepresidentes de ANCOM, la ley instituye el cargo como excepción expresa a lo dispuesto en su artículo 11, el apartado (1), conforme al artículo 63 de la Ley n.º 24/2000, conservando, no obstante, el procedimiento de nombramiento y la duración del mandato previstos para los demás vicepresidentes, en aras de la unidad de régimen. El mandato largo y no renovable, desfasado respecto del ciclo electoral de 4 años, es la garantía clásica de independencia. El mismo apartado (2) regula la vacante del cargo (nombramiento en 60 días; interinidad de un máximo de 6 meses, asegurada por un vicepresidente de ANCOM designado por su presidente), para que un bloqueo parlamentario no deje a la Autoridad sin dirección, y para que la interinidad no se convierta en una dirección de duración indefinida sin mandato parlamentario. El apartado (3) recoge la prohibición de ostentar cargos, participaciones o remuneraciones por parte de desarrolladores u operadores, durante el mandato y los 3 años siguientes, que responde al riesgo de «captura del regulador» («revolving door»), especialmente agudo en un ámbito en el que las remuneraciones del sector privado son diez veces mayores que las del sector público. Para que la prohibición se refiera al conflicto real, el texto la restringe a las participaciones directas, excluye las tenencias a través de fondos de inversión diversificados, sin poder de decisión, y concede, por la restricción posterior al mandato, una indemnización compensatoria establecida en las normas metodológicas, sin la cual la restricción sería desproporcionada (el artículo 41 de la Constitución). Los casos de revocación se enumeran limitativamente, conforme a la exigencia de precisión de la Ley n.º 24/2000. El apartado (4) asegura la independencia funcional de la Autoridad en el interior de ANCOM: las decisiones previstas por la ley se emiten por el vicepresidente para la seguridad de la inteligencia artificial, en nombre de ANCOM, respondiendo este de ellas ante el Parlamento, y la Autoridad no puede recibir instrucciones de ninguna otra autoridad pública, fórmula tomada del artículo 52 del Reglamento (UE) 2016/679 para las autoridades de protección de datos y del artículo 70, el apartado (1), del Reglamento de IA. El apartado (5) designa a la Autoridad punto nacional de enlace con la Oficina de IA y con el Comité científico previsto en el artículo 68 del Reglamento de IA y delimita las competencias, en lugar de la fórmula anterior, que sugería una jerarquía entre autoridades: las autoridades nacionales designadas conforme al Reglamento conservan sus competencias, la Autoridad ejerce exclusivamente las atribuciones de la presente ley respecto de los sistemas de vanguardia e informa a la Oficina de IA sobre las decisiones relativas a los modelos de uso general.

→ el texto del artículo El artículo 32 enumera, en el apartado (1), las atribuciones de la Autoridad, conforme a las cinco funciones necesarias para un régimen de autorización: la autorización (la letra a)), la inspección (la letra b)), la intervención de urgencia (la letra c)), la normación técnica (la letra d)) y la sanción (la letra e)), a las que se añaden la supervisión de los organismos de evaluación (la letra f)), la recepción y la resolución de las denuncias de las personas relativas a la infracción de las cláusulas de humanidad de los artículos 26 y 27 (la letra g)), la comunicación anual al Parlamento (la letra h)), la representación internacional (la letra i)) y la investigación (la letra j)). La atribución de la letra g) da al ciudadano una vía administrativa sencilla, gratuita, contra el condicionamiento del acceso y contra la censura automática, sin privarle del derecho de dirigirse directamente al órgano jurisdiccional. El informe anual público relativo al estado del riesgo, con plazo hasta el 31 de marzo, que comprende también las denuncias relativas a los artículos 26 y 27, es el instrumento mediante el cual el Parlamento y el público pueden seguir la evolución de las capacidades y la adecuación de la ley; tiene como modelo los informes anuales de la Comisión Nacional para el Control de las Actividades Nucleares y de la Autoridad Nacional de Supervisión del Tratamiento de Datos de Carácter Personal. La atribución de investigación (la letra j)) es necesaria porque la evaluación, la interpretabilidad y la alineación de los sistemas son ámbitos científicos en formación, en los que una autoridad que solo aplica los estándares de otros queda permanentemente rezagada; sus resultados están sometidos a la evaluación externa y a las normas relativas al conflicto de intereses. Los apartados (2) a (4) añaden tres garantías. El apartado (2) separa, dentro de la Autoridad, las funciones de evaluación, de investigación y de decisión sancionadora en estructuras distintas y prohíbe que la persona que ha evaluado o investigado participe en la decisión sancionadora (el artículo 21, el apartado (3), de la Constitución); los organismos de evaluación se designan conforme a criterios públicos, con normas de recusación y de conflicto de intereses, y no pueden evaluar sistemas de las personas con las que mantienen relaciones económicas. El apartado (3) regula la inspección, que se refiere a los espacios profesionales, no a cualquier espacio: orden escrita del vicepresidente, con el objeto y la finalidad de la inspección, acta, acceso a los espacios que sirven de domicilio únicamente con autorización del juez (el artículo 27 de la Constitución), protección de los secretos amparados por la ley y de los derechos procesales de las personas. El apartado (4) responde a la objeción de legalidad de la incriminación: puesto que los artículos 40 a 42 vinculan las penas a calificaciones construidas sobre las capacidades críticas, los estándares de la Autoridad detallan los métodos de evaluación únicamente dentro de los límites de las categorías y de los criterios establecidos por la ley y no pueden introducir nuevas categorías de capacidades prohibidas, ni ampliar los elementos constitutivos de las infracciones administrativas o de los delitos; correlativamente, la letra d) ya no habla de la «lista de las capacidades críticas», que permanece en la ley (el artículo 5, el apartado (2)), sino de los métodos de evaluación y de los niveles de significación. La solución viene impuesta por el artículo 23, el apartado (12), y el artículo 73, el apartado (3), la letra h), de la Constitución: un acto administrativo no puede determinar, ni siquiera indirectamente, el momento a partir del cual un hecho se vuelve delictivo.

→ el texto del artículo El artículo 33 regula el personal y la financiación. Los apartados (1) y (2) responden a la pregunta de la que depende toda la ley: quién evaluará los sistemas de vanguardia. El personal especializado se nombra exclusivamente mediante concurso, abierto a toda persona que cumpla las condiciones de estudios y de experiencia, anunciado con al menos 30 días de antelación, con resultados impugnables ante el órgano jurisdiccional de lo contencioso administrativo. El tribunal del concurso, de al menos 5 miembros, comprende al menos 3 catedráticos universitarios del ámbito de la tecnología de la información y de las telecomunicaciones o especialistas con experiencia práctica reconocida en la seguridad y la evaluación de los sistemas de inteligencia artificial, propuestos por las universidades acreditadas que organizan estudios de doctorado en estos ámbitos. La presencia mayoritaria de los miembros externos en el tribunal tiene un doble cometido: garantiza que la selección se realice por competencia verificable, y no por criterios administrativos o políticos, y sustrae la selección a la influencia de la industria, puesto que los miembros del tribunal están sometidos a las mismas incompatibilidades que el personal de la Autoridad. La publicación de la composición del tribunal y de los resultados asegura el control público. El modelo es el de los concursos para los puestos docentes y de investigación (la Ley de la enseñanza superior n.º 199/2023) y el de los tribunales de concurso de la magistratura, en los que la participación de miembros externos con autoridad profesional es la garantía de objetividad. El apartado (3) prevé la remuneración a un nivel competitivo con el sector privado, conforme al sistema de retribución propio de ANCOM, establecida anualmente sobre la base de un estudio de mercado publicado; puesto que el personal de ANCOM está exceptuado de la Ley marco n.º 153/2017 por su artículo 2, el apartado (2), no es necesaria ninguna excepción, lo que constituye uno de los motivos de la opción por la organización en el seno de ANCOM. Sin remuneración competitiva, la institución no podría seleccionar a ningún especialista capaz de evaluar un sistema de vanguardia. El apartado (4) extiende las incompatibilidades a todo el personal, con un plazo de 2 años. El apartado (5) regula la financiación sobre una base que excluye todo incentivo financiero para la sanción: la forma anterior asignaba a la Autoridad una cuota del 50 % de las multas, con destino a un fondo de investigación, pero los recursos de quien impone las multas habrían dependido de ellas. La Autoridad se financia ahora con una asignación distinta del presupuesto de ANCOM, aprobada anualmente y consignada por separado, y con las tasas de notificación, de evaluación y de autorización, establecidas mediante las normas metodológicas en relación con el coste del servicio (según el modelo de las tasas de la Agencia Nacional del Medicamento y de la Comisión Nacional para el Control de las Actividades Nucleares); las multas se ingresan en el presupuesto del Estado y no pueden determinar los recursos de la Autoridad, y la investigación del artículo 32, el apartado (1), la letra j), se financia mediante una asignación distinta, sin relación con las sanciones. ANCOM garantiza el presupuesto inicial, incluidos el personal y la infraestructura, antes de la percepción de las tasas.

→ el texto del artículo El artículo 34 crea el Consejo científico consultivo, formado por 9 investigadores reconocidos, de los cuales al menos 3 del extranjero, que informa sobre los estándares de evaluación, los métodos de evaluación y los niveles de significación de las capacidades críticas, así como sobre las propuestas de ajuste de los umbrales, y publica opiniones separadas (el apartado (1)). La presencia de miembros extranjeros es necesaria porque la pericia de vanguardia en el ámbito está concentrada en unos pocos centros del mundo, y el derecho a la opinión separada pública es la garantía de que el dictamen consultivo no pueda ser ignorado en silencio. Los apartados (2) y (3) completan el estatuto del Consejo: los miembros son nombrados por el vicepresidente para la seguridad de la inteligencia artificial, a propuesta de la Academia Rumana y de las universidades que organizan estudios de doctorado en el ámbito, por un mandato de 4 años, renovable una sola vez, están sometidos a las incompatibilidades del artículo 31, el apartado (3), pueden ser revocados únicamente por incompatibilidad constatada o por inasistencia injustificada, y los dictámenes se adoptan por mayoría de los miembros. El dictamen es consultivo, pero la Autoridad motiva cuando se aparta de él; el acceso de los miembros, incluidos los extranjeros, a la información protegida se realiza en las condiciones de la ley, y las opiniones separadas se publican en versiones que protegen la información sensible y conservan el argumento científico. El modelo es el del Comité científico de la Oficina de IA (el artículo 68 del Reglamento de IA) y el de los consejos científicos de las agencias europeas de regulación.

Capítulo VII – La responsabilidad (los artículos 35 a 45)

→ el texto del artículo El artículo 35 instituye la responsabilidad civil objetiva, solidaria, del desarrollador y del operador por los perjuicios causados por un sistema de vanguardia, incluidos los causados por acciones autónomas del sistema, por la utilización por terceros o por la exfiltración de los pesos. El fundamento es el artículo 1376 del Código Civil (la responsabilidad por los perjuicios causados por las cosas, independiente de toda culpa), al que la ley remite expresamente, evitando el paralelismo; la ley no crea una responsabilidad nueva, sino que precisa la aplicación de la responsabilidad por las cosas a una categoría de «cosas» cuya autonomía hace incierta la noción de «guarda jurídica». El modelo específico es la Ley n.º 703/2001 sobre la responsabilidad civil por daños nucleares, que canaliza la responsabilidad exclusivamente sobre el operador de la instalación, independientemente de toda culpa, con seguro obligatorio y con causas de exoneración limitadas; el mismo modelo es utilizado por el Convenio de París de 1960 y por el Convenio de Viena de 1963 sobre la responsabilidad civil por daños nucleares. El apartado (1) precisa, a raíz del análisis jurídico, el régimen de la prueba: la víctima prueba el perjuicio y el nexo causal, pero la asimetría informativa se corrige: el órgano jurisdiccional puede ordenar el acceso a los registros y a la documentación pertinente, con protección de la información confidencial, y si el desarrollador o el operador no presenta los registros que tenía la obligación de conservar conforme al artículo 16, el nexo causal se presume hasta prueba en contrario. La presunción sigue la lógica de la divulgación de pruebas y de las presunciones de la Directiva (UE) 2024/2853. El mismo apartado (1) aclara la acción de regreso (proporcional a la contribución de cada uno) y establece que quien ha modificado sustancialmente el sistema responde como desarrollador por los perjuicios causados por la modificación.

El apartado (2) restringe las causas de exoneración al hecho exclusivo de la víctima y a la fuerza mayor externa al sistema y excluye expresamente de la noción de fuerza mayor el comportamiento imprevisible del sistema, el error de evaluación, el hecho del tercero que ha obtenido acceso y la falta de conocimiento científico en la fecha de la puesta en explotación. Esta última exclusión elimina la defensa del «riesgo de desarrollo» («development risk defence»), admitida por el artículo 7, la letra e), de la Directiva 85/374/CEE y mantenida, con la posibilidad de excepción por los Estados miembros, en la Directiva (UE) 2024/2853, pero que sería incompatible con la premisa de la ley: si el desarrollador invoca el hecho de que no podía conocer el riesgo, confirma exactamente la incertidumbre que justifica el régimen de autorización y debe responder por haber puesto el sistema en explotación en esa incertidumbre. El apartado (3) declara nulas las cláusulas de limitación de la responsabilidad frente a las víctimas; las cláusulas entre profesionales son válidas únicamente en las relaciones entre ellos (incluida la acción de regreso) y para sus propios perjuicios patrimoniales, sin poder afectar a los derechos de las víctimas ni a la cobertura del artículo 36. El apartado (4) establece plazos de prescripción de 10 años desde el conocimiento y de 30 años desde el hecho, idénticos a los de la Ley n.º 703/2001 y justificados por el carácter latente de algunos perjuicios; para el hecho continuado, el plazo corre desde su cesación. El apartado (5) ha sido reescrito para la compatibilidad con el régimen armonizado de la responsabilidad por los productos defectuosos (la Ley n.º 240/2004 y la futura transposición de la Directiva (UE) 2024/2853, que deja intactas las acciones fundadas en causas distintas del carácter defectuoso): el artículo instituye un fundamento distinto, basado en el riesgo creado por el desarrollo y la explotación del sistema, no modifica el régimen armonizado, no excluye la acción de la víctima conforme a este régimen y prohíbe la doble reparación. Para los perjuicios comprendidos en el ámbito de la directiva, la exclusión de la defensa basada en el estado del conocimiento es una excepción permitida, para la cual el Gobierno cumple las formalidades del artículo 18.

→ el texto del artículo El artículo 36 impone el seguro obligatorio de responsabilidad civil o una garantía financiera equivalente, con umbrales mínimos de 100 millones de euros para los sistemas de categoría I y de 1.000 millones de euros para los de categoría II, y la acción directa de la víctima contra el asegurador o el emisor de la garantía. El modelo es la Ley n.º 703/2001 (el seguro o la garantía financiera obligatoria del operador nuclear) y la Ley n.º 132/2017 sobre el seguro obligatorio de responsabilidad civil automovilística (la acción directa de la persona perjudicada contra el asegurador). Los importes están calibrados según la capacidad financiera de los desarrolladores de vanguardia (valorados en centenares de miles de millones de dólares) y según la magnitud de los perjuicios posibles; los sistemas de categoría III no aparecen, porque no pueden ser puestos en explotación. Sin embargo, una exigencia imposible de satisfacer en el mercado funcionaría como una prohibición indirecta. El apartado (1) dispone que las sumas se entienden por cada evento, con un límite anual agregado de al menos el doble de estas, y que, tras el agotamiento de la cobertura, esta se reconstituye en el plazo de 30 días. La cláusula de indisponibilidad del mercado: si la Autoridad, con consulta a la Autoridad de Supervisión Financiera, constata mediante informe público que la cobertura no puede contratarse en las condiciones de la ley, el Gobierno puede establecer, mediante normas, niveles inferiores, pero no por debajo de una quinta parte de las sumas, y mecanismos alternativos —garantías de grupo, garantías bancarias o un fondo de garantía financiado por los desarrolladores y los operadores—; el umbral de una quinta parte y la condición del informe público excluyen una reducción discrecional. El apartado (2) define la garantía financiera: carta de garantía bancaria, depósito o garantía emitida por una institución financiera autorizada, ejecutable a solicitud de la víctima sobre la base de la sentencia definitiva o de la transacción, con acción directa también contra el emisor. La obligación de seguro tiene también una función de regulación indirecta: los aseguradores impondrán, mediante las condiciones de suscripción, estándares de seguridad que la ley no puede detallar.

→ el texto del artículo El artículo 37 establece las infracciones administrativas, estructuradas en grados de gravedad, con multas porcentuales del volumen de negocios mundial (1-3 %, 2-5 %, 3-7 %, 5-10 %), según el modelo del artículo 99 del Reglamento de IA (hasta el 7 %) y del artículo 83 del RGPD (hasta el 4 %). La letra b) remite al artículo 16, los apartados (1) a (5), y no solo a los apartados (2) a (5): en la redacción anterior, el hecho más grave en materia de registro —el de no llevar ni conservar ningún registro, obligación prevista en el apartado (1)— no quedaba comprendido en la remisión del texto. Por el mismo motivo, la remisión de la letra b) se ha precisado al artículo 14, los apartados (1), (5) y (6), y junto a la prueba de la capacidad de parada se han mencionado el mantenimiento de esta y la designación de las personas responsables de la supervisión humana, prevista en el artículo 14, el apartado (3), obligación que no figuraba en ninguna de las letras del apartado. La precisión no crea una sanción nueva para la supresión de la capacidad de parada, hecho ya prohibido por el artículo 28 y sancionado, con mayor severidad, por la letra d); para evitar un concurso de infracciones administrativas, la letra b) reserva expresamente los hechos comprendidos en el artículo 28. La letra d) se ha completado con las prohibiciones del artículo 14, el apartado (2), que, aunque formuladas como prohibiciones de configuración, no figuraban en la enumeración de la letra y quedaban, por argumento a contrario, sin sanción por infracción administrativa. Las letras e) y f) sancionan el incumplimiento de las obligaciones de marcado del contenido generado, de información al usuario y relativas al representante para el cumplimiento; para los hechos que constituyen a la vez infracciones del artículo 50 del Reglamento de IA, la letra e) prevé que la multa se aplica dentro de los límites del artículo 99, el apartado (4), del Reglamento, separando expresamente los dos regímenes. El apartado (2) diferencia las multas fijas según la categoría de personas, por exigencia de la proporcionalidad: las personas jurídicas sin volumen de negocios, de 100.000 a 10.000.000 lei; las personas físicas, de 10.000 a 1.000.000 lei; y, para los hechos de las letras e) y f) cometidos por personas que no son desarrolladores ni operadores de un sistema de vanguardia, de 20.000 a 1.000.000 lei para las personas jurídicas y de 5.000 a 200.000 lei para las personas físicas. El apartado (3) prevé las sanciones complementarias, aplicadas en proporción a la gravedad del hecho, incluido el decomiso de los pesos, sanción específica sin la cual la multa sería tan solo un coste de transacción; los pesos decomisados se conservan por la Autoridad en las condiciones del artículo 12. El apartado (4) remite al régimen general de la Ordenanza del Gobierno n.º 2/2001, con dos excepciones formuladas conforme al artículo 63 de la Ley n.º 24/2000: la exclusión de la posibilidad de abonar la mitad del mínimo de la multa (el artículo 28 de la ordenanza), incompatible con las multas porcentuales, y un plazo de prescripción de 5 años en lugar del de 6 meses (el artículo 13, el apartado (1), de la ordenanza), justificado por la complejidad de la constatación. El apartado (5), nuevo, comprende las reglas de individualización y de correlación: los criterios de individualización (la gravedad y el alcance del hecho, el peligro creado, el control efectivo sobre el hecho, la cooperación y la subsanación), la base de cálculo (el volumen de negocios del ejercicio financiero precedente, a nivel del grupo), la prohibición de la doble sanción por el mismo hecho en virtud de la ley y del Reglamento (ne bis in idem) y el régimen de las autoridades e instituciones públicas, a las que la multa se aplica a la persona física responsable, dentro de los límites del apartado (2). Las infracciones administrativas de la presente ley no se superponen a las del Reglamento de IA: las multas previstas en el artículo 101 del Reglamento son impuestas exclusivamente por la Comisión, por la infracción de las obligaciones del Reglamento, mientras que las presentes infracciones administrativas sancionan obligaciones de la ley sin correspondencia en el Reglamento.

→ el texto del artículo El artículo 38 abre una nueva sección, «El cese de la prestación de los servicios y el bloqueo del acceso», que responde a un límite práctico de todo el régimen: la mayoría de los operadores de los sistemas de vanguardia no tienen domicilio social, activos ni personal en Rumanía, de modo que las multas porcentuales y la responsabilidad penal de los responsables de la decisión pueden quedar sin efecto respecto de ellos. La única palanca real del Estado rumano frente a un operador de esa naturaleza es el acceso a los usuarios de su territorio. El apartado (1) gradúa la no conformidad, puesto que una carencia formal subsanable no puede acarrear la misma consecuencia que un riesgo grave: constitución en mora, con un plazo de subsanación de al menos 15 días y el derecho a ser oído; decisión motivada de constatación únicamente si la no conformidad persiste o consiste en un riesgo grave que no puede subsanarse en ese plazo; obligación de cese en 15 días desde la comunicación; en caso de peligro inminente para la vida, la salud o el control humano, no se concede el plazo de subsanación, debiendo motivarse la urgencia. La obligación de cese no es una sanción, sino la consecuencia natural del hecho de que el servicio no cumple las condiciones legales de prestación, según el modelo de la retirada del mercado de los productos no conformes (el artículo 16 del Reglamento (UE) 2019/1020 relativo a la vigilancia del mercado). El apartado (2) prevé la publicación de la decisión en la Lista de operadores no conformes, instrumento de transparencia con un doble cometido: la información de los usuarios y de los proveedores de comunicaciones y la publicidad de la no conformidad, que desincentiva la integración, la promoción y el pago del servicio por los profesionales del mercado rumano; el modelo es la lista pública de los operadores de juegos de azar no autorizados llevada por la Oficina Nacional del Juego conforme al Decreto-ley del Gobierno n.º 77/2009. El apartado (3) sanciona la continuación de la prestación con multa desde el equivalente en lei de la suma de 100.000 euros hasta el equivalente en lei de la suma de 10.000.000 euros por cada mes de continuación, computándose las fracciones de mes proporcionalmente, determinada en función de la duración, del número de personas afectadas y de la gravedad, con un límite del 5 % del volumen de negocios mundial anual para la misma no conformidad, distinta de la sanción por la infracción inicial —criterios que aseguran la proporcionalidad—. El carácter periódico de la multa está tomado de la institución de las multas coercitivas previstas en el artículo 24 del Reglamento (CE) n.º 1/2003 y en el artículo 76 del Reglamento (UE) 2022/2065 relativo a los servicios digitales, y es el único que asegura la eficacia frente a un operador con ingresos de miles de millones. El importe se expresa en euros, con pago en lei al cambio del día, técnica admitida por la Ley n.º 24/2000 y utilizada en la legislación financiera. El apartado (4) impone a la Autoridad decidir la baja en 10 días desde la prueba de la adecuación y comunicarla de inmediato a los proveedores que ejecutan el bloqueo, pudiendo impugnarse la negativa o el retraso de la baja conforme al artículo 39, el apartado (5). El apartado (5) extiende el régimen al desarrollador que ofrece directamente el acceso, con el fin de evitar la elusión mediante la ausencia de un operador distinto.

→ el texto del artículo El artículo 39 regula el bloqueo del acceso, como medida administrativa provisional, subsidiaria de la obligación de cese. El apartado (1) lo condiciona a una decisión motivada de la Autoridad y lo somete al test de necesidad y proporcionalidad exigido por el artículo 53 de la Constitución: el bloqueo solo puede acordarse si las medidas menos restrictivas no han conducido a la adecuación o son manifiestamente insuficientes en relación con la gravedad del riesgo; la decisión examina la necesidad y la proporcionalidad, evita la afectación de otros servicios alojados en la misma infraestructura y se reexamina de oficio cada 90 días, y los usuarios son informados, mediante una página de redirección, del motivo de la medida y de la vía de impugnación. El apartado (2) lo pone en ejecución por medio de los proveedores de redes y servicios de comunicaciones electrónicas, en 48 horas, con el apoyo técnico de ANCOM, según el mecanismo ya operativo en el derecho rumano para los sitios de juegos de azar no autorizados (el Decreto-ley del Gobierno n.º 77/2009) y para el contenido ilegal (la Ley n.º 365/2002, el Reglamento (UE) 2022/2065). El apartado (3) asegura la proporcionalidad: el bloqueo atañe exclusivamente al servicio no conforme, no a toda la actividad del operador, y cesa de pleno derecho al producirse la baja. El apartado (4) es necesario para la compatibilidad con el derecho de la Unión: para los servicios prestados desde otro Estado miembro, el artículo 3, los apartados (4) a (6), de la Directiva 2000/31/CE sobre el comercio electrónico, transpuesta mediante la Ley n.º 365/2002, permite la restricción de la libre circulación de los servicios de la sociedad de la información únicamente mediante una medida individual, contra un servicio determinado, por motivos de orden público, de seguridad pública o de protección de la salud pública, proporcionada, previa solicitud dirigida al Estado miembro de origen y con notificación a la Comisión Europea; conforme a la sentencia del Tribunal de Justicia en el asunto C-376/22, Google Ireland y otros (9 de noviembre de 2023), los Estados miembros no pueden adoptar, en virtud del artículo 3, el apartado (4), medidas generales y abstractas. Por ello el texto prevé expresamente el carácter individual de la medida, el servicio determinado, el fundamento material (orden público, seguridad pública, salud pública) y el procedimiento de la Ley n.º 365/2002; el bloqueo sigue siendo una medida caso por caso, posterior a una infracción concreta, no una obligación general. El apartado (5) garantiza el acceso a la justicia (los artículos 21 y 52 de la Constitución): impugnación en 30 días ante el Tribunal de Apelación de Bucarest, sección de contencioso administrativo y fiscal, juzgada con urgencia y con preferencia; la impugnación no suspende de pleno derecho la ejecución, solución justificada por la naturaleza preventiva de la medida e idéntica a la del artículo 14, el apartado (4), pero la persona interesada puede solicitar la suspensión provisional, resuelta en un máximo de 10 días, ponderando el riesgo para la seguridad y el perjuicio, y la sentencia puede ser recurrida en casación ante el Alto Tribunal de Casación y Justicia en 15 días. El apartado (6) exonera a los proveedores de comunicaciones de responsabilidad por la ejecución correcta y de buena fe de la decisión, según el modelo de los artículos 12 a 15 de la Directiva 2000/31/CE (el artículo 11 y siguientes de la Ley n.º 365/2002), pero no por el bloqueo excesivo producido por su culpa.

→ el texto del artículo El artículo 40 incrimina la puesta en explotación no autorizada y la continuación de la explotación tras la orden de parada, con prisión de 2 a 7 años (el apartado (1)) y, respectivamente, de 5 a 12 años en la forma agravada (el apartado (2)). La incriminación sigue el modelo de los artículos 44 y siguientes de la Ley n.º 111/1996 (el desarrollo sin autorización de actividades nucleares, castigado con prisión). Los límites de pena son los de los delitos de peligro grave del Código Penal (por ejemplo, el artículo 345 – la inobservancia del régimen de los materiales nucleares, de 3 a 10 años). Dos precisiones vienen impuestas por el principio de legalidad de la incriminación (el artículo 23, el apartado (12), y el artículo 73, el apartado (3), la letra h), de la Constitución). La primera delimita el sujeto activo: la utilización, como usuario final, de un sistema puesto a disposición por otro no constituye delito (los artículos 3 y 43). La segunda precisa la consecuencia agravante: la simple «manifestación de una capacidad crítica» podía incluir el resultado de una prueba controlada; el texto exige la manifestación, fuera de una evaluación controlada, de una de las capacidades previstas en el artículo 5, el apartado (2), las letras c) a e), o la producción de uno de los resultados previstos en las letras a) o b), y la consecuencia se imputa en las condiciones del artículo 16, el apartado (4), del Código Penal (la intención sobrepasada). La ley no modifica el Código Penal, sino que instituye delitos en ley especial, conforme al artículo 1, el apartado (1), de la Ley n.º 24/2000 y a la práctica constante de la legislación especial (la Ley n.º 111/1996, la Ley n.º 535/2004 sobre la prevención y la lucha contra el terrorismo). El apartado (2) emplea la noción de evaluación autorizada en entorno aislado, conforme al artículo 15, el apartado (2), la misma que la del artículo 3, el apartado (1), la letra n), el artículo 15, el apartado (3), y el artículo 20, los apartados (2) y (4); la expresión «evaluación controlada», empleada anteriormente solo en este lugar, ha sido suprimida, ya que un término sin correspondencia en el resto de la ley, en una norma de agravación de la pena, habría sido contrario a la exigencia de previsibilidad de la ley penal, conforme al artículo 23, el apartado (12), de la Constitución.

→ el texto del artículo El artículo 41 incrimina la falsedad en la evaluación y la obstrucción del control. La presentación a sabiendas, a la Autoridad o a un organismo de evaluación, de datos, resultados o declaraciones falsos o incompletos de manera engañosa relativos a elementos esenciales de las capacidades, del volumen de cálculo, de la seguridad de los pesos o de los incidentes, así como la configuración del sistema con el fin de inducir a error a los evaluadores sobre la configuración evaluada o sobre las capacidades reales (el apartado (1), de 3 a 10 años), es el delito específico del régimen: un sistema de autorización basado en las pruebas suministradas por el solicitante no puede funcionar si su falsificación es tan solo una infracción administrativa. El modelo es, en el derecho comparado, la sección 1001 del título 18 del Código de los Estados Unidos, que castiga con hasta 5 años las declaraciones falsas hechas a las autoridades federales. El segundo supuesto responde al precedente del «Dieselgate» de 2015, en el que los vehículos detectaban las condiciones de prueba y modificaban su comportamiento, y a la capacidad crítica del artículo 5, el apartado (2), la letra d). Las exigencias «a sabiendas», «elementos esenciales» y «con el fin de inducir a error» distinguen la falsificación deliberada de la estimación incierta y del error de buena fe, y el apartado (4) excluye expresamente la estimación incierta declarada como tal, el error corregido tan pronto como fue conocido y la configuración del sistema en el marco de una prueba convenida con el evaluador. La obstrucción del acceso y la destrucción de los registros (el apartado (2), de 1 a 5 años) siguen el modelo del artículo 275 del Código Penal (la sustracción o la destrucción de pruebas o de documentos), pero «el impedimento, en cualquier modo,» se refiere a un acceso ejercido dentro de los límites de la competencia de la Autoridad y sobre la base de una solicitud escrita, y la negativa fundada en la falta de competencia o en el secreto profesional del abogado o en otro secreto amparado por la ley no constituye delito, correspondiendo al órgano jurisdiccional pronunciarse sobre ella. Las represalias contra los denunciantes (el apartado (3), de 6 meses a 3 años o multa) se definen mediante remisión precisa a las medidas previstas por la Ley n.º 361/2022 y se condicionan a la relación con una denuncia protegida conforme al artículo 21; la Ley n.º 361/2022 sanciona las represalias únicamente como infracción administrativa, lo que es insuficiente para un ámbito en el que lo que está en juego con el silencio de un empleado puede alcanzar los miles de millones de euros.

→ el texto del artículo El artículo 42 incrimina el desarrollo de los sistemas prohibidos. El apartado (1) sanciona el entrenamiento, el diseño o la operación con intención de un sistema en las condiciones prohibidas por el artículo 15, el apartado (1), por el artículo 25, el apartado (2), primera frase, y el apartado (3), por el artículo 28, primera frase, o por el artículo 29, primera frase (de 3 a 10 años); las remisiones se han precisado a nivel de apartado y de frase, para que la norma de incriminación se refiera únicamente a las prohibiciones propiamente dichas, conforme a la exigencia de previsibilidad de la ley penal. El apartado (2) sanciona la divulgación, la transmisión o la puesta a disposición, sin derecho, de los pesos de los sistemas de categoría II o III (de 5 a 15 años), hecho cuya gravedad se sitúa entre la divulgación de información secreta de Estado (el artículo 303 del Código Penal) y la traición mediante transmisión de información secreta de Estado (el artículo 395 del Código Penal, de 10 a 20 años); para que el elemento «sin derecho» no dependa de una defensa interpretativa posterior, el texto prevé expresamente que las transferencias permitidas conforme al artículo 12, el apartado (2), y las comunicaciones protegidas conforme al artículo 21, el apartado (5), no constituyen delito. El apartado (3) gradúa las consecuencias, en lugar del intervalo único anterior: la pena de 10 a 20 años, correspondiente a los delitos contra la vida, se reserva a la muerte, a la lesión corporal grave o a la pérdida del control humano que hizo imposible la intervención humana y fue seguida de acciones autónomas con consecuencias sobre las personas, el entorno o la infraestructura crítica; el perjuicio patrimonial especialmente grave y la pérdida temporal del control se castigan con 7 a 15 años; las consecuencias se imputan en las condiciones del artículo 16, el apartado (4), del Código Penal. La exigencia de la intención en el apartado (1) delimita el delito de la infracción administrativa del artículo 37, el apartado (1), la letra d), que sanciona las mismas infracciones cometidas sin intención.

→ el texto del artículo El artículo 43 consagra la garantía del usuario. En su forma inicial, el proyecto incriminaba el acceso, eludiendo el bloqueo, a un servicio inscrito en la Lista de operadores no conformes —el único hecho de todo el proyecto que podía ser cometido por un usuario—. El iniciador ha renunciado a ella y la ha sustituido por una garantía de sentido contrario: la ley está construida a partir de obligaciones impuestas a quienes ejercen poder sobre la persona y de derechos conferidos a esta (los artículos 17, 18, 26 y 27); la eficacia de los artículos 38 y 39 no depende de la sanción del usuario, siendo su finalidad sacar el servicio no conforme del circuito comercial legal; y la comparación con el Decreto-ley del Gobierno n.º 77/2009 es inadecuada, pues allí se sanciona una conducta con potencial de perjuicio propio, mientras que aquí el usuario no hace sino acceder a un servicio que el operador, y no él, se ha negado a adecuar. El apartado (1) prevé que el acceso por una persona física, con fines personales, a un servicio inscrito en la Lista, incluso eludiendo el bloqueo, no constituye delito ni infracción administrativa y no puede acarrear ninguna sanción ni medida restrictiva por la no conformidad del servicio, recayendo la responsabilidad exclusivamente en el operador y en el desarrollador; el texto precisa que la exclusividad de la responsabilidad se refiere a la no conformidad del servicio y que la garantía no excluye la responsabilidad por hechos distintos, previstos por la ley, cometidos mediante la utilización del servicio. El apartado (2) instituye la regla de interpretación según la cual los artículos 38 y 39 no pueden interpretarse en el sentido de instituir obligación alguna a cargo de los usuarios ni de condicionar sus derechos. El apartado (3), nuevo, extiende la garantía al usuario final profesional que no es operador y no pone el servicio a disposición de otras personas. La disposición se correlaciona con el artículo 26, los apartados (1) y (4), y con el artículo 27. La garantía atañe al acceso personal, no a toda la ley: la misma persona puede ser también desarrollador, operador o publicador de material generado, caso en el cual los artículos 17 a 19 y 37 le resultan aplicables. Dado que el bloqueo puede comenzar antes de la entrada en vigor de la sección penal, el artículo 50, segunda frase, prevé que el artículo 43 entra en vigor junto con la ley.

→ el texto del artículo El artículo 44 regula la responsabilidad de las personas con funciones de decisión. El apartado (1) precisa que los delitos se imputan a las personas físicas que hayan dispuesto o aprobado la comisión de los hechos, así como a las que, teniendo la obligación jurídica y la posibilidad efectiva de impedirlos, hayan tolerado a sabiendas su comisión, con la determinación individual de la forma de culpabilidad conforme al Código Penal, con independencia de su condición y con independencia de la responsabilidad de la persona jurídica, exigida conforme al artículo 135 del Código Penal; el texto no crea una forma nueva de participación, sino que elimina la defensa de la difusión de la responsabilidad en estructuras corporativas complejas. La fórmula anterior podía incluir a empleados que sabían pero no podían intervenir; el texto alinea el supuesto de la tolerancia con las condiciones de la responsabilidad por omisión del artículo 17 del Código Penal (la obligación legal o contractual de actuar), con la culpabilidad determinada individualmente. El apartado (2) excluye la causa de exención de pena de la orden del superior o del órgano de dirección, según el modelo del artículo 33 del Estatuto de Roma y del artículo 21, el apartado (2), del Código Penal, que no reconoce la orden manifiestamente ilegal como causa de justificación, pero mantiene expresamente las causas de justificación y de no imputabilidad del Código Penal. La ley no contiene una norma propia relativa a la aplicación de la ley penal en el espacio, puesto que el artículo 8, el apartado (4), del Código Penal (el delito se considera cometido en el territorio de Rumanía también cuando el resultado se ha producido, aun en parte, en ese territorio) y los artículos 9 a 11 del Código Penal (los principios de personalidad, realidad y universalidad) son suficientes, y una norma de remisión constituiría un paralelismo prohibido por el artículo 16 de la Ley n.º 24/2000.

→ el texto del artículo El artículo 45 establece la competencia y las medidas provisionales. La instrucción penal por los delitos previstos en los artículos 40 a 42 corresponde obligatoriamente al fiscal de la Dirección de Investigación de los Delitos de Criminalidad Organizada y Terrorismo (el apartado (1)), estructura que ya tiene competencia para los delitos informáticos y de terrorismo (el artículo 11 del Decreto-ley del Gobierno n.º 78/2016), y el enjuiciamiento en primera instancia corresponde al tribunal, conforme a la regla general del artículo 36, el apartado (1), la letra c), del Código de Procedimiento Penal para los delitos que la ley atribuye a su competencia; la remisión anterior al artículo 44 ha sido eliminada, puesto que este artículo no define un delito autónomo, sino a las personas responsables. El apartado (2) permite al fiscal disponer, en caso de urgencia, mediante auto motivado, como medida provisional de un máximo de 30 días, la parada del sistema, el precinto de la infraestructura y la indisponibilización de los pesos, con la confirmación del juez de derechos y libertades en 48 horas, bajo sanción de cese de pleno derecho de la medida, según el modelo de las medidas cautelares de los artículos 249 y siguientes del Código de Procedimiento Penal y del registro informático del artículo 168. La medida va acompañada de garantías adicionales: la limitación a la carga de cálculo y a los pesos afectados cuando su aislamiento es suficiente, la conservación de los datos y la custodia de los pesos en las condiciones del artículo 12, la impugnación por la persona afectada y por los terceros afectados, la reexaminación cada 30 días y la prórroga en las mismas condiciones. La confirmación judicial rápida y estos límites aseguran la conformidad con los artículos 21 y 53 de la Constitución. El apartado (3) completa el artículo 11, el apartado (1), del Decreto-ley del Gobierno n.º 78/2016 con los delitos previstos en los artículos 40 a 42, puesto que la competencia de la DIICOT se establece mediante su acto de organización, que debe correlacionarse expresamente, conforme a la Ley n.º 24/2000. La estructura exacta del artículo 11, el apartado (1), de la ordenanza debe verificarse sobre el texto consolidado antes de la presentación.

Capítulo VIII – Cooperación internacional. Disposiciones transitorias y finales (los artículos 46 a 50)

→ el texto del artículo El artículo 46 establece las obligaciones de acción exterior del Gobierno: la promoción en el marco de la Unión Europea de un régimen de autorización previa equivalente y de una capacidad europea común de evaluación (el apartado (1)); la negociación, en el marco de la ONU, del Consejo de Europa, de la OTAN y de otras organizaciones, de un tratado relativo a la limitación y a la verificación de las capacidades de cálculo de vanguardia, a la prohibición de las armas autónomas letales y a la prohibición de los sistemas de categoría III, con comunicación anual al Parlamento (el apartado (2)); y la celebración de acuerdos de reconocimiento recíproco de las evaluaciones (el apartado (3)). Los apartados (1) y (2) instituyen obligaciones de iniciar y de informar sobre las gestiones realizadas, no obligaciones de resultado. El apartado (3) precisa que los acuerdos de la Autoridad se celebran dentro de los límites de su competencia, se publican y no pueden establecer excepciones a la ley ni al derecho de la Unión Europea. El artículo reconoce abiertamente, conforme al principio del artículo 2, la letra g), que la ley nacional no puede resolver por sí sola un problema global; transforma, no obstante, esta constatación en una obligación de acción, y no en un motivo de inacción. El modelo histórico es el Tratado de No Proliferación Nuclear de 1968, que funcionó mediante el control de los materiales fisionables y mediante las inspecciones del Organismo Internacional de Energía Atómica; el equivalente para la inteligencia artificial es el control y la verificación del cálculo, propuesto en la literatura especializada bajo la denominación de «compute governance» y defendido por Hinton, Bengio y numerosos investigadores en los llamamientos públicos de 2023-2025.

→ el texto del artículo El artículo 47 instituye la cláusula de revisión cada 2 años, sobre la base del informe de la Autoridad y del dictamen del Consejo científico. La cláusula de revisión periódica viene impuesta por el artículo 7 de la Ley n.º 24/2000 (la evaluación preliminar del impacto) y por el ritmo de la evolución tecnológica. El informe evalúa, sobre la base de una metodología publicada, la eficacia de la protección, los incidentes, los costes, el acceso a los servicios, los efectos no deseados y la proporcionalidad de cada medida, puede proponer la restricción de una medida constatada ineficaz aunque el riesgo general se mantenga, y comprende las opiniones científicas divergentes. La última frase cierra, sin embargo, una vía de elusión: el argumento de que «de todos modos no podemos controlar los sistemas, luego la regulación es inútil», que convertiría la incertidumbre en permiso; la falta de un método validado de control no puede invocarse, por sí sola, como motivo de relajación, pero tampoco sustituye la reevaluación de la proporcionalidad. La ley responde que la incertidumbre es el motivo de la regulación, no el de su abandono.

→ el texto del artículo El artículo 48 comprende las disposiciones transitorias, conforme al artículo 54 de la Ley n.º 24/2000, y escalona los plazos de adecuación en dos niveles, de modo que ninguna obligación devenga exigible antes de que exista el instrumento mediante el cual pueda cumplirse. El primer nivel corre desde la entrada en vigor de la ley: en 60 días, los desarrolladores y los operadores notifican a la Autoridad los sistemas en explotación en el territorio de Rumanía o puestos a disposición de las personas de Rumanía (el apartado (2)); en 90 días se adecuan a las disposiciones de la ley que no dependen de las normas metodológicas (el apartado (1)) y cumplen las obligaciones de marcado perceptible, de información de los usuarios y de designación del representante para el cumplimiento (el apartado (4)), y las disposiciones relativas al cese de la prestación y al bloqueo (los artículos 38 y 39) se aplican únicamente tras la expiración de este plazo (el apartado (3)), lo que garantiza la previsibilidad para los operadores y observa el artículo 15, el apartado (2), de la Constitución. El segundo nivel corre desde la entrada en vigor de las normas metodológicas previstas en el artículo 49, el apartado (2): en 90 días desde esa fecha se presenta la solicitud de autorización, cuyo procedimiento se establece mediante las normas (el apartado (2)), se realiza el marcado técnico incorporado (el apartado (4)) y devienen exigibles, en general, todas las obligaciones cuyo cumplimiento depende de los estándares, los procedimientos, los umbrales o los importes establecidos mediante las normas, no pudiendo constatarse hasta entonces las infracciones administrativas correspondientes (el apartado (5)). El apartado (5) precisa al mismo tiempo que las prohibiciones de la ley, las obligaciones relativas a la capacidad de parada, al registro y a la notificación de los incidentes graves, así como las demás obligaciones que pueden cumplirse sin las normas, se aplican desde la entrada en vigor de la ley; el régimen transitorio no aplaza, por tanto, nada de lo que protege directamente el control humano. Los sistemas notificados pueden mantenerse en explotación hasta la decisión de la Autoridad, pero no más de 12 meses desde la entrada en vigor de la ley, a condición de observar las prohibiciones y las garantías directamente aplicables de los capítulos IV y V (no de todo el capítulo IV, que comprende también obligaciones dependientes de las normas); se evitan así tanto el vacío de aplicación como la interrupción brusca de servicios utilizados por millones de personas, pero se fija un límite absoluto de la tolerancia. Este se prorroga de pleno derecho por el período en que la adopción de las normas o la resolución de la solicitud excedan los plazos legales, sin que el solicitante diligente pueda ser sancionado por el retraso de las instituciones, y pudiendo la Autoridad disponer, de forma motivada, condiciones adicionales de seguridad durante la prórroga. El plazo de 90 días es el usual en la legislación rumana para la adecuación a nuevas exigencias de autorización y es suficiente, puesto que los desarrolladores de vanguardia disponen ya de las evaluaciones internas exigidas por el Reglamento de IA. El apartado (6) encomienda al presidente de ANCOM, hasta el nombramiento del vicepresidente para la seguridad de la inteligencia artificial, el ejercicio de las atribuciones de la Autoridad, incluidas las medidas urgentes del artículo 32, el apartado (1), la letra c); la forma anterior limitaba la interinidad a la recepción de las notificaciones. El apartado (3) comprende también una correlación sin la cual el régimen transitorio habría sido contradictorio: el mantenimiento en explotación de un sistema notificado, durante el período en que el apartado (2) lo permite y durante la tramitación de la solicitud presentada dentro de plazo, no constituye el delito previsto en el artículo 40, el apartado (1). En ausencia de esta precisión, la misma conducta habría estado, entre el día 270 desde la publicación —fecha de entrada en vigor de las disposiciones penales— y el cumplimiento de los 12 meses desde la entrada en vigor de la ley, al mismo tiempo permitida por la disposición transitoria e incriminada por la disposición penal. La exclusión está estrictamente delimitada: no cubre la puesta en explotación de un sistema no notificado, el mantenimiento en explotación tras la desestimación de la solicitud, tras la expiración del plazo previsto en el apartado (2) o tras la comunicación de una orden de parada. El apartado (4), a su vez, se ha desglosado en los componentes del marcado de procedencia: la obligación prevista en el artículo 17, el apartado (4), a cargo de las autoridades públicas, se refiere al marcado definido en el apartado (1), compuesto tanto por el marcado perceptible como por el técnico incorporado, de modo que cada componente sigue su propio plazo, y la autoridad pública no está obligada a aplicar un marcado cuyo estándar todavía no haya sido adoptado.

→ el texto del artículo El artículo 49 prevé las medidas de organización y las normas de aplicación, con plazos referidos a la fecha de publicación de la ley, para que resulte un calendario único y para que la institución y las reglas de evaluación estén disponibles antes de los plazos de los operadores. El apartado (1) prevé el nombramiento por el Parlamento del vicepresidente para la seguridad de la inteligencia artificial y la integración de la Autoridad en la estructura organizativa y en el reglamento de organización y funcionamiento de ANCOM, mediante decisión del presidente de ANCOM publicada en el Boletín Oficial, en 60 días desde la publicación. El apartado (2) prevé la adopción de las normas metodológicas en 120 días desde la publicación, a propuesta de la Autoridad, con el dictamen del Consejo científico y tras una consulta pública de al menos 30 días, con la enumeración precisa de su objeto (procedimientos, estándares, las condiciones del entorno aislado, el marcado de procedencia, los métodos de evaluación y los niveles de significación de las capacidades críticas, el umbral de la infraestructura, las tasas establecidas en relación con el coste del servicio y el importe del seguro o de la garantía). La delegación en el Gobierno está limitada a aspectos técnicos y de procedimiento, de acuerdo con la jurisprudencia del Tribunal Constitucional según la cual los elementos esenciales de la regulación deben establecerse mediante ley (por ejemplo, la Decisión n.º 51/2016); el texto lo dice expresamente: las normas detallan el marco establecido por la ley, no pueden establecer el contenido esencial de las obligaciones, de las prohibiciones y de las sanciones, y los estándares se publican. La lista de las capacidades críticas ya no figura entre los objetos de las normas, puesto que permanece en la ley (el artículo 5, el apartado (2)), en correlación con el artículo 32, el apartado (4). El apartado (3), nuevo, instituye el régimen intermedio: hasta la adopción de las normas, las evaluaciones se efectúan conforme a los estándares de los códigos de buenas prácticas adoptados en virtud del Reglamento de IA y a los métodos reconocidos científicamente, y la Autoridad publica orientaciones provisionales. La enumeración del objeto de las normas se ha completado con el nivel previsto en el artículo 16, el apartado (5), con el procedimiento de prueba y la duración previstos en el artículo 14, los apartados (1) y (6), con los requisitos mínimos del aislamiento previstos en el artículo 3, el apartado (1), la letra bb), y con el importe de la indemnización compensatoria prevista en el artículo 31, el apartado (3), para que cada elemento dejado a las normas metodológicas por otro artículo de la ley figure también en el artículo que instituye la delegación.

→ el texto del artículo El artículo 50 establece la entrada en vigor a los 30 días desde la publicación, conforme al artículo 78 de la Constitución y al artículo 12 de la Ley n.º 24/2000, con excepción de los artículos 40 a 42, 44 y 45, que entran en vigor a los 270 días desde la publicación, y con la precisión de que el artículo 43 entra en vigor junto con la ley. El plazo de la sección penal se expresa en días desde la publicación, no en meses naturales, y ha sido ampliado de 6 meses a 270 días, para que las incriminaciones devengan activas únicamente después de las normas metodológicas (120 días) y después del período de adaptación de las obligaciones dependientes de estas (210 días): una incriminación vinculada a la autorización presupone un procedimiento de autorización disponible, y su activación antes de las normas sería contraria a la previsibilidad de la ley penal (el artículo 7 del Convenio Europeo de Derechos Humanos, el artículo 23, el apartado (12), de la Constitución). La fórmula final de atestación de la adopción, prevista en los artículos 40 y 46 de la Ley n.º 24/2000, indica la observancia del artículo 75 y del artículo 76, el apartado (1), de la Constitución, siendo la ley orgánica por cuanto regula delitos y penas (el artículo 73, el apartado (3), la letra h)) y modifica, como excepción, la organización de una autoridad administrativa autónoma creada mediante ley orgánica (el artículo 117, el apartado (3)).

El calendario único que resulta de los artículos 48 a 50, referido a la fecha de publicación de la ley (P), es el siguiente: P+30 días – la entrada en vigor, incluida la garantía del usuario (el artículo 43), las prohibiciones y las obligaciones directamente aplicables; P+60 días – el nombramiento del vicepresidente y la organización de la Autoridad (el artículo 49, el apartado (1)); P+90 días – la notificación de los sistemas en explotación (el artículo 48, el apartado (2)); P+120 días – la adopción de las normas metodológicas (el artículo 49, el apartado (2)) y la exigibilidad de las obligaciones independientes de las normas (el artículo 48, los apartados (1) y (4)), momento a partir del cual devienen aplicables también los artículos 38 y 39; P+210 días – si las normas se adoptan en el plazo, la exigibilidad de las obligaciones dependientes de las normas, el marcado técnico incorporado y las solicitudes de autorización (el artículo 48, los apartados (2), (4) y (5)); P+270 días – la entrada en vigor de la sección penal (los artículos 40 a 42, 44 y 45); la tolerancia para los sistemas notificados expira a los 12 meses desde la entrada en vigor, prorrogada de pleno derecho por el retraso de las instituciones (el artículo 48, el apartado (2)).

3. La conformidad con las normas de técnica legislativa (la Ley n.º 24/2000)

El proyecto ha sido redactado con estricta observancia de la Ley n.º 24/2000, republicada, del modo siguiente. La fundamentación y la evaluación preliminar del impacto (los artículos 6, 7 y 30 y 31) están comprendidas en la presente exposición de motivos, con el análisis de la situación actual, de los modelos comparados y de los efectos. La integración en el sistema legislativo (el artículo 13) está asegurada mediante la referencia expresa al Reglamento de IA (el artículo 1, el apartado (3), de la ley) y mediante las normas de remisión a los actos conexos. La evitación de los paralelismos (el artículo 16) ha sido objeto de un análisis distinto, presentado en el punto 3 de la Sección 5.ª: ninguna regulación existente se reitera, sino que se recoge mediante remisión, y las excepciones se formulan expresamente con la fórmula «como excepción a», conforme al artículo 63. La unidad terminológica (el artículo 37) está asegurada mediante las definiciones del artículo 3, que recogen por remisión las nociones consagradas por el derecho de la Unión y definen de manera autónoma, con justificación, las nociones nuevas («sistema de vanguardia», «pesos», «operador», «puesta en explotación»), evitando los términos con significado diferente en el Reglamento de IA («operador», «proveedor», «puesta en servicio»). El estilo normativo (los artículos 36 y 38) es dispositivo, en tiempo presente, sin explicaciones entre paréntesis y sin neologismos no consagrados; todos los términos técnicos utilizados en la parte dispositiva («pesos», «arquitectura», «entrenamiento», «ajuste fino», «aprendizaje por refuerzo», «exfiltración», «replicación autónoma», «automejora recursiva», «disimulación de capacidades», «evasión de la supervisión», «resistencia a la parada», «herramienta externa», «entorno autorizado de explotación» y los demás) están definidos en el artículo 3, estructurado en dos apartados –nociones-objeto y, respectivamente, operaciones y comportamientos– para que cada enumeración permanezca dentro del límite de las letras del alfabeto y para que el elemento material de las prohibiciones y de los delitos tenga un contenido normativo preciso. Las partes constitutivas (los artículos 40 a 46) son: el título, el preámbulo (permitido por el artículo 43 para enunciar sintéticamente la motivación, según el modelo de las leyes de especial importancia), la fórmula introductoria, la parte dispositiva y la fórmula de atestación de la legalidad de la adopción. La estructura de la parte dispositiva (los artículos 47 a 56) observa el orden disposiciones generales – disposiciones de fondo – disposiciones transitorias – disposiciones finales, con capítulos numerados con cifras romanas y secciones con cifras árabes; los artículos están numerados de manera continua, los apartados con cifras árabes entre paréntesis, las enumeraciones con letras, y ninguna enumeración marcada con letra comprende otra enumeración (el artículo 49, el apartado (3)); los artículos no llevan denominaciones marginales, puesto que el artículo 47, el apartado (3), las reserva a los códigos y a las leyes de gran extensión. Las normas de remisión (el artículo 50) indican los elementos completos de identificación de los actos a los que se remite, y las delegaciones en el Gobierno (el artículo 49) están limitadas a aspectos de procedimiento y técnicos, prohibiendo expresamente la última frase del artículo 49, el apartado (2), de la ley que las normas metodológicas establezcan el contenido esencial de las obligaciones, de las prohibiciones y de las sanciones. La ley contiene una única intervención expresa sobre el texto de otro acto normativo —la adición al artículo 11, el apartado (1), del Decreto-ley del Gobierno n.º 78/2016, dispuesta por el artículo 45, el apartado (3)—, redactada conforme a los artículos 59 a 62 (la identificación completa del acto, con los datos de publicación y de aprobación, y la fórmula de adición); las excepciones puntuales están permitidas por el artículo 63 y no afectan al texto de los actos respecto de los cuales se establece la excepción. A raíz del análisis jurídico independiente de 20 de septiembre de 2026, el proyecto ha sido revisado para: (i) delimitar su ámbito frente al Reglamento de IA (el artículo 1, el apartado (4), el artículo 9, el apartado (7), el artículo 17, el apartado (6), el artículo 19, el apartado (1), y el artículo 27, el apartado (6)); (ii) mantener en la ley todos los elementos constitutivos de las infracciones administrativas y de los delitos, con la prohibición de ampliarlos mediante estándares (el artículo 32, el apartado (4)); (iii) sincronizar los procedimientos, los estándares y los plazos mediante un calendario único referido a la fecha de publicación (los artículos 48 a 50); (iv) añadir garantías procedimentales frente a la Autoridad (el artículo 9, el apartado (4), el artículo 11, el apartado (2), el artículo 14, el apartado (4), el artículo 32, los apartados (2) y (3), el artículo 39, los apartados (1) y (5), el artículo 45, el apartado (2)). El ejemplar de trabajo del proyecto lleva la mención «PROYECTO»; la fórmula de atestación de la legalidad de la adopción, consignada al final del texto, es la usual para un proyecto de ley y no representa una adopción ya producida.

Sección 3.ª – El impacto socioeconómico del proyecto de acto normativo

Sección 4.ª – El impacto financiero sobre el presupuesto general consolidado, tanto a corto plazo, para el año en curso, como a largo plazo (5 años)

El impacto financiero consiste en los gastos de organización y de funcionamiento de la Autoridad para la Seguridad de la Inteligencia Artificial, en el seno de ANCOM, estimados para una plantilla de alrededor de 80 puestos, de los cuales al menos 50 especialistas técnicos seleccionados mediante concurso y remunerados al nivel del mercado, y en los gastos de la infraestructura de cálculo necesaria para las evaluaciones. La organización en el seno de ANCOM, autoridad financiada íntegramente con ingresos propios, reduce los costes de creación (sede, funciones de apoyo, sistemas informáticos) y no grava el presupuesto del Estado. Conforme al artículo 33, el apartado (5), la Autoridad se financia con el presupuesto de ANCOM, mediante una asignación distinta, aprobada anualmente y consignada por separado, y con las tasas de notificación, de evaluación y de autorización, establecidas en las normas metodológicas en relación con el coste del servicio prestado; el presupuesto inicial, incluidos el personal y la infraestructura, es asegurado por ANCOM antes de la percepción de las tasas. Las multas aplicadas conforme a la ley se hacen ingreso del presupuesto del Estado y no pueden determinar los recursos de la Autoridad, y la investigación prevista en el artículo 32, el apartado (1), la letra j), se financia mediante asignación presupuestaria distinta, sin relación con las sanciones; los ingresos por multas no pueden estimarse ex ante y no se toman en cuenta a continuación. Las estimaciones, expresadas en millones de lei, son orientativas y serán definidas por el Ministerio de Finanzas en el trámite de informe.

Sección 5.ª – Los efectos del presente acto normativo sobre la legislación en vigor

a) actos normativos en vigor que serán modificados o derogados como consecuencia de la entrada en vigor del proyecto de acto normativo

El proyecto no deroga ningún acto normativo y modifica expresamente, mediante una adición, un único acto normativo (el artículo 45, el apartado (3)). Por lo demás, mediante la técnica de la norma de remisión y de la excepción expresa, produce los siguientes efectos sobre la legislación en vigor:

El Decreto-ley del Gobierno n.º 78/2016 sobre la organización y el funcionamiento de la Dirección de Investigación de los Delitos de Criminalidad Organizada y Terrorismo, así como sobre la modificación y adición de determinados actos normativos, aprobado con modificaciones por la Ley n.º 120/2018 – adición expresa (el artículo 45, el apartado (3), de la ley): en el artículo 11, el apartado (1), se introduce un nuevo punto, por el que los delitos previstos en los artículos 40 a 42 de la ley se atribuyen a la competencia de la DIICOT; 1 acto completado en su texto. La estructura exacta del artículo 11, el apartado (1) (la numeración de los puntos y la forma consolidada actualizada), debe verificarse sobre el texto consolidado antes de la presentación, y la fórmula de adición se adaptará en consecuencia.

El Decreto-ley del Gobierno n.º 27/2003 sobre el procedimiento de la aprobación tácita – excepción expresa (el artículo 9, el apartado (4), de la ley): la falta de respuesta de la Autoridad no equivale a la autorización tácita; 1 excepción.

El Decreto-ley del Gobierno n.º 22/2009 sobre la creación de la Autoridad Nacional de Administración y Regulación en Comunicaciones, aprobado por la Ley n.º 113/2010 – excepción expresa (el artículo 31, el apartado (2), de la ley) a lo dispuesto en el artículo 11, el apartado (1): un vicepresidente adicional, para la seguridad de la inteligencia artificial, nombrado por el Parlamento en las mismas condiciones; 1 excepción. La Ley marco n.º 153/2017 no resulta afectada, al estar el personal de ANCOM exceptuado de su aplicación por su artículo 2, el apartado (2).

La Ley del contencioso administrativo n.º 554/2004 – excepción expresa (el artículo 26, el apartado (6), de la ley) a lo dispuesto en el artículo 7 (el procedimiento previo), el artículo 10 (la competencia material y territorial) y el artículo 20 (la vía de recurso): las impugnaciones contra las decisiones de las autoridades e instituciones públicas previstas en el artículo 26 y, por remisión, en el artículo 18, el apartado (3), y en el artículo 27, el apartado (5), no están sujetas al procedimiento previo, se juzgan por el tribunal del domicilio de la persona, con apelación ante el tribunal de apelación; 1 excepción (a tres textos).

La Ordenanza del Gobierno n.º 2/2001 sobre el régimen jurídico de las infracciones administrativas – excepciones expresas (el artículo 37, el apartado (4), de la ley) a lo dispuesto en el artículo 28 (el abono de la mitad del mínimo de la multa) y en el artículo 13, el apartado (1) (el plazo de prescripción de la imposición de la sanción); 2 excepciones.

La Ley n.º 361/2022 sobre la protección de los denunciantes de interés público – complemento del ámbito de aplicación mediante norma de remisión (el artículo 21 de la ley), sin modificación del texto; el régimen de protección se extiende a las comunicaciones relativas a los riesgos para la seguridad y a la disimulación de capacidades.

El Reglamento (UE) 2016/679 (el artículo 22) y la Ley n.º 190/2018 – normas de remisión (el artículo 26, el apartado (8), de la ley), sin modificación.

El Reglamento (UE) 2022/2065 relativo a los servicios digitales – norma de coordinación (el artículo 27, el apartado (6), de la ley): para los prestadores de servicios intermediarios, el artículo 27 se aplica únicamente en la medida compatible con el Reglamento, cuyas disposiciones relativas a las condiciones contractuales (el artículo 14), a la motivación de las decisiones (el artículo 17) y a la resolución de las reclamaciones (el artículo 20) siguen siendo aplicables; ninguna garantía del Reglamento para los destinatarios de los servicios resulta restringida; sin modificación.

El Reglamento (UE) 2024/1689 – normas de coordinación: el artículo 1, el apartado (4), y el artículo 9, el apartado (7), de la ley (la ley no instituye condiciones de introducción en el mercado de la Unión de los modelos de uso general y no afecta a las competencias de la Comisión previstas en el artículo 88 del Reglamento; para los modelos con riesgo sistémico cuyos proveedores cumplen el capítulo V del Reglamento, la Autoridad se basa en la documentación comunicada a la Oficina de IA); el artículo 17, el apartado (6) (para los proveedores y los implementadores a los que se aplica el artículo 50 del Reglamento, las obligaciones de marcado se consideran cumplidas mediante la observancia del artículo 50, los apartados (2) y (4), estableciendo la ley únicamente la autoridad competente, el procedimiento de constatación y las sanciones, dentro de los límites del artículo 99, el apartado (4), del Reglamento); el artículo 18, el apartado (5) (el artículo 50, el apartado (1), del Reglamento y los artículos 13 a 15 y 22 del Reglamento (UE) 2016/679); el artículo 19, los apartados (1) y (6) (los desarrolladores y los operadores establecidos en otro Estado miembro designan únicamente un punto de contacto, que puede ser el representante autorizado previsto en el artículo 54 del Reglamento o el representante legal previsto en el artículo 13 del Reglamento (UE) 2022/2065; el representante autorizado apoderado también para Rumanía cumple la obligación de la ley); sin modificación de los actos de la Unión.

La Directiva 2000/31/CE (el artículo 3) y la Ley n.º 365/2002 sobre el comercio electrónico, republicada – normas de remisión (el artículo 4, el apartado (4), y el artículo 39, el apartado (4), de la ley): las obligaciones de la ley se aplican a los servicios prestados desde otro Estado miembro en las condiciones del artículo 3 de la Directiva, y el bloqueo de un servicio de esa naturaleza se acuerda únicamente de forma individual, para un servicio determinado, con el procedimiento de solicitud al Estado miembro de origen y de notificación a la Comisión Europea; sin modificación.

La Directiva (UE) 2024/2853 relativa a la responsabilidad por los productos defectuosos – norma de coordinación (el artículo 35, el apartado (5), de la ley): la responsabilidad objetiva instituida por la ley es un fundamento distinto, que no modifica el régimen armonizado de la responsabilidad por productos; en la medida en que la exclusión de la fuerza mayor por la falta de conocimiento científico entra en el ámbito de la Directiva, el Gobierno cumple las formalidades previstas en el artículo 18 de esta (la excepción relativa al riesgo de desarrollo).

La Directiva (UE) 2015/1535 relativa al procedimiento de información en materia de reglamentaciones técnicas y de reglas relativas a los servicios de la sociedad de la información, transpuesta mediante la Decisión del Gobierno n.º 1016/2004 – a verificar antes de la presentación: las disposiciones de los artículos 17 a 19, 38 y 39 de la ley, así como las normas metodológicas relativas al marcado técnico, son susceptibles de constituir «reglamentaciones relativas a los servicios» en el sentido de la Directiva, en cuyo caso el proyecto se notifica a la Comisión Europea en fase de proyecto, con observancia del período de statu quo; la nota relativa a las notificaciones europeas acompaña al proyecto.

El Código Civil (el artículo 1376), el Código Penal (el artículo 16, el apartado (4), el artículo 135), el Código de Procedimiento Penal (los artículos 36, 168 y 249), el Código de Procedimiento Civil (el procedimiento contencioso, el artículo 23, el apartado (2), y el artículo 26, el apartado (5), de la ley), la Ley n.º 182/2002, el Decreto-ley del Gobierno n.º 155/2024, la Ley n.º 240/2004 – normas de remisión, sin modificación.

En síntesis: 0 actos derogados, 1 acto completado en su texto (el Decreto-ley del Gobierno n.º 78/2016), 5 excepciones expresas (a 7 textos), 2 complementos de ámbito mediante norma de remisión (la Ley n.º 361/2022, la Ley n.º 365/2002), normas de coordinación con el derecho de la Unión en el artículo 1, el apartado (4), el artículo 9, el apartado (7), el artículo 17, el apartado (6), el artículo 18, el apartado (5), el artículo 19, los apartados (1) y (6), el artículo 27, el apartado (6), y el artículo 35, el apartado (5); 1 notificación europea a verificar (la Directiva (UE) 2015/1535). Las correlaciones con las formas consolidadas de los actos nacionales citados (los Códigos, las Leyes n.º 182/2002, 365/2002, 554/2004 y 361/2022, la Ordenanza del Gobierno n.º 2/2001, los Decretos-leyes del Gobierno n.º 22/2009, 78/2016 y 155/2024) se verifican sobre los textos consolidados antes de la presentación.

b) actos normativos que habrán de elaborarse como consecuencia de la aplicación de las nuevas disposiciones

Resolución del Parlamento para el nombramiento del vicepresidente de ANCOM para la seguridad de la inteligencia artificial y decisión del presidente de ANCOM, publicada en el Boletín Oficial, para la integración de la estructura organizativa y del reglamento de organización y funcionamiento con la Autoridad, incluida la organización de las estructuras distintas de evaluación, de investigación y de decisión sancionadora (el artículo 32, el apartado (2)); plazo: 60 días desde la publicación de la ley (el artículo 49, el apartado (1)).

Decisión del Gobierno para la aprobación de las Normas metodológicas de aplicación de la ley, adoptada a propuesta de la Autoridad, con el dictamen del Consejo científico y tras una consulta pública de al menos 30 días; plazo: 120 días desde la publicación de la ley (el artículo 49, el apartado (2)). Objeto: el procedimiento de notificación y de autorización; el procedimiento simplificado de reconocimiento de los sistemas puestos legalmente en explotación en otro Estado miembro (el artículo 9, el apartado (7)); los estándares de evaluación, de seguridad de los pesos y de capacidad de parada; las condiciones del entorno aislado (el artículo 15, el apartado (2)); los estándares del marcado de procedencia (el artículo 17); los métodos de evaluación y los niveles de significación de las capacidades críticas, dentro de los límites del artículo 5, el apartado (2), sin poder añadir otras categorías de resultados; el umbral de la infraestructura de cálculo de gran capacidad (el artículo 6, el apartado (4)); el importe de las tasas, establecido en relación con el coste del servicio; el importe del seguro o de la garantía financiera (el artículo 36); el procedimiento de verificación del personal con acceso a los pesos, con el dictamen de ORNISS (el artículo 12, el apartado (1)); el procedimiento de prueba de la capacidad de parada (el artículo 14, el apartado (1)); el nivel a partir del cual se constata la pérdida de la inteligibilidad de los registros (el artículo 16, el apartado (5)); la indemnización compensatoria del vicepresidente (el artículo 31, el apartado (3)). Las normas detallan el marco de la ley y no pueden establecer el contenido esencial de las obligaciones, de las prohibiciones y de las sanciones; los estándares se publican.

Orientaciones provisionales de la Autoridad, publicadas hasta la adopción de las normas metodológicas, efectuándose las evaluaciones durante ese intervalo conforme a los códigos de buenas prácticas adoptados en virtud del Reglamento de IA y a los métodos reconocidos científicamente (el artículo 49, el apartado (3)); posteriormente, los estándares de la Autoridad, con el dictamen del Consejo científico, dentro de los límites del artículo 32, el apartado (4).

Decisión del presidente de ANCOM relativa al nivel de remuneración del personal especializado de la Autoridad, sobre la base del estudio de mercado publicado (el artículo 33, el apartado (3)); el anuncio y el reglamento del concurso para el personal especializado (el artículo 33, los apartados (1) y (2)).

Resolución del Consejo Supremo de Defensa del País relativa a las adaptaciones aplicables a los sistemas del ámbito de la defensa y de la seguridad nacional (el artículo 23).

Acuerdos del Gobierno de ajuste periódico del umbral de cálculo, a propuesta de la Autoridad (el artículo 6, el apartado (2)).

La ley de aplicación del Reglamento (UE) 2024/1689, que el Gobierno está elaborando, deberá correlacionarse con la presente ley en lo relativo a la cooperación entre las autoridades designadas y la Autoridad (el artículo 31, el apartado (5)) y a la regla según la cual por el mismo hecho no pueden aplicarse dos sanciones en virtud de la ley y del Reglamento (el artículo 37, el apartado (5)).

c) El análisis de los paralelismos legislativos (el artículo 16 de la Ley n.º 24/2000)

Conforme al artículo 16, el apartado (1), de la Ley n.º 24/2000, «en el proceso de legiferación está prohibida la institución de las mismas regulaciones en varios artículos o apartados del mismo acto normativo o en dos o más actos normativos», y para poner de relieve las conexiones legislativas se utiliza la norma de remisión. Cada disposición del proyecto ha sido verificada en relación con la legislación en vigor, con los resultados sintetizados en el cuadro siguiente.

Sección 6.ª – Las consultas efectuadas para la elaboración del proyecto de acto normativo

Sección 7.ª – Actividades de información pública relativas a la elaboración y a la aplicación del proyecto de acto normativo

Sección 8.ª – Medidas de aplicación

En atención a lo expuesto, se ha elaborado la propuesta legislativa adjunta, que sometemos al Parlamento para su debate y adopción.

Iniciador,

NOTA DOCUMENTAL

Las fuentes tenidas en cuenta en la elaboración de la propuesta

1. El Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial, DO L, 12.7.2024 – en especial los artículos 2, 3, 5, 14, 51 a 56, 68, 72 y 73, 78, 87, 99 a 101 y el anexo XIII.

2a. Dario Amodei, «We Must Pace the Frontier», 12 de septiembre de 2026 (darioamodei.com); los relatos de VentureBeat, TechRadar, Newsweek y The Spokesman-Review del 12 de septiembre de 2026 relativos al ensayo, al incidente de Hugging Face y a las reacciones de Sam Altman y de Elon Musk; la entrevista de Sam Altman para Fortune (13 de septiembre de 2026), citada por Bloomberg y Business Standard.

2g. La República de Corea – «Framework Act on the Development of Artificial Intelligence and Establishment of Trust» (Ley marco relativa al desarrollo de la inteligencia artificial y a la instauración de la confianza), en vigor desde el 22 de enero de 2026: la obligación de etiquetado del contenido generado por la inteligencia artificial generativa, la obligación de información previa a los usuarios y la obligación de los proveedores extranjeros de designar un representante local para el cumplimiento; la traducción oficial al inglés publicada por el Center for Security and Emerging Technology, Georgetown University, https://cset.georgetown.edu/wp-content/uploads/t0625_south_korea_ai_law_EN.pdf; análisis: Future of Privacy Forum, https://fpf.org/blog/south-koreas-new-ai-framework-act-a-balancing-act-between-innovation-and-regulation/ ; Cooley LLP, 27 de enero de 2026, https://www.cooley.com/news/insight/2026/2026-01-27-south-koreas-ai-basic-act-overview-and-key-takeaways.

2h. El Reglamento (UE) 2024/1689, el artículo 50 (obligaciones de transparencia, aplicable desde el 2 de agosto de 2026) y el artículo 54 (el representante autorizado de los proveedores de modelos de uso general establecidos en terceros Estados); el Código de buenas prácticas de la Comisión Europea relativo a la transparencia del contenido generado por la inteligencia artificial (proyecto, 2026).

2f. Yoshua Bengio, entrevista concedida a la publicación The Guardian (Dan Milmo), 16 de septiembre de 2026, relativa a la proximidad de un momento de inflexión de la regulación, comparable al de la pandemia; la carta de 42 miembros y miembros extranjeros de la Royal Society del Reino Unido relativa a la «extrema preocupación» por el ritmo del desarrollo; el relato de Digi24 del 16 de septiembre de 2026, https://www.digi24.ro/stiri/sci-tech/lumea-digitala/nasul-inteligentei-artificiale-spune-ca-reglementarea-ai-se-apropie-de-un-punct-de-cotitura-similar-cu-cel-al-pandemiei-de-covid-3950743; Time, «The AI Tipping Point», 15 de septiembre de 2026, relativo a las propuestas legislativas en debate en el Congreso de los Estados Unidos.

2e. El debate público de septiembre de 2026: la dimisión pública del investigador Jacob Coxon (Anthropic), 8 de septiembre de 2026, y las reacciones de los responsables de los departamentos de alineación y de investigación de Anthropic y de OpenAI – los relatos de CBC News, Time (15 de septiembre de 2026), Forbes y Fortune (9 y 10 de septiembre de 2026); las posiciones expresadas en la conferencia anual de Salesforce de San Francisco, 15 de septiembre de 2026, por Sam Altman, Mark Zuckerberg, Jensen Huang, Jack Clark y Dario Amodei – los relatos de BBC News (16 de septiembre de 2026), The Irish Times, CNBC y Forbes.

2c. La cronología del incidente del verano del año 2026 (la evasión de los agentes del entorno de pruebas de OpenAI y el compromiso de la plataforma Hugging Face): Cloud Security Alliance, «The Great Sandbox Escape» (28 de julio de 2026), https://cloudsecurityalliance.org/blog/2026/07/28/openai-and-hugging-face-security-incident-inside-the-great-sandbox-escape; Malwarebytes Labs, «The AI agent swarm that attacked Hugging Face is a warning for the future» (agosto de 2026), https://www.malwarebytes.com/blog/ai/2026/08/the-ai-agent-swarm-that-attacked-hugging-face-is-a-warning-for-the-future; Axios, «OpenAI Hugging Face breach exposes AI agent security limits» (1 de septiembre de 2026), https://www.axios.com/2026/09/01/openai-hugging-face-ai-agent-security; TechCrunch, «OpenAI’s rogue agents keep escaping, with no formal process to investigate them» (4 de septiembre de 2026), https://techcrunch.com/2026/09/04/openais-rogue-agents-keep-escaping-with-no-formal-process-to-investigate-them/; Noma Security, «The Great (Sandbox) Escape» (2026), https://noma.security/blog/the-great-sandbox-escape-analyzing-the-openai-hugging-face-security-incident; la declaración conjunta OpenAI – Hugging Face del 21 de julio de 2026.

2d. Propuestas legislativas presentadas en el Congreso de los Estados Unidos de América como reacción al incidente: la «AI Kill Switch Act» (23 de julio de 2026) y la «Ban Artificial Superintelligence Act» (3 de septiembre de 2026); la carta abierta de más de 1.100 empleados de los laboratorios de vanguardia relativa a los mecanismos de moderación del ritmo de desarrollo (28 de julio de 2026).

2b. El senador Alex Antic (Senado de Australia), discurso parlamentario difundido públicamente en 2026 sobre la «prisión digital» (la economía de la suscripción, la identidad digital, el sometimiento como precio de la participación en la sociedad), https://www.facebook.com/reel/1059873890017722/.

2. CNN, «Amanpour», 2 de mayo de 2023 – entrevista con Geoffrey Hinton y Connor Leahy («We do not know how to control these things»; Hinton: la desaparición de la humanidad «no es inconcebible»; Leahy: «por desgracia, bastante probable»).

3. Center for AI Safety, «Statement on AI Risk», 30 de mayo de 2023; las declaraciones públicas de Geoffrey Hinton (BBC, diciembre de 2024; CBS, abril de 2025) relativas a la probabilidad del 10-20 % y a la comparación con el «cachorro de tigre»; «International AI Safety Report», enero de 2025 (coord. Y. Bengio); RAND Corporation, «Securing AI Model Weights», 2024; la carta «A Right to Warn about Advanced Artificial Intelligence», 4 de junio de 2024.

4. ANCOM, comunicado «El Reglamento de Inteligencia Artificial en Rumanía – el estado actual del marco de aplicación» (julio de 2026); la prensa especializada (Juridice.ro, Bursa.ro, agosto de 2026) relativa a la imposibilidad de sancionar hasta la adopción de la ley nacional.

5. California SB 53 – Transparency in Frontier Artificial Intelligence Act (29 de septiembre de 2025); la Orden ejecutiva de los EE. UU. n.º 14110 (30 de octubre de 2023, revocada en enero de 2025); las Medidas provisionales de la República Popular China relativas a los servicios de IA generativa (15 de agosto de 2023); el Convenio marco del Consejo de Europa sobre la inteligencia artificial (CETS n.º 225, 2024); la Resolución de la AG de la ONU 78/241 (22 de diciembre de 2023); el llamamiento conjunto del Secretario General de la ONU y del Comité Internacional de la Cruz Roja (5 de octubre de 2023).

6. La Ley n.º 24/2000 sobre las normas de técnica legislativa para la elaboración de los actos normativos, republicada, con las modificaciones y adiciones posteriores – en especial los artículos 6, 7, 13, 16, 30 y 31, 36 a 38, 40 a 56 y 63; la Decisión del Gobierno n.º 561/2009 para la aprobación del Reglamento relativo a los procedimientos, a nivel del Gobierno, para la elaboración, el informe y la presentación de los proyectos de documentos de políticas públicas, de los proyectos de actos normativos, así como de otros documentos, con vistas a su adopción o aprobación – el anexo n.º 1 (la estructura de la exposición de motivos).

7. La Constitución de Rumanía, republicada (los artículos 1, 22, 34, 53, 73, 75, 76, 78, 117, 119, 142 y 148); el Código Civil (los artículos 11, 25, 1246 a 1250 y 1376); el Código Penal (los artículos 8, 9 a 11, 21, 135, 275, 303, 345 y 395); el Código de Procedimiento Penal (los artículos 36, 168 y 249); la Ley n.º 111/1996; la Ley n.º 703/2001; la Ley n.º 182/2002; la Ley n.º 415/2002; la Ley n.º 240/2004; la Ley n.º 95/2006; la Ley n.º 190/2018; la Ley n.º 129/2019; la Ley n.º 361/2022; la Ley n.º 365/2002; la Ley marco n.º 153/2017; el Decreto-ley del Gobierno n.º 77/2009; la Ordenanza del Gobierno n.º 2/2001; el Decreto-ley del Gobierno n.º 27/2003; el Decreto-ley del Gobierno n.º 78/2016; el Decreto-ley del Gobierno n.º 155/2024; el Decreto-ley del Gobierno n.º 195/2005.

8. Jurisprudencia: TJUE, C-157/96, National Farmers' Union (1998); Tribunal General de la UE, T-13/99, Pfizer Animal Health (2002); TJUE, C-376/22, Google Ireland y otros, sentencia de 9 de noviembre de 2023, ECLI:EU:C:2023:835 (apartados 25 a 35); Tribunal Constitucional de Rumanía, Decisión n.º 51/2016 (la claridad y la previsibilidad de la ley).

9. El análisis jurídico independiente del proyecto (versión de 20 de septiembre de 2026), con las fuentes verificadas indicadas en este: el Reglamento (UE) 2024/1689 (texto consolidado, 27 de julio de 2026), el Reglamento (UE) 2022/2065 (el considerando 9, los artículos 14, 17 y 20), la Directiva 2000/31/CE (el artículo 3), la Directiva (UE) 2024/2853 (los artículos 2 y 3 y 18), la Directiva (UE) 2019/1937 (los artículos 6, 15 y 21), la Directiva (UE) 2015/1535 y la Decisión del Gobierno n.º 1016/2004, la Ley n.º 120/2018 de aprobación del Decreto-ley del Gobierno n.º 78/2016.