La aprobación definitiva por el Consejo de la Unión Europea del denominado Omnibus VII constituye probablemente el cambio más relevante en la implementación del Reglamento Europeo de Inteligencia Artificial (AI Act) desde su adopción. Lejos de representar una marcha atrás en la regulación de la inteligencia artificial, la reforma evidencia que el legislador europeo ha asumido una realidad incontestable: regular una tecnología que evoluciona exponencialmente exige también que el propio Derecho sea capaz de adaptarse con rapidez. Durante los últimos meses muchas empresas habían expresado una preocupación legítima. No cuestionaban la necesidad de regular la inteligencia artificial, sino la enorme complejidad práctica de implantar determinadas obligaciones en los plazos inicialmente previstos. El riesgo era evidente: una regulación excesivamente rígida podía terminar penalizando precisamente a quienes pretendía proteger, frenando la innovación europea frente a mercados mucho más ágiles como Estados Unidos o determinadas jurisdicciones asiáticas. Con esta reforma, las instituciones europeas parecen reconocer que la seguridad jurídica no depende únicamente de imponer obligaciones, sino también de hacerlas materialmente cumplibles. (Consilium⁠) La principal modificación afecta al calendario de aplicación de los sistemas de inteligencia artificial de alto riesgo. Las obligaciones previstas para agosto de 2026 se aplazan hasta diciembre de 2027 para los sistemas autónomos y hasta agosto de 2028 para aquellos integrados en productos regulados sectorialmente. Desde una perspectiva jurídica, este retraso no supone una rebaja del nivel de protección, sino una medida de prudencia regulatoria. Resulta difícil exigir evaluaciones de conformidad, gobernanza documental, supervisión humana o sistemas de gestión del riesgo cuando todavía numerosos estándares técnicos europeos continúan desarrollándose. Obligar al cumplimiento sin disponer de los instrumentos necesarios habría incrementado exponencialmente la inseguridad jurídica y la litigiosidad futura. (Consilium⁠) Igualmente relevante resulta la clarificación competencial introducida respecto del AI Office y de las autoridades nacionales. La coexistencia entre supervisión europea y supervisión estatal había generado numerosas dudas interpretativas, especialmente en relación con los modelos de propósito general (General Purpose AI). El nuevo texto delimita con mayor precisión cuándo corresponde intervenir a la autoridad europea y cuándo permanecen competentes las autoridades nacionales, especialmente en ámbitos especialmente sensibles como la administración de justicia, las fuerzas y cuerpos de seguridad, la gestión de fronteras o determinados sectores financieros. Esta precisión competencial constituye un elemento esencial del principio de seguridad jurídica y reducirá previsiblemente conflictos de interpretación entre autoridades supervisoras. (Consilium⁠) Sin embargo, la simplificación regulatoria no implica una relajación en aquellos ámbitos donde están en juego derechos fundamentales. De hecho, la reforma incorpora nuevas prohibiciones expresas frente a determinadas prácticas particularmente lesivas, como la generación mediante inteligencia artificial de imágenes íntimas no consentidas —los conocidos sexual deepfakes— o de material relacionado con abuso sexual infantil. El mensaje político resulta claro: Europa puede flexibilizar aspectos procedimentales o temporales, pero mantiene una posición de absoluta firmeza cuando la inteligencia artificial se utiliza como instrumento de vulneración de la dignidad, la intimidad o la protección de los menores. (Consilium⁠) También merece atención la decisión de posponer la creación obligatoria de los regulatory sandboxes nacionales. Aunque estos entornos de prueba representan una herramienta extraordinariamente útil para fomentar la innovación responsable, la experiencia demuestra que muchos Estados miembros todavía no disponían de la estructura administrativa ni de los recursos necesarios para ponerlos en funcionamiento con garantías. Desde un punto de vista práctico, resulta preferible retrasar su implantación unos meses antes que crear mecanismos meramente formales incapaces de ofrecer verdadera seguridad a empresas y desarrolladores. (Consilium⁠) Como jurista especializado en regulación tecnológica considero que esta reforma transmite una enseñanza especialmente relevante: la calidad de una norma no debe medirse por el número de obligaciones que impone, sino por su capacidad para generar confianza, previsibilidad y cumplimiento efectivo. El éxito del AI Act nunca dependerá exclusivamente del importe de las sanciones ni de la complejidad de sus requisitos documentales. Su verdadera eficacia residirá en que empresas, administraciones públicas y desarrolladores comprendan qué deben hacer, cuándo deben hacerlo y cómo pueden demostrarlo ante las autoridades competentes. Europa continúa apostando decididamente por un modelo de inteligencia artificial basado en el riesgo y en la protección de los derechos fundamentales. Esa filosofía permanece intacta. Lo que cambia ahora es la forma de alcanzar ese objetivo: menos incertidumbre regulatoria, mayor coordinación institucional y una implementación más realista para quienes deberán aplicar la norma en el día a día. En mi opinión, esta decisión representa una evolución inteligente del Derecho europeo. La regulación de la inteligencia artificial no puede convertirse en un obstáculo para la innovación, pero tampoco puede renunciar a proteger a las personas frente a tecnologías con un enorme potencial de impacto. El verdadero equilibrio consiste precisamente en eso: ofrecer reglas claras, aplicables y proporcionadas que permitan innovar con confianza. Si el AI Act aspira a convertirse en el estándar regulatorio mundial, este ejercicio de autocrítica legislativa constituye, probablemente, uno de sus mayores aciertos. Por favor, deja este campo vacíoNo te pierdas nada. ¡Suscríbete ahora! Nombre Correo electrónico * Acepto la política de privacidad del sitio www.miguelortego.com Acepto la política de privacidad del sitio www.miguelortego.com Los datos personales facilitados serán tratados por Ortego Legal, S.L.P. (responsable del tratamiento) con la finalidad de remitir comunicaciones periódicas relativas a contenidos del blog, novedades jurídicas y otra información que pueda resultar de interés profesional, así como para el envío de comunicaciones por correo electrónico vinculadas a dichas materias. La base jurídica del tratamiento es el interés legítimo del responsable (art. 6.1.f) RGPD) en mantener informados a sus contactos dentro de su ámbito de actividad. Los datos no serán utilizados para finalidades distintas de las indicadas, si bien podrán ser comunicados a terceros colaboradores o proveedores que participen en estas mismas actividades informativas y de comunicación. En todo caso, el interesado podrá darse de baja en cualquier momento enviando un correo electrónico a la dirección indicada de contacto de Ortego Legal o mediante cualquier otro medio válido en Derecho que permita dejar constancia de su voluntad. Revisa tu bandeja de entrada o la carpeta de spam para confirmar tu suscripción.

La inteligencia artificial ha dejado de ser una tecnología reservada a perfiles técnicos. Hoy constituye una infraestructura cognitiva que condiciona la forma en que estudiamos, trabajamos, investigamos y tomamos decisiones. En consecuencia, la cuestión ya no es si debemos enseñar inteligencia artificial, sino qué significa realmente que una persona sea competente para utilizarla de forma crítica, responsable y jurídicamente adecuada. En este contexto resulta especialmente interesante el AI Literacy Framework, una iniciativa internacional que propone un marco sistemático para desarrollar competencias en inteligencia artificial dentro del ámbito educativo. Aunque está concebido principalmente para educación primaria y secundaria, muchas de sus conclusiones trascienden ese ámbito y resultan extraordinariamente útiles para la universidad y, de forma muy particular, para las Facultades de Derecho.   Mucho más que aprender a utilizar ChatGPT Uno de los mayores errores actuales consiste en identificar la alfabetización en IA con la mera capacidad de redactar buenos prompts o manejar herramientas generativas. Esa visión resulta profundamente insuficiente. La auténtica alfabetización en inteligencia artificial implica comprender qué son estos sistemas, cuáles son sus limitaciones, cómo producen sus respuestas, qué riesgos generan y cuáles son las responsabilidades derivadas de su utilización. En otras palabras, no se trata únicamente de saber usar la IA, sino de saber cuándo utilizarla, cuándo desconfiar de ella y cuándo resulta jurídicamente inaceptable apoyarse en sus resultados. Precisamente esa es una de las ideas centrales del AI Literacy Framework: el aprendizaje debe combinar competencias técnicas con pensamiento crítico, razonamiento ético, evaluación de riesgos y comprensión del impacto social de la inteligencia artificial.   La conexión con el Reglamento Europeo de Inteligencia Artificial Desde una perspectiva jurídica, el interés del marco adquiere una dimensión adicional. El Reglamento (UE) 2024/1689 sobre Inteligencia Artificial no se limita a regular sistemas de alto riesgo o imponer obligaciones técnicas a desarrolladores y proveedores. Su filosofía regulatoria parte de una premisa mucho más amplia: la confianza en la inteligencia artificial depende, también, de que quienes la utilizan dispongan de una formación adecuada. En consecuencia, la alfabetización en IA deja de ser únicamente una cuestión educativa para convertirse progresivamente en un elemento esencial de la gobernanza tecnológica y del cumplimiento normativo. Las organizaciones deberán acreditar no sólo que utilizan sistemas conformes al AI Act, sino también que las personas que interactúan con ellos comprenden razonablemente sus capacidades, limitaciones y riesgos.   ¿Qué significa esto para las Facultades de Derecho? Durante décadas las Facultades de Derecho han formado excelentes juristas en interpretación normativa, argumentación y razonamiento jurídico. Sin embargo, el ejercicio profesional está cambiando con enorme rapidez. Los abogados utilizan ya sistemas de IA para: Pero esa utilización plantea riesgos muy relevantes. Las conocidas “alucinaciones” de los grandes modelos de lenguaje han provocado ya la presentación de escritos judiciales con jurisprudencia inexistente, errores de interpretación normativa y citas completamente inventadas. Por ello, el verdadero profesional no será quien más utilice la IA, sino quien mejor sea capaz de supervisarla. La supervisión crítica constituye la nueva competencia profesional imprescindible. Diversos programas universitarios internacionales comienzan precisamente a incorporar cursos específicos de AI Literacy para juristas, entendiendo que esta competencia pasa a formar parte del núcleo de la formación jurídica contemporánea.   Cinco competencias que todo jurista debería desarrollar Desde una perspectiva jurídica, una alfabetización sólida en inteligencia artificial debería incluir, al menos, cinco grandes bloques competenciales: 1. Comprensión tecnológica básica No es necesario programar modelos, pero sí comprender cómo funcionan los sistemas generativos, cuáles son sus fuentes de error y por qué pueden producir respuestas incorrectas con enorme apariencia de veracidad. 2. Evaluación crítica Aceptar automáticamente una respuesta generada por IA resulta incompatible con el deber profesional de diligencia. Todo resultado debe verificarse, contrastarse y contextualizarse jurídicamente. 3. Gobernanza y cumplimiento El conocimiento del AI Act, del RGPD, de la propiedad intelectual, de la responsabilidad civil y de las obligaciones de transparencia será cada vez más importante para cualquier profesional del Derecho. 4. Ética profesional La utilización de IA afecta al secreto profesional, la confidencialidad, la independencia del abogado, la protección de datos y la calidad del asesoramiento jurídico. La tecnología no elimina estas obligaciones; las intensifica. 5. Juicio humano La inteligencia artificial puede asistir el razonamiento. Nunca debe sustituirlo. La responsabilidad jurídica continúa siendo exclusivamente humana. La alfabetización en IA como competencia transversal Uno de los aspectos más interesantes del AI Literacy Framework consiste en que no concibe la inteligencia artificial como una asignatura independiente. La entiende como una competencia transversal que debe integrarse progresivamente en todas las disciplinas. Este enfoque coincide con las tendencias más recientes en educación superior. No basta con impartir un curso aislado sobre IA. Es necesario incorporar estas competencias dentro de asignaturas tradicionales, adaptando metodologías docentes, evaluación y aprendizaje práctico para que el estudiante aprenda a trabajar con IA sin renunciar al pensamiento crítico ni al rigor científico.   En suma, la alfabetización en inteligencia artificial representa uno de los mayores desafíos educativos de nuestra generación. No consiste en aprender a utilizar una nueva herramienta informática, sino en desarrollar una nueva forma de ejercer el pensamiento crítico en un entorno donde la producción automatizada de conocimiento será cada vez más frecuente. Para los juristas, esta transformación reviste una importancia singular. El Derecho seguirá descansando sobre principios como la motivación, la prueba, la argumentación y la responsabilidad. Ninguno de ellos puede delegarse en un modelo algorítmico. La inteligencia artificial será una extraordinaria herramienta para el ejercicio profesional, pero únicamente si quienes la utilizan poseen la competencia suficiente para comprender sus límites. En definitiva, la verdadera alfabetización en IA no consiste en confiar en la inteligencia artificial, sino en aprender a ejercer mejor el juicio humano cuando trabajamos con ella. Ese será, probablemente, uno de los rasgos distintivos del jurista del siglo XXI.

La inteligencia artificial está entrando silenciosamente en uno de los espacios más sensibles de nuestra vida privada: la consulta de salud mental. Durante los últimos años hemos asistido a una rápida incorporación de herramientas de IA en hospitales, clínicas y consultas médicas. En muchos casos, estas tecnologías prometen reducir la carga administrativa de los profesionales sanitarios, permitiéndoles dedicar más tiempo a la atención de los pacientes. Sin embargo, una reciente investigación periodística ha puesto de manifiesto una realidad que probablemente muchos pacientes desconocen: algunas de estas herramientas funcionan grabando íntegramente las conversaciones mantenidas durante las sesiones clínicas, incluidas las consultas psicológicas y psiquiátricas más íntimas. La tecnología recibe nombres aparentemente inocuos como “ambient listening” o “ambient documentation”. La promesa es atractiva. En lugar de que el médico o terapeuta tome notas durante la consulta, un sistema de inteligencia artificial escucha la conversación, la transcribe y genera automáticamente la documentación clínica necesaria. Desde una perspectiva operativa, la eficiencia es evidente. Desde una perspectiva jurídica y ética, las preguntas son mucho más complejas. La cuestión fundamental no es únicamente que la conversación se grabe. El verdadero problema es que muchos pacientes desconocen qué ocurre después con esa información. Según la investigación publicada por The Markup, diversos profesionales de salud mental manifestaron no haber recibido explicaciones claras sobre dónde se almacenan las grabaciones, cuánto tiempo permanecen conservadas, quién puede acceder a ellas o si pueden utilizarse posteriormente para el entrenamiento y mejora de sistemas de inteligencia artificial. Algunos profesionales incluso señalaron que ellos mismos carecen de respuestas precisas a estas preguntas pese a haberlas formulado a sus organizaciones sanitarias. Desde la perspectiva europea, la situación resulta especialmente delicada. Los datos relativos a la salud constituyen una categoría especial de datos personales conforme al artículo 9 del Reglamento General de Protección de Datos. Cuando hablamos de salud mental, además, nos encontramos probablemente ante uno de los ámbitos de máxima sensibilidad imaginable. Una sesión psicológica puede contener información sobre traumas, adicciones, ideación suicida, relaciones familiares, antecedentes de violencia, orientación sexual, creencias personales o situaciones de extrema vulnerabilidad emocional. En términos de privacidad, pocas categorías de información merecen un nivel de protección más elevado. Por ello, cualquier tratamiento basado en grabaciones sistemáticas exige responder previamente a una serie de preguntas esenciales. ¿Es realmente necesaria la grabación completa para alcanzar la finalidad perseguida? ¿Se ha informado adecuadamente al paciente? ¿Existe una alternativa menos intrusiva? ¿Cuál es la base jurídica que legitima el tratamiento? ¿Qué medidas de seguridad se han implantado? ¿Se realiza una evaluación de impacto? ¿Quién accede a las grabaciones y durante cuánto tiempo? Estas cuestiones no son meros formalismos burocráticos; constituyen el núcleo mismo del principio de responsabilidad proactiva que inspira el RGPD. Existe además un elemento adicional que rara vez aparece en los debates tecnológicos: la confianza terapéutica. La relación entre paciente y profesional de salud mental depende en gran medida de la capacidad del primero para expresarse con absoluta libertad. La mera percepción de estar siendo grabado puede alterar esa dinámica. Algunos pacientes pueden mostrarse más cautelosos, omitir determinados detalles o evitar conversaciones especialmente sensibles por temor a la existencia futura de registros permanentes. Desde una perspectiva clínica, este fenómeno no es menor. La eficacia de muchos tratamientos psicológicos depende precisamente de la sinceridad y profundidad de las conversaciones mantenidas durante las sesiones. La cuestión tampoco se limita a la privacidad individual. Estamos asistiendo a una transformación estructural de los datos sanitarios en activos tecnológicos de enorme valor económico. Los grandes modelos de inteligencia artificial necesitan cantidades masivas de información para mejorar su rendimiento. Los datos médicos, especialmente aquellos que reflejan interacciones humanas complejas, poseen un valor extraordinario para el entrenamiento de futuros sistemas. Precisamente por ello resulta imprescindible garantizar que cualquier utilización secundaria de estos datos se encuentre claramente delimitada, justificada y sometida a mecanismos efectivos de control. Como profesor de Derecho Digital suelo recordar que la protección de datos no consiste en impedir el uso de nuevas tecnologías. La innovación tecnológica y la privacidad no son conceptos incompatibles. Lo que exige el Derecho es que la innovación se construya sobre principios de transparencia, proporcionalidad y respeto a los derechos fundamentales. La inteligencia artificial puede aportar enormes beneficios a la práctica clínica. Puede reducir tareas administrativas, mejorar la calidad de la documentación médica e incluso ayudar a detectar riesgos que podrían pasar desapercibidos. Pero precisamente porque los beneficios potenciales son tan relevantes, resulta aún más importante que su implantación se realice con las máximas garantías. La historia reciente demuestra que los mayores problemas regulatorios no suelen surgir cuando una tecnología fracasa, sino cuando tiene éxito antes de que existan mecanismos adecuados de supervisión. La pregunta, por tanto, no es si la inteligencia artificial debe utilizarse en la atención sanitaria. La pregunta es si los pacientes conocen realmente cuándo está escuchando, qué está escuchando y qué ocurrirá después con aquello que han decidido confiar a su médico o a su terapeuta. Y cuando hablamos de salud mental, esa diferencia importa más que nunca.