Lectura
Índice completo

PARTE XLIV · Ética aplicada: responsabilidades en sistemas reales

481

Ética de la tecnología y la inteligencia artificial

Una tecnología se justifica por sus efectos y por la posibilidad real de comprender, cuestionar y corregir su uso

Capítulo 481 · 529 capítulos publicados

En este capítulo

Ejemplo construido. Una entidad considera adquirir una herramienta que ordena solicitudes para que el personal revise primero algunos casos. La demostración del proveedor parece convincente y la herramienta promete ahorrar tiempo. Pero todavía no está decidido qué significa «prioridad», qué errores serían aceptables, quién podría corregir una clasificación ni qué ocurriría si la herramienta falla. La tecnología no llega a una decisión ya formada: forma parte del proceso que la define y la ejecuta.

La pregunta ética, por tanto, no se limita a si el sistema funciona según sus especificaciones. También pregunta qué propósito persigue, quién se beneficia, quién soporta sus errores y qué capacidad tienen las personas afectadas para obtener razones, disentir y conseguir una corrección. En el caso de la herramienta de solicitudes, ordenar más deprisa podría ser útil; no bastaría si el orden propuesto invisibiliza necesidades urgentes o si nadie puede revisar un resultado equivocado.

El capítulo 478 presentó la deliberación moral como una manera de hacer visibles hechos, incertidumbres, valores y conflictos, sin reducirlos a una puntuación única. Aquí esa deliberación se aplica a tecnologías concretas y a las instituciones que las eligen y usan. La pregunta guía es: ¿cuándo es justificable diseñar y desplegar una tecnología —en particular, un sistema de inteligencia artificial— si los beneficios y los riesgos se distribuyen de manera desigual, los efectos son inciertos y las personas afectadas tienen poco poder para cuestionar una decisión?

El análisis se centra en el ciclo institucional: definir el propósito, diseñar o adquirir el sistema, probarlo en su contexto, decidir quién puede intervenir, observar sus efectos y corregirlo, sustituirlo o retirarlo. No vuelve a explicar cómo funcionan los modelos, la generación de contenido o la automatización; esos mecanismos y límites corresponden a los capítulos 464–470. Tampoco convierte la privacidad o las plataformas en su eje, cuestiones reservadas al capítulo 482. El foco está en la justificación del uso, la distribución de efectos y la responsabilidad por las decisiones.

481.1. Diseño, efectos y responsabilidad#

El propósito de una tecnología rara vez queda completo en su especificación. «Acelerar la revisión» puede significar reducir demoras, trabajo repetitivo o atender primero los casos de mayor necesidad; son fines que requieren criterios distintos. La organización debe precisar qué problema quiere resolver, quién lo identificó y qué resultado mostraría una mejora para las personas afectadas y para quien compra el sistema.

La elección de qué medir influye en el resultado. Optimizar el tiempo medio podría dejar sin resolver los casos difíciles; medir sólo la aceptación del personal podría confundir acuerdo con corrección. Una métrica describe una dimensión bajo un protocolo, pero no determina si esa dimensión es adecuada ni valida el uso completo (capítulo 468).

El efecto no reside sólo en un algoritmo o dispositivo: depende también de la tarea, los datos, los umbrales, la interfaz, las reglas, las competencias y las vías de revisión. Una herramienta puede producir resultados distintos en otra institución; un error también puede surgir al convertir una recomendación en decisión, aunque el modelo cumpla su tarea técnica.

La deliberación debe abarcar alternativas reales: mejorar el proceso, rediseñarlo, probar a pequeña escala, usar una regla sencilla, mantener la decisión humana o no implantar el sistema. La comparación identifica qué problema atiende cada opción y quién asume sus costes. No automatizar tampoco es siempre más seguro o equitativo: el proceso actual puede imponer demoras, errores o cargas evitables. Hay que comparar opciones concretas.

La responsabilidad debe seguir a la capacidad de decidir y actuar. En un ciclo tecnológico participan quienes fijan el objetivo, seleccionan datos o criterios, desarrollan o venden el sistema, lo compran, lo integran, lo operan y deciden cómo responder a las objeciones. Que muchas personas contribuyan no significa que nadie sea responsable. La institución que adopta una herramienta conserva responsabilidades por el propósito y las condiciones de su uso; un operador individual no puede cargar con una decisión que no tenía autoridad ni información para cambiar.

Esto importa tanto al diseñar como al adquirir. Antes de una compra, la organización necesita entender qué tarea se asignaría al sistema, cuáles son sus límites conocidos, qué evidencia respalda su uso en el contexto previsto y qué recursos harían falta para revisarlo. Una garantía comercial, una certificación o un informe de evaluación pueden aportar información, pero no sustituyen ese juicio. La evaluación de un componente no demuestra que el proceso institucional sea justificable ni que exista una solución efectiva cuando falla.

Los principios y los procedimientos de gobernanza ayudan a organizar estas preguntas, pero tienen distinto estatus. La Recomendación de la UNESCO sobre la Ética de la Inteligencia Artificial, adoptada el 23 de noviembre de 2021, propone orientaciones sobre derechos, impacto, seguimiento y reparación durante el ciclo de vida. Es una recomendación internacional no vinculante por sí misma; no es una ley que imponga la misma obligación jurídica a todas las organizaciones. La Recomendación de la OCDE sobre inteligencia artificial, adoptada en 2019 y revisada en 2023 y 2024, también es una recomendación dirigida a sus adherentes, no una ley universal. Ambas ofrecen principios para orientar decisiones y políticas, no un algoritmo para decidir qué uso es justo en cada caso. (UNESCO, Recomendación sobre la ética de la inteligencia artificial; OCDE, OECD/LEGAL/0449)

La Unión Europea ofrece un ejemplo de marco legal regional distinto de esas recomendaciones. El Reglamento (UE) 2024/1689 —modificado por el Reglamento (UE) 2026/1744— establece obligaciones para determinados actores y usos dentro de su ámbito. Está en vigor y, conforme al texto consolidado al 27 de julio de 2026, su aplicación general comienza el 2 de agosto de 2026. Sin embargo, varias obligaciones para sistemas de alto riesgo del capítulo III, incluidas las secciones sobre evaluación y obligaciones de operadores, se aplazan al 2 de diciembre de 2027 para sistemas comprendidos en el anexo III y al 2 de agosto de 2028 para ciertos sistemas vinculados al anexo I. Por ello, no se debe inferir que todas las obligaciones de alto riesgo ya se aplican en octubre de 2026. Tampoco se debe presentar el Reglamento como una norma universal: su alcance depende de la jurisdicción y de las funciones concretas de cada actor. (Reglamento (UE) 2024/1689, texto consolidado al 27 de julio de 2026, artículo 113; Reglamento (UE) 2026/1744)

Un marco legal puede establecer prohibiciones, deberes o procedimientos exigibles en su ámbito. No resuelve todas las preguntas éticas ni elimina la responsabilidad por usos que queden fuera de una categoría regulada. A la inversa, un principio ético puede servir para juzgar decisiones aun cuando no constituya una obligación legal. Mantener esta diferencia evita dos errores: tratar una recomendación como si fuera una ley y suponer que cumplir la ley agota toda responsabilidad moral.

481.2. Sesgos, distribución de daños y acceso#

Una mejora promedio puede convivir con una carga mayor para un grupo, una localidad o una clase de casos. Saber si ocurre exige datos adecuados sobre la tarea y la población, además de una comparación pertinente. Una diferencia observada puede señalar una desigualdad importante, pero por sí sola no explica su causa. Una métrica promedio puede ocultar una diferencia; una diferencia aislada tampoco basta para atribuirla al sistema sin examinar cómo se produjo.

En el ejemplo construido, supóngase que el ordenamiento reduce la demora media. La institución todavía tendría que averiguar qué solicitudes esperan más, si los casos que requieren documentación adicional se quedan repetidamente al final de la fila y si quienes tienen menos acceso a ayuda reciben resultados distintos. Estas son preguntas de evaluación, no afirmaciones sobre un sistema real. Para responderlas hacen falta medidas que correspondan a cada pregunta, condiciones comparables y una comprensión del proceso: quién logra presentar una solicitud completa, qué casos pasan a revisión y dónde se producen las demoras.

No existe una única métrica que equivalga a «justicia». Medidas distintas pueden capturar falsos rechazos, errores entre grupos, demora o distribución de beneficios. Elegir entre ellas requiere justificar qué daño se intenta reducir y qué diferencias importan para la decisión. Contar resultados no basta si las categorías empleadas no representan el problema o si los registros son incompletos. Tampoco una diferencia estadística explica automáticamente si la fuente está en el sistema, en una regla institucional previa o en la interacción entre ambos.

La distribución importa en el acceso, además de en los errores. Una tecnología puede ampliar el servicio para algunas personas y hacerlo más difícil para otras si requiere conectividad, idioma, formato o conocimientos que no están disponibles por igual. La opción de acudir a una vía alternativa sólo es significativa si puede utilizarse sin penalización indebida y con tiempos razonables. Si se mantienen dos canales, la institución debe comprobar que el segundo no se convierte en una fila más lenta para quienes no pueden o no quieren usar el primero.

La justicia también se refiere a quién recibe los beneficios y quién asume los costes. Una herramienta que ahorra tiempo al personal puede trasladar tareas de verificación a las personas solicitantes; una nueva capacidad institucional puede beneficiar a la mayoría mientras expone a una minoría a errores más difíciles de corregir. No basta con sumar efectos positivos y negativos: hay que hacer visible su distribución, severidad, duración y reversibilidad. Una carga concentrada puede requerir una salvaguarda, una alternativa o una razón especialmente sólida.

Esto no significa que toda diferencia de resultados sea injusta ni que toda diferencia de trato sea ilegítima. A veces, ofrecer apoyo diferente es precisamente lo necesario para que las personas puedan acceder en condiciones comparables. La pregunta práctica es si la diferencia responde a una necesidad pertinente, si puede justificarse ante quienes la soportan y si existen medidas menos lesivas que mantengan el propósito. Esa evaluación debe distinguir observaciones, inferencias y juicios normativos, como propone el capítulo 478.

La participación puede revelar efectos que las métricas no captan: dificultades para entender un aviso, costes de disputar una decisión, temor a perder un servicio o un modo de fallo que sólo aparece en la práctica cotidiana. Escuchar a las personas afectadas no sustituye la medición ni garantiza que una política sea justa. Pero una revisión diseñada sin quienes viven sus consecuencias puede definir mal la tarea y omitir cargas importantes. Para que la participación informe la decisión, hace falta comunicar qué se está evaluando, registrar objeciones y explicar qué se hizo con ellas.

El acceso a la evidencia y a la posibilidad de impugnar también forma parte de la distribución del poder. Quien recibe un resultado desfavorable puede no saber qué institución lo produjo, qué parte del proceso puede corregirse o cómo aportar información que cambie la decisión. Una vía de recurso que existe sólo en un formulario inaccesible, o que nadie tiene autoridad para resolver, no ofrece una capacidad real de revisión. El acceso no se evalúa únicamente por cuántas personas utilizan una herramienta, sino por si pueden comprender el proceso relevante, obtener respuesta y buscar una alternativa cuando proceda.

481.3. Transparencia, explicación y posibilidad de impugnar decisiones#

«Transparencia» puede referirse a distintas cosas: declarar que se usa una tecnología, describir su propósito, informar sobre sus límites, documentar cómo se obtuvo una salida o permitir la revisión de una decisión. Ninguna de estas acciones garantiza por sí sola que una persona entienda qué ocurrió. Publicar documentación técnica puede servir a especialistas y ser inútil para alguien que necesita saber por qué se rechazó su solicitud.

Conviene distinguir tres capacidades. La transparencia hace visible información pertinente sobre el sistema y su uso. Una explicación conecta una decisión concreta con sus razones relevantes en un lenguaje comprensible para la persona afectada. La impugnación permite cuestionar esas razones, aportar información y obtener una revisión capaz de cambiar el resultado. Están relacionadas, pero no son intercambiables: explicar no prueba que una decisión sea correcta; documentarla no asegura que pueda corregirse.

La explicación adecuada depende de la decisión y de su audiencia. Un equipo técnico puede necesitar el historial de versiones y pruebas de desempeño. Una autoridad de supervisión puede necesitar evidencia sobre el proceso y las responsabilidades. Una persona afectada necesita una explicación útil para saber qué decisión se tomó, quién la tomó, qué información relevante se consideró y cómo presentar una objeción. No toda información técnica ayuda a esa finalidad, y un detalle puede confundir si no se traduce en razones que puedan examinarse.

Para que la impugnación tenga efecto, el procedimiento debe identificar una autoridad responsable, definir qué información puede aportarse, ofrecer un plazo y un canal practicables y permitir una revisión independiente de la recomendación inicial cuando la situación lo requiera. También debe prever qué ocurre si el registro está incompleto o si la persona no puede utilizar el canal ordinario. El diseño de la herramienta y el del recurso pertenecen al mismo proceso institucional: si sólo se diseña el camino de entrada, los errores pueden quedar atrapados dentro del sistema.

Una explicación generada o una puntuación de «confianza» tampoco resuelven automáticamente el problema. Puede presentar una justificación plausible que no refleje el motivo operativo de la decisión, o expresar con precisión qué regla se activó sin mostrar si la regla era pertinente. El capítulo 466 distingue generar una respuesta de verificar que una afirmación esté respaldada; aquí importa una distinción equivalente: ofrecer una explicación no equivale a probar su fidelidad ni a demostrar justicia. La explicación debe evaluarse con quienes la usarán y frente a lo que realmente pueden revisar.

La legislación establece obligaciones diferentes según jurisdicción, categoría y fecha. En la Unión Europea, el artículo 13 del Reglamento de IA trata la transparencia operativa y las instrucciones que permiten a quienes despliegan ciertos sistemas de alto riesgo interpretar sus resultados y usarlos adecuadamente; no crea por sí solo un derecho general de explicación individual. Como parte de la sección 2 del capítulo III, se aplica desde el 2 de diciembre de 2027 a los sistemas clasificados de alto riesgo conforme al artículo 6, apartado 2, y el anexo III, y desde el 2 de agosto de 2028 a los clasificados conforme al artículo 6, apartado 1, y el anexo I. El artículo 27, en la sección 3, requiere una evaluación del impacto en derechos fundamentales antes del despliegue, pero solo para determinados organismos públicos, entidades privadas que prestan servicios públicos y desplegadores de sistemas incluidos en los puntos 5(b) y (c) del anexo III; excluye los sistemas del punto 2 de ese anexo. Su obligación se aplica a esos supuestos desde el 2 de diciembre de 2027, no a sistemas del anexo I. La explicación individual se regula por separado en el artículo 86: bajo condiciones y excepciones concretas, una persona afectada por una decisión del desplegador basada en un sistema de alto riesgo del anexo III —con la excepción allí indicada— puede pedir una explicación clara y significativa del papel del sistema y de los elementos principales de la decisión: a) cuando esta produzca efectos jurídicos para esa persona; o b) cuando la afecte de modo similar y significativo y esa persona considere que el efecto perjudica su salud, seguridad o derechos fundamentales. El artículo 86 queda fuera de las secciones cuyo calendario se aplazó y se sujeta a la fecha general de aplicación del Reglamento, el 2 de agosto de 2026; para un caso concreto también deben comprobarse la clasificación del sistema y las excepciones del propio artículo. El Reglamento define obligaciones legales en su ámbito, no una medida universal de justicia. (Reglamento (UE) 2024/1689, artículos 13, 27, 86 y 113, texto consolidado al 27 de julio de 2026)

La Convención Marco del Consejo de Europa sobre Inteligencia Artificial y Derechos Humanos, Democracia y Estado de Derecho es un tratado, no una recomendación. Fue adoptada el 17 de mayo de 2024 y abierta a firma el 5 de septiembre de ese año. Según el registro oficial consultado, con estado al 12 de septiembre de 2026, todavía no había alcanzado el umbral requerido para entrar en vigor: cinco ratificaciones, de las cuales al menos tres deben corresponder a Estados miembros del Consejo de Europa. Sus disposiciones sustantivas obligarán a las partes para las que entre en vigor conforme a sus términos; la firma, antes de la entrada en vigor, puede producir el deber limitado de no frustrar el objeto y fin del tratado mientras el Estado no haya manifestado su intención de no llegar a ser parte. Ni la firma equivale a la aplicación íntegra del tratado ni su existencia lo convierte en ley universal vigente. (Consejo de Europa, CETS 225, estado de firmas y ratificaciones; Naciones Unidas, Final Clauses of Multilateral Treaties, sección sobre firma)

481.4. Supervisión humana y delegación#

Que una persona figure como revisora no demuestra por sí mismo que haya ejercido control ni justifica delegar la decisión. La institución debe delimitar qué puede decidir el sistema y quién conserva autoridad para rechazar, corregir o detener su resultado. Una firma que no puede cambiar nada no es una salvaguarda; tampoco permite trasladar a quien revisa una responsabilidad que corresponde a quienes fijaron el propósito, contrataron o gobiernan el uso.

El capítulo 470.2 desarrolla las condiciones operativas de la supervisión —contexto, información, tiempo, competencias, escalamiento e interfaz—. Aquí importa su consecuencia ética: la autoridad y los recursos de quien revisa deben guardar relación con la importancia del daño posible y la reversibilidad de la decisión. Si el resultado puede negar un servicio o cerrar una opción, la revisión debe poder corregirlo antes de que el efecto sea difícil de reparar. No hay una proporción universal de intervención humana.

A veces, el control adecuado no consiste en revisar cada recomendación, sino en cambiar las reglas de escalamiento, suspender la operación o retirar la herramienta. Esa posibilidad debe existir antes de que surja un incidente. Si la organización depende de un proveedor o proceso que ya no puede sostener, también necesita una transición viable: conservar los registros necesarios para entender decisiones relevantes, resolver apelaciones pendientes y evitar que una interrupción abandone a quienes dependían del servicio.

481.5. Incertidumbre, evaluación y gobernanza#

La decisión de desplegar se toma con evidencia incompleta: las pruebas previas no abarcan toda adaptación o cambio institucional futuro. El capítulo 468.5 desarrolla la documentación técnica y el seguimiento; aquí importa qué incertidumbres acepta la institución, quién responde por sus consecuencias y qué hechos obligarían a reexaminar la autorización. La incertidumbre no justifica cualquier riesgo ni exige esperar a conocerlo todo: exige declarar lo que se sabe y lo que falta por saber.

La gobernanza debe asignar autoridad y recursos para limitar, suspender o retirar el uso cuando cambien las condiciones o aparezcan daños. La vigilancia técnica y sus indicadores pertenecen al capítulo 468.5; en este plano, la pregunta es si hay alguien con mandato para actuar, una vía de impugnación practicable y una respuesta a quienes ya resultaron afectados. Retirar una herramienta no borra decisiones previas ni elimina apelaciones pendientes.

La gobernanza consiste en asignar funciones, recursos, procedimientos y autoridad para sostener ese ciclo. Un marco de gestión puede ayudar a no olvidar el contexto, la medición o la respuesta a riesgos. NIST describe su AI Risk Management Framework 1.0 como un marco voluntario para gestionar riesgos de IA, organizado en cuatro funciones —gobernar, mapear el contexto, medir y gestionar—. Al 8 de octubre de 2026, NIST indicaba que la versión 1.0 estaba en revisión. La revisión en curso no convierte el marco en ley, y adoptarlo no garantiza un resultado justo ni sustituye las obligaciones legales que sean aplicables. (NIST, AI Risk Management Framework 1.0 y estado de revisión)

La norma ISO/IEC 42001:2023 especifica requisitos para establecer y mejorar un sistema organizativo de gestión de IA. Es un estándar internacional voluntario, salvo que una ley, contrato u otra obligación aplicable lo incorpore. La existencia de un sistema de gestión puede apoyar la organización de responsabilidades, pero una certificación o conformidad con un estándar no certifica que cada decisión sea moralmente aceptable. La ficha pública de ISO informa sobre el propósito general de la norma; para afirmar requisitos detallados habría que consultar su texto íntegro. (ISO/IEC 42001:2023, Information technology — Artificial intelligence — Management system)

Medir no resuelve el desacuerdo moral: una evaluación puede mostrar efectos bajo ciertas condiciones, pero no decide qué distribución es aceptable ni qué derecho debe prevalecer. Una lista de verificaciones tampoco basta para rendir cuentas. La gobernanza exige responsables identificables, vías de impugnación, decisiones revisables y capacidad material para remediar daños.

Figura 481.1 — La responsabilidad acompaña el ciclo de vida del sistema

Seis etapas conectadas desde definir el propósito hasta continuar, rediseñar o retirar; un bucle devuelve la decisión a revisión y un panel resume participación, autoridad responsable e impugnación.

La revisión de efectos puede cambiar el propósito, la configuración o la decisión de continuar. Las personas afectadas, la autoridad responsable y la posibilidad de impugnar deben permanecer vinculadas a todo el ciclo.

Síntesis#

Una decisión tecnológica justificable comienza por definir con precisión el propósito y comparar alternativas reales. Después examina quién se beneficia, quién soporta errores y cargas, qué información permite cuestionar una decisión y si la supervisión tiene capacidad efectiva para corregirla. Las métricas y los estándares pueden ordenar la evidencia y el trabajo, pero no determinan una justicia universal. La autorización debe ser revisable: con responsables, participación, vías de recurso y capacidad de rediseñar, detener o retirar el sistema cuando la evidencia o las condiciones lo exijan.

Preguntas de transferencia#

Una herramienta reduce la demora media, pero algunas solicitudes esperan más#

Ejemplo construido. Una institución prueba un ordenamiento de casos que reduce el tiempo promedio de respuesta. Un grupo de solicitudes con documentación incompleta queda con más frecuencia al final de la fila. ¿Qué se puede concluir y qué debe comprobarse antes de decidir si la herramienta se mantiene?

Mostrar respuesta razonada

La mejora media no basta para concluir que el procedimiento beneficia al conjunto de personas afectadas. Primero habría que comprobar si el patrón se observa de forma estable y si la forma de agrupar los casos corresponde a diferencias pertinentes para el propósito. Después se analizaría dónde nace la demora: en el sistema, en reglas de entrada, en la disponibilidad de apoyo para completar documentos o en una interacción entre estos factores. Si el ordenamiento mantiene una carga desigual, la institución tendría que justificarla y evaluar medidas que reduzcan la desventaja, incluida una vía alternativa. Sin información suficiente, no corresponde atribuir la causa a la herramienta ni presentar la diferencia como inocua.

Una explicación muestra la regla que se aplicó#

Ejemplo construido. Una persona recibe una explicación legible que indica qué regla produjo un resultado, pero discrepa de un dato usado en el proceso. ¿La explicación hace innecesaria una vía de impugnación?

Mostrar respuesta razonada

No. La explicación aclara una parte del proceso; la persona necesita también un modo de corregir o discutir el dato y una autoridad capaz de revisar el efecto. Habría que conocer quién conserva la información pertinente, qué evidencia puede presentarse y si la revisión es independiente de la recomendación inicial. La accesibilidad del procedimiento y su capacidad para cambiar el resultado son parte del recurso.

La persona supervisora aprueba casi todas las recomendaciones#

Ejemplo construido. En una organización, la persona responsable debe revisar una cola extensa en poco tiempo y recibe una recomendación destacada en pantalla. ¿Qué evidencia permitiría distinguir supervisión efectiva de confirmación rutinaria?

Mostrar respuesta razonada

El porcentaje de aprobaciones no demuestra por sí solo ni dependencia ni buen juicio. Se necesitaría observar si la persona tiene competencia, tiempo, acceso a información relevante y autoridad para contradecir o escalar casos; también convendría examinar cómo detecta excepciones y qué sucede después de una objeción. Si el trabajo hace prácticamente imposible discrepar, la organización debe revisar el proceso y la carga, no atribuir el problema sólo al operador.

Un estándar de gestión ya está implantado#

Ejemplo construido. Una organización acredita que sigue un estándar de gestión de IA y concluye que puede ampliar el uso de una herramienta a otra población. ¿Qué justifica esa conclusión?

Mostrar respuesta razonada

La adopción de un estándar puede demostrar que existe un sistema de gestión bajo ciertos requisitos, pero no que el uso adicional sea adecuado. La ampliación modifica población y contexto; requiere evidencia pertinente sobre ese uso, revisión de sus consecuencias y consideración de alternativas. También hay que identificar qué obligaciones legales se aplican en la jurisdicción y fecha correspondientes. La certificación no sustituye la evaluación sustantiva.

Fuentes y lecturas del capítulo#

  • UNESCO, Conferencia General. Recommendation on the Ethics of Artificial Intelligence. Adoptada el 23 de noviembre de 2021. Recomendación no vinculante que ofrece principios y áreas de acción, incluida evaluación de impacto y seguimiento. (Texto oficial en español)
  • OCDE, Consejo. Recommendation of the Council on Artificial Intelligence, OECD/LEGAL/0449. Adoptada el 22 de mayo de 2019; revisada en noviembre de 2023 y enmendada el 3 de mayo de 2024. Recomendación sobre principios y políticas, no legislación universal. (Instrumento oficial)
  • Unión Europea, Parlamento Europeo y Consejo. Reglamento (UE) 2024/1689 por el que se establecen normas armonizadas en materia de inteligencia artificial, texto consolidado al 27 de julio de 2026, con las enmiendas del Reglamento (UE) 2026/1744. Norma legal de la UE; sus obligaciones y fechas de aplicación dependen de categoría, rol y disposición. (Texto consolidado oficial en EUR-Lex)
  • Consejo de Europa. Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law, CETS No. 225. Adoptada el 17 de mayo de 2024; abierta a firma el 5 de septiembre de 2024. Tratado sujeto a ratificación y a su regla de entrada en vigor. (Estado oficial de firmas y ratificaciones)
  • Naciones Unidas, Treaty Section. Final Clauses of Multilateral Treaties. Guía oficial sobre firma, ratificación y otras cláusulas finales; describe el deber limitado de no frustrar el objeto y fin del tratado asociado a la firma, conforme al artículo 18 de la Convención de Viena sobre el Derecho de los Tratados. (Texto oficial)
  • NIST; Elham Tabassi. Artificial Intelligence Risk Management Framework (AI RMF 1.0). NIST AI 100-1, 26 de enero de 2023. Marco voluntario de gestión de riesgos; NIST informa que la versión 1.0 está en revisión. (Publicación y estado del marco)
  • ISO/IEC JTC 1/SC 42. ISO/IEC 42001:2023 — Information technology — Artificial intelligence — Management system. Primera edición, diciembre de 2023. Norma internacional de sistemas de gestión; la ficha pública describe su propósito general, no todo el contenido normativo. (Ficha oficial de ISO)

Nota de fuentes y claims inciertos. La fecha de corte es el 8 de octubre de 2026. Las fechas del Reglamento europeo se contrastaron con el texto consolidado que incorpora la modificación de 2026; se debe volver a verificar el artículo aplicable antes de publicar si cambia la fecha de edición. El registro del Consejo de Europa citado muestra el estado al 12 de septiembre de 2026. La ficha pública de ISO permite sostener el propósito general y fecha de ISO/IEC 42001:2023, pero no atribuir requisitos detallados de su texto completo. El capítulo no formula afirmaciones empíricas cuantitativas sobre diferencias de desempeño o daño: esas conclusiones requieren estudios concretos, población, contexto, periodo y método.

Bibliografía de la parte XLIV · Bibliografía general

Última revisión editorial
Cierre de contenidos