Desafíos para la responsabilidad civil
a propósito del riesgo y de la autonomía

Marcos Santos Vaquero*

Universidad de Salamanca, España / Università degli Studi di Perugia, Italia

Recibido: 22 de enero del 2026 / Aceptado: 4 de mayo del 2026

doi: https://doi.org/10.26439/iusetpraxis2026.n061.8546

RESUMEN. El presente trabajo analiza la configuración del régimen de responsabilidad civil por los daños causados por sistemas de inteligencia artificial en la Unión Europea, tomando el riesgo como elemento vertebrador. A partir de la evolución normativa europea, se examinan los distintos niveles de riesgo como criterio de ordenación de la respuesta jurídica, así como su incidencia en la determinación del régimen aplicable, la carga probatoria, la trazabilidad del daño y los mecanismos complementarios de tutela, como el seguro obligatorio y los fondos de compensación. El estudio muestra que la regulación europea avanza hacia un modelo diferenciado según el grado de riesgo del sistema, con el objetivo de equilibrar la protección de las víctimas, la seguridad jurídica y el fomento de la innovación tecnológica.

PALABRAS CLAVE: inteligencia artificial / responsabilidad civil / riesgo / seguro /
fondo de compensación

* Doctorando en Derecho Privado en la Universidad de Salamanca y en Derecho del Consumo en la Università degli Studi di Perugia. Contacto: [email protected] / [email protected]

THE CONFIGURATION OF THE CIVIL LIABILITY REGIME
FOR DAMAGE CAUSED BY ARTIFICIAL INTELLIGENCE SYSTEMS
IN THE EUROPEAN UNION BASED ON RISK

ABSTRACT. This paper analyzes the configuration of the civil liability regime for damages caused by artificial intelligence systems in the European Union, taking risk as a backbone element. Based on European regulatory developments, the different levels of risk are examined as a criterion for ordering the legal response, as well as their impact on the determination of the applicable regime, the burden of proof, the traceability of the damage and the complementary protection mechanisms, such as compulsory insurance and compensation funds. The study shows that European regulation is moving towards a differentiated model according to the degree of risk of the system, with the aim of balancing the protection of victims, legal certainty and the promotion of technological innovation.

KEYWORDS: artificial intelligence / civil liability / risk / insurance / compensation fund

1. INTRODUCCIÓN

La rápida expansión de la inteligencia artificial (IA) ha transformado de manera profunda múltiples ámbitos de la actividad social, económica y jurídica. Su creciente incorporación a procesos de decisión, producción y prestación de servicios ha multiplicado, al mismo tiempo, las situaciones en las que pueden derivarse daños para terceros, planteando interrogantes específicos en materia de responsabilidad civil. La dificultad para identificar con precisión al sujeto responsable, la opacidad de algunos sistemas, su capacidad de aprendizaje autónomo y la complejidad de las cadenas de producción tecnológicas obligan a replantear los criterios tradicionales de imputación del daño.

En este contexto, la Unión Europea ha optado por articular su respuesta normativa a partir de una lógica basada en el riesgo, diferenciando entre sistemas de alto riesgo y sistemas menos peligrosos, e incorporando mecanismos destinados a reforzar la tutela de las víctimas sin desincentivar la innovación tecnológica. Esta opción regulatoria adquiere especial relevancia en el ámbito de la responsabilidad civil, donde el riesgo no solo opera como presupuesto técnico de la actividad, sino también como criterio de ordenación jurídica para determinar el régimen aplicable, la intensidad de los deberes de control y las consecuencias derivadas de la eventual producción de un daño.

El presente trabajo tiene por objeto analizar la responsabilidad civil por daños causados por sistemas de IA en la Unión Europea, tomando el riesgo como eje vertebrador de la reflexión. Para ello, se examina en primer lugar la relación entre IA, autonomía tecnológica y creación de riesgos; posteriormente, se estudian los principales modelos de responsabilidad que se han planteado en el ámbito europeo; y, finalmente, se valoran algunos mecanismos complementarios de protección, como el seguro obligatorio, los fondos de compensación y otras fórmulas de garantía.

Con ello, se pretende ofrecer una visión sistemática del problema jurídico, poniendo de relieve tanto las ventajas de una regulación orientada por niveles de riesgo como las dificultades que todavía persisten en materia de trazabilidad, prueba del daño e identificación del responsable. La finalidad última es comprobar hasta qué punto el riesgo puede operar como criterio útil para estructurar un régimen de responsabilidad civil adaptado a los desafíos específicos que plantea la IA.

2. NUEVAS TECNOLOGÍAS Y DERECHO: CONSIDERACIONES PREVIAS

2.1. Revolución digital como punto de partida

Una de las características más funcionales que ostenta nuestro derecho es la capacidad para adaptarse a las realidades sociales que emergen con el paso del tiempo (Albaladejo, 2001, p. 40). Esta capacidad se configura como necesaria simplemente con observar el actual entorno digital en el que nuestra sociedad se sitúa en relación con el disruptivo desarrollo tecnológico, en constante evolución, que ha dado lugar a lo que algunos han denominado la cuarta revolución industrial o la revolución 4.0.

Los avances digitales han sido capaces de crear una sociedad sometida a un entorno de comunicaciones e interacciones virtuales al servicio de la sociedad de la información en la que no se contempla la vida sin un smartphone. El derecho debe dar respuestas claras ante riesgos potenciales que ostentan ciertos sistemas inteligentes, los cuales resultan cada vez más familiares para la sociedad.

Como punto de partida habría que señalar el fenómeno de la “datificación”, en el que la economía, ahora colaborativa, también conocida como sharing economy (Cuena Casas, 2020, p. 285), depende del valor de los datos que prestan o venden los usuarios y empresas entre sí. Este nuevo modelo de mercado, de crecimiento progresivo, supone una economía bajo demanda (Comisión Nacional de los Mercados y la Competencia, 2016, p. 17)1 al servicio de las nuevas tecnologías. Por otro lado, la cultura de datos o de información supone, junto con el sistema de posicionamiento global o GPS, la creación del big data2, el cual representa a aquella herramienta necesaria para la invasión de la información que circula a través de la red y que, de la mano de la computación, se propaga de manera exponencial (Laín Moyano, 2021, p. 198).

Quizá la proliferación de este nuevo modelo de mercado se deba a la decadencia por falta de confianza del sistema financiero y al sobreendeudamiento generado por el sistema bancario. Estas circunstancias pudieron ser abandonadas por los ciudadanos gracias a las tecnologías, al conseguir atender sus necesidades sin recurrir a este tipo de intermediarios y actuar con una independencia más sostenible en comparación con el modelo tradicional. Algunos autores sugieren que esta afloración económica se debe a “fallos regulatorios” (Cuena Casas, 2020, p. 286) que, en ocasiones, son impredecibles. Los grandes beneficiados por esta economía colaborativa resultan ser los consumidores cuando crean una red de mercado horizontal en la que se dan operaciones entre iguales gracias, en gran parte, a las plataformas digitales, puesto que estas permiten una comunicación directa sin filtros, lo cual genera transparencia y confianza en sus usuarios.

A estas variantes tecnológicas habría que sumarle la posibilidad de perfeccionar un contrato sin intervención humana, directamente a través de una máquina. Nos referimos a los smart contracts, que se caracterizan precisamente por ese abandono o pérdida de la intervención humana en la formalización y celebración de un contrato. Paradójicamente, se está incrementando la celebración de contratos que estaban en pleno desuso, como la permuta, que, ahora, mediante aplicaciones o plataformas destinadas a comunicar o poner en contacto intereses contractuales de dos o más posibles contratantes, capacitan al comprador y al vendedor para celebrarlos, aunque sea de manera indirecta.

2.2. Inteligencia artificial como sinónimo de autonomía y riesgo

Como vemos, este panorama tecnológico supone cambios en casi todas las áreas del derecho; sin embargo, el factor principal de riesgo lo encontramos en la autonomía o independencia de ciertos sistemas. Precisamente, esa autonomía se ve excesivamente desarrollada en sistemas machine learning, que son capaces de dar una respuesta (output) totalmente ajena a la voluntad o intención de su fabricante, creador, proveedor, operador o actualizador del software; es decir, por su alto nivel de sofisticación, ostenta un grado de imprevisibilidad potencialmente peligroso en algunos casos “cisne negro” (Taleb, 2011, pp. 23-26).

Volviendo a la figura de los sistemas machine learning, algunos autores como el profesor Fontana (2020), que los entienden como sistemas de aprendizaje autónomo, los han identificado como

uma série de algoritmos que extraem informação a partir de um conjunto de dados, sem ser necessário denir um modelo matemático especíco. A partir de um conjunto de dados de treinamento, estes algoritmos buscam um padrão relacionando entradas e saídas, permitindo utilizar este padrão para realizar predições [una serie de algoritmos que extraen información de un conjunto de datos sin que sea necesidad de denotar un modelo matemático específico. A partir de un conjunto de datos de entrenamiento conjunto de datos, estos algoritmos buscan un patrón que relacione las entradas y las salidas, permitiendo utilizar este patrón para hacer predicciones]. (p. 3)

Como podemos observar, la definición de autonomía es difusa, pero es conveniente exponer la que brinda la norma ISO 8373 del 2021, sobre robots y dispositivos robóticos, la cual define autonomía como la capacidad para realizar tareas previstas en función del estado y la percepción actuales, sin intervención humana (International Organization for Standardization, 2021). Así, se presta insuficiente atención al progreso de la IA de mayor complejidad, lo cual, en el marco del big data y del internet de las cosas o —de manera más precisa— del dataísmo (Caro Coria, 2022, p. 635), nos dirige hacia el concepto de la singularidad. En esta etapa de desarrollo, la IA se asemeja a una forma de autoconsciencia y posee la capacidad de tomar decisiones autónomas e impredecibles.

Un ejemplo de esta característica de imprevisibilidad que ostentan algunos sistemas de IA lo encontramos en una noticia en la que se informa que un vehículo autónomo atropelló y causó la muerte de una mujer en el estado norteamericano de Arizona el 18 de marzo del 2018 (Levin & Wong, 2018)3. Este hecho, en el que un ser humano deja de tener el control del vehículo durante un trayecto, supone grandes preguntas en el marco de diferentes situaciones: ¿qué bien jurídico debe proteger este coche autónomo en caso de que tenga que elegir entre atropellar a un animal o a un ser humano? ¿Qué ocurre si el pasajero quiere bajarse del vehículo y el vehículo bloquea las puertas? ¿Hay un grado de confianza óptimo hacia estos en la actualidad?

Entonces, frente a casos como este, algunos juristas como el profesor uruguayo Martínez Mercadal (2018) han argumentado que “en el vehículo autónomo inteligente, la ciencia no ha logrado consagrar una previsibilidad cierta ante la complejidad del tránsito. Cuanta más autonomía tenga, mayor será la toma de decisiones, mayor será la incertidumbre e imprevisibilidad” (p. 62).

Otro ejemplo lo encontramos en la noticia del asesinato selectivo (targeted killing) a cargo de drones Reaper que, durante la retirada de tropas estadounidenses de Afganistán, acabó con la vida de diez civiles durante la evacuación de Kabul. El ataque ocurrió por un fallo en el sistema de reconocimiento del algoritmo, el cual envió información errónea al Pentágono indicando que se había reconocido a un grupo armado de ISIS, pero, en realidad, se trataba de civiles desarmados. Esta noticia hizo eco en los medios y se planteó la duda de quién iba a responder por esas muertes; sin embargo, la cuestión suscitó el problema de que el error partía de un fallo de programación de los drones, los cuales habían evidenciado una “certeza razonable” de que se trataba de un comando terrorista.

Para entender más a fondo la naturaleza de la IA, es conveniente repasar sus características, tal como las propone Cerdio Herrán (2021, p. 70): capacidad de mejorarse a sí misma; capacidad de actuar de manera autónoma, mediante la intervención humana como principal herramienta para alcanzar su objetivo; y capacidad para interactuar con su entorno. Estas características son casi humanas, ya que una IA funcionaría de la misma manera en que lo hace un cerebro: procesando información que recorre las distintas áreas de este mediante impulsos eléctricos (Boden, 2017, p. 20).

Autores como Ryan Calo (2017) han definido a la IA como un “conjunto de técnicas destinadas a aproximarse a algún aspecto de la cognición humana o animal mediante máquinas. Es decir, se trata de un umbrella term que engloba muchas técnicas diferentes” (p. 405). No obstante, parte de la doctrina ve con buenos ojos considerar a la IA como un producto más, es decir, como un software integrado en una base o estructura física (Díaz Alabart, 2018, p. 100).

También encontramos planteamientos filosóficos como el de Gilbert Ryle, quien, en su libro The Concept of Mind de 1949, ya sostenía el razonamiento de que el (hasta ahora) axioma cartesiano mente-cuerpo carecía de sentido sobre la base de la idea que denominó the ghost in the machine, entendiendo esta expresión como la capacidad de la mente (o elemento espiritual) de sobrevivir una vez producida la muerte física. De alguna manera, estos planteamientos se relacionaron con la llamada revolución cognitiva, que influyó en el desarrollo de la neurociencia, la computación y la IA (Campos Madrigal, 2021, p. 195).

El derecho de la Unión Europea está intentando dar respuestas; sin embargo, pese a la complejidad jurídica de todas estas cuestiones, algunos Estados, más adelantados en materia de IA, ya han comenzado a regular sustancialmente las implicaciones jurídicas de estos sistemas. Algunos defienden que una regulación ex ante podría suponer una barrera a la innovación. El profesor Catalán (2015) argumentó que el derecho “necesita equilibrar la tensión que surge entre la libertad de iniciativa y la necesidad de protección de la persona humana y de la tutela de otros valores sociales constitucionalmente asegurados” (p. 700).

Otras soberanías consideran que debe darse una intervención legislativa previa a la manifestación de resultados para no tener que sufrir ciertos efectos adversos (Battaglia et al., 2012). La imposición de barreras excesivas que impidan a los empresarios, diseñadores y técnicos desarrollar nuevas tecnologías como la IA sería contraproducente para nuestra economía y para las necesidades de la sociedad, es decir, una regulación muy estricta y poco flexible para impedir seguir desarrollando tecnologías necesarias para el avance de la sociedad (Aznar Domingo & Domingues Villaroel, 2022)4.

2.3. Internet y sus riesgos: algunos desafíos jurídicos

Junto a la cuestión de la responsabilidad, los derechos humanos están en vilo frente a la presencia de estas nuevas tecnologías tan complejas y expuestas a causar daños reales. Parte de la doctrina sugiere que “se adquiera consciencia de que nunca como hoy se había sentido tan intensamente la necesidad de concebir los valores y derechos de la persona como garantías universales” (Pérez Luño, 2002, p. 102).

Las ventajas son notables; sin embargo, como antes se señalaba, la gran acumulación y tráfico de datos podría equivaler a una vulneración masiva de ciertos derechos fundamentales, cuya protección resulta más difícil de salvaguardar conforme se siguen desarrollando las cualidades técnicas de ciertas tecnologías (Gómez Abeja, 2022, p. 91). Habría que sumársele, particularmente, los riesgos inherentes a la IA, es decir, aquellos riesgos que pueden ocurrir por su asimetría, errores de diseño, defectos de programación o fallas funcionales durante su desarrollo, interoperabilidad con otros sistemas, uso inapropiado, falta de transparencia en su funcionamiento, opacidad en la toma de decisiones, discriminación y violación de la privacidad (Muñoz Vela, 2022, p. 54).

En cualquier caso, las legislaciones nacionales deben actuar con arreglo al principio de cooperación mutua para paliar efectos no deseados, sobre todo si nos referimos a cuestiones donde media el internet, ya que la globalización supondría entender las sociedades interconectadas a escala planetaria (Pérez Luño, 2007, p. 98).

3. DEFINIENDO LÍMITES: EL PAPEL DEL LEGISLADOR EN LA
CONFIGURACIÓN DE UN RÉGIMEN DE RESPONSABILIDAD CIVIL

Como se venía anunciando en el apartado precedente, algunos sistemas de IA suponen una desconexión entre la voluntad del creador u operador y la actividad final manifestada por el sistema inteligente. En el área de la responsabilidad civil, a priori, tenemos expuestas dos alternativas: dirigir la reclamación contra el usuario, operador o fabricante, o bien dirigirnos directamente contra el sistema inteligente que ha sido capaz de tomar una decisión imprevisible para el supervisor humano más cercano.

Ya anticipo que la segunda tesis no ha prosperado entre la mayor parte de la doctrina por razones obvias, aunque sí hay algunos juristas que la defienden con ciertas reservas. En cuanto a la primera teoría, más conveniente a mi parecer, ahora se nos plantea un problema, ya que, si dirigimos la reclamación contra aquellos que no pudieron prever el daño, es decir, a quienes ni siquiera se les dio la posibilidad de actuar de manera diligente, podríamos generar barreras a la innovación al tener estos que soportar los fallos ajenos a su voluntad, lo que podría contravenir el principio de responsabilidad por culpa establecido en el artículo 1902 del Código Civil. Pese a este razonamiento, podríamos encontrar justificación en la conocida responsabilidad objetiva, lo que impermeabiliza los derechos de posibles víctimas expuestas a un riesgo considerable.

3.1. Contextualizando: la sociedad de consumo

Debemos detenernos en el término responsabilidad, que algunos autores, como Díez-Picazo (١٩٩٢), entienden como “la sujeción de una persona que vulnera un deber de conducta impuesto en interés de otro sujeto a la obligación de reparar el daño producido” (p. 591). En el derecho penal, este planteamiento se traduce en la locución latina nulla poena sine culpa que consagra el principio de culpabilidad. La doctrina más clásica hablaba de la necesidad de la existencia de culpa manifestada en un daño, sin poder condenar los pensamientos, por muy crueles que puedan ser, destacando el cogitationis poenam nemo patitur (Justiniano, 533 d. C./1874, Digesto 48.19.18 de Ulpiano).

En el ámbito del consumo, la responsabilidad civil por culpa habría logrado crear un sistema proteccionista lo suficientemente consolidado para la parte fuerte de la relación jurídica (Woolcott, 2007, p. 127), en el que los consumidores debían presentar todo tipo de pruebas para demostrar la culpa o negligencia del empresario. La labor probatoria para el consumidor puede llegar a ser excesivamente compleja, sobre todo si las reclamaciones versan sobre productos o servicios de los cuales no se llega a tener un completo entendimiento, lo que constituye una vía de escape ventajosa para los empresarios.

Nuestra propia legislación, a través del Código Civil, contempla la teoría clásica de la responsabilidad aquiliana o lex Aquilia, fundamentada en la idea de sua quique culpa nocet, en la que el daño solo debe ser atribuido al autor culpable. Lo mismo establece el Código Civil francés (CCF) o Código de Napoleón de 18045. Con buena recepción por los iusnaturalistas y el derecho común, se estableció esta línea jurídica por siglos a través del derecho canónico y la influencia del pensamiento cristiano basado en la reprochabilidad del pecado. Del mismo modo, nuestro Código Civil, siguiendo la línea de las demás codificaciones europeas, adoptó la responsabilidad por culpa6.

Aun con esta férrea consolidación legislativa a nivel comunitario, las tornas cambiaron con la aparición de la sociedad de consumo y la figura de los consumidores, desprovistos de una protección eficaz hasta ese momento, contaban con insuficientes garantías en el mercado, precisamente por la desigualdad de conocimiento en este. Todo ello supuso la creación del régimen de responsabilidad objetivo en España, con la entrada en vigor del Real Decreto Legislativo 1/2007, del 16 de noviembre del 2007, por el que se aprobó el Texto Refundido de la Ley General para la Defensa de los Consumidores y Usuarios (TRLGDCU) y otras leyes complementarias.

La aparición de este régimen habría supuesto el culmen de la adaptación legal de nuestro sistema jurídico (Atienza, 2012)7 a través de la objetivación de la responsabilidad mediante la inversión de la carga de la prueba (Gómez-Riesco Tabernero de Paz, 2018, p. 113), aplicable ahora a empresarios, a fabricantes y, en definitiva, a profesionales.

La gran ventaja de la responsabilidad civil objetiva radica en la facultad de dirigir la reclamación demostrando únicamente el defecto y el nexo causal entre el daño y el defecto, sin necesidad de probar la culpa del agente profesional8 (Real Decreto Legislativo 1/2007), evitando así la brecha en la responsabilidad o responsability gap (Villar Fuentes, 2020, p. 192).

Por otro lado, la exposición a riesgos relacionados con la tecnología se podría ver incrementada, dando lugar a la conocida “sociedad de riesgo” (Gutiérrez Santiago, 2006, p. 22) donde el acrecentamiento de las prácticas tecnológicas amenazaría directamente a la posición del consumidor, carente de conocimientos técnicos, siendo este el resultado del proceso de modernización de la sociedad industrial (Díez-Picazo, 1979, p. 732).

3.2. Responsabilidad objetiva

La Comisión Europea llevó a cabo una evaluación de la Directiva 85/374/CEE (Comunidad Económica Europea, 1985), sobre responsabilidad por daños causados por productos defectuosos de 1985, para aclarar si se podría seguir aplicando para sistemas de IA o si sería necesario desarrollar otra alternativa regulatoria.

El régimen de responsabilidad objetiva lleva asociado un riesgo en el desarrollo que, a fin de cuentas, el legislador decidió paliar con la causa de exoneración por falta de conocimientos técnicos cuando se produjo el daño9. En palabras de Díez-Picazo, las reclamaciones de consumidores podrían verse comprometidas en casos en los que concurra una “causa de justificación” (1999, p. 298), lo que dejaría sin efecto el elemento demostrativo del daño y el defecto que recoge la Directiva 85/374/CEE10.

Teniendo en cuenta estas causas de exoneración contempladas en la Directiva de 1985 y en el TRLGDCU, podríamos pensar que no nos encontramos realmente frente a un régimen de responsabilidad objetivo, sino más bien frente a un régimen de responsabilidad cuasiobjetivo.

El caso de los sistemas de IA presenta una singularidad. En aplicación del principio de precaución y riesgo aceptable, justificado por la culpa in singularitatem (Ercilla García, 2018, p. 5), considero, a parte de la doctrina, que el propio hecho de tener cierta incertidumbre sobre el funcionamiento de un sistema inteligente constituiría un hecho generador de responsabilidad para quien, aun reconociendo esta incertidumbre o imprevisibilidad, decide lanzarlo al mercado (Zurita Martín, 2020, p. 62)11. Por lo tanto, la imprevisibilidad es intrínseca al objetivo de fomentar la aparición de la actividad autónoma del robot; por ello, podría no tener sentido exonerar de responsabilidad con base en la falta de conocimiento de los riesgos según el estado de la ciencia actual.

Además, este planteamiento sobre el riesgo atendería a lo que se conoce como la teoría del riesgo, según la cual quien introduce un elemento de riesgo en el tráfico está obligado a afrontar las posibles consecuencias negativas de su presencia, sin importar si tiene culpa o no en la situación. Asimismo, esta responsabilidad se ve acentuada si, además, quien introduce el riesgo es el beneficiario directo de dicha acción (Muñoz Vela, 2022, p. 204).

3.3. Hacia el régimen de responsabilidad por creación de riesgo

Como se venía anticipando, en el apartado anterior, el régimen de responsabilidad por creación de riesgos “no se centra en la persona «que actuó de manera negligente» como personalmente responsable, sino en la persona que es capaz, en determinadas circunstancias, de minimizar los riesgos y gestionar el impacto negativo” (Resolución del 16 de febrero del 2017, principio 55). Este sistema de gestión de riesgos señalaría, en términos de imputación de la responsabilidad, a la persona que pudo detectar, minimizar y detectar el riesgo. Se podría decir que el régimen aquí presentado se encasillaría en la conocida culpa in eligendo o en la culpa in vigilando.

Para la calificación del riesgo, la Unión Europea manifiesta que deben valorarse los siguientes factores: “La relación entre la gravedad del posible daño, la probabilidad de que el riesgo cause un daño o un perjuicio y el modo en que se utiliza el sistema de IA” (Resolución de 16 de febrero del 2017). En este punto surge la figura del formador, también conocido como trainer de la IA. Esta figura, según la Resolución del 2017, deberá ser responsable en el grado en que el sistema adquiera autonomía, es decir, cuanta más autonomía adquiera, mayor grado de responsabilidad debe tener el formador o entrenador (principio 56).

Debería plantearse el asunto como una especie de responsabilidad por creación de riesgos12 o temeridad en la puesta a disposición en el mercado de estos productos. No le estaríamos imputando la culpa del daño directamente a un productor, sino que se le imputaría la culpa derivada de la creación de un riesgo que, finalmente, se manifestó causando un daño a una víctima que debe ser resarcida. En relación con ello, Díez-Picazo (2008) menciona los límites del riesgo basándose en la teoría de riesgo tolerable (p. 86), la cual defiende que “una conducta es negligente cuando sobrepasa los límites del riesgo que el ordenamiento considera aceptable o tolerable” (p. 86).

Necesariamente, este régimen debe relacionarse con el factor beneficio. De este modo, el Tribunal Supremo, en la sentencia 139/2001 del 22 de febrero del 2001, entre otras, denuncia la aplicación indebida del artículo 1902 del Código Civil y cimienta el fallo en la aplicación de la teoría de la responsabilidad por riesgo, de la socialización de la culpa o con base en el factor benéfico. Esta sentencia reduce la aplicación de la responsabilidad por riesgo a aquellas actividades realmente creadoras de riesgo, remitiendo todas las restantes actividades y supuestos a la aplicación del principio culpabilístico, tradicionalmente presente en la aplicación del artículo 190213.

Este régimen, en realidad, coincide con la “doctrina de la objetivación de la responsabilidad por riesgo”14, que proclama la idea de que quien se beneficia del manejo de una fuente de peligros debe soportar el incomodum (Comporti, 1965, p. 176) para reparar los daños, excepto que demuestre que el daño no provino de su riesgo creado; por lo tanto, constituiría la problemática que afectaría más a la cuestión de la imputación más que al onus probandi (Llamas Pombo, 2018, p. 403).

Otra cuestión a tener en cuenta es la repartición de riesgos en grandes cadenas de producción, en la que el producto final es el resultado de la intervención de múltiples agentes. En esta cadena de procesos, a menudo, se pierde la trazabilidad de estos sistemas (Resolución de 20 de octubre del 2020). Además, dicha trazabilidad no resulta clara en sistemas de IA, como lo reconoce un informe del Parlamento Europeo del 5 de octubre del 202015, pues dichos sistemas cuentan con actualizaciones periódicas o interacciones con el entorno que cambian la configuración de origen. A esto habría que sumarle la posibilidad de personalización de la IA por parte de su usuario. Necesariamente, para resolver este rompecabezas, debemos acudir a la prueba pericial tal y como la recoge la Ley de Enjuiciamiento Civil en su artículo 335.116, en el que se establece que, a través de dictámenes, debería quedar resuelta la cuestión técnica que se escapa de los conocimientos de los juristas (Plaza Penadés, 2022, p. 66)17.

En caso de que el peritaje técnico no resulte eficaz, se han planteado otras alternativas, a mi parecer, más oportunas desde el Parlamento Europeo (informe del 5 de octubre del 2020), como la posibilidad de establecer una responsabilidad solidaria (Barona Vilar, 2021, p. 180)18 a fin de garantizar, de cualquier modo, la viabilidad de la reclamación de la víctima, expuesta a soportar esa falta de identificación del responsable directo. En el mismo sentido, se configura la propuesta del artículo 11 de la Directiva 85/374/CCE, que establece la solidaridad de la responsabilidad cuando concurran dos o más operadores económicos en la aparición de un daño19.

Esta regulación permite al damnificado dirigir la reclamación contra cualquier sujeto aparentemente involucrado con el sistema de IA, con independencia del vínculo contractual que pudiera haber entre el fabricante del hardware y el fabricante del software, lo que se justifica por la relación directa entre estos dos elementos (Izquierdo Grau, 2023, p. 6).

Volviendo a la cuestión del riesgo, sobre la base de este se ha planteado una clasificación que distingue entre los sistemas de IA de alto riesgo y los sistemas de IA que no son de alto riesgo. Para los de alto riesgo se habría determinado establecer una responsabilidad objetiva, contemplando la fuerza mayor como causa de exoneración de responsabilidad20, mientras que para los sistemas de IA que no sean de alto riesgo se establece una responsabilidad subjetiva, con más causas de exoneración21 que las contempladas para los de alto riesgo.

3.4. Prácticas prohibidas, riesgo y dificultad probatoria

Si ya se había planteado una regulación sobre la base del riesgo ostentado por los sistemas de IA, ahora, con la llamada Ley de Inteligencia Artificial, se habría profundizado más en el asunto, al señalar prácticas prohibidas llevadas a cabo con sistemas de IA.

Estas prácticas, consideradas inaceptables por el riesgo que suponen para el conjunto de la sociedad, englobarían aquellas que aprovechen vulnerabilidades de determinados grupos o que evalúen la fiabilidad de las personas clasificándolas mediante la social scoring o puntuación social. Respecto de esta última, en relación con la justicia predictiva, son muchos los que no ven con buenos ojos aplicarla en la administración de justicia (Marchena, 2023, p. 38).

Más adelante nos encontramos con los sistemas de alto riesgo, es decir, con aquellos sistemas que supongan “un perjuicio a la salud y la seguridad, o el riesgo de tener repercusiones negativas para los derechos fundamentales” (artículo 7). Ergo, por bajo riesgo deberíamos hacer una lectura más generosa, menos restrictiva, para aquellos sistemas que no comprometan la seguridad o los derechos de forma tan agresiva. Un símil que considero conveniente es el que propondría Zorzona Somolinos (2020), quien argumenta que “una IA débil sabe jugar al ajedrez y una IA fuerte se plantea que entre el ajedrez y las damas hay cierto parecido” (p. 97).

Regresando al tema de la trazabilidad o black box effect, también conocido como efecto de caja negra, resulta complejo atribuir responsabilidad a cualquier agente cuando las pruebas no sean identificables o, directamente, no se logren obtener por cuenta del damnificado. Por ello, en el 2022 se redactó una propuesta de directiva en materia de responsabilidad civil extracontractual que vendría a facilitar esa labor probatoria para la valoración del petitum de la reclamación.

La línea que seguía la propuesta de directiva para conseguir aliviar la labor probatoria consistió en presunciones iuris tantum, sin llegar a invertir la carga de la prueba sobre la figura del empresario, profesional u operador. Estaríamos ante la aplicación del régimen de responsabilidad subjetiva, el cual facilita la exhibición de la prueba a través de mecanismos de obligado cumplimiento como la potestad de los órganos jurisdiccionales, a petición del demandante, de solicitar a cualquiera de los posibles responsables cualquier tipo de prueba o información relevante para la determinación de la responsabilidad.

Pese a la no inversión de la carga de la prueba, sí es cierto que la propuesta distingue, de nuevo, con base en el riesgo del sistema. Si nos encontráramos frente a un sistema de IA de alto riesgo, el demandante solamente tendría que demostrar el incumplimiento de las obligaciones estipuladas en la Ley de IA, mientras que, si se tratara de sistemas de IA que no son de alto riesgo, la labor probatoria sería mayor, por lo que debería probar que el presunto responsable se haya entrometido de manera significativa en las condiciones de operación del sistema de IA o cuando el demandado tuviera la responsabilidad y la capacidad de determinar las condiciones de funcionamiento del sistema y no lo hubiera hecho (artículo 4).

4. INTELIGENCIA ARTIFICIAL Y MECANISMOS ALTERNATIVOS
DE PROTECCIÓN

4.1. Sistema de registro y matriculación

Como podemos observar, la posibilidad de que un damnificado por un sistema de IA no resulte atendido en su pretensión a la hora de presentar su reclamación puede resultar probable. Por ello, la Unión Europea está trazando mecanismos de garantía paralelas a la delimitación de un régimen de responsabilidad civil. Una de las propuestas ha sido la de crear, de manera armonizada, un sistema de registro para sistemas inteligentes con su correspondiente matrícula específica identificativa (Resolución del 16 de febrero del 2017, recomendación 59.e).

La finalidad de dicho registro es aparentemente clara: permitir a terceros identificar a cada uno de los sistemas con los que se relacionen, para poder tener la suficiente seguridad jurídica en caso de que se produzca algún daño. Faltaría determinar quién tendría la obligación de inscribir a estos sistemas en el registro, así como la forma y el contenido de este, o qué sistemas, por su baja peligrosidad, no merecerían ser inscritos o serían de inscripción voluntaria.

4.2. Definiendo la siniestralidad de la IA

Otra iniciativa legislativa, para determinados sistemas de IA calificados de alto riesgo, consistiría en la obligación de contratar un seguro obligatorio de responsabilidad civil (Resolución del 20 de octubre del 2020). Debemos entender este seguro como aquel por el cual el asegurador se obliga civilmente a responder por los daños causados por su asegurado frente a las reclamaciones a las que pueda enfrentarse (Calzada Conde, 2005, p. 18). Este seguro obligatorio podría traer soluciones consigo al tener en cuenta todas las “responsabilidades potenciales en cadena” (Resolución de 16 de febrero del 2017, principio 57).

Este seguro, de forma preventiva, debería cubrir todos los importes de las indemnizaciones que se plantean en la Ley de IA, puesto que la incertidumbre relacionada con los riesgos de la IA podría suponer que las primas de seguro fuesen prohibitivamente elevadas, lo que se convertiría así en un obstáculo para la investigación y la innovación.

Por otra parte, establecer un mecanismo de compensación comunitario, respaldado por fondos públicos, no constituye la forma apropiada de abordar posibles lagunas en el ámbito de los seguros. La falta de datos históricos sobre los riesgos asociados a los sistemas de IA, junto con la incertidumbre sobre su desarrollo futuro, complica que el sector de seguros pueda diseñar productos nuevos o adaptados. La Comisión de la Unión Europea debería colaborar estrechamente con el sector de seguros para explorar formas de utilizar datos y modelos innovadores con el fin de crear pólizas de seguro que ofrezcan una cobertura adecuada a un costo asequible.

Una comparación merecedora de comentario es la que ha realizado García Teruel (2020) sobre el régimen legal del Real Decreto Legislativo 6/2015, del 30 de octubre, que aprueba el Texto Refundido de la Ley sobre Tráfico, Circulación de Vehículos a Motor y Seguridad Vial (p. 18), en el que señala que, ante un accidente, el conductor sería el responsable de los daños causados, ya que es la “persona que maneja el mecanismo de dirección o va al mando de un vehículo, está a cargo de los mandos adicionales de los vehículos destinados al aprendizaje de la conducción o es el responsable de uno o varios animales” (Real Decreto Legislativo 6/2015, Anexo I). Este concepto de conductor o de conducción dejaría de tener sentido en el momento en que se permita el uso de vehículos sin conductor, como los vehículos autónomos de nivel cinco (totalmente autónomos) en los cuales la persona transportada no será quien realmente conduzca.

En los casos en que se dé autonomía, pero que esta no sea total, es decir, se combine autonomía e intervención humana, las compañías de seguros se verían obligadas a adaptar sus pólizas, ya que el riesgo solo debería cubrir hasta el grado de intervención humana. Según informes de la Dirección General de Tráfico (2013), el 90 % de los accidentes se deben a fallas o errores humanos, que se podrían haber evitado si se hubiera actuado de manera responsable. En caso de que el coche autónomo llegara a funcionar como se espera, esta siniestralidad podría quedar reducida, lo que obligaría a moldear las primas a las compañías aseguradoras.

4.3. Fondos de compensación y fondos especiales

Otra herramienta que se plantea en la Resolución del 16 de febrero del 2017 es la creación de un fondo de compensación (principio 59, literal b). El objeto de dicho fondo de compensación sería limitar la responsabilidad del fabricante, programador o usuario-propietario a la cuantía aportada a este. La resolución plantea si debe crearse un fondo común para todos los sistemas o uno individual para cada categoría de IA. Se debe discutir también el régimen de dicho fondo, es decir, si debe ser una aportación inicial y única o si, por el contrario, debe ser periódica.

Estos fondos de compensación supondrían una ventaja al permitir que el fabricante, el programador, el propietario o el usuario puedan beneficiarse de un régimen de responsabilidad limitada si contribuyen a un fondo de compensación que garantice la compensación de daños o perjuicios causados por un sistema inteligente. Sin embargo, no podrían prescindir de la contratación de un seguro, que vendría a complementarse armoniosamente con el fondo de compensación.

También podrían crearse fondos especiales de indemnización para cubrir aquellos casos excepcionales en los que un sistema de IA, que aún no esté clasificado como sistema de IA de alto riesgo y que, por tanto, todavía no esté asegurado, cause daños o perjuicios. A fin de garantizar la seguridad jurídica y cumplir la obligación de informar a todas las personas potencialmente afectadas, la existencia del fondo especial de indemnización, así como las condiciones para acogerse a él, deben hacerse públicas de manera clara y exhaustiva.

Por último, se ha planteado la posibilidad de crear un patrimonio para los robots con el que responder. Aunque en muchos casos la responsabilidad por daños y perjuicios pueda hacerse in natura, en otras ocasiones la obligación será pecuniaria y, sin patrimonio del obligado, es difícil resarcir daños o perjuicios. Gómez-Riesco Tabernero de Paz (2018) apunta esta dificultad señalando que se podría entender el patrimonio del robot como un equivalente de su “propio valor económico” (p. 115). Esta sería una posible solución para los casos en que un robot tenga que indemnizar a terceros, pero en mi opinión, no es suficiente ya que, en muchos casos, el precio o valor del sistema de IA no será suficiente para hacer frente a toda la indemnización.

5. CONCLUSIONES

La más que necesaria regulación en materia de IA debe quedar bien delimitada para satisfacer todas las cuestiones legales que puedan surgir en los próximos y cercanos años. Hemos observado cómo un sistema inteligente, dotado de un alto grado de autonomía, sería capaz de dar una respuesta impredecible ante diversas situaciones.

La falta de transparencia y la problemática de la trazabilidad presentan los dos principales interrogantes en el ámbito de la responsabilidad civil, puesto que, en muchas ocasiones, nos encontramos con productos que son el resultado de gigantescas cadenas de producción en las que intervienen múltiples sujetos, quienes crean un valor asociado al riesgo.

Otro punto que se ha debatido es la posibilidad de crear una personalidad jurídica electrónica o para los sistemas inteligentes, lo cual sería una innovación significativa, capaz de revolucionar la tradicional personalidad jurídica de las personas físicas y de las personas societarias, algo similar a lo que ocurrió en la antigua Roma con el casum sentit dominus respecto de la esclavitud, o a lo que presenta nuestro Código Civil en relación con la responsabilidad noxal en los artículos 1903 y siguientes.

La Unión Europea está trabajando en delimitar una regulación lo suficientemente garantista con los consumidores, pero también, con los productores y fabricantes de sistemas inteligentes que, en el caso de establecer demasiadas trabas legales, podría significar el detrimento de la innovación científica.

Independientemente de los regímenes que se han planteado —de responsabilidad objetiva, de responsabilidad subjetiva y de responsabilidad por creación de riesgo—, se han expuesto algunas herramientas de garantía que podrían beneficiar a los intereses tanto de posibles víctimas como de los productores, a través de seguros obligatorios de responsabilidad civil, de fondos de compensación y de la creación de un registro para robots. Sin embargo, estas iniciativas no recaen preceptivas en la mayoría de los casos y son meros planteamientos; por ello, también debe seguir profundizándose en el entendimiento técnico de estos complejos sistemas para conseguir plantear otras alternativas jurídicas, hasta ahora, no suscitadas.

REFERENCIAS

Albaladejo, M. (2001). Derecho civil I: introducción y parte general. J. M. Bosch.

Atienza, M. (2012). El sentido del derecho. Ariel.

Audiencia Provincial de Vizcaya. (2008). Sentencia 416/2008. 18 de julio del 2008. https://www.poderjudicial.es/search/indexAN.jsp.

Aznar Domingo, A., & Domingues Villaroel, M. (2022). La responsabilidad civil derivada del uso de inteligencia artificial. El Derecho. https://elderecho.com/responsabilidad-civil-derivada-uso-inteligencia-artificial

Barona Vilar, S. (2021). Algoritmización del derecho y de la justicia. De la inteligencia artificial a la smart justice. Tirant lo Blanch.

Battaglia, F., Carnevale, A., & Shah, H. (2012). D6.2 guidelines on regulations robotics. Robolaw. https://www.academia.edu/29409832/D6_2_Guidelines_on_Regulating_Robotics

Boden, M. A. (2017). Inteligencia artificial. Turner.

Calo, R. (2017). Artificial intelligence policy: A primer and roadmap. UC Davis Law Review, 51, 399-435. https://lawreview.law.ucdavis.edu/archives/51/2/
artificial-intelligence-policy-primer-and-roadmap

Calzada Conde, M. Á. (2005). El seguro de responsabilidad civil. Aranzadi.

Campos Madrigal, J. E. (2021). Reflexiones filosóficas sobre la inteligencia artificial, moralidad y consecuencias jurídicas de la IA. En G. Dobratanich Ana (Dir.), Derecho y nuevas tecnologías (pp. 193-207). La Ley.

Caro Coria, D. C. (2022). Compliance, neurociencias e inteligencia artificial. En E. Demetrio Crespo, M. de la Cuerda Martín & F. García de la Torre García (Coords.), Derecho penal y comportamiento humano. Avances desde la neurociencia y la inteligencia artificial (pp. 633-656). Tirant lo Blanch.

Catalán, M. (2015). Reflexiones sobre el desarrollo tecnológico y el deber de reparar los daños ignorados en la conducción del proceso productivo. En C. E. Moreno More (Coord.), Estudios sobre la responsabilidad civil. Legales Ediciones.

Cerdio Herrán, J. A. (2021). Con culpa o sin ella: responsabilidad para sistemas inteligentes. En G. Dobratanich Ana (Dir.), Derecho y nuevas tecnologías (pp. 69-100). La Ley.

Código Civil francés [CCF]. Ley del 30 Ventôse del Año XII. Arts. 1382, 1383. 21 de marzo de 1804 (Francia). https://www.legifrance.gouv.fr/codes/texte_lc/LEGITEXT000006070721/

Comisión Nacional de los Mercados y la Competencia. (2016). E/CNMC/004/15 Estudio sobre los nuevos modelos de prestación de servicios y la economía colaborativa. https://docs.google.com/document/d/1n65MjUaTmRLuZCqTIlqyWvobVqreR-iAzsz1mhxy2y0/

Comporti, M. (1965). Esposizione al pericolo e responsabilità civile. Morano.

Comunidad Económica Europea. (1985, 25 de julio). Directiva 85/374/CEE. Diario Oficial de las Comunidades Europeas. https://eur-lex.europa.eu/legal-content/ES/TXT/PDF/?uri=CELEX:31985L0374

Cuena Casas, M. (2020). La contratación a través de plataformas intermediarias en línea. Cuadernos de Derecho Transnacional, 12(2), 283-348. https://doi.org/10.20318/cdt.2020.5612

Dans, E. (2017). The danger of artificial intelligence. https://www.enriquedans.com/2017/07/los-temibles-peligros-de-la-inteligencia-artificial.html

Díaz Alabart, S. (2018). Robots y responsabilidad civil. Reus.

Díez-Picazo, L. (1979). La responsabilidad civil hoy. Anuario de Derecho Civil, 32(4), 727-738. https://revistas.mjusticia.gob.es/index.php/ADC/article/view/3131

Díez-Picazo, L. (1992). Sistema de derecho civil: El contrato en general. La relación obligatoria. Contratos en especial. Cuasicontratos. Enriquecimiento sin causa. Responsabilidad extracontractual. Tecnos.

Díez-Picazo, L. (1999). Derecho de daños. Civitas.

Díez-Picazo, L. (2008). El escándalo del daño moral. Civitas.

Dirección General de Tráfico. (2013). Cuestiones de seguridad vial, conducción eficiente, medio ambiente y contaminación. https://ugtspmadrid.es/wp-content/uploads/2019/02/Seguridad-V%C3%ADal-Conducci%C3%B3n-Eficiente-Medio-ambiente-y-Contaminaci%C3%B3n.-DGT.pdf

Ercilla García, J. (2018). Aproximación a una personalidad jurídica específica para los robots. Revista Derecho y Nuevas Tecnologías, (47), 1-34. https://dialnet.unirioja.es/servlet/articulo?codigo=6559920

Fontana, É. (2020). Introdução aos algoritmos de aprendizagem supervisionada. Universidade Federal do Paraná. https://fontana.paginas.ufsc.br/files/2018/03/apostila_ML_pt2.pdf

García Teruel, R. M. (2020). El derecho de daños ante la inteligencia artificial y el machine learning. En Libro homenaje a Juan Roca Guillamón (pp. 1-31). Universidad de Murcia. https://doi.org/10.13140/RG.2.2.29004.23682

Gómez Abeja, L. (2022). Inteligencia artificial y derechos fundamentales. En F. H. Llano Alonso (Dir.), Inteligencia artificial y filosofía del derecho (pp. 91-112). Laborum.

Gómez-Riesco Tabernero de Paz, J. (2018). Los robots y la personalidad civil extracontractual. En M. Barrios Andrés (Dir.), Derecho de los robots (pp. 107-130). Wolters Kluwer.

Gutiérrez Santiago, P. (2006). Responsabilidad civil por productos defectuosos. Cuestiones prácticas. Comares.

International Organization for Standardization. (2021). Robotics — Vocabulary (ISO 8373:2021). https://www.iso.org/standard/75539.html

Izquierdo Grau, G. (2023). Software y algoritmos defectuosos: algunas consideraciones sobre la responsabilidad del desarrollador. Revista de Internet, Derecho y Política, (38), 1-12. https://doi.org/10.7238/idp.v0i38.406131

Justiniano. (1874). El Digesto del emperador Justiniano (B. A. Rodríguez de Fonseca, Trad.; t. III). Imprenta de Ramón Vicente. (Obra original publicada ca. 533 d. C.)

Laín Moyano, G. (2021). Responsabilidad en inteligencia artificial: señoría, mi cliente robot se declara inocente. AIS: Ars Iuris Salmanticensis, 9(1), 197-232.
https://doi.org/10.14201/AIS202191197232

Levin, S., & Wong, J. C. (2018, 19 de marzo). Self-driving Uber kills Arizona woman in first fatal crash involving pedestrian. The Guardian. https://www.theguardian.com/technology/2018/mar/19/uber-self-driving-car-kills-woman-arizona-tempe

Llamas Pombo, E. (2018). Comentario de la Sentencia del Tribunal Supremo de 24 de mayo de 2018 (299/2018). En M. Yzquierdo Tolsada (Dir.), Comentarios a las sentencias de unificación de doctrina. Vol. 10: civil y mercantil (pp. 397-410). Dykinson.

Marchena, M. (2023). Inteligencia artificial y jurisdicción penal. https://confilegal.com/wp-content/uploads/2023/03/INTELIGENCIA-ARTIFICIAL-INGRESO-MARCHENA-REAL-ACADEMIA-DE-DOCTORES-.pdf

Martínez Mercadal, J. J. (2018). Vehículos autónomos y derecho de daños. Revista de la Facultad de Ciencias Económicas, (20), 53-73. https://doi.org/10.30972/rfce.0203267

Muñoz Vela, J. M. (2022). Retos, riesgos, responsabilidad y regulación de la inteligencia artificial. Aranzadi.

Parlamento Europeo. (2020, 5 de octubre). Informe con recomendaciones destinadas a la Comisión sobre un régimen de responsabilidad civil en materia de inteligencia artificial (2020/2014(INL)). https://www.europarl.europa.eu/doceo/document/A-9-2020-0178_ES.pdf

Pérez Luño, A. E. (2002). Internet y los derechos humanos. Derecho y Conocimiento: Anuario Jurídico sobre la Sociedad de la Información y del Conocimiento, (2), 101-121. https://dialnet.unirioja.es/servlet/articulo?codigo=995024

Pérez Luño, A. E. (2007). La universalidad de los derechos humanos. Derecho y Cambio Social, 4(9), 95-110. https://dialnet.unirioja.es/servlet/articulo?codigo=5506153

Plaza Penadés, J. (2022). Cuestiones actuales de la inteligencia artificial y el big data. En L. M. Martínez Velencoso & M. Sancho López (Coords.), Protección jurídica de la privacidad: inteligencia artificial, salud y contratación (pp. 45-70). Aranzadi.

Real Decreto 1/2007 del 2007. Por el que se aprueba el texto refundido de la Ley General para la Defensa de los Consumidores y Usuarios y otras leyes complementarias. 16 de noviembre del 2007. Boletín Oficial del Estado. https://www.boe.es/buscar/act.php?id=BOE-A-2007-20555

Real Decreto 6/2015 del 2015. Por el cual se aprueba el Texto Refundido de la Ley sobre Tráfico, Circulación de Vehículos a Motor y Seguridad Vial. 30 de octubre del 2015. Boletín Oficial del Estado. https://www.boe.es/buscar/act.php?id=BOE-A-2015-11722

Resolución del 16 de febrero del 2017 [Parlamento Europeo]. Por el cual se brindan recomendaciones destinadas a la Comisión sobre normas de derecho civil sobre robótica (2015/2103(INL)). 16 de febrero del 2017. https://eur-lex.europa.eu/legal-content/ES/TXT/PDF/?uri=CELEX:52017IP0051

Resolución del 20 de octubre del 2020 [Parlamento Europeo]. Por el cual se brindan recomendaciones destinadas a la Comisión sobre un régimen de responsabilidad civil en materia de inteligencia artificial (2020/2014(INL)). 20 de octubre del 2020. https://eur-lex.europa.eu/legal-content/ES/TXT/PDF/?uri=CELEX:52020IP0276&from=EL

Resolución del 14 de marzo del 2017 [Parlamento Europeo]. Por el cual se trata las implicaciones de los macrodatos en los derechos fundamentales: privacidad, protección de datos, no discriminación, seguridad y aplicación de la ley (2016/2225(INI)). 14 de marzo del 2017. https://www.europarl.europa.eu/doceo/document/TA-8-2017-0076_ES.html?redirect

Taleb, N. (2011). El cisne negro: el impacto de lo altamente improbable. Paidós.

Tribunal Supremo. (1998, 30 de julio). Sentencia 800/1998. https://www.poderjudicial.es/search/indexAN.jsp

Tribunal Supremo. (2000, 6 de abril). Sentencia 346/2000. https://www.poderjudicial.es/search/indexAN.jsp

Tribunal Supremo. (2001, 22 de febrero). Sentencia 139/2001. https://www.poderjudicial.es/search/indexAN.jsp

Tribunal Supremo. (2003, 17 de julio). Sentencia 752/2003 https://www.poderjudicial.es/search/indexAN.jsp

Tribunal Supremo. (2004, 29 de octubre). Sentencia 1030/2004. https://www.poderjudicial.es/search/indexAN.jsp

Tribunal Supremo. (2005, 6 de septiembre). Sentencia 650/2005. https://www.poderjudicial.es/search/indexAN.jsp

Tribunal Supremo. (2005, 21 de octubre). Sentencia 758/2005. https://www.poderjudicial.es/search/indexAN.jsp

Tribunal Supremo. (2006, 5 de enero). Sentencia 1054/2006. https://www.poderjudicial.es/search/indexAN.jsp

Tribunal Supremo. (2006, 29 de marzo). Sentencia 331/2006. https://www.poderjudicial.es/search/indexAN.jsp

Tribunal Supremo. (2006, 26 de septiembre). Sentencia 927/2006. https://www.poderjudicial.es/search/indexAN.jsp

Tribunal Supremo. (2007, 22 de febrero). Sentencia 149/2007. https://www.poderjudicial.es/search/indexAN.jsp

Tribunal Supremo. (2007, 30 de marzo). Sentencia 420/2007. https://www.poderjudicial.es/search/indexAN.jsp

Tribunal Supremo. (2008, 16 de diciembre). Sentencia 1222/2008. https://www.poderjudicial.es/search/indexAN.jsp

Tribunal Supremo. (2018, 24 de mayo). Sentencia 299/2018. https://www.poderjudicial.es/search/indexAN.jsp

Villar Fuentes, I. (2020). Tratamiento de las consecuencias algorítmicas en la UE. En D. M. Ramírez Carvajal & J. E. Vásquez Santamaría (Coords.), Debates contemporáneos del proceso en un mundo que se transforma (pp. 180-198). Universidad Católica Luis Amigo, Fondo Editorial.

Woolcott, O. (2007). La naturaleza de la responsabilidad del productor a la luz del Derecho norteamericano. Prolegómenos, derechos y valores, 10(19), 125-148. https://www.redalyc.org/articulo.oa?id=87601908

Zorzona Somolinos, A. (2020). Breves apuntes a la propuesta de reglamento europeo sobre responsabilidad civil en IA. Revista de Derecho, Empresa y Sociedad, (17), 95-101. https://investigacion.unir.net/documentos/6698079322fcdc10ba7fcc2f

Zurita Martín, I. (2020). La responsabilidad civil por los daños causados por robots inteligentes como productos defectuosos. Reus.

1. 1 El modelo mencionado implica una diversidad de formas de producción y consumo que evolucionan constantemente, en el que los participantes comparten activos, bienes o servicios poco utilizados de manera innovadora, ya sea mediante transacciones monetarias o no, utilizando plataformas digitales y, especialmente, internet.

2. 2 La Resolución del Parlamento Europeo, del 14 de marzo del 2017 —sobre las implicaciones de los macrodatos en los derechos fundamentales: privacidad, protección de datos, no discriminación, seguridad y aplicación de la ley—, establece en su considerando A que el término big data o macrodato hace referencia a “la recopilación, análisis y acumulación constante de grandes cantidades de datos, incluidos datos personales … objeto de un tratamiento automatizado mediante algoritmos informáticos y avanzadas técnicas de tratamiento de datos, utilizando tanto datos almacenados como datos transmitidos en flujo continuo, con el fin de generar correlaciones, tendencias y patrones”.

3. 3 Esta noticia supuso un antes y un después para la opinión pública. Se pudo comprobar el potencial riesgo que engloban algunos sistemas de IA con cierto grado de autonomía y su capacidad para causar daños y perjuicios. Fue a partir de este momento cuando Estados Unidos se comenzó a preocupar por la inminente entrada de ciertos sistemas inteligentes.

4. 4 También, Dans (2017) señala que “reclamar regulación sobre una tecnología o conjunto de tecnologías antes de que se desarrollen es un problema. La regulación parte de una base muy problemática, y es que muy pocas veces se desarrolla de la manera adecuada y tiende a basarse en la restricción de posibilidades” (párr. 4).

5. 5 El Código francés de 1804 consagró el trinomio de culpa, daño y responsabilidad en los artículos 1382 y 1383. Según el artículo 1382 (actual artículo 1240): “Tout fait quelconque de l’homme, qui cause à autrui un dommage, oblige celui par la faute duquel il est arrivé à le réparer [Todo hecho del hombre que causa a otro un daño obliga a aquel por cuya culpa ocurrió a repararlo]”.

6. 6 Artículo 2 del CCF: “El que por acción u omisión causa daño a otro, interviniendo culpa o negligencia, está obligado a reparar el daño causado”.

7. 7 El autor razonaría que “el concepto de responsabilidad se había ido ampliando hasta admitir supuestos de responsabilidad sin culpa” (Atienza, 2012, p. 120).

8. 8 El artículo 139 del TRLGDCU establece: “El perjudicado que pretenda obtener la reparación de los daños causados tendrá que probar el defecto, el daño y la relación de causalidad entre ambos”. La labor probatoria de la víctima, en este caso consumidores, se va a limitar a probar el nexo causal entre el daño y el producto, siendo irrelevante la concurrencia de la culpa del productor, quien pudo o no haber causado el daño.

9. 9 Artículo 7.e) de la Directiva 85/374/CEE: “O que, en el momento en que el producto fue puesto en circulación, el estado de los conocimientos científicos y técnicos no permitía descubrir la existencia del defecto”. Artículo 140.e) del TRLGDCU: “Que el estado de los conocimientos científicos y técnicos existentes en el momento de la puesta en circulación no permitía apreciar la existencia del defecto”.

10. 10 Artículo 4 de la Directiva 85/374/CEE, relativa a la aproximación de las disposiciones legales, reglamentarias y administrativas de los Estados miembros en materia de responsabilidad por los daños causados por productos defectuosos: “El perjudicado deberá probar el daño, el defecto y la relación causal entre el defecto y el daño”.

11. 11 Considera la profesora Zurita Martín (2020) que, con la comentada causa de exoneración, se pretendería resguardar al empresario al facilitar, “permeabilizando” la introducción al mercado de elementos que puedan representar riesgos y ocasionar daños al usuario. En ausencia de evidencia de culpa por parte del empresario, este podría quedar exento de la obligación de reparación.

12. 12 La Audiencia Provincial de Vizcaya, en la Sentencia 416/2008 del 18 julio de 2008, establece lo siguiente: “Tradicionalmente los mayores problemas al analizar la concurrencia de los presupuestos o requisitos que hemos señalado deben concurrir para el éxito de una acción de reclamación con base en la denominada responsabilidad extracontractual, se han centrado en la prueba o acreditación de la «culpa», habiendo adoptado la jurisprudencia de nuestro Tribunal Supremo diferentes soluciones para tratar de dar respuesta a los problemas que la misma planteaba, habiendo llegado a aceptar soluciones cuasi objetivas sobre la imputación de responsabilidad, máxime en supuestos de determinadas actividades consideradas peligrosas o de riesgo, consecuencia del desarrollo tecnológico de la sociedad, acudiendo al principio de que debe ponerse a cargo de quien obtiene el provecho la indemnización del quebranto sufrido por un tercero, concretando estas soluciones en una inversión de la carga de la prueba, en contra del demandado como causante del daño. Ahora bien, por fuertes que sean estas tendencias objetivadoras de la responsabilidad, que sobre todo se observa en la existencia de daños con ocasión de actividades generadoras de riesgo, recogidas en las diferentes sentencias dictadas por nuestro Tribunal Supremo, sin embargo, se sigue insistiendo por este Tribunal en que desde luego el art. 1902 de Código Civil no permite configurar una responsabilidad exclusivamente fundada en la creación del riesgo, requiriéndose al menos la concurrencia de un principio de prueba, al menos indiciaria, que permita atribuir a uno de los sujetos intervinientes en el resultado dañoso, alguna responsabilidad en él mismo”. El Tribunal Supremo dictamina en el mismo sentido en las sentencias 346/2000, del 6 de abril del 2000; 650/2005, del 6 de septiembre del 2005; 927/2006, del 26 de septiembre del 2006; y 149/2007, del 22 de febrero del 2007. En esta última se recuerda que la jurisprudencia no ha aceptado el cambio en la carga de la prueba ni la inferencia basada en la evidencia, a menos que existan riesgos extraordinarios, daños desproporcionados o falta de cooperación por parte del causante del daño, especialmente cuando está obligado a proporcionar explicaciones debido a sus circunstancias profesionales u otras. En casos en los que la causa de un daño no represente un riesgo extraordinario, no procederá la inversión de la carga de la prueba con respecto a la culpabilidad en la producción de los daños, ya que implica asumir los riesgos generales de la vida como criterio de imputación del daño al individuo afectado. Así lo ha venido señalando la jurisprudencia del Tribunal Supremo en las sentencias 758/2005, del 21 de octubre del 2005; 752/2003, del 17 de julio del 2003; y 1054/2006, del 5 de enero del 2006, entre otras.

13. 13 Según la sentencia 139/2001, del 22 de febrero del 2001, en el fundamento jurídico quinto, la Sala fija que a sensu contrario demuestra cómo la conducta del recurrente no está desprovista del reproche culpabilístico a fin de la aquiliana del 1902, porque no cumplió con sus elementales deberes de asegurar o conservar el perfecto estado o cuidar o mantener en debida forma la barandilla de madera por donde se cayó el demandante, circunstancias, pues, que apartan la asepsia de culpabilidad o razón de ser de la responsabilidad por riesgo por conductas neutras.

14. 14 Según lo establecido por el Tribunal Supremo en las sentencias 420/2007, del 30 de marzo del 2007; 1030/2004, del 29 de octubre del 2004; 800/1998, del 30 de julio de 1998; 1222/2008, del 16 de diciembre del 2008; 331/2006, del 29 de marzo del 2006; y 299/2018, del 24 de mayo del 2018. Esta última, en el fundamento de derecho 2, deja bastante claro quién soporta la carga de la prueba en casos en los que el responsable fuera beneficiario de un riesgo: “El principio de la responsabilidad por riesgo, el cual, si bien no es de carácter plenamente objetivo, produce precisamente el efecto de obligar a quien presta el servicio generador del riesgo a acreditar el verdadero origen del siniestro”.

15. 15 El informe del Parlamento Europeo destaca, en la página 11, la importancia de establecer los parámetros de obtención de información almacenada en los sistemas de IA para la determinación del daño, la proporcionalidad de los agentes interventores, y otros, con la finalidad de recabar pruebas por parte de la autoridad investigadora de cada proceso, debiendo garantizarse el respeto y la protección del derecho a la intimidad y la protección de datos de carácter personal.

16. 16 Según el artículo 335.1 de la Ley 1/2000, de 7 de enero, sobre enjuiciamiento civil: “Cuando sean necesarios conocimientos científicos, artísticos, técnicos o prácticos para valorar hechos o circunstancias relevantes en el asunto o adquirir certeza sobre ellos, las partes podrán aportar al proceso el dictamen de peritos que posean los conocimientos correspondientes o solicitar, en los casos previstos en esta ley, que se emita dictamen por perito designado por el tribunal”.

17. 17 El autor deja claro que determinar quién pudo ser responsable en supuestos de múltiples intervinientes en el proceso de creación de una IA acción “será una cuestión técnica determinar si el responsable civil ha sido el propietario, el operario o el fabricante”.

18. 18 La profesora señala que “habría que determinar si deben responder por todos los daños o solo de los que provengan por su actividad, pudiendo a este respecto pensar en un posible reparto de culpas, corresponsabilidad solidaria o acción de culpa por su exclusivo responsable” (Barona Vilar, 2021, p. 180).

19. 19 En el artículo 11 se fija esta responsabilidad solidaria: “Los Estados miembros garantizarán que, cuando dos o más operadores económicos sean responsables de los mismos daños con arreglo a la presente directiva, puedan ser considerados responsables conjunta y solidariamente”.

20. 20 El artículo 4.3 establece la fuerza mayor como única causa de exoneración en los supuestos que medien sistema de IA de alto riesgo: “Los operadores no serán responsables si el daño o perjuicio ha sido provocado por un caso de fuerza mayor”.

21. 21 El artículo 8.2 delimita los casos en los que no será responsable el operador o productor: “El sistema de IA se activó sin su conocimiento, al tiempo que se tomaron todas las medidas razonables y necesarias para evitar dicha activación fuera del control del operador, o se observó la diligencia debida a través de la realización de las siguientes acciones: la selección de un sistema de IA adecuado para las tareas y las capacidades pertinentes, la correcta puesta en funcionamiento del sistema de IA, el control de las actividades y el mantenimiento de la fiabilidad operativa mediante la instalación periódica de todas las actualizaciones disponibles”. Del mismo modo como ocurre con los sistemas de alto riesgo, se contempla la fuerza mayor como causa de exoneración: “El operador no será responsable si el daño o perjuicio ha sido provocado por un caso de fuerza mayor”.