|  UAM Ediciones  |  UAM
Revista Jurídica Universidad Autónoma de Madrid

Núm. 46 (2022)
Artículos

RESPONSABILIDAD CIVIL DERIVADA DEL USO DE SISTEMAS DE IA. SITUACIÓN ACTUAL Y RETOS PARA UN FUTURO REGLAMENTO EUROPEO

PDF
  • GONZALO CAMPOS RIVERA
DOI: https://doi.org/10.15366/rjuam2021.46.007
Publicado febrero 24, 2023

Palabras clave:

inteligencia artificial, internet de las cosas, responsabilidad civil, personalidad juridica, caja negra
Cómo citar
CAMPOS RIVERA, G. (2023). RESPONSABILIDAD CIVIL DERIVADA DEL USO DE SISTEMAS DE IA. SITUACIÓN ACTUAL Y RETOS PARA UN FUTURO REGLAMENTO EUROPEO. Revista Jurídica Universidad Autónoma De Madrid, (46). https://doi.org/10.15366/rjuam2021.46.007

Derechos de autor 2023 Revista Jurídica Universidad Autónoma de Madrid

Creative Commons License

Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial-SinDerivadas 4.0.

Resumen

La irrupción de los sistemas de inteligencia artificial (IA) en la vida humana ha llevado al cuestionamiento del actual modelo de responsabilidad civil previsto en la Directiva 85/374 y su normativa de transposición para los daños derivados de productos defectuosos. La posibilidad de que los sistemas de IA puedan desarrollar una «razón» algorítmica supone un importante reto jurídico para los Estados Miembro. Como alternativa, proponemos la adaptación del marco normativo europeo de responsabilidad civil a través de un modelo ecléctico basado en la aminoración de la carga de la prueba del defecto por parte del damnificado, la cuasi-objetivación de la responsabilidad del productor y la gestión de riesgos de producción. Por otro lado, estimamos pertinente la creación de personalidades jurídicas ad hoc a efectos de imputación de responsabilidad civil al sistema de inteligencia artificial que permita a los productores no asumir este tipo de daños.

PDF

Descargas

Los datos de descargas todavía no están disponibles.

Citas

ARISTÓTELES, P. Libro primero, capítulo II. De la esclavitud.

AQUILINO YÁÑEZ, A., «Presunción y contraprueba del daño», Diario La Ley, núm. 8948, 2017. Disponible en <http://www.aquilinoyanez.net/presuncion-y-contraprueba-del-dano/>. [Consultado el 10/09/2022].

BASOZABAL ARRUE, X., Responsabilidad extracontractual objetiva: parte general, 1.º ed., Madrid (Agencia Estatal Boletín Oficial del Estado), 2015. Disponible en < https://www.boe.es/biblioteca_juridica/abrir_pdf.php?id=PUB-PR-2015-39>. [Consultado el 10/09/2022].

BATHAEE, Y., «The Artificial Intelligence Black Box and the Failure of Intent and Causation», Harvard Journal of Law & Technology, vol. 31, núm. 2, 2018, pp. 890-938.

BERCOVITZ RODRÍGUEZ-CANO, R., «Ámbito de aplicación», en: BERCOVITZ RODRÍGUEZ-CANO, R., (coord.), en: Comentarios al Texto Refundido de la Ley General para la Defensa de los Consumidores y Usuarios y otras leyes complementarias, ed., Pamplona (Aranzadi), 2009, pp. 107-109.

BUCKLAND., The Roman law of slavery: The condition of the slave in private law from Augustus to Justinian, Cambridge (University Press), 1908. Disponible en <https://socialsciences.mcmaster.ca/econ/ugcm/3ll3/buckland/RomanLawSlavery.pdf>. [Consultado el 10/09/2022].

CHALMERS, D., «The singularity: A philosophical analysis», Journal of Conciousness Studies, núm. 9-10, pp. 7-65. Disponible en <https://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.228.3745&rep=rep1&type=pdf>. [Consultado el 10/09/2022].

COMISIÓN EUROPEA. «Propuesta de Reglamento de 21 de abril de 2021 del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Artificial Intelligence Act) y se modifican determinados actos legislativos de la Unión». Disponible en: <https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=celex:52021PC0206>. [Consultado el 10/09/2022].

COMISIÓN EUROPEA., «Informe de la Comisión sobre la aplicación de la Directiva 85/374 relativa a la responsabilidad por productos defectuosos», Bruselas, 31.1.2001 COM (2000) 893 final. Disponible en <https://eur-lex.europa.eu/LexUriServ/LexUriServ.do?uri=COM:2000:0893:FIN:ES:PDF>. [Consultado el 10/09/2022].

COMISIÓN EUROPEA, «Internal Market, Industry, Entrepreneurship and SMEs: European industrial strategy, Advanced technologies». Disponible en <https://ec.europa.eu/growth/industry/strategy_es>. [Consultado el 10/09/2022].

COMISIÓN EUROPEA., «Libro Verde. La responsabilidad civil por producto defectuoso, Bruselas, 28.07.1999 COM (1999) 396 final», p. 19-20. Disponible en <https://op.europa.eu/o/opportal-service/download-handler?identifier=95a1cf9d-5a74-43c3-bd8a-3b407c29709e&format=pdf&language=es&productionSystem=cellar&part=>. [Consultado el 10/09/2022].

COMISIÓN EUROPEA, «Anexo de Propuesta de reglamento del Parlamento Europeo y del Consejo, por el que se establece el programa Europa Digital para el período 2021-2027, Bruselas, 6.6.2018 COM (2018) 434 final», p. 2, Objetivo específico 2. Inteligencia artificial. Disponible en <https://eur-lex.europa.eu/resource.html?uri=cellar:321918fd-6af4-11e8-9483-01aa75ed71a1.0007.02/DOC_2&format=PDF>. [Consultado el 10/09/2022].

COMISIÓN EUROPEA, «Comunicación de la Comisión al Parlamento Europeo, al Consejo, al Comité Económico y Social Europeo y al Comité de las Regiones, Una Estrategia para el Mercado Único Digital de Europa, Bruselas, 6.5.2015 COM (2015) 192 final». Disponible en <https://eur-lex.europa.eu/legal-content/ES/TXT/PDF/?uri=CELEX:52015DC0192&from=HU>. [Consultado el 10/09/2022]

COMISIÓN EUROPEA, «Comunicación de la Comisión al Parlamento Europeo, al Consejo, al Comité Económico y Social Europeo y al Comité de las Regiones relativa a la revisión intermedia de la aplicación de la Estrategia para el Mercado Único Digital, Un mercado único digital conectado para todos, Bruselas, 10.5.2017 COM (2017) 228 final», p. 25. Disponible en <https://ec.europa.eu/transparency/documents-register/api/files/COM(2017)228_0/de00000000201617?rendition=false>. [Consultado el 10/09/2022].

COMISIÓN EUROPEA, «EU road safety policy framework 2021 – 2030, Next steps towards “Vision Zero”». Disponible en <https://op.europa.eu/o/opportal-service/download-handler?identifier=d7ee4b58-4bc5-11ea-8aa5-01aa75ed71a1&format=pdf&language=en&productionSystem=cellar&part=>. [Consultado el 10/09/2022].

COMISIÓN DE LAS COMUNIDADES EUROPEAS, «Informe de la Comisión al Consejo, al Parlamento Europeo y al Comité Económico y Social Europeo, Tercer informe sobre la aplicación de la Directiva 85/374/CEE del Consejo de 25 de julio de 1985, relativa a la aproximación de las disposiciones legales, reglamentarias y administrativas de los Estados miembros en materia de responsabilidad por los daños causados por productos defectuosos, modificada por la Directiva 1999/34/CE del Parlamento Europeo y del Consejo, de 10 de mayo de 1999, Bruselas, 14.9.2006 COM(2006) 496 final», p. 7. Disponible en <https://eur-lex.europa.eu/legal-content/ES/TXT/PDF/?uri=CELEX:52006DC0496>. [Consultado el 10/09/2022].

COMISIÓN EUROPEA, «Informe de la Comisión al Parlamento Europeo, al Consejo y al Comité Económico y Social Europeo, Cuarto informe sobre la aplicación de la Directiva 85/374/CEE del Consejo de 25 de julio de 1985, relativa a la aproximación de las disposiciones legales, reglamentarias y administrativas de los Estados miembros en materia de responsabilidad por los daños causados por productos defectuosos, modificada por la Directiva 1999/34/CE del Parlamento Europeo y del Consejo, de 10 de mayo de 1999, Bruselas, 8.9.2011 COM (2011) 547 final», pp. 7-8. Disponible en <https://eur-lex.europa.eu/legal-content/ES/TXT/PDF/?uri=CELEX:52011DC0547&from=PL>. [Consultado el 10/09/2022].

COMISIÓN EUROPEA, «Informe de la Comisión al Parlamento Europeo, al Consejo y al Comité Económico y Social Europeo sobre la aplicación de la Directiva del Consejo relativa a la aproximación de las disposiciones legales, reglamentarias y administrativas de los Estados miembros en materia de responsabilidad por los daños causados por productos defectuosos (85/374/CEE), Bruselas, 7.5.2018 COM (2018) 246 final», p. 10. Disponible en <https://eur-lex.europa.eu/legal-content/ES/TXT/PDF/?uri=CELEX:52018DC0246&from=FR>. [Consultado el 10/09/2022].

COMISIÓN EUROPEA, «Informe de la Comisión al Parlamento Europeo, al Consejo y al Comité Económico y Social Europeo, Informe sobre las repercusiones en materia de seguridad y responsabilidad civil de la inteligencia artificial, el internet de las cosas y la robótica, Bruselas, 19.2.2020 COM (2020) 64 final», p. 2. Disponible en <https://eur-lex.europa.eu/legal-content/ES/TXT/PDF/?uri=CELEX:52020DC0064&from=ES>. [Consultado el 10/09/2022].

COMISIÓN EUROPEA, «Iniciativa sobre Responsabilidad civil. Adaptación de las normas de responsabilidad a la era digital y a la inteligencia artificial», 30 de junio de 2021. Disponible en <https://ec.europa.eu/info/law/better-regulation/have-your-say/initiatives/12979-Responsabilidad-civil-Adaptacion-de-las-normas-de-responsabilidad-a-la-era-digital-y-a-la-inteligencia-artificial_es>. [Consultado el 10/09/2022].

COMISIÓN EUROPEA, «Libro Blanco Hoja de ruta hacia un espacio único europeo de transporte: por una política de transportes competitiva y sostenible, Bruselas, 28.3.2011 COM (2011) 144 final», p. 20. Disponible en <https://eur-lex.europa.eu/legal-content/ES/TXT/PDF/?uri=CELEX:52011DC0144&from=es>. [Consultado el 10/09/2022].

COMISIÓN EUROPEA., «Libro Blanco sobre la inteligencia artificial - un enfoque europeo orientado a la excelencia y la confianza, 19.2.2020 COM (2020) 65 final», p. 2. Disponible en <https://ec.europa.eu/info/sites/default/files/commission-white-paper-artificial-intelligence-feb2020_es.pdf>. [Consultado el 10/09/2022].

COMISIÓN EUROPEA, «Report from the Commission to the European Parliament, the Council and the European Economic and Social Committee on the Application of the Council Directive on the approximation of the laws, regulations, and administrative provisions of the Member Estates concerning liability for defective products (85/374/EEC), SWD (2018) 158 final», Commission staff working document, p. 25. Disponible en <https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52018DC0246>. [Consultado el 10/09/2022].

DIRECCIÓN GENERAL DE JUSTICIA Y CONSUMIDORES (COMISIÓN EUROPEA), «Report on Liability for Artificial Intelligence and other emerging technologies», 27 de noviembre de 2019, p. 45. Disponible en < https://op.europa.eu/en/publication-detail/-/publication/1c5e30be-1197-11ea-8c1f-01aa75ed71a1/language-en >. [Consultado el 10/09/2022].

COMITÉ ECONÓMICO Y SOCIAL EUROPEO (CESE), «Dictamen del Comité Económico y Social Europeo sobre la “Inteligencia artificial: las consecuencias de la inteligencia artificial para el mercado único (digital), la producción, el consumo, el empleo y la sociedad”, 526º Pleno del cese de 31 de mayo y 1 de junio de 2017 (2017/C 288/01)», p. 1, Conclusiones y recomendaciones 1.1. Disponible en <https://eur-lex.europa.eu/legal-content/ES/TXT/PDF/?uri=CELEX:52016IE5369&from=BG>. [Consultado el 10/09/2022].

DE CHIARA, A. et al., «Car accidents in the age of robots», International Review of Law and Economics, núm. 68, 2021, pp. 1-14. Disponible en <https://www.sciencedirect.com/science/article/pii/S0144818821000466>. [Consultado el 10/09/2022].

DÍAZ ALABART, S., Robots y responsabilidad civil, 1.ª ed., Madrid (Reus), 2018.

DÍEZ-PICAZO, L., «La culpa en la responsabilidad civil extracontractual», Anuario de Derecho Civil, 2001, pp. 1009-1027. Disponible en <https://www.boe.es/biblioteca_juridica/anuarios_derecho/abrir_pdf.php?id=ANU-C-2001-30100901028>. [Consultado el 10/09/2022].

DIGESTO., De diversis regulis iuris antiqui (D. 50, 17), Libro quincuagésimo, Título 17.

ERCILLA GARCÍA, J., Normas de derecho civil y robótica. Robots inteligentes, personalidad jurídica, responsabilidad civil y regulación, 1.ª ed. Cizur Menor (Thomson Reuters Aranzadi), 2018.

FONDAZIONE ROSSELLI., «Analysis of the Economic Impact of the Development Risk Clause as provided by Directive 85/374/EEC on Liability for Defective Products», Study for the European Commission, 2004, p. 132-133. Disponible en <http://www.studiolegalepalmigiano.it/wp-content/uploads/2013/12/dev-risk-clause-study_final-report.pdf>. [Consultado el 10/09/2022].

GÓMEZ LIGÜERRE. C., GARCÍA-MICÓ, T.G., «Liability for Artificial Intelligence and other emerging technologies», InDret, núm. 1, 2020, p. 501-511. Disponible en <1524.pdf (indret.com)>. [Consultado el 10/09/2022].

GUTIÉRREZ DAVID, M.E., «Administraciones inteligentes y acceso al código fuente y los algoritmos públicos. Conjurando riesgos de cajas negras decisionales», Derecom, núm. 30, 2021, pp. 143-228. . Disponible en <https://dialnet.unirioja.es/descarga/articulo/7980499.pdf>. [Consultado el 10/09/2022].

HERNÁNDEZ DÍAZ-AMBRONA, M. D., La herencia yacente, Barcelona ((J.M. Bosch Editor)), 2006. Disponible en <https://vlex.es/source/herencia-yacente-1151>. [Consultado el 10/09/2022].

HUERGO LORA, A., DÍAZ GONZÁLEZ, G. M., «La regulación de los algoritmos», Revista Técnica Tributaria, Vol. 4, núm. 131, 2020, p. 285-285.

IBM CLOUD EDUCATION, «Machine learning», IBM Cloud Learn Hub, entrada de blog de 15 de julio de 2020. Disponible en <https://www.ibm.com/es-es/cloud/learn/machine-learning#:~:text=Machine%20learning%20es%20una%20rama,mejora%20gradual%20de%20su%20precisi%C3%B3n.>. [Consultado el 10/09/2022].

JUNKER, J. C., «Directrices políticas para la próxima Comisión Europea — Un nuevo comienzo para Europa: mi Agenda en materia de empleo, crecimiento, equidad y cambio democrático, publicado en fecha de 15 de julio de 2014. Segunda prioridad “A Connected Digital Single Market”». Disponible en <https://ec.europa.eu/archives/juncker-commission/priorities/index_en.htm>.

KAMINSKY, M. E., «Binary governance: lessons from the GDPR´s approach to algorithmic accountability». Southern California Law Review, núm. 92, 2019, p. 1557. Disponible en <https://scholar.law.colorado.edu/cgi/viewcontent.cgi?article=2374&context=faculty-articles>. [Consultado el 10/09/2022].

LACRUZ MANTECÓN, M., «Potencialidades de los robots y capacidades de las personas», Revista general de legislación y jurisprudencia, núm. 1, 2019, pp. 85-129.

«La inteligencia artificial», Syvalue. Disponible en <http://syvalue.com/la-inteligencia-artificial/>. [Consultado el 10/09/2022].

LÓPEZ DEL MORAL, M., QUESADA LÓPEZ, I. M., ANTÓN SANCHO, M., «Inteligencia artificial y responsabilidad civil: ¿es realmente necesario un cambio del Ordenamiento Jurídico?», Diario La Ley, núm. 47, 29 de enero de 2021, Disponible en: <https://diariolaley.laleynext.es/dll/2021/01/29/inteligencia-artificial-y-responsabilidad-civil-es-realmente-necesario-un-cambio-del-ordenamiento-juridico>.

McKINSEY GLOBAL INSTITUTE, «Disruptive technologies: Advances that will transform life, business, and the global economy; McKinsey Global Institute, 2013». Disponible en <https://www.mckinsey.com/~/media/mckinsey/business%20functions/mckinsey%20digital/our%20insights/disruptive%20technologies/mgi_disruptive_technologies_executive_summary_may2013.pdf>. [Consultado el 10/09/2022];

PARLAMENTO EUROPEO, «Informe de 27 de enero de 2017 con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica, (2015/2103(INL))», p. 3, Considerando B. Disponible en <https://www.europarl.europa.eu/doceo/document/A-8-2017-0005_ES.pdf>. [Consultado el 10/09/2022].

PARLAMENTO EUROPEO, «Informe con recomendaciones destinadas a la Comisión sobre un régimen de responsabilidad civil en materia de inteligencia artificial (2020/2014(INL))». 5 de octubre de 2020, pp. 14-15, Principio Rector 8. Disponible en <https://www.europarl.europa.eu/doceo/document/A-9-2020-0178_ES.pdf>. [Consultado el 10/09/2022]

PARLAMENTO EUROPEO, «Informe con recomendaciones destinadas a la Comisión sobre un marco de los aspectos éticos de la inteligencia artificial, la robótica y las tecnologías conexas (2020/2012(INL)), Bruselas, a 8 de octubre de 2020, A9-0186/2020, apartado 23». Disponible en <https://www.europarl.europa.eu/doceo/document/A-9-2020-0186_ES.pdf>. [Consultado el 10/09/2022]

PARLAMENTO EUROPEO, «Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica (2015/2103(INL)), Normas de Derecho civil sobre robótica, P8_TA(2017)0051», p. 6, Considerando AI. Disponible en <https://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_ES.pdf>. [Consultado el 10/09/2022].

PARLAMENTO EUROPEO, «Resolución del Parlamento Europeo, de 20 de octubre de 2020 con recomendaciones destinadas a la Comisión sobre un régimen de responsabilidad civil en materia de inteligencia artificial (2020/2014(INL), Régimen de responsabilidad civil en materia de inteligencia artificial». Disponible en <https://eur-lex.europa.eu/legal-content/ES/TXT/PDF/?uri=CELEX:52020IP0276&from=ES>. [Consultado el 10/09/2022].

PARRA LUCÁN, M. A., «Ámbito de aplicación», en: BERCOVITZ RODRÍGUEZ-CANO, R., (coord.), en: Comentarios al Texto Refundido de la Ley General para la Defensa de los Consumidores y Usuarios y otras leyes complementarias, ed., Pamplona (Aranzadi), 2009, pp. 77-295.

PARRA LUCÁN, M. A., La protección del consumidor frente a los daños: responsabilidad civil del fabricante y del prestador de servicios, 1.ª ed., Madrid (Reus), 2011.

PETIT, M., «Por una crítica de la razón algorítmica. Estado de la cuestión sobre la inteligencia artificial, su influencia en la política y su regulación», Quaderns del CAC, Vol. 21, núm. 44, 2018, pp. 5-15. Disponible en <https://www.cac.cat/sites/default/files/2018-08/Q44_ES.pdf>. [Consultado el 10/09/2022].

PORAT, A., STEIN, A., Indeterminate Causation and Apportionment of Damages: An Essay On Holtby and Allen, Oxford Journal of Legal Studies, (Oxford University Press) Vol. 23, núm. 4, 2003, pp. 667-702.

LOVELLS, «Product liability in the European Union. A report for the European Commission», MARKT/2001/11/D, 2003. Disponible en <https://empresarias.camara.es/estaticos/upload/0/001/1478.pdf>. [Consultado el 10/09/2022].

ROGEL VILDE, C., «Robots y personas». Revista general de legislación y jurisprudencia, núm. 1, 2018, pp. 79-90.

RUDA GONZÁLEZ, A., «La responsabilidad por cuota de mercado a juicio» Indret, núm.º 147, 2003. Disponible en <https://raco.cat/index.php/InDret/article/download/82562/107408>. [Consultado el 10/09/2022].

SALVADOR CODERCH, P., SOLÉ FELIÚ, J., SEUBA TORREBLANCA, J. C., LUNA YERGA, A., RUIZ GARCÍA, J. A., CARRASCO MARÍN, J., «Los riesgos de desarrollo». Madrid, 26-28 de febrero de 2001, Indret 1/200. Disponible en <https://raco.cat/index.php/InDret/article/download/81057/105532>. [Consultado el 10/09/2022].

SCHNEIDER, J-P y WENDEHORST, C., «Response to the public consultation on the White Paper: On artificial Intelligence – A European approach to excellence and trust, COM (2020) 65 final», European Law Institute, p. 4. Disponible en . [Consultado el 10/09/2022].

SEUBA TORREBLANCA., «Concepto de producto», en: SALVADOR CODERECH, P., GOMEZ POMAR, F., (coord.) en: Tratado de responsabilidad civil del fabricante, Pamplona (Thomson/Civitas), 2008, p. 105-134.

TABLADA, F., «Inteligencia artificial: Definición, tipos y aplicaciones», Grupo Atico34, entrada de blog de 18 de junio de 2020. Disponible en <https://protecciondatos-lopd.com/empresas/inteligencia-artificial/#Memoria_limitada>. [Consultado el 10/09/2022].

TAPIA HERMIDA, A., «La responsabilidad civil derivada del uso de la inteligencia artificial y su aseguramiento», Revista de la Asociación Española de Abogados Especializados en Responsabilidad Civil y Seguro, núm. 76, 2020, pp. 80-104.

WAGNER, G., «Robot liability», SSRN, 14 de julio de 2018, p. 15. Disponible en <https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3198764>. [Consultado el 10/09/2022].

WOLTERS KLUWER., «Buen padre de familia», Guías Jurídicas Wolters Kluwer. Disponible en <https://guiasjuridicas.wolterskluwer.es/Content/Documento.aspx?params=H4sIAAAAAAAEAMtMSbF1jTAAAUNDc2MLtbLUouLM_DxbIwMDCwNzA7BAZlqlS35ySGVBqm1aYk5xKgDRNX52NQAAAA==WKE>. [Consultado el 10/09/2022]

YZQUIERDO TOLSADA, M., Responsabilidad civil extracontractual: parte general: delimitación y especies, elementos, efectos o consecuencias. 6.º ed., Madrid (Dykinson), 2020.

ZURITA MARTÍN, I., «Las propuestas de reforma legislativa del Libro Blanco europeo sobre inteligencia artificial en materia de seguridad y responsabilidad civil», Actualidad Jurídica Iberoamericana, núm. 14, 2021, p. 481. Disponible en <https://idibe.org/wp-content/uploads/2021/03/11._Isabel_Zurita_pp._438-487.pdf>. [Consultado el 10/09/2022].