Núm. 53 (2023): Número abierto
Artículos

Los Sistemas de Armas Autónomos Letales y el Derecho Internacional Humanitario en la Guerra de Ucrania

Antonio Pedro Marin Martinez
Universidad de León
Biografía
Publicado 28 junio 2023

Palabras clave:

ciberguerra, Derecho Internacional Humanitario, Guerra de Ucrania, Manuales de Tallinn, Sistemas de Armas Autónomos Letales
Cómo citar
Marin Martinez, A. P. (2023). Los Sistemas de Armas Autónomos Letales y el Derecho Internacional Humanitario en la Guerra de Ucrania. Relaciones Internacionales, (53), 71–90. https://doi.org/10.15366/relacionesinternacionales2023.53.004

Resumen

En el marco de las Relaciones Internacionales, los Sistemas de Armas Autónomos Letales (SAAL), que utilizan tecnologías asociadas con la Inteligencia Artificial (IA) y la robótica, están cada vez más presentes en el campo operacional de la Guerra de Ucrania. Desgraciadamente, en muchas instancias, el progreso científico no siempre viene acompañado de una adecuación paralela del Derecho Internacional, especialmente con relación al Derecho Internacional Humanitario (DIH). Además, el rápido desarrollo de la investigación tecnológica sigue expandiendo las capacidades operativas de dichos sistemas sin la intervención humana, estresando aún más una adecuada implementación del Derecho en el ámbito militar y más concretamente con relación a la ciberguerra. Una situación que se agudiza ante la retirada de la Federación Rusa de diversos organismos internacionales. Dado que no se vislumbra un nuevo tratado internacional en un futuro cercano, se tendrá que ir a un conflicto armado con el marco jurídico existente y no con el que se desearía tener. Ahora bien, en la actualidad no existe consenso entre los Estados sobre cómo aplicar, en la práctica, el Derecho Internacional existente en el ciberespacio. Para tratar de soslayar dicha problemática, habría que explorar la capacidad que tienen algunos instrumentos jurídicos no vinculantes ya desarrollados, como en el caso de los Manuales de Tallinn de la Organización del Tratado del Atlántico Norte (OTAN) o los principios rectores formulados por el Grupo General de Expertos (GGE) sobre los SAAL, dentro del marco de la Convención sobre Prohibiciones o Restricciones del Empleo de Ciertas Armas Convencionales que puedan considerarse excesivamente nocivas o de efectos indiscriminados (CCW) de las Naciones Unidas (NU), para servir como base para futuros acuerdos internacionales vinculantes. También se debería estudiar la posibilidad de desarrollar nuevos algoritmos, con la utilización de la IA, que permitiesen el desarrollo de los denominados Agentes Morales Artificiales (AMA), que pudiesen ser implementados en los SAAL como instrumentos de control de su utilización, basado en las directrices establecidas por el DIH.

Descargas

Los datos de descargas todavía no están disponibles.

Citas

Agencias (04.05.2023). Ucrania derriba sobre Kyiv un dron propio que perdió el control. La Vanguardia.

Allen, C., Varner, G. y Zinser, J. (2000). Prolegomena to any future artificial moral agent. Journal of Experimental Theory in Artificial Intelligence, 12, 251-261.

Anderson, K. y Waxman, M. (2013). Law and Ethics for Autonomous Weapon Systems: Why a Ban Won't Work and How the Laws of War Can. Stanford University, The Hoover Institution, Jean Perkins Task Force on National Security & Law Essay Series.

Article 36 (2016). Meaningful Human Control, Artificial Intelligence and Autonomous Weapons. Briefing paper for delegates at the Convention on Certain Conventional Weapons (CCW) Meeting of Experts on Lethal Autonomous Weapons Systems (LAWS).

Asaro, P.M. (2012). On banning autonomous weapon systems: human rights, automation, and the dehumanization of lethal decision-making. International Review of the Red Cross, 94 (886), 687-709.

Bajak, F. (05.01.2023). From Ukraine to Mideast, a new dawn breaks for killer robots. The Arab Weekly.

Berkebile, R. (2018). New Generation Warfare and the Just War Tradition. InterAgency Journal, 9 (3), 17-33.

Bertrand, N. (09.02.2023). Exclusiva: los drones iraníes parecen contener explosivos modificados para causar el máximo daño a la infraestructura de Ucrania, revela informe. CNN.

Boothby, W. (2009). Weapons and the Law of Armed Conflict. Oxford University Press.

Boulinin V. y Verbruggen, M. (2017). Article 36 Reviews. Dealing with the challenges posed by emerging technologies. Stockholm International Peace Research Institute.

Comisión Europea (2018). Comunicación de la Comisión al Parlamento Europeo, al Consejo Europeo, al Consejo, al Comité Económico Social Europeo y al Comité de las Regiones: Inteligencia artificial para Europa. Recuperado de: https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=COM%3A2018%3A237%3AFIN (19.05.2023).

Comisión Europea (2019). Directrices éticas para una IA fiable. Recuperado de: https://op.europa.eu/es/publication-detail/-/publication/d3988569-0434-11ea-8c1f-01aa75ed71a1 (05.03.2023).

Comité Internacional de la Cruz Roja (CICR) (06.12.2007). Resoluciones de la XXX Conferencia Internacional de la Cruz Roja y de la Media Luna Roja. Recuperado de: https://www.icrc.org/es/doc/resources/documents/misc/30-international-conference-resolutions-061207.htm (02.03.2023).

Comité Internacional de la Cruz Roja (CICR) (2016). Manual de Normas Internacionales que rigen las operaciones militares. Recuperado de: https://www.icrc.org/es/publication/manual-de-normas-internacionales-que-rigen-las-operaciones-militares (03.03.2023).

Comité Internacional de la Cruz Roja (CICR) (2019). International humanitarian law and the challenges of contemporary armed conflicts: Recommitting to protection in armed conflict on the 70th anniversary of the Geneva Conventions. Recuperado de: https://international-review.icrc.org/es/articulos/el-derecho-internacional-humanitario-y-los-desafios-de-los-conflictos-armados-0 (16.06.2023).

Comité Internacional de la Cruz Roja (CICR) (2022). Armed Conflict in Ukraine: a recap of basic IHL rules. Recuperado de: https://blogs.icrc.org/law-and-policy/2022/03/17/armed-conflict-in-ukraine-a-recap-of-basic-ihl-rules/ (03.03.2023).

Departamento de Defensa de los Estados Unidos de América (2023). Autonomy in Weapon Systems (DoD Directive 3000.09 de 15 de enero de 2023). Departamento de Defensa de USA.

Droege, C. (17.03.2022). Armed Conflict in Ukraine: a recap of basic IHL rules. Recuperado de: https://blogs.icrc.org/law-and-policy/2022/03/17/armed-conflict-in-ukraine-a-recap-of-basic-ihl-rules/ (03.03.2023).

Funpadem (2023). Comunicado de la Conferencia Latinoamericana y del Caribe sobre el impacto social y humanitario de las armas autónomas. Recuperado de: https://conferenciaawscostarica2023.com/wp-content/uploads/2023/02/ES-Comunicado-de-La-Ribera-de-Belen-Costa-Rica-23-y-24-de-febrero-2023.pdf (05.03.2023).

Geib, R. y Lahmann, H. (2012). Cyber warfare: applying the principle of distinction in an interconnected space. Israel Law Review, 45 (3), 381-399.

Genckturk, A. (04.03.2023). EU announces center for prosecution of Russia's ‘crime of aggression against Ukraine’. Anadolu Agency.

Hambling, D. (01.11.2022). Will Ukraine deploy lethal autonomous drones against Russia? NewScientist.

Henckaerts, J.M. y Doswald-Beck, L. (2005). Customary International Humanitarian Law (Volume II). Comité Internacional de la Cruz Roja y Cambridge University Press.

Heyns, C. (2016). Autonomous Weapons Systems: living a dignified life and dying a dignified death. En Bhuta, N.C., Beck, S., Gei?, R., Hin-Yan, L., Kre?, C. (Eds.). Autonomous Weapons Systems. Law, Ethics, Policy (pp. 4-20). Cambridge University Press.

Human Rights Watch (2020). New Weapons, Proven Precedent. Elements of and models for a Treaty on Killer Robots. Recuperado de: https://www.hrw.org/report/2020/10/20/new-weapons-proven-precedent/elements-and-models-treaty-killer-robots (05.03.2023).

Human Rights Watch (2022). Ukraine: Russian Attacks on Energy Grid Threaten Civilians. Recuperado de: https://www.hrw.org/news/2022/12/06/ukraine-russian-attacks-energy-grid-threaten-civilians (05.03.2023).

Hurka, T. (2005). Proportionality in the Morality of War. Philosophy & Public Affairs, 33 (1), 34-66.

Instituto de las Naciones Unidas para la Investigación del Desarme (2017). The Weaponization of Increasingly Autonomous Technologies: Autonomous Weapon Systems and Cyber Operations. Recuperado de: https://unidir.org/publication/weaponization-increasingly-autonomous-technologies-autonomous-weapon-systems-and-cyber (18.05.2023).

Jensen, E.T. (2017). The Tallinn Manual 2.0: Highlights and Insights. Georgetown Journal of International Law, 48, 735-778.

Kelsey, J.T. (2008). Hacking into International Humanitarian Law: The Principles of Distinction and Neutrality in the Age of Cyber Warfare. Michigan Law Review, 106 (7), 1427-1452.

Konert, A. y Balcerzak, T. (2021). Military autonomous drones (UAVs) - from fantasy to reality. Legal and Ethical implications. Transitation Research Procedia, 59, 292-299.

Lawand, K. (2006). A Guide to the Legal Review of New Weapons, Means and Methods of Warfare. Measures to Implement Article 36 of Additional Protocol I of 1977. Recuperado de: https://shop.icrc.org/a-guide-to-the-legal-review-of-new-weapons-means-and-methods-of-warfare-pdf-en (04.03.2023).

Lewis, D. (28.09.2020). An Enduring Impasse on Autonomous Weapons. Recuperado de: https://www.justsecurity.org/72610/an-enduring-impasse-on-autonomous-weapons/ (05.03.2023).

Liu, H.Y. (2016). Defense and Military Policy: Autonomous Weapons Systems. En Berfield, D.A. y Dubnick, M.J. (Eds.). Encyclopedia of Public Administration and Public Policy (pp. 833-838). Taylor and Francis.

Marín Martínez, A.P. (2021). Ciberética, Agentes Morales Artificiales y Responsabilidad Jurídica Internacional. (Tesis Doctoral). Universidad de León.

Ministerio de Asuntos Exteriores, Unión Europea y Cooperación (2016). Rusia retira su firma del Estatuto de Roma – Comunicado 324. Recuperado de: https://www.exteriores.gob.es/gl/Comunicacion/Comunicados/Paginas/2016_COMUNICADOS/20161117_COMU324.aspx (18.05.2023).

Ministerio de Asuntos Exteriores, Unión Europea y Cooperación (09.04.2018). Intervención del Embajador de España. Delegado ante la Conferencia de Desarme. Convención sobre Ciertas Armas Convencionales. Grupo de Expertos Gubernamentales sobre Sistemas de Armas Autónomos Letales. Recuperado de: https://reachingcriticalwill.org/images/documents/Disarmament-fora/ccw/2018/gge/statements/9April_Spain.pdf (05.03.2023).

Molina Mateos, J.M. (2015). Aproximación jurídica al ciberespacio. Instituto Español de Estudios Estratégicos. Recuperado de: https://www.ieee.es/Galerias/fichero/docs_opinion/2015/DIEEEO57-2015_Aproximacion_Juridica_Ciberespacio_MolinaMateos.pdf (16.06.2023).

Naciones Unidas (1977). Protocolo I adicional a los Convenios de Ginebra de 1949 relativo a la protección de las víctimas de los conflictos armados internacionales. Recuperado de: https://www.icrc.org/es/document/protocolo-i-adicional-convenios-ginebra-1949-proteccion-victimas-conflictos-armados-internacionales-1977#NORMA-FUNDAMENTAL (02.03.2023).

Naciones Unidas (2017). Towards a definition of lethal autonomous weapons systems (CCW/GGE.1/2017/WP.3). Grupo Gubernamental de Expertos sobre los SAAL de la Convención sobre Prohibiciones o Restricciones del Empleo de Ciertas Armas Convencionales que puedan considerarse excesivamente nocivas o de efectos indiscriminados (CCW). Recuperado de: https://undocs.org/ccw/gge.1/2017/WP.3 (19.05.2023).

Naciones Unidas (2018a). Position Paper submitted by China (CCW/GGE.1/2018/WP.7). Grupo Gubernamental de Expertos sobre los SAAL de la Convención sobre Prohibiciones o Restricciones del Empleo de Ciertas Armas Convencionales que puedan considerarse excesivamente nocivas o de efectos indiscriminados (CCW). Recuperado de: https://documents.un.org/prod/ods.nsf/home.xsp (19.05.2023).

Naciones Unidas (2018b). Russia's Approaches to the Elaboration of a Working Definition and Basic Functions of Lethal Autonomous Weapons Systems in the Context of the Purposes and Objectives of the Convention (CCW/GGE.1/2018/WP.6). Grupo Gubernamental de Expertos sobre los SAAL de la Convención sobre Prohibiciones o Restricciones del Empleo de Ciertas Armas Convencionales que puedan considerarse excesivamente nocivas o de efectos indiscriminados (CCW). Recuperado de: https://meetings.unoda.org/meeting/29751/documents (19.05.2023).

Naciones Unidas (2019a). Reunión de las Altas Partes Contratantes en la Convención sobre Prohibiciones o Restricciones del Empleo de Ciertas Armas Convencionales que Puedan Considerarse Excesivamente Nocivas o de Efectos Indiscriminados (CCW/MSP/2019/9). Convención sobre Prohibiciones o Restricciones del Empleo de Ciertas Armas Convencionales que puedan considerarse excesivamente nocivas o de efectos indiscriminados (CCW). Recuperado de: https://documents-dds-ny.un.org/doc/UNDOC/GEN/G19/343/67/PDF/G1934367.pdf?OpenElement (03.03.2023).

Naciones Unidas (2019b). Potential Opportunities and limitations of military uses of lethal autonomous weapons systems. Submitted by the Russian Federation (CCW/GGE.1/2019/3). Grupo Gubernamental de Expertos sobre los SAAL de la Convención sobre Prohibiciones o Restricciones del Empleo de Ciertas Armas Convencionales que puedan considerarse excesivamente nocivas o de efectos indiscriminados (CCW). Recuperado de: https://www.unog.ch/80256EDD006B8954/(httpAssets)/489AAB0F44289865C12583BB0063B977/$file/GGE+LAWS+2019_Working+Paper+Russian+Federation_E.pdf (05.03.2023).

Naciones Unidas (2019c). Implementing International Humanitarian Law in the Use of Autonomy in Weapon Systems, submitted by the United States of America (CCW/GGE.1/2019/WP.5). Grupo Gubernamental de Expertos sobre los SAAL de la Convención sobre Prohibiciones o Restricciones del Empleo de Ciertas Armas Convencionales que puedan considerarse excesivamente nocivas o de efectos indiscriminados (CCW). Recuperado de: https://undocs.org/en/CCW/GGE.1/2019/WP.5 (05.03.2023).

Naciones Unidas (2021). Considerations for the report of the Group of Governmental Experts of the High Contracting Parties to the Convention on Certain Conventional Weapons on emerging technologies in the area of Lethal Autonomous Weapons Systems on the outcomes of the work undertaken in 2017-2021. Submitted by the Russian Federation (CCW/GGE.1/2021/WP.1). Grupo Gubernamental de Expertos sobre los SAAL de la Convención sobre Prohibiciones o Restricciones del Empleo de Ciertas Armas Convencionales que puedan considerarse excesivamente nocivas o de efectos indiscriminados (CCW). Recuperado de: https://daccess-ods.un.org/tmp/9194323.4205246.html (19.05.2023).

Naciones Unidas (2022). Working paper of the Russian Federation ‘Application of International Law to Lethal Autonomous Weapons Systems (LAWS) (CCW/GGE.1/2022/WP.9). Grupo Gubernamental de Expertos sobre los SAAL de la Convención sobre Prohibiciones o Restricciones del Empleo de Ciertas Armas Convencionales que puedan considerarse excesivamente nocivas o de efectos indiscriminados (CCW). Recuperado de: https://meetings.unoda.org/ccw/convention-certain-conventional-weapons-group-governmental-experts-2022 (19.05.2023).

Naciones Unidas (2023a). Draft articles on autonomous weapon systems – prohibitions and other regulatory measures on the basis of international humanitarian law (“IHL”) (CCW/GGE.1/2023/WP.4/Rev.2). Grupo Gubernamental de Expertos sobre los SAAL de la Convención sobre Prohibiciones o Restricciones del Empleo de Ciertas Armas Convencionales que puedan considerarse excesivamente nocivas o de efectos indiscriminados (CCW). Recuperado de: https://docs-library.unoda.org/Convention_on_Certain_Conventional_Weapons_-Group_of_Governmental_Experts_on_Lethal_Autonomous_Weapons_Systems_(2023)/CCW_GGE1_2023_WP.4_US_Rev2.pdf (19.05.2023).

Naciones Unidas (2023b). Concept of Activities of the Armed Forces of the Russian Federation in the Development and Use of Weapons Systems with Artificial Intelligence Technologies (CCW/GGE.1/2023/WP.5). Grupo Gubernamental de Expertos sobre los SAAL de la Convención sobre Prohibiciones o Restricciones del Empleo de Ciertas Armas Convencionales que puedan considerarse excesivamente nocivas o de efectos indiscriminados (CCW). Recuperado de: https://docs-library.unoda.org/Convention_on_Certain_Conventional_Weapons_-Group_of_Governmental_Experts_on_Lethal_Autonomous_Weapons_Systems_(2023)/CCW_GGE1_2023_WP.5_0.pdf (19.05.2023).

Noor, O. (2022). Discusiones en la ONU sobre sistemas de armas autónomos bloqueados por Rusia, pero los estados indican el camino a seguir. Recuperado de: https://www.stopkillerrobots.org/es/noticias/Discusiones-en-la-ONU-sobre-sistemas-de-armas-aut%C3%B3nomos-bloqueados-por-Rusia%2C-pero-los-estados-indican-el-camino-a-seguir./ (04.03.2022).

Parlamento Europeo (2007). Documento de Trabajo sobre las implicaciones institucionales y jurídicas del recurso a los instrumentos jurídicos no vinculantes o de Derecho indicativo (soft law). Recuperado de: https://www.europarl.europa.eu/meetdocs/2004_2009/documents/dt/653/653346/653346es.pdf (18.05.2023).

Parlamento Europeo (2022). Russia's war on Ukraine: Timeline of cyber-attacks. Recuperado de: https://www.europarl.europa.eu/thinktank/en/document/EPRS_BRI(2022)733549 (03.03.2022).

Picard, R. (1997). Affective Computing. MIT Media Lab. Technical Report 231.

Roff, H.M. (2015). Lethal Autonomous Weapons and Jus Ad Bellum proportionality. Case Western Reserve Journal of International Law, 47-1, 37-52.

Sartor, G. y Omicini, A. (2016). The autonomy of technological systems and responsabilities for their use. En Bhuta, N. (Ed.). Autonomous Weapons Systems: Law, Ethics, Policy (pp. 39-74). Cambridge University Press.

Schmitt, M.N. (2013). Tallinn Manual on the International Law Applicable to Cyber Warfare. Cambridge University Press.

Schmitt, M.N. (2017). Tallinn Manual 2.0 on the International Law Applicable to Cyber Operations – Prepared by the National Group of Experts at the invitation of the NATO-CCDCOE. Cambridge University Press.

Sehrawat, V. (2017). Autonomous weapon system: Law of armed conflict (LOAC) and other legal challenges. Computer Law and Security Review, 33, 38-56.

Slijper, F. (2018). Where to draw the line? Increasing autonomy in weapon systems – Technology and trends. Recuperado de: https://www.paxforpeace.nl/publications/all-publications/where-to-draw-the-line (05.03.2023).

Ticehurst, R. (1997). La cláusula de Martens y el derecho de los conflictos armados. Revista Internacional de la Cruz Roja, 131-141.

Tribunal Penal Internacional para la Ex Yugoslavia (2000). Final Report to the Prosecutor by the Committee Established to Review the NATO Bombing Campaign Against the Federal Republic of Yugoslavia. Recuperado de: https://www.icty.org/en/press/final-report-prosecutor-committee-established-review-nato-bombing-campaign-against-federal (03.03.2023).

Türk, V. (2023). Türk deplores human cost of Russia’s war against Ukraine as verified civilian casualties for last year pass 21,000. Recuperado de: https://www.ohchr.org/en/press-releases/2023/02/turk-deplores-human-cost-russias-war-against-ukraine-verified-civilian (03.03.2023).

Wagner, M. (2014). The Dehumanization of International Humanitarian Law: Legal, Ethical and Political Implications of Autonomous Weapons Systems. Vanderbilt Journal of Transitional Law, 47, 1371-1424.

Wallach, W. (2010). Robot minds and human ethics: the need for a comprehensive model of moral decision making. Ethics and Information Technology, 12, 243-250.

Watkin, K. (2016). Fighting at the Legal Boundaries: Controlling the Use of Force in Contemporary Conflict. Oxford University Press.

Westhues, A. (2020). Sistemas de Armas Autónomas Letales: ¿Autónomas o Automatizadas? (Trabajo de Fin de Máster). Instituto Universitario General Gutiérrez Mellado.

Young, J.E., Sharlin, E. y Igarasghi, T. (2011). What is mixed reality anyway? Considering the boundaries of mixed reality in the context of robots. En Wang, X. (Ed.). Mixed Reality and Human Robot Interaction (pp. 1-11). Springer.