Automatización y autonomía moral: ¿puede el desarrollador de la inteligencia artificial salvar sus circunstancias?
DOI:
https://doi.org/10.26439/en.lineas.generales2026.n015.9057Palabras clave:
inteligencia artificial , circunstancia, deseo, ética, responsabilidad moralResumen
El uso cada vez mayor de la inteligencia artificial (IA) generativa plantea nuevos dilemas éticos a diversas escalas y con distintas posibilidades de análisis y evaluación. En efecto, las personas interactúan cada vez más con estos sistemas mediante chatbots que permiten diversas formas de expresión creativa y, aunque puede parecer contradictorio, modos de ser no muy distintos. Partiendo de la filosofía de Ortega y Gasset, concretamente de los conceptos de circunstancia y deseo, se enfatiza la responsabilidad moral que recae sobre las generaciones de desarrolladores de IA, así como sobre los usuarios que, al interactuar con la IA, contribuyen a su mejora. Estas reflexiones nos obligan a responder a la pregunta de qué deseos queremos que se hagan realidad al utilizar o desarrollar la IA, lo que subraya la necesidad de que todos desempeñemos un papel activo en la configuración de las posibilidades que la IA ofrece a las generaciones actuales y venideras.
Descargas
Referencias
Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021, March). On the dangers of stochastic parrots: Can language models be too big? En Proceedings of the 2021 ACM conference on fairness, accountability, and transparency (pp. 610-623). Association for Computing Machinery. https://doi.org/10.1145/3442188.3445922
Bijker, W. E. (1997). Of bicycles, bakelites, and bulbs: Toward a theory of sociotechnical change. MIT press.
Buchholz, K. (2023, 7 de julio). Threads shoots past one million user mark at lightning speed. Statista. https://www.statista.com/chart/29174/time-to-one-million-users/
Buolamwini, J., & T. Gebru (2018). Gender shades: Intersectional accuracy disparities in commercial gender classification. En Conference on fairness, accountability and transparency (pp. 1-15). PMLR.
Cabanac, G., & Labbé, C. (2021). Prevalence of nonsensical algorithmically generated papers in the scientific literature. Journal of the Association for Information Science and Technology, 72(12), 1461-1476.
Crawford, K. (2023). Atlas de IA: poder, política y costes planetarios de la inteligencia artificial. Ned ediciones.
Degli-Esposti, S., & Arroyo Guardeño, D. (2021). Chapter 11. Trustworthy humans and machines: Vulnerable trustors and the need for trustee competence, integrity, and benevolence in digital systems. En L. A. Viola & P. Laidler (Eds.), Trust and transparency in an age of surveillance (pp. 201-220). Routledge Studies in Surveillance.
Dennis, M. A. (2025). Allen Newell. En Encyclopedia Britannica. https://www.britannica.com/biography/Allen-Newell
Eves, H. W. (1988). Return to mathematical circles: a fifth collection of mathematical stories and anecdotes (Vol. 5). Brooks/Cole.
Fernández, M. A. (2015). Yo y circunstancia como resistencias recíprocas: comentario a la metafísica de Ortega. Tales: Revista de la Asociación de Alumnos de Postgrado de Filosofía, (5), 157-170.
Floridi, L. (2023). The ethics of artificial intelligence: Principles, challenges, and opportunities. Oxford University Press.
Guo, X., Dong, L., & Hao, D. (2024). Retraction: Cellular functions of spermatogonial stem cells in relation to JAK/STAT signaling pathway. Frontiers in Cell and Developmental Biology, 12, 1339390. https://doi.org/10.3389/fcell.2024.1386861
Gullón, R. (1979). La invención del 98. En F. Rico (Ed.), Historia y crítica de la literatura española (Vol. 6, t. 1, pp. 150-159). Crítica. https://www.bibliotecanacionaldigital.gob.cl/colecciones/BND/00/RC/RC0230418.pdf
Jasanoff, S. (2015). Future imperfect: Science, technology, and the imaginations of modernity. En S. Jasanoff & S.-H. Kim (Eds.), Dreamscapes of modernity: Sociotechnical imaginaries and the fabrication of power (pp. 1-33). University of Chicago Press.
Lanier, J. (2010). You are not a gadget. Vintage.
Lanz, J. J. (2007). Baroja, Azorín y la teoría de la novela orteguiana. Olivar, 8(9), 43-70. https://www.scielo.org.ar/img/revistas/olivar/v8n9/html/v8n9a02.htm
Microsoft. (2016). The next Rembrandt. https://news.microsoft.com/europe/features/next-rembrandt/
Ortega y Gasset, J. (1964). Meditación de la técnica. En Obras completas. Tomo v (1933-1941) (6.a ed., pp. 317-375). Revista de Occidente. (Obra original publicada en 1939)
Ortega y Gasset, J. (1965). La idea de principio en Leibniz y la evolución de la teoría deductiva. En Obras completas. Tomo viii (1958-1959) (2.a ed., pp. 59-356). Revista de Occidente. (Obra original publicada en 1958)
Ortega y Gasset, J. (1994). En torno a Galileo. Revista de Occidente.
Ortega y Gasset, J. (2005a). El tema de nuestro tiempo. Espasa Calpe. (Obra original publicada en 1923)
Ortega y Gasset, J. (2005b). España invertebrada. Bosquejos de algunos pensamientos históricos. Espasa Calpe. (Obra original publicada en 1921)
Ortega y Gasset, J. (2006). El hombre y la gente. En Obras Completas. Tomo V. Editorial Alianza y Fundación Ortega y Gasset. (Obra original publicada en 1957)
Ortega y Gasset, J. (2007). Principios de metafísica según la razón vital. Curso de 1932-1933. En Obras completas. Tomo viii (1926-1932). Obra póstuma (pp. 553-659). Taurus. (Obra original escrita en 1932-1933)
Ortega y Gasset, J. (2023). Meditaciones del Quijote (J. Marías, Ed.). Red Editorial Iberoamericana; Cátedra. (Obra original publicada en 1914)
Ruiz Pinto, I. (2014). Ortega y Gasset, J. (2002). El tema de nuestro tiempo. Madrid: Tecnos. SCIO: Revista de Filosofía, (10), 177-180. https://revistas.ucv.es/scio/index.php/scio/article/view/639/610
Polymenopoulou, E. (2024). Rembrandt’s missing piece: AI art and the fallacies of copyright law. Washington Journal of Law, Technology & Arts, 19(2), 64-88.
Sociedad Española de Bioquímica y Biología Molecular. (2024). Baker, Hassabis y Jumper, Nobel de Química 2024. https://sebbm.es/noticias/baker-hassabis-y-jumper-nobel-de-quimica-2024/
Soler, I. (2023). Un nuevo retrato de Rembrandt en el siglo xxi. https://inmasoler.es/retrato-rembrandt-ia/
Snoswell, A. J., Witzenberger, K., & El Masri, R. (2025). A weird phrase is plaguing scientific papers – And we traced it back to a glitch in AI training data. The Conversation.
Shetterly, M. L. (2022). Hidden figures. HarperCollins Publishers.
Stringhini, G., & Blackburn, J. (2026). Experience paper: Is this the real life? Is this just fantasy? Hunting for hallucinated references in paper submissions. En 2026 IEEE Symposium on Security and Privacy Workshops (SPW) (pp. 300-307). IEEE https://doi.org/10.1109/SPW72489.2026.00037
Zhan, X., Carrillo, J. C., Seymour, W., & Such, J. (2025). Malicious LLM-based conversational AI makes users reveal personal information. En 34th USENIX Security Symposium (USENIX Security 25) (pp. 61-80). USENIX Association. https://www.usenix.org/conference/usenixsecurity25/presentation/zhan
