Sostenibilidad y sistemas basados
en inteligencia artificial
Nelly Condori-Fernández
n.condori.fernandez@usc.es
https://orcid.org/0000-0002-1044-3871
Universidad Santiago de Compostela, España
doi: https://doi.org/10.26439/ciis2023.7077
RESUMEN. La inteligencia artificial (IA) ha evolucionado con avances como los lenguajes de alto nivel de programación (Python, por ejemplo) y las redes neuronales profundas o redes de aprendizaje profundo. Estos avances han impulsado el auge de la IA, con desarrollos como XAI, Small Data e ImageNet. La IA generativa está cambiando la economía y se espera que tenga un impacto significativo en áreas como la creación de contenidos, el desarrollo de software y el marketing. La Comisión Europea propone una regulación de la IA basada en un enfoque de riesgo, con diferentes niveles de riesgo y requisitos según la categoría de IA. La sostenibilidad del software es multidimensional, pues abarca aspectos técnicos, económicos, ambientales y sociales. La explicabilidad y transparencia en los modelos de IA son cruciales para garantizar la responsabilidad y la confianza en su uso. La integración de sistemas de IA con sistemas y procesos heredados implica consideraciones técnicas y económicas; puede generar beneficios, como la optimización de procesos, pero también requiere inversiones significativas.
PALABRAS CLAVE: inteligencia artificial, sostenibilidad del software, sistemas de IA.
Sustainability and Artificial
Intelligent-based Systems
ABSTRACT. Artificial intelligence (AI) has evolved with advancements such as deep learning, Python, and deep neural networks. These advancements have driven the rise of AI, with developments like XAI, Small Data, and ImageNet. Generative AI is changing the economy and is expected to have a significant impact in areas such as content creation, software development, and marketing. The European Commission proposes AI regulation based on a risk approach, with different levels of risk and requirements according to the AI category. Software sustainability is multidimensional, covering technical, economic, environmental, and social aspects. Explainability and transparency in AI models are crucial to ensure accountability and trust in their use. Integrating AI systems with legacy systems and processes involves technical and economic considerations and can generate benefits such as process optimization but also requires significant investments.
KEYWORDS: artificial intelligence, software sustainability, AI systems.
1. Introducción
La inteligencia artificial (IA) ha evolucionado a través de diferentes etapas, desde la IA tradicional hasta la moderna IA. La tradicional incluía sistemas expertos, redes neuronales poco profundas (shallow NN), lenguaje Prolog y lógica difusa. Los avances en ciencia de datos tuvieron un hito con el desarrollo de Deep Blue, seguido por la moderna IA con GPU (graphics processing unit), aprendizaje profundo (deep learning), machine learning (ML) en Python (Raschka et al., 2020) y redes neuronales profundas. Estos avances han impulsado el auge de la IA, con desarrollos como IA explicable (Xu et al., 2019), Small Data, ImageNet, sistemas inteligentes verdes (Martínez-Fernández et al., 2023), aprendizaje por refuerzo (Rolf et al., 2023), etcétera.
La transición de la unidad central de procesamiento (CPU) a la unidad de procesamiento gráfico (GPU) ha acelerado este proceso, permitiendo avances en IA generativa basada en modelos base de transformers y GAN (generative adversarial network), que ahora forman parte de la sociedad. Este rápido cambio ha hecho que, aunque estas tecnologías estaban presentes, ahora se conviertan en una realidad y sean más visibles para otras disciplinas, lo que a su vez plantea nuevos retos.
La inteligencia artificial generativa (GAI, por sus siglas en inglés), al mejorar su tecnología está cambiando la economía y eso se traducirá en beneficios como, por ejemplo, una mayor productividad. Se espera que las empresas utilicen cada vez más la GAI para la creación de contenidos, el desarrollo de software, el marketing, las ventas y el servicio al cliente. Estas capacidades tendrán un impacto en diversas industrias y beneficiarán tanto a los consumidores como a las empresas (Bank of America Corporation, 2023).
La industria de la inteligencia artificial está en constante evolución. El AI 100 de CB Insights es una lista anual que reconoce a las cien empresas privadas de IA más prometedoras a nivel mundial. El año 2023, los ganadores fueron empresas enfocadas en áreas que dan soporte al desarrollo de sistemas y aplicaciones inteligentes, así como también a infraestructuras de IA generativa, al análisis de emociones y al desarrollo de humanoides de propósito general, entre otros avances innovadores en el campo de la inteligencia artificial (CB Insights, 2023).
Los sistemas de inteligencia artificial abarcan una amplia gama de áreas. El core de la IA generativa se aplica en campos diversos: turismo, finanzas, navegación, robótica, salud, videojuegos, domótica, redes sociales, agricultura, marketing, compras en línea, comercio electrónico y educación. La sostenibilidad desde el punto de vista de la ingeniería de software (Condori-Fernández & Lago, 2018), el rol de los ingenieros de requisitos (Franch et al., 2023) y su regulación (Clarke, 2019), son aspectos clave en el desarrollo e implementación de estos sistemas. También lo es el establecimiento de los alcances de la IA en estas áreas. Por ejemplo, en el caso de los robots domésticos para adultos mayores que viven solos o de los robots sociales, es crucial establecer límites claros para garantizar su uso ético y seguro.
La Comisión Europea propuso un marco de regulación para la IA en la Unión Europea (UE) en abril de 2021, basado en un enfoque de riesgo. El proyecto de ley busca definir y clasificar los sistemas de IA según su nivel de riesgo: algunos serían prohibidos por riesgos inaceptables, otros —considerados de alto riesgo— estarían sujetos a requisitos y obligaciones, y aquellos con riesgo limitado tendrían pocas obligaciones. El Consejo de la UE y el Parlamento europeo están negociando las últimas etapas de la legislación, que incluye enmiendas para ampliar la lista de sistemas de IA prohibidos y para establecer obligaciones, tanto para la IA de propósito general como para los modelos de lenguajes como ChatGPT. El proyecto de ley prohíbe prácticas de IA que representen un riesgo inaceptable, como el uso de técnicas subliminales manipulativas y la explotación de grupos vulnerables. También restringe el uso de la identificación biométrica en tiempo real en espacios públicos, excepto en casos limitados (European Parliamentary Research Service, 2023).
Sin embargo, aunque existe este esfuerzo por regular la IA, falta consenso para definir lo que es un sistema inteligente. La Comisión Europea propone una definición en la legislación de la UE, que se basa en una previamente utilizada por la Organización para la Cooperación y el Desarrollo Económicos. Según el artículo 3(1) del proyecto de ley, un sistema inteligente (o basado en IA) es un software desarrollado con técnicas y enfoques específicos que le permiten generar resultados (como contenido, predicciones, recomendaciones o decisiones) que influyen en los entornos con los que interactúa. Todo ello con el fin de alcanzar objetivos definidos por humanos (OECD, 2023).
Por consiguiente, los requisitos para los sistemas de inteligencia artificial engloban aspectos fundamentales que deben tenerse en cuenta durante su desarrollo (Franch et al., 2023). Esto incluye requisitos relacionados con los datos, como la necesidad de que sean accesibles, interoperables, reutilizables y sostenibles, así como con la confiabilidad del sistema, que comprende, entre otras, la necesidad de contar con agencia y supervisión humana.
Así mismo, la sostenibilidad del software, también considerada como un requisito de calidad (Condori-Fernández & Lago, 2018), es un concepto multidimensional que abarca aspectos técnicos, económicos, ambientales y sociales. En términos técnicos, implica garantizar la seguridad, la robustez y una adecuada gobernanza de datos. Desde un punto de vista económico, se relaciona con la privacidad y la seguridad. En el ámbito ambiental, busca fomentar la reutilización de datos para reducir el impacto en el medio ambiente. En cuanto al aspecto social, la sostenibilidad del software se vincula con la seguridad, el bienestar y la transparencia.
El desafío radica en cómo integrar estas dimensiones de manera efectiva en el desarrollo de software, para garantizar que los sistemas de IA cumplan con estándares éticos, transparentes y respetuosos de la privacidad, así como para asegurar que el software sea sostenible en el tiempo y contribuya positivamente en diversos aspectos de la sociedad.
Sin embargo, debido al continuo cambio de las tecnologías de desarrollo, los modelos de sostenibilidad para sistemas inteligentes necesitan ser operacionales y flexibles. Por ejemplo, la explicabilidad y la transparencia en los modelos de inteligencia artificial son aspectos cruciales, especialmente en aplicaciones críticas como la salud y las finanzas. Los modelos de IA suelen ser complejos y difíciles de interpretar, lo que dificulta comprender el razonamiento detrás de sus decisiones. En este contexto, la transparencia de los sistemas de IA es fundamental para garantizar la responsabilidad y la confianza en su uso. Evaluar la interpretabilidad de los modelos de IA se vuelve prioritario para abordar el desafío de la explicabilidad y la transparencia, y para asegurar que las decisiones tomadas por estos sistemas sean comprensibles y puedan ser justificadas de manera clara y ética.
La integración de sistemas de inteligencia artificial con sistemas y procesos heredados es otro aspecto crucial que involucra consideraciones tanto técnicas como económicas. Desde un punto de vista técnico, esta integración debe asegurar la compatibilidad y la interoperabilidad entre los sistemas existentes y las nuevas soluciones de IA. Esto puede requerir la adaptación de interfaces, la gestión de datos y la implementación de estándares de seguridad. En el ámbito económico, la integración eficiente de la IA con los sistemas existentes puede generar beneficios como la optimización de procesos, la reducción de costos operativos y la mejora en la toma de decisiones. Sin embargo, también puede implicar inversiones significativas en infraestructura y capacitación de personal. La integración exitosa de la IA con los sistemas existentes requiere un enfoque estratégico que considere los aspectos técnicos y los económicos, para así maximizar su impacto y beneficios.
Referencias
Bank of America Corporation (2023). Artificial intelligence: a real game changer. https://business.bofa.com/en-us/content/economic-impact-of-ai.html
CB Insights (2023). AI 100: The most promising artificial intelligence startups of 2023. https://www.cbinsights.com/research/artificial-intelligence-top-startups-2023/
Clarke, R. (2019). Regulatory alternatives for AI. Computer Law & Security Review, 35(4), 398-409. https://doi.org/10.1016/j.clsr.2019.04.008
Condori-Fernández, N. & Lago, P. (2018). Characterizing the contribution of quality requirements to software sustainability. Journal of Systems and Software, 137, 289-305. https://doi.org/10.1016/j.jss.2017.12.005
European Parliamentary Research Service (2023). Artificial intelligence act. https://www.europarl.europa.eu/RegData/etudes/BRIE/2021/698792/EPRS_BRI(2021)698792_EN.pdf
Franch, X., Jedlitschka, A., & Martínez-Fernández, S. (2023). A requirements engineering perspective to AI-based systems development: a vision paper. En A. Ferrari & B. Penzenstadler (Eds.), Requirements engineering: foundation for software quality (pp. 223-232). Springer. https://doi.org/10.1007/978-3-031-29786-1_15
Martínez-Fernández, S., Franch, X., & Durán, F. (2023). Towards green AI-based software systems: an architecture-centric approach (GAISSA). En 49th Euromicro Conference on Software Engineering and Advanced Applications - SEAA (pp. 432-439). https://doi.org/10.1109/SEAA60479.2023.00071
OECD. (2023). Recommendation of the Council on artificial intelligence. OECD Legal Instruments: https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449#mainText
Raschka, S., Patterson, J. & Nolet, C. (2020). Machine learning in Python: main developments and technology trends in data science, machine learning, and artificial intelligence. Information, 11(4), 193. https://doi.org/10.3390/info11040193
Rolf, B., Jackson, I., Müller, M., Lang, S., Reggelin, T. & Ivanov, D. (2023). A review on reinforcement learning algorithms and applications in supply chain management. International Journal of Production Research, 61(20), 7151-7179. DOI: 10.1080/00207543.2022.2140221
Xu, F., Uszkoreit, H., Du, Y., Fan, W., Zhao, D., & Zhu, J. (2019). Explainable AI: a brief survey on history, research areas, approaches and challenges. En J. Tang, M.Y. Kan, D. Zhao, S. Li & H. Zan (Eds.), Natural language processing and chinese computing (pp. 563-574). Springer. https://doi.org/10.1007/978-3-030-32236-6_51