Malena Cárdenas Tello*
Universidad de San Martín de Porres, Perú
Natalia Avalos Espinoza**
Universidad de Lima, Perú
Recibido: 30 de septiembre del 2024 / Aceptado: 3 de octubre del 2024
doi: https://doi.org/10.26439/iusetpraxis2024.n59.7652
RESUMEN. El artículo desarrolla el concepto de AI washing, estrategia mayormente utilizada en el rubro del marketing para aparentar, frente a los consumidores, que los productos ofrecidos tienen mejores beneficios que los de la competencia debido al uso de la inteligencia artificial. Tras dar a conocer cómo se desarrolla esta práctica, se analiza por qué esta estrategia puede llegar a convertirse en una práctica engañosa y generar una ventaja competitiva frente a otros proveedores que concurren en el mercado. Bajo esta premisa, se revisan los impactos negativos que esta práctica genera en el consumidor, así como se abordan las regulaciones emergentes en el mundo para frenar esta práctica desleal. Por último, se aborda la cuestión acerca de la necesidad de regular el AI washing en el Perú.
PALABRAS CLAVE: AI washing / derecho del consumidor / engaño / publicidad / competencia desleal / decisión de consumo
* Magíster en Propiedad Intelectual e Industrial por la Universidad de Alicante, España. Abogada por la Universidad de San Martín de Porres, Perú. Actualmente se desempeña como senior corporate attorney en Belcorp. Contacto: malenacardenas@belcorp.biz
** Egresada de la carrera de Derecho en la Universidad de Lima, Perú. Actualmente se desempeña como corporate attorney en Belcorp. Contacto: nataliaavalos@belcop.biz
AI Washing: A New Form of Consumer Deception
ABSTRACT. The article will begin by developing the concept of AI washing, for which this strategy—mostly used in the marketing sector—will be analyzed. Companies often employ AI washing to make their products appear more attractive or offer better benefits compared to others, capitalizing on the influence of new technologies in the market. Once we understand how this practice works, we will analyze why this strategy can become misleading and create a competitive advantage over other providers in the market. Based on this premise, we will review the negative impacts this practice has on consumers, as well as discuss emerging global regulations, which result from efforts by countries to curb this trend. Finally, we will attempt to answer the question: Is it necessary to regulate AI washing in Peru?
KEYWORDS: AI washing / consumer law / misleading / advertising / unfair competition / consumption decisions
1. INTRODUCCIÓN
En los últimos años, se han desarrollado estrategias de marketing con el objetivo de atraer a los consumidores mediante el uso de herramientas que permitan ofrecer servicios o productos personalizados, según las necesidades de cada cliente. Como muestra, encontramos que se ha implementado el uso de la publicidad programática, la cual emplea bases de datos en las que se condensa la información recopilada y se brinda una oferta más precisa en función de las necesidades específicas de los clientes. Un ejemplo de cómo innova la publicidad es el uso de imágenes generadas por computadora que crean la ilusión de que un producto o personaje irrumpe en la mitad de las calles —cuando, en cambio, se trata solo de una realización digital—. Así, también existen múltiples ejemplos como chatbots, software de gestión de precios, entre otros. Lo importante es resaltar que el consumidor busca algo novedoso al momento de decantarse por un producto; no será suficiente conocer sus bondades, sino que este buscará mayor eficiencia y conveniencia en lo que se le ofrece.
En este contexto es en el que se inscribe la inteligencia artificial (IA), la cual puede generar un incentivo al momento de tomar la opción de compra. Según un estudio de investigación global, el 47 % de encuestados percibe el uso de la AI como una acción positiva, gracias a la recomendación personalizada de productos, mientras que el 38 % asegura que las herramientas mejoran su experiencia de compra (OMD, 2021). Ahora bien, pese a encontrarnos en un contexto positivo para el fomento del uso de la AI, gracias al incentivo que representa para las empresas el invertir en desarrollo tecnológico, muchas veces esta práctica desleal genera un incentivo perverso para que los anunciantes realicen comunicaciones sobre beneficios vinculados a la AI que carecen de sustento. Esta práctica es conocida como AI washing, nombre acuñado para identificar aquellas prácticas desleales en las que el anunciante comunica que el producto o servicio ofrecido brinda un beneficio sobre la base de la AI con la que fue desarrollado, cuando esto no es cierto. Partiendo del concepto de AI washing, esbozaremos su origen, brindaremos ejemplos de esta práctica que se evidencian hoy alrededor del mundo, así como nos referiremos a las acciones tomadas por algunas autoridades para contrarrestarlo y, así, salvaguardar los derechos de los consumidores.
2. AI Y LA NUEVA TENDENCIA AL WASHING
Antes de abordar la problemática generada por el AI washing en el consumidor y evaluar las herramientas legales existentes, o que deberían implementarse para frenarlo, es fundamental partir por comprender el origen de este concepto y sus implicancias. Así, este término proviene del inglés y combina inteligencia artificial (IA) con la idea de lavado. A continuación, procederemos a analizar los conceptos que han surgido en la actualidad.
La IA hace referencia a la capacidad o suficiencia que tienen las máquinas para realizar tareas que implican destreza y que requieren un determinado nivel de inteligencia humana; por ejemplo, casos en los que se necesite el aprendizaje, la toma de decisiones, el discernimiento en determinadas situaciones de contraste, el reconocimiento de patrones, entre otros (Russell & Norvig, 2004). Esto se refiere a actividades en las que un sistema computarizado puede ejecutar acciones básicas que haría el ser humano, las cuales, una vez alcanzado un determinado punto de desarrollo y evolución, logran una reducción del esfuerzo por parte de una persona.
El término inteligencia artifical fue introducido en 1956 por el Dartmouth College en un foro en el que se buscaba explorar la simulación de la inteligencia humana a través de una máquina. A partir de esto, diversos autores han ido elaborando definiciones. Por ejemplo, según Hernández Miranda y Haces Álvarez (2012), la inteligencia “es la potencia intelectiva, la facultad de conocer o de entender” (p. 113) en la medida en que esta le permite a un sujeto lograr resolver una nueva situación o problema mediante la aplicación de lo aprendido (p. 113). Artificial es, en cambio, “lo hecho por mano y arte del hombre, [lo] falso, [lo] no natural” (p. 113). Esta IA, desarrollada por el humano, se viene aplicando en diversas acciones diarias de las personas y en distintos campos, como por ejemplo en el desarrollo de imágenes publicitarias, técnicas de aprendizaje y cualquier información a la que la IA puede acceder.
Una investigación de un comunicador de la Universidad de Catalunya incluyó la simulación de los pasos que realiza un centro publicitario para poder elaborar el material comercial. Es así que, según Bordeu Soto (2024), tenemos que el proceso se inicia en la generación de los guiones y luego pasa por la fase de casting, el prospecto de las locaciones en las que se podría grabar la pieza, los pasos de producción, el rodaje y la producción de sonido y locución; y esto es posible ya que existen millonarias plataformas y sistemas, entre gratuitos y de pago, que permiten identificar cuál es la mejor elección para la producción de una pieza publicitaria. Con este ejemplo, observamos que estas herramientas cuentan con un nivel de desarrollo sofisticado contrario a lo que se utilizaba anteriormente.
No obstante, si bien el objetivo de la IA es suplir la intervención humana, es un hecho que, por el momento, esta no ha logrado un desarrollo igualable a la creatividad inherente del ser humano. Pese a que busque entrenar a un programa para elaborar ideas o soluciones ingeniosas, por el momento esta únicamente se soporta en un banco de información disponible.
Por otra parte, para comprender con mayor facilidad el término washing, consideramos relevante tomar como ejemplo una idea mucho más conocida en el mercado, el greenwashing, el cual ya ha sido desarrollado y regulado por distintas autoridades administrativas alrededor del mundo. Por ejemplo, en el Perú, el Instituto Nacional de Defensa de la Competencia y de la Protección de la Propiedad Intelectual (Indecopi) ha elaborado una guía sobre la publicidad medioambiental engañosa. En estos lineamientos se señala cuál es el concepto del greenwashing (Indecopi, 2023), así como se dicta una serie de directrices para evitar caer en esta mala práctica, ya que los consumidores podrían ver defraudadas sus expectativas al adquirir un producto supuestamente beneficioso o inofensivo para el medio ambiente, cuando en realidad no posee dicha característica.
Partiendo de ese antecedente y con el emergente uso de la IA, surge el concepto de artificial intelligence washing (AI washing), el cual se refiere a aquella práctica engañosa empleada por las empresas para anunciar que los productos o servicios destacan por ofrecer beneficios valiéndose de la IA, cuando en realidad esto no es cierto. Así, esta práctica resulta desleal pues se aprovecha de la asimetría informativa existente entre el proveedor y el consumidor para distorsionar su decisión de compra. Un ejemplo en el que podemos identificar esta mala práctica es en anuncios difundidos en plataformas de internet de uso masivo, como las redes sociales. Además, de manera similar a lo que ocurre con el greenwashing, en el AI washing también existe un público específico conformado por aquellos consumidores que tienen especial predilección por adquirir productos tecnológicos e innovadores que ofrezcan funcionalidades nuevas, razón por la cual se ven especialmente atraídos hacia aquellos que afirman contar con IA.
Así, cada vez es más común encontrar alegaciones en las que se exageran las capacidades de los objetos o servicios ofrecidos, en las que se hace creer al consumidor que estos poseen algoritmos desarrollados con IA y con un desempeño sobresaliente frente a otros; o, por ejemplo, aquellas en las que se utiliza incorrectamente el término inteligente, cuando en realidad estamos frente a un algoritmo que no es capaz de aprender o tomar decisiones sobre la base de ese aprendizaje, sino que será necesario que un tercero atrás le brinde instrucciones.
De esta forma, surge una cuestión relevante, y es que las tecnologías y los mecanismos avanzan continuamente. Esto significa que, al actualizarse, también lo hacen las exigencias de los consumidores. Por ello, cuando un producto se promociona como equipado con IA, es lógico que el consumidor tienda a esperar que recibirá un producto o servicio sofisticado, cuyo proceso de desarrollo haya necesariamente implicado el uso de esta tecnología. Sin embargo, cada vez es más común que se tienda a comunicar ello como una simple exageración sin contar con el sustento de ello.
3. EL CONCEPTO LEGAL DE AI WASHING
Desde la perspectiva legal, el AI washing es entendido como aquel acto de competencia desleal que tiene como efecto inducir a error sobre los beneficios ofrecidos gracias a la presencia de la IA. Este acto genera una ventaja competitiva frente a otros actores que concurren en el mercado, mediante el uso de dicha práctica engañosa. Este engaño no solo es una ventaja frente a los competidores, sino que se genera un grave perjuicio al consumidor, ya que inducirá a error a las personas a las que se dirige y, por su carácter engañoso, puede afectar su comportamiento económico (Barcia Lehmann, 1999).
Resulta relevante el contexto de grandes cambios tecnológicos en el que nos encontramos, pues el consumidor promedio está atento a cazar las últimas tendencias que le permitan atender cada una de sus necesidades y, por lo general, deposita mayor confianza en aquellos productos que indiquen haber sido desarrollados con IA. Frente a las altas expectativas del consumidor, no resulta congruente que algunas empresas busquen aprovecharse, mediante la difusión de afirmaciones carentes de veracidad y de forma indiscriminada, con tal de atraer la preferencia de los consumidores; esto, sin contar con que estos actos conllevan el efecto de desalentar la innovación entre los competidores ya que, finalmente, los consumidores no distinguirán entre los productos que sí tienen propuestas reales y los que son solo estrategias de marketing y un aprovechamiento del vacío actual. Por lo tanto, consideramos que la ausencia de un marco conceptual sobre el AI washing impacta de forma determinante en los consumidores, toda vez que están expuestos a estas actividades anticompetitivas de los competidores, así como afecta negativamente en sus decisiones de compra.
4. LA REGULACIÓN COMPARADA SOBRE AI WASHING
Frente a los avances tecnológicos vemos cómo algunas autoridades administrativas no han sido ajenas a estas tendencias y han emitido, en algunos casos, guías con recomendaciones para que las empresas no incurran en estas prácticas. Cabe señalar que estas guías se basan en su propia legislación y que han evitado sobrerregular el mercado. Por ejemplo, la Comisión Federal de Comercio (FTC) de los Estados Unidos emitió recientemente un documento en el que incorpora recomendaciones tales como ser transparente al momento de informar a los consumidores sobre cómo funcionan las herramientas automatizadas, ya que el consumidor no tiene acceso por sí solo a esta información, ya que muchas veces la IA operará en segundo plano, lejos de la experiencia del consumidor. Así, también, si se utiliza un chatbot para brindar respuestas creadas sobre la base de la información que el consumidor le traslada, se debe tener cuidado con no engañar a los consumidores sobre la naturaleza de la interacción.
Por otra parte, la Autoridad de Normas Publicitarias del Reino Unido (ASA) proporcionó algunos principios que deben tener en cuenta los anunciantes al momento de emitir declaraciones sobre la IA en su publicidad. ASA señala que los anunciantes deben evitar hacer afirmaciones falsas sobre un producto que utiliza IA; deben no exagerar respecto de lo que un producto puede hacer gracias a su desarrollo con IA; y deben evitar afirmar que un producto desarrollado con IA hace algo mejor que otro que no cuenta con esta tecnología, a menos que se cuente con sustentos robustos sobre ello.
Consideramos positivas las prácticas que vienen realizando las autoridades administrativas, pues brindan herramientas a las empresas para evitar caer en estas prácticas engañosas, así como educan a los consumidores respecto a ser más cautelosos al momento de evaluar aquellos anuncios que publiciten productos o servicios como desarrollados con IA.
5. CASOS REPRESENTATIVOS DE AI WASHING
Como indicamos al inicio de este artículo, la IA es una tendencia que viene posicionándose de forma transversal en todas las industrias y que, por ello, influencia el diario vivir de las personas. A modo de ejemplo, vamos a referir algunos de los casos que causaron conmoción en el mundo de la publicidad por la utilización de este término y que, afortunadamente, fueron detectados por las autoridades y sancionados. Sin embargo, esto no implica que, en estos momentos, no se encuentren millones de alegaciones que incurran en este novedoso engaño, sea que pasen desapercibidas o, en algunos casos, que quieran hacerse pasar como simples exageraciones y no como un evidente engaño que genera un perjuicio al consumidor.
5.1. Securities and Exchange Commission contra Delphia (sede USA)
y Global Predictions
A la fecha, la FTC de los Estados Unidos ha iniciado diversas investigaciones contra empresas que utilizan el término inteligencia artificial para realizar ofertas engañosas en el mercado. Esto fue detectado debido a la incertidumbre y a las quejas de los consumidores en las redes sociales.
Un caso que en particular llamó la atención del mercado es la sanción impuesta a las empresas Delphia (fundada en Toronto) y Global Predictions (fundada en San Francisco) por un total de US$ 400 000, además de una orden de cese y desistimiento. Estas empresas promocionaban un producto argumentando que, ya que había sido desarrollado con IA, este permitiría a sus clientes tomar decisiones más precisas al ejecutar sus inversiones, toda vez que supuestamente se basaría en datos recopilados y que, gracias a la IA, podrían predecir sin margen de error las últimas tendencias de inversión antes que cualquier competidor. En ese sentido, ambas empresas se promocionaban como asesores financieros infalibles gracias a la toma de decisiones soportadas en IA. No obstante, tras la investigación realizada por la FTC, se determinó que estas empresas realizaron declaraciones falsas y engañosas, ya que no era cierto que la IA les permitiera determinar cuál era la mejor decisión de inversión. En realidad, únicamente les permitía organizar los datos de los clientes y el servicio era determinado por seres humanos que asistían el software.
Lo relevante de este caso es que, luego de establecerse la sanción, el presidente del órgano regulador, Gary Gensler, advirtió que la entidad tiene la capacidad de supervisar las declaraciones de los gestores de fondos sobre las inversiones y que, si las empresas intentan engañar a los clientes a través de exageraciones sobre el vínculo de sus softwares y la IA, existirían graves consecuencias. En efecto, este caso sirvió para que los ojos del mercado recaigan en este sector financiero y para que las empresas tengan mayor cuidado al momento de comunicar sus servicios, toda vez que permite visibilizar que existen claras diferencias entre contar con una base de datos organizada, de un lado, y contar con un software que aprenda autónomamente de las tendencias del mercado y brinde asesorías de inversión infalibles, del otro.
5.2. Amazon just walk out
El caso de Amazon suscitó una polémica en los Estados Unidos. Si bien no implicó una sanción —pues la empresa actuó rápidamente retirando el servicio del mercado—, para efectos de este artículo resulta importante comentarlo. El nuevo ecosistema que intentó lanzar Amazon al mercado se denominó just walk out, el cual consistía en que los consumidores podrían ingresar a las tiendas, escoger los productos que deseaban adquirir y retirarse sin tener que exponerse a la agobiante tarea de pasar por una caja para finalizar con el pago. Así, Amazon promocionó este servicio indicando que había vinculado su sistema de productos, las ofertas y los pagos, a cámaras y sensores desarrollados con IA a fin de lograr este novedoso avance en el sector retail.
Esta nueva tecnología parecía un sueño para la mayoría de los inversores y empresas mayoristas de productos, pues les permitiría ahorrar la inversión que implica contratar a personal para gestionar los pagos físicamente en la tienda. Tras el lanzamiento de la publicidad en el mercado, se inició una investigación que permitió identificar que, tras los sensores y las cámaras del supermercado, había aproximadamente 1000 personas en la India encargadas de visualizar y etiquetar los videos para precisar los productos consumidos y emitir los comprobantes de pago. Así, contrario a tratarse de softwares inteligentes, lo cierto era que únicamente los cajeros se habían trasladado fuera del sitio y que vigilaban de forma remota. Se comprobó, entonces, que existía un aprovechamiento de parte de la empresa de la credulidad de los consumidores.
6. LA AFECTACIÓN DEL AI WASHING EN LA DECISIÓN DE CONSUMO
Para determinar cómo afecta el AI washing en la decisión de consumo, hay que determinar en primera instancia sobre la base de qué elementos se establece dicha decisión de compra. Según Kotler y Armstrong (2012), la publicidad tiene claros objetivos como tareas de comunicación para un público específico. Entre ellas, encontramos la necesidad de informar al público sobre un nuevo producto lanzado en el mercado; generar persuasión en el consumidor para que prefiera el producto y desarrolle una convicción de compra; y, finalmente, el recordar para mantener en la conciencia de los compradores la existencia del producto. Entonces, resulta evidente que la publicidad influye directamente en la decisión de compra de las personas en diversos niveles, y que afecta directamente en la emotividad de las personas (Ponce, s. f., párr. 4). Así, se dice que esta lograría entrar a la mente de las personas con argumentos que justificarían la compra que están realizando, pero esta interacción debe ser lo suficientemente intensa como para captar la atención individual.
En ese sentido, el AI washing, conceptualizado líneas arriba, es engañoso, y genera desconfianza respecto de los productos que utilizan IA. Por ejemplo, en el caso del producto ofrecido por Delphia y Global Predictions, muchos clientes desistieron de su uso pues los servicios brindados no eran los esperados y, en vez de contar con una inteligencia “superior” para sus decisiones de inversión, las realizaban personas comunes y corrientes. En el caso de Amazon, luego de la decepción vino la desconfianza, pues en las redes sociales se comenzó a expandir el rumor de que si esos sistemas necesitaban vigilancia es porque no eran confiables y podrían causar problemas en el sistema de cobro.
En ese sentido, podemos concluir que, si bien estos claims acerca de la IA llaman la atención de los clientes rápidamente, cuando no se cumplen los ofrecimientos establecidos en la publicidad, pueden generarse resultados como devolución de productos, reclamos y hasta una mala reputación generada en el internet a largo plazo; el ciclo de desconfianza llevará a los consumidores a dudar de la veracidad de la publicidad que incluya IA y afectará claramente el mercado de nuevas tecnologías y de productos innovadores que sí podrían ser beneficiosos para el consumidor.
7. REFLEXIÓN FINAL: ¿ES NECESARIO REGULAR EL AI WASHING EN EL PERÚ?
Luego de haber analizado el término AI washing y su aplicación legal en diversas jurisdicciones, corresponde plantearse la interrogante: ¿es necesario emitir una norma que regule específicamente esta práctica desleal? O, si acaso, ¿es necesario modificar alguna de nuestras normas ya aplicables para introducir esta práctica desleal?
Desde la evaluación desarrollada en este artículo, consideramos que no es necesario emitir una norma específica para frenar el AI washing, toda vez que, al igual que con otros actos de engaño vinculados a nuevas tendencias y tecnologías, este fenómeno encaja dentro del concepto general de engaño regulado en el artículo 8 del Decreto Legislativo 1044, Ley de Represión de la Competencia Desleal. El artículo mencionado señala que serán considerados como un acto de engaño aquellos que tengan como efecto, real o potencial, inducir a error a los consumidores en el mercado sobre la naturaleza, modo de fabricación, características, aptitud para el uso, calidad, atributos, beneficios o condiciones del producto o servicio.
No obstante, sí consideramos conveniente que se emita una suerte de soft law, como lineamientos en los que se establezca, de forma preventiva, qué frases, palabras o alegaciones pueden ser consideradas engañosas y, por tanto, sancionables. Consideramos que la práctica realizada por países como el Reino Unido y los Estados Unidos es beneficiosa para el mercado y, como consecuencia, para los consumidores.
8. CONCLUSIONES
Frente a la tendencia cada vez más fuerte de identificar productos o servicios ofrecidos en el mercado como inteligentes, es necesario singularizar estos actos engañosos y no aceptarlos como simples exageraciones que el consumidor descreerá. En la práctica, es usual encontrar objetos que alegan ser inteligentes, cuando en realidad únicamente están conectados a una aplicación, lo que no implica que sean capaces de funcionar de forma autónoma. Conviene no tomar esas alegaciones a la ligera y suponer que no tienen un efecto práctico.
Este fenómeno genera una afectación al consumidor, quien verá defraudada sus expectativas y terminará por adquirir un producto o servicio que no cumple las funciones ofrecidas. Así, vemos que alrededor del mundo se han incrementado los casos de sanciones a empresas que incurren en esta práctica engañosa. Sin embargo, consideramos que, además de ello, es necesario que previamente se emitan lineamientos en los que se explique en qué consisten estos actos y que brinden recomendaciones de cómo no caer en esta práctica, con el fin de alertar a todos los agentes que concurren en el mercado. En esta línea de ideas, cuando las empresas afirmen que un producto o servicio fue desarrollado con IA, sería recomendable que estas mencionen la tecnología o el algoritmo específico que utilizaron, de tal forma que el consumidor pueda conocer la razón del porqué este se publicita como IA. Para esto, las empresas tendrían que ser más transparentes al comunicar el algoritmo o los tipos de datos utilizados.
REFERENCIAS
Barcia Lehmann, R. (1999). Algunas consideraciones sobre la publicidad ilícita en España y Europa. Ius et Praxis, 5(2), 269-292. https://dialnet.unirioja.es/servlet/articulo?codigo=2278830
Bordeu Soto, F. (2024). La inteligencia artificial en el futuro de la publicidad. Evaluando su impacto en la producción de spots publicitarios [Tesis de grado]. Repositorio Institucional de la Universitat Oberta de Catalunya. http://hdl.handle.net/10609/150304
Hernández Miranda, B., & Haces Álvarez, J. A. (2012). Sistema para generar micromundos para la asignatura de álgebra [Tesis de licenciatura]. Repositorio Facultad de Ingeniería, Universidad Nacional Autónoma de México. http://www.ptolomeo.unam.mx:8080/xmlui/handle/132.248.52.100/219?show=full
Instituto Nacional de Defensa de la Competencia y de la Protección de la Propiedad Intelectual. (2023). Guía de publicidad ambiental. https://cdn.www.gob.pe/uploads/document/file/5288796/4749865-guia-de-publicidad-ambiental-vf.pdf?v=1697551827
Kotler, P., & Armstrong, G. (2012). Marketing (14.a ed.). Pearson Educación.
OMD. (2021, 28 de septiembre). OMD España presenta The retail revolution: bienvenido a 2025. https://www.omd.com/news/omd-espana-presenta-the-retail-revolution/
Ponce, J. M. (s. f.). ¿Cómo influye la publicidad en las personas? Marketing y Servicios. Recuperado el 2 de agosto del 2024, de https://marketingyservicios.com/influye-la-publicidad/
Russell, S. J., & Norvig, P. (2004). Inteligencia artificial. Un enfoque moderno (2.a ed.). Pearson Educación.