Cuando la tecnología que reluce no es oro

Desde noviembre de 2022, la inteligencia artificial (que de inteligencia tiene poco y de artificial mucho) está en boca de todos, gracias a una impresionante campaña publicitaria. Cada vez son más las personas que recurren a formas de IA para consultar dudas acerca de cualquier tipo de actividad: desde cómo resolver tareas de colegio hasta realizar presentaciones en trabajos. En esta línea, las compañías también corren hacia el manto inmaculado de la inteligencia artificial para venderse en el mercado de una mejor manera y, de esta forma atraer clientes y nuevos financiamientos. En concreto, hoy desarrollar IA "vende", las firmas lo saben e incurren en lo que se conoce como 'AI washing' o Lavado de IA.

Para comprender de qué se trata este fenómeno, Emmanuel Iarussi, investigador del Conicet en el Laboratorio de IA de la Universidad Torcuato Di Tella, ensaya una definición. "Consiste en exagerar o falsificar el uso de algoritmos de inteligencia artificial en los productos o servicios que provee una empresa. De esa manera, parecen más innovadoras y avanzadas de lo que realmente son. En un mismo golpe de marketing se engaña a los consumidores y a los inversores sobre la verdadera capacidad de la empresa", explica.

El mote de "Lavado de IA" surge por comparación con el "Lavado verde" o "Green Washing", prácticas engañosas a través de las cuales, desde hace años, las compañías afirman (mayormente sin pruebas) que sus productos cuidan el ambiente (disminuyen la emisión de gases, no contribuyen al calentamiento global) y así consiguen una ventaja para captar más clientes e incrementar sus beneficios en relación a sus competidores. Una ilusión de responsabilidad ecológica que no se cumple en los hechos.

¿Productos "inteligentes"?

Las compañías, de esta manera, incluyen IA a sus productos y servicios y, con ello, se destacan del resto. Sucede que a los CEOs solo les interesa contar con ese sello de calidad, sin importar demasiado cómo es que funcionan sus tecnologías en realidad. Así, se autoconstruyen como opciones que apuestan a la innovación, y a partir de la IA se convierten en una garantía de confianza.

Ana María Vara, investigadora del Laboratorio de Investigación en Ciencias Humanas de la Universidad Nacional de San Martín, dice: "Para las empresas, el hecho de exagerar las capacidades de cualquier tecnología es muy funcional a una mayor cotización. Es posible que venda sus productos más caros porque son asociados a la IA". Y continúa: "Asociar desarrollos científicos o tecnológicos de avanzada a un producto suele ser un argumento de venta".

El asunto, entonces, está en pensar cómo lo hacen, es decir, cómo las empresas luego de aparentemente incorporar tecnología la venden al público. Según Iarussi, existen diferentes estrategias a la mano. "Desde etiquetas que afirman 'Impulsado por IA' hasta publicidades en medios que usan la jerga técnica de la inteligencia artificial para dar la impresión de que el producto es más avanzado de lo que realmente es. Otra forma muy común es decir que algo es 'Inteligente', sin dar demasiado detalle sobre qué aspectos del producto son inteligentes y de qué manera lo logran".

Innovaciones que no innovan

En este marco, aunque los productos parece que relucen, en verdad, apenas tienen una mano de barniz mal dado. Las firmas, en concreto, aprovechan esta situación y sobrevenden capacidades. Fernando Schapachnik, director ejecutivo de la Fundación Manuel Sadosky, reflexiona sobre el fenómeno. "En general, el 'AI washing' aparece en dos formatos: por un lado, sucede lo que se conoce como 'exageración tecnológica', ya que se venden productos como si tuvieran IA, pero detrás hay 800 empleados en un país subdesarrollado tomando las decisiones a mano. Por otro lado, también vemos productos que utilizan Chat GPT o primos, revestidos con una fina capa de cualquier cosa".

Así, las empresas en variados rubros, en su afán por actualizarse a los tiempos que corren, incorporan sistemas de IA sin conocer el algoritmo, o bien de dónde se extraen los datos. De aquí que no saben si realmente están incorporando una tecnología de último modelo, o si se trata de una burda imitación de otras prexistentes.

En síntesis, el crecimiento publicitario que tuvieron las herramientas de aprendizaje automático durante el último año promueve la emergencia de renovados engaños y estafas. En algunos casos, como refería Schapachnik, bajo el supuesto de vender servicios con "lo último en IA", en verdad, no emplean otra cosa que el ya conocido Chat GPT. Según Iarussi, este envoltorio está bien clasificado por la industria del software, a tal punto que tiene nombre y todo: "ChatGPT-wrappers". "Es software que ofrece servicios que parecen avanzados, pero no son más que un simple llamado a ChatGPT. En estos casos sí hay IA involucrada y solo se incorpora una capa muy básica de personalización sobre la plataforma proporcionada por OpenAI". Luego, el investigador ejemplifica: "Una aplicación podría presentarse como un asistente avanzado de atención al cliente, pero en realidad lo único que hace es redirigir las preguntas del usuario a ChatGPT sin añadir valor real ni funcionalidades adicionales específicas para el negocio".

Con los ojos bien abiertos

Semanas atrás, el Comité de Bolsa y Valores de EEUU multó a dos firmas por lavado, porque hacían marketing engañoso sobre la utilización de softwares impulsados por IA, cuando en verdad no lo hacían.

"Como toda nueva tecnología, la IA está subregulada. En un capitalismo desregulado, primero va la innovación y luego la regulación, ya que no se aplica el principio precautorio en términos de impacto social", explica Vara.