Barcelona Metropolis

Algunos personajes públicos, como el Dr. Sean Holden, profesor asociado a la Universidad de Cambridge, o el reconocido lingüista Noam Chomsky[2] explican muy bien los límites de la inteligencia artificial y las razones por las que esta tecnología queda lejos de ser perfecta. Por eso aquí utilizamos el concepto de ignorancia artificial para referirnos a todos estos fenómenos generalmente entendidos como errores o espacios de estupidez que vienen determinados por la tecnología algorítmica. A continuación se presentan dos ejemplos: en octubre de 2021, Imane, una madre migrante marroquí de 44 años, divorciada, era interrogada en Rotterdam mientras se recuperaba de una cirugía abdominal. Las ayudas públicas que le permitían pagar el alquiler y comprar comida para sus tres hijos estaban en peligro, y no solo eso, cabía la posibilidad de que la acusaran de fraude. Tenía que demostrar su inocencia en un proceso burocrático difícil y costoso porque un algoritmo la consideraba “de alto riesgo” para cometer fraude en la obtención de ayudas sociales.

Este no es un caso aislado, sino que forma parte de un patrón global en el que los gobiernos y las empresas utilizan algoritmos para reducir costes y aumentar la eficiencia. Como Imane, en Rotterdam, más de 20.000 familias han sido falsamente acusadas por un algoritmo[3] de recibir ayudas públicas de manera fraudulenta. A menudo estos sistemas no funcionan como se prevé y pueden reproducir sesgos preocupantes, lo que a veces afecta de forma irrecuperable a comunidades que precisamente son las que necesitan más ayudas.

Otro ejemplo más popular es el algoritmo que Amazon utilizaba en 2015 para hacer la selección de personal y realizar recomendaciones de incrementos salariales. El objetivo de este sistema era que, por cada mil currículums introducidos, se indicara a qué cinco se debía contratar o a quién se debía subir el sueldo. El problema es que los datos que se habían utilizado para entrenar al algoritmo provenían de los diez años anteriores en una empresa que ya tenía, de base, un sesgo que daba mucha más preferencia a hombres que a mujeres. En consecuencia, el sistema empezó a descartar y a penalizar todos los currículums de los que se pudiera extraer cualquier inferencia de género femenino, reproduciendo exactamente un modelo injusto que, de no haber sido por el evidente desequilibrio de género, habría pasado absolutamente inadvertido[4].

De nuevo, la raíz del problema de este algoritmo es que basa todas sus respuestas en modelos estadísticos. Estas tecnologías no distinguen entre la verdad y la mentira; únicamente buscan patrones. Los algoritmos predictivos actuales son máquinas increíblemente útiles, pero que pueden generar resultados erróneos profundamente desconectados de la realidad. Una IA tendrá un margen de error mucho más pequeño que una persona experta en meteorología para prever si mañana lloverá, pero nunca entenderá qué significa que llueva, ni por qué llueve, ni lo que ello puede suponer para una cultura o un pueblo. No existe conocimiento del porqué, solo del qué, y este carácter desvinculado y descontextualizado es especialmente peligroso cuando se actúa en espacios sociales en los que los prejuicios suelen perpetuarse, y los individuos y las instituciones pueden justificar ciertos comportamientos con la sencilla respuesta de “el algoritmo lo recomienda”.

Cuando la coral canta, yo bailo

Cuando uno se da cuenta de que la mayoría de los usos actuales de estas tecnologías en la esfera pública están vinculados al control, la optimización y la supervisión de la ciudadanía y los recursos, se pone de manifiesto que existe una profunda falta de imaginación en los espacios de uso de la inteligencia artificial generativa. Si queremos revertirlo, debemos pensar en cómo utilizarla respondiendo a preguntas diferentes.

Uno de los ejercicios que utilizaba a menudo con estudiantes en el aula era el de comprar cuatro periódicos de perspectivas políticas muy diferentes. Con los alumnos encontrábamos la misma noticia y analizábamos cómo la explicaba cada medio. En el reconocimiento de esta pluralidad de versiones siempre emergían debates críticos mucho más fundamentados, y desaparecían las perspectivas únicas y las posiciones enrocadas. Uno de los futuros que vemos en el uso de las IA lo encontramos, precisamente, en su capacidad de ser plurales. Actualmente, uno de los proyectos en desarrollo en el que estamos trabajando es una integración para navegadores que permita ofrecer una versión automatizada de cualquier noticia, en la que se den diversas lecturas críticas alternativas sobre los mismos hechos. Una nueva forma de entender la actualidad a través de muchos otros ojos, todos ellos con su propio sesgo.

Lo contrario de un sesgo no es su eliminación, no es la neutralidad absoluta; es la transparencia, es levantar la alfombra y entender cómo es el sesgo y en qué afecta. Un sesgo puede ser positivo, puede dar una perspectiva concreta sobre una comunidad no representada, ya que la neutralidad nunca existe del todo, siempre hay una mirada, un conocimiento situado[5]. El conflicto aparece cuando se utiliza una herramienta de la que no se es consciente que tiene una mirada predefinida con la que se representan los intereses de unos pocos, que suelen ser poderosos. Si somos capaces de invertir el sesgo y utilizar esta herramienta de forma transparente, esta tecnología nos puede proporcionar un nuevo espacio donde podremos visualizar la tensión entre ideas diferentes y estar más expuestos a perspectivas plurales.

Necesitamos máquinas que nos proporcionen espacio para la reconsideración. Pero es difícil: requiere valentía. Una máquina que nos ayude a negarnos la comodidad de ser siempre la misma persona, la que llegó a una respuesta fija hace tiempo y nunca ha tenido ningún motivo para dudar de ella. Una máquina que, en otras palabras, nos ayude a mantenernos abiertos.

Como dijo F. Scott Fitzgerald, “la prueba de una inteligencia de primera categoría es la capacidad de mantener dos ideas opuestas en mente al mismo tiempo y, aun así, conservar la capacidad de operar el mundo”[6]. La voluntad de cambiar de opinión es un superpoder en la era moderna, y estas tecnologías nos pueden ayudar, en un momento de máxima polarización, a variar el rumbo y estar más abiertos a ideas diferentes.

Las realidades sintéticas

Desde febrero de 2022, en Domestic Data Streamers hemos estado desarrollando un programa de experimentación, formación y debate sobre las posibles aplicaciones de las tecnologías de inteligencia artificial generativa. El proyecto principal en el que hemos trabajado ha sido el desarrollo de herramientas para la recreación de memorias sintéticas a través de la generación de imágenes. La principal diferencia con otros softwares de edición de imágenes es que la IA tiene la capacidad de crear imágenes directamente desde la descripción de una escena, y con cierto entrenamiento se pueden conseguir resultados de mucha calidad a una velocidad de cinco a diez segundos. Esto hace que sea accesible y que podamos iterar rápidamente, condiciones fundamentales para trabajar con un gran número de colectivos e individuos.

Las aplicaciones son muy extensas. Ya estamos actuando con trabajadores sociales, psicólogos y expertos médicos en demencia y psiconeurología para entender el impacto positivo que pueden tener las memorias sintéticas durante el acompañamiento en el progreso de enfermedades degenerativas como el alzhéimer o la demencia senil. Los primeros resultados están siendo especialmente emocionantes y, próximamente, los publicaremos documentados.

Esta tecnología y estos procesos también los estamos llevando a otros espacios, como la reconstrucción de la memoria histórica de comunidades de refugiados en Atenas o de los supervivientes de Hiroshima y Nagasaki, en Japón. Son comunidades que, por diversos motivos, han perdido documentación visual sobre momentos personales, a menudo de un gran interés histórico; memorias borradas del espacio de la cultura visual que ahora tenemos la posibilidad de evocar con una tecnología más asequible, desde las comunidades protagonistas, que generalmente quedan excluidas del acceso a las últimas tecnologías, como son la gente mayor, las personas migrantes o los pacientes de enfermedades mentales. Estas herramientas nos pueden permitir entendernos tanto a nosotros como a las comunidades pertenecientes a otros tiempos y realidades sociales. Debemos ser capaces de acercarnos de forma transparente, responsable y colaborativa a todo el mundo; la realidad sintética puede ser un espacio entre la ficción y la realidad, un espacio intermedio donde podamos encontrarnos.

Reimaginar la ciudad

Esta misma tecnología abre nuevas posibilidades en el proceso de codiseño del espacio público. En los últimos meses, hemos trabajado en diversas sesiones con estudios de arquitectura internacionales para entender cómo se pueden incorporar estas herramientas en los procesos de diseño y qué impacto pueden llegar a tener de cara a integrar a vecinos, comercios y otros agentes en el desarrollo de las propuestas de urbanismo y arquitectura. Con estas tecnologías se facilita el acceso a la visualización de alternativas urbanas de forma muy asequible: se pueden repensar calles, edificios y usos del espacio público en cuestión de segundos. El mayor límite, generalmente, es la imaginación de uno mismo.

Las imágenes, por descontado, tienen un aspecto extraño y poco detallado, no son rivales para el trabajo de un arquitecto experimentado, pero permiten visualizar resultados con suficiente detalle como para hacerse una idea de las posibilidades de la arquitectura alternativa. Es una herramienta más para avanzar muy rápidamente en la visualización del cambio y, por consiguiente, permite a vecinos y habitantes de la ciudad comprender mejor y apoyar las alternativas urbanísticas que más les interesen. El peligro reside en el hecho de que los resultados de estas herramientas, al ser tan visuales, atractivos y asequibles, pueden acabar pasando por encima de otros factores importantes, como pueden ser las observaciones de uso, los datos demográficos o las diversas necesidades sociales de cada espacio. La visualización del cambio es una gran herramienta para las comunidades, pero se debe utilizar de forma responsable e informada.

Los puntos de las preguntas

Cuando observo cómo estas tecnologías se despliegan sobre la sociedad, se hace evidente que aún estamos muy lejos de tener una perspectiva plural y humanista. Parece que las conversaciones en todos los medios están enfocadas en la tecnología en sí misma, en el fenómeno casi mágico que parece contener. Pocas personas describirían el funcionamiento de un coche, un correo electrónico o un audio de WhatsApp como una herramienta mágica, pero la primera vez que estuvimos expuestos a estas tecnologías nos lo parecían. En el caso de la inteligencia artificial generativa también sucede un fenómeno similar. Y este hecho nos distrae de lo que realmente es importante: ¿Qué impacto queremos que tengan estas herramientas en nuestra sociedad? ¿Por qué las estamos desarrollando? ¿Quién tiene acceso a ellas? ¿A quién benefician? ¿A qué intereses responden y cómo lo hacemos para que operen bajo una serie de valores?

Si la inteligencia artificial es la respuesta, ¿cuál es la pregunta?