Barcelona Metropolis

Una línea de investigación muy interesante para dotar a las máquinas de conocimientos para entender el mundo es la que tiene como objetivo la modelización matemática y el aprendizaje de relaciones causa-efecto. Los sistemas actuales basados en aprendizaje profundo simplemente pueden aprender funciones matemáticas simétricas, en particular correlaciones, pero no pueden aprender relaciones asimétricas y, por tanto, no son capaces de diferenciar entre causas y efectos, como que la salida del sol es la causa del canto del gallo y no al contrario.

Situación real de la IA

¿Cuál es, pues, la situación real de la IA? La realidad es que tenemos inteligencias artificiales específicas, en el sentido de que cada una sabe hacer bien una única tarea, a pesar de no entender realmente nada de lo que hacen. Focalicémonos en una técnica de IA, conocida como aprendizaje profundo, que, durante los últimos diez años, ha conseguido unos resultados espectaculares de acuerdo con su extraordinaria capacidad para detectar patrones estadísticos analizando grandes cantidades de datos. Según esta técnica, existe un programa llamado AlphaFold[1] que es capaz de predecir la estructura 3D de las proteínas, es decir, cómo se pliega una proteína en el espacio tridimensional. Resolver el problema del plegamiento de proteínas es importante para descubrir y diseñar nuevos fármacos, porque la función de les proteínas depende de su estructura tridimensional. Otro ejemplo muy reciente de éxito del aprendizaje profundo, que combina redes neuronales y aprendizaje por refuerzo, es la ya mencionada IA generativa, que permite procesar lenguaje natural y también música, imágenes o vídeos a partir de una descripción inicial. A pesar de su aparente inteligencia, estos sistemas son muy limitados. De hecho, no aprenden nada en el sentido humano que entendemos por aprender, ya que, contrariamente a nosotros, no aprenden de manera incremental, no pueden relacionar lo que aprenden nuevamente con lo que habían aprendido anteriormente y prácticamente no tienen capacidad de generalizar ni de razonar.

¿Cuál es, entonces, el motivo por el que muchos creen que la IA está a punto de igualar a la inteligencia humana y, a partir de esta premisa, hacen predicciones sobre hipotéticas inteligencias artificiales superiores a la inteligencia humana? A mi entender, el excesivo antropomorfismo es el motivo principal para que la sociedad tenga una percepción errónea del estado real de la inteligencia artificial. Cuando nos informamos de éxitos espectaculares de una IA que resuelve una tarea muy concreta, tendemos a generalizar y le atribuimos la capacidad de hacer prácticamente cualquier cosa que hacemos los seres humanos e, incluso, de hacerla mucho mejor. En realidad, lo que tienen los actuales sistemas de IA no es inteligencia sino “habilidades sin comprensión” en el sentido que apunta Daniel Dennett en su libro From Bacteria to Bach and Back: The Evolution of Minds[2]. Es decir, sistemas que pueden llegar a ser muy hábiles llevando a cabo tareas específicas, como reconocer una serie de elementos en una imagen o generar texto, pero sin comprender absolutamente nada sobre la naturaleza de estos elementos ni de las propiedades y relaciones entre ellos.

El problema es que los sistemas actuales de IA no tienen acceso a los referentes del mundo real que dan contenido a las palabras porque, al ser inteligencias artificiales no corpóreas, no pueden interactuar con el mundo. Esta incapacidad para entender realmente el mundo imposibilita que grandes modelos de lenguaje como GPT-4 entiendan el significado de los textos que generan. De hecho, a los diseñadores de estos sistemas la ausencia de referentes del mundo real no les importa. Solo les importa el poder retórico, engañando a los oyentes y a los lectores haciéndoles creer que entienden el lenguaje como los humanos, aunque generen multitud de falsedades.

En general, cuanto más sofisticados sean los sistemas de IA, más responsabilidad deberíamos exigir a sus diseñadores y programadores, para garantizar que cumplan principios legales y éticos. Las inteligencias artificiales no tienen, ni tendrán nunca, intencionalidad; son el reflejo de las intenciones y los sesgos de los equipos de programadores y entidades implicados en su implementación y su despliegue. Los agentes morales somos nosotros y no las máquinas. Por eso muchos expertos señalamos la necesidad de regular su desarrollo e, incluso, de prohibir su uso en casos de riesgo extremo, como las armas letales. Pero, además de regular, es imprescindible educar a los ciudadanos, en particular a los políticos, sobre los beneficios y riesgos de las tecnologías inteligentes. Necesitamos a futuros ciudadanos más y mejor informados, con más capacidad para evaluar los riesgos tecnológicos, con mucho más sentido crítico y capaces de hacer valer sus derechos. Este proceso de formación debe comenzar en la escuela y tener continuidad en la universidad. En particular, es necesario que los estudiantes de ciencia e ingeniería reciban una formación ética que les permita comprender mejor las implicaciones sociales de las tecnologías que desarrollarán. Solo si invertimos en educación conseguiremos una sociedad que pueda aprovechar las ventajas de las tecnologías inteligentes minimizando sus riesgos. Así, la inteligencia artificial servirá para realizar un gran paso en el progreso de la humanidad.

[1] Jumper, J., Evans, R., Pritzel, A. et al. “Highly accurate protein structure prediction with AlphaFold”. Nature, 596, 583-589. 2021. http://ow.ly/XiVW50OnOjm

[2] Dennet, D. C. From Bacteria to Bach and Back: The Evolution of Minds. Penguin Books, 2017.

[3]  Bender, E. M., Gebru, T., McMillan-Major, A. i Shmitchell, S. “On the Danger of Stochastic Parrots: Can Language Models Be Too Big?”. ACM Conference on Fairness, Accountability, and Transparency, 610-623. 2021.