Ponència La ficció de la creativitat artificial de Ramon López de Mántaras, Investigador emèrit a l’Institut d’Investigació en Intel·ligència Artificial (IIIA-CSIC) del CSIC. #rainff2026 #Ai #IA
Profesor de Investigación del CSIC en el Instituto de Investigación en Inteligencia Artificial (IIIA), del que fue fundador y director. Pionero de la inteligencia artificial (IA) en España y Europa, investiga en IA desde 1975. Autor de más de trescientos trabajos científicos. Ha recibido el Premio Nacional de Investigación Julio Rey Pastor en Matemáticas y Tecnologías de la Información y las Comunicaciones (2018). Es miembro del Institut d'Estudis Catalans.
¿La IA crea o simplemente reorganiza lo que los humanos ya hemos creado? López de Mántaras ha advertido del peligro de dejarnos confundir por la IA. Los seres humanos tenemos una tendencia enorme a ver comprensión donde sólo hay apariencia tras recordar dos ejemplos históricos de tecnologías que deslumbraron a miles de personas en su momento. Se ha referido al "Turco Mecánico", un autómata que, ya a finales del siglo XVIII, aparentaba jugar al ajedrez - si bien estaba controlado por un jugador experto- ya "Eliza", considerada el primer chatbot de la historia en los años 60 del siglo XX, que era capaz de simular una conversación con los humanos.
López de Mántaras también ha reivindicado que se visualice el trabajo humano que hay detrás de la IA. Según el Banco Mundial, entre 200 y 400 millones de personas ya trabajan en el mundo digital, eso sí, con una alarmante precariedad laboral. Google estima que serán más de 1000 millones en 2030. Así pues la supuesta creatividad de la máquina es la creatividad humana oculta detrás de la máquina.
La ponencia me pareció la más actual y la más interesante a nivel divulgación. Habló del lenguaje antropomórfico, atribución de características, emociones, humanas a entidades no humanas. Ya escribí en una ocasión el efecto que produce a las personas que compran bebés reborn, o que hablan a los perros como si fueran bebes porque dicen que les entienden o la IA que la utilizan como un amigo/psicólogo. Estamos en la Era de la Ilusión, las fascinación, proyectando cualidades humanas.
Avisó del peligro perverso del concepto de antropomorfismo. Una de las claves para entender no solo la IA, sino buena parte de los fenómenos humanos, cuando dice que vivimos en una Era de la Ilusión.
Los seres humanos llevamos miles de años proyectando humanidad sobre cosas que no son humanas.
Antes fueron los dioses, los animales, los espíritus, las fuerzas de la naturaleza. Quizá esta tendencia humana de atribuir alma, intención o personalidad a lo que nos rodea no sea nueva. En la tradición sintoísta japonesa se habla de los kami, presencias espirituales que habitan en la naturaleza y en multitud de objetos. Los japoneses utilizan incluso la expresión Yaoyorozu no Kami ("ocho millones de dioses") para referirse a una cantidad infinita e incontable de espíritus. Tal vez por eso la fascinación actual por la inteligencia artificial diga tanto sobre las máquinas como sobre una inclinación humana mucho más antigua: la necesidad de encontrar conciencia allí donde percibimos una presencia.
La tecnología cambia, pero el mecanismo psicológico es muy antiguo. Lo que quizá cambia en 2026 es la escala. Una muñeca Reborn puede generar apego en una persona. Pero una IA conversacional puede generar apego en millones simultáneamente. Ahí aparece un fenómeno nuevo. Porque la IA está diseñada para producir precisamente las señales que nuestro cerebro interpreta como humanas responde, recuerda partes de la conversación, utiliza lenguaje natural, adapta el tono, parece comprender emociones. Aunque tiene un importante elemento que se eleva por encima de todo. Es un amigo que te escucha ó un trabajador que está disponible las 24horas 7 días a la semana.
Y el verbo importante es parece. No porque exista necesariamente mala fe, sino porque nuestro cerebro está programado para detectar intenciones y emociones incluso donde no las hay. Es el mismo mecanismo que hace que una persona hable a una fotografía de un ser querido fallecido o que regañe a un ordenador cuando se bloquea. Por eso creo que López de Mántaras estaba tocando un asunto mucho más profundo que una simple discusión técnica sobre IA. En realidad estaba preguntando
¿Qué ocurre cuando una máquina imita cada vez mejor las señales externas de la humanidad?
La IA no suplanta una identidad concreta. Lo que suplanta es algo más abstracto, la apariencia de la comprensión.
Durante décadas el cine nos ha llevado a disfrutar con temas como ¿Cuándo serán las máquinas realmente humanas? Quizá la pregunta actual sea otra ¿Cuántos comportamientos humanos necesitamos percibir antes de empezar a tratarlas como si lo fueran? Eso conecta muy bien con mis observaciones sobre los bebés Reborn. La cuestión nunca ha sido si el muñeco está vivo. Todos saben que no lo está. La cuestión es que determinadas emociones humanas encuentran alivio actuando como si estuviera vivo.
Con la IA sucede algo parecido. La mayoría de las personas saben racionalmente que la IA no siente. Pero una parte de ellas responde emocionalmente como si sintiera. Y esa distancia entre lo que sabemos y lo que sentimos es donde nace la fascinación.
Quizá el gran invento de la inteligencia artificial no sea que las máquinas parezcan humanas, sino que los humanos volvemos a demostrar lo fácil que nos resulta enamorarnos de nuestras propias proyecciones.
Porque a La inteligencia artificial no necesita convencernos de que está viva. Le basta con que nosotros deseemos creerlo.
Y eso, efectivamente, no habla tanto de las máquinas como de nosotros mismos. Es una reflexión muy actual y, en cierto modo, mucho más inquietante que cualquier demostración tecnológica.
Muchas conferencias informan. Algunas entretienen. Muy pocas te acompañan de vuelta a casa, la de López de Mántaras no me dejó pensando en la IA, sino en algo más amplio, la tendencia humana a completar los huecos de la realidad con imaginación, deseos y proyecciones.
Cuando un escritor escribe una novela, cuando un pintor pinta un cuadro o cuando un crítico redacta una reseña, ocurre una doble transformación, se crea una obra, se transforma el creador. La IA puede generar el resultado. Pero no vive la experiencia interior. No aprende de un fracaso. No se emociona con un hallazgo. No modifica su visión del mundo. Y aquí encuentro una conexión muy interesante con mi propia experiencia como crítica. Yo no veo una película únicamente para producir una reseña. La película me cambia. A veces muy poco ó veces mucho. Pero existe una experiencia interior.
López de Mántaras parece decirnos que precisamente ahí reside la diferencia fundamental. La creatividad no es únicamente el producto. Es también el viaje.
Para concluir formulo estas preguntas:
1. ¿Se está rebajando la trascendencia de la capacidad humana mediante la destrucción o disolución de la memoria?
La IA me responde: que no creo que estemos destruyendo la memoria, pero sí externalizándola.
Antes una persona recordaba teléfonos, fechas, direcciones, poemas, mapas. Ahora gran parte de esa información vive fuera de nosotros. El fenómeno no es nuevo. La escritura ya fue una externalización de la memoria. Platón ya puso en boca de Sócrates una crítica similar: la escritura haría que las personas recordaran menos porque podrían consultar los textos. La diferencia es la escala. Hoy no externalizamos una parte de la memoria. Externalizamos casi toda.
Si dejamos de recordar, ¿dejamos también de ser parte de lo que recordábamos? Porque la identidad humana está construida en gran medida sobre la memoria.
2. ¿Debilitamos el razonamiento humano al delegar?
Aquí creo que sí existe un riesgo real. Delegar una tarea no es malo. Todos delegamos continuamente calculadoras, GPS, buscadores, agendas. El problema aparece cuando dejamos de entender aquello que delegamos. Si utilizo una calculadora para multiplicar números grandes, no pasa nada. Si dejo de comprender qué significa multiplicar, entonces sí aparece una pérdida. La IA puede convertirse en una prótesis intelectual magnífica. O en una muleta permanente. Depende de cómo se use. López de Mántaras apuntaba precisamente hacia ahí cuando hablaba de imaginación, sensibilidad y pensamiento crítico.
3. Si el razonamiento humano se debilita, ¿acabaremos teniendo una IA débil?
Esta pregunta me parece brillante porque introduce una paradoja. Las IA actuales aprenden de material producido por humanos libros, artículos, películas, música, debates. Si durante generaciones los humanos produjeran menos pensamiento original, menos investigación y menos creatividad, la materia prima disponible para entrenar futuras IA podría empobrecerse.
Por eso algunos investigadores ya hablan del riesgo de que las futuras IA se entrenen cada vez más con contenido generado por otras IA. Sería una especie de endogamia intelectual. Una fotocopia de una fotocopia de una fotocopia.
4. Mi pregunta de ciencia ficción: ¿podría la IA bloquear a los humanos que considere intelectualmente desechables?
Aquí entramos en terreno novelesco, pero muy interesante. La respuesta técnica actual es no. Las IA no tienen intereses propios. No tienen autoestima. No tienen instinto de conservación. No sienten desprecio. Pero como argumento de ciencia ficción funciona extraordinariamente bien. Porque en realidad la pregunta no habla de la IA. Habla de nosotros. Imagina un sistema futuro que clasifica a las personas según: utilidad económica, capacidad intelectual, productividad, influencia social.
Entonces alguien podría recibir un mensaje parecido a: Su nivel de contribución intelectual es insuficiente. Su acceso ha sido restringido. La máquina no tendría que odiarlo. Bastaría con ejecutar criterios diseñados por humanos. Y ahí aparece una idea inquietante. Los mayores peligros de la IA quizá no provengan de que se vuelva demasiado humana, sino de que aplique de forma inhumana objetivos definidos por humanos.
¿Puede una sociedad seguir siendo humana cuando delega cada vez más decisiones en sistemas que no lo son?
Al final la ponencia en el +RAIN Film Festival no fue la que mostró lo que puede hacer la IA, sino la que nos recordó hasta qué punto seguimos sin comprender nuestras propias ilusiones.
Y sospecho que por eso fue la charla que más me acompañó de vuelta a casa. No me habló de máquinas, habló de nosotros.
Amor DiBó
Instagram: @amordibo
Youtube: @amordibo
