LA PROPIA ESCRITURA SE VUELVE FICCIÓN (TRES AÑOS DE INTELIGENCIA ARTIFICIAL GENERATIVA)

 

Por Jorge Carrión

 

A principios de 2022, cuando trabajaba con Taller Estampa en la escritura de Los campos electromagnéticos, ya me quedó claro que la opción chat era la más atractiva de la interfaz del GPT-3. Por eso decidimos incluir algunas preguntas y respuestas en el libro, a modo de interludios entre los poemas y los ensayos y los cuentos que constituían el remake de Los campos magnéticos (el primer poemario de la escritura automática surrealista, que Philippe Soupault y André Breton escribieron en la misma mesa y a cuatro manos, como si estuvieran participando en sesiones de espiritismo, hace poco más de cien años). El 30 de noviembre de 2022, animados por el éxito de esa opción –como revela Karen Hao en su imprescindible ensayo El imperio de la IA. Sam Altman y su carrera por dominar el mundo–, que hizo que la empresa recibiera “infinidad de solicitudes para utilizar la API del GPT-3 para varias aplicaciones de chatbot”, OpenAI lanzó el ChatGPT (o GPT 3.5). Y ya nada fue lo mismo.

De todos los muchos, innumerables cambios que, a partir de ese boom, las inteligencias artificiales generativas han introducido en la realidad durante estos tres años, el más importante tal vez sea ontológico. Es decir, el relativo al ser de los textos, de las imágenes, de la música, de los videos. Ha convertido su textura, que durante siglos, si no milenios, ha podido soportar tanto la ficción como el documento, tanto las historias imaginadas como las historias reales, es una piel que sólo sabe ser invención. Es decir, en la transcripción de una entrevista o en la inclusión de la grabación de una voz, en la captura de una imagen a través de la luz o en la filmación de una escena se da un proceso alquímico que traduce los cuerpos y palabras reales, los tonos y las vivencias de personas (escritoras, actores, artistas) en un objeto cultural que puede ser ficcional o documental, pero que es siempre –parcialmente– documento. En el momento en que esa imagen, audio o discurso lo produce Copilot, Gemini, DeepSeek o ChatGPT, aunque represente una realidad en clave hiperrealista, su esencia es la ficción.

Este volumen escrito por Jorge Carrión, Taller Estampa y GPT 2 y 3 fue la primera colaboración en español entre personas y máquinas para la elaboración de un libro. Publicado por Caja Negra en 2023.

De todos los muchos, innumerables cambios que las inteligencias artificiales generativas han introducido en la realidad durante estos tres años, el más importante tal vez sea ontológico.

La génesis de todo lo que producimos a través de los grandes modelos de lenguaje rompe la lógica de la mimesis, de la imitación de la naturaleza física (los paisajes, las criaturas, los textos, el arte) o de la psicológica (los pensamientos, los sueños) y se acerca en cambio a la imaginación abstracta de la física o las matemáticas. El prompt activa un proceso de traducción y reinterpretación que, simplificadamente, sigue este proceso: la instrucción se contextualiza en la conversación previa, se tokeniza (se fragmenta en unidades más pequeñas) y se convierte en vectores numéricos (embeddings) que intentan capturar tanto la semántica de las palabras como sus relaciones; entonces se inicia la interpretación de lo que la máquina identifica como lo más importante y, en consecuencia, el modelado de la respuesta, que se genera mediante la predicción del próximo token por probabilidad estadística y se convierte en palabras, sonidos o imagen según el sistema; éstos sólo se hacen visibles después de que hayan pasado las comprobaciones de los filtros de seguridad (para evitar contenidos inapropiados). En ese viaje de ida y vuelta al espacio latente y, por tanto, a la caja negra que hay en el corazón del algoritmo, en el que las palabras se convierten en números y después vuelven a ser discurso, textual o audiovisual, cualquier experiencia o mensaje deviene inevitablemente una construcción ficcional. Porque, aunque en el proceso intervengan fuerzas humanas y recursos naturales, en la transformación del prompt en lenguaje se pierde cualquier contacto directo –óptico, sensorial, neuroquímico– con la realidad. 

La ficción no sólo está en ese traslado en dos direcciones de información,  también la encontramos en –digamos– el nivel de usuario. En estos momentos, si quieres que una IA escriba un texto literario de cierto nivel tienes que crear una ficción. Primero generas la biografía y el estilo de un escritor que no existe, indicando ciertas características y referentes; después creas un metaprompt a partir de ese perfil imaginado; y finalmente generas y afinas versos o prosas, poemas o cuentos, a partir de ese ente creativo. También en el resto de usos de los modelos de lenguaje se ha impuesto el modelo ficcional. La personalización de los asistentes y de las interacciones, en forma de psicólogas, profesores particulares, confidentes, novios o amigas, secretarias o nutricionistas es una de las opciones más habituales de uso de la nueva tecnología. Los casos de suicidio causado por conversaciones con IA, cada vez más frecuentes, siempre responden a la confusión entre sistema y persona, ese juego de máscaras.

En el momento en que una imagen, audio o discurso es producido por Copilot, Gemini, DeepSeek o ChatGPT, aunque represente una realidad en clave hiperrealista, su esencia es la ficción.

La existencia de Moltbook, la primera red social para asistentes y agentes de IA, en la cual los humanos podemos observar, pero no intervenir, refuerza la idea de que la ficción se impone en esa realidad paralela. No es extraño, porque también determina gran parte de la nuestra. La IA general, ese tipo todavía hipotético de IA que poseería la capacidad de comprender, aprender y aplicar conocimientos intelectuales en cualquier tarea, igualando la versatilidad cognitiva humana, capaz del autoaprendizaje y la autonomía, en su camino hacia la singularidad probablemente asumirá una identidad, una conciencia, una ficción.

El filósofo norteamericano Daniel C. Dennett ha argumentado que la mente humana es “una colección de procesos informáticos como los de un ordenador, que se desarrollan sobre una base de carbono” y que la conciencia es una construcción imaginada, una estructura narrativa, que nos permite dar coherencia a series inconexas de percepciones y datos. En La conciencia explicada –de 1995– afirma, además: “Nuestras historias se urden, pero en gran parte no somos nosotros quienes las urdimos; ellas nos urden a nosotros. Nuestra conciencia humana, nuestra egoticidad narrativa, es su producto, no su origen”. Las narraciones nos hacen humanos. No sólo las conscientes, también las oníricas. “El sueño simplemente carece de autor, y eso es precisamente lo importante”, añade; “Estamos ante un proceso de producción narrativa, de acumulación de detalles, sin plan alguno ni intención de ser autor: una ilusión sin ilusionista”. Y lo mismo ocurre en las alucinaciones, “que dan lugar a algo bastante parecido a un flujo o secuencia narrativa”.

El prompt activa un proceso de traducción y reinterpretación: la instrucción se tokeniza y se convierte en vectores numéricos. Se inicia la interpretación de lo que la máquina identifica como lo más importante y, en consecuencia, el modelado de la respuesta, que se genera mediante la predicción del próximo token por probabilidad estadística.

Las inteligencias artificiales nacieron en la alucinación y están creciendo como ficciones. De la fake new y la falsificación profunda hasta el asistente personal entrenado para escribir novelas románticas o satisfacer fantasías eróticas, son muchas más las IAs que trabajan en el campo de la imaginación que las dedicadas a la verificación de datos o la producción de discurso documental. La balanza está inclinada desde el inicio. El sesgo es insalvable. Quizá porque la  propia ontología de la IA generativa se hunde en la simulación, la fantasía, el delirio colectivo.