Eloy García
I.
Es un hecho: estamos viviendo la época que pronosticó el escritor de ciencia ficción Arthur C. Clarke cuando estableció su célebre tercera ley sobre el destino de la evolución humana: “en una civilización suficientemente avanzada, la tecnología será indistinguible de la magia”. Habitamos ya en ese momento de avance suficiente, rodeados de objetos cuyo funcionamiento sobrepasa nuestra capacidad de comprensión al tiempo que somos atrapados por el brillo fulgurante que Marx atribuía a la mercancía. Reconocemos, entre la fascinación y el malestar, que no hay fetiche más poderoso hoy día que cualquier cacharro electrónico. Del teléfono móvil a la Roomba, de los coches autónomos o los drones que ya transportan personas a las intimidantes máquinas que radiografían nuestras entrañas en los hospitales, de los aceleradores de partículas que revientan la materia en busca de los fundamentos de todo lo existente a las granjas solares que recogen y aprovechan la energía del astro rey. Nuestra (ay, ese “nuestra” demasiado optimista) tecnología ha rehecho completamente el mundo, colocándonos, en este proceso acelerado, al borde del abismo que conocemos como colapso medioambiental. Habitamos un mundo saturado por esta magia terrenal, al precio de haber arruinado por completo el vergel que nos fue dado por el azar cósmico.
Magia y religión, ambas como concepto y como praxis, son dos viejas compañeras de viaje de la especie humana. Desde que un atisbo de conciencia alumbrara a los primeros sapiens hemos ido interpretando todo fenómeno que escapase a nuestra comprensión racional en términos relacionados con lo sobrenatural. La conexión entre este plano y la dimensión de la experiencia humana ha sido, desde siempre, la palabra. La creencia en un más allá de la realidad física ha implicado simultáneamente la necesidad de un puente para acceder a ella. Un lenguaje que permitiera interpelar, interrogar, rogar, suplicar, invocar, y, a veces, obligar, tanto a las entidades del otro lado como a la materia que constituye nuestra realidad a plegarse a nuestros deseos y a nuestra voluntad. En las religiones, en especial en las monoteístas, y más en concreto en “las de libro”, este papel se ha reservado siempre a un grupo de elegidos cuya certificación procedía del convencimiento de ser interlocutores de la divinidad. La magia, por su parte, ha consistido en hacer o conseguir cosas con palabras, en saltarse las leyes de la naturaleza apelando a ese más allá de ella para obtener lo que se desea. Acceder a tal conocimiento, a las palabras que hacen cosas, capaces de convertir lo que queremos en actos u objetos concretos, siempre ha sido un asunto oscuro, solo apto para iniciados convencidos de poseer algún tipo de don innato. Podríamos apuntar que, exceptuando la palabra de Dios, capaz de materializar sus vocablos en cosas concretas, nada, hasta la aparición de los lenguajes de programación, había sido capaz de tal hazaña. La explosión de la informática allá por los años sesenta del siglo XX ha prefigurado nuestra contemporaneidad, poniendo en marcha un tren que, hoy en día, avanza desbocado. Esta maquinaria que combina la tecnología punta con el anhelo de ser más que humanos da la sensación de desplazarse sobre un raíl sólido. Sabemos, sin embargo, que ni hay maquinista responsable al frente de este tren ni estación término de llegada. Ahora mismo estamos ante un negocio descomunal cuyas tripas son alimentadas por un ejército inmenso de trabajadores (todos nosotros) que creen estar jugando y recibiendo algún tipo de servicio mágico.
II.
En un encuentro de expertos en big data celebrado en febrero de 2024 en Liubliana, Eslovenia, llamado “(UN)REAL”, tuvo lugar, dentro del programa de actos asociados al evento, lo que se denomina desde hace poco como un Prompt Challenge. Esta denominación en inglés refiere una competición entre dos equipos que deben dar con el prompt adecuado (una secuencia de palabras) para que una IA sea capaz de reproducir con la mayor fidelidad posible y a partir de los textos introducidos en ella, una imagen seleccionada previamente por los organizadores de la prueba. La competición apela, fundamentalmente, a la capacidad de los equipos para dar con las palabras adecuadas a través de un proceso de refinado sobre cada paquete de instrucciones. Durante el torneo los participantes deben ir afinando sus peticiones para alcanzar el máximo parecido con la imagen original. Un proceso recursivo en el que las palabras correctas y sus matizaciones marcan las diferencias de forma dramática.
La lectura de esta noticia nos recuerda un episodio de la saga del mago infantil Harry Potter en la cual los maestros del colegio Hogwarts enseñan a los aprendices a formular los conjuros adecuados para obtener los efectos deseados. Las fórmulas potterianas venían cargadas con el entrañable regusto de los latinajos aprendidos en la escuela, así como con el eco de ciertos cuentos infantiles sobre magos y aprendices de brujos. Citamos aquí las expresiones básicas: Accio, Alohomora, Brackium Emendi, Confundus, Engorgio, Expecto Patronum. Todas ellas parecen evocar en nuestras mentes fórmulas arcanas surgidas de herméticos conciliábulos de nigromantes. En cambio, los prompts que se trasladan a la IA resultan ser un catálogo de banalidades no muy diferentes a una lista de la compra o a la descripción autoevidente de una imagen cualquiera. Por ejemplo, podríamos reducir un cuadro como la Gioconda a algo así: “un retrato de tres cuartos de una mujer joven sonriendo enigmáticamente, mirando de través hacia su izquierda, vestida al estilo renacentista, con peinado de raya al medio rematado en ligeras ondulaciones, con el brazo derecho cruzado sobre el izquierdo, con un paisaje de ríos y montañas a sus espaldas ligeramente desdibujado, estilo Leonardo da Vinci, paleta cromática ligeramente virada a ocres” y, con estas instrucciones, esperar a ver qué es capaz de hacer la IA. Muy poca magia hay en el arte de la combinatoria, pero los resultados de sus operaciones algorítmicas actuando sobre una base de datos de cientos de miles de millones de imágenes y textos resultan ser, fenomenológicamente, indistinguibles de la creación ex-nihilo. Visto así, Harry Potter, y con él todos los practicantes de la magia, serían en nuestra realidad actual meros repetidores de prompts que otros habrían utilizado exitosamente en épocas anteriores. No sé qué resulta más triste, si creer de forma supersticiosa en el poder creador de los conjuros y en sus consecuencias o adorar ciegamente un mecanismo monstruoso de recombinación e iteración que tiene poco de inteligente y mucho de bruto mecánico capaz de manejar cantidades descomunales de información en tiempos infinitesimales. La IA, tal y como la conocemos actualmente, supone el triunfo de la sintaxis sobre la semántica, como si el significado o el sentido surgieran tras las operaciones de combinación adecuadas a un conjunto de reglas. El truco —¿el engaño?— radica en que los conjuntos que se han empleado para entrenar a esta generación de IAs ya venían con un significado previo. Los procesos de recombinación resitúan tanto los significados como los sentidos, reduciendo al mínimo los errores cuanto mayor es el conjunto de partida que les ha servido de alimento.
III.
Apuntemos aquí dos elementos no evidentes cuando se juega con las IAs. En primer lugar, el consumo desbocado de recursos materiales que implica su uso. Enumeremos los principales: la construcción de edificios gigantescos para albergar los centros de datos, el empleo de cantidades de energía comparables al gasto de países completos, la necesidad inesquivable de las llamadas “tierras raras” cuya producción implica consecuencias sociales y medioambientales devastadoras en los lugares de origen, el consumo desorbitado de agua para enfriar los millones de servidores involucrados. En segundo lugar, la ampliación del ya de por sí semitotalitario control absoluto de la vida de los habitantes del mundo. Capaz de manejar cantidades de datos inimaginables y de establecer correlaciones no evidentes a partir de ellos, su uso por parte de gobiernos y organizaciones opacas permite decidir sobre la vida y la muerte de quien haga falta.
La IA, supuesto culmen de la evolución tecnológica, se ha convertido pues en una amenaza clara a la condición humana por su capacidad de corroer los fundamentos de nuestra dimensión creativa. También, en su vertiente más material, ahonda en la tragedia medioambiental en la que estamos instalados acelerándola y agudizando sus efectos. Y, por si esto fuera poco, su penetración en la toma de decisiones en ámbitos tan dispares como el laboral, el empresarial, el sanitario o el policial-militar la convierten, a ella y a sus sesgos, en una especie de agente inhumano cuyas decisiones pueden acarrear consecuencias desastrosas.
De una manera inesperada, los jugueteos de media humanidad con estas herramientas, alimentándolas y perfeccionándolas involuntariamente,recuerdan a los cuentos sobre los aprendices de brujo que deciden ir por su cuenta y desoír los consejos de sus maestros: siempre acaban mal. En nuestro caso, ese “acabar mal” tiene muchas ramificaciones indeseables, como si el bueno de Harry Potter y sus amigos estuvieran engordando los poderes y capacidades del malvado Voldemort cada vez que lanzaran un hechizo.
Este texto se halla bajo una licencia Creative Commons BY-NC-SA 4.0