Antecendentes #
A lo largo de este texto no me referiré a los LLM (Large Language Models) u otras variedades de modelos de aprendizaje automático como IA dada la profunda confusión que comunican. En su lugar utilizaré el término MEC (Modelos de Extracción de Conocimiento) que, dado el contexto en el que se han desarrollado así como las prácticas que los han puesto en funcionamiento, refleja con mayor claridad su utilidad, en la línea definida por Cathy O’Neil en “Armas de destrucción matemática”.
Escribo esto para poner el foco en una amenaza que no he leído a cerca de los MEC o al menos no en estos términos y que me parece paradigmática. Sin embargo, antes de nada, necesito recalcar dos cosas; (1) que esto es solo otro de los múltiples perjuicios que supone el uso masivo de los MEC y (2) la dificultad de convivir con la contradicción, que no puede cegarnos a la realidad de la tecnología.
Impacto medioambiental #
Muchas compañeras han hablado sobre el impacto en nuestros ecosistemas del uso intensivo de las tecnologías digitales y su crecimiento exponencial gracias a la implantación de estos modelos.
Algunas de las múltiples consecuencias que tiene son:
-
El aumento de la demanda de materiales para la fabricación que afecta múltiples territorios, como por ejemplo la República Democrática del Congo (recomiendo una lectura con algunos años ya, “Alfabetización Digital Crítica: Una invitación a reflexionar y actuar” de Inés Bebea, menciona este tema en la pag.48).
-
El aumento en el consumo de energía debido a la creación de nuevos centros de datos cada vez más grandes, que va en contra de nuestra acuciante necesidad de encontrar modelos para el decrecimiento.
-
El aumento en el consumo de agua potable para refrigerar estos centros de datos, que aumenta la presión hídrica en zonas donde el agua es barata y que además están expuestas a la desertificación debido al cambio climático. Como podemos ver en Aragón, España, ya sabéis #NoEsSequíaEsSaqueo.
Impacto social #
Muchas personas que han integrado en su día a día el uso de los MEC desconocen cómo han sido creados, por resumirlo en una frase: los señores tecnofeudales han encontrado la manera de explotar a personas, especialmente del sur global, para clasificar la ingente cantidad de datos que generan las tecnologías digitales extractivas. En este proceso, han conseguido destilar un orden en los datos, que contiene algo del conocimiento humano que esas personas han entregado en sus puestos de “trabajo” (o mejor dicho puestos de ordeñado de comportamientos). Estoy hablando de proyectos como Amazon Mechanical Turk que permiten contratar “inteligencia humana bajo demanda” para, por ejemplo etiquetar, toda una base de datos. ¿Qué quiere decir esto?
Veamos un ejemplo. Si tenemos miles y miles de posts de Instagram y queremos crear un algoritmo que nos diga si un post es alegre o triste no tenemos mucho que hacer a priori. ¿Cómo automatizamos esto entonces? Pues lo que hacemos es coger todos esos posts, se los damos a personas y les preguntamos “¿este post es alegre o triste?” y anotamos su respuesta. Una vez hecho esto utilizamos la teoría del aprendizaje automático para ajustar una ecuación matemática que nos diga si un nuevo post es alegre o triste con cierta probabilidad. En este proceso lo que hemos conseguido es “matematizar” la inteligencia huamana o modelar un comportamiento como sugiere Vladan Joler en “New Extractivism”, lo podéis leer traducido gracias a Club Manhattan.
Es así como los MEC, siendo artefactos en propiedad y al servicio del interés de billonarios, no son más que el resultado del mayor saqueo de conocimiento en la historia. Se trata de herramientas para la aceleración de la precarización de nuestras vidas, dado que automatizan labores humanas, simplificándolas (ya que estos modelos pierden mucha información relevante) y aumentando el ritmo de producción con peores resultados (como suele ocurrir dentro de una sociedad capitalista).
Impacto cultural #
Por otro lado nos encontramos con la secuelas culturales que estas herramientas están generando. Encontramos muchas referencias a la “enmierdación” (del inglés enshitification) de las grandes plataformas, donde vemos cómo la calidad de sus servicios ha pasado a un segundo plano y la búsqueda del beneficio económico sin escrupulos es ya la norma; Facebook y sus fakenews, empeoran las búsquedas de Google, Youtube se plaga de contenido macabro generado por MECs y enfocado a un público infantil, Instagram y X permiten todo tipo de comportamientos en contra de los derechos humanos, violentos, machistas, etc. pero censuran contenido “woke”. Es por ello que mucha gente empieza a preguntarse si internet estará llegando a su fin.
También en este apartado cabe mencionar la nueva contienda de las grandes corporaciones contra el sector cultural. Es curioso como estamos observando la otra cara del debate sobre la piratería, lo rápido que la propiedad intelectual (PI) criminalizó el compartir conocimiento, que es un derecho básico, y lo fácil que resulta ahora justificar teorico-poéticamente que los MEC (que vamos a ignorar que se han entrenado con datos robados) resultan ser “creativos” (parece que aplicar un par de convoluciones te libra de multas de PI mientras que conceptualizar, escribir, producir, comercializar una versión de una canción no… que se lo digan a Miley Cyrus).
Por último, es importantísimo mencionar también el debate de la privacidad y el capitalismo de vigilancia descrito por Shoushan Zuboff en “La era del capitalismo de vigilancia”. Aquí de nuevo, la llegada de los LLM’s ha abierto puertas nunca imaginadas, no hace falta ver si Whatsapp infringe la ley espiándote o si ha implementado cifrado extremo a extremo porque ya hablas directamente con los MEC de Meta y les cuentas en primicia como te sientes, cuales son tus inquietudes vitales, tus planes para este año, etc.
Si bien existen muchos más temas a tratar, como el sesgo de los modelos, lo dejaremos aquí de momento.
La jaula de cristal #
Ya he mencionado la manera en la que se han originado y perfeccionado progresivamente los MEC, “matematizando” la inteligencia humana desde prácticas de extractivismo digital de datos (a través del mercado de datos que generan apps y plataformas) e información (a través de la apropiación masiva de información accesible públicamente) hasta la explotación de personas en puestos de trabajo.
Pues bien, vamos a analizar ahora cómo los propios servicios derivados estas tecnologías están preparando el camino para su perpetuación. En primer lugar nos encontramos con el esquema ya normalizado de la individualización, propio del sistema capitalista de occidente. En este sentido los MEC abren un nuevo horizonte, la tecnología ha conseguido llegar a cotas impensables y mientras que en 2013 salía a la gran pantalla “Her” hoy un gran número de personas utiliza estos modelos para contarle sus máximas intimidades, realizar consultas médicas y psicológicas, mantener relaciones románticas (la gente literalmente se ha quejado de que con la salida de ChatGPT5 han perdido un precioso vínculo), reproducir comportamientos de maltrato “sin repercusiones”, etc.
Todo este caldo de cultivo aflora en la era de la soledad no deseada de las megaciudades y los territorios vaciados, las catástrofes “naturales” recurrentes e incrementales… Sería mucho más complicado que estos patrones se generasen en comunidades más fortalecidas donde los cuidados estén mejor distribuidos. Pero ni la tecnología es neutra ni opera en escenarios ideales, por lo que es responsabilidad nuestra poner límites.
Es preocupante pensar en la pérdida de perspectiva que refuerzan las interfaces de usuarie impecables, asépticas, meticulosamente ordenadas, propias de un hospital, que nos impiden ver lo que hay detrás, las implicaciones de nuestros actos. Nos hacen olvidar qué son estas tecnologías y al servicio de quién están. No es nada nuevo, en “El dilema de las redes sociales” ya se documentaban las prácticas de empresas como Meta para el diseño de interfaces adictivas, siempre maximizando nuestra atención. Es por ello que no debería sorprendernos que las interfaces para interactuar con los MEC sean tan idénticas a las interfaces que utilizamos para hablar con nuestras madres, parejas, amigues… esto es intencionado. Se quiere reducir la fricción de la interacción humane-máquina, pero ¿por qué? pues… sin conspiranoias, para aumentar el beneficio económico y el poder que tienen estas empresas.
El punto, de momento, es que estas tecnologías incrementan exponencialmente este patrón de individualización y aíslan nuestras interacciones más íntimas. Estoy hablando de aquello que haces a solas en el cuarto “cuando nadie te ve”, quieren que pienses que eso es lo que pasa. Cuando en realidad estás regalando toda esa intimidad a una infraestructura de reproducción de violencias estructural.
La caída de las tequiologías #
Yásnaya Aguilar Gil introduce este imprescindible concepto nacido de las culturas originarias de Abya Yala, las tequiologías. La unión del tequio, la realización de proyectos de interés general de forma colaborativa en las comunidades, junto con las tecnologías.
Gracias a este término resulta trivial diferenciar proyectos basados o inspirado en comunes digitales de proyectos extractivistas que se nutren de sus comunidades pero están al servicio de grandes capitales. Simplificando, es la diferencia entre Open Street Map o Wikipedia y Youtube, Instagram, Facebook, etc. Y es imprescindible poner aquí el foco si no queremos perder los últimos bastiones de colaboración on-line que nos quedan y prevenir lo que Marta G. Franco seguramente denominaría el 4º gran robo de internet si “Las redes son nuestras” tuviera una segunda parte.
Yo, como programador, acudo incansablemente a internet para poder arreglar las mil complicaciones que me surgen a diario cuando tengo que programar una aplicación o una web. Internet se presenta en esos momentos, como esa biblioteca viva e inmensa donde puedo encontrar respuestas a casi todo, eso si, hay que saber buscar.
Lo más importante de este proceso es que buscar no es una acción pasiva si no todo lo contrario, cuando no encuentro algo después de múltiples búsquedas en foros técnicos, entonces es cuando veo mi oportunidad de contribuir, porque es en ese momento en el que puedo haber encontrado un hueco en nuestra biblioteca colectiva. En ese momento me detengo para añadir mi pregunta lo más clara y completa posible en un espacio afín para que otra persona pueda echarme una mano. En este proceso estoy allanando el camino de quienes vienen detrás. Me estoy encargando de dejar un sendero de migas de pan para quienes encuentren la misma problemática que yo porque la respuesta no será solo para mi si no para todas las personas que vengan detrás. De la misma manera puedo participar en esos espacios y responder preguntas de otras personas para las cuales yo tenga una respuesta.
Puedes pensar que esto es algo que solo hacemos los programadores y que no tiene mucha relevancia, nada más lejos de la realidad. Espacios como Wikipedia florecen de personas como tu y como yo que un día buscaron un artículo y vieron que no existía y entonces decidieron crearlo, o tal vez vieron un artículo pero incompleto y entonces añadieron una revisión. De la misma manera funciona OpenStreetMaps el mayor mapa digital creado de forma colaborativa. También se podrían ver afectadas por esto las grandes plataformas, por ejemplo: tutoriales de Youtube, perfiles divulgativos de Instagram… Toda esta interacción natural en las personas podría estar amenazada radicalmente por los MEC.
¿Sumideros o telares de conocimiento? #
Cuando interactuamos con los MEC lo importante no es lo que hacemos con ellos es lo que dejamos de hacer sin ellos. Lo que más me inquieta de que yo acuda a un LLM para resolver una duda (además de las problemáticas ya mencionadas) no es el interactuar con el modelo, es el dejar de interactuar con mi comunidad. Dejamos de enebrar nuevos hilos en nuestro telar del conocimiento y en su lugar solo queda el silencio. Mi preocupación es que empecemos a observar:
-
Un receso en las prácticas tequiológicas ya mencionadas.
-
El crecimiento acelerado de silos de conversaciones propiedad de grandes corporaciones tecnológicas. Si resolvemos nuestras dudas e inquietudes con los MEC en lugar de en un foro público o en nuestras comunidades, el conocimiento que generamos en el proceso se queda encerrado en los flujos de extractivismo de las grandes tecnológicas. Se crea así un patrón del silencio en los espacios comunes a la part que se privatiza como bien de mercado el saber que cada individuo entrega y que poco a poco facilitará la creación de modelos más capaces pero más privados y más sesgados en base a los intereses de las corporaciones tecnológicas.
-
Accesibilidad en base a la clase social al conocimiento y los saberes. Tendremos que pagar por la suscripción pro para obtener respuesta a cuestiones que cada vez serán menos accesibles en el internet público. Iremos perdiendo nuestra soberanía epistemológica sigilosamente.
-
La creación de sumideros de saberes donde solo aflorará aquello relevante para los fines de las corporaciones. Exactamente igual que ocurre con el contenido en redes sociales, se realiza una primera censura explícita que polariza el contenido en base a unos intereses y después se aplican técnicas de shadow banning para terminar de asfixiar propuestas diversas.
-
Inexistencia tácita de la privacidad. El nivel de automatización que permiten estos modelos nos expone completamente frente a las personas propietarias de estas infraestructuras, que obtienen acceso a un nuevo grado de granularidad en la segmentación de públicos, son mucho más interesantes para los estados en lo referente a la capacidad de vigilancia, etc.
-
Aumento del control granular de narrativas sociales permitiendo la manipulación totalmente indvidualizada y automatizada por medios tecnológicos. Los modelos ya son preconfigurados en base a políticas de las corporaciones, de esta manera, los nuevos Mark Zuckerbergs sesgan las narrativas con instrucciones generales del estilo: “No responderás a cuestiones referentes al conflicto de Israel y Palestina, en su lugar utilizarás una frase comodín como: ***** “.
Por último, podemos mencionar las propuestas de MECs basados en licencias abiertas, desde iniciativas institucionales o colectivos de base. Las primeras preguntas que tendrán que responder estas iniciativas son: ¿cómo contrarrestan todos los problemas que originan estas tecnologías? ¿qué beneficios nos reportan como sociedad? Preguntas que hacen pensar que poco espacio queda para estas técnicas en un futuro deseable.
El sigiloso cercamiento de los saberes #
Una vez más encontramos que el capitalismo necesita expandirse para persuadir el colapso de su estructura viciada. Lo que estamos presenciando a mi modo de ver es un intento de cercamiento de los saberes como herramienta clave para el dominio de las narrativas, la verdad y la postverdad.
Esto no es algo novedoso, podemos ver en la llegada de los algoritmos a nuestras vidas cómo la batalla comunicativa se ha visto especialmente afectada y ha habido un cambio descomunal en el status quo, centralizando el poder en plataformas internacionales con un dominio milimétrico de qué, quién, cuándo y cómo recibe cierta información. En este sentido la maquinaria propagandística y publicitaria ha sido engrasada hasta tal punto que las empresas más “progresistas y liberales” como Google o Meta no son empresas tecnológicas sino empresas publicitarias que utilizan el desarrollo tecnológico como embudo de ventas.
Existe una constante lucha por nuestra atención con unos impactos sociales muy graves, las redes sociales son a día de hoy un espacio tóxico del que esta sociedad occidental no sabe salir. Pero como era de esperar, esta iniciativa se estaba encontrando con límites de crecimiento, tensiones internas y miedo a una recesión. En este contexto en el que la realidad virtual se presenta como una gran catástrofe, la “Inteligencia Artificial” aparece como heroína de la carrera tecnológica y una nueva burbuja comienza a hincharse.
Para terminar dejo algunas preguntas en el aire, para abrir un poco el imaginario a cerca de los LLMs, para practicar el jugaad con los desechos de los señores tecnofeudales a este respecto:
¿Podríamos crear agentes conversacionales que expusieran públicamente cuantas conversaciones mantienen? Para ello deberíamos realizar un diseño adecuado que preservara la privacidad de les usuaries pero al menos de esta manera podríamos contar con un banco abierto de conversaciones y posiblemente podríamos navegar por estas conversaciones para reducir el uso innecesario de computación, compartir conocimiento entre la comunidad y romper con el patrón del silencio. ¿Se podrían retomar conversaciones donde se quedaron? ¿crear bifurcaciones? ¿puntuar la importancia de ciertas conversaciones? En fin, repensar estas herramientas para generar conocimiento colectivamente en vez de impulsar la atomización de nuestras sociedades.
¿Permitiremos que los MEC de grandes corporaciones sean sumideros de saberes? ¿seremos capaces de alertar la desarticulación que proponen? ¿nos dedicaremos a alimentar sus bases de datos con conocimiento que ya no es accesible al resto de personas, al tequio, al dominio público? ¿entregaremos nuestro conocimiento a empresas multimillonarias que en silencio nos escucharán, evaluarán nuestros aprendizajes, se nutrirán de ellos y crearán nuevos servicios para beneficio de las élites del planeta? El extractivismo epistemológico ha sido desplegado en forma de agentes conversacionales y está ahora en todos los bolsillos, coches, altavoces y electrodomésticos inteligentes, humanoides y demás robots que intentan llegar a nuestras casas, esperando una nueva conversación que les revele el siguiente secreto con el que perpetuar la actual estructura de poder.
Anexo: El sacerdote misericordioso del siglo XXI #
Como ejercicio creativo os presento al sacerdote misericordioso. Una alegoría simplista y sesgada de esta figura folclórica a la par que contemporánea con fines didácticos. No pretendo hacer un verdadero análisis si no un meme.
En las culturas cristianas se encuentra muy arraigado este personaje en las comunidades, esa persona que posee la gracia divina (el conocimiento espiritual para guiarnos en las sombras) de intervenir por Dios en la tierra y pastorear al rebaño de fieles. La figura del sacerdote puede ser leída como el panóptico de los pecados de una comunidad, ejerciendo esta tarea constante de control a través del ritual de la confesión, donde los fieles comparten sus más íntimas inquietudes “protegidos” por la imperturbable ley del silencio. Esto evidentemente genera unas relaciones de poder abismales a la par que invisibles. Esta metáfora nos permite imaginar patrones que podrían estar reproduciendo los MEC, entender por qué nos resultan tan sencillos de adoptar, tan familiares… vayamos paso a paso.
El confesionario #
Si nunca has visto uno te diré que es un espacio íntimo, una cabina de madera, en el que no ves el rostro del cura, eres tu con tus pesares, sin nada que te distraiga, nadie que te juzgue… Ya hemos mencionado antes las interfaces a través de las cuales interactuamos, parecen lugares seguros, totalmente íntimos, esas conversaciones son solo nuestras, nadie las podría leer, ¿no?
La confesión #
En el caso de los MEC no acudimos necesariamente a contar nuestros pecados si no cualquier tema para el cual necesitemos guía, ayuda, refuerzo, compañía, que nos resuelvan algo… Todo aquello que se resuelve dentro de la confesión deja de resolverse en comunidad por lo que si tengo compañía en el móvil tendré menos necesidad de sentirme acompañado por mi comunidad y ¡oh sorpresa! Esto al capitalismo le encanta.
La misericordia #
Los MEC, hasta ahora, se han ofrecido como espacios totalmente seguros, puedes confesar cualquier tipo de delito, proferir todo tipo de insultos, no hay consecuencias más allá de una respuesta suave. Los MEC son todopoderosos y por siempre empáticos, no denuncian, no bannean, no castigan, son muñecos inertes con forma humana expresada a través de su tan elaborado “lenguaje natural” (o manipulación algorítmica podríamos decir). Ya hay personas que han acuñado este patrón oscuro de diseño (por qué si, es intencionado) como adulación servil.
Pero Dios no nos deja olvidarnos que la misericordia no es si no una de sus caras y su omnisciencia puede encontrarnos allí donde nos escondamos cuando nos toque pagar por nuestros pecados. Estoy hablando del poder que entregamos a las élites tecnofeudales cuando exponemos nuestra privacidad de esta manera. La ultraderecha y el fascismo avanzan y ya podemos ver las capacidades de manipulación (deepfakes), de vigilancia masiva (caso manipulación electoral) y definición de objetivos automaticos con un grado de segmentación y granularidad inimaginables para la generación anterior, como vemos actualmente con el genocidio sionista en Palestina.
La estructura de poder #
La pregunta es, ¿qué sostiene al sacerdote? ¿quién le entrega su poder?
Desde luego que este es un tema complejo y aquí estamos simplificando con un propósito muy específico. Pero caricaturicemos de esta manera: el sacerdote en primer lugar cuenta con la iglesia como marco institucional que lo ampara. Podríamos pensar en la iglesia como las grandes corporaciones tecnológicas, esos titanes capaces de redactar las leyes que las regulan, aquellas que interpretan la palabra divina a su antojo y deciden qué está permitido en sus plataformas y qué no, sin ningún tipo de consecuencia, da igual si respectan los derechos humanos o no, si difunden bulos, alteran la intención de voto… No es de extrañar que la iglesia (las grandes corporaciones tecnológicas) y el estado sean tan buenas amigas, ¿no?
Pero el sacerdote no solo obtiene poder desde una perspectiva macro, es más me atrevería a decir que ni si quiera es la más importante. Existe un poder que el cura obtiene en cada confesión, un vínculo directo con sus fieles que refuerza la fe ciega, la dependencia espiritual hacia esa persona, la influencia en la comunidad. Esa es la parte más complicada. ¿Cómo desarticula un cura a su comunidad? Yo lanzo esta idea: con el silencio.
La guerra epistemológica #
En línea con las conceptualizaciones del sur global podemos leer la entrada de la tecnología en nuestras vidas en clave colonialista. La capacidad de adaptación de estos dispositivos a nuestro lenguaje natural, nuestros hábitos…, de la misma manera que la religión resignifica las tradiciones paganas, rompe nuestros significantes como comunidad y los suplanta con valores nuevos propios del tecnocapitalismo.
Por último, podríamos entrar a analizar quién sería Dios en esta metáfora, si el turbocapitalismo, el pensamiento cartesiano y mecanicista… Aquí ya que hable quien sepa.