La perversión de los algoritmos y por qué Internet no deja nada al azar: “En ChatGPT hay vacíos de información adrede”

Casi todo el mundo recuerda la primera vez que envío un mail, que pudo realizar una búsqueda en Internet a través de su smartphone o cuando pudo desterrar el mapa en papel y se orientó gracias a un GPS. Aquella fue la época del tecnooptimismo, cuando “todo parecía maravilloso y abrazábamos sin suspicacias a una serie de empresas que prometían dárnoslo todo a cambio de nada”. Luego, llegó la era de la “tecnobajona”, en la que “lo digital ha pasado de ser solución a causa de todos nuestros problemas”.

Así describe Proyecto UNA la relación que la sociedad ha tenido con Internet y la tecnología digital durante los últimos 30 años. Este colectivo de escritura anónimo está formado por personas expertas en diferentes áreas que estudian la modernidad con una mirada crítica y perspectiva milenial. Y todo, siempre, con el humor por bandera y desterrando el fatalismo.

Su primera obra, Leia, Rihanna & Trump (2019) se basó en estudiar cómo el feminismo había cambiado la cultura pop y cómo el machismo reaccionó con violencia, previniendo sobre el riesgo de que creciera la extrema derecha ante la conquista de derechos. Esta misma clarividencia y profundidad de análisis es de la que hacen gala en su último libro, La viralidad del mal (Descontrol, 2025) y en esta conversación, mantenida en el marco de la feria de libros e ideas Literal, en Barcelona.

En el subtítulo del libro afirman que Internet está roto. ¿Por qué?

Porque no responde a lo que se suponía que debía responder cuando se creó. Hoy Internet son las empresas que conforman un monopolio y que nos obligan a adoptar unas lógicas muy concretas que responden a intereses muy concretos. Podría ser mucho más que esto, pero ha quedado relegado a unas pocas funciones mercantilistas enfocadas a generar plusvalía continuamente.

De hecho, mucha gente cuando habla de ‘Internet’ se refiere únicamente a las redes sociales.

Y eso nos lleva a reducir las causas de las problemáticas sociales a un chivo expiatorio concreto y erróneo.

¿Hasta qué punto las redes sociales tienen la culpa que les atribuimos?

Es cierto que nos producen miedo, pero porque no entendemos cómo funcionan. No son algo mágico que haya llegado para cambiarlo todo. Los discursos de odio o el machismo ya existían, no es que Facebook haya inventado la misoginia. Como las redes son nuevas, es fácil construir pánico social, pero la problemática es mucho más amplia. No podemos pensar que cambiando las redes sociales solucionaremos nuestros problemas.

¿El odio a las redes tiene fundamento real o es algo generacional, como cuando los padres de los 80 detestaban el rock que escuchaban sus hijos?

Algo así. Es interesante recoger qué cosas han provocado históricamente y hay un ejemplo muy claro: hubo una época en que las novelas generaron discursos muy parecidos a los que generan hoy las redes sociales: se decía que alienaban a la gente y que les metían ideas raras en la cabeza.

Hace algunos años nos entregamos a las redes, a pesar de que había personas que ya nos advirtieron de que estaban en manos de empresas que no querían ser, precisamente, nuestras amigas. No hicimos caso, así que ahora estamos en una tecnobajona generalizada. Se habla en las escuelas, en la televisión o a la hora de cenar. Todo el mundo tiene la sensación de que se pasa demasiado tiempo delante del teléfono y que eso se debe limitar.

Esa es una idea que nos conviene, porque es buen momento para cuestionarnos cosas. Pero nos hemos pasado de frenada y estamos en el punto del rechazo total. Y eso sí que no es bueno, porque si entendiéramos cómo funciona, veríamos que el problema no es la tecnología en sí, sino las empresas, los intereses que tienen y las lógicas bajo las que operan.

¿Cuáles son esas lógicas?

Se ha hecho muy popular la frase que dice que si no pagas por algo, es que tú eres el producto. Pero nosotras pensamos que somos más bien mano de obra barata. Las redes sociales no crean per se el contenido que monetizan. Lo crean los usuarios, muchos de los cuales no cobran y los que cobran lo hacen en función de las visitas que generan. Así que claro, su contenido está totalmente supeditado a lo que funciona en base a unas normas sobre las que no tienen poder de decisión.

Ahí viene lo perverso: la manera de monetizar el contenido en redes es la publicidad. Y para que funcione, hay que conseguir la mayor cantidad de datos de los usuarios, que se recolectan en base a lo que consumen. Y, por eso, cuanto más consuman, mejor. El objetivo de las redes, básicamente, es que nos enganchemos.

Y ¿cómo lo consiguen?

Quieren que pasemos más tiempo ante la pantalla, pero como ya estamos cerca del límite porque tenemos que comer, trabajar y dormir, lo que intentan es que ese tiempo sea más productivo. Lo que mejor funciona para recolectar datos es el engagement, que básicamente es interactuar con un contenido. Es decir, comentarlo, republicarlo o reenviarlo. Y eso lo hacemos mucho más con las publicaciones que nos interpelan emocionalmente. Sobre todo las que nos generan sentimientos negativos.

Por eso las redes sociales promueven el discurso de odio, los insultos o las fake news. Les da igual lo que digan, lo que les importa es que generan engagement. Y eso es algo que los creadores de contenido también saben, así que intentan ser lo más polémicos posible para que sus vídeos tengan más interacciones y poder ganar más dinero con ellos.

En el libro analizan los discursos de odio y alertan de que pueden ser muy evidentes o adoptar formas más sutiles como los memes. ¿Cuál es el poder de un meme?

Son el ejemplo perfecto del dog whistle [concepto usado en ciencias políticas que define un mensaje codificado para atraer sólo a un grupo específico sin llamar la atención del resto]. La extrema derecha los usa mucho porque son una manera fácil de hacer llegar mensajes racistas, machistas u homófobos que están por encima de la línea de tolerancia y porque son una manera rápida de generar comunidad.

Si te lanzan un mensaje que entiendes porque has estado en ciertos foros y sabes que el resto no lo pilla, te va a gustar. Nos agrada sentirnos parte de una comunidad, de una especie de élite que sabe cosas que el resto no. Y la derecha se aprovecha de eso.

Pónganme un ejemplo.

No quería usar este, porque está muy manido, pero el primero que se viene siempre a la cabeza es la Rana Pepe. Es un dibujo que viene de un cómic de fumetas sin ninguna connotación política, pero la derecha la empezó a usar mucho en foros. La cosa funcionó tanto que, básicamente, usar la cara de esta rana ahora es lo mismo que usar una esvástica. Hasta el punto que la Anti-Defamation League, que cada año saca una guía para que puedas reconocer los diferentes símbolos del odio, llegó a incluir a la Rana Pepe junto a otros símbolos neonazis.

Ahora que la conoce todo el mundo, ¿ha perdido el efecto?

No necesariamente, porque ya ha cumplido su función. Políticos de ultraderecha de todo el mundo han tenido chapas con el dibujo. Algunos periodistas se la pusieron en el culo de la taza que usaban en televisión. Quien lo tuviera que entender, lo entendió. Y esa persona se sintió muy lista y contenta de formar parte de esa comunidad. Además, los memes son una herramienta fantástica para esquivar la censura, porque quien no lo entiende simplemente ve un chiste o un dibujo gracioso.

Es una estrategia de camuflaje de la ultraderecha, pero también de cualquier ideología que está al margen. Porque por un lado tenemos a la Rana Pepe, pero por otro, si usas una imagen de Luigi, el hermano de Mario Bros, puede ser porque te gusta la Nintendo o porque te gustaría que los jefes de las aseguradoras privadas… vivan divertidas aventuras. [Una referencia a Luigi Mangione, joven acusado del asesinato del CEO de la aseguradora norteamericana United Healthcare y que se ha convertido en un fenómeno en redes].

Antes comentaban que las redes no solo premian los discursos de odio sino también las fake news o las teorías conspiranoicas. ¿Cómo funcionan?

Este es un tema complicadísimo porque para entenderlo hace falta contemplar una vertiente psicológica. El pensamiento conspiranoico da mucha seguridad en momentos de zozobra social, económica, climática o sistémica. Buscar malos muy malos y pensar que la verdad que nos cuentan no puede ser verdad es algo que ayuda a revertir la ansiedad. Sobre todo porque son discursos que quitan la culpa, porque quien los sigue nunca estará entre los malos, sino entre los iluminados.

Eso es un chute increíble, pero a la vez tiene consecuencias tremendas. Son respuestas fáciles a situaciones complicadísimas y claro, cuando estás con los buenos, cuando has despertado, no soportas que nadie venga a desmontar este discurso en el cual basas tu vida y del que depende tu estabilidad emocional. Por eso se pueden acabar rompiendo familias y amistades.

¿Cómo puede ser que los argumentos conspiranoicos, que al final nos relatan un mundo casi al borde del apocalipsis, puedan generarnos tranquilidad?

¿Recuerdas el vídeo de la comisaria europea que hizo un vídeo con el trend de what’s in my bag [Qué hay en mi bolso] pero enseñando qué había que tener en un kit de supervivencia? Pues pocas semanas después fue el apagón. Los conspiranoicos que ya tenían el kit de supervivencia y que habían aguantado que los demás se rieran de ellos, sintieron que habían ganado la partida. De repente, esa emergencia, en lugar de alterarles, les tranquilizó porque vino a decirles que tenían razón.

Es una paradoja terrible, porque es gente que se pasa todo el día esperando a que pasen cosas malas, pero es que en el mundo en el que vivimos, con guerras por todos lados y cambio climático, nuestro día a día está lleno de confirmaciones. Y es entendible que, en una situación de incertidumbre constante, el alivio derivado del tener razón pueda ser importante.

¿Por qué las teorías conspiranoicas están capitalizadas sobre todo por ideologías de derechas?

No hay una relación directa entre ser conspiranoico y ser fascista. Pero lo que pasa es que estamos delante de unas teorías que no invitan a cuestionar verdaderamente cómo funciona el mundo. Tampoco apuestan por cambios propositivos, como sí lo hacen otros movimientos de la izquierda. Sólo muestran rechazo mientras reivindican un supuesto pasado idealizado en el que la única preocupación era conseguir un Bollycao para la merienda.

Y eso, al final, le acaba haciendo el juego a las estructuras de poder. Porque claro, tú, como conspiranoico, no puedes hacer nada contra una élite en la sombra y omnipotente. ¿Qué sentido tiene organizarte si estás rodeado de borregos? Al capitalismo y a las derechas les viene muy bien tener a la sociedad dividida, distraída y poco organizada.

En el libro hablan de la agnotología, una rama de la ciencia que estudia el no saber y apunta a que la imposibilidad de generar verdades compartidas es una manera eficiente de velar por los propios intereses.

Es algo que se ve muy claro desde las narrativas coloniales y que grandes empresas han seguido llevando a cabo. Un gran ejemplo se encuentra en las compañías dedicadas al tabaco o a los combustibles fósiles en los años 60 y 70. En ese momento, la ciencia empezó a investigar la importancia de la huella de carbono o las consecuencias de fumar para la salud. Esos estudios no interesaban a estas empresas y como científicamente no podían contrarrestarlo, financiaron muchísimas publicaciones y estudios que sostenían versiones alternativas para que cada quien pudiera escoger la verdad que más les convenía. Y funcionó, porque la gente quería seguir fumando y cogiendo el coche.

Esta estrategia se ha usado mucho políticamente. El asesor de gran parte de la ultraderecha estadounidense Steve Bannon lo definió fantásticamente con su frase “hay que llenarlo todo de mierda”. Y es efectivo porque el esfuerzo que necesitas para desmontar un bulo es mucho mayor que el que requiere crearlo. Y eso ha sido así siempre, no es algo que haya nacido con las redes sociales.

Si las grandes empresas tecnológicas son las principales beneficiadas de esta ignorancia colectiva y, a la vez, son las que alimentan con datos a los buscadores de información como ChatGPT, ¿qué riesgos tiene que preguntemos todo a estos bots?

La Inteligencia Artificial es lo más peligroso de todo. Es el jefe final de la mistificación de la tecnología porque no sabemos cómo funciona. Como todo es opaco, los algoritmos no se conocen y el código no es libre, pensamos que funciona como funciona porque sí, porque debe ser la manera más lógica y eficiente. Y no nos lo cuestionamos.

Pero nunca debemos caer en la trampa de pensar que algo es neutral. Y mucho menos la tecnología, por mucho que cuando pensemos en ella nos vengan a la cabeza máquinas. Porque no lo son. Cada línea de código la ha programado una persona, seguramente precarizada, que está a las órdenes de una de las ‘Big Tech’ de Silicon Valley. Que, además, está formada casi en exclusiva por hombres blancos, la mayoría heteros y estudiantes de universidades de élite, que no han empezado en un garaje.

La Inteligencia Artificial se ha programado de una manera concreta para alimentarse de datos concretos y procesarlos de una manera concreta. Eso no es neutro para nada. Y, por eso, en bots como ChatGPT hay vacíos de información intencionados. De hecho, ya hay ramas de la agnotología dedicadas a estudiar las bases de datos de la Inteligencia Artificial.

¿En qué se pueden traducir esos vacíos?

Pues, por poner un ejemplo muy tonto, si le preguntas a ChatGPT quién es el mejor médico del mundo, te dará sólo nombres de hombres, porque está reproduciendo un mundo machista y racista que sólo premia a hombres blancos y que ha provocado que, durante los años, ciertas figuras vayan encarnando privilegios. Por eso es un peligro creernos que la Inteligencia Artificial es neutra o que lo que nos dice es objetivamente verdad. Sus respuestas se basan en información que está en una base de datos porque alguien la ha puesto allí, dejando deliberadamente otra fuera.

Esto no quiere decir necesariamente que haya gente malintencionada, pero hay que tener en cuenta que los algoritmos repiten patrones que funcionan. Por eso siempre nos sale lo mismo en Youtube o Spotify. Y eso nos impide salir de las lógicas actuales, lo cual no es bueno porque esas lógicas no son justas para la mayoría de la población.

Y esto cobra especial importancia cuando hablamos de políticas públicas diseñadas a partir de un análisis de datos hecho por la Inteligencia Artificial. Porque serán políticas racistas, aporofóbicas, machistas y LGTBIfóbicas. Pero como las ha hecho una máquina y la máquina no tiene sesgos, pues podemos escudarnos en esa supuesta objetividad para seguir perpetuando discriminaciones.

¿De ahí el título de su libro, La viralidad del mal?

Pues sí. Jugando con la idea de la banalidad del mal [teoría de la filósofa Hannah Arendt que apuntaba a que las personas comunes pueden llevar a cabo actos atroces, no por malicia, sino por la incapacidad de reflexionar sobre las consecuencias de sus actos y por la tendencia a seguir las órdenes del sistema]. Tenemos que entender que nosotros no somos meros ejecutores de las decisiones de la IA, y que no tenemos que conformarnos con los discursos de odio que nos hacen tragar los algoritmos. Y que, aunque no entendamos cómo funciona —porque así lo han querido sus dueños—, tenemos responsabilidad en todo lo que sucede en el ámbito digital.