¿Estamos viviendo en una era dorada de la estupidez?

Al entrar en el Media Lab del Instituto Tecnológico de Massachusetts (MIT) en Cambridge, Estados Unidos, el futuro parece un poco más cercano. Las vitrinas exhiben prototipos de creaciones extrañas y maravillosas, desde diminutos robots de escritorio hasta una escultura surrealista creada por un modelo de inteligencia artificial al que se le pidió que diseñara un juego de té hecho con partes del cuerpo. En el vestíbulo, un asistente de clasificación de residuos con inteligencia artificial llamado Oscar te indica dónde colocar tu taza de café usada. Cinco pisos más arriba, la investigadora científica Nataliya Kosmyna ha estado trabajando en interfaces cerebro-ordenador portátiles que espera que algún día permitan a las personas que no pueden hablar, debido a enfermedades neurodegenerativas como la esclerosis lateral amiotrófica, comunicarse utilizando su mente.

Kosmyna dedica gran parte de su tiempo a leer y analizar los estados cerebrales de las personas. Otro proyecto en el que está trabajando es un dispositivo portátil —un prototipo parece unas gafas— que puede detectar cuándo alguien se está confundiendo o perdiendo la concentración. Hace unos dos años, comenzó a recibir correos electrónicos inesperados de desconocidos que le contaban que habían empezado a utilizar grandes modelos de lenguaje como ChatGPT y que sentían que su cerebro había cambiado como resultado. Sus recuerdos no parecían tan buenos, ¿era eso posible?, le preguntaban. A la propia Kosmyna le había sorprendido lo rápido que la gente había empezado a confiar en la IA generativa. Se dio cuenta de que sus compañeros de trabajo utilizaban ChatGPT en el trabajo, y las solicitudes que recibía de investigadores que esperaban unirse a su equipo empezaron a parecer diferentes. Sus correos electrónicos eran más largos y formales y, a veces, cuando entrevistaba a los candidatos en Zoom, notaba que hacían pausas antes de responder y miraban hacia otro lado. Se preguntaba, sorprendida, si estaban utilizando la IA para ayudarse. Y si estaban utilizando la IA, ¿hasta qué punto entendían las respuestas que daban?

Junto con algunos colegas del MIT, Kosmyna puso en marcha un experimento en el que se utilizaba un electroencefalograma para monitorizar la actividad cerebral de las personas mientras escribían ensayos, ya fuera sin ayuda digital, con la ayuda de un motor de búsqueda en Internet o con ChatGPT. Descubrió que cuanto más ayuda externa tenían los participantes, menor era su nivel de conectividad cerebral, por lo que aquellos que utilizaban ChatGPT para escribir mostraban una actividad significativamente menor en las redes cerebrales asociadas al procesamiento cognitivo, la atención y la creatividad.

En otras palabras, independientemente de lo que las personas que utilizaban ChatGPT sintieran que estaba pasando dentro de sus cerebros, los escáneres mostraban que no estaba ocurriendo gran cosa.

A los participantes en el estudio, todos ellos matriculados en el MIT o en universidades cercanas, se les preguntó, justo después de entregar su trabajo, si podían recordar lo que habían escrito. «Casi nadie del grupo de ChatGPT pudo citar nada», dice Kosmyna. «Eso era preocupante, porque acababas de escribirlo y no recordabas nada».

Kosmyna tiene 35 años, viste a la moda con un vestido camisero azul y un collar grande y multicolor, y habla más rápido de lo que la mayoría de la gente puede pensar. Según observa, escribir un ensayo requiere habilidades que son importantes en nuestra vida en general: la capacidad de sintetizar información, considerar perspectivas contrapuestas y construir un argumento. Estas habilidades se utilizan en las conversaciones cotidianas. «¿Cómo vas a lidiar con eso? ¿Vas a decir algo como: ‘Eh… ¿puedo mirar mi teléfono?», dice.

El experimento fue pequeño (54 participantes) y aún no ha sido revisado por pares. Sin embargo, en junio, Kosmyna lo publicó en línea, pensando que otros investigadores podrían encontrarlo interesante, y luego siguió con su día, sin saber que acababa de crear un frenesí mediático internacional.

Además de las solicitudes de los periodistas, recibió más de 4000 correos electrónicos de todo el mundo, muchos de ellos de profesores estresados que sienten que sus alumnos no están aprendiendo adecuadamente porque utilizan ChatGPT para hacer sus deberes. Les preocupa que la IA esté creando una generación capaz de producir trabajos aceptables, pero sin conocimientos útiles ni comprensión de la materia.

Según Kosmyna, el problema fundamental es que, tan pronto como aparece una tecnología que nos facilita la vida, estamos evolutivamente preparados para utilizarla. «A nuestro cerebro le encantan los atajos, está en nuestra naturaleza. Pero el cerebro necesita fricción para aprender. Necesita tener un reto».

Si el cerebro necesita fricción, pero también la evita instintivamente, es interesante que la promesa de la tecnología haya sido crear una experiencia de usuario «sin fricciones», para garantizar que, siempre que pasemos de una aplicación a otra o de una pantalla a otra, no encontremos resistencia. La experiencia de usuario sin fricciones es la razón por la que, sin pensarlo, descargamos cada vez más información y trabajo en nuestros dispositivos digitales; es la razón por la que es tan fácil caer en los agujeros negros de Internet y tan difícil salir de ellos; es la razón por la que la IA generativa ya se ha integrado tan completamente en la vida de la mayoría de las personas.

Sabemos, por nuestra experiencia colectiva, que una vez que te acostumbras a la ciberesfera hipereficiente, el mundo real, lleno de fricciones, resulta más difícil de manejar. Así que evitas las llamadas telefónicas, utilizas las cajas automáticas, lo pides todo desde una aplicación; recurres a tu teléfono para hacer los cálculos que podrías hacer de cabeza, para comprobar un dato antes de tener que rebuscarlo en tu memoria, para introducir tu destino en Google Maps y viajar de A a B con el piloto automático. Quizás dejas de leer libros porque mantener ese tipo de concentración te parece una fricción; quizás sueñas con tener un coche autónomo. ¿Es este el amanecer de lo que la escritora y experta en educación Daisy Christodoulou denomina una «sociedad estúpida», un paralelo a una sociedad obesógena, en la que es fácil volverse estúpido porque las máquinas pueden pensar por ti?

La inteligencia humana es demasiado amplia y variada como para reducirla a palabras como «estúpida», pero hay señales preocupantes de que toda esta comodidad digital nos está costando muy cara. En los países económicamente desarrollados de la Organización para la Cooperación y el Desarrollo Económicos (OCDE), las puntuaciones de Pisa, que miden la lectura, las matemáticas y las ciencias de los jóvenes de 15 años, tendieron a alcanzar su máximo alrededor de 2012. Si bien a lo largo del siglo XX las puntuaciones de CI aumentaron a nivel mundial, quizás debido a un mejor acceso a la educación y a una mejor nutrición, en muchos países desarrollados parecen haber disminuido.

La caída de las puntuaciones en las pruebas y el CI es objeto de un acalorado debate. Lo que es más difícil de discutir es que, con cada avance tecnológico, profundizamos nuestra dependencia de los dispositivos digitales y nos resulta más difícil trabajar, recordar, pensar o, francamente, funcionar sin ellos. «Solo los desarrolladores de software y los traficantes de drogas llaman a la gente usuarios», murmura Kosmyna en un momento dado, frustrado por la determinación de las empresas de inteligencia artificial de impulsar sus productos al público antes de que comprendamos plenamente los costes psicológicos y cognitivos.

En el mundo online, en constante expansión y sin fricciones, tú eres ante todo un usuario: pasivo, dependiente. En la era naciente de la desinformación y los deepfakes generados por la IA, ¿cómo mantendremos el escepticismo y la independencia intelectual que necesitaremos? Cuando aceptemos que nuestras mentes ya no nos pertenecen, que simplemente no podemos pensar con claridad sin la ayuda de la tecnología, ¿cuántos de nosotros quedarán para resistir?

Si empiezas a decirle a la gente que te preocupa lo que las máquinas inteligentes están haciendo a nuestros cerebros, corres el riesgo de que, en un futuro no muy lejano, todo el mundo se ría de lo anticuado que eres. Sócrates temía que la escritura debilitara la memoria de las personas y fomentara solo una comprensión superficial: no la sabiduría, sino «la presunción de sabiduría», un argumento que se asemeja mucho a muchas críticas a la IA. Lo que ocurrió en cambio fue que la escritura y los avances tecnológicos que le siguieron —la imprenta, los medios de comunicación, la era de Internet— hicieron que cada vez más personas tuvieran acceso a más información. Más personas podían desarrollar grandes ideas y compartirlas más fácilmente, lo que nos hizo más inteligentes e innovadores, tanto a nivel individual como colectivo.

Después de todo, la escritura no solo cambió la forma en que accedemos y retenemos la información, sino que también cambió nuestra forma de pensar. Una persona puede realizar tareas más complejas con un cuaderno y papel a mano que sin ellos: la mayoría de las personas no pueden calcular 53.683 dividido por 7 en su cabeza, pero podrían intentar hacer una división larga en papel. No podría haber dictado este artículo, pero escribir me ayudó a organizar y aclarar mis pensamientos. Como seres humanos, somos muy buenos en lo que los expertos denominan «descarga cognitiva», es decir, utilizar nuestro entorno físico para reducir nuestra carga mental, lo que a su vez nos ayuda a realizar tareas cognitivas más complejas. Imagínese lo difícil que sería funcionar cada día sin un calendario o recordatorios en el teléfono, o sin Google para recordar todo por usted. En el mejor de los casos, las personas inteligentes que trabajan en colaboración con máquinas inteligentes lograrán nuevas hazañas intelectuales y resolverán problemas difíciles: ya estamos viendo, por ejemplo, cómo la IA puede ayudar a los científicos a descubrir nuevos medicamentos más rápidamente y a los médicos a detectar el cáncer de forma más temprana y eficaz.

La complicación es que, si la tecnología realmente nos está haciendo más inteligentes, convirtiéndonos en máquinas eficientes de procesamiento de información, ¿por qué pasamos tanto tiempo sintiéndonos tontos?

El año pasado, «brain rot» (pudrición cerebral) fue nombrada palabra del año por Oxford University Press, un término que captura tanto la sensación específica de estupidez que nos invade cuando pasamos demasiado tiempo navegando por basura en Internet como el contenido corrosivo y agresivamente tonto en sí mismo, los memes sin sentido y el galimatías de la IA. Cuando sostenemos nuestros teléfonos, en teoría tenemos la mayor parte del conocimiento acumulado del mundo al alcance de la mano, así que ¿por qué pasamos tanto tiempo arrastrando nuestros ojos por basura?

Una de las cuestiones es que nuestros dispositivos digitales no han sido diseñados para ayudarnos a pensar de forma más eficiente y clara; casi todo lo que encontramos en Internet ha sido diseñado para captar y monetizar nuestra atención. Cada vez que coges el teléfono con la intención de realizar una tarea sencilla, discreta y potencialmente enriquecedora, como consultar las noticias, tu cerebro primitivo de cazador-recolector se enfrenta a una industria tecnológica multimillonaria dedicada a desviarte de tu objetivo y mantener tu atención, pase lo que pase. Para ampliar la metáfora de Christodoulou, del mismo modo que una de las características de una sociedad obesogénica son los desiertos alimentarios —barrios enteros en los que no se puede comprar comida saludable—, gran parte de Internet son desiertos informativos, en los que el único alimento disponible para el cerebro es basura.

A finales de los años 90, la consultora tecnológica Linda Stone, que trabajaba como profesora en la Universidad de Nueva York, se dio cuenta de que sus alumnos utilizaban la tecnología de forma muy diferente a sus colegas de Microsoft, donde también trabajaba. Mientras que sus colegas de Microsoft eran disciplinados a la hora de trabajar con dos pantallas —una para el correo electrónico, por ejemplo, y otra para Word o una hoja de cálculo—, sus alumnos parecían intentar hacer 20 cosas a la vez. Acuñó el término «atención parcial continua» para describir el estado estresante e involuntario en el que a menudo nos encontramos cuando intentamos alternar entre varias actividades que exigen un gran esfuerzo cognitivo, como responder a correos electrónicos mientras estamos en una llamada de Zoom. Cuando oí por primera vez este término, me di cuenta de que, como la mayoría de las personas que conozco, vivo la mayor parte de mi vida en un estado de atención parcial continua, ya sea mirando con culpa mi teléfono cuando debería estar jugando con mis hijos, o distraído incesantemente por mensajes de texto y correos electrónicos cuando intento escribir, o tratando de relajarme mientras veo Netflix y simultáneamente hago la compra online, preguntándome por qué me siento tan relajado como una cena recalentada en el microondas.

La multitarea digital nos hace sentir productivos, pero a menudo es una ilusión. «Tienes la falsa sensación de estar al tanto de todo sin llegar nunca al fondo de nada», me dice Stone. También te hace sentir permanentemente nervioso: un estudio que realizó reveló que el 80% de las personas experimentan «apnea de pantalla» cuando revisan sus correos electrónicos: se quedan tan atrapadas en las interminables notificaciones que se olvidan de respirar correctamente. «Tu sistema de lucha o huida se regula al alza, porque estás constantemente tratando de estar al tanto de todo», dice, y esta hipervigilancia tiene un coste cognitivo: nos hace más olvidadizos, peores a la hora de tomar decisiones y menos atentos.

La atención parcial continua ayuda a explicar tanto el deterioro cerebral como el estado mental —porque ¿qué es sino una sobrecarga cognitiva, el punto en el que dejas de resistirte al aluvión de distracciones digitales y permites que tu cerebro descanse en las cálidas y turbias aguas de Internet?— como la existencia misma de la basura online. Al fin y al cabo, lo que importa a las empresas tecnológicas desde el punto de vista financiero no es que quieras leer lo que estás leyendo, o que te encante lo que escuchas o lo que estás viendo, sino que no quieras o no puedas alejarte. Por eso los servicios de streaming como Netflix producen películas insulsas y formulistas que se etiquetan eufemísticamente como «visionado casual» y están diseñadas literalmente para espectadores que no están realmente viendo, y las listas de reproducción de Spotify están llenas de música genérica de archivo de artistas falsos, para proporcionar música de fondo, ambientes «Chill Out» o «Party», para oyentes que no están realmente escuchando. En resumen, el Internet moderno no te convierte necesariamente en un idiota, pero sin duda te prepara para actuar como tal.

En este clima es donde ha llegado la IA generativa, con una oferta totalmente novedosa. Hasta hace poco, solo se podía externalizar el recuerdo y parte del procesamiento de datos a la tecnología; ahora se puede externalizar el propio pensamiento. Dado que pasamos la mayor parte de nuestra vida sintiéndonos sobreestimulados y agotados, no es de extrañar que muchos hayan aprovechado la oportunidad de dejar que un ordenador haga más cosas que antes hacíamos nosotros mismos, como escribir informes de trabajo o correos electrónicos, o planificar unas vacaciones. A medida que pasamos de la era de Internet a la era de la IA, lo que consumimos no solo es información cada vez más de bajo valor y ultraprocesada, sino también información que está esencialmente predigerida, presentada de una manera diseñada para eludir funciones humanas importantes, como evaluar, filtrar y resumir información, o considerar realmente un problema en lugar de limitarse a la primera solución que se nos presenta.

Michael Gerlich, director del Centro de Prospectiva Corporativa Estratégica y Sostenibilidad de la SBS Swiss Business School, comenzó a estudiar el impacto de la IA generativa en el pensamiento crítico porque observó que la calidad de los debates en el aula había disminuido. A veces proponía a sus alumnos un ejercicio en grupo y, en lugar de hablar entre ellos, se quedaban sentados en silencio, consultando sus ordenadores portátiles. Habló con otros profesores, que habían observado algo similar. Gerlich realizó recientemente un estudio en el que participaron 666 personas de diferentes edades y descubrió que quienes utilizaban la IA con más frecuencia obtenían puntuaciones más bajas en pensamiento crítico. (Como él mismo señala, hasta la fecha su trabajo solo proporciona pruebas de una correlación entre ambos: es posible que las personas con menor capacidad de pensamiento crítico sean más propensas a confiar en la IA, por ejemplo).

Al igual que muchos investigadores, Gerlich cree que, si se utiliza de la manera adecuada, la IA puede hacernos más inteligentes y creativos, pero la forma en que la mayoría de la gente la utiliza produce trabajos insulsos, poco imaginativos y cuestionables desde el punto de vista factual. Una de las preocupaciones es el llamado «efecto de anclaje». Si se plantea una pregunta a la IA generativa, la respuesta que da lleva al cerebro por un camino mental determinado y hace que sea menos probable que se consideren enfoques alternativos. «Siempre utilizo el ejemplo siguiente: imagina una vela. Ahora, la IA puede ayudarte a mejorar la vela. Será la más brillante que haya existido jamás, durará más tiempo, será muy barata y tendrá un aspecto increíble, pero nunca se convertirá en una bombilla», afirma. Para pasar de la vela a la bombilla se necesita a una persona con capacidad de pensamiento crítico, alguien que pueda adoptar un enfoque caótico, desestructurado e impredecible para resolver problemas. Cuando, como ha ocurrido en muchos lugares de trabajo, las empresas implementan herramientas como el chatbot Copilot sin ofrecer una formación adecuada en IA, corren el riesgo de crear equipos de fabricantes de velas aceptables en un mundo que exige bombillas de alta eficiencia.

También existe la cuestión más importante de que los adultos que utilizan la IA como atajo se han beneficiado al menos de haber pasado por el sistema educativo en los años anteriores a que fuera posible conseguir un ordenador que escribiera los deberes por ellos. Una reciente encuesta británica reveló que el 92% de los estudiantes universitarios utilizan la IA y que alrededor del 20% la han utilizado para escribir toda o parte de una tarea. En estas circunstancias, ¿cuánto están aprendiendo? ¿Siguen las escuelas y universidades estando preparadas para formar pensadores creativos y originales que construyan sociedades mejores y más inteligentes, o el sistema educativo va a producir drones sin mente, crédulos y escritores de ensayos de IA?

Hace algunos años, Matt Miles, profesor de psicología en un instituto de Virginia (Estados Unidos), fue enviado a un programa de formación sobre tecnología en las escuelas. A los profesores se les mostró un vídeo en el que una estudiante es sorprendida mirando su teléfono durante las clases. En el vídeo, ella levanta la vista y dice: «Creéis que solo estoy en TikTok o jugando. En realidad, estoy en una sala de investigación hablando con un investigador del agua de Botsuana para un proyecto».

«Es ridículo. Se lo enseñas a los niños y todos se ríen, ¿verdad?», dice Miles. Alarmados por la desconexión entre la visión que tienen los responsables políticos de la tecnología en la educación y lo que los profesores veían en las aulas, en 2017 Miles y su colega Joe Clement, que enseña economía y gobierno en el mismo instituto, publicaron Screen Schooled, un libro en el que se argumentaba que el uso excesivo de la tecnología está embruteciendo a los niños. Desde entonces, se han prohibido los teléfonos inteligentes en sus aulas, pero los alumnos siguen trabajando con sus ordenadores portátiles. «Un niño nos dijo algo que me pareció muy perspicaz: ‘Si me veis con el teléfono, hay un 0% de posibilidades de que esté haciendo algo productivo. Si me veis con el ordenador portátil, hay un 50% de posibilidades», cuenta Miles.

Hasta la pandemia, muchos profesores se mostraban «acertadamente escépticos» sobre los beneficios de introducir más tecnología en las aulas, observa Faith Boninger, investigadora de la Universidad de Colorado, pero cuando los confinamientos obligaron a las escuelas a pasar a la enseñanza online, se creó una nueva normalidad y las plataformas tecnológicas educativas como Google Workspace for Education, Kahoot! y Zearn se hicieron omnipresentes. Con la difusión de la IA generativa surgieron nuevas promesas de que podría revolucionar la educación y marcar el comienzo de una era de aprendizaje personalizado para los estudiantes, al tiempo que se reducía la carga de trabajo de los profesores. Sin embargo, casi todas las investigaciones que han encontrado beneficios en la introducción de la tecnología en las aulas están financiadas por la industria de la tecnología educativa, y la mayoría de las investigaciones independientes a gran escala han descubierto que el tiempo que se pasa frente a la pantalla obstaculiza el rendimiento.

Por ejemplo, un estudio global de la OCDE reveló que cuanto más utilizan los estudiantes la tecnología en las escuelas, peores son sus resultados. «Simplemente no hay pruebas independientes a gran escala de la eficacia de estas herramientas… En esencia, lo que está ocurriendo con estas tecnologías es que estamos experimentando con los niños», afirma Wayne Holmes, profesor de estudios críticos de inteligencia artificial y educación en el University College de Londres. «La mayoría de las personas sensatas no entrarían en un bar y se encontrarían con alguien que les dijera: «Oye, tengo una nueva droga. Es muy buena para ti», y la probarían sin más. Por lo general, esperamos que nuestros medicamentos se sometan a pruebas rigurosas y que nos los receten profesionales. Pero, de repente, cuando hablamos de tecnología educativa, que aparentemente es muy beneficiosa para el desarrollo del cerebro de los niños, no sentimos la necesidad de hacer eso».

Lo que preocupa a Miles y Clement no es solo que sus alumnos estén permanentemente distraídos con sus dispositivos, sino que no desarrollen habilidades de pensamiento crítico y conocimientos profundos cuando las respuestas rápidas están a solo un clic de distancia. Antes, Clement solía hacer a su clase preguntas como «¿En qué lugar creéis que se encuentra Estados Unidos en términos de PIB per cápita?» y guiaba a sus alumnos mientras estos se devanaban los sesos buscando la solución. Ahora, alguien habrá buscado la respuesta en Google antes incluso de que él haya terminado la pregunta. Saben que los alumnos utilizan ChatGPT constantemente y se molestan si no se les proporciona una copia digital de sus tareas, porque entonces tienen que escribir en lugar de copiar y pegar las preguntas relevantes en un asistente de IA o en la barra de búsqueda de Google. «Ser capaz de buscar algo en Google y dar la respuesta correcta no es conocimiento», afirma Clement. «Y tener conocimientos es increíblemente importante para que, cuando escuches algo cuestionable o tal vez falso, pienses: «Un momento, eso contradice todos los conocimientos que tengo que dicen lo contrario, ¿no?». No es de extrañar que haya un montón de idiotas por ahí que piensan que la Tierra es plana. Si lees un blog sobre la Tierra plana, piensas: ‘Ah, eso tiene mucho sentido’, porque no tienes ningún conocimiento ni comprensión». Internet ya está inundado de conspiraciones y desinformación, algo que solo empeorará a medida que la IA alucine y produzca falsedades plausibles, y le preocupa que los jóvenes no estén preparados para navegar por él.

Durante la pandemia, cuenta Miles, encontró a su hijo pequeño llorando sobre la tableta que le había dado el colegio. Su hijo estaba haciendo un ejercicio de matemáticas online y en él le pedían sumar seis usando el menor número posible de fichas de uno, tres y cinco. Él seguía sugiriendo usar dos tres, y el ordenador le decía que estaba equivocado. Miles probó con uno y cinco, y el ordenador lo aceptó. «Es el tipo de pesadilla que se tiene con una IA no humana, ¿verdad?», observa Miles: los estudiantes a menudo abordan los temas de formas inesperadas e interesantes, pero las máquinas tienen dificultades para lidiar con la idiosincrasia. Sin embargo, al escuchar su historia, me llamó la atención otro tipo de pesadilla. Quizás el amanecer de la nueva era dorada de la estupidez no comience cuando nos sometamos a máquinas superinteligentes, sino cuando entreguemos el poder a las máquinas tontas.