Yuval Noah Harari: «Para las empresas de redes sociales, la forma más fácil de mantener a la gente enganchada es apelar al miedo, al odio y a la ira»
Confundir las voces con el ruido es uno de los grandes males de nuestros días. En «Nexus: Una breve historia de las redes de información desde la Edad de Piedra hasta la IA» (Debate), Yuval Noah Harari desgrana los perniciosos efectos que la inteligencia artificial tiene ya sobre la calidad de la información y de las democracias, y alerta de las amenazas (totalitarismos incluidos) que piden una regulación legislativa a gritos. Con un precedente tan inquietante y consumado como el de la manipulación orquestada de Cambridge Analytica, la consultora de comunicación que a lo largo de 2016 privilegió el posicionamiento de los mensajes de extrema derecha que emitían los usuarios de Facebook para fomentar el ascenso de Donald Trump en la intención de voto de los ciudadanos estadounidenses, solo nos queda decir: quien avisa no es traidor. Rescatamos las principales declaraciones del sociólogo israelí a su paso por Madrid a finales de 2024.

Yuval Noah Harari en una imagen tomada en Toronto, Canadá, en septiembre de 2024. Crédito: Getty Images.
El impacto electoral de la inteligencia artificial y la desinformación
«Nexus, que se publicó en plena campaña electoral estadounidense, versa sobre algunos de los temas políticos más candentes y sobre escándalos electorales, así que recibió mucha atención por parte de la prensa y televisión norteamericanas. La mayoría de los estadounidenses ignoran el caso Cambridge Analytica, la consultora de comunicación de Facebook que, por encargo del partido republicano, manipuló los algoritmos de la red para privilegiar la visibilización de los contenidos de extrema derecha en el feed de los usuarios durante la campaña de las elecciones estadounidenses de 2016, en las que resultó elegido Donald Trump. El impacto que la inteligencia artificial y la desinformación pueden tener en el resultado de las elecciones es incalculable».
Muchos mensajes, escasa comunicación: la gran paradoja de las tecnologías de la información
«La tecnología de la información es más sofisticada que nunca, hasta el punto de que cada uno de nosotros puede hablar de tú a tú y de forma masiva con personas de la otra punta del mundo. Así que la gran pregunta es por qué los republicanos y los demócratas son más incapaces que nunca de ponerse de acuerdo en algo: solo coinciden en que el debate se está agotando. La gente no se pone de acuerdo en los hechos más básicos y ya no puede conversar de modo racional, todo ello poco después de que los gigantes de la información hayan creado herramientas de comunicación ultrasofisticadas que, según prometían, nos mantendrían a todos en contacto y difundirían la verdad. ¿Cómo se explica, entonces, lo que está ocurriendo en Estados Unidos, en Canadá, en Brasil…?».
La verdad es cara y compleja, la mentira es barata y simple
«La información no es sinónimo de verdad ni de conocimiento. Muy ingenuamente (o no), los magnates de Silicon Valley se han basado en una premisa falsa: que la información y la verdad son lo mismo, y que inundar a la sociedad con más y más información hará que la gente sea más culta. Pero lo cierto es que la mayor parte de la información que circula por el mundo es basura y mentiras. La verdad es algo extraordinario, escaso y costoso. Para escribir una historia documentada y fiel a los hechos hay que invertir tiempo, dinero y esfuerzo. Para escribir una sarta de mentiras no hace falta nada de eso: basta con que alguien escriba lo primero que se le pase por la cabeza. La verdad es cara, la mentira es barata. La verdad suele ser complicada, porque la realidad lo es, pero la mentira puede hacerse tan simple como uno quiera. Y la gente por lo general prefiere los relatos simples a los complicados. Además, la verdad es frecuentemente dolorosa. Hay cosas que mucha gente prefiere no saber sobre sí mismo, sobre su país, sobre quienes considera los suyos. Pero las mentiras pueden regalar los oídos tanto como quien las inventa quiera. Así que el mundo está lleno de información, pero es erróneo asumir que cuanta más información tenga uno, más posibilidades hay de que la verdad salga a la luz. En la práctica es al revés: cuantos más mensajes se generan, más oculta queda la verdad. Para que la verdad gane la partida hay que invertir en ella a través de instituciones académicas o mediáticas que desmonten los bulos y difundan la verdad. Y es responsabilidad de todos nosotros no ser tan ingenuos como para creer que todo lo que leemos es verdad».
El papel de la prensa para fortalecer la democracia
«La prensa es indispensable en las democracias. En las dictaduras hay una sola persona que habla a todos los demás, que han de permanecer callados, mientras que la democracia es un debate en el que la gente trata de llegar a un acuerdo. Hasta el advenimiento de la prensa moderna, la democracia a larga escala era simplemente imposible: las civilizaciones antiguas solo la tenían a pequeña escala en ciudades-estado, como Atenas, o en tribus más pequeñas donde todos podían reunirse y hablar. En los grandes países, en cambio, era técnicamente imposible que miles de personas hablaran las unas con las otras, y fue el advenimiento y apogeo de las tecnologías de información modernas lo que posibilitó por fin las conversaciones a gran escala. La primera de ellas fue el periódico, allá por el siglo XVIII, en regiones como Holanda e Inglaterra, donde surgieron también las primeras democracias a gran escala de la historia gracias también a herramientas como el telégrafo, la radio y la televisión. Estas tecnologías son la base de las democracias modernas: sin ellas no había debate, y sin debate no podía haber democracia».
___
«Las tecnologías que intervienen en el debate ciudadano han cambiado, y el resultado es un auténtico terremoto. Mucha gente confunde la democracia con las elecciones, pero estas son condición necesaria, pero no suficiente. Por otro lado, las elecciones se pueden trampear, como hemos visto en Venezuela o como sucede cada cuatro años en Corea del Norte. Y eso no es democracia. En las verdaderas democracias se pueden identificar y corregir los fallos o desmanes de los gobernantes. El pueblo puede decir: esto no funciona, probemos con otra cosa. Eso es lo que las diferencia de las dictaduras; por ejemplo, Putin nunca admitirá un error. Las democracias ceden el poder a alguien durante un periodo de tiempo limitado, por lo general cuatro años, y cuando ese periodo acaba los ciudadanos vuelven a decidir si se quedan con eso o prefieren a otro partido».
___
«El gran problema de la democracia es su debilidad, porque al darle el poder a alguien este puede negarse a devolvérselo al pueblo y amañar elecciones en su lugar. Por eso, para protegerse, las democracias necesitan un sistema de verificación y control del poder, y para ello tanto el Parlamento como los medios de comunicación deben ser independientes y dar cuenta de los fallos y, en su caso, mentiras de los gobernantes. Esa independencia de los medios es esencial, porque la democracia se basa en el debate, y en este deben prevalecer el conocimiento y la verdad. Los medios tienen un poder enorme: pueden proteger las democracias y también destruirlas».
___
«Algunos dictadores modernos consolidaron su poder controlando los medios: tanto Lenin como Mussolini, sin ir más lejos, dirigieron sendos periódicos antes de hacerse con el poder. Hoy en día ese poder está en manos de los nuevos gigantes mediáticos y sus algoritmos: Facebook, Twitter, Instagram... Y cuando se les exigen responsabilidades, todos se escudan en la libertad de expresión y dicen que no quieren censurar a nadie».

Yuval Noah Harari. Crédito: Love Tomorrow.
El sesgo del algoritmo y la primera plana: el posicionamiento privilegiado de los mensajes de odio, miedo e ira en las redes sociales
«En el campo del periodismo, la decisión más importante es si publicar algo o no, y hasta ahora la tomaba el director. Ahora, en algunos de los medios de comunicación más importantes del mundo, como Twitter y Facebook, esa decisión se ha dejado en manos de los algoritmos de la IA: no solo qué se publica y qué no, sino también a qué tipo de publicaciones y mensajes se les da más visibilidad. El principal problema no es lo que los usuarios puedan decir, desde mensajes de odio hasta teorías conspiranoicas en Twitter o Facebook, sino que los algoritmos de la plataforma privilegien la visibilización de dichos mensajes por encima del resto de los contenidos. Y lo que sucede es que los algoritmos están diseñados para difundir al máximo ese tipo de mensajes, porque enganchan a la gente y hacen que se queden más tiempo en las redes, con el consiguiente beneficio económico de las empresas de redes. La base del modelo de negocio de las redes sociales es maximizar la fidelidad de los usuarios, es decir, en mantenerles conectados a ellas el mayor tiempo posible. Y han descubierto que la forma más fácil de conseguirlo es apelar al miedo, al odio y a la ira, y actúan en consecuencia, amplificando el eco de esos mensajes y contribuyendo con ello a generar aún más miedo, más odio y más ira. Eso ya no forma parte de la libertad de expresión, y deberían rendir cuentas por ello, exactamente igual que debería hacerlo el The New York Times si se hiciera eco en primera página de una teoría de la conspiración, la haya inventado su equipo o no. Y más aún teniendo en cuenta que hoy en día el impacto de las redes sociales (Facebook, Twitter, Instagram, TikTok, YouTube) es mayor que el de cualquier medio de comunicación tradicional».

Comparación de un vídeo original y uno deepfake del director ejecutivo de Facebook, Mark Zuckerberg. Crédito: Getty Images.
Ni censurar ni difundir: el derecho a la estupidez
«Estoy de acuerdo con Elon Musk y Mark Zuckerberg en una cosa: en que las empresas de redes sociales deben tener mucho cuidado antes de censurar a las personas. Si cualquiera de usuarios, intencionadamente o por error, publica algo que no es verdad, castigarle es extremo. La gente miente en su día a día y cuenta historias disparatadas en el bar o en el trabajo. La gente tiene derecho a ser estúpida, incluso a mentir, exceptuando aquellas mentiras que están penadas por ley. Lo que no debería ser legal es privilegiar intencionadamente la visibilización de las mentiras a través de los algoritmos corporativos para así difundirlas masivamente y, con ello, incrementar el tráfico, la implicación de los usuarios con las redes y, a la postre, obtener mayores beneficios económicos».
A la derecha y a la izquierda: los extremos se tocan
«En muchos países las estrategias tramposas y viciadas vienen de la extrema derecha, pero la extrema izquierda puede hacer lo mismo: pensemos en Venezuela, Chávez, Maduro... Esto es, de hecho, lo que la una y la otra tienen en común. Hay algo en lo que Donald Trump y Karl Marx coinciden: en su desconfianza y descrédito hacia las instituciones que históricamente han velado por la verdad: los medios de comunicación, las universidades, la ciencia, el Parlamento... La extrema izquierda y la extrema derecha comparten una visión cínica del mundo en la que la única realidad es el poder, que toda la interacción humana es una lucha de poder. Y eso no es cierto: históricamente, la gente siempre ha querido saber la verdad sobre sí mismos, sobre el mundo, sobre la vida, porque sin ella no podemos ser felices. No podemos cortar las raíces de lo que nos hace desgraciados si no sabemos cuáles son. Pero Foucault, Edward Said y ahora también Trump dicen que los periodistas no les interesa la verdad, que solo son una herramienta de los poderosos».
___
«Decir que las instituciones mienten sistemáticamente, desacreditarlas, es el primer paso hacia las dictaduras. La democracia se basa en la confianza; sin ella, no funciona. A las dictaduras, en cambio, no les hace ninguna falta: se basan en el terror. La gente hambrienta de poder y que desprecia la verdad, como Putin, Maduro, Netanyahu, no parece muy feliz. Hoy en día los periodistas, los académicos y los científicos deben recordar a la gente que el poder no es lo único que importa, que no todo es manipulación, que la solidaridad también es importante. La corrupción existe, sí, pero precisamente para eso están las distintas instituciones: para controlarse las unas a las otras».

El candidato presidencial republicano, el ex presidente estadounidense Donald Trump, habla con los periodistas después de debatir con la candidata demócrata, la vicepresidenta estadounidense Kamala Harris, en el Centro de Convenciones de Pensilvania el 10 de septiembre de 2024. Crédito: Getty Images.
La inteligencia artificial: cuando las máquinas deciden (e inventan máquinas nuevas)
«La IA es muy diferente a todas las tecnologías anteriores. No es una herramienta, es un agente independiente. Muchos inventos anteriores, como las armas nucleares o las bombas, tienen un enorme potencial destructivo, pero con ellas el poder estaba en manos humanas: eran personas quienes decidían si las usaban, dónde y cómo. La bomba, por sí misma, no decidía nada, ni inventaba armas nuevas, ni desarrollaba estrategias militares. La IA, por el contrario, sí puede tomar decisiones. Por otro lado, una bomba atómica no podía fabricar una bomba de hidrógeno, que es aún más poderosa. Pero la IA sí puede producir cosas nuevas por sí misma: ha empezado por lo pequeño, como imágenes o textos con códigos de escritura, pero con el tiempo una herramienta de IA puede llegar a producir otra más poderosa, y generar con ello una explosión de IA incontrolable por el ser humano».
La (inestimable) capacidad creadora de la inteligencia artificial
«El logro más reciente en el desarrollo de la IA ha sido dotarla de la capacidad de crear historias que antes no existían. Si miramos lo que eran las redes sociales hace unos años, los algoritmos de la IA ya controlaban el debate decidiendo qué visibilizaban más en el feed, pero no podían crear contenidos: ni textos, ni música, ni imágenes, ni vídeos. Ahora, sin embargo, sí que pueden. Los contenidos no son óptimos, tienen fallos claramente visibles, pero solo estamos en la primera etapa. Cuando arrancó la revolución de la IA, hace diez años, esta era como una ameba. Pero, mientras que a las amebas les llevó millones de años convertirse en dinosaurios, la evolución de la IA es un millón de veces más rápida, y no pasarán más de diez años o veinte años para que el Chat GPT se convierta en un dinosaurio. A mí me alucina que, ahora mismo, los textos que crea sean coherentes, con sus fallos pero con sentido, con argumentos. Soy profesor universitario, y créeme que muchos de mis estudiantes lo hacen infinitamente peor: son incapaces de relacionar unas ideas con otras. Y si el Chat GPT, que es la ameba, ya lo hace mejor que algunos humanos, ¿qué no podrá hacer el dinosaurio? Los humanos llevan milenios creando historias, series de televisión, música, teatro, imágenes, pero a partir de ahora todo eso lo hará una inteligencia alienígena. ¿Qué impacto tendrá eso en los humanos, en su psicología?».

Yuval Noah Harari. Crédito: cortesía del autor.
Los beneficios de la ia: la salud y la seguridad
«La inteligencia artificial no trae solo peligros: también puede traernos grandes avances. Por ejemplo, en el terreno de la salud, la IA puede hacer diagnósticos excelentes, actualizarse diariamente con los descubrimientos más recientes, aplicar sus conocimientos a las particularidades a cada paciente y atender a un número ilimitado de ellos: una sola máquina puede hacer el trabajo de miles de doctores. Y sería infinitamente más barata que los doctores humanos, con lo que hasta las personas de los lugares más pobres y remotos del planeta podrían hacer uso de ella sin problemas. También puede ser muy útil para evitar los accidentes de tráfico, que se deben mayoritariamente a errores humanos: los vehículos de conducción automática los eliminaría de un plumazo. Si en Nexus me he centrado en los peligros de la inteligencia artificial, y no en sus virtudes, es porque las empresas de IA, obviamente, dan buena cuenta de sus potenciales beneficios, pero no de las amenazas que acarrean. Así que les toca a otros especialistas hacer ese trabajo».
Una breve historia de la humanidad