Yuval Noah Harari: «La inteligencia artificial es una amenaza a la existencia humana»
Cuando publicó «Sapiens» (Debate) hace diez años, Harari no imaginaba que eso lo alejaría de la categoría de académico para convertirlo en una suerte de celebridad global. Tampoco imaginaba entonces, como sí lo hace ahora que publicó la adaptación gráfica de aquel primer libro, que las tecnologías disruptivas y el cambio climático podrían «destruir las bases de la civilización» o que la posibilidad de una nueva guerra mundial volvería a asomar en el horizonte a partir de las tensiones entre Estados Unidos y China. En este diálogo exclusivo con Moisés Naím en el Hay Festival de Arequipa, recorre la historia reciente de la humanidad y el sombrío futuro que nos acecha: la manipulación de datos y emociones en las redes sociales; el fenómeno «woke» y la revolución feminista; las bondades sociales del ateísmo y la meditación; el gran triunfo científico que significó la pandemia y, a la vez, el inmenso fracaso político y la falta de coordinación de quienes nos gobiernan: «Parece como si no hubiese adultos en la habitación».
Por Moisés Naím
Yuval Noah Harari y Moisés Naím en el Hay Festival de Arequipa. Crédito: Hay Festival.
Por MOISÉS NAÍM
Moisés Naím: Hola, estoy encantado de darles la bienvenida al Hay Festival, esta vez desde Arequipa, Perú, para el resto del mundo. Y tengo el placer de dar la bienvenida a Yuval Noah Harari. Esta es otra oportunidad que tenemos para hablar de temas de interés común. Encantado de tenerte con nosotros, Yuval.
Yuval Noah Harari: Qué bien estar aquí. Gracias por invitarme.
Moisés Naím: No necesitas presentación, pero déjame decir que tienes un doctorado en la Universidad de Oxford, eres historiador y enseñas en el departamento de historia de la Universidad Hebrea de Jerusalén. Pero eso no cuenta toda la historia. La historia completa es que eres lo más cercano que la comunidad académica, o los historiadores, tienen a una estrella de rock, a una persona con fama mundial. Las cifras hablan por sí mismas. Has vendido 27 millones de ejemplares, solo de Sapiens, que es el libro que vamos a discutir hoy, en 60 idiomas, y no son solo los números. Bill Gates dijo que Sapiens «es una mirada divertida y atractiva a la historia temprana de la humanidad». El expresidente Barack Obama que «es interesante y provocativo, da un sentido de perspectiva sobre el poco tiempo que llevamos en esta Tierra, lo poco que han existido cosas como la agricultura y la ciencia, y por qué tiene sentido que no las demos por sentadas». Así que por todas partes hay una admiración reivindicativa y seguramente has creado una chispa de nuevo interés en cosas que sucedieron hace setenta mil años. Todos tus libros son éxitos de ventas, porque, además Sapiens, tienes Homo Deus. Breve historia del mañana, 21 lecciones para el siglo XXI, y ahora Sapiens. Una historia gráfica. Un cómic.
Yuval Noah Harari: Sí, es un cómic, una novela gráfica.
Moisés Naím: Es una idea brillante para llegar a un público al que no llegarías de otra manera. Espero que tenga el éxito que se merece. Ya has tenido la experiencia de difundir tus ideas en diferentes plataformas, desde las aulas de las universidades hasta las redes sociales, pasando por las charlas TED, las conferencias, los libros y ahora los libros gráficos. ¿Cuál crees que ha tenido más impacto?
Yuval Noah Harari: Bueno, supongo que el libro es el que tiene más impacto. Sapiens. Pero si la idea es llegar a un público amplio y a diferentes personas de diferentes ámbitos de la vida, entonces necesitas una combinación de diferentes medios. No hay razón para centrarse en uno solo, y esto no es algo nuevo. A lo largo de la historia, la gente ha utilizado todo tipo de medios para contar su historia, para contar la historia del pasado de la humanidad. Contar la historia en imágenes es algo que se encuentra en la Europa medieval: por ejemplo, el Tapiz de Bayeux que representa la invasión normanda de Inglaterra o las imágenes aztecas y mayas que representan la invasión española. Creo que el punto principal es poder hablar a diferentes personas de diferentes maneras que hagan la historia más atractiva, más divertida. Además, para mí, como escritor, creo que la novela gráfica ha sido el proyecto más divertido en el que he trabajado. Fue como explorar y experimentar con diferentes formas de contar la historia y dejar de lado todas las convenciones académicas de cómo se escribe la historia para probar algo completamente diferente.
Moisés Naím: Y tengo entendido que eres un personaje de la novela gráfica. Apareces en el cómic pero, al comienzo, eras un poco reacio, y puedo entender que un académico, un historiador, sea reacio a ser un personaje en un cómic. Pero luego cediste. ¿Qué pasó? ¿Quién te convenció o te obligó a hacerlo?
Yuval Noah Harari: Quiero decir que la novela gráfica no es una creación mía únicamente. Es un esfuerzo de colaboración con David (Vandermeulen) y Daniel (Casanave). Ellos son los artistas, entienden el medio de la novela gráfica mucho mejor que yo, y dijeron que necesitábamos en el libro un personaje que sirviera de guía a los lectores para explicar las diferentes ideas científicas. Y yo me resistí al principio. En el libro original no aparezco. No me gusta salir. No se trata de mí, sino de la historia. Así que, ¿por qué debería estar ahí? Pero finalmente llegamos a un compromiso. De acuerdo, estaré allí, pero no solo. Tendremos un grupo de científicos que representan diferentes disciplinas, y yo seré sólo uno de ellos. Eso era importante, en primer lugar, para transmitir la idea de que la ciencia nunca es obra de una persona. La mayor parte de lo que sé sobre la historia procede del trabajo de otras personas. Nunca he realizado una excavación arqueológica. No soy arqueólogo, no soy genetista, así que no puedo analizar el ADN antiguo y demás. Así que tenemos un grupo de cuatro o cinco científicos diferentes, algunos de ellos ficticios y otros reales, como yo, y esto nos permite tener una conversación y no una conferencia unilateral. Así podemos mostrar que hay diferentes opiniones, que los científicos a veces no están de acuerdo, que trabajan juntos, y este era un compromiso con el que podía convivir.
La historia en imágenes
Moisés Naím: Al principio, cuando lo leí, era escéptico de que pudiera captar todos los detalles y los matices del libro original, que es abrumador en cuanto al alcance de la historia que cuenta y el número de variables y sorpresas. Era difícil captarlo todo, pero tengo que decir que tú y tus colegas lo han conseguido.
Yuval Noah Harari: No es que tomamos Sapiens y lo ilustramos sin más. Esto nos dio la oportunidad de explorar nuevas formas, de pensar nuevas tramas, de presentar el material de una manera fresca. Y para mí fue trabajar también con personajes ficticios y líneas argumentales ficticias, como el capítulo sobre la historia de la desigualdad, que es una historia muy difícil y seria y trágica sobre la desigualdad humana y las jerarquías y el racismo, y queríamos transmitirla de forma accesible. Así que creamos el personaje ficticio de la detective López, una agente de policía que va tras el mayor crimen de la historia: la desigualdad, para intentar entender quién está detrás de ella, quiénes son los criminales, qué está generando esto. Y esto nos dio la oportunidad de hablar de este tema tan serio y difícil de una manera fresca y atractiva.
Moisés Naím: Permítanme ahora pasar a la esencia del libro. La esencia, de nuevo, es la fuerza de la colaboración y la cooperación a escala como explicación del éxito del Homo Sapiens en prevalecer como la principal especie en el mundo, y ser capaz de superar y hacer desaparecer a los Neandertales, por ejemplo. Pero atribuyes esta capacidad de coordinación a tres revoluciones: la revolución cognitiva, la revolución agrícola y la revolución científica. Dices que estas revoluciones han afectado a los humanos y a sus congéneres u organismos y han potenciado la capacidad de coordinación del ser humano. ¿Por qué? Háblanos un poco de las tres revoluciones y de su impacto en la coordinación entre los humanos.
Yuval Noah Harari: Los humanos hemos existido durante millones de años, y durante la mayor parte de este tiempo fuimos simios bastante insignificantes. Si nos remontamos cien mil años o doscientos mil años atrás, un par de millones de humanos en todo el mundo de diferentes especies, no solo Homo sapiens, sino también Neandertales y otros, vemos que su impacto en el mundo es bastante pequeño. Y entonces algo sucede y nuestra especie lleva a la extinción a todos los demás humanos y se apodera del mundo. ¿Qué sucedió? Quiero decir, ¿cuál es nuestro superpoder que nos permite hacer eso? La respuesta es que somos el único simio, en realidad, somos el único mamífero que puede cooperar con un gran número de extraños. Los chimpancés cooperan. Los neandertales cooperaban, pero solo en pequeñas cantidades, porque su cooperación se basa en que se conocen: yo te conozco, tú me conoces, podemos cazar juntos. Los humanos, en cambio, cooperan con millones de extraños. Para tener esta conversación contigo, no sé cuántas personas participan en la organización , y no los conocemos. O la camiseta que estoy usando, que fue producida por personas a miles de kilómetros de aquí que nunca conocí. Ese es nuestro superpoder. Y lo que nos permite cooperar con millones de extraños es la capacidad de inventar historias ficticias y difundirlas. Si todo el mundo cree en la misma historia, todo el mundo puede seguir las mismas reglas, de modo que incluso los desconocidos pueden cooperar. Esto es más claro en el caso de la religión pero también es cierto en la economía. La gente que produce esta camiseta lo hizo porque les pago dinero y el dinero probablemente sea la historia más exitosa jamás contada. Es una ficción. No tiene valor en sí mismo. Los dólares, euros y pesos no tienen ningún valor, pero tú crees y yo creo que estos trozos de papel o estos datos electrónicos en la computadora tienen valor. Nos creemos la historia que nos cuentan los banqueros y los ministros de economía, y por eso podemos crear una red de comercio mundial. Así que esta fue la primera gran revolución en la cooperación: la capacidad de inventar historias y así hacer que los extraños cooperen. Luego tenemos la agricultura, a través de la cual los humanos aprendieron a domesticar ciertos animales y plantas, y esto les dio mucho más poder, mucho más alimento para poder crear sociedades más grandes, ciudades, reinos e imperios. Y por último, tenemos la revolución científica, que comenzó hace como quinientos años, y todavía está en marcha, que nos dio nuevos poderes inmensos. Básicamente, desciframos las leyes de la física, la química y la biología, y cada vez que desciframos una nueva ley de la naturaleza, entendemos mejor la naturaleza y eso también nos da poder. Como ahora en esta pandemia. Ha habido pandemias durante miles de años, y durante miles de años los humanos han estado indefensos porque no entendían lo que estaba pasando. Ahora entendemos qué es un virus, cómo nos infecta y cómo podemos protegernos, y esto también se basa en la cooperación. La investigación de los virus y la producción de vacunas, , como ocurrió en la epidemia de coronavirus, se hace gracias a la cooperación de decenas de miles de científicos de todo el mundo.
«La capacidad de cooperar con millones de extraños y de inventar historias es nuestro superpoder como especie. Esto es más claro en el caso de la religión pero también es cierto en la economía: el dinero probablemente sea la historia más exitosa jamás contada».
Moisés Naím: Estabas hablando del éxito de los científicos para hacer y conseguir la vacuna muy rápidamente para responder a la pandemia y cómo esto es un ejemplo de colaboración humana a gran escala. Pero fuimos testigos con gran preocupación y ansiedad de cómo mientras los científicos daban resultados a velocidad y escala, los políticos se empequeñecían. Eran proteccionistas. La capacidad de coordinación no existía. El nivel de coordinación ha sido muy, muy bajo y lento, y tú has sido muy estridente en tus críticas a los gobiernos y a los políticos en cuanto a la lentitud e inadecuación con que han reaccionado. Y eso es un ejemplo de descoordinación que amenaza al planeta, ¿no?
Yuval Noah Harari: Exactamente. Si miramos los dos últimos años, desde el comienzo de esta crisis, ha sido un triunfo científico unido a un desastre político. El logro científico ha sido asombroso. Solo se tardó unas semanas en identificar el virus, que es el responsable de la epidemia, y solo un año en producir en masa no una vacuna, sino varias. Por primera vez en la historia no estamos indefensos ante las pandemias. Realmente tenemos suficiente poder para detenerlas pero desgraciadamente los científicos solo producen las herramientas. Ese es su trabajo. Cómo utilizar las herramientas ya no es el trabajo de los científicos, sino de los políticos. Ellos tienen que tomar decisiones políticas sobre cómo utilizarlas, y esto fue un gran fracaso. Incluso ahora, que han pasado casi dos años desde el comienzo de esta crisis, todavía no hay un plan de acción global sobre cómo superar la pandemia y hacer frente a sus consecuencias económicas.
Moisés Naím: Permíteme confirmar lo que estás diciendo. Hoy, mientras hablamos, el Financial Times, un diario muy respetado, publica un artículo que dice que el mundo está poco preparado para la próxima crisis sanitaria. Y esto proviene de un informe realizado conjuntamente por la Organización Mundial de la Salud y el Banco Mundial, que dice que hay pocas pruebas de que se hayan aprendido las lecciones correctas de la crisis del coronavirus a pesar de la muerte de casi cinco millones de personas en todo el mundo. Y algunas personas han dicho que el coronavirus no es más que un ensayo general de lo que se avecina: el cambio climático. Volveremos a tener una amenaza planetaria global que requerirá una acción concertada a nivel planetario. Y al mismo tiempo, estas amenazas muy a menudo en política conducen al aislacionismo, al proteccionismo, a construir muros, a mantener alejados a los demás. ¿Es eso una amenaza para la supervivencia del Homo sapiens?
Yuval Noah Harari: Absolutamente. Quiero decir, la pandemia de coronavirus no puede destruirnos incluso si reaccionamos como hemos reaccionado, que no es de una manera ideal y en el caso de algunos gobiernos, como el de Bolsonaro en Brasil, ha sido desastrosa. Aun así, la pandemia no puede destruir la civilización humana. Somos más fuertes. Pero hay otras amenazas planetarias, amenazas globales, como has dicho, que son una amenaza existencial para la humanidad. El cambio climático puede destruir la base de la civilización humana. Una guerra nuclear puede destruir a la humanidad. El auge de las nuevas tecnologías disruptivas, como la inteligencia artificial, si no se maneja de forma correcta y sabia, puede destruir la civilización humana. Ese es el gran peligro. Si los políticos son incapaces de cooperar y elaborar un plan ante una amenaza relativamente sencilla como el COVID, ¿qué posibilidad tenemos de unirnos ante una amenaza mucho más complicada como el cambio climático o el auge de la inteligencia artificial? Esto es lo que realmente me asusta. Cuando observo el mundo en estos momentos, parece que no hubiese responsables. Todo el mundo se limita a ocuparse de su país y de sus intereses. Y debería ser obvio que no puedes protegerte a ti mismo porque incluso si solo te preocupas por tu país, necesitas cooperar con otros países. Si vacunas a toda la gente de tu país y permites que el virus siga propagándose en otros países, habrá mutaciones y quizá una nueva variante del virus supere tu vacuna y sea más mortal o más infecciosa. Así que olvídate de la ética, olvídate de la moral: por razones egoístas necesitas brindar buena atención sanitaria a las personas de todo el mundo. Mencionaste la obsesión por construir muros en las fronteras en todo el mundo. Necesitamos construir un muro, pero no en las fronteras entre países, sino en la frontera entre la humanidad y el mundo de los virus. Si un virus salta la frontera del murciélago al ser humano en cualquier parte del planeta, eso nos pone en peligro a todos, así que tenemos que construir un muro que cubra a todo el mundo. Si solo te ocupas de la gente de tu país y te olvidas de ocuparte de la gente de otros países, estás dejando la frontera entre la humanidad y el mundo de los virus expuesta a la invasión.
«La pandemia no puede destruir la civilización. Pero si los políticos son incapaces de cooperar y elaborar un plan ante una amenaza relativamente sencilla como el COVID, ¿qué posibilidad tenemos de unirnos ante una amenaza mucho más complicada como el cambio climático o el auge de la inteligencia artificial?»
Moisés Naím: Sapiens se publicó en 2011, hace casi 10 años. Si lo volvieras a escribir ahora, ¿qué quitarías? ¿Hubo algún error en alguna parte? ¿Hubo una mala interpretación? ¿Hubo algo que pensaste y escribiste en ese libro que iba a suceder o estaba sucediendo que resultó no ser correcto? Si tuvieras que volver a escribir, ¿qué incluirías que no está en el libro original
Yuval Noah Harari: En realidad, lo he escrito de nuevo como novela gráfica, así que he tenido esa oportunidad. La trama principal es la misma, la idea principal es la misma, aunque con un montón de detalles diferentes. Pero cuando escribí Sapiens, uno de los últimos capítulos habla del declive de la violencia en las últimas décadas, del declive de la guerra. Escribí allí que una nueva guerra mundial el año siguiente era imposible. No hubo ninguna guerra mundial en 2012, estaba en lo cierto, ero si lo escribiese ahora, no estaría tan seguro. Al ver las crecientes tensiones en todo el mundo y, sobre todo, las crecientes tensiones entre China y Estados Unidos y en el Mar de China Meridional, ya no estoy tan seguro de que, al mirar unos años hacia el futuro, una nueva guerra mundial siga siendo tan improbable como creía hace 10 años.
Moisés Naím: Vamos a escribir un capítulo ahora juntos, y te diré cosas que no han sucedido cuando lo escribiste originalmente. No existían los CRISPR [Clustered Regularly Interspaced Short Palindromic Repeats], la tecnología de edición de genes que va a cambiar la medicina y...
Yuval Noah Harari: Va a cambiarnos a nosotros.
Moisés Naím: Va a cambiar el cuerpo humano. Como los CRISPR no existían, necesitaremos un apartado sobre ellos. Y necesitaremos un apartado sobre la inteligencia artificial. Aunque se mencionó en su momento, hace diez años no tenía la primacía y la importancia que tiene hoy. Donald Trump no estaba.
Yuval Noah Harari: Y lo dejaría afuera. Quiero decir, no creo que sea un evento histórico importante.
Moisés Naím: Bueno, a menos que no se trate de él. Donald Trump no como Donald Trump, sino como símbolo de la política de la época. Hay que reconocer que puede no gustar, pero seguro simboliza un tipo de política que no es slo él. Y luego mencionaste a China. Ahora es habitual hablar de la nueva Guerra Fría entre Estados Unidos y China y de la posibilidad de un conflicto armado por culpa de Taiwán o por la escalada de tensiones . Cuando se ponen todos estos ingredientes en este nuevo capítulo del libro, ¿cómo se piensa? Danos la otra cara, que son las buenas noticias, las cosas que sí han pasado y que nos ayudarán a navegar, a prevenir, a contener las cosas malas que ya están pasando.
Yuval Noah Harari: Creo que también siguen produciéndose muchos avances positivos en todo el mundo. Vemos una creciente conciencia del problema de la desigualdad, del racismo y la misoginia y la homofobia, y creo que esto es un desarrollo muy positivo. Aunque haya regímenes en todo el mundo que intenten resistirse a ello, es una fuerza histórica extremadamente poderosa. Y creo que también es realmente esperanzador que esta creciente conciencia ha creado una tremenda revolución, en gran parte de forma pacífica. Si piensas, por ejemplo, en la revolución feminista y en la lucha por la mayor igualdad de las mujeres, aunque todavía no estamos en una sociedad completamente igualitaria, la situación ahora es mejor que hace diez años, y es mucho, mucho mejor que hace cien años. Ha sido una de las revoluciones sociales más exitosas y más importantes de la historia de la humanidad. Después de miles de años en que la gente pensó que las mujeres eran inferiores a los hombres y que debían tener menos poder político y económico, esto cambió muy rápidamente y lo más sorprendente es que se hizo de forma pacífica. Las feministas no necesitaron iniciar ninguna revolución violenta ni guerras, ni construir campos de concentración, ni ejecutar personas, ni asesinarlas. Algunas personas piensan que para hacer una gran revolución se necesita violencia. Si no, no funciona. Pero solo hay que ver los increíbles logros de la revolución feminista, que han sido en gran medida pacíficos. Así que ese es un avance muy positivo. La otra cosa que destacaría es que, gracias al continuo desarrollo científico, tecnológico y económico, tenemos un enorme poder. Nuestros recursos ahora son más que hace 10 años, y muchos más que hace uno o dos siglos. Tenemos el poder necesario para hacer frente a todas las amenazas a las que nos enfrentamos, de modo que no es desesperante si pensamos en el cambio climático. Sí, la situación ecológica ahora es mucho peor que hace 10 años, pero no es demasiado tarde. La gente a veces pasa de sentir que no es un problema real a sentir que no hay esperanza y que ya es demasiado tarde, y no lo es. Si invirtiésemos solo el dos por ciento del PBI mundial anual en el desarrollo de nuevas tecnologías e infraestructuras respetuosas del medio ambiente, sería suficiente para evitar un cambio climático catastrófico. Es mucho dinero, por supuesto, pero es completamente factible. Es una decisión política. Este es el trabajo de los políticos, cambiar las prioridades y pasar el dos por ciento del presupuesto de un lugar a otro. Así que por eso sigo teniendo la esperanza de que podamos afrontarlo.
Yuval Noah Harari. Crédito: Penguin Random House.
Moisés Naím: Excepto que Yuval Harari no está de acuerdo contigo. Hace unos años, un periodista británico que te estaba entrevistando, quizás lo recuerdes, te pidió: «cuéntanos un secreto en que reveles algo». Y lo que le dijiste en ese momento es que la gente que dirige el mundo no lo entiende. Ese punto de vista no coincide con lo que acabas de decir.
Yuval Noah Harari: Creo que nadie entiende realmente el mundo. Cada uno entiende solo su propia especialidad. Los empresarios entienden de negocios y los políticos entienden de elecciones y de cómo hacer todo tipo de acuerdos y llegar a compromisos para obtener poder y demás, pero nadie tiene una visión general. Es demasiado complicado. Sin embargo, eso no significa que no podamos hacer nada si conseguimos convencer a los políticos de que el cambio climático es la prioridad número uno, o una de las principales prioridades, y que ellos tienen el conocimiento y tienen las habilidades para hacer esos acuerdos y llegar a esos compromisos de modo de asignar el dos por ciento de nuestros recursos al lugar correcto. Ahora, es difícil. Y yo no puedo decir que estoy seguro de que lo harán. No, tal vez no lo hagan. Tal vez están ciegos. Tal vez no ven lo que está sucediendo. Tal vez no tienen la sabiduría necesaria para arreglarlo. Y entonces sí, nos espera un futuro muy duro a nosotros y al resto del ecosistema. No creo que haya ninguna ley de la historia ni que haya nadie fuera de la humanidad que nos vigile desde arriba y se asegure de que al final todo irá bien. No, estamos al borde del precipicio. Estamos al borde del desastre. Todo depende de las decisiones que tomemos. Todavía tenemos el poder de tomar las decisiones correctas, pero no está garantizado. Si no tomamos las decisiones correctas, si nuestros líderes no toman las decisiones correctas, el resultado será catastrófico.
Moisés Naím: Hay una mirada que dice que el problema no son los políticos, sino las condiciones en las que tienen que trabajar y operar y la estructura de incentivos, y que el mundo y los países se han vuelto en gran medida ingobernables. Que ahora hay políticas de identidad en las que las personas se asocian en tribus e identidades, género y raza e incluso ubicación geográfica. Perteneces a un club, perteneces a una tribu, y eso es más importante que los partidos políticos, es más importante que la ideología. Hablando de coordinación, se trata de una coordinación a menor escala. Eso es lo que necesitamos. Y entonces los políticos están condenados a fracasar porque no tienen las respuestas para esta nueva realidad, y en un sistema político fragmentado, en el que el poder es más efímero y más restringido y más limitado para operar, no puedes tener éxito como político y como gobierno, como presidente, primer ministro. ¿Lo crees?
Yuval Noah Harari: No. Quiero decir, por supuesto que es muy difícil, y estoy seguro de que yo no podría hacerlo. No soy un buen político. No soy bueno en la construcción de coaliciones y en hacer acuerdos y todo eso que son los requisitos básicos de un buen político. Pero no creo que la política sea ahora más difícil que hace un siglo o hace quinientos años y no creo que sea malo que se hayan incorporado más grupos al debate político. Lo que ha ocurrido en las últimas décadas es que, sí, hay más grupos en la mesa. Si te imaginas la política como si tuvieras una mesa donde se toman las decisiones importantes y hay cinco personas sentadas alrededor de ella, es un grupo pequeño. Pueden hacer tratos, ¿de acuerdo? Tú me das esto, yo te doy esto, hacemos un trato, es relativamente sencillo. Si ahora permites que otras docenas de personas se unan, tienes cien personas alrededor de la mesa y es mucho más difícil llegar a un acuerdo, pero representa una selección más amplia de los intereses y opiniones de los humanos, y eso no es necesariamente malo. Si hace 50 años había cinco hombres blancos sentados alrededor de la mesa gobernando el mundo y de repente dices, bueno, tengamos también algunas mujeres y tengamos algunas personas de color y tengamos algunas personas homosexuales, sí, se vuelve más complicado porque estas personas tienen intereses y tienen opiniones, pero eso no es malo. Es un proceso más representativo para llegar a decisiones que reflejen ya no los intereses de un segmento muy pequeño de la humanidad, sino de un segmento más amplio. Si cuando permites que entre más gente, se crea una situación ingobernable, hay que cambiar el funcionamiento del sistema. Voy a dar un ejemplo histórico. La última vez que ocurrió esto fue en los años sesenta. Si miras a un país como Estados Unidos, están los movimientos de derechos civiles y la lucha de género de las mujeres y luego de las personas LGBT, y parece que hay caos. Hay divisiones políticas, un aumento de la temperatura política, asesinatos, disturbios y demás. Y si al mismo tiempo miras a la Unión Soviética, ves que todo es completamente pacífico, nadie habla en contra del gobierno, no hay desacuerdo sobre nada. Veinte años después, es la Unión Soviética la que se derrumba, no los Estados Unidos. Ahora que los Estados Unidos, a través de un difícil proceso, descubrieron cómo incluir más personas en el sistema democrático, cómo equilibrar más intereses, más opiniones, el resultado es una democracia mejor, que funciona en beneficio de más personas. La Unión Soviética se congeló hasta que ya no pudo lidiar con las tensiones y con el mundo cambiante, y se derrumbó. Así que sé que la situación parece caótica, pero el caos no es siempre algo malo. Del caos nacen cosas nuevas.
«No creo que la política sea ahora más difícil que hace un siglo o hace quinientos años y no creo que sea malo que se hayan incorporado más grupos al debate político. La situación parece caótica, pero el caos no es siempre algo malo».
Moisés Naím: En esta conversación debemos incluir Internet y las redes sociales como parte de la historia y de lo que está ocurriendo, porque construir coaliciones y hacer tratos e intentar gobernar con otros se ha vuelto mucho más complicado debido al papel de las redes sociales. En estas semanas hemos visto los archivos de Facebook, que explican y muestran el inmenso impacto político que han tenido esa red. Ya sabes, hay un fuerte debate sobre qué hacer, ¿deberían ser regulados o deberían ser forzados a desinvertir y cambiar la compañía?¿O dejarla en paz y confiar en que los mercados y la tecnología se encargarán de ello? ¿Cuál es su posición en estos debates?
Yuval Noah Harari: No creo que las redes sociales sean algo malo, pero sí creo que deberían estar reguladas. No es malo porque es una forma de que más gente se comunique entre sí. Es una forma de que más gente se una a la conversación pública, y esto es algo bueno. También ha liberado una inmensa cantidad de creatividad. Hace 30 o 40 años, los medios de comunicación y la televisión veían a las personas como seres perezosos [couch potato]. Ese era el paradigma básico: personas mirando pasivamente el contenido que las grandes empresas de medios de comunicación producían. Ahora es increíble, esos millones de vídeos de YouTube o TikTok los estamos produciendo nosotros. Los medios sociales han liberado una inmensa avalancha de creatividad entre la gente común y corriente, y eso es algo bueno. El problema es que todo el modelo de negocio de las redes sociales es erróneo. El modelo de negocio es que todo es gratuito, pero aún así, por supuesto, tienen que ganar dinero de alguna manera, así que ganan dinero de los anuncios o de recoger nuestros datos y venderlos a alguien más para manipularnos, lo cual es algo terrible. Y para hacer cualquiera de estas cosas necesitan mantenernos en la plataforma cada vez más tiempo. Así que esta es la gran batalla, cómo captar la atención de la gente y mantenerla en la plataforma, y la forma más fácil de captar la atención de la gente es pulsar el botón del odio, el botón del miedo, el botón de la ira en nuestras mentes. Nos muestran cosas que nos enfadan más, que nos hacen sentir más odio, y así no podemos resistirnos a ver más y más de eso.
Moisés Naím: ¿Cómo se regula eso? ¿Cómo se contiene?
Yuval Noah Harari: En primer lugar, que quede muy claro que no se pueden tomar mis datos y usarlos para manipularme o venderlos a un tercero. Hay una regulación contra ello en los Diez Mandamientos: «No robarás». Son mis datos, no puedes cogerlos sin mi permiso y utilizarlos contra mí. Es muy simple. Así que este modelo de negocio debe ser prohibido. Todos tenemos relaciones en las que ciertas personas saben mucho sobre nosotros y toman muchos de nuestros datos, pero no los usan para manipularnos. Por ejemplo, mi relación con mi médico personal, que sabe un montón de cosas sobre mí, cosas muy privadas, cosas muy importantes, pero se considera incorrecto que tome estos datos personales y los venda a otra persona para que me manipule. Del mismo modo, Facebook o Baidu o Google no deberían poder hacerlo. Es muy, muy sencillo. Mis datos deberían utilizarse para ayudarme, no para manipularme. El otro principio que deberíamos tener es que no se debe permitir la concentración de demasiada información en un solo lugar para tener un monopolio de la información. En el siglo XXI, la información es el activo más importante. Es la base del poder político. Hace miles de años, se trataba del control de la tierra, esa era la aristocracia. Luego, en los últimos dos siglos, la tierra se volvió menos importante y las máquinas, las fábricas, las minas se convirtieron en la clave, y quienes controlaban las fábricas y las máquinas, controlaban el país. Si todas las fábricas eran propiedad de un pequeño grupo, era una oligarquía. Si, por el contrario, había sindicatos obreros fuertes, la propiedad de las fábricas y las minas y las máquinas estaba más distribuida. Esto era una salvaguarda para la democracia. Ahora la clave no son las máquinas, no es una fábrica: son los datos. Quienes controlan los datos controlan el mundo. No debemos permitir que todos los datos sean recolectados y controlados por un pequeño número, ya sea de corporaciones o de gobiernos, porque esto puede llevar a una nueva forma de dictaduras digitales y a una nueva forma de colonialismo de datos. Si todos los datos de los habitantes de un país son recogidos, almacenados y analizados por alguien en China o por alguien en Estados Unidos, tu país ya no es independiente. Si alguien allí tiene todo el historial médico, todos los detalles personales de todos tus encuentros sexuales, todos tus gustos y todo lo que has hecho, entonces ya no eres una persona independiente. Así que necesitamos una normativa muy clara que impida la concentración excesiva de datos en un solo lugar. Y en cuanto al modelo de negocio que he mencionado antes, debería ser desmantelado. No podemos tener un modelo de negocio en el que las cosas sean gratis porque, en realidad, se basa en tomar nuestros datos, lavarnos el cerebro y vender nuestros datos a alguien más que intenta manipularnos.
Moisés Naím: Así que probablemente el próximo hito importante en ese espacio sea la creación de políticas o ideas que permitan que la creatividad y la importancia de los medios sociales continúe y aumente, pero que al mismo tiempo protejan a los usuarios, a los consumidores digitales que también necesiten protección.
Yuval Noah Harari: Tanto los consumidores como los productores. Es decir, como decíamos, todos estos vídeos, que son la base del negocio de Facebook o TikTok, no los producen ellos. Son los usuarios los que los producen, así que los usuarios deberían obtener algo a cambio. Solo tenemos que cambiar el modelo de negocio de todo este ecosistema. Creo que puede ser muy bueno si lo hacemos. Quiero decir, de nuevo, los medios sociales son potencialmente algo maravilloso, no algo malo.
«En el siglo XXI, la información es el activo más importante. Es la base del poder político. Quienes controlan los datos controlan el mundo. Y no debemos permitir que todos los datos sean recolectados y controlados por un pequeño número, sea de corporaciones o de gobiernos, porque esto puede llevar a una nueva forma de dictaduras digitales y a una nueva forma de colonialismo de datos».
Moisés Naím: Hemos recogido algunas preguntas del público para esta conversación, y tengo una de Jorge Flores Salas: «¿Cuál crees que podría ser el próximo gran hito de la humanidad a la altura del descubrimiento del fuego, del número cero o de la escritura?».
Yuval Noah Harari: Lo estamos experimentando ahora mismo, que es el crecimiento de la inteligencia artificial. Como acabas de mencionar, hace 10 años, cuando escribí Sapiens, no mencioné la inteligencia artificial porque era algo sacado de la ciencia ficción. La gran revolución de la inteligencia artificial es solo desde hace cinco o seis años, y todavía no hemos visto nada. Casi todos los días leemos acerca de un nuevo desarrollo en la inteligencia artificial, que es capaz de conducir un auto o diagnosticar una enfermedad o escribir, incluso escribir un poema. Y han sido solo cinco o seis años, no estamos ni siquiera cerca de todo su potencial. Estos son apenas los primeros días de la revolución de la inteligencia artificial. Es probable que dentro de 20 o 30 años el mundo cambie completamente. Y lo más importante es que, por primera vez, habrá una herramienta creada por nosotros pero que podrá sustituirnos en el pensamiento y en la toma de decisiones. Todas las herramientas anteriores en la historia de la humanidad, sea el fuego, la rueda o la escritura, no reemplazaron al cerebro. Ahora esta herramienta puede sustituirnos en la toma de decisiones, lo que significa que, por primera vez, hay una opción muy realista de que el poder se desplace de los humanos a este nuevo tipo de herramientas.
Moisés Naím: ¿Cuál es más peligroso, la tecnología y la ciencia involucrada en la edición de genes o las tecnologías subyacentes a la inteligencia artificial? Hay peligros en ambas. ¿Cuál crees que nos va a perjudicar primero y de forma más significativa?
Yuval Noah Harari: La inteligencia artificial se está moviendo mucho, mucho más rápido que los CRISPR. La biología es muy complicada. Los computadores son mucho más simples. Cada generación inteligencia artificial tarda solo uno o dos año en desarrollarse, pero si ahora haces un experimento de ingeniería genética, tomará 20 o 30 años para ver realmente los resultados. Se necesita tiempo biológico. La evolución, incluso si los seres humanos se hacen con CRISPR, lleva tiempo. Se necesita mucho tiempo. Así que incluso la ingeniería genética de un bebé que va a cambiar el mundo en 30 años, necesita 30 años. Para entonces ya habrá un mundo completamente diferente debido a la inteligencia artificial. En última instancia, creo que CRISPR es algo más grande, más profundo, porque cambia el código de la humanidad, pero es mucho más lento. Así que en términos de nuestra vida o de los próximos 30 o 40 años, ciertamente prestaría atención a la biotecnología, pero me centraría en la revolución de la inteligencia artificial simplemente porque se está moviendo mucho, mucho más rápido.
Moisés Naím: Tu público está en todas partes e incluso en tu fascinación por la meditación, y hay muchas preguntas al respecto. Después de plantear temas tan complejos en 21 lecciones para el siglo XXI, terminas con un capítulo sobre la meditación. ¿Crees que aprender a conocerse a sí mismo a través de la meditación ayuda a cuestionar, comprender y aceptar los cambios que trae el futuro? Tú mismo has dicho que la meditación te permite ver la realidad tal y como es, y que te ayuda a no enredarte en ninguna historia ficticia.
Yuval Noah Harari: Primero, no creo que la meditación sea la varita mágica que resolverá todos los problemas del mundo. No lo hará. Yo medito y sé lo difícil que es, así que no me hago ilusiones de que en los próximos 20 años, miles de millones de personas comenzarán a meditar y esto resolverá los problemas del mundo. No sucederá. Es demasiado difícil. Aquello lo escribí más bien a nivel personal, como una especie de introducción a la forma en que pienso o me aproximo a estas cuestiones. Lo realmente importante es la capacidad de conocernos mejor a nosotros mismos porque, en última instancia, seguimos siendo nosotros los que controlamos el mundo. Todavía no son los computadores o la inteligencia artificial. Somos nosotros los que tomamos las decisiones y por eso se trata, al final, de lo que hay dentro de nuestras propias mentes. La tecnología es una herramienta. Creas un cuchillo, puedes usarlo para asesinar a alguien, puedes usarlo para salvar la vida de alguien en una cirugía: es la mente la que aún decide qué hacer con el cuchillo. Y a medida que desarrollamos cuchillos cada vez más grandes, lo que hay en nuestra mente se vuelve cada vez más importante. Mencionaste los CRISPR. Qué hacer con esto se refleja en la mitología, la filosofía, la poesía que creemos. Entonces, ¿qué es lo que creemos, que está pasando en nuestra mente ahora que es más importante que en cualquier momento anterior de la historia? Nuestra mente está llena de ficciones. Nuestra mente está llena de engaños e ilusiones porque la verdad suele ser muy complicada y muy dolorosa. La gente no quiere saber la verdad sobre sí misma. No quieren saber la verdad a nivel personal. El problema es que, con los demás, es muy difícil que reconozcamos que uno también hace algo mal. Ocurre del mismo modo como nación. Cada país está seguro de que es perfecto, de que está haciendo todo bien y que son los otros países los que tienen la culpa. Es muy difícil. Si un político en cualquier país dijera la verdad, nunca sería elegido. Ni en Israel, ni en Perú, ni en Estados Unidos. Es demasiado doloroso. Pero si no reconocemos la verdad sobre nosotros mismos como individuos o como naciones o como especie, no podremos hacer frente a las amenazas del siglo XXI. No seremos capaces de tomar decisiones sabias. De modo que, para mí, la meditación es una manera de entrenar la mente para dejar de lado estas ficciones, estas ilusiones reconfortantes que nos decimos a nosotros mismos, y ser capaces de enfrentar la realidad más dolorosa. El primer ejercicio que me indicaron la primera vez que medité, hace 20 años, fue extremadamente simple. Simplemente observar mi respiración entrando en las fosas nasales y saliendo de ellas, sin intentar controlarla de ninguna manera. Solo observar lo que ocurre. Dejar que las cosas sucedan y sentir cómo entran y salen. Y me sorprendió mucho que no pude hacerlo durante más de 10 segundos. Intento concentrarme en mi respiración inhalando y exhalando, y en 10 segundos, la mente se escapa a algún recuerdo, a alguna fantasía, a alguna historia, y puedo tardar dos minutos o cinco minutos en recordar: oye, se supone que debo observar mi respiración, qué estoy haciendo. Si no puedo observar la respiración en mi nariz durante 10 segundos sin ser arrastrado por alguna ilusión, por alguna ficción, ¿qué posibilidad tengo de ser capaz de entender el cambio climático o la crisis de COVID o el capitalismo global sin ser abrumado por las ficciones que mi mente y las mentes de otras personas producen constantemente? La meditación no necesariamente funciona para todas las personas. Para algunas personas la terapia podría funcionar mejor, o tal vez el deporte o tal vez el arte, pero lo que sea que funcione para entrenar la mente y ser capaz de observar la verdad sobre uno mismo, deberíamos invertir en ello al menos tanto como invertimos en la inteligencia artificial o en CRISPR.
«Mientras haya humanos, habrá sentimientos. Esto es realmente lo que nos define. Aunque los computadores se vuelven más y más potentes, no creo que hagan desaparecer los sentimientos humanos. El peligro es que sea cada vez más fácil manipular a los humanos mediante la manipulación de sus sentimientos».
Moisés Naím: Las tecnologías y las condiciones y la vida que vivimos ahora que tienden a ser deshumanizadas. Pregunta Pilar Medina: «¿Nuestros sentimientos y emociones van a ser silenciados por los algoritmos?. ¿Nuestras sociedades futuras están destinadas a vivir con nuestros sentimientos como motor principal? ¿Puede describir un mundo alternativo muy diferente al actual?».
Yuval Noah Harari: Mientras haya humanos, habrá sentimientos. Esto es realmente lo que nos define. La gran diferencia entre los humanos y la inteligencia artificial no es la inteligencia. La inteligencia, la capacidad de resolver problemas, ya sea en matemáticas o en ajedrez o en medicina, no es exclusiva de nosotros. Los ordenadores también pueden hacerlo. Lo que es único para nosotros es que tenemos sentimientos, y también otros animales tienen sentimientos, pero los ordenadores no los tienen. Cuando un computador te derrota en el ajedrez, no se siente feliz. Cuando un computador pierde, no se siente triste. No tiene sentimientos. Ahora bien, a medida que los computadores se vuelven más y más potentes, no creo que hagan desaparecer los sentimientos humanos. El peligro es que sea cada vez más fácil manipular a los humanos mediante la manipulación de sus sentimientos. Esto es lo que vemos con los medios sociales, de los que hemos hablado antes. Las redes sociales no hacen desaparecer los sentimientos: los manipulan. Las grandes corporaciones y los algoritmos presionan el botón del odio en tu mente, presionan el botón del miedo, y así es como te manipulan y hacen que te quedes más tiempo en la plataforma o que votes por este político o que compres este producto. Debemos darnos cuenta de que los humanos ahora pueden ser hackeados de la misma manera que se puede hackear un smartphone o un banco. Ahora se puede hackear al ser humano, y nuestro código son las emociones, los sentimientos. Durante toda la historia, la gente quisohackear a los humanos, pero era demasiado difícil. No tenían la tecnología, el conocimiento para entender realmente lo que pasa dentro de nosotros. Ahora se está volviendo factible, y eso es muy peligroso, no porque vaya a hacer desaparecer los sentimientos, sino porque nos hace muy vulnerables a ser controlados y manipulados por grandes sistemas que entienden lo que ocurre en nuestro interior mejor que nosotros.
Moisés Naím: Tengo una última pregunta que es, creo, bastante significativa. María del Rosario Bastidas: «Sr. Harari, aunque usted es ateo, ¿qué es Dios para usted? ¿Quién es Dios? ¿Quién es ese Dios en el que cree la inmensa mayoría de los humanos?»
Yuval Noah Harari: Es una historia inventada por personas hace miles de años que tiene una inmensa importancia en la historia, que ha hecho mucho bien, así como algunas cosas malas. Pero, al final, es una historia que los humanos inventaron. Incluso la gente religiosa estaría fácilmente de acuerdo en que todos los dioses de la historia son ficciones humanas, excepto uno: mi Dios. Es decir, es muy fácil, por ejemplo, que un cristiano diga que sí, que los dioses de los hindúes no son reales, que son solo una historia que los hindúes inventaron. Y si les preguntan a los hindúes, ellos dirán, sí, nuestros dioses son reales, pero los dioses de los griegos o los dioses de los musulmanes, son una historia ficticia. Así que es muy fácil, incluso para la gente religiosa, aceptar esta idea. Ahora, yendo un paso más allá, incluso la gente religiosa, al menos algunas dirían que todo lo que la gente dice sobre Dios es su propia invención. Que Dios está realmente tan lejos de la capacidad humana de entender que la mayoría de lo que la gente dice sobre Dios, incluso si es real, es su proyección. Es su invención. Cuando alguien odia a alguien, en lugar de decir «te odio, odio a esta gente», dicen, «no, no soy yo, Dios los odia». Dios odia a los judíos. Dios odia a los gays. Dios odia esto y aquello. Pero no es cierto. Dios no odia. Es la gente la que odia. Si piensas en las personas gay, incluso si hay un Dios, un buen Dios nunca castigaría a la gente por el amor. Un Dios bueno castigaría a la gente por la violencia, por el odio, por la crueldad, pero si dos mujeres se aman, ¿por qué un Dios las castigaría por amor? Así que esta idea de que Dios odia es una historia inventada por los humanos. Si quieres acercarte a Dios, significa dejar todas estas ficciones que tu mente o las mentes de otros en el pasado crearon hace mil años y tratar de simplemente observar la realidad tal como es, sin tratar de imponerte estas ilusiones y fantasías que hemos creado.
OTROS CONTENIDOS DE INTERÉS: