La nueva inteligencia y el contorno de lo humano
Por qué nos dejamos arrastrar por algoritmos que generan adicción
¿Ibas a consultar algo rápido en el móvil y has terminado viendo Reels en Instagram durante más de dos horas? Cuando cenas en un restaurante, ¿eliges el segundo vino más barato de la carta? Si vas al cine, ¿te decantas por cierto tipo de películas que sabes con seguridad que te van a hacer reír (o llorar)? Es probable que la respuesta a todas estas preguntas sea sí. Y también es muy probable que pienses en que tomas estas decisiones porque quieres, con libertad. Sin embargo, no es así. Y esta situación se va a agravar enormemente a corto plazo tras la irrupción de las inteligencias artificiales. Porque... ¿hasta qué punto van a influir estas en nuestra manera de actuar, de relacionarnos, de vivir? El neurocientífico superventas Mariano Sigman y el emprendedor y tecnólogo Santiago Bilinkis arrojan (algo de) luz sobre estos interrogantes en el libro «Artificial» (Debate), un apasionante ensayo de cuyas páginas extraemos el siguiente texto, un capítulo revelador titulado (con cierta sorna) «La ilusión del libre albedrío».

Fotograma de Terminator 2: El juicio final (1991). En la popular saga protagonizada por Arnold Schwarzenegger, los humanos del futuro -año 2029, no queda tan lejos- están dominados por las máquinas. Crédito: Getty Images.
Hace más de tres millones de años, los homínidos primitivos descubrieron que las piedras tenían distinta dureza y que, con el uso de sus manos, mucho más hábiles que la de otros animales, podían golpear una contra otra para darles forma. Podían usar esas piedras ya trabajadas como armas para conseguir alimento, como utensilios y como material de construcción para sus refugios. Muchos científicos sugieren que este proceso se encuentra en los cimientos de la cultura humana y del lenguaje. Podemos manipular, componer y construir jerarquías tanto de herramientas como de palabras. Ambas forman parte del bucle recursivo que hizo que explotase la capacidad humana de controlar su entorno.
Herramienta viene de «hierro»: martillos, sierras, lanzas, ruedas y espátulas se construían con ese material. Estas extensiones del cuerpo nos permitieron ampliar nuestras capacidades y las empezamos a combinar en puzles sofisticados: el fuego calentaba el agua, el agua se convertía en vapor, el vapor en movimiento, y el movimiento hacía que una locomotora avanzara, que la aguja de una máquina de coser o la plancha de una imprenta completaran su tarea. En el tramo más reciente de la historia humana, las herramientas empiezan a tener cables conductores por los que circulan haces de electrones capaces de producir también electricidad, y luego esos mismos haces circulan por circuitos ínfimos en microchips capaces de realizar operaciones lógicas. Ya el hierro de las herramientas ha quedado obsoleto. Ahora son máquinas livianas, que no solo intervienen en aquellas actividades que involucran fuerza, sino también ideas. Y luego sucede algo inusitado. Las máquinas empiezan de manera muy rudimentaria a adquirir agencia, esto es, la capacidad de actuar de manera autónoma para lograr una meta. Al lápiz nunca se le ocurrió escribir algo por sí mismo, ni a la prensa pisar con más fuerza un racimo de uvas. Pero el teléfono móvil ya no funciona de manera pasiva sino que está programado para tomar sus propias decisiones.
Utilizamos el móvil para mandar un WhatsApp y hasta ahí se parece a una herramienta, sofisticada, pero convencional. Nos permite comunicar el mensaje que queremos. Pero entonces aparecen un montón de notificaciones que nunca solicitamos y nos desvían de nuestros objetivos iniciales. El aparato empieza a adquirir agencia, no por ser inteligente (no lo es), sino porque otros lo utilizan como mecanismo de manipulación de nuestra conducta y pensamiento. El uso que le damos está influenciado por los intereses de un tercero, mediatizados a través de algoritmos. La irrupción de la IA pone sobre la mesa el problema de quién toma las decisiones. Una bomba es atroz pero la lanza una persona, no decide lanzarse sola. En cambio hoy, gracias al profundo conocimiento que tienen de nosotros, las máquinas pueden elegir de manera muy precisa qué estímulo presentarnos para que altere nuestros pensamientos y conductas: íbamos a mandar un mensaje pero acabamos dos horas mirando videos en Instagram o TikTok. ¿Quién ha tomado esa decisión?
La rebelión de las máquinas
Hace ya un tiempo que hemos perdido parte de nuestra autonomía, de decidir nosotros lo que queremos con libertad. Somos un poco artificiales y nos dejamos arrastrar por algoritmos que invaden lo más profundo del deseo y la motivación, y generan adicción. Si bien vamos por el mundo convencidos de que nosotros somos quienes determinamos nuestras preferencias y anhelos, en realidad muchas de las cosas que deseamos reflejan ideas que nos han implantado. «Muchas veces, la gente no sabe lo que quiere hasta que se lo enseñas», dijo una vez Steve Jobs. La industria de la publicidad y del marketing lleva décadas manipulando a las personas sin que se den cuenta: establece asociaciones entre colores y formas para generar sensaciones de frescura, salud, belleza, placer, etc. Pongamos un ejemplo simple: cuando nos ofrecen en un restaurante una larguísima carta de vinos que apenas conocemos, ¿con qué criterio elegimos? Fácil: la gran mayoría de la gente opta por el segundo vino más barato. La decisión se apoya en un mecanismo inconsciente, tan invisible como recurrente: ahorrar lo más posible sin ser un tacaño evidente. Muchos hosteleros saben esto y ponen el vino que prefieren vender, o el que menos les cuesta, como el segundo de la lista. Y así, poco a poco, vamos cayendo en la trampa de comprar lo peor por un valor mayor del que tiene.

Bill Gates, uno de los principales empresarios de la revolución de las microcomputadoras, en una imagen de 1983. Crédito: Getty Images.
Advertidos de esta posibilidad, hemos aprendido a desconfiar de los anuncios y otros métodos evidentes de condicionar nuestros criterios. Pero todavía no sospechamos de las herramientas porque, después de todo, siempre las hemos controlado nosotros. Tomamos un lápiz, hacemos un par de figuras, las borramos para mejorarlas, las hacemos nuevamente. El proceso sigue hasta que no tenemos más ganas de dibujar. Y entonces, simple y llanamente, nos detenemos. Dejamos el lápiz y pasamos a otra cosa. Esta es la expresión más simple de nuestro sentido de agencia. Cuando queremos dibujar, dibujamos; cuando queremos parar, paramos. En cambio, cuando queremos comer dos o tres patatas fritas y terminamos comiéndonos el paquete entero, sentimos que algo se ha descontrolado y que no hemos podido evitarlo. Lo que se perdió en el proceso es el sentido de agencia. Nuestra inteligencia es bastante versátil pero también está repleta de puntos débiles, que son muy notorios cuando entra en juego la manipulación del deseo y la voluntad.
Antes de la aparición del smartphone, la industria del entretenimiento, muy vinculada con el deseo, descubrió que todos nos reímos y lloramos más o menos por lo mismo. En Hollywood, epicentro de la industria del cine, se descubrió hace mucho una estructura narrativa que es eficaz para evocar todo un repertorio de emociones. El mero hecho de que hagan reír, o llorar, en el mismo instante a millones de personas de los más alejados rincones del mundo, muestra que aquello que consideramos más idiosincrático de nuestra condición se rige por un algoritmo común y, quizá, ni siquiera muy sofisticado. La industria de la comida, del entretenimiento, del tabaco y del juego, pero también otras (que de una manera u otra están vinculadas con los pecados capitales) aprovechan ya nuestras debilidades para hackear nuestra conducta y nuestras ideas. Somos más previsibles de lo que pensamos. Conviene conocer bien estos puntos más vulnerables porque, como veremos, las IA encuentran y aprovechan extraordinariamente bien nuestros flancos más débiles.
Tecnología, poder y el gran dilema del siglo XXI
Manipulación de ideas, personas e influencias d...
Un viaje a través de la realidad virtual