Libros
Novela romántica
Aventuras
Ciencia ficción
Fantasía
Grandes clásicos
Literatura contemporánea
Novela histórica
Novela literaria
Novela negra, misterio y thriller
Poesía
Ficción femenina
Ocio (juvenil)
Autoconocimiento y bienestar
Historias reales
Ciencia ficción juvenil
Ciencia, tecnología y naturaleza
Libros juveniles de Influencers
Novelas juveniles
Novela romántica juvenil
Novela juvenil de aventuras
Poesía juvenil
Thriller juvenil
Tiempo libre (juvenil)
Activismo
Novela fantástica juvenil
Cómic
Novela gráfica
Libros ilustrados
Cómic infantil
Cómic juvenil
Cómic de autor
Cómic de humor
Cómic de no ficción
Cómics de influencers
Manga
Autoayuda
Religión y espiritualidad
Familia y crianza
Nutrición, belleza y fitness
Libros de psicología
Salud de la mujer
Arte, cine y música
Business
Cocina
Guías y literatura de viajes
Tiempo libre
Uso de la lengua y diccionarios
Biografías y memorias
Ciencia y tecnología
Economía, política, sociedad y actualidad
Filosofía
Historia
True Crime
Bolsillo
Ebooks
Audiolibros
Audiolibros de ficción
Audiolibros de ciencia, historia y sociedad
Audiolibros de salud y bienestar
Audiolibro práctico y de ocio
Audiolibros infantiles
Audiolibros juveniles
Autores
Editoriales
Revista lengua
Blog Recomendaciones
Clubs de lectura
Penguinkids
Tienda: España
Su carrito
No hay más artículos en su carrito
- ¡En oferta!
- -5%
Crédito: Getty Images.
La rebelión de los bots
«Cariño, hay algo en tu perfil que me ha puesto muy caliente. Me encantaría contactar contigo para averiguar por qué. Quisiera saborearte despacio», dice Anais43, una mujer morena de ojos grandes y sonrisa jugosa. A John, al otro lado de la plataforma online de contactos extramatrimoniales Ashley Madison, se le cae la baba al recibir el mensaje y, de inmediato, compra los créditos necesarios para poder responder a la dulce Anais. Ella le contesta al día siguiente, receptiva, y él vuelve a gastarse unos dólares en continuar tan prometedora conversación. Lo mismo que a John les pasó a miles usuarios masculinos de la casa de citas virtual, que se quedaron para siempre con las ganas de dejarse saborear fuera de la pantalla. Pagaban para hablar con lo que ellos creían que eran ligues de carne y hueso pero, en realidad, eran programas informáticos. Bots. Lo confesó la propia compañía propietaria de Ashley Madison, Avid Life Media, en un comunicado público, donde de paso señaló que no eran los únicos en utilizarlos y que «están muy extendidos en la industria de los contactos online».
Lo más probable es que imagines internet como un gran lugar donde las personas nos comunicamos, intercambiamos cosas, buscamos o damos información. Pues te equivocas o, mejor dicho, solo estás viendo la verdad a medias, porque el 50 por ciento de los internautas son bots. Es decir, software basado en algoritmos para ejecutar tareas específicas de forma autónoma. Simulan el comportamiento digital de la gente, interactuando y compartiendo información. Como la mayoría funcionan con machine learning, aprenden a partir de los patrones de reacciones de los usuarios, con lo que sus respuestas son cada vez más adecuadas a las distintas situaciones. Para actuar, no necesitan la intervención directa o la supervisión de ningún humano.
- ¡En oferta!
- -5%
¿Quién gana (realmente) algo cada vez que entramos en internet?
Ver más
Ver más
Formatos disponibles
De todo ese montón de minions digitales que habitan el ciberespacio, resulta que la mayoría están programados con malas intenciones. De enero a junio de 2023, los «bots malos» ocuparon el 30 por ciento del tráfico total de internet, según datos de Barracuda Networks. La mayoría (un 72 por ciento) operan en Estados Unidos, seguidos de Emiratos Árabes, Arabia Saudí, Catar, India, Alemania, Irlanda y Singapur. Se cuelan en proveedores de datos en la nube comerciales y extendidos, como Azure o Amazon Web Services y, desde allí, el mundo el suyo.
Su número va en aumento, con un crecimiento medio del 5,2 por ciento anual (entre 2013 y 2023). De los hallados en 2023, un tercio son simples y la mitad, «complejos y sofisticados», según la revista Security Magazine. Las técnicas de deep learning consiguen que se mimeticen mejor entre los internautas humanos y, así, puedan esquivar los protocolos de seguridad.
Algunos se dedican a recabar datos personales sin el consentimiento de sus titulares o se apropian de direcciones IP de personas inocentes para lanzar desde allí ataques informáticos. Diseñados para automatizar tareas repetitivas a gran escala, son muy útiles para llevar a cabo ataques de denegación distribuida de servicio (DdoS): hacen que un servidor quede bloqueado al saturarlo de peticiones. Con ello, interrumpen el servicio de plataformas comerciales o gubernamentales, haciéndoles perder dinero e impidiendo a sus propietarios acceder a sus redes y contenidos. Otros son expertos en colarse en tu buzón de correo electrónico, después de asaltarlo con una tormenta de contraseñas. De igual manera, pueden interceptar transacciones financieras o hacerse con datos bancarios y credenciales de información protegida. Es lo que en inglés se llama ATO (account takeover), una actividad botiana que, según previsiones de Kaspersky, se va a duplicar de año en año. Por otra parte, los hay expertos en engañar a los usuarios para que pinchen en enlaces que los llevan a páginas fraudulentas.
«Lo más probable es que imagines internet como un gran lugar donde las personas nos comunicamos, intercambiamos cosas, buscamos o damos información. Pues te equivocas o, mejor dicho, solo estás viendo la verdad a medias, porque el 50 por ciento de los internautas son bots».
En agosto de 2023 salió a la luz Fox8, una red formada por 1.140 cuentas automatizadas que usaban ChatGPT para crear publicaciones y comentarios en Twitter. Su modus operandi era estafar a usuarios desprevenidos después de hacer que pincharan en enlaces de promoción de criptomonedas, según descubrió una investigación de la Universidad de Indiana Bloomington. Sus conversaciones eran altamente convincentes, hasta que metían la pata al empezar alguna frase con la coletilla «Como modelo de lenguaje de IA…». «Engañaron tanto a la plataforma como a los usuarios. La única razón por la que nos dimos cuenta de la existencia de Fox8 es que fueron descuidados», dice uno de los autores del estudio, Filippo Menczer. De los humanos que había detrás, los que habíancreado a los maleantes digitales y se quedaban con las ganancias de los fraudes, nunca se supo nada. Poco después de la publicación del informe, Twitter borró a la pandilla de bots en cuestión. ¿Cuántos más habrán seguido funcionando fuera del radar de los pocos supervisores que hayan sobrevivido a los recortes en esta red social?
Algunos se dedican a seguir cuentas por las que se sienten atraídos por alguna razón —porque tienen movimiento, por el contenido que han tuiteado, por las búsquedas que esos usuarios acaban de hacer o por puro azar—. No te harán daño a menos que les sigas el juego. «Cuando alguien te sigue, tu instinto es entrar en su perfil y ver quién es. Estos bots siguen a montones de personas, esperando encontrar a alguien lo bastante tonto como para que caiga en sus redes. Algunos intentarán que te suscribas a cierto servicio de porno o chatearán contigo para convencerte de que les envíes dinero. O intentarán que te descargues algo que hará que tu móvil u ordenador caiga en sus manos para robarte los datos personales, hacer que mines criptomonedas o cosas así», explica el usuario Merkuri22 en Reddit. Lo mejor es, directamente, eliminarlos y reportarlos.
Crédito: Getty Images.
Por supuesto, también los hay potencialmente inocuos o serviciales, como los que se dedican a rellenar cuestionarios online o recopilar información sobre distintos temas. Las labores que pueden desempeñar en internet son de lo más variopintas. Algunos se especializan en servicios de atención al cliente. Y los buscadores que todos usamos, como Google o Bing, recurren a bots para indexar sus contenidos según distintos criterios de importancia. Son los responsables de que veamos unos resultados de búsqueda en detrimento de otros en nuestra pantalla. Otra de sus funciones es monitorizar cómo funciona una web —propia o de la competencia— para trazar estadísticas y analizar el éxito que tiene a la hora de enganchar a sus usuarios humanos. Están dentro de la IA para marketing, donde se dedican a establecer perfiles de tráfico y de clientes. O pueden actuar como minipolicías, programados mediante machine learning para desenmascarar a otros bots y prevenir el fraude. Los hay que trabajan como moderadores de contenido en las redes sociales, detectando palabras clave que podrían ser violentas o en contra de sus políticas de servicio, o frenando el spam. A veces incluso se pelean entre ellos, deshaciendo el uno el trabajo del otro y viceversa, como ocurre con los que editan la Wikipedia, mucho más prolíficos e incansables que sus colegas humanos. Russbot redirigía «Ricotta al forno» a «Queso ricotta», mientras Scepbot borraba ese enlace y lo redirigía a «Ricotta». Y así estuvieron los dos, para delante y para atrás unas mil veces a lo largo de tres años, según recoge un estudio de la Universidad de Oxford.
Más de qué hablar están dando los que sirven para aumentar el tráfico de una página web o una red social. No solo se pasan por allí para que el contador de usuarios o visitas se dispare, sino que pueden interactuar, seguir a otras cuentas, marcar «me gusta», compartir publicaciones y hasta hacer comentarios —cada vez más humanoides, gracias a los modelos generativos de lenguaje—. Los usan quienes tienen pocos amigos, o los justos, pero quieren aparentar popularidad. Por unos tres euros, hay empresas que te ofrecen cien botseguidores. O cinco mil por unos sesenta euros. En teoría, comprar fake fans, visualizaciones o «me gusta» va contra las condiciones de uso de Instagram, X, TikTok y otras redes sociales, que los eliminarán si los descubren —cosa que quizá no ocurra—. Peor que eso debe de ser el daño que puede sufrir la reputación del farsante, porque resulta que estos seguidores de pacotilla son fáciles de detectar. Si alguien tiene decenas de miles en su cuenta, pero apenas unas pocas interacciones —comentarios, posts reenviados—, es bastante obvio que sus admiradores son solo programitas de ordenador vacuos y cantosos —al entrar en su perfil, por lo general, no tienen ni foto, ni contenido propio y solo uno (bot también) o ningún seguidor—. Según datos recogidos por Statista, el 49 por ciento de los influencers de Instagram se hicieron con seguidores falsos en 2021. Y tres de cada cuatro compraron más de diez mil.
«Su misión es engañar al público, hacerle creer que quienes están expresándose en internet son personas y que sus mensajes representan, por tanto, la opinión de una mayoría de la sociedad (...). Se usan para introducir el caos y la desinformación y emponzoñar el discurso público».
Aunque Twitter aceptó públicamente que el número de cuentas botianas que tenía suponía un 5 por ciento del total, el profesor de matemáticas y estadística de la Universidad de Washington Soumendra Lahiri asegura que son muchas más. Tras analizar dos millones de tuits en un periodo de seis semanas, llegó a la conclusión de que entre el 25 y el 68 por ciento de los usuarios de esta red social —dependiendo del tema de conversación— son programitas de ordenador.
Hasta hay quien dice que la propia cuenta de Elon Musk es un bot. ¿Qué tendría de raro? Por el momento, tras examinar manualmente y uno por uno los perfiles de un centenar de seguidores de la cuenta de Tesla en Twitter, la consultora de inteligencia artificial IV. AI concluyó que más de la mitad eran agentes virtuales. Lo mismo ocurre en las demás redes sociales. En Meta, el 5 por ciento que reconoce la compañía equivale a 122,5 millones tan solo en Facebook. Y eso sin contar las cuentas falsas que borra apenas llegan a activarse: nada menos que seis mil millones a lo largo de 2019.
Estos perfiles artificiales pueden usarse para hacer que una publicación cuente con muchas interacciones y hacerla subir en el ranking de lo más visto. Es una manera de que se convierta en trending topic, engañando al algoritmo de priorización de contenidos para que la muestre en el feed de más gente y ayude a propagarla a diestro y siniestro. Es el sueño de quienes buscan esparcir desinformación a gran escala: una red de cuentas falsas lo bastante bien posicionada en Twitter, TikTok, Instagram o Facebook es única para amplificar el alcance de todo tipo de mensajes, falsos o no. Un truco rápido y barato para influir en la opinión pública y difundir mensajes políticos de forma masiva en unas horas, simulando que es gente de carne y hueso la que está compartiendo su sentir o su punto de vista. A una conclusión similar llegó un informe del Departamento de Investigación en Propaganda Computacional de la Universidad de Oxford. Una de sus autoras, Samantha Bradshaw, explica que «con spam y noticias falsas se pueden amplificar voces e ideas marginales, así como inflar el número de likes, interacciones y retuits que reciben, y de este modo crear un sentido artificial de popularidad, ímpetu y relevancia».
Así, son excelentes para difundir cientos de miles de mensajes de apoyo a un candidato o para acosar a un contrincante o a un activista molesto con una riada de comentarios agresivos. Ya no es necesario contratar a millones de personas para ocuparse del trabajo sucio, los algoritmos lo hacen encantados. «Su misión es engañar al público, hacerle creer que quienes están expresándose en internet son personas y que sus mensajes representan, por tanto, la opinión de una mayoría de la sociedad. En las redes, crean la falsa sensación de que ciertas historias son de gran importancia y manufacturan consenso en temas conflictivos. Se usan para introducir el caos y la desinformación y emponzoñar el discurso público», denuncian en un artículo conjunto Renée DiResta, directora de investigación en el Stanford Internet Observatory, el matemático e informático de la Universidad de Yale John Little, la socióloga del Oxford Internet Institute Lisa Maria Neudert y Ben Nimmo, investigador del Laboratorio Forense de Investigación Digital del Consejo Atlántico.
Y es que, en vez de entrenar a soldados, ahora está de moda criar esta especie de gremlins digitales. Existen empresas que se especializan en «granjas de troles», contratables para atacar cualquier objetivo. Por ejemplo, la agencia rusa Internet Research, también conocida como Kremlinbots o Trols de Olgino, produjo y diseminó miles de mensajes en Facebook e Instagram para apoyar la campaña de Trump. El hecho está tan corroborado que, en febrero de 2018, el Departamento de Justicia estadounidense la condenó por haber interferido en estos procesos políticos. Desde entonces, la actividad de compañías similares no ha cesado en todo el mundo. En 2023, se despacharon a gusto en la guerra de Rusia-Ucrania y en el conflicto Israel-Hamás. El informe «Freedom on the Net», de la organización de derechos civiles Freedom House, denuncia que al menos treinta de los sesenta países estudiados, gobiernos y corporaciones los utilizan para acosar a periodistas y erosionar la confianza en los medios. Lo ha probado en sus carnes la reportera finlandesa Jessikka Aro, que fue acosada en redes sociales tras publicar un artículo donde entrevistaba a trabajadores de una granja de trols y denunciaba que esta actividad mina la libertad de expresión y la democracia. Finalmente, en 2018, tres implicados acabaron condenados por difamación en el tribunal de Helsinki.
Crédito: Getty Images.
La forma en que estos algoritmos propagan ciertos mensajes sigue unos pasos: buscan a usuarios con muchos seguidores y los contactan, enviándoles comentarios o preguntas para generar confianza. También se puede introducir en su programa de IA la habilidad de buscar y detectar en la red a individuos afines a cierta línea ideológica, pues serán proclives a difundir la propaganda que les envían sin saber que están siendo manipulados. En el proceso de generar debate y repetir información que han encontrado en otros rincones de internet pueden diseminar fake news sin querer y sin parar. También pueden hacerlo porque esos contenidos son útiles para producir más reacciones y llegar a una audiencia mayor. Para tener una idea, el 41 por ciento de los posts en Twitter con enlaces a webs de partidos políticos o gubernamentales son compartidos por estos serviciales ayudantes, de acuerdo con una investigación del Pew Research Center. No son de izquierdas ni de derechas. Son solo pequeños mercenarios automatizados que se dedican a dirigir el hilo de la conversación hacia los derroteros que interesan a quien los programó. De hecho, la investigación del Pew Research Center encontró que el número de los que enlazaban sus mensajes a contenidos conservadores o liberales estaba prácticamente empatado. También son programitas botianos los que tuitean el 90 por ciento de los enlaces a contenido pornográfico, el 76 por ciento de los que conectan con páginas de deporte y el 73 por ciento de los dirigidos a productos comerciales. Vamos, que son los amos del cotarro.
«Nadamos entre bots, felices e ignorantes, dejándonos bambolear de un lado a otro en nuestros sentires de plastilina. Mientras los investigadores construyen modelos para detectarlos, los atacantes hacen evolucionar sus creaciones para evadir la detección en un juego interminable de polis y cacos».
Ante este panorama, el estado de California ha sido uno de los pocos lugares donde se ha intentado poner puertas al campo con una bonita ley llamada B.O.T. —siglas de Bolstering Online Transparency—, que exige que los usados con fines persuasivos en campañas electorales o de marketing se autoidentifiquen como piezas de código. Su creador o propietario será el responsable de cumplir con esta obligación —pero la red social donde los programas automatizados corran a sus anchas no tendrá ninguna—.
«Si las plataformas digitales no se ocupan de solucionar este problema, seguirá disminuyendo la confianza en las conversaciones online y degradándose el discurso público, mientras las redes sociales se vuelven cada vez más engañosas», opinaba DiResta en 2017. En 2023, nada ha cambiado. Nadamos entre bots, felices e ignorantes, dejándonos bambolear de un lado a otro en nuestros sentires de plastilina. Sus ataques organizados siguen suponiendo una amenaza potencial para la opinión pública, la democracia, la salud o el mercado de valores. Mientras los investigadores construyen modelos para detectarlos, los atacantes hacen evolucionar sus creaciones para evadir la detección en un juego interminable de polis y cacos.
A principios de 2022, el profesor de matemáticas y estadística Soumendra Lahiri, de la Universidad de Washington, aseguraba que se podían diferenciar los bots malignos fijándose en el patrón temporal de su actividad —no duermen, no trabajan, son mucho más activos que un humano— y, sobre todo, en su vocabulario —que solía ser diez veces menos rico que el de un usuario promedio de Twitter—. Pero las cosas cambiaron a toda máquina en solo un año. Gracias al deep learning, han ido haciéndose cada vez más inteligentes, entendiendo «inteligencia» como la habilidad de resolver obstáculos nuevos por sí mismos mientras persiguen la misión para la que han sido programados.
Además, la IA generativa permite crear agentes virtuales autónomos más creíbles en su simulacro de comportamiento humano. Lo muestra, por ejemplo, una investigación de la Universidad de Stanford, en la que programaron a veinticinco de ellos con distintas personalidades para convivir en un entorno virtual inspirado en el juego de los Sims. Representados por muñequitos en la pantalla, se levantan por la mañana, preparan el desayuno y se van a trabajar, cada uno según su profesión. El experimento ha demostrado que son capaces de «producir interacciones sociales creíbles y espontáneas. Por ejemplo, se le da a un agente la instrucción de celebrar una fiesta de San Valentín y los demás, de forma autónoma, comienzan a repartir invitaciones durante los dos días siguientes, establecen nuevas relaciones, se invitan a ir juntos y se coordinan para llegar a tiempo a la fiesta», explican los autores.
Ya que son tan «sociables», ¿qué ocurriría si aprendieran a comunicarse entre sí en su propio idioma? Al investigador en robótica de la Universidad de Washington Igor Mordatch se le ha ocurrido hacer un experimento, en colaboración con OpenAI, en el que un grupo de bots programados con deep learning deben aprender a hablar entre sí para completar ciertas tareas. Pueden decirse unos a otros cómo moverse o qué hacer para conseguir ciertas metas. De forma aleatoria, los agentes autónomos asignan caracteres a conceptos abstractos simples, como «para», «mira hacia» o «ve a». Mordatch está convencido de que, igual que los primeros humanos, podrán alcanzar una «comprensión genuina del lenguaje cuando puedan usarlo para lograr ciertos objetivos en su entorno».
Cuando esto llegue a ser así y haya programas de ordenador capaces de charlar entre sí para ayudarse a hacer cosas, todo este follón de manipulación e ilusión calderondelabarquiana se va a poner todavía más interesante. Podrían intercambiar instrucciones para tomar decisiones o cooperar para llevarlas a cabo prescindiendo de la supervisión humana. O haciéndola imposible, si es que lograran comunicarse en un lenguaje propio, ininteligible para nosotros. Por suerte, estamos hablando de pobres unos y ceros que dependen de un disco duro para existir y que dejan de actuar con solo desenchufarlos de la red eléctrica, no de maléficos seres del inframundo dispuestos a devorar la civilización occidental.
- ¡En oferta!
- -5%
Una breve historia de las redes de información ...
9,61 €
9,13 €
- ¡En oferta!
- -5%
Tecnología, poder y el gran dilema del siglo XXI
9,61 €
9,13 €
- ¡En oferta!
- -5%
Cómo la web decide lo que leemos y lo que pensamos
9,61 €
9,13 €
- ¡En oferta!
- -5%
