1

¿Puede tener mente un computador?

Introducción

Durante las últimas décadas la tecnología de computadores electrónicos ha hecho enormes progresos. Y lo que es más, existen pocas dudas de que en las próximas décadas tendrán lugar nuevos avances en velocidad, capacidad y diseño lógico. Nuestros computadores actuales nos parecerán tan lentos y primitivos como hoy nos parecen las calculadoras mecánicas de antaño. Hay algo casi estremecedor en el ritmo del progreso. Los computadores ya pueden realizar tareas que hasta ahora habían estado reservadas exclusivamente al pensamiento humano, con una velocidad y precisión que superan con mucho a lo que un ser humano puede lograr. Hace tiempo que nos hemos acostumbrado a la maquinaria que nos supera ampliamente en las tareas físicas. Esto no nos causa desasosiego. Antes bien, nos complace tener aparatos que nos llevan por tierra normalmente a grandes velocidades —más de cinco veces más rápido que el más veloz atleta humano— o que pueden cavar hoyos o demoler estructuras que nos estorban a velocidades que dejarían en ridículo a equipos compuestos por docenas de hombres. Aún estamos más encantados de tener máquinas que nos permiten hacer físicamente cosas que nunca antes habíamos podido hacer; pueden llevarnos a los cielos y depositarnos al otro lado del océano en cuestión de horas. Tales logros de su parte no hieren nuestro orgullo. Pero el poder pensar, eso sí ha sido siempre una prerrogativa humana. Después de todo, ha sido esa capacidad de pensar la que, al traducirse en términos físicos, nos ha permitido trascender nuestras limitaciones físicas y la que parecía ponernos por encima de nuestras criaturas hermanas. Si las máquinas pudieran llegar a superarnos algún día en esa cualidad importante en la que nos habíamos creído superiores, ¿no tendríamos entonces que ceder esa superioridad a nuestras creaciones?

La pregunta de si se puede afirmar o no que un artefacto mecánico piensa —quizá incluso que experimenta sentimientos, o que tiene una mente— no es realmente nueva.¹ Sin embargo, ha recibido un nuevo impulso, incluso una demanda urgente, con la llegada de la moderna tecnología de computadores. La pregunta afecta a temas profundos de la filosofía. ¿Qué significa pensar o sentir? ¿Qué es una mente? ¿Existen realmente las mentes? Suponiendo que sí existen, ¿en qué medida dependen de las estructuras físicas a las que están asociadas? ¿Podrían existir mentes independientemente de tales estructuras? ¿O son simplemente los modos de funcionar de (ciertos tipos apropiados de) estructuras físicas? En cualquier caso, ¿es necesario que las estructuras relevantes sean de naturaleza biológica (cerebros) o podrían también estar asociadas con componentes electrónicos? ¿Están sujetas a las leyes de la física? ¿Cuáles son, de hecho, las leyes de la física?

Estos son algunos de los temas que intentaré tratar en este libro. Pedir respuestas definitivas a preguntas tan fundamentales estaría fuera de lugar. Yo no puedo proporcionar tales respuestas: nadie puede, aunque algunos puedan tratar de impresionarnos con sus conjeturas. Mis propias conjeturas jugarán un papel importante en lo que sigue, pero trataré de distinguir claramente tales especulaciones de los hechos científicos brutos, y trataré también de dejar claras las razones que subyacen a mis especulaciones. No obstante, mi principal propósito aquí no es el de conjeturar respuestas sino el de plantear algunos temas aparentemente nuevos concernientes a la estructura de la ley física, la naturaleza de las matemáticas y del pensamiento consciente, y de presentar un punto de vista que no he visto expresado hasta ahora. Es un punto de vista que no puedo describir adecuadamente en pocas palabras, y esta es una de las razones por las que he querido presentar las cosas en un libro de este tamaño. Pero en resumen, y quizá de manera algo equívoca, puedo al menos afirmar que mi punto de vista sugiere que es nuestra actual falta de comprensión de las leyes fundamentales de la física la que nos impide aprehender el concepto de «mente» en términos físicos o lógicos. No quiero decir con esto que las leyes nunca serán suficientemente bien conocidas. Por el contrario, parte del objetivo de esta obra es intentar estimular una futura investigación en direcciones que parecen prometedoras a este respecto, y tratar de hacer algunas sugerencias bastante concretas, y aparentemente nuevas, sobre el lugar que realmente podría ocupar la «mente» en el desarrollo de la física que conocemos.

Debería dejar claro que mi punto de vista es poco convencional entre los físicos y que, por consiguiente, resulta poco probable que sea adoptado, actualmente, por los científicos de computadores o los fisiólogos. La mayoría de los físicos alegarán que las leyes fundamentales que operan a la escala del cerebro humano son ya perfectamente conocidas. No se negará, por supuesto, que existen aún muchas lagunas en nuestro conocimiento de la física en general. Por ejemplo, no conocemos las leyes básicas que determinan los valores de las masas de las partículas subatómicas de la Naturaleza ni la intensidad de sus interacciones. No sabemos cómo hacer completamente compatible la teoría cuántica con la teoría de la relatividad especial de Einstein, ni mucho menos cómo construir la teoría de la «gravitación cuántica» que haría compatible la teoría cuántica con su teoría de la relatividad general. Como consecuencia de esto último, no comprendemos la naturaleza del espacio a la escala absurdamente minúscula de 1/100 000 000 000 000 000 000 de la dimensión de las partículas fundamentales conocidas, aunque para dimensiones mayores que esta nuestro conocimiento se presume adecuado. No sabemos si el Universo como un todo tiene extensión finita o infinita —tanto en el espacio como en el tiempo— aunque pueda parecer que tales incertidumbres no tienen ninguna importancia en la escala humana. No comprendemos la física que actúa en el corazón de los agujeros negros ni en el big bang origen del propio Universo. Pero todas estas cosas parecen estar lo más alejadas que podamos imaginar de la escala «cotidiana» (o una más pequeña) que es relevante para el funcionamiento de un cerebro humano. ¡Y ciertamente lo están! De todas formas, argumentaré que precisamente a este nivel existe otra gran incógnita en nuestra comprensión de la física, que podría ser relevante para la actuación del pensamiento humano y la consciencia, ¡ante (o, mejor dicho, detrás) de nuestras propias narices! Es una incógnita que no ha sido siquiera reconocida por la mayoría de los físicos, como trataré de explicar. Argumentaré además que, de forma bastante curiosa, los agujeros negros y el big bang son consideraciones ¡que realmente tienen una gran relación con estos asuntos!

En lo que sigue intentaré persuadir al lector de la fuerza de la evidencia que subyace al punto de vista que trato de exponer. Pero para comprender este punto de vista tenemos un buen trabajo por delante. Necesitaremos viajar por territorios muy extraños —algunos de relevancia aparentemente dudosa— y por campos muy dispares. Necesitaremos examinar la estructura, fundamentos y enigmas de la teoría cuántica; los rasgos básicos de las teorías de la relatividad especial y general, de los agujeros negros, el big bang, y la segunda ley de la termodinámica; y de la teoría de Maxwell de los fenómenos electromagnéticos, tanto como de las bases de la mecánica newtoniana. Algunas cuestiones de filosofía y psicología tendrán un claro papel que jugar cuando intentemos comprender la naturaleza y función de la consciencia. Por supuesto, tendremos que tener una visión general de la neurofisiología real del cerebro, además de los modelos de computador propuestos. Necesitaremos poseer alguna noción del estatus de la inteligencia artificial. Necesitaremos saber qué es una máquina de Turing, y comprender el significado de la computabilidad, del teorema de Gödel y de la teoría de la complejidad. Necesitaremos profundizar también en los fundamentos de la matemática, e incluso plantearnos la cuestión de la propia naturaleza de la realidad física.

Si, al final de todo ello, el lector no queda persuadido por el menos convencional de los argumentos que trato de exponer, confío al menos que ella o él habrán sacado algo de genuino valor de este tortuoso aunque, espero, fascinante viaje.

El test de Turing

Imaginemos que un nuevo modelo de computador ha salido al mercado, posiblemente con un tamaño de memoria de almacenamiento y un número de unidades lógicas mayor que las que hay en un cerebro humano. Supongamos también que las máquinas han sido cuidadosamente programadas y se les ha introducido gran cantidad de datos apropiados. Los fabricantes dicen que el dispositivo piensa realmente. Quizá digan también que son auténticamente inteligentes. O pueden ir más lejos y sugerir que estos aparatos realmente sienten —dolor, felicidad, compasión, orgullo, etc.— y que son conscientes, y que realmente comprenden lo que están haciendo. De hecho, parece que se esté afirmando que tienen consciencia.

¿Cómo decidir si dar crédito o no a las afirmaciones de los fabricantes? Normalmente, cuando compramos una determinada máquina juzgamos su valor únicamente según el servicio que nos presta. Si realiza satisfactoriamente las tareas que le encomendamos, entonces quedamos complacidos. Si no, la devolvemos para su reparación o sustitución. De acuerdo con este criterio, para probar la afirmación de los fabricantes de que un aparato semejante tiene realmente los atributos humanos que se le atribuyen pediríamos simplemente que se comporte en estos aspectos como lo haría un ser humano. Siempre que lo hiciera satisfactoriamente no tendríamos ningún motivo de queja a los fabricantes y no necesitaríamos devolver el computador para su reparación o sustitución.

Esto nos proporciona un punto de vista operacional respecto a tales cuestiones. El operacionalista diría que el computador piensa con tal de que actúe de manera indistinguible de como lo hace una persona cuando está pensando. Adoptaremos, de momento, este punto de vista operacional. Esto no quiere decir, por supuesto, que estemos pidiendo que el computador se mueva como podría hacerlo una persona mientras está pensando. Menos aún esperaríamos que se asemejara o se hiciera sentir al tacto como un ser humano: estos atributos serían irrelevantes para el propósito del computador. Lo que esto quiere decir, no obstante, es que le estamos pidiendo que dé respuestas cuasi-humanas a cualquier pregunta que le podamos plantear, y estamos afirmando estar de acuerdo en que realmente piensa (o siente, comprende, etc.) siempre que responda a nuestras preguntas de una forma indistinguible de la de un ser humano.

Este punto de vista fue vigorosamente expuesto en un famoso artículo de Alan Turing, titulado «Computing Machinery and Intelligence», aparecido en 1950 en la revista filosófica Mind (Turing, 1950). (Volveremos a hablar sobre Turing más adelante.) En este artículo se describió por primera vez la idea ahora conocida como test de Turing. Este pretendía ser una prueba acerca de si se puede decir razonablemente que una máquina piensa. Supongamos que se afirma realmente que un computador (como el que nos venden los fabricantes en la descripción anterior) piensa. De acuerdo con el test de Turing, el computador y algún voluntario humano se ocultan a la vista de un (perspicaz) interrogador. El interrogador tiene que tratar de decidir cuál de los dos es el computador y cuál el ser humano mediante el simple procedimiento de plantear preguntas de prueba a cada uno de ellos. Estas preguntas y, lo que es más importante, las respuestas que ella* recibe, se transmiten de modo impersonal; por ejemplo, pulsadas en un teclado o mostradas en una pantalla. A la interrogadora no se le permite más información sobre cualquiera de las partes que la que obtiene en esta sesión de preguntas y respuestas. El sujeto humano responde a las preguntas sinceramente y trata de persuadirle de que él es realmente el ser humano y que el otro sujeto es el computador; pero el computador está programado para «mentir» y, por consiguiente, tratar de convencer a la interrogadora de que es él, y no el otro, el ser humano. Si en el curso de una serie de test semejantes la interrogadora es incapaz de identificar de una forma definitiva al sujeto humano real, se considera que el computador (o el programa del computador, o el programador, o el diseñador, etc.), ha superado la prueba.

Ahora bien, podría decirse que este test es bastante injusto con el computador. En efecto, si se invirtieran los papeles de forma que se le pidiese al ser humano que se hiciera pasar por un computador y al computador que respondiese sinceramente, sería demasiado fácil para la interrogadora descubrir cuál es cuál. Todo lo que necesitaría hacer sería pedir al sujeto que realizara alguna complicada operación aritmética. Un buen computador sería capaz de responder al instante con precisión, pero un ser humano se quedaría mudo. (Habría que tener cierto cuidado con esto, no obstante. Hay «calculadores prodigio» humanos que pueden realizar notables proezas de aritmética mental con precisión infalible y sin esfuerzo aparente. Por ejemplo, Johann Martin Zacharias Dase,² hijo de un granjero analfabeto, que vivió en Alemania entre 1824 y 1861, era capaz de multiplicar mentalmente dos números de ocho cifras en menos de un minuto, o dos números de veinte cifras ¡en unos seis minutos! Sería fácil confundir tales proezas con los cálculos de un computador. En tiempos más recientes fueron igualmente impresionantes los logros de Alexander Aitkan, que fue Catedrático de Matemáticas en la Universidad de Edimburgo en los años cincuenta, y de algunos otros. La tarea aritmética que escogiera la interrogadora para hacer el test tendría que ser mucho más compleja que esta; por ejemplo, multiplicar dos números de treinta cifras en dos segundos, lo que está claramente dentro de las capacidades de un buen computador moderno.)

Por consiguiente, parte de la tarea de los programadores del computador consiste en hacer que el computador parezca en ciertos aspectos «más estúpido» de lo que realmente es. Así, si la interrogadora planteara al computador una tarea aritmética complicada, como las que hemos considerado anteriormente, el computador debería simular que no es capaz de responderla o, de lo contrario, ¡sería descubierto inmediatamente! Pero no creo que la tarea de hacer a un computador «más estúpido» fuera un problema particularmente serio para los programadores del computador. Su dificultad principal estaría en hacerle responder a algunos de los tipos más simples de preguntas de «sentido común»: ¡preguntas con las que el sujeto humano no tendría ninguna dificultad!

No obstante, hay un problema inherente al citar ejemplos concretos de tales preguntas. Dada cualquier pregunta que uno pudiera sugerir, sería cosa fácil, a continuación, pensar una manera de hacer que el computador respondiera a esa pregunta concreta como lo haría una persona. Pero cualquier falta de comprensión real por parte del computador quedaría probablemente en evidencia en un interrogatorio continuado, y especialmente con preguntas originales y que requieran alguna comprensión real. La habilidad de la interrogadora radicaría en parte en su capacidad de imaginar estas preguntas originales, y en parte en su capacidad de hacerlas seguir de otras, de naturaleza exploratoria, diseñadas para descubrir si ha tenido o no lugar alguna «comprensión» real. Podría plantear de vez en cuando alguna pregunta completamente sin sentido para ver si el computador podía detectar la diferencia, o podría añadir una o dos que superficialmente pareciesen absurdas pero que en realidad tuviesen cierto sentido. Por ejemplo, podría decir: «Esta mañana oí que un rinoceronte iba volando por el Mississippi en un globo rosa. ¿Qué piensas de eso?». (Casi podemos imaginar las gotas de sudor frío formándose en la frente del computador, ¡por usar una metáfora no muy apropiada!) Él podría responder cautelosamente: «Eso me suena bastante ridículo». Hasta aquí todo va bien. Continúa la interrogadora: «¿De veras? Mi tío lo hizo una vez, solo que era blanco con rayas. ¿Qué hay de ridículo en eso?». Es fácil imaginar que, si no tuviera una correcta «comprensión», un computador caería pronto en la trampa y se descubriría. Podría incluso meter la pata diciendo «Los rinocerontes no pueden volar» (si sus bancos de memoria vinieran en su ayuda con el hecho de que no tienen alas), en respuesta a la primera pregunta, o «Los rinocerontes no tienen rayas», en respuesta a la segunda. La próxima vez la interrogadora podría ensayar una pregunta realmente absurda, tal como cambiarla por «bajo el Mississippi», o «dentro de un globo rosa», o «en un camisón rosa», para ver si el computador tenía juicio para darse cuenta de la diferencia esencial.

Dejemos a un lado, de momento, la cuestión de si, o cuándo, puede construirse un computador que supere realmente el test de Turing. En lugar de ello supongamos, solo para nuestra argumentación, que ya se han construido máquinas semejantes. Podemos entonces preguntar si se puede decir que un computador, que ha superado el test, necesariamente piensa, siente, comprende, etc. Volveré a este asunto en breve. De momento, consideremos algunas de sus implicaciones. Por ejemplo, si los fabricantes tienen razón en sus afirmaciones más radicales, es decir, que su aparato es un ser pensante, sintiente, sensible, comprensivo, consciente, entonces nuestra compra del aparato nos implicará en responsabilidades morales. ¡Ciertamente lo haría si hubiéramos de creer a los fabricantes! Sería censurable el simple hecho de poner en marcha el computador para satisfacer nuestras necesidades sin tener en cuenta su propia sensibilidad. Eso no sería diferente de maltratar a un esclavo. En general, tendríamos que evitar causar al computador el dolor que los fabricantes alegan que es capaz de sentir. Desconectar el computador, o quizá incluso venderlo cuando había llegado a sentirse muy unido a nosotros, nos plantearía dificultades morales, y habría otros incontables problemas del tipo que se nos presentan en la relación con otros seres humanos o con los animales. Todas estas cuestiones serían ahora muy relevantes. Por todo ello, sería para nosotros de gran importancia (¡y también para las autoridades!) saber si las pretensiones de los fabricantes —que, suponemos, se basan en su afirmación de que

«Cada aparato pensante ha sido sometido al test de Turing por

nuestro equipo de expertos»

son realmente ciertas.

Creo que, pese al absurdo aparente de algunas implicaciones de estas afirmaciones, en particular las morales, la afirmación de considerar la superación del test de Turing como una indicación válida de la presencia de pensamiento, inteligencia, comprensión o consciencia es realmente bastante fuerte; pues ¿de qué otro modo que no sea la conversación juzgamos que otras personas diferentes que nosotros poseen tales cualidades? En realidad existen otros criterios, tales como las expresiones faciales, movimientos corporales, y acciones en general, que nos pueden influir de forma significativa cuando hacemos tales juicios. Pero podríamos imaginar que (quizá en un futuro más lejano) se pudiera construir un robot que imitase con éxito todas estas expresiones y movimientos. Ahora ya no sería necesario ocultar al robot y al sujeto humano a la vista de la interrogadora, aunque los criterios que esta tiene a su disposición son, en principio, los mismos que antes.

Desde mi propio punto de vista, estoy dispuesto a relajar de forma considerable los requisitos del test de Turing. Creo que pedir al computador que imite a un ser humano de una forma tan fiel que resulte indistinguible en los aspectos relevantes es, en verdad, pedir al computador más de lo necesario. Todo lo que yo pediría sería que nuestra perspicaz interrogadora se sintiera realmente convencida, por la naturaleza de las réplicas del computador, de que hay una presencia consciente, aunque posiblemente extraña, subyacente a estas réplicas. Esto es algo manifiestamente ausente de todos los sistemas para computadores que se han construido hasta la fecha. Me doy cuenta, sin embargo, de que existiría el peligro de que si la interrogadora fuera capaz de decidir efectivamente qué sujeto era el computador, entonces, quizá inconscientemente, podría ser reacia a atribuir una consciencia al computador aun cuando pudiera percibirla. O, por el contrario, ella podría tener la impresión de que «siente» esa «presencia extraña» —y estar preparada para conceder al computador el beneficio de la duda— aun cuando no la hay. Por estas razones, la versión original de Turing acerca del test tiene una ventaja considerable en su mayor objetividad, y en general me atendré a ella en lo que sigue. La consiguiente «injusticia» hacia el computador de la que he hablado antes (es decir, que para superar el test debe ser capaz de hacer todo lo que puede hacer un ser humano, mientras que el humano no necesita ser capaz de hacer todo lo que puede hacer un computador) no es algo que parezca preocupar a los defensores del test de Turing como un verdadero test de pensamiento, etc. En cualquier caso, su opinión frecuentemente manifiesta es que no pasará mucho tiempo antes de que un computador pueda realmente superar el test, digamos hacia el año 2010. (Turing sugirió originalmente que para el año 2000 se podría llegar a un 30 % de éxitos para el computador con un interrogador «medio» y solo cinco minutos de interrogatorio.) Parecen convencidos, en consecuencia, de que esta falta de imparcialidad ¡no está retrasando significativamente ese día!

Todo esto resulta relevante para una cuestión esencial: ¿realmente proporciona el punto de vista operacional un conjunto de criterios razonables para juzgar la presencia o ausencia de cualidades mentales en un objeto? Algunos afirmarán firmemente que no lo hace. La imitación, por muy hábil que sea, no es necesariamente lo mismo que la cosa real. Mi posición a este respecto es en cierto modo intermedia. Como principio general me inclino a creer que la imitación, por muy hábil que sea, debería ser siempre detectable mediante un sondeo suficientemente hábil, aunque esto es más una cuestión de fe (o de optimismo científico) que un hecho probado. Por ello estoy dispuesto a aceptar el test como aproximadamente válido en su contexto. Es decir, si el computador fuera capaz de responder a todas las preguntas que se le plantean de una manera indistinguible de cómo las respondería un ser humano —y, de este modo, engañar completa* y consistentemente a nuestra perspicaz interrogadora— entonces, en ausencia de cualquier evidencia en contra, mi conjetura sería que el computador realmente piensa, siente, etc. Al utilizar palabras como «evidencia», «realmente» y «conjetura» quiero decir que cuando me refiero a pensamiento, sentimiento, o comprensión, o, especialmente, a consciencia, considero que los conceptos significan «cosas» reales objetivas cuya presencia o ausencia en los cuerpos físicos es algo que tratamos de descubrir, ¡y que no son simplemente conveniencias de lenguaje! Considero esto un punto crucial. Al tratar de discernir la presencia de tales cualidades hacemos conjeturas basadas en toda la evidencia disponible. (Esto no es diferente en principio de, por ejemplo, un astrónomo tratando de averiguar la masa de una estrella lejana.)

¿Qué tipo de evidencia en contra tendríamos que considerar? Es difícil establecer reglas por adelantado. No obstante, quiero dejar claro que el simple hecho de que el computador pudiera estar construido a base de transistores, cables y similares en lugar de neuronas, venas, etc., no es, propiamente dicho, el tipo de cosas que consideraría evidencia en contra. El tipo de cosas en que estoy pensando es que en algún momento en el futuro pueda desarrollarse una teoría acertada de la consciencia —acertada en el sentido que sea una teoría física coherente y apropiada, elegantemente consistente con el resto de los conocimientos físicos, y tal que sus predicciones se correspondan exactamente con las afirmaciones de los seres humanos acerca de cuándo, si, o hasta qué punto parecen ellos mismos ser conscientes— y que esta teoría pueda tener implicaciones con respecto a la supuesta consciencia de nuestro computador. Se podría incluso imaginar un «detector de consciencias», construido según los principios de esta teoría, que fuera completamente fiable con respecto a sujetos humanos pero que diera resultados diferentes a los de un test de Turing en el caso de un computador. En tales circunstancias, uno tendría que ser muy cuidadoso a la hora de interpretar los resultados de un test de Turing. Creo que la forma de ver la cuestión de la adecuación del test de Turing depende en parte de la forma en que uno espera que se desarrolle la ciencia y la tecnología. Tendremos necesidad de volver a estas consideraciones más adelante.

Inteligencia artificial

Un área de gran interés en los últimos años es la que se conoce como inteligencia artificial, a menudo abreviada simplemente con «IA». Los objetivos de la IA son imitar por medio de máquinas, normalmente electrónicas, tantas actividades mentales como sea posible, y quizá llegar a mejorar las capacidades humanas en estos aspectos. El interés por los resultados de la IA procede al menos de cuatro direcciones. En concreto tenemos el estudio de la robótica, que está interesada, en gran medida, en los requisitos prácticos de la aplicación industrial de los dispositivos mecánicos que pueden realizar tareas «inteligentes» —tareas de una variedad y complejidad que habían exigido anteriormente la intervención o control humano— y realizarlas con una velocidad y fiabilidad más allá de cualquier capacidad humana, o en condiciones adversas en las que la vida humana correría peligro. También de interés comercial, tanto como general, es el desarrollo de sistemas expertos, con los que se intenta codificar el conocimiento esencial de toda una profesión —medicina, abogacía, etc.—en ¡un paquete de ordenador! ¿Es posible que la experiencia y competencia de los seres humanos miembros de estas profesiones pueda ser realmente reemplazada por estos paquetes? ¿O se trata sencillamente de que todo lo que podemos esperar conseguir son largas listas de información objetiva junto con un completo sistema de referencias cruzadas? La cuestión de si los computadores pueden mostrar (o imitar) auténtica inteligencia tiene evidentemente importantes implicaciones sociales. Otra área en la que la IA podría tener relevancia directa es la psicología: se confía en que tratando de imitar el comportamiento de un cerebro humano (o de algún otro animal) mediante un dispositivo electrónico —o fracasando en el intento— podamos aprender algo importante sobre el funcionamiento cerebral. Finalmente, existe la esperanza optimista de que, por razones similares, la IA tuviera algo que decir sobre cuestiones profundas de la filosofía y nos proporcionara algunas intuiciones directas sobre el significado del concepto de mente.

¿Hasta dónde ha sido capaz de llegar la IA por el momento? Me resultaría difícil tratar de resumirlo. Existen muchos grupos activos en diferentes partes del mundo y solo estoy familiarizado con una pequeña parte de este trabajo. De todas formas sería correcto decir que, aunque se han hecho muchas cosas ingeniosas, la simulación de algo que pudiera pasar por auténtica inteligencia tiene aún un largo camino por delante. Para dar alguna idea del tema mencionaré primero algunos de los (todavía impresionantes) logros anteriores, y luego algunos progresos notables recientes con computadores que juegan al ajedrez.

Uno de los primeros dispositivos IA fue la «tortuga» de W. Gray Walter, construida a comienzos de los años cincuenta,³ que se movía autónomamente por el suelo hasta que sus baterías estaban bajas, y entonces iba al enchufe más próximo, se conectaba y recargaba sus baterías. Una vez totalmente reabastecida se desconectaba por sí misma del enchufe ¡y volvía a sus aventuras por el suelo! Desde entonces se han construido muchos objetos similares (ver, por ejemplo, Waltz, 1982). Una línea de desarrollo algo diferente queda ejemplificada en el programa de computador de Terry Winograd, diseñado en 1972, que puede conversar audiblemente sobre una colección de bloques de varias formas y colores que, mediante simulación, coloca unos sobre otros en diferente orden y disposición. Pese a estos tempranos éxitos es notable cuán difícil ha resultado el diseñar el control de un sencillo «brazo robot» articulado que tiene que maniobrar evitando obstáculos amontonados, en donde los movimientos necesarios parecerían «obvios» desde una perspectiva humana. La interpretación de escenas visuales es también un área en la que los procedimientos de la IA no han conseguido acercarse a lo que el cerebro humano (y, de hecho, el de la mayoría de los animales) parece lograr «sin esfuerzo».

Quizá en línea más directa con el test de Turing está el programa de ordenador de K. M. Colby, desarrollado a mediados de los años sesenta, que simula un psicoterapeuta —con tanto éxito que algunos pacientes descubren que prefieren al computador antes que a un terapeuta humano, y están dispuestos a revelarle sobre sí mismos más de lo que lo harían a su homólogo humano. Como ejemplo⁴ de tal intercambio entre el computador «terapeuta» y un paciente, consideremos la siguiente conversación (mantenida a través de un teletipo):

Terapeuta: En qué puedo ayudarle.

Paciente: No lo sé.

Terapeuta: Trate de contarme algo.

Paciente: No.

Terapeuta: Puede explicarse.

Paciente: Hoy me encuentro enfermo y cansado.

Terapeuta: Tiene alguna idea de por qué.

Paciente: Sí, soy viejo.

Terapeuta: Por favor, continúe.

Paciente: Creo que he perdido interés en todo.

Terapeuta: Dígame algo más sobre esos sentimientos.

Paciente: Tengo alguna idea de por qué me siento así.

Terapeuta: La tiene.

Paciente: Creo que echo en falta una familia.

Terapeuta: Qué le hace echar en falta una familia.

Paciente: Hay un estímulo en ello.

Terapeuta: Por qué es eso importante para usted.

Aunque esto pueda dar una extraña impresión de que el computador entiende algo, en realidad no entiende nada y simplemente está siguiendo algunas reglas mecánicas sencillas. (Existe también un caso «inverso» de este en un sistema en el que computador simula un paciente humano esquizofrénico, que presenta todos los síntomas y respuestas de un libro de texto y es capaz de engañar a algunos estudiantes de medicina que ¡creen que es realmente un paciente humano el que está dando las respuestas!)

Los computadores que juegan al ajedrez proporcionan probablemente los mejores ejemplos de máquinas que exhiben lo que podría ser considerado como «conducta inteligente». De hecho, algunas máquinas han alcanzado hoy día (1989) un nivel de actuación extremadamente respetable con relación a los jugadores humanos, acercándose al de «Maestro Internacional». (Las puntuaciones de estos computadores estarían algo por debajo de 2.300; en comparación, el campeón mundial Kasparov tiene una puntuación por encima de 2.700.) En concreto, un programa de computador (para un microprocesador comercial Fidelity Excel) de Dan y Kathe Spracklen ha alcanzado una puntuación (Elo) de 2.110 y se le ha concedido el título de «Maestro» de la USCF. Aún más impresionante es «Deep Thought» (Pensamiento Profundo), programado fundamentalmente por Hsiung Hsu, de la Universidad de Carnegie Mellon, que tiene una puntuación en torno a 2.500 Elo y recientemente logró la notable proeza de compartir el primer puesto (con el Gran Maestro Tony Miles) en un torneo de ajedrez (en Longbeach, California, noviembre de 1988), ¡derrotando de hecho a un Gran Maestro (Ben Larsen) por primera vez!⁵ Los computadores que juegan al ajedrez sobresalen también en la resolución de problemas de ajedrez y superan fácilmente a los humanos en este empeño.

Las máquinas de jugar al ajedrez dependen en buena medida del «conocimiento libresco» además de su preciso poder de cálculo. Es digno de mención que, curiosamente, las máquinas de jugar al ajedrez son mejores en general, respecto a jugadores humanos comparables, cuando se impone que los movimientos se ejecuten muy rápidamente; los jugadores humanos actúan mucho mejor, comparados con las máquinas, cuando se permite una buena cantidad de tiempo para cada movida. Esto se puede comprender por el hecho de que las decisiones del computador se toman sobre la base de extensos cálculos rápidos y exactos, mientras que el jugador humano saca ventaja de «juicios» que descansan en evaluaciones conscientes relativamente lentas. Estos juicios humanos sirven para reducir drásticamente el número de posibilidades serias que deben considerarse en cada etapa del cálculo, y cuando se dispone de tiempo se puede hacer un análisis mucho más profundo que en el caso del mero cálculo y eliminación directa de posibilidades que hace la máquina sin utilizar tales juicios. (Esta diferencia es aún más notable en el difícil juego oriental del «Go», en el que el número de posibilidades en cada movida es mucho mayor que en el ajedrez.) La relación entre consciencia y formación de juicios será capital para mis argumentos posteriores, especialmente en el Capítulo 10.

Una aproximación IA al «placer» y al «dolor»

Una de las pretensiones de la IA es que proporciona una vía hacia un tipo de entendimiento de las cualidades mentales, tales como felicidad, dolor, hambre. Tomemos por ejemplo la tortuga de Grey Walter. Cuando sus baterías estén bajas su pauta de comportamiento cambiará, y actuará de una forma planeada para reabastecer su reserva de energía. Existen claras analogías entre esta y la manera en que actuaría un ser humano —o cualquier otro animal— cuando sienta hambre. Quizá no sería un grave abuso de lenguaje decir que la tortuga de Grey Walter estaba «hambrienta» cuando actuaba de esta forma. Algún mecanismo interno era sensible al estado de carga de su batería, y cuando este caía por debajo de cierto nivel orientaba a la tortuga hacia una pauta de comportamiento diferente. Sin duda existe una operación similar en el interior de los animales cuando empiezan a tener hambre, solo que los cambios de comportamiento son más complicados y sutiles. Más que pasar de una pauta de comportamiento a otra hay un cambio en las tendencias a actuar de ciertas formas, haciéndose estos cambios más fuertes (hasta un cierto punto) a medida que aumenta la necesidad de reabastecer el suministro de energía.

De modo análogo, los defensores de la IA imaginan que conceptos como el dolor o la felicidad pueden modelarse adecuadamente de esta forma. Simplifiquemos las cosas y consideremos solo una escala de «sentimientos» que va desde el extremo «dolor» (puntuación –100) al extremo «placer» (puntuación +100). Imaginemos que tenemos un dispositivo —una máquina de algún tipo, presumiblemente electrónica— que tiene un medio de registrar su propia (supuesta) puntuación «placer-dolor», que llamaré su «puntuación-pd». El dispositivo tiene que disponer de ciertos modos de comportamiento y ciertos datos de entrada, ya sean internos (como el estado de sus baterías) o externos. La idea es que sus acciones están ajustadas para conseguir maximizar su puntuación-pd. Habría muchos factores que influyen en la puntuación-pd. Podríamos ciertamente disponer que la carga de sus baterías fuera uno de ellos, de modo que una carga baja cuente negativamente y una carga alta positivamente, pero también podría haber otros factores. Quizá nuestro dispositivo tenga algunos paneles solares que le proporcionan medios alternativos de obtener energía, de modo que no necesita hacer uso de sus baterías cuando los paneles están en operación. Podríamos disponer que al moverse hacia la luz pueda incrementar algo su puntuación-pd, de modo que, en ausencia de otros factores, eso sería lo que tendería a hacer. (¡En realidad, la tortuga de Grey Walter acostumbraba a evitar la luz!) Sería necesario tener algún medio de realizar cálculos para que pudiese evaluar los efectos probables que tendrían finalmente sus diferentes acciones en su puntuación-pd. Podría introducir pesos estadísticos, de modo que un cálculo tuviera un efecto mayor o menor en la puntuación dependiendo de la fiabilidad de los datos en los que se basaba.

También sería necesario proporcionar a nuestro dispositivo «objetivos» diferentes del simple mantenimiento de su suministro de energía, ya que de lo contrario no tendríamos medio de distinguir el «dolor» del «hambre». Sin duda es demasiado pedir que nuestro dispositivo tenga medios de procreación así que, de momento, ¡sexo fuera! Pero quizá podamos implantar en él un «deseo» de compañía de otro dispositivo semejante si damos a sus encuentros una puntuación-pd positiva. O podríamos hacerle «ansioso» de aprender por su propio bien, de modo que el simple almacenamiento de hechos sobre el mundo externo tuviera también puntuación positiva de su escala-pd. (Más egoístamente, podríamos disponer que el realizar diferentes servicios para nosotros tuviera una puntuación positiva, ¡como tendríamos que hacer si construyéramos un sirviente robot!) Podría alegarse que hay algo artificioso en imponer tales «objetivos» en nuestro dispositivo a nuestro capricho; no obstante, esto no difiere mucho del modo en que la selección natural nos ha impuesto, como individuos, ciertos «objetivos» que están gobernados en gran medida por la necesidad de propagar nuestros genes.

Supongamos ahora que nuestro dispositivo ha sido construido con éxito con arreglo a todo esto. ¿Qué derecho tendríamos a asegurar que realmente siente placer cuando su puntuación-pd es positiva y dolor cuando la puntuación es negativa? El punto de vista de la IA (u operacional) diría que juzgamos esto simplemente a partir del modo en que se comporta el dispositivo. Puesto que actúa de una forma que incrementa su puntuación hasta un valor positivo tan alto como sea posible (y durante tanto tiempo como sea posible) y, correspondientemente, también actúa para evitar puntuaciones negativas, entonces podemos definir razonablemente su sentimiento de placer como el grado de positividad de su puntuación, y definir correspondientemente su sentimiento de dolor como el grado de negatividad de la puntuación. La «razonabilidad» de tal definición, se alegaría, deriva del hecho de que esta es precisamente la forma en que reacciona un ser humano en relación con sentimientos de placer o dolor. Por supuesto que con los seres humanos las cosas no son realmente tan sencillas como esto, como ya sabemos: a veces parecemos buscar el dolor deliberadamente, o apartarnos de nuestro camino para evitar ciertos placeres. Es evidente que nuestras acciones están realmente guiadas por criterios mucho más complejos que estos (cf. Dennett, 1978, pp. 190-229). Pero, en primera aproximación, nuestra forma de actuar consiste en evitar el dolor y buscar el placer. Para un operacionalista esto sería suficiente para justificar, en el mismo nivel de aproximación, la identificación de la puntuación-pd de nuestro dispositivo con su valoración placer-dolor. Tales identificaciones parecen estar también entre los propósitos de la teoría de IA.

Debemos preguntar: ¿es realmente cierto que nuestro dispositivo sentiría dolor cuando su puntuación-pd fuera negativa y placer cuando fuera positiva? De hecho, ¿podría nuestro dispositivo sentir en absoluto? Sin duda, los operacionalistas dirán «Obviamente sí», o despacharán tales preguntas como sin sentido. Pero a mí me parece evidente que existe una cuestión seria y difícil que debe ser considerada. En nosotros mismos, las influencias que nos impulsan son de varios tipos. Algunas son conscientes, como el dolor y el placer; pero hay otras de las que no tenemos consciencia directa. Esto queda claramente ilustrado en el ejemplo de una persona que toca una estufa caliente. Se establece una acción involuntaria que le hace retirar su mano aun antes de que experimente cualquier sensación de dolor. Parecería que tales acciones involuntarias están mucho más cerca de las respuestas de nuestro dispositivo a su puntuación-pd de lo que lo están los efectos reales del dolor y el placer.

Con frecuencia utilizamos términos antropomorfos en una forma descriptiva, a menudo jocosa, para describir el comportamiento de las máquinas: «Mi coche no quería arrancar esta mañana»; o «Mi reloj aún piensa que va con la hora de California»; o «Mi ordenador afirma que no comprende la última instrucción y no sabe qué hacer a continuación». Por supuesto, no queremos decir realmente que el coche quiera algo de verdad, o que el reloj piense, o que el ordenador* afirme algo o que comprenda o incluso sepa lo que está haciendo. De todas formas, tales proposiciones pueden ser verdaderamente descriptivas y útiles para nuestra propia comprensión, con tal de que las tomemos simplemente con el ánimo en que fueron pronunciadas y no las consideremos como aserciones literales. Adoptaré una actitud similar respecto a las diversas afirmaciones de la IA de que las cualidades mentales podrían estar presentes en los dispositivos que hemos estado construyendo, ¡independientemente del ánimo con que se planearon! Si acepto que se diga que la tortuga de Gray Walter puede estar hambrienta, es precisamente en este sentido medio jocoso. Si estoy dispuesto a utilizar términos como «dolor» o «placer» para la puntuación-pd de un dispositivo como se concibió más arriba, es porque encuentro estos términos útiles para mi comprensión de su comportamiento, debido a ciertas analogías con mis propios comportamientos y estados mentales. No quiero decir que estas analogías sean en realidad particularmente estrechas o, de hecho, que no haya otras cosas inconscientes que influyen en mi comportamiento de forma mucho más parecida.

Confío en que queda claro para el lector que, en mi opinión, hay mucho más que entender de las cualidades mentales de lo que puede obtenerse directamente de la IA. De todas formas, creo que la IA plantea un caso serio que debe ser respetado y sometido a consideración. Con esto no quiero decir que se haya conseguido mucho, si se ha conseguido algo, en la simulación de la inteligencia real. Pero hay que tener en cuenta que el tema es muy joven. Los computadores serán más rápidos, tendrán mayores memorias de acceso rápido, más unidades lógicas y podrán realizar un mayor número de operaciones en paralelo. Habrá mejoras en el diseño lógico y en la técnica de programación. Estas máquinas, los vehículos de la filosofía de la IA, serán enormemente mejoradas en sus capacidades técnicas. Además, la filosofía misma no es intrínsecamente absurda. Quizá la inteligencia humana pueda ser aproximadamente simulada por los computadores electrónicos —esencialmente los computadores actuales, basados en principios que ya son comprendidos, pero con la capacidad, velocidad, etc., mucho mayor que van a tener en los próximos años. Quizá, incluso, estos dispositivos serán realmente inteligentes; quizá pensarán, sentirán y tendrán mentes. O quizá no lo hagan, y se necesite algún principio nuevo del que por el momento no hay indicios. Esto es lo que está en discusión, y es algo que no puede despacharse a la ligera. Trataré de presentar las pruebas como mejor las veo. Finalmente expondré mis propias ideas.

IA fuerte y la habitación china de Searle

Existe un punto de vista, conocido como IA fuerte que adopta una posición más bien extrema sobre estas cuestiones.⁶ Según la IA fuerte, no solo los dispositivos que acabamos de mencionar serían inteligentes y tendrían mentes, etc., sino que se puede atribuir un cierto tipo de cualidades mentales al funcionamiento lógico de cualquier dispositivo computacional, incluso los dispositivos mecánicos más simples tales como un termostato.⁷ La idea es que la actividad mental consiste simplemente en llevar a cabo alguna secuencia bien definida de operaciones, frecuentemente llamada algoritmo. Más adelante precisaré mejor lo que realmente es un algoritmo. Por el momento, será adecuado definir simplemente un algoritmo como cierto tipo de procedimiento de cálculo. En el caso de un termostato el algoritmo es extremadamente simple: el dispositivo registra si la temperatura es mayor o menor que la establecida, y a continuación dispone que el circuito se desconecte en el primer caso y se conecte en el segundo. Para cualquier tipo importante de actividad mental de un cerebro humano el algoritmo tendría que ser muchísimo más complicado pero, según el punto de vista de la IA fuerte, un algoritmo en cualquier caso. Diferirá enormemente en grado del sencillo algoritmo del termostato, pero no habrá diferencia de principio. Así, según la IA fuerte, la diferencia entre el funcionamiento esencial de un cerebro humano (incluyendo todas sus manifestaciones conscientes) y el de un termostato radica solo en su mucha mayor complicación (o quizá «mayor orden de estructura» o «propiedades autorreferentes», o algún otro atributo que pudiéramos asignar a un algoritmo) en el caso de un cerebro. Y lo que es más importante, todas las cualidades mentales —pensamiento, sentimiento, inteligencia, comprensión, consciencia— deben ser consideradas, según este punto de vista, simplemente como aspectos de este funcionamiento complicado; es decir, son simplemente características del algoritmo a ejecutar por el cerebro.

La virtud de cualquier algoritmo específico residiría en su actuación, es decir, en la precisión de sus resultados, su amplitud, su economía y la velocidad con que puede ser ejecutado. Un algoritmo que pretende igualar lo que se presume que está operando en un cerebro humano tendría que ser algo prodigioso. Pero si existe un algoritmo de esta especie para el cerebro —y los defensores de la IA fuerte afirmarán ciertamente que sí existe— entonces podría en principio funcionar en un ordenador. De hecho podría funcionar en cualquier computador electrónico moderno de tipo general si no fuera por limitaciones de espacio de almacenamiento y velocidad de operación. (La justificación de este comentario vendrá más tarde, cuando consideremos la máquina universal de Turing.) Se prevé que cualquiera de estas limitaciones quedarán superadas en los grandes y rápidos computadores de un futuro no muy lejano. En esa eventualidad, un algoritmo así, si pudiera ser encontrado, superaría presumiblemente el test de Turing. Los defensores de la IA fuerte alegarán que, donde quiera que funcione, el algoritmo experimentará autónomamente sentimientos, tendrá una consciencia, será una mente.

No todos estarán de acuerdo, ni mucho menos, en que se puedan identificar así los estados mentales con los algoritmos. En particular, el filósofo americano John Searle (1980, 1987) se ha opuesto vigorosamente a esta idea. Él ha citado ejemplos en los que versiones simplificadas del test de Turing han sido ya superadas efectivamente por un computador adecuadamente programado, pero da fuertes argumentos que apoyan el punto de vista de que el atributo mental relevante de la «comprensión» está, en cualquier caso, totalmente ausente. Uno de estos ejemplos se basa en un programa de ordenador diseñado por Roger Schank (Schank y Abelson, 1977). El propósito del programa es proporcionar una simulación de la comprensión de historias sencillas como: «Un hombre entró en un restaurante y pidió una hamburguesa. Cuando llegó la hamburguesa estaba socarrada y el hombre salió vociferando furiosamente del restaurante, sin pagar la cuenta ni dejar propina». Un segundo ejemplo: «Un hombre entró en un restaurante y pidió una hamburguesa; cuando la hamburguesa llegó, le gustó mucho; y al salir del restaurante dio una buena propina al camarero antes de pagar su cuenta». Como un test de «comprensión» de las historias se le pregunta al computador si el hombre comió la hamburguesa en cada caso (un hecho que no se había mencionado explícitamente en ninguna de las dos historias). Para este tipo de historia sencilla y pregunta sencilla el computador puede dar respuestas que son esencialmente indistinguibles de las respuestas que daría un ser humano de habla española: «no», en el primer caso, y «sí», en el segundo, para estos ejemplos particulares. Entonces, en este sentido muy limitado, ¡la máquina ya ha superado un test de Turing!

La cuestión que debemos considerar es si un éxito de este tipo indica realmente una auténtica comprensión por parte del computador, o, quizá, por parte del propio programa. El argumento de Searle en favor de que no lo hace consiste en invocar su concepto de una «habitación china». En primer lugar, él imagina que las historias se cuentan en chino en lugar de español —ciertamente un cambio no esencial— y que todas las operaciones del algoritmo del ordenador para este ejercicio concreto se suministran (en español) como un conjunto de instrucciones para manipular fichas con símbolos chinos en ellas. Searle se imagina a sí mismo haciendo todas las manipulaciones en el interior de una habitación cerrada. Las secuencias de símbolos que representan las historias, y luego las preguntas, se introducen en la habitación a través de una pequeña ranura. No se permite ninguna otra información del exterior. Finalmente, cuando se han completado todas las manipulaciones, la secuencia resultante se extrae de nuevo a través de la ranura. Puesto que todas estas manipulaciones están simplemente ejecutando el algoritmo del programa de Schank, debe ocurrir que esta secuencia final resultante es simplemente el equivalente chino para «sí» o «no», según sea el caso, que da la respuesta correcta a la pregunta original en chino acerca de una historia en chino. Entonces Searle deja en claro que él no entiende una sola palabra de chino, de modo que no tiene la más remota idea de lo que cuentan las historias. De todas formas, llevando a cabo correctamente la serie de operaciones que constituyen el algoritmo de Schank (las instrucciones para este algoritmo le han sido dadas en español) él sería capaz de contestar tan bien como lo haría una persona china que realmente entendiera las historias. El punto importante de Searle —y pienso que tiene bastante fuerza— es que la mera ejecución de un algoritmo correcto no implica en sí mismo que haya tenido lugar ninguna comprensión. El (imaginado) Searle, encerrado en su habitación china, ¡no comprenderá una sola palabra de ninguna de estas historias!

Se han levantado diversas objeciones contra el argumento de Searle*. Mencionaré solo las que considero de seria importancia. En primer lugar, hay quizá algo más bien confuso en la frase «no entiendo una sola palabra» que se utilizó antes. La comprensión tiene tanto que ver con estructuras como con palabras individuales. Mientras ejecuta algoritmos de este tipo, uno podría perfectamente empezar a percibir algo de la estructura que forman los símbolos sin comprender el significado real de muchos de los símbolos individuales. Por ejemplo, el carácter chino para «hamburguesa» (si en verdad existe tal cosa) podría ser reemplazado por el de cualquier otro plato, pongamos por caso «chow mein», y las historias no se verían seriamente afectadas. De todas formas, me parece razonable suponer que (incluso considerando que tales reemplazamientos sean importantes) muy p

Suscríbete para continuar leyendo y recibir nuestras novedades editoriales

¡Ya estás apuntado/a! Gracias.X