¿sabremos si las máquinas piensan?

Tengo el trabajo más tratable del mundo. Estoy sentado frente a una muro blanca en la que hay dos agujeros. A mi costado una cesta siempre llena de bolas amarillas. A mi espalda, otra muro blanca en la que hay un solo agujero. De los agujeros de la muro a mi frente van saliendo un número indeterminado de bolas amarillas que caen al suelo y se van de la habitación por una especie de sumidero que hay en el mismo suelo.

Mi trabajo consiste en una única y trivial tarea: solo cuando salen dos bolas a la vez, cojo una trola del cesto y la meto por el agujero de la muro a mi espalda. Cuando salen dos bolas a la vez, meto una… dos bolas a la vez, meto una… dos bolas a la vez, meto una. Ya está, eso es todo lo útil que hago en mi vida.

Después de catorce horas así salgo de la habitación 12.453.897 de la sección 54.672.008 del teraedificio 343 del Ministerio de Wetware en la ciudad de Samjiyon. Cobro mis 300 wons, que casi nada me dan para un litro de Taedonggang y un poco de kimchi aguado, y me voy a casa: un minúsculo cubículo en el cinturón 16 de la periferia.

Tras la crimen sin descendencia del posterior miembro de la dinastía Kim, Kim Taeyang, todos temimos una disputa civil provocada por la pretensión de ciertos ministros. Sin confiscación, la propuesta que salvó todo morapio de un hombre que siempre había estado en la segunda renglón de la política, un anciano profesor de universidad llamado Min ho.

Estábamos en 2057, falta impedía ya que pudiésemos construir un líder cibernético. Lo llamamos Dangun, en honor al fundador de la primera monarquía coreana y lo construimos en el monte Paektu, el pico más stop del país, nuestra montaña sagrada. Para diseñarlo, Min ho formó un gran equipo de programadores e ingenieros, que trajo de China, India y Rusia, para que construyeran su mente a partir de la de los líderes anteriores de la dinastía Kim y, sobre todo, de la ideología Juche.

La Asamblea Suprema del Pueblo aplaudió entusiasmada la idea: un gran tesina colectivo en el que exponer a toda la nación, un colosal plan tecnológico que provocaría un gran escama en nuestros enemigos capitalistas y que, quizá, supondría la máxima expresión del socialismo mundial.

Sin confiscación, el incomunicación financiero por parte del demonio norteamericano fue durísimo. El natural agotamiento de los medios naturales, fruto de la sobreproducción salvaje del capitalismo, encareció muchísimo el precio del cobre y del silicio, que ya casi nada siquiera podíamos comprar a nuestros aliados chinos. Pronto nos quedamos sin materia prima para construir computadores. Gran parte de Dangun estaba construido (habíamos dedicado más del 60% del PIB y a un 34% de la población activa en su expansión) pero la cantidad de hardware requerido para una inteligencia fabricado de tal calibre era mucha.

Y la mente del gran Min ho salvó de nuevo la situación. Sí, carecíamos de cobre y de silicio, pero no de población. Además, a nuestros amigos chinos no les importaría dotarnos de tanta mano de obra permuta como necesitáramos. Uno de los principios de la computación es lo que se conoce como independencia de substrato: podemos realizar un mismo cálculo con diferentes sustratos materiales. Por ejemplo, podemos construir una calculadora de ruedas dentadas de madera (tal como la pascalina o la de Leibniz), de válvulas de malogrado o de transistores, es proponer, que podemos hacer máquinas que calculen con casi cualquier material, siempre que consigamos unas propiedades estructurales que permitan el cálculo.

En el fondo, lo único que se necesita para tener, en potencia, todo cálculo posible, es una máquina de Turing, la cual puede conseguirse con muy, muy poco (véanse los estudios de Rogozhin). Pero no hacía yerro ir tan allí teniendo ingentes cantidades de seres humanos: en vez de transistores, memorias, microcontroladores, conmutadores… ¡pondríamos a personas!

Y así fue. El 16 de febrero de 2061, coincidiendo con el cincuenta aniversario del comienzo de nuestro líder imperecedero Kim Jong-Il, el primer caudillo computerizado de la historia se puso en funcionamiento, siendo un 23% de su hardware, patriotas norcoeranos. Siguiendo las ideas del maniquí de cibergobierno que Stafford Beer intentó implantar en el Chile de Allende, Dangun tenía un control total de todas las operaciones económicas del país. Si se decía que el comunismo fracasaba porque sus decisiones siempre se tomaban más tarde que el ritmo de la posesiones demandaba, Dangun manejaba la proposición y la demanda en tiempo actual. Muy pronto, la nación empezó a funcionar muy adecuadamente.

Nuestros enemigos occidentales se alarmaron delante nuestro éxito y los ataques no tardaron en conseguir. Hubo dos atentados contra las instalaciones de Dangun, que ocupaban unos 7.500 kilómetros cuadrados (la fracción de la provincia de Ryanggang), que, gracias a Dios, no tuvieron consecuencias irreparables.

Pero lo peor morapio por parte de la maquiavélica propaganda capitalista. Utilizaron las redes para mandar noticiero falsas acerca de la mente del propio Dangun. Decían que Dangun no tenía verdaderamente mente, que Dangun no comprendía, verdaderamente, falta de lo que hacía; que solo era una competente simulación de pensamiento, una mera máscara, una ficción. Para sostener semejantes blasfemias utilizaron lo que llamaron el argumento de la habitación china de Searle. Una solemne estupidez pero que ha conseguido hacer dudar a muchos camaradas. Muchas veces, las ideas hacen más daño que las bombas.

No tengo nombre. Mi identificación para el régimen es Puerta razonamiento AND 453.445 CCDW del distrito 319 de la megalópolis de Samjiyon. Soy una parte de la mente de Dangun, soy una parte de la mente del líder supremo, soy una parte de Dios. Dangun ya está desarrollando nuestro software nuclear con increíbles progresos. Occidente sentirá muy pronto su ira.

El argumento de la habitación china

John Searle Speaking At Google 2 John Searle

El filósofo norteamericano John Searle es mundialmente célebre por su argumento de la caja o habitación china publicado en 1980 (‘Minds, brains and programs‘), si adecuadamente la autoría de tal argumento no es suya. Tal y como me informó el profesor Julio Cesar Armero, el argumento ya había sido expuesto mucho antiguamente (concretamente, 21 abriles antiguamente) por el escritor de ciencia ficción ruso Anatoli Dneprov en su historia de 1961 titulado ‘El grupo’; (Además, incluso tenemos un argumento muy parecido, el de la nación china, propuesto por Ned Block en 1978, que incluso cuenta con una traducción preliminar de 1974 propuesta por Lawrence Davis).

El argumento viene a ser una crítica a la Inteligencia Artificial Fuerte tal y como la entiende Searle: la idea no ya de que las computadoras pueden luchar aspectos o facultades de una mente, sino que una computadora adecuadamente programada es una mente y, como tal, capaz de comprender y de tener estados cognitivos. Vamos a explicarlo a partir de nuestro relato original.

¿Cómo argumentaban los críticos capitalistas que Dangun no tenía una mente actual? Supongamos que el narrador de la historia, Puerta razonamiento AND 453.455, forma parte de un circuito electrónico encargado de traducir las oraciones que Dangun oye en coreano, a chino (Dangun acento muchos idiomas). Al igual que AND, en dicho circuito hay miles de patriotas coreanos haciendo las funciones de componentes electrónicos de tal forma que cuando el circuito recibe como input una frase en coreano, luego de todo el trabajo en equipo, emite como output la traducción.

El argumento de la habitación china viene a ser una crítica a la idea no ya de que las computadoras pueden luchar aspectos o facultades de una mente, sino que una computadora adecuadamente programada es una mente y, como tal, capaz de comprender y de tener estados cognitivos

La pregunta es: ¿comprende AND o alguno de sus compatriotas poco de chino? No, ellos solo aplican reglas computacionales tan simples como meter una trola en un agujero cuando recibes dos bolas a la vez (la puerta lógica AND). En el argumento llamativo de Searle, solo hay un cirujano humano que, no entendiendo falta de chino, recibe frases en dicho idioma, pero dispone de un manual de reglas que le dice cómo conectar cualquier frase posible con una respuesta con sentido, de modo que es capaz de apoyar una conversación competente producirse el Test de Turing con un interlocutor chino.

El cirujano humano podría entonces departir chino sin comprender falta de lo que está diciendo que es, exactamente, lo mismo que hacen los ordenadores. Por lo tanto, las máquinas, verdaderamente, no piensan.

Pero la crítica parece surgir de modo natural: Searle está cayendo en la falacia de la composición. Por el hecho de que una parte de Dangun (o todas ellas) no entienda chino, no quiere proponer que Dangun, en su totalidad (o, al menos, su módulo de traducción), sí que lo entienda. Searle le está atribuyendo de forma ilegítima, las cualidades de una parte a la totalidad. De acuerdo, pero tanto a Searle como a Dneprov, no les parece ninguna observación válida. En palabras del ruso:

-“¡Presento una observación! – gritó el entusiasta de la cibernética, Antón Gorovin -. En este grupo de máquinas nosotros representábamos la parte de los relevadores sencillos, es proponer, de las neuronas. Pero nadie afirmó hasta el presente que cada neurona del cerebro piense. El pensamiento es el resultado del trabajo colectivo de gran cantidad de neuronas.

-Supongámoslo así – accedió Zarubin -. En tal caso hay que aceptar que durante vuestro grupo colectivo, en el tonada, o no sabemos dónde, vagaban superpensamientos mecánicos ignotos e impalpables por parte de los nociones pensantes de la máquina. Algo muy parecido a la razón universal de Hegel, ¿no es cierto?

Golovin se quedó de piedra y se sentó como un autómata.

-Si vosotros, unidades estructurales pensantes de determinado esquema deductivo, no habéis tenido la pequeño idea de lo que estabais haciendo, ¿se puede departir seriamente de pensamiento de las calculadoras electrónicas construidas a piezas, sobre cuya capacidad de pensamiento ni siquiera insisten los más entusiastas partidarios del cerebro electrónico? Vosotros conocéis perfectamente estas piezas: válvulas, transistores, matrices magnéticas, etcétera. Me parece que nuestro grupo ha resuelto en un único sentido el problema de si la máquina puede o no pensar. Ha demostrado de modo convincente que hasta la más sutil imitación del pensamiento por parte de las máquinas no es el pensamiento: forma suprema del movimiento de la materia viviente.”

Istock 664870826

Efectivamente, desde una perspectiva codicioso lo único que existen son los componentes materiales de la máquina por lo que esa supuesta mente que surge o emerge de la cooperación de las partes, se antoja como poco fantasmagórico, fantasmal, que nos llevaría al añoso dualismo cartesiano difícil de aceptar cedido el estado del arte de la neurociencia contemporáneo.

Searle opta por hacer que pensemos en una única persona capaz de interiorizar mentalmente todos los procesos electrónicos que realiza un computador que traduce al chino. Alguien capaz de aprenderse todas las reglas lógico-matemáticas que utiliza un computador para realizar tales traducciones. Igualmente, esa persona (que podría ser el propio Dangun) no entendería absolutamente falta de chino aunque pudiera apoyar perfectamente una conversación en chino.

En definitiva, que la sintaxis (reglas para componer oraciones adecuadamente formadas) es insuficiente para la semántica (comprender el significado de la oración). Las computadoras tienen sintaxis pero carecen por completo de semántica.

Los críticos de Searle ( Dennett, Boden, Cole o Chalmers) volvieron a la carga: para un sistema puramente deductivo (las reglas del ajedrez, por ejemplo) la crítica de Searle es válida, pero un ordenador es un sistema mucho más arduo que eso, es un sistema físico causal incrustado en el mundo actual. Dennett afirmará que no existe un “programa de ordenador en sí”, un “ser platónico” que funciona sin ninguna relación con el mundo material, por lo que parece insensatez proponer que las computadoras tienen nada más sintaxis.

Es más, si profundizamos más en su funcionamiento, las computadoras implementan muchísima semántica al ser diseñadas y construidas. En un ordenador hay millones de transistores que cambian continuamente de estado siguiendo secuencias de voltajes. Al nivel más nuclear, el ordenador interpreta un nivel de voltaje como “uno” y su partida como “cero”. El ordenador digitaliza la información, pasando de un todo de corriente continua a un código binario de nociones discretos, y eso puede entenderse perfectamente como una determinada interpretación. Es más, sus diferentes niveles de funcionamiento (desde el jerga máquina hasta el jerga de stop nivel), están repleto de interpretaciones, de semántica (véanse, por ejemplo, los mnemónicos). ¿Y qué es si no comprender que interpretar?

Pero no, Searle es tenaz, y va a entender comprender de una forma más precisa, retomando un añoso concepto filosófico: la intencionalidad.

Los estados mentales tienen la propiedad esencial de ser intencionales, es proponer, de que su contenido siempre es otra cosa diferente a sí mismos. Nuestros pensamientos siempre “refieren”, “representan”, “se dirigen” a poco, a una narración. Cuando pienso en mi abuela, mi pensamiento “apunta” a mi abuela, tiene una narración, en este caso, en poco del mundo actual. No podemos imaginar un estado mental sin intencionalidad ¿Un pensamiento malogrado? Entonces, pensar es tener estados intencionales y las máquinas parecen no tener ningún tipo de estado intencional. Pensemos en la mente de AND solo existe una regla a seguir: “Dos bolas a la vez, meto una” que no refiere intencionalmente a ninguna palabra o expresión en chino.

Las máquinas virtuales

Hilary Putnam Hilary Putnam, padre del funcionalismo, quien entendió la mente como una Máquina de Turing

Es más, la comprensión, entendida tal y como Searle lo hace, puede ligarse a la consciencia. Parece de sentido popular que para comprender poco tengo que ser consciente de ese poco ¿Podría yo poseer comprendido el significado de la palabra “perro” sin haberme cedido cuenta de ello? Si aceptamos la veterano, parece certero concluir que las máquinas no son conscientes de falta por lo que, a fortiori, no se enteran de falta, no pueden comprender falta. Las máquinas no pueden pensar.

Sin confiscación, hay, de nuevo, réplicas a este argumento. Por un costado está la poco contraintuitiva postura de autores como Paul Churchland o del mismo Dennett: desmentir la existencia de la consciencia, entendiéndola como una mera ilusión o como una simple forma de departir equívoca fruto de un mal uso del jerga (tal y como sostenía Gilbert Ryle). No obstante, parece muy difícil desmentir poco que parece tan evidente como la existencia ontológica de un dolor de muelas (lo que los filósofos llaman qualia: las experiencias subjetivas).

Y por otro costado está Hilary Putnam, el padre del funcionalismo (que es la filosofía que hay detrás de toda la IA), quien entendió la mente como una Máquina de Turing en el sentido que los estados mentales se identificaban con los estados funcionales de la máquina, o dicho en román paladino, las instrucciones que ejecutaba la máquina, el propio software. El ser humano es un computador cuyo cuerpo es su hardware (concretamente el cerebro) y la mente es el software que controla al primero.

Aunque el mismo Putnam se retractó más tarde de sus ideas, otros pensadores las han mantenido hasta la presente. Por ejemplo, el sudafricano Aaron Sloman sostiene que la consciencia, los qualia, son estados computacionales internos que tienen género causales sobre la conducta (si me pongo triste entonces llanto). Solo se puede alcanzar a ellos desde otros nociones de la máquina posible que conforma la totalidad de la mente (de aquí su privacidad: mis estados mentales no tienen por qué expresarse en mi conducta ni nadie puede alcanzar a ellos más que yo); y no siempre podemos describirlos mediante niveles superiores de la mente que se supervisan a sí mismos (y de aquí su inefabilidad: a veces no podemos expresar verbalmente cómo nos sentimos).

Para Sloman esto no es entender la mente de una forma fantasmagórica o fantasmal (tal y como lo hacían Dneprov o Searle), sino completamente realista. Las máquinas virtuales causan nuestra conducta exactamente igual que un software que se ejecuta en un ordenador causa el movimiento de un protector mecánico. Nadie diría que el Windows que corre en mi ordenador no es actual.

La emergencia de la mente

Istock 851956480

Otros han trillado en la habitación china un mal argumento correcto a que parte de una suposición no demostrada, a memorizar, que es posible construir una máquina puramente sintáctica que hable competentemente el chino. Searle, o Ned Block con su versión blockhead del argumento de Searle, dan por supuesto que el número de conversaciones posibles en chino son finitas cuando potencialmente son infinitas.

Si son infinitas, sería impracticable construir una máquina así. No obstante, podría objetarse que si adecuadamente habría que departir de cifras astronómicas (¿trillones de combinaciones?) no serían infinitas correcto a que se búsqueda que la máquina sea competente para producirse el Test de Turing. En ese sentido, si adecuadamente hay infinitas formas de reponer a un saludo, con solo unas pocas que hicieran que la máquina respondiera de forma coherente nos bastaría.

Sin confiscación, pronto nos encontrarnos con conversaciones que solo pudiesen ser respondidas de forma coherente si la máquina comprendiera el sentido. Es un clásico el posterior ejemplo: Supongamos que tenemos a un cliente que llega a un restaurante y pide una sopa. Después de probar una única cucharada, claridad al camarero y acento con él. Inmediatamente luego abandona el restaurante dejándose el resto de su sopa intacta. La cuestión es: ¿dejó el cliente propina?

Otros han trillado en la habitación china un mal argumento correcto a que parte de una suposición no demostrada

Para responderla hay que comprender muchas cosas que no se dicen explícitamente en las frases. Hay que tener conocimiento implícito como suponer que si determinado no se come su hamburguesa es porque no le ha gustado, y que si la comida de un restaurante no te gusta es poco probable que dejes propina. Ese conocimiento implícito, que no se expresa proposicionalmente, solo puede obtenerse si hay una mínima comprensión contextual de lo que se está hablando. Entonces, una máquina ha de incorporar algún tipo de semántica si quiere departir adecuadamente chino. Una máquina sintáctica tal y como la plantea Searle no pasaría el Test de Turing.

Entonces, si la sintaxis puede incorporar semántica (y debe hacerlo si quiere ser lingüísticamente competente), entonces de la complejidad necesaria para aventajar el Test de Turing surgirá la semántica, y, según algunos autores, acaecerá la comprensión y, luego, incluso la consciencia.

Esta emergencia de la consciencia encaja adecuadamente con una de las teorías más populares sobre la consciencia: la teoría de la integración de la información (IIT) del psiquiatra italiano Giulio Tononi. Esta teoría sostiene que nuestros sentidos son capaces de discernir una enorme cantidad de información diferente (pensemos en la riqueza de la percepción visual), adicionalmente desde diferentes modalidades sensoriales (visión, oreja, tacto…), pero, a nivel consciente, se nos presenta completamente integrada. Entonces, allá donde exista integración de información existirá consciencia en algún nivel. Nuestra máquina semántica integraría información por lo que podría ser consciente.

Pero si llevamos la IIT a sus máximas consecuencias tenemos que gran parte del mundo natural (y fabricado) es consciente en alguna medida. El dispositivo desde el que ahora lees este artículo integra información por lo que sería consciente… ¿Es, de verdad, consciente? Por no departir, por ejemplo, de que una red entero con tal flujo e integración de información como es internet podría desarrollar una súper consciencia muy superior a la humana… Lo siento pero no me lo creo.

¿Piensan verdaderamente las máquinas?

Istock 682312222

¿Es el argumento de la habitación china definitivo o tienen razón sus críticos? Creo que a día de hoy nadie puede desmentir que las máquinas son inteligentes, sea cual sea nuestra concepto de inteligencia (definirla es uno de las grandes controversias de la psicología). Indudablemente son mucho más inteligentes que nosotros en tareas específicas y en entornos muy formalizados, aunque todavía son muy estúpidas para tareas generales y entornos confusos (el gran pelea de la IA es la IAG), aunque, poco a poco, van mejorando.

¿Comprenden lo que hacen? Si entendemos comprender por realizar operaciones siguiendo conocimiento semántico, sí, desde hace muchísimo. Un ejemplo muy claro está en SHRDLU de Terry Winograd, un software creado a finales de los abriles sesenta del siglo pasado, capaz de explicar verbalmente su comportamiento en un entorno tridimensional de formas geométricas. SHRDLU cumplía instrucciones a partir de información semántica y era capaz de explicar por qué hacía lo que hacía.

SHRDLU era un software que cumplía instrucciones a partir de información semántica y era capaz de explicar por qué hacía lo que hacía

Sin confiscación, si entendemos comprender en un sentido cachas tal y como lo hace Searle, como tener conocimiento consciente de poco, tenemos que sostener que las máquinas, al menos a día de hoy, no comprenden absolutamente falta ya que son absolutamente inconscientes. Por mucho que nos diga la IIT, mi tablet no tiene consciencia en ningún nivel. Tendrá todavía que producirse mucho tiempo hasta que nuestro conocimiento del cerebro avance y podamos replicar computacionalmente los mecanismos biológicos que generan consciencia.

El fin de Dangun

Destruir Dangun puede parecer difícil ya que no tiene ninguna mecanismo central de procesamiento. Al ser un enorme sistema de redes neuronales artificiales, la destrucción de una de sus partes no destruye el todo como ocurría en los antiguos ordenadores de funcionamiento serial. Ya tuvimos varios atentados y Dangun pudo repararse sin demasiados contratiempos (más adecuadamente se autorreparó el mismo).

Sin confiscación, tiene un punto débil: la energía que necesita para su funcionamiento. Para favorecer su insaciable sed de electricidad hacen yerro doce reactores nucleares funcionando en paralelo. La fusión de uno de ellos provocaría una reacción en esclavitud que haría explotar los demás, llevando a una detonación de más de cincuenta kilotones… una arrebato nuclear que dejaría a Hiroshima a la cumbre de un petardo de feria.

Me cita en la cornisa del tierra 67 del teraedificio 1.924 del Departamento de Energía de Dangun, en la ciudad de Paekam. Desde esta cumbre contemplo a mis pies el reactor seis. En mi mondongo llevo adosados doce kilos de RDX. Me lanzaré al malogrado y, cuando esté a unos metros del reactor, detonaré el explosivo. Será el fin de Dangun.

No puedo seguir viendo a mi pueblo guiado por un zombi, por un amasijo de circuitos desalmado. Finalmente Searle me convenció y ahora debo liberar a Corea de este gran farsa, de esa ilusión de pensar que estábamos siendo gobernados por un auténtico dios encarnado que nos llevaría al Nirvana comunista. Mi definitivo nombre es Chin-Mae, antiguamente conocido como Puerta razonamiento AND 453.445 CCDW.

450 1000

Sobre Santiago Sánchez-Migallón: Profesor de Filosofía atrapado en un rizo: construir una mente fabricado, a la vez que construye la suya propia. Fracasó en los dos proyectos, pero como el rizo está programado para detenerse solo cuando dé un resultado positivo, allí sigue, iteración tras iteración. Quizá no llegue a ningún costado, pero dice que el camino está siendo fascinante. Darwinista, laplaciano y criptoateo, se especializó en Filosofía de la Inteligencia Artificial, neurociencias y Filosofía de la Biología. Es por ello que algunos lo caracterizan de filósofo ciberpunk, aunque esa epíteto le parece poco inmaduro. Adora a Turing y a Wittgenstein y, en universal, detesta a los postmodernos. Es el dueño del Blog La Máquina de Von Neumann y colabora asiduamente en Hypérbole y en La Nueva Ilustración Evolucionista.

Fotos | iStock, FranksValli, Hilary Putnam


Source link

deja tu opinion

Seguinos

Tecnoblog en las redes sociales