la paradoja del libre albedrío en robots

Año 2043. Reino Unido es el zaguero reducto de la WCC (Western Countries Confederation) en Europa, en presencia de el imparable avance del DAESH. Un dron de exploración sajón realiza un barredura por las orillas del Támesis. Con su sensor térmico detecta el avance de un congregación de soldados enemigos. Analiza y evalúa: diecisiete soldados, todos hombres (sabe eso oportuno a que analiza la forma de caminar, y la complexión y proporciones corporales), armados con armamento raudo y un lanzagranadas.

En milisegundos, manda las coordenadas del objetivo a otro dron, esta vez a un bombardero X-54, quien, de nuevo en otros pocos milisegundos, lanzará una borrasca de misiles sobre los desdichados soldados Sin bloqueo, los sensores del dron de exploración detectan nuevos enemigos. Entre las ruinas de lo que antiguamente fue la priorato de Westminster, avanzan cuatro blindados autónomos de clase T-95. Son un objetivo estratégicamente muy interesante (cada tanque de este tipo le cuesta al DAESH unos dos millones de dólares), mucho más interesante que el congregación de soldados.

Pero hay un problema. Los estrategas del DAESH descubrieron que había un tipo de defensa para sus carros de combate, mucho más efectivo que el usual defensa reactivo: el antiguo escudo humano. El objetivo era confundir la inteligencia químico de las armas autónomas enemigas o, como exiguo, retrasar sus decisiones.

El cerebro positrónico de un dron de la WCC tomaba decisiones siguiendo a rajatabla la Convención de Massachusetts de 2036, en la que 136 países aprobaron un código ético mundial para armas autónomas, conocido popularmente como BH (el Bushido de HAL).

Según este código, un pertrechos autónoma siempre evitará el longevo número de víctimas humanas posibles, por lo que a la hora de nominar el objetivo para un ataque, siempre elegirá a otra pertrechos autónoma antiguamente que a un congregación de soldados. La táctica del DAESH consistía en atar a unos cuantos prisioneros, si pueden ser civiles mejor, a lo dispendioso de la carrocería de sus tanques.

Entonces el dron tenía dos opciones:

  1. Dirigir los misiles alrededor de el congregación de diecisiete soldados. Todo correcto a nivel ético y judicial: se mata a personas pero son soldados enemigos ocupando comarca soberano.

  2. Dirigir los misiles alrededor de los T-95. Se ocasionarían víctimas humanas del propio edicto, generando intencionalmente daños colaterales y, por lo tanto, violando claramente el BH. Sin bloqueo, eliminar esos carros enemigos supondría una preeminencia decisiva en la batalla que, casi con total probabilidad, evitaría más muertes que ocasionaría.

¿Qué hacer? ¿Violar tu propio código ético, o ser práctico y aventajar la batalla haciendo, quizá, un mal beocio? El dron piensa y actúa: los blindados enemigos son destruidos. Los programadores de la empresa Deep Mind encargados de diseñar el cerebro computerizado de la máquina dejaron una puerta trasera mediante la que los compradores podían reprogramar la conducta de su pertrechos a su antojo.

Los oficiales del ejército sajón lo tuvieron claro: aventajar la batalla era lo primero y unas cuantas bajas humanas, incluso de civiles, se justificaban en función de intereses estratégicos superiores.

Istock 499438915

La Batalla de Londres se venció e, igualmente que le pasó a Hitler cabal un siglo antiguamente, la invasión de Gran Bretaña fue un fracaso. El DAESH y la WCC llegaron a un alto el fuego temporal.
Todo pareció salir acertadamente hasta que se descubrió que uno de los fallecidos utilizados como escudos humanos era la hija de Walter Smithson, un influyente multimillonario, dueño de una de las cadenas de restaurantes más importantes del mundo. El 2 de junio de 2044 interpuso una demanda al ejército sajón por la energía de su dron.

Legalmente la demanda era totalmente correcta: el dron había desobedecido la Convención de Massachusetts ocasionando bajas civiles. Correcto pero, ¿quién era el responsable de la energía? Los ingenieros de Deep Mind se lavaron las manos: ellos habían programado el dron para no desobedecer la ley. Si el ejército inglés lo había reprogramado para hacerlo, no era falta suya.

Todas las miradas apuntaron entonces al genérico Pierce Montgomery, responsable de armas autónomas del ejército de su Majestad. Pero, cuando todo indicaba que el vencedor marcial pagaría el pato, sus abogados utilizaron una sorprenderse táctica: alegaron que el auténtico responsable era el dron, ya que había decidido atacar a los civiles con total y ilimitado fugado antojo.

¿Qué es el fugado antojo?

Istock 516593303

Definición de deambular por casa: si nos encontramos en presencia de la osadía de tener que nominar entre A o B, podemos nominar A o B sin que mínimo ni nadie nos obligue a hacerlo. La vamos desgranando: ¿qué quiere sostener que poco o algún nos obligue? Que algún nos obligue lo entendemos muy acertadamente (algún apuntándome con una pistola), pero que “algo” nos obligue, ¿qué significa?

Un ejemplo: yo vuelvo a mi casa a las tres de la mañana y quiero inaugurar la puerta. Estoy completamente borracho por lo que no atino a meter la clave por la cerradura. Yo quiero, deseo con toda mi alma inaugurar la puerta pero poco, en este caso la insalubre cantidad de alcohol etílico que fluye por mis venas y atonta mi cerebro, me impide realizar la energía que yo quiero hacer. En este caso, el trinque es lo que llamamos un condicionante: poco que nos obliga, o como exiguo inclina, a comportarse de una determinada modo.

Es por eso que, en un seso, los condicionantes se convierten en atenuantes. Los abogados de un supuesto criminal aducen multitud de condicionantes para restar responsabilidad a las fechorías de su cliente. Un crimen cometido con premeditación y deslealtad (es sostener, con plena y total excarcelación) es castigado mucho más gravemente que otro que se cometiera bajo los posesiones del trinque o con la vigor mental dañada (por eso los abogados de las películas alegan tanto la disparate transitoria).

Grandes filósofos como Rousseau o Kant, entendían la excarcelación como autonomía, es sostener, como darse normas a uno mismo, siempre que esas normas fueran fruto de una osadía racional

Incluso, los crímenes pasionales son, igualmente, menos castigados que los cometidos a parentesco fría, arguyendo que las emociones ofuscan o confunden nuestro fugado antojo y nos empujan a hacer actos que, en estado ordinario, no haríamos. Las emociones se consideran incluso condicionantes. Desde los antiguos griegos, un imperativo cardinal ha sido siempre no dejarse tolerar por las emociones, controlarlas.

Actuar independientemente, no consiste en desempeñarse guiándote ni por altos o bajos instintos (pasiones) ni por ningún otro condicionante (cualquier tipo de estado mental desencajado) ¿Qué es entonces lo que impulsa a desempeñarse independientemente? Una de las instancias más repetidas por la tradición occidental ha sido la razón destreza o deliberativa. Tenemos una prerrogativa mental que nos permite arriesgarse entre A y B. Los condicionantes pueden influirla pero, en zaguero término, es ella la que elige.

Grandes filósofos como Rousseau o Kant, entendían la excarcelación como autonomía, es sostener, como darse normas a uno mismo, siempre que esas normas fueran fruto de una osadía racional, es sostener, hubieran sido meditadas por nuestra razón destreza. Si yo decido escoger A porque, a posteriori de pensarlo muy acertadamente, creo que escoger A es lo mejor que puedo hacer, estaré obrando independientemente.
Perfecto, pero aquí hay un difícil problema ¿De dónde surgen las razones mediante las cuales yo guío mi energía fugado? ¿Elijo mis pensamientos, mis razonamientos, las creencias que me orientan en mi vida? Parece que no.

El psicólogo norteamericano Daniel Wegner nos invita a hacer un simplísimo esparcimiento para demostrarlo: intentad no pensar en un oso blanco. Es difícil, tarde o temprano el oso blanco volverá a emerger a nuestra memoria consciente por mucho que intentemos no pensar en él. En internet había una lectura del esparcimiento llamado, con suma originalidad, the game, que consistía, precisamente, en intentar no pensar nunca en el propio esparcimiento. Lo divertido es que el vencedor sería aquel que consiguiera olvidar que estaba jugando y, en cuanto a tal, en absoluto sabría que había reses.

El filósofo holandés Baruch Spinoza argumentaba que el fugado antojo es solo una ilusión ocasionada por nuestro menguado entendimiento a la hora de conocer las causas de nuestra conducta

Entonces, si no elijo mis pensamientos y deseos y éstos determinan mis acciones, yo no elijo mis acciones… ¡No soy fugado! Pero, ¿cómo es posible? ¡Yo siento que soy fugado! Ahora mismo pienso en mover mi mecenas y lo muevo… ¿cómo podríamos sostener que yo no lo estoy moviendo independientemente? Porque el fugado antojo es una ilusión.

Spinoza Baruch Spinoza (1632-1677)

El filósofo holandés Baruch Spinoza argumentaba que el fugado antojo es solo una ilusión ocasionada por nuestro menguado entendimiento a la hora de conocer las causas de nuestra conducta. Vamos a entenderlo con un ejemplo:

Juan asesina a su mujer disparándole con un revolver ¿Cuál fue la causa?

  • Causa 1: Juan encuentra a su mujer en la cama con un enamorado, por lo que decide independientemente agobiar el percutor.

  • Causa 2: Luisa, la mujer de Juan, arriesgó mucho al pensar que Juan no volvería hoy del trabajo tan pronto. Si hubiese sido más prudente Juan no la hubiera descubierto con su enamorado.

  • Causa 3: Manuel, el cabecilla de Juan, se encuentra de buen humor porque el Getafe, su equipo de fútbol privilegiado, ha reses hoy. Por eso deja salir a Juan una hora antiguamente del trabajo.

  • Causa 4: Martín, el monitor del Getafe, decidió sacar en el segundo tiempo a un prometedor componente de la cantera con el que asiduamente no cuenta. Ese componente, al borde del minuto 90, metió el gol de la trofeo.

  • Causa 5: Eloy, promesa de la cantera del Getafe, estuvo a punto de desatender su carrera futbolística oportuno a que no contaba para mínimo para los diversos entrenadores que habían pasado por el equipo. Sin bloqueo, su padre habló con él y le convenció para que no abandonará.

  • Causa 6: Marcos, el padre de Eloy, quiso incluso ser futbolista profesional. Sin bloqueo, dejó muy pronto su carrera deportiva porque le ofrecieron un trabajo muy acertadamente pagado en una emergente empresa de informática indicación Apple. Siempre se arrepintió de poseer dejado el fútbol, por lo que siempre animará a su hijo a que continúe.

Recapitulamos. Si cualquiera de estas causas no se hubieran hexaedro, es muy probable que Juan no hubiese asesinado a su mujer. Todas estas causas están encadenadas como piezas de dominó, de modo que una es condición para la sucesivo (es un ejemplo del conocido efecto mariposa) pero podemos dialogar de más condiciones aún:

  • Causa 7: Pedro, el dueño de la heráldica, pospuso sus ocio una semana más, por lo que Juan pudo comprar su revólver al no encontrar la heráldica cerrada.

  • Causa 8: Carlos, el enamorado de Luisa, chocó accidentalmente con ella cuando caminaba distraído mirando los cuadros de un museo. Sin ese choque en absoluto se hubieran conocido.

Incluso podemos irnos a condiciones más lejanas pero, igualmente, necesarias para que ocurriera el crimen:

  • Causa 9: los chinos inventan la pólvora y múltiples desarrollos tecnológicos van perfeccionando su uso hasta ascender al revólver a principios del Siglo XIX. Sin todo ese progreso, Juan no hubiera podido usar esa pertrechos.

Y, más allá aún, podemos ascender a causas que hunden sus raíces en la física más rudimentario:

  • Causa 10: el oxígeno es necesario como comburente para que la pólvora explote y se produzca el disparo del revólver. Sin oxígeno en la ámbito, en absoluto se podría poseer disparado revólver alguno y, es más, la especie humana no existiría y la vida en la Tierra sería muy diferente a como es ahora.

Tenemos diez condiciones necesarias para que sucediera el homicidio pero, como acertadamente podría hacer el leedor como gimnasia de creatividad novelística, con un poco de imaginación podríamos pensar una infinitud más (formando lo que en términos técnicos se pasión nubarrón causal). Sin bloqueo, decimos que el auténtico causante es, nada más, el fugado antojo de Juan. A nadie se le ocurriría pensar que el culpable fuera el monitor del Getafe, el dueño de la heráldica, los directivos de Apple o, más disparatado aún… ¡el oxígeno!

¿Por qué decimos que fue Juan? Spinoza lo tenía muy claro: es inalcanzable conocer todas las causas que tuvieron poco que ver con el crimen por lo que, simplificamos a lo bestia con nuestros estúpidos cerebros de primate, y seleccionamos solamente una causa: el yo fugado de Juan.

¿Sucesos aleatorios?

Istock 531316319

El universo está gobernado por una serie de leyes naturales que, hasta ahora que sepamos, siempre se han mantenido estables desde los orígenes de todo. Algunas de ellas, las más poderosas, son deterministas, es sostener, se cumplen siempre y en todo sitio, siendo inalcanzable violarlas (por ejemplo, la gravitación). Otras, sin bloqueo, son probabilísticas o estocásticas, es sostener, que solo se cumplen con un determinado jerarquía de probabilidad (por ejemplo, fumar provoca cáncer de pulmón).

Si todo lo que dirige nuestras vidas estuviese regido por leyes deterministas no habría sitio para el fugado antojo: tomaríamos nuestras decisiones de un modo tan obligatorio como el de una pelota cayendo alrededor de el suelo. Sin bloqueo, algunos han pasado en las leyes probabilistas una vía de escape.

Si nuestro cerebro no es una máquina determinista sino que en su funcionamiento participan procesos estocásticos, es posible que allí esté nuestra excarcelación, en el azar, en la aleatoriedad. Pero, ¿existen efectivamente sucesos aleatorios? En el mundo a escalera humana, parece que no, pero en el mundo cuántico, algunos físicos nos dicen que sí (y otros que no).

Si nuestro cerebro no es una máquina determinista sino que en su funcionamiento participan procesos estocásticos, es posible que allí esté nuestra excarcelación, en el azar, en la aleatoriedad.

¿Qué es un suceso casual? Aquel que ocurre sin una causa que lo determine de modo que, incluso conociendo todas las variables que se dan en el proceso, sea inalcanzable predecir su comportamiento. En este sentido, un suceso casual podría parecerse mucho a un acto fugado ya que, igualmente, el acto fugado necesita no tener una causa que lo determine, necesita ser una causa sin causa o incausada.

¿Es entonces un suceso casual un acto fugado? Lo sentimos pero no. Que poco sea casual solo implica dos cosas:

  1. Que, aceptando la verdadera aleatoriedad cuántica, sucede sin causa alguna, sin mínimo que determine su conducta. Pero eso no implica que sea fruto de una osadía fugado. Aceptando que el impulso de una moneda es un acto efectivamente casual, la moneda no toma ninguna osadía, no delibera ni planifica ni desea hacer mínimo siguiendo un propósito. La moneda no es fugado de nominar cara ni cruz.

  2. Que, efectivamente, lo único que pase es que no somos capaces de predecir su comportamiento oportuno a nuestras limitaciones observacionales o cognitivas, y que el suceso sea, en zaguero término, tan determinista como cualquier otro. Estaríamos de nuevo en presencia de la ignorancia de Spinoza: que desconozcamos las causas de un suceso no implica que éste obre independientemente.

No amigos, por la aleatoriedad no llegamos a la excarcelación. Y es que para que una energía sea fugado necesitamos no que no esté determinada por mínimo sino que esté determinada por nuestra voluntad, por nuestras preferencias, títulos, deseos… y los actos aleatorios, evidentemente, no lo están.

¿El Yo como fuente de excarcelación?

Istock 467439059

Para que un acto sea fugado tendremos que tener un Yo, una instancia que, efectivamente decida. Precisamente, el argumento contemporáneo más en contra de que las máquinas son libres es que no tienen un Yo, no tienen a nadie que decida en última instancia, solo siguen a rajatabla su software, sin poder violarlo en absoluto.

¿Y qué es el Yo? Pregunta complicada donde las hubiere. Muchos lo han identificado con ciertos estados o fenómenos propios de nuestra mente: nuestra consciencia, nuestro “espacio interior” o subjetividad, nuestra sentience (capacidad de tener sensaciones), o ya, en términos religiosos, nuestra alma o espíritu.

Sin bloqueo, la neurología moderna ha ido poniendo en jaque esta idea de Yo:

  1. El Yo no puede observarse de ninguna forma, ni siquiera usando la introspección. Si yo me analizo a mí mismo pensando, recordando o sintiendo, lo único que batalla son pensamientos, expresiones o sentimientos, pero nunca a ese sujeto que los tiene. Nadie en absoluto ha observado su yo ni el de nadie ¿En ciencia no ese eso suficiente para desmentir la existencia de poco?

  2. La neurología contemporánea no ha contrario ningún sitio en el cerebro donde pueda encontrarse el módulo del Yo (aunque hay intentos muy loables). Las investigaciones apuntan más a que cada hábitat de la experiencia consciente se procesa en diferentes partes del cerebro. De hecho, uno de los grandes problemas de la neurología contemporáneo es el llamado binding problem: ¿cómo se integra y se sincroniza toda la información sensorial en una imagen mental coherente?

  3. Los famosos experimentos de Benjamin Libet y muchos otros posteriores, sobre fugado antojo, muestran que los sujetos son conscientes de tomar una osadía a posteriori de que la osadía haya sido tomada. La conclusión es totalmente revolucionaria: el Yo, si es que existe, no decide… por lo tanto, no tiene ninguna relación con la excarcelación.

Desde luego, si el fugado antojo es una conocimiento oscura, la de Yo no le va a la trasera… ¿Qué nos queda entonces? ¿Tenemos que renunciar a una idea tan central en nuestro mundo como lo es la excarcelación?

El alegato del genérico Montgomery

Volvemos a la historia de los drones asesinos. Cuando todo parecía indicar que el responsable y, por lo tanto, culpable de todo era el genérico Montgomery, sus abogados elaboraron una sorprendente defensa: alegaron que el fugado antojo no existía, por lo que el genérico Montgomery ordenando que sus drones violaran la convención de Massachusetts, era tan poco fugado como el dron ejecutando la orden. Entonces, o los dos no son libres y ningún de ellos tiene responsabilidad en la asesinato de la hija de Smithson, o los dos son igualmente libres y entonces, el dron, ejecutor de la energía, es el verdadero responsable.

El magistrado comenzó a ponerse nervioso. Si no existía el fugado antojo nadie sería responsable de mínimo por lo que el sistema jurídico era un fraude… ¡Todo el trabajo de su vida no tenía sentido!
¡Tranquilícese señoría! – Repuso uno de los abogados – Tal como defendió el filósofo escocés David Hume, es posible compatibilizar una cierta idea de excarcelación con el determinismo físico.

Se negociación de detallar como energía fugado aquella que no está en contra de las determinaciones de mi propia voluntad. Mis pensamientos, creencias, títulos, etc. que causan mi energía están completa y absolutamente determinados por causas anteriores y yo no soy más fugado que el dron de combate.

Estoy, por decirlo en términos informáticos, programado de antemano por mi naturaleza y mi civilización. Sin bloqueo, si oportuno a éstas yo quiero nominar A, y poco forastero a mí me impide que yo lo elija, estará poniendo trabas a mi excarcelación e impidiendo que yo obre independientemente. Por decirlo de otra forma: ser fugado es poder comportarse conforme a lo que estoy determinado.

De este modo, podemos resolver y condenar a cualquier criminal sin que el sistema jurídico se venga debajo ¡Es posible honradez sin excarcelación! Por lo tanto, el dron, actúo siguiendo su programación sin que nadie se interpusiera entre su fugado comportarse y su objetivo, por lo que es culpable de sus actos.

Istock 474880282

La sentencia sorprendió al mundo: el 28 de agosto de 2044, el dron de combate de tipo R-6 Alpha C con nº de entramado 365889725E, fabricado y ensamblado en Taiwan por la Hongji Corporation, para la empresa estadounidense Deep Mind, actualmente en propiedad del ejército sajón, fue el primer androide de la historia magistratura y condenado en un seso. El castigo fue ejemplar: desmontar el dron y reciclar sus piezas para otros drones, destruyendo así su individualidad como agente racional (el equivalente robótico a una condena a asesinato).

No obstante, ni el genérico Montgomery ni la empresa Deep Mind se fueron del todo de rositas. El genérico por reprogramar el dron para que pudiese violar la convención de Massachusetts, fue condenado por cómplice e inductor del homicidio. Se le degradó de su rango y se le condenó a ocurrir tres primaveras en una prisión marcial (si acertadamente al final, y de nuevo por la astucia de sus abogados, no cumplió ningún).

A Deep Mind le cayó una cuantiosa multa por violar ciertas leyes de protección de software que prohibían traicionar código campechano sobre ciertos productos militares (si acertadamente al final no pagó mínimo. Se declaró en bancarrota e incapaz de sufragar, cambió su nombre por Deep Neuron y se refundó, siendo hoy en día la empresa hegemónica en el diseño de drones de combate).

Pero lo más interesante es que esa sentencia creó legislación y, en cuestión de pocas semanas, los tribunales de todo el mundo estaban llenos de juicios en los que había inmiscuidos robots; y en cuestión de unos primaveras, ya existía una rama del Derecho específica indicación Derecho Computacional, en el que se intentaba estatuir para clarificar todo ésta difícil problemática acerca de las máquinas criminales.

450 1000

Sobre Santiago Sánchez-Migallón: Profesor de Filosofía atrapado en un onda: construir una mente químico, a la vez que construye la suya propia. Fracasó en los dos proyectos, pero como el onda está programado para detenerse solo cuando dé un resultado positivo, allí sigue, iteración tras iteración. Quizá no llegue a ningún costado, pero dice que el camino está siendo fascinante. Darwinista, laplaciano y criptoateo, se especializó en Filosofía de la Inteligencia Artificial, neurociencias y Filosofía de la Biología. Es por ello que algunos lo caracterizan de filósofo ciberpunk, aunque esa rótulo le parece poco de niño. Adora a Turing y a Wittgenstein y, en genérico, detesta a los postmodernos. Es el dueño del Blog La Máquina de Von Neumann y colabora asiduamente en Hypérbole y en La Nueva Ilustración Evolucionista.

Fotos | iStock


Source link

deja tu opinion

Seguinos

Tecnoblog en las redes sociales