Los círculos de compasión
por David Quintero

I against my brothers. I and my brothers against my cousins. I and my brothers and my cousins against the world.

Nafisa Haji, The Sweetness of Tears

Me gusta mucho esta frase porque la considero una especie de demostación por reducción al absurdo de lo que es el tribalismo en cualquiera de sus formas.

Cuando Charles Darwin, en su viaje con el Beagle (que le llevó entre otras cosas a desarrollar la teoría de la evolución) llegó a la Tierra del Fuego, en el extremo sur de Chile y del continente americano, quedó muy sorprendido por el comportamiento de su habitantes. Los fueguinos eran una tribu indígena que estaban en un estado anterior a la revolución neolítica: vivían de la tierra, como cazadores-recolectores, sin tener asentamiento fijo. Darwin, quizá dejándose influir por sus propios prejuicios (yo soy yo y mis circunstancias) los consideró excesivamente bárbaros, aunque luego se vio que tenían un idioma complejo y que no eran caníbales, como Darwin había sospechado al principio.

Lo que sorprendió a Darwin fue el contraste de comportamiento que estos fueguinos tenían según con quién tratasen. Con los miembros de su propio grupo eran muy cariñosos, cuidaban unos de otros y atendían de forma amorosa a los niños y a los ancianos. Sin embrago, con los que no eran de su grupo eran tremendamente salvajes y violentos: cuenta el filósofo Jesús Mosterín la estupefacción de Darwin ante las continuas peleas de los fueguinos con miembros de otros clanes, y cómo cogían a los supervivientes por los pelos y los arrastraban hasta sus campamentos para que sus hijos se divirtieran sacándoles los ojos y jugando cruelmente con ellos.

La observación de estas actitudes fue lo que llevó a Darwin a desarrollar su teoría del círculo de la compasión. Según Darwin, los seres humanos, en estadios primitivos, nos preocupamos únicamente por aquellos seres que tenemos cerca, tales como nuestros familiares más próximos. A medida que avanzamos, extendemos las fronteras del círculo de la compasión para incluir a otros miembros de nuestra tribu con los que no tenemos lazos sanguíneos, posteriormente a miembros de nuestra ciudad, de nuestro país, etcétera. Darwin se preguntaba dónde terminaría de expandirse el círculo de la compasión, y concluyó que en un estadio suficientemente avanzado de la humanidad, el círculo acabaría incluyendo a todos los seres capaces de experimentar dolor, de padecer (compasión viene de padecer).

El caso es que fui hace unos días a ver BLADE RUNNER 2049 y la pregunta de hasta dónde expandir el círculo de la compasión me nace de nuevo con más fuerza que nunca. ¿Podemos sentir compasión por una máquina, una entidad que está programada para sentir lo que parece dolor? Según Isaac Asimov, la respuesta es sí. Si una entidad parece sentir dolor, es suficiente razón para evitarle el dolor. En otras palabras: no somos quiénes para dirimir quién sufre de verdad y quién finge, no somos capaces de meternos en cada individuo y experimentar lo que él experimenta (su qualia) y en caso de duda conviene tomar la opción más garantista.

De hecho, todo esto se puede conectar con el experimento de la habitación china. Propuesto por el filósofo John Searle, este experimento pretendía atacar la validez del test de Turing. Según Turing, si sostenemos una conversación con un interlocutor al que no vemos y encontramos sus respuestas adecuadas, damos por hecho que la otra persona es un ser humano. Si nos dicen que hemos estado hablando con un ordenador, (además de la sorpresa) deberíamos concluir que ese ordenador es idéntico a un ser humano y posee consciencia, sea eso lo que sea.

John Searle quiso rebatir la propuesta de Turing. Para ello imaginó una habitación completamente cerrada en la que hay un ordenador con el que comunicarse en chino. Las conversaciones con este ordenador (con esta habitación) son iguales a las que uno tendría con un ser humano, luego pasa el test de Turing con éxito. Searle dijo: supongamos que él, que no sabe nada de chino, es el que está dentro de la habitación. Lo que hace es responder a los caracteres chinos que recibe siguiendo unos manuales de instrucciones, una serie de tablas que le dicen qué escribir según el tipo de símbolo que reciba. Searle no sabe chino, pero está programado para parecer que sabe chino. Y da el pego. Perfectamente. Un ordenador podría hacer lo mismo: engañar a todo el mundo para parecer un ser consciente, un ser humano, pero en realidad estar siguiendo unas instrucciones que no comprende.

La crítica de Searle es potente, pero en mi opinión se vuelve un poco contra su propio autor. Searle pretendía atacar el hecho de que se pueda considerar a inteligencias artificiales lo suficientemente avanzadas como seres humanos, pero acaba haciendo una crítica a qué es la consciencia: ¿no será, me pregunto, que la consciencia es en el fondo un manual de instrucciones, mitad heredado, mitad aprendido, que nos guía por el mundo? ¿No estaremos actuando como John Searle en su habitación, siguiendo ciegamente unos manuales, escritos en esta ocasión en el lenguaje químico de nuestro procesos cerebrales, que en el fondo no entendemos? En ese caso, ¿realmente seríamos tan diferentes a un replicante como los de BLADE RUNNER o a una inteligencia artificial avanzada (de las que, aún, no tenemos)?

Las preguntas que se suscitan son muy interesantes. No digo que yo esté de acuerdo con que los seres humanos seamos equiparables a IAs avanzadas. La verdad es que no sé lo suficiente como para poder decantarme, pero en lo que sí estoy de acuerdo es en lo que decía Asimov de que si las IAs parecen sufrir, es razón suficiente para otorgarles derechos. Y, por supuesto, estoy de acuerdo con Darwin en que hay que ampliar los círculos de la compasión.


Notas

Yo contra mis hermanos. Yo y mis hermanos contra mis primos. Yo, mis hermanos y mis primos contra el mundo.

Extraído del artículo When Did Tribalism Get To Be So Fashionable? de Simon DeDeo para Nautilus: http://nautil.us/blog/when-did-tribalism-get-to-be-so-fashionable.

© David Quintero
(1.006 palabras) Créditos
Publicado originalmente en Mundos Múltiples el 12 de noviembre de 2017