Uno de los debates presentes en el campo de la roboética es la discusión sobre si los robots son lo que se denomina pacientes morales, si tienen algún tipo de estatus moral, si merecen una consideración moral por nuestra parte, los humanos.
No es un debate sencillo, aunque en un primer impulso, y sin pensarlo demasiado, podemos estar impelidos a responder con un claro ‘no’.
Un concepto que quizá pueda ayudar, que no resolver, el dilema es el del ‘circulo moral’.
El círculo moral
Como se cuenta en el libro ‘Tecnofilosofía‘ de Aníbal Astobiza, que me ha inspirado este post, la idea de círculo moral fue introducida por el historiador irlandés William Lecky ya en el siglo XIX, pero fue realmente popularizado por el filósofo Peter Singer en los años ochenta. Como nos explica de forma sucinta Astobiza, el círculo moral:
se refiere a un círculo imaginario que trazamos entre quienes consideramos dignos de consideración moral.
Es decir, de alguna forma es una frontera conceptual que deja dentro del círculo, a aquellos seres o aquellos entes que consideramos tiene estatus moral, que son dignos de consideración moral y que deja fuera del mismo a aquellos otros seres o entes que no son merecedores de consideración moral.
En un caso muy trivial, podemos considerar que las personas, los seres humanos, están dentro de ese círculo y, por ejemplo, una roca, no lo está.
Es una imagen aparentemente muy sencilla.
La expansión del circulo moral
Sin embargo, la aplicación real de ese círculo moral en su desarrollo histórico, es menos claro, ha ido evolucionando y, eso sí, en un sentido de expansión, de abarcar más y más entes dentro del círculo.
Así, hoy día no nos cuesta incluir dentro del círculo moral a todas las personas. Sin embargo, hace no tantos siglos existía la esclavitud, donde los esclavos no gozaban de ningún derecho, de ninguna consideración moral. Estaban fuera del círculo.
Aunque quizá no completamente fuera del círculo, las mujeres han tenido históricamente, y en algunos casos siguen teniendo, menos derechos que los hombres, no habiendo accedido al sufragio universal. Y existen otros casos de colectivos de personas con menos derechos. Se puede considerar, que es afortunado que ese círculo moral se haya ido expandiendo, y probablemente lo siga haciendo.
Los animales y la sintiencia
Pero en esa expansión, hay un momento, una frontera, algo diferente y es cuando dejamos de pensar sólo en los seres humanos.
El primer salto es hacia los animales. Hoy en día, al menos en nuestro entorno, parece fácil admitir que un perro, un gato, en general animales domésticos, incluso los animales salvajes, merecen cierta consideración moral, cierto respeto. Respeto a su vida y su dignidad en el sentido de no ser correcta la aplicación de torturas, el maltrato, el someterles a condiciones de vida insalubres, etc. Aunque existan debates, como los que afectan a lo taurino, a las macrogranjas, etc, parece acrecentarse el consenso de que los animales son susceptibles de cierta consideración moral: han entrado en el círculo moral.
Sin embargo, en el caso de los animales, inadvertidamente tendemos a conceder ese estatus moral con cierta facilidad, a mamíferos y aves, quizá reptiles. ¿Pero, por ejemplo, los insectos? Parece que, a medida que los animales son más diferentes de nosotros tendemos a resistirnos a conceder estatus moral.
¿Y qué pasa con las plantas?
¿No deberíamos incluir en general a todos los seres vivos?
En ese sentido, un criterio que se suele mencionar como vara de medir para incluir o excluir del círculo moral, es lo que se denomina la sintiencia, es decir, la capacidad pare experimentar emociones, sufrimiento, dolor. Nos lo recuerda Astobiza.
Para incluirse en el círculo moral, muchos consideran que la capacidad sintiente es el criterio clave.
Aunque aquí nos enfrentamos a la dificultad de saber qué es exactamente una emoción, un sufrimiento y, sobre todo, para determinar si un ser realmente siente (¿cómo saberlo en el caso de un cactus, por ejemplo?) parece que ese criterio de la sintiencia apuntaría a incluir en el círculo a todos los seres vivos aunque existen dudas sobre esa capacidad de ‘sintiencia’ en seres vivos, digamos, inferiores, con lo que hay quien defiende que, directamente, todos los seres vivos, incluso ecosistemas enteros, deben estar dentro del círculo moral.
Los robots y el círculo moral
Y llegamos al caso de las máquinas, y específicamente de los robots.
¿Deberían estar los robots dentro del círculo moral?
Desde luego, no se trata de seres vivos. ¿Pero, tienen capacidad de sentir, de sufrir?
No parece que los robots de los que disponemos ahora mismo, ni de los que podamos disponer en un inmediato futuro, dispongan de esa capacidad se sintiencia.
Pero ¿y en un futuro más lejano? ¿Podrán existir máquinas sintientes y, por tanto, que debamos incluir en el círculo moral?
Nos enfrentamos aquí, de nuevo, al problema de definir realmente qué es la emoción y qué el sufrimiento y cómo detectarlo más allá de las manifestaciones externas que el ente cuestión, en este caso el robot, pueda ofrecer.
Ya en robots y agentes conversacionales actuales observamos capacidad de detección y expresión de emociones, no completamente naturales pero en ocasiones razonablemente convincentes. Y sin embargo tenemos bastante claro, porque sabemos cómo funcionan, que esas máquinas no sienten. Pero ¿lo sabremos siempre?
Si se producen fenómenos de ‘emergencia’ de aparición de comportamientos no previstos, no programados, quizá pudiésemos abrigar dudas.
O, incluso, cuando comprendamos mejor la base física y biológica de las emociones y sufrimiento humanos, a lo mejor nos replanteamos si ‘eso que hacen las máquinas’ puede ser una forma de emoción y sufrimiento.
Aparte de esto, y algo de ello hemos tratado en este blog, hay autores que sostienen que los robots deben tener un cierto estatus moral, incluso ciertos derecho, y en muchos casos no tanto por los robots en sí, sino por lo que implica para los humanos.
Conclusiones
Mucho quedaría todavía por reflexionar y debatir acerca del estatus moral de seres no humanos y de robots. De momento, en este post mi interés era, simplemente, traer a colación el concepto de círculo moral como una herramienta para explicar y visualizar la inclusión o no de ciertos entes, en este caso los robots, dentro del ámbito moral.
1 comentario