Dos condiciones para el estatus moral de los robots

No hace mucho en este mismo blog, en el artículo titulado ‘Los robots y la definición de humanidad‘ mencionaba cómo para muchos filósofos y eticistas que se ocupan de roboética o, más en general, de ética de la tecnología o de la inteligencia artificial, un aspecto fundamental para la asignación o no de estatus moral a los robots y, eventualmente, también un estatus jurídico diferente más allá del de cualquier máquina de cualquier tipo, era la sintiencia.

En este post, detallo un poco más este tema, inspirado por la misma fuente, a saber, el libro titulado ‘Robot souls‘ me de Eve Poole.

Las condiciones para el estatus moral de los robots

La autora repasa en ese sentido las aportaciones de varios autores y, en concreto, se detiene un momento en los planteamiento de Nick Bostrom y Eliezar Yudkowsky. Y nos dice que para estos dos autores, existen dos criterios claros, dos criterios que, caso de cumplirse, para los robots o para la inteligencia artificial en general, les conferirían pleno estatus moral. Estos dos criterios son la ‘sapiencia‘ y la ‘sintiencia‘.

No sólo Bsostrom y Yudkowsky parecen apostar por esta visión, sino que la autora también nos hace ver que, incluso en un texto de la UNESCO, ‘Report of COMEST on Robotic ethics‘, existe un texto en esa línea y que viene a decir que:   

if robot agency progresses much further (sapience), and AI learns how to feel emotions (sentience), there would need to be provision made for some new kind of moral personality and protection in law.

Veamos algún detalle más.

La sapiencia

La sapiencia se refiere a que la máquina, el robot, posea una serie de capacidades asociadas a una inteligencia superior, tal como el propio conocimiento o auto-conciencia (‘self-awareness‘) o el hecho de tratarse de un agente que reacciona con criterios de razón (‘reason-responsive‘).

De alguna forma, es lo que asociamos de forma intuitiva a la inteligencia, pero también a la consciencia, un tema interesantísimo pero muy resbaladizo, elusivo, y sometido a discusión.

La sintiencia

La sintiencia, por su parte, se refiere a la capacidad de sentir emociones, de sufrir y sentir dolor, otro tema igual de interesante e igual de elusivo.

Fenomenología

Aunque no parece que nos resulte demasiado difícil de admitir (no digo que haya unanimidad, pero sí parece que podría ser admitido con relativamente facilidad) que un ser con inteligencia (que incluye auto-conciencia) y sentimientos, se merezca un cierto estatus moral (aunque se trate un ser artificial como un robot), lo que parece mucho más difícil es, no ya digamos conseguirlo, que también, sino incluso el definir en qué consiste esa sapiencia y esa sintiencia.

Y eso es así porque, como ya he comentado más de una vez, en el fondo no sabemos tampoco en qué consiste realmente en los seres humanos. No sabemos exactamente en qué consisten ni las emociones ni la consciencia, por más que nos resulte muy fácil admitirlas, tanto por nuestra propia experiencia subjetiva, que nos hace percibirlas y hasta cierto punto entenderlas, como porque existe una razonable experiencia intersubjetiva que nos hace entender que el resto de seres humanos tienen una experiencia subjetiva de consciencia y emociones similar a la nuestra.

Pero, especialmente cuando nos referimos a terceros, no a nosotros mismos, esa experiencia es, como dirían los filósofos, fenomenológica: asumimos la existencia de consciencia y emociones en nuestros interlocutores en base a lo que percibimos de ellos, pero no tenemos verdadero acceso a su experiencia interna.

Cuando ahora lo trasladamos a robots o algoritmos, debemos intentar decidir de alguna forma si esos robots, si esos algoritmos, poseen consciencia y emociones y hacerlo con base a su manifestación externa., a su fenomenología.

Y eso tiene riesgo puesto que, aquellas soluciones de naturaleza conversacional o social (inteligencia artificial conversacional, inteligencia artificial generativa o robots sociales, por ejemplo) intentan, como es lógico y creo que no criticable, ofrecer un comportamiento externo con apariencia de inteligencia e incluso de empatía y sensibilidad.

¿Cómo acceder a su ‘experiencia subjetiva’ para saber si son realmente sintientes y sapientes. No se me ocurre (y creo que a nadie se le ha ocurrido hasta ahora) ninguna forma de hacerlo que sea inapelable, que nos convenza a todos. 

Sí que digo que, cuando se profundiza, no en la experiencia externa, sino en las arquitecturas internas de los algoritmos, en su diseño, incluso en el caso de los mas avanzados, se hace muy difícil de creer que, al menos actualmente, tengan nada que se parezca siquiera a una emoción humana  o a una consciencia humana.

Y ello a pesar de que su comportamiento externo sea cada vez más brillante, más ‘creíble’… y estoy seguro de que lo será aún más en los próximos meses o como mucho unos pocos años.

Resulta muy difícil de creer en esa eventual sapiencia y sintiencia… pero, pese a mi convencimiento personal, desde un punto de vista teórico no veo cómo rechazarla. Y, sobre todo, no veo ningún motivo objetivo para afirmar que no se pueda alcanzar en algún momento.

Conclusión

Sintiencia y sapiencia son dos eventuales características que podrían conducir a conceder estatus moral a los robots o los algoritmos. Lo difícil será no sólo técnicamente conseguir esa sapiencia y esa sintiencia (suponiendo que sea técnicamente posible y éticamente deseable) sino, demostrar que realmente están presentes y que no estamos hablando de pura fenomenología.