Ética e Inteligencia Artificial con José Ignacio Latorre

May32019

‘Ética para máquinas‘ es un libro interesantísimo y muy oportuno, que se adentra, no sin asumir algún riesgo, en las implicaciones más importantes de la inteligencia artificial y las máquinas inteligentes. Y lo hace con un enfoque multidisciplinar, que aúna la tecnología (aunque tratada de forma muy, muy superficial), la filosofía, la ética, el derecho, la sociología… en una visión tan híbrida, con tanto mestizaje de conocimientos que, realmente, hacen a este libro de muy difícil clasificación aunque de apasionante y absorbente lectura.

Comienza con un capítulo introductorio, ‘El legado de los humanos’ en que adopta una cierta perspectiva histórica examinando cómo ha evolucionado la humanidad en cuanto a su propia inteligencia y en cuanto a su relación con las máquinas, y concluye que nuestra inteligencia se potencia cuando es ética y que, por tanto, es precisamente la ética el legado que los humanos podemos dejar a unas máquinas que nos acabarán superando en inteligencia.

‘1. MÁQUINAS SIN ALMA:’ Revisa la evolución de las primeras máquinas, aquellas que no exhibían inteligencia y, por tanto, tampoco nada que pueda ser considerado un alma.
- ‘Fuerza bruta:‘ Utilizando como punto de partida un recuerdo a la película ‘2001 – Una odisea del espacio’ y su famoso monolito, recorre algunas de las máquinas tradicionales que el hombre ha creado hasta el siglo XX y que le han servido de alguna forma para potenciar sus capacidades físicas: coches, relojes, armas, etc
- ‘Cálculo bruto:‘ Arrancando ahora con el ábaco, repasa algunas creaciones utilizadas para el cálculo y la computación, llegando hasta los ordenadores y logros de la inteligencia artificial como Deep Blue.
- ‘Máquinas sin alma:‘ Comenta el declive físico y posiblemente intelectual que el uso generalizado de máquinas trae como consecuencia en el ser humano, así como el incremento del consumismo. De cara al futuro, aboga por la toma de decisiones responsable sobre el futuro de las máquinas.
‘2. MÁQUINAS QUE PARECEN INTELIGENTES:‘ Se adentra en tecnologías más modernas y que exhiben realmente inteligencia, especialmente lo que es la aplicación de la inteligencia artificial en sus diversas variantes.
- ‘Máquinas que aprenden:‘: Se centra en tecnologías que incluyen alguna forma de aprendizaje y, así, se adentra en inteligencia artificial, data mining, sistemas expertos y, tras un breve alto para hablar sobre el cerebro humano, aborda las redes neuronales y los algoritmos genéticos.
- ‘Máquinas muy listas:‘: Prolongación un poco del capítulo anterior habla del tratamiento del habla, del deep learning y de experiencias como el sistema que juega al Go.
- ‘Máquinas que inventan:‘: Un breve capítulo para hablar de casos en que las máquinas van un poco más allá, sin ayuda humana, creando contenidos o entrenándose con otras redes neuronales artificiales, en lugar de con datos proporcionados por humanos.
- ‘Máquinas que deciden:‘: Habla de la capacidad de decidir y de cómo algunas tecnologías empiezan a incorporar o podrían llegar a incorporar esa capacidad: los vehículos autónomos, diagnóstico de enfermedades, justicia artificial, etc
- ‘Máquinas humanoides:‘: habla de autómatas y androides, es decir, casos en que las máquinas adoptan una apariencia humana o bien situaciones híbridas humano-máquina como los cyborg.
- ‘Miedo a las máquinas inteligentes:’ comenta algunos errores cometidos por algoritmos y algunas actitudes negativas que genera la inteligencia artificial como son la reticencia o la despreocupación.
‘3. ÉTICA PARA MÁQUINAS:‘ realizado en las dos partes anteriores el recorrido esencial por las tecnologías y aportaciones principales de las máquinas, esta parte se centra en aquello que da título a la obra: la ética.
- ‘Éticas pretéritas:‘ Primero se repasan algunas visiones éticas precedentes, como son la visión de Hume, la ética protestante, la división política entre izquierdas y derechas o las religiones y, entrelazado con todo ello, la certeza de la automatización y la desaparición de trabajos.
- ‘Principios éticos para las inteligencias artificiales:‘ busca algunos principios en los que apoyar una eventual ética para máquinas, recordando el imperativo categórico de Kant o las éticas de Nietzsche o Aristóteles.
- ‘Programar ética:‘ Menciona algunas posibilidades para conseguir una programación de la ética y así habla de la función de error y de aspectos como la trazabilidad o el código abierto.
- ‘Ética de la información:‘ Comenta aspectos éticos ligados a los datos como son la privacidad o los derechos a la confidencialidad o el olvido.
- ‘Justicia para las máquinas:‘ Situa a las máquinas como objetos de derecho con deberes y obligaciones y también plantea una roboética.
- ‘Derechos eternos:‘ Muy brevemente comenta algunos derechos universales como son los Derechos Humanos o el derecho a la educación.
‘4. MÁQUINAS QUE NOS SUPERARÁN:‘ Mira ya hacia un futuro incierto, al momento en que la inteligencia artificial y las máquinas superen a los humanos que las hemos creado.
- ‘La singularidad:‘ Un capítulo breve para comentar la singularidad, el momento en que la inteligencia artificial sea superior a la humana y pueda asumir su propia evolución.
- ‘Tránsito:‘ Dando por cierto que esa superación de los humanos por las máquinas se producirá, habla del proceso transitorio y cómo hacer ese relevo.
- ‘¿Humanos?:‘ explora las direcciones en que puede evolucionar el ser humano a partir de esa singularidad, como pueden ser la no violencia, el hedonismo y el entretenimiento, la posibilidad de llegar a prescindir del cuerpo e, incluso, se atreve a cuestionarse si los humanos seremos realmente necesarios.
‘5. IMITAR EL ALMA:‘ Una última parte, muy especulativa, que se atreve a explorar, con declarada humildad, la problemática del alma.
- ‘Almas:‘ Analiza cómo se ha tratado el tema del alma en el lenguaje o en culturas antiguas y parece concluir que el camino en lo que a las máquinas se refiere es, más que dotarlas o no de alma, que sean capaces de imitarla.
- ‘Value upload:‘ Intenta imaginarse cómo sería una inteligencia única y superior, y apuesta por una inteligencia pacífica, tolerante y consistente.
- ‘Todo es programable:‘ Explora la posibilidad de programar cosas como el amor o el odio, la pasión o la libertad.

A pesar de lo profundo y avanzado de los temas tratados, el lenguaje de la obra es muy, muy llano, de tono divulgativo y al alcance de casi cualquier lector con la suficiente curiosidad. No obstante, es preciso reconocer la vasta cultura y profundidad de pensamiento que se oculta detrás de esa aparente sencillez. Algoritmos y filosofía se cuentan con infinita sencillez y, sin embargo, cada frase lleva consigo una alta carga de conocimiento por parte del autor, única forma, probablemente, de conseguir esa sencillez sin faltar al rigor.

Admito que, puntualmente, aquí o allá, no he estado del todo de acuerdo en alguna explicación (principalmente del ámbito técnico) o con la forma de abordar algún tema más de futuro y que puede conducir al lector no advertido, a esa cierta fantasía y casi demagogia que rodea con tanta frecuencia a la inteligencia artificial. Aún así, los aciertos y el mérito que este libro atesora superan con tanta diferencia a esos pocos detalles, que no puedo dejar de aconsejar la lectura de esta ‘Etica para máquinas’. Es muy asequible, es muy ameno, es muy interesante y hace pensar… ¿Qué más se puede pedir?

José Ignacio Latorre

(Fuente: Ligera elaboración propia de su biografía en Centre de Cultura Contèmporanea de Barcelona)

José Ignacio Latorre

José Ignacio Latorre es catedrático de Física teórica de la Universidad de Barcelona y director del Centro de Ciencias de Benasque Pedro Pascual.

Se doctoró en teoría de la cromodinámica cuántica de las partículas elementales. Estudió un posdoctorado en el MIT en USA y, posteriormente, en el Instituto Niels Bohr de Copenhague. Actualmente es catedrático de física teórica en la Universitat de Barcelona y Long Term Visiting Professor en el Center for Quantum Technologies de Singapur.

Ha investigado en diversas áreas de partículas elementales, en aplicaciones de inteligencia artificial y en la teoría de la información cuántica. Lidera el grupo Quantic para construir un ordenador cuántico en el Barcelona Supercomputing Center. También ha escrito varios libros de divulgación, como ‘La nada’, o ‘El vacío cuántico’ y ‘Cuántica, tu futuro en juego’. Es el director gerente del Centro de Ciencias de Benasque Pedro Pascual. Participa activamente en la difusión de la mecánica cuántica tanto en el mundo empresarial como en el de las humanidades. Finalmente, ha producido dos documentales, uno de los cuales recoge los recuerdos de Roy Glauber, hasta hace poco el último científico vivo del Proyecto Manhattan. Con dos amigos de Alicante, elabora un vino buenísimo.

Puedes saber más del autor visitando su página personal o siguiéndole en Twitter donde se identifica como @j_i_latorre