Verdades y mitos sobre la Inteligencia Artificial con Richard Benjamins e Idoia Salazar

Nov202020

El mito del algoritmo de Richard Benjamins e Idoia Salazar

‘El mito del algoritmo‘ es una obra divulgativa, que no superficial, que busca mostrar lo que hay de cierto y de mito en el mundo de la inteligencia artificial y aportar, además, una propuesta ética a nuestro uso de máquinas y algoritmos, escrita por dos especialistas en ambos aspectos la inteligencia artificial como tecnología y la ética aplicada a datos y algoritmos.
La obra, además, se salpica con las opiniones de hasta veinticinco reconocidos expertos que aportan unas píldoras de criterio y opinión con respecto a los temas tratados.
El libro comienza con una pequeña introducción para centrar el objetivo. A continuación, el contenido principal del análisis se estructura en ocho capítulos, cada uno de ellos dedicado a una temática específica.

‘1. Máquinas mentirosas: ‘ Se ocupa de la toma de decisiones por parte de las máquinas y, al hilo de esta cuestión, aborda el problema de los sesgos en los algoritmos y de la necesidad de la explicabilidad de los mismos, finalizando con un breve repaso de la situación en cuanto a códigos éticos, cuáles existen y en qué punto están. Por el camino explica de forma sencilla algunas ideas subyacentes a los algoritmos cómo los tipos de aprendizaje usados hoy en día en machine learning.
‘2. Un mundo transparente: ‘ Se centra en el problema de la privacidad, explicando cómo vamos dejando nuestra huella digital y también malos usos que se pueden hacer de esa huella como el caso famoso de Cambridge Analytica. Se explican algunas protecciones como la aportada por el GDPR. También se trata el filtrado y la selección de noticias e informaciones por parte de las grandes tecnológicas en plataformas sociales y cómo puede afectar a nuestro criterio o percepción de la realidad. Y se cierra con una luz de esperanza hablando de modelos de negocio responsables.
‘3. Guerra de las máquinas: ‘ Habla del uso de máquinas y algoritmos con fines de ataque, incluyendo armas letales autónomas, las ‘fake news’ o el hacking. Se explica cómo las máquinas realmente no tienen bondad o maldad sino que depende del uso que hagamos de ellas y se finaliza con una propuesta de responder al uso malicioso de la tecnología con otra tecnología que pueda contrarrestarla.
‘4. Robots 1 / Humanidad, 0: ‘ Un capítulo en que se comparan las capacidades de las máquinas y algoritmos frente a las personas analizando casos en que las primeras son superiores. Así, se repasan algunos hitos relevantes en que las máquinas superaron a los humanos como los famosos casos de Deep Blue, AlplhaZero, AlphaGo, Libratus o IBM debater. Luego, de una forma algo más genérica, se revisan campos donde las máquinas podrían llegar a tener mucho peso como son el diagnóstico médico, abogacía y judicatura, redacción de noticias y textos literarios o incluso el ejercicio como jefes. Se finaliza el capítulo con una apuesta por la simbiosis, por la actuación conjunta de personas y máquinas en campos como educación, comercio, finanzas, periodismo, transporte, salud, etc
‘5. Datos e IA, ¡al rescate!: ‘ En este caso se aborda la explotación de los datos como forma de prevenir o paliar todo tipo de desastres naturales. Así, se repasan las posibilidades frente a inundaciones, incendios, cambio climático, terremotos, huracanes, erupciones volcánicas, pobreza o hambrunas. Luego se explica el uso responsable de la Inteligencia Artificial en las cuatro fases de un ciclo que incluye prevención, preparación, respuesta y recuperación. Se dedica un apartado a revisar los aspectos de privacidad y confianza implicados en el uso de esos datos y se dedica un amplio espacio al uso de datos e inteligencia artificial en el caso concreto del COVID-19.
‘6. Despedido por un robot: ‘ Aborda el impacto en el mundo laboral. Se revisan brevemente algunas tecnologías que pueden eliminar trabajo humano y se revisa el modelo propuesto por Lee y Kai-Fu sobre el riesgo de sustitución de trabajadores por máquinas. Luego se analizan algunos escenarios relacionados con una eventual pérdida de empleo a manos de las máquinas y se finaliza revisando algunas tendencias o ideas emergentes como la renta básica universal o la gig economy.
‘7. Mi novia/o es un robot: ‘ Se adentra en el aspecto quizá más humano y que sin embargo tiene su reflejo en las máquinas: las emociones y sentimientos. Se incluye un breve repaso histórico sobre algunos mitos relacionados con animar a máquinas que ya se encuentran en Egipto y Grecia o el mito del gólem. Se revisan conceptos como el test de Turing o el valle inquietante y se entra también en la temática de la creatividad de las máquinas. Se revisa la posibilidad de uso de robots para combatir la soledad y cómo se pueden simular sentimientos en las máquinas. Incluso se toca al final el tema de la conciencia.
‘8. El día en que llegó la singularidad tecnológica: ‘ en que se aborda la posibilidad, no ya de que las máquinas superen a los humanos, sino el hecho mismo de la consecución de un inteligencia artificial general y la eventual toma de control por las máquinas. Se deja claro que en realidad hoy en día no estamos en ese escenario pero sí se aventuran algunas posibilidades de futuro en materia de decisiones autónomas, privacidad o relación máquinas-personas y se bosquejan algunas tecnologías que podrían acelerar el futuro como son la computación cuántica o el uso del ADN para el almacenamiento de información.

Finaliza con un epílogo completamente diferente ‘Un cuento sobre inteligencia artificial‘, una narración de ciencia-ficción con una máquina, Sybil, como protagonista.

‘El mito del algoritmo‘ es un libro muy interesante, que de una forma sencilla nos va descubriendo todas las implicaciones, positivas y negativas, que trae consigo la inteligencia artificial. Un recorrido que, además, se realiza con un doble empeño. Por un lado, separar el grano de la paja, indicando qué hay de cierto y qué de fantasía en lo que habitualmente se dice y escribe sobre inteligencia artificial. Por otro, aportar una visión ética y responsable sobre el uso de estas tecnologías.
Un libro, por ese doble empeño, muy valioso y oportuno y un libro que pueden entender y disfrutar todo tipo de públicos, desde los que ya conocen el campo de la inteligencia artificial desde un punto de vista técnico pero quieren entender sus implicaciones éticas y sociales, hasta los que, simplemente, tienen sincera curiosidad por comprender lo que es y lo que trae consigo la inteligencia artificial.

Sin duda, muy recomendable.

Richard Benjamins

(Fuente: Traducción y ligera elaboración propia de su perfil en LinkedIn)

Entre las 100 personas más influyentes en negocios data-driven, según DataIQ 100. Anteriormente Group Chief Data Officer en AXA (seguros). Más de 10 años de experiencia en Telefónica en diferentes cargos de gestión relacionados con Big Data y Analítica. Co-fundador de startups y ONGs. Speaker frecuente en eventos sobre Big Data e Inteligencia Artificial. Miembro del grupo de expertos en compartición de datos de la Comisión Europea. Autor de ‘El mito del algoritmo‘.

Su pasión es la creación de valor a partir de los datos. Valor comercial pero también valor para la sociedad. Es el fundador del departamento de Telefónica Big Data for Social Good. Actualmente trabaja en cómo hacer los datos y la Inteligencia Artificial más sostenibles desde una perspectiva tanto de negocio como social y ética. Es asesor estratégico de Focus360 y de BigML, una startup que pone el Machine Learning en manos de la gente de negocio.

Antes de unirse a Telefónica, fue director y miembro del consejo en ISOCO, de la cual fue co-fundador en 1999. Con base en su trabajo ISOCO recibió el National Award for Computer Science.

Benjamins ha ocupado puestos en la Universidad Politécnica de Madrid, la Universidad de Amsterdam, la Universidad de Sao Paulo en Brasil, la Universidad de París-Sur en Francia y el Instituto español para la Investigación de la Inteligencia Artificial en Barcelona.

Es co-fundador del Observatorio del Impacto Social y Ético de la Inteligencia Artificial (OdiseIA) y uno de los miembros fundadores de la Incubadora Europea para startups da Datos Abiertos (http://opendataincubator.eu/).

Ha publicado más de cien artículos científicos sobre Inteligencia Artificial, Ética e Inteligencia Artificial, sistemas basados en conocimiento, y web semántica. Ha co-presidido numerosos talleres y conferencias internacionales. Es asesor de varias startups y proyectos internacionales de investigación. Fue presidente de la conferencia K-CAP 2013 y co-presidente de la sección industrial en ISWC 2014.

Es miembro del comité editorial de IEEE Intelligent Systems y de la task force de GSMA sobre Big Data para el Bien Social.

El doctor Benjamins recibió en 1993 su doctorado en Ciencias Cognitivas / Inteligencia Artificial por la Universidad de Amsterdam.

Puedes saber más de la autora visitando su perfil en LinkedIn o siguiéndole en Twitter donde se identifica como @vrbenjamins.

Idoia Salazar

(Fuente: Ligera elaboración propia de su ficha en Foro de foros)

Idoia Salazar es presidenta y cofundadora del Observatorio del Impacto Ético y Social de la Inteligencia Artificial (OdiseIA). Co-directora del área de Ética y Responsabilidad de OdiseIA. Doctora en Periodismo. Profesora de la Universidad San Pablo CEU, Madrid.

Especializada en Ética de la Inteligencia Artificial. Investigador Principal del Grupo de Investigación SIMPAIR (Impacto Social de la Inteligencia Artificial y la Robótica). Autora de los libros ‘La revolución de los robots: cómo la inteligencia artificial y la robótica afectan a nuestro futuro’ y ‘Las profundidades de Internet: Accede a la información que los buscadores no encuentran y descubre el futuro inteligente de la Red’ y co-autora de ‘El mito del algoritmo‘. Es también autora de artículos científicos y divulgativos.

Miembro del comité de expertos del Seminario Permanente de Huella Digital de la Fundación Pablo VI. Tratando de contribuir a un mundo mejor y más justo desde el uso responsable y ético del Big Data y la Inteligencia Artificial.

Puedes saber más de la autora visitando su perfil en LinkedIn o siguiéndola en Twitter donde se identifica como @idoiasalazar.