Ética y robótica han de ir de la mano


La robótica e esta temporada nos deslumbra con sus capacidades de futuro. Es apasionante estar en la vanguardia de la tecnología pero también da cierto vértigo. Con la llegada de la Inteligencia Artificial nos planteamos situaciones éticas que hasta este momento habían pasado más de soslayo por la tecnología.

Cada año o cada dos años aparecen nuevos temas dentro de la tecnología que nos deslumbran y a la vez nos hacen percibir este desarrollo de vértigo en el que estamos viviendo. Tras el desarrollo de las redes sociales y la web 2.o, se hablaba de la web 3.0. Con el auge de los teléfonos móviles inteligentes llegaron la aplicaciones para móviles y casi cuando aún nos estábamos recolocándonos ante estas herramietas aparecen los wearables que complementan a muchas de esta aplicaciones, términos como gamificación que nos hablan de la importancia de lo lúdico en el aprendizaje y desarrollo de situaciones … Desde hace un año estamos hablando de Inteligencia Artificial, de Big Data y poco a poco disponemos de plataformas para el desarrollo de herramientas domésticas que permiten que personas con escasos conocimientos de progamación podamos estar desarrollando bots.

Cuando hablamos de robots no solamente nos referimos a elementos mecánicos capaces de interpretar el entorno y dar respuestas adecuadas previamente aprendidas (herramientas o elementos con capacidad de aprendizaje) con forma humanoide o animaloide… sino a esos robots acorpóreos con los que nos podemos comunicar a través de herramientas de comunicación mediante chat: los chat-bots.

Los chat-bots están arrasando actualmente y hay numerosas plataformas que nos permiten configurar robots como sistemas expertos aplicados a numerosos campos sociales de actuación.

Hay plataformas (Messenger, Telegram, WhatsApp) que ya nos permiten configurar bots de manera muy sencilla. Ahora, ¿para qué los podemos utilizar en salud?.

Os traigo un ejemplo que van a ser Trabajo Fin de Máster del Máster de Salud Digital de SalusPlay.  Este trabajo ha sido tutorizado por mí y tengo el placer de acompañar a grandes profesionales con grandes ideas. Previamente os tengo que contar que los bots son, en la actualidad, uno de los campos de trabajo en los que personalmente estoy más implicado.

El  trabajo es el de Pablo Sánchez (@PauMatalap) , enfermero de la Unidad de Críticos del Consorcio Hospitalario Provincial de Castellón y editor del blog Enfermería Tecnológica. Su trabajo ha sido el desarrollo e implementación de M.U.T., un chatbot para facilitar la administración de medicación, funcionamiento de la unidad y el uso de la tecnología. Se trata de un sistema experto a través de Messenger con el que cualquier nuevo miembro que ingrese en su unidad (un servicio muy específico y que requiere el manejo de instrumental complejo) puede acceder a información sobre fármacos y máquinas que se utilizan de forma habitual en una UCI. Se trata de un sistema formativo alimentado con elementos multimedia (textos, vídeos, infografías) y que estoy seguro que servirá para que nuevos integrantes del equipo puedan adaptarse con más facilidad al mismo y para que las novedades que se vayan implementando puedan se seguidas y aprendidas por todos los miembros del servicio con mayor facilidad. Estoy seguro que en las redes, cuando haya presentado y defendido el trabajo, lo difundirá de forma magistral.

Y os iré contando en sucesivas entradas nuevos TFMs con grandes ideas.

El trabajo de Pablo viene a colación por lo que va a suponer la posibilidad de generar bots de manera sencilla (como sistemas expertos) en numerosos campos de la salud y esto nos debe hacernos plantear cuestiones éticas importantes.

Kriti Sharma, vicepresidenta de bots e inteligencia artificial de Sage, en una entrevista a Channel Partner afirma que desarrollar chatbots y programas de IA “es la parte sencilla” de su trabajo, y que “lo difícil es gestionar todas las dudas que esta disrupción tecnológica genera, pues son muy amplias y diversas”. Propone una serie de normas éticas para cumplir en la empresa y que intentaremos trasladar al mundo sanitario.

  1. La inteligencia artificial debe reflejar la diversidad de los usuarios a los que sirve.  Y nunca más aplicable a la salud. Cuando el interlocutor es un humano nos adaptamos ( o intentamos adaptar) a las circunstancias “del otro”. El problema se plantea cuando nuestro interlocutr es una máquina, ¿sabrá adaptarse a nuestra diversidad?. Posiblemente en un futuro sí, pero deberá estar diseñada para esta adaptabilidad.
  2. La inteligencia artificial debe rendir cuentas, igual que lo hacen los usuarios. Y la pregunta es ¿cómo podemos hacer que una inteligencia artificial adquiera “responsabilidad”?.
  3. Recompensa a la inteligencia artificial por sus progresos. Si no lo hacemos la inteligencia artificial podrá llegar a tenr comportamientos socialmente inapropiados. Hay un claro ejemplo de ello y cómo una IA puede llegar a adquirir comportamientos o actitudes peligrosas como fue el caso de Tay.
  4. La inteligencia artificial debe garantizar la igualdad de condiciones. Básico en temas de equidad en salud,
  5. La inteligencia artificial sustituirá puestos de trabajo, pero también creará nuevos empleos. Por un lado no creo que nos afecte a los sanitarios ya que la sustitución de profesionales de salud por máquinas no se prevee a medio plazo. Sí es cierto que podrán cambiar nuestras funciones, serán potetentes herramientas para la ayuda al diagnóstico y podrán disminuir considerablemente los errores y riesgos asociados al contacto con el sistema sanitario.

Las tres leyes de la robótica de Assimov tienen ahora más vigencia que nunca:

  1. Ningún robot causará daño a un ser humano o permitirá, con su inacción, que un ser humano resulte dañado.
  2. Todo robot obedecerá las órdenes recibidas de los seres humanos, excepto cuando esas órdenes puedan entrar en contradicción con la primera ley.
  3. Todo robot debe proteger su propia existencia, siempre y cuando esta protección no entre en contradicción con la primera o la segunda ley.