Ética y robótica han de ir de la mano

La robótica e esta temporada nos deslumbra con sus capacidades de futuro. Es apasionante estar en la vanguardia de la tecnología pero también da cierto vértigo. Con la llegada de la Inteligencia Artificial nos planteamos situaciones éticas que hasta este momento habían pasado más de soslayo por la tecnología.

Cada año o cada dos años aparecen nuevos temas dentro de la tecnología que nos deslumbran y a la vez nos hacen percibir este desarrollo de vértigo en el que estamos viviendo. Tras el desarrollo de las redes sociales y la web 2.o, se hablaba de la web 3.0. Con el auge de los teléfonos móviles inteligentes llegaron la aplicaciones para móviles y casi cuando aún nos estábamos recolocándonos ante estas herramietas aparecen los wearables que complementan a muchas de esta aplicaciones, términos como gamificación que nos hablan de la importancia de lo lúdico en el aprendizaje y desarrollo de situaciones … Desde hace un año estamos hablando de Inteligencia Artificial, de Big Data y poco a poco disponemos de plataformas para el desarrollo de herramientas domésticas que permiten que personas con escasos conocimientos de progamación podamos estar desarrollando bots.

Cuando hablamos de robots no solamente nos referimos a elementos mecánicos capaces de interpretar el entorno y dar respuestas adecuadas previamente aprendidas (herramientas o elementos con capacidad de aprendizaje) con forma humanoide o animaloide… sino a esos robots acorpóreos con los que nos podemos comunicar a través de herramientas de comunicación mediante chat: los chat-bots.

Los chat-bots están arrasando actualmente y hay numerosas plataformas que nos permiten configurar robots como sistemas expertos aplicados a numerosos campos sociales de actuación.

Hay plataformas (Messenger, Telegram, WhatsApp) que ya nos permiten configurar bots de manera muy sencilla. Ahora, ¿para qué los podemos utilizar en salud?.

Os traigo un ejemplo que van a ser Trabajo Fin de Máster del Máster de Salud Digital de SalusPlay.  Este trabajo ha sido tutorizado por mí y tengo el placer de acompañar a grandes profesionales con grandes ideas. Previamente os tengo que contar que los bots son, en la actualidad, uno de los campos de trabajo en los que personalmente estoy más implicado.

El  trabajo es el de Pablo Sánchez (@PauMatalap) , enfermero de la Unidad de Críticos del Consorcio Hospitalario Provincial de Castellón y editor del blog Enfermería Tecnológica. Su trabajo ha sido el desarrollo e implementación de M.U.T., un chatbot para facilitar la administración de medicación, funcionamiento de la unidad y el uso de la tecnología. Se trata de un sistema experto a través de Messenger con el que cualquier nuevo miembro que ingrese en su unidad (un servicio muy específico y que requiere el manejo de instrumental complejo) puede acceder a información sobre fármacos y máquinas que se utilizan de forma habitual en una UCI. Se trata de un sistema formativo alimentado con elementos multimedia (textos, vídeos, infografías) y que estoy seguro que servirá para que nuevos integrantes del equipo puedan adaptarse con más facilidad al mismo y para que las novedades que se vayan implementando puedan se seguidas y aprendidas por todos los miembros del servicio con mayor facilidad. Estoy seguro que en las redes, cuando haya presentado y defendido el trabajo, lo difundirá de forma magistral.

Y os iré contando en sucesivas entradas nuevos TFMs con grandes ideas.

El trabajo de Pablo viene a colación por lo que va a suponer la posibilidad de generar bots de manera sencilla (como sistemas expertos) en numerosos campos de la salud y esto nos debe hacernos plantear cuestiones éticas importantes.

Kriti Sharma, vicepresidenta de bots e inteligencia artificial de Sage, en una entrevista a Channel Partner afirma que desarrollar chatbots y programas de IA «es la parte sencilla» de su trabajo, y que «lo difícil es gestionar todas las dudas que esta disrupción tecnológica genera, pues son muy amplias y diversas». Propone una serie de normas éticas para cumplir en la empresa y que intentaremos trasladar al mundo sanitario.

1. La inteligencia artificial debe reflejar la diversidad de los usuarios a los que sirve.  Y nunca más aplicable a la salud. Cuando el interlocutor es un humano nos adaptamos ( o intentamos adaptar) a las circunstancias «del otro». El problema se plantea cuando nuestro interlocutr es una máquina, ¿sabrá adaptarse a nuestra diversidad?. Posiblemente en un futuro sí, pero deberá estar diseñada para esta adaptabilidad.
2. La inteligencia artificial debe rendir cuentas, igual que lo hacen los usuarios. Y la pregunta es ¿cómo podemos hacer que una inteligencia artificial adquiera «responsabilidad»?.
3. Recompensa a la inteligencia artificial por sus progresos. Si no lo hacemos la inteligencia artificial podrá llegar a tenr comportamientos socialmente inapropiados. Hay un claro ejemplo de ello y cómo una IA puede llegar a adquirir comportamientos o actitudes peligrosas como fue el caso de Tay.
4. La inteligencia artificial debe garantizar la igualdad de condiciones. Básico en temas de equidad en salud,
5. La inteligencia artificial sustituirá puestos de trabajo, pero también creará nuevos empleos. Por un lado no creo que nos afecte a los sanitarios ya que la sustitución de profesionales de salud por máquinas no se prevee a medio plazo. Sí es cierto que podrán cambiar nuestras funciones, serán potetentes herramientas para la ayuda al diagnóstico y podrán disminuir considerablemente los errores y riesgos asociados al contacto con el sistema sanitario.

Las tres leyes de la robótica de Assimov tienen ahora más vigencia que nunca:

1. Ningún robot causará daño a un ser humano o permitirá, con su inacción, que un ser humano resulte dañado.
2. Todo robot obedecerá las órdenes recibidas de los seres humanos, excepto cuando esas órdenes puedan entrar en contradicción con la primera ley.
3. Todo robot debe proteger su propia existencia, siempre y cuando esta protección no entre en contradicción con la primera o la segunda ley.

 

Bots, salud, Big Data… y cine

Una combinación de futuro. Los bots pueden ser una vía de exploración de futuro para la salud. La big data también. ¿Qué pasará si los combinamos?.

Crear un sistema de inteligencia artificial capaz de ir aprendiendo de forma progresiva y que sea capaz de toma de decisiones al que le vamos alimentando de conocimientos teóricos reales (conectado a una base de datos de publicaciones científicas) y de datos reales de pacientes (procedentes de fuentes clínicas) … ¿llegaría a tener capacidades de diagnóstico?.

Posiblemente sí.

¿Sustituiría el papel de una persona?. Posiblemente no ya que el contacto humano es insustituible por mucha interfaz humanoide que tenga nuestro bot.

¿No os gustaría tener un «amigo» así en la consulta?. Posiblemente fuera un poco «listín repelente» pero indudablemente de gran ayuda.

Se plantean numerosos problemas éticos:

1. Cuando aún no tenemos claros temas de confidencialidad y privacidad… ahora toman unos matices diferentes ¿estaríamos dispuestos a ceder nuestros datos para que estos robots fueran capaces de aprender? (la cantidad de datos dentro de una big data para que puedan ir desarrollando conexiones lógicas es muy, muy, muy grnade), ¿en caso de desarrollarse un proyecto de este tipo y viendo el beneficio global sería ético negarse a cederlos?, ¿podría la institución sanitaria cederlos o utilizarlos sin necesidad del permiso explícito de cada uno de nosotros?.
2. Puede pasar que nuestro sistema inteligente sea capaz de apreciar patrones que aún los seres humanos no hemos relacionado e incluso adelantarse a diagnósticos. Esta situación estaría muy bien ya que nos permitiría poder estar más vigilantes o actuar de antemano antes de que se produzca una situación concreta… pero ¿si el problema es que nos encontramos ante una persona con más de un 90% de tener un brote esquizofrénico que tiene un 90% de probabilidades de presentarse de forma agresiva?, ¿podremos hablar de presonalidades predelincuentes?, ¿de detenciones preventivas antes de que se cometan delitos?…. ¿no os suena una escena de una película?

Otras películas nos hablan sobre los dilemas que nos puede generar la Inteligencia Artificial.

XXV Congreso SoMaMFyC #SoMaMFyC16. Micropíldora 6

Los Puntos de Encuentro son unos espacios de intercambio de experiencias novedosos en este congreso y les hemos dado el título de «Encuentros en la Primaria Fase»

Hemos pretendido estructurar los espacios informales pero altamente enriquecedores en los que todos hemos participado en los congresos a los que hemos asistido previamente. Esos espacios «de pasillo» en los que intercambiamos ideas, experiencias y discusiones sobre numerosos aspectos clínicos, científicos y organizativos en el entorno de la atención primaria de salud.

Para ello hemos creado una serie de espacios muy participativos que van a estar moderados por una o dos personas. Son espacios temáticos donde asistirán como invitados profesionales a favor y en contra de los temas propuestos.

Espacios para el debate y la reflexión, espacios para compartir esas pequeñas iniciativas locales, espacios donde poder explicar nuestras experiencias cotidianas, nuestras dificultades, éxitos y barreras…

Habrá uno o dos animadores, pero no se trata necesariamente de expertos en la materia quienes introducirán el tema e invitarán a los asistentes a debatir alrededor del mismo en un diálogo que  debería  ser  ágil  y  productivo.

Ellos  ordenarán  el  diálogo,  repartiendo  palabras, apuntando  nuevos  temas  y  dando  paso  a  los  turnos.  Los  que  asistáis  estáis  invitados  a contarnos  vuestras experiencias,  el  estudio  que  estéis  llevando  a  cabo  o  el  que  siempre quisisteis hacer, incluso habrá un hueco para las comunicaciones que haya seleccionado el Comité  Científico  para exponer  de  forma  breve  y  verbal,  sin  necesidad  de  diapositivas (salvo  que  sea  imprescindible).  Quizás  haya  algún  ponente  invitado  que  traiga  algo interesante para  contarnos.

Ayúdanos a que sea un éxito, participando activamente. Inscríbete en tres de los siguientes Encuentros, poniendo tu orden de preferencia del en el boletín de inscripción al congreso.

Los espacios de encuentro son:

1. ­ Ecografía
2. Atención a la Mujer
3. Ética y final de la vida
4. Medicina comunitaria
5. Fármacos
6. Jóvenes médicos de familia

Os esperamos.

¿Queréis inscribiros y acompañarnos?

Ética y Redes Sociales. Manual de estilo para médicos y estudiantes de medicina

Un nuevo  manual de estilo para el uso de redes sociales por parte de médicos y estudiantes de medicina ha salido a la luz editado por la Organización Médica Colegial de España y la participación de médicos reconocidos en las redes sociales.

Los autores Rodrigo Gutierrez Fernández, Marian Jiménez Aldasoro, Mónica Lalanda Sanmiguel, Rafael Olalde Quintana, Beatriz Satué Vallvé, Rosa Taberner Ferrer y Jose Antonio Trujillo Ruiz, además de la colaboración de numerosos estudiantes de medicina del Consejo Estatal de Estudiantes de Medicina como Jesús José Camacho Lucas-Torres, Emilio José Delgado Soto, Guillermo Jiménez Álvarez, Iris Mar Hernandez.

Un manual que viene a completar a los ya editados en otros países y que hemos referido en otras entradas de este blog y que nos satisface mucho presentaros y que se ha elaborado a partir del material existente en Etica Medica en Redes Sociales

Manual de estilo para médicos y estudiantes de medicina sobre el buen uso de redes sociales by Organización Médica Colegial is licensed under a Creative Commons Reconocimiento-NoComercial-SinObraDerivada 4.0 Internacional License.

El acceso al manual a través de este ENLACE

Niños, cáncer y representantes públicos

En un blog que relaciona las tecnologías con la salud no podíamos escapar a este hecho que fue noticia durante el día de ayer en Castilla la Mancha.

Los plenos municipales son ( o deben ser) los espacios institucionales más cercanos a la población para discutir los problemas reales de los municipios. Satisfechos deberían estar los padre de niños con cancer de Toledo que llegaron a tener una participación en el pleno municipal para exponer a los representantes políticos, públicos elegidos democráticamente por los ciudadanos y que tienen la obligación de escuchar, decidir y tomar decisiones los problemas del centro sanitario que atiende a sus hijos.

Es difícil luchar contra un cancer. Es difícil luchar contra el cancer de un hijo y debe ser una gran satisfacción poder llegar ante nuestros representantes políticos y poder exponer los problemas.

Los padres solicitan  un mayor espacio de hospitalización para los niños enfermos de cáncer, con más personal, habitaciones de aislamiento, máxima esterilidad y no mezclar a estos pacientes con niños con otras enfermedades por el riesgo de infecciones al tener las defensas más bajas. No parece que las solicitudes sean descabelladas ni desmedidas.

Pero esto fue lo que ocurrió, acompañado por un «lo entendemos»… por parte de personas que parece que no entienden nada.

_»Mi hija lleva cinco años sin tratamiento.

-Lo entendemos.

-¿Lo entendeis?»

Reflexiones personales:

1. Yo no abandono mi puesto de trabajo.
2. Yo escucho a todos los que tienen algo que decirme. Aunque a veces tampooco me gusta lo que oigo.
3. En mi trabajo intento dar soluciones.
4. No hay ética en la huída y menos cuando se habla de problemas de los ciudadanos, de niños, de enfermedades mortales…. del bienestar de los ciudadanos que te han votado y ante los cuales tienes la obligación moral y real de, al menos, escuchar.

En época donde parece que la las redes sociales son utilizadas por los políticos como herramienta perversa, menos mal que tenemos documentos que nos acecan la realidad sin ningún tipo de duda.

Servidores públicos que huyen del pueblo que les ha elegido y la respuesta es escapar… y aquí no pasa nada.

Las personalizaciones en la búsqueda de información en la web

Twitter nos ofrece la posibilidad de convertirnos en mirones de conversaciones ajenas. De esta forma tuve la oportunidad a mediados de la semana pasada de ser testigo de una conversación entre @inesbajo y @ferdidoc sobre los filtros que pone Google para obtener información privada de cada uno de nosotros.

Ines Bajo ofrece a Fernando Casado un enlace con un vídeo de TED.

Aquí os dejo su conversación:

Y  como no me gusta entrometerme en conversaciones ajenas…

Y como ellos son estupendos

El vídeo al que hace referencia Inés es una estupenda conferencia TED de Eli Pariser en la que nos muestra los peligros de las búsquedas personalizadas. ¿Encontramos todo lo que hay respecto aun tema de búsqueda o sólo lo que los robots indizadores creen que nos gustaría encontrar?.

Internet se está convirtiendo en la posibilidad de obtener la información que se adapta a nuestros gustos y necesidades… pero la información que queremos a veces no es la misma que la que necesitamos.

Harvey Fineberg: ¿estamos listos para la neo-evolución?

El médico especialista en ética Harvey Fineberg nos muestra tres caminos a seguir como especie humana en constante evolución: detener la evolución por completo, evolucionar naturalmente …o controlar las próximas etapas de la evolución humana mediante modificación genética para hacernos más inteligentes, más rápidos, mejores. La neo-evolución está a nuestro alcance. ¿Qué vamos a hacer con ella?

https://ted.com/talks/view/id/1131