Deadbots y regulación: un debate ético y legal imprescindible

El nuevo marco legal europeo sobre inteligencia artificial (IA), la EU AI Act entró en vigor el pasado 1 de agosto con el objetivo de evitar violaciones de derechos que se puedan dar con la aplicación de esta tecnología. La normativa clasifica la IA según el nivel de riesgo que pueda tener para los individuos y la sociedad, y prohíbe tecnologías que supongan un "riesgo inaceptable", como, por ejemplo, las que manipulan y explotan la vulnerabilidad de las personas.

Una tecnología que podría entrar en esta categoría son los llamados deadbots, que algunas empresas ya están desarrollando para llevar al mercado en un futuro próximo. Se trata de chatbots que se diseñan a partir de la huella digital de una persona fallecida (mensajes de WhatsApp, de redes sociales, correos electrónicos, etc.) y que son capaces de mantener conversaciones con los familiares y amigos del muerto, emulando su personalidad. Aunque pueda parecer ciencia ficción, no lo es, y servicios de este tipo están cada vez más cerca de lo que podamos imaginar.

La doctora en Psicología, Belén Jiménez, profesora de los Estudios de Psicología y Ciencias de la Educación e investigadora del grupo CareNet, del IN3 de la Universitat Oberta de Catalunya (UOC), es especialista en la mediación tecnológica del duelo, y uno de sus focos de investigación son los deadbots, ámbito en el que ha publicado varios estudios. 

“En el uso de los deadbots se deben establecer ciertas precauciones, y es esencial regular su utilización, pues los intereses de las empresas que los comercializan pueden no estar alineados con el potencial uso terapéutico”

Un debate complejo sin respuestas claras

"Aunque los deadbots no estén comercializados aún, es necesario reflexionar sobre los aspectos bioéticos de esta tecnología. Es posible que dentro de poco se normalice su uso, como ha pasado con otras aplicaciones que en un primer momento pudieron sorprender socialmente, pero cuyo uso hoy está extendido, como, por ejemplo, las aplicaciones de citas. Cada vez están surgiendo más empresas en el ámbito de la llamada digital afterlife industry, y van mejorando la tecnología", explica Jiménez. La doctora en Psicología cree esencial "estudiar cómo los deadbots mediatizan el duelo y pueden llegar a transformarlo. Es un campo sobre el cual casi no hay estudios científicos y no hay respuestas claras, pues su uso y sus efectos dependen de diversos factores, entre ellos, de cómo se diseñen estas tecnologías".

Entre otros aspectos, la nueva legislación europea establece que los chatbots deben informar al usuario de que se está comunicando con un programa informático y no con una persona. Aunque clasifica esta tecnología como de "riesgo limitado", en contextos sensibles como el de la salud —que sería el caso de los deadbots—, las implicaciones de estos programas deben ser analizadas a conciencia.

En las investigaciones realizadas por Belén Jiménez, que también es miembro del grupo de investigación CERPOP de la Universidad de Toulouse, se ha visto que los dolientes manifiestan una actitud ambivalente hacia esta nueva tecnología: el deseo de mantener los lazos afectivos con sus seres queridos se mezcla con la inquietud que provoca interactuar con un programa basado en la huella digital del fallecido.

Los deadbots se apoyan en los llamados "lazos continuos" entre el doliente y la persona traspasada, un término frecuente en el campo de la psicología del duelo. La investigadora de la UOC asegura que "estas tecnologías se aprovechan de la necesidad de los seres humanos de establecer vínculos emocionales". En realidad, podría equivaler a una versión tecnológica y avanzada de conversar de forma imaginaria con nuestro ser querido delante de su tumba o mantener su recuerdo a través de fotografías y videos. "Esta necesidad de mantener los lazos no tiene por qué ser patológica —explica Jiménez—, y es algo normal para muchas personas. Con todo, en el uso de los se deben establecer ciertas precauciones, y es esencial regular su utilización, pues los intereses de lucro de las empresas que los comercializan pueden no estar alineados con el potencial uso terapéutico que pueda tener esta tecnología".

A falta de estudios, Jiménez apunta que los efectos psicológicos de estas tecnologías estarán condicionados por el propio usuario, por la relación que mantenía con el fallecido y por la relación que establezca con el chatbot. "Uno de los peligros es que se podrían generar efectos negativos, como la creación de una relación de dependencia e, incluso, el sufrimiento provocado por una segunda pérdida si el deadbot desaparece —por ejemplo, por problemas técnicos—".

Regular la digital afterlife industry

Nuestra aspiración a la inmortalidad y el avance tecnológico están dando alas a la digital afterlife industry, un sector que digitaliza la memoria de las personas fallecidas con el fin de extender su memoria e incluso su actividad digital. Todo ello conlleva no pocas implicaciones éticas y sociales. Las compañías persiguen fines comerciales y económicos que pueden ser contradictorios con los objetivos terapéuticos potenciales de estas herramientas. Estrategias como que los deadbots envíen notificaciones y otras acciones para mantener "enganchado" al doliente pueden ser éticamente cuestionables, según Jiménez.

"Estamos ante un nuevo desarrollo tecnológico basado en inteligencia artificial que comporta riesgos elevados y que debe ser regulado para prever sus posibles efectos negativos, al mismo tiempo que debemos tener en cuenta su dimensión ética", asegura la investigadora. "La nueva normativa europea está enfocada en promover la transparencia de estas tecnologías, lo que es fundamental en aspectos tan sensibles como el duelo. Además, las empresas que desarrollen estos servicios deberán cumplir con estándares rigurosos e invertir en programas de auditoría, transparencia y documentación", explica. La AI Act prevé multas de hasta 30 millones de euros o del 6 % de la facturación de una corporación si no cumple con esta regulación.

A falta de una normativa específica para los deadbots, Jiménez propone que la regulación "vele especialmente por el respeto y la dignidad de la persona fallecida, además de promover el bienestar psicológico del usuario, sobre todo si está en duelo".

Esta investigación favorece el Objetivo de Desarrollo Sostenible (ODS) 3, de salud y bienestar.