Aplicaciones de Inteligencia Artificial Permiten «Dialogar» con los Fallecidos
Por Carmen Rodríguez
Madrid (Evox News) – El recuerdo de un ser querido que ha fallecido se puede mantener vivo a través de fotografías, vídeos o mensajes, e incluso mediante conversaciones imaginarias. Pero, ¿qué pasaría si ese ser querido pudiera responder? Este escenario, que parece sacado de la ciencia ficción, es una realidad gracias a las aplicaciones de la inteligencia artificial (IA), aunque no está exento de importantes dilemas éticos y sociales.
Creación de Avatares Digitales para Interactuar con Personas Fallecidas
La industria digital post-mortem está explorando la posibilidad de crear avatares de personas fallecidas, permitiendo a los usuarios interactuar con ellos en tiempo real. Estos avatares pueden replicar la imagen y voz del difunto, o bien comunicarse únicamente a través de texto.
Estos «robots de duelo» se construyen a partir de la huella digital del fallecido, que incluye su actividad en redes sociales, mensajes y correos electrónicos. Esta información es procesada por una red neuronal que aprende a imitar el comportamiento y la forma de pensar del individuo.
La Dra. Belén Jiménez, psicóloga de la Universitat Oberta de Catalunya, destaca la importancia de «garantizar el respeto y la dignidad del fallecido, así como el bienestar psicológico del usuario». Subraya que esta es una cuestión compleja que depende de la tecnología, la persona en duelo y los desarrolladores de la herramienta, y que aún se necesitan más estudios científicos al respecto.
Empresas como StoryFile, Eternos.Life, Decembre Project y You, Only Virtual ofrecen diferentes niveles de interacción, desde vídeos conversacionales grabados en vida hasta chatbots generados por IA que utilizan la voz o el texto del fallecido.
En algunos casos, es la propia persona quien prepara este servicio antes de fallecer, mientras que en otros son los familiares quienes crean el bot.
El Auge de la Industria Digital Post-Mortem
Jiménez advierte sobre los prejuicios existentes hacia estas herramientas, especialmente considerando que «están siendo desarrolladas principalmente por la creciente industria digital post-mortem», cuyos objetivos son «comerciales y económicos, y no necesariamente terapéuticos».
Un estudio reciente de la Universidad de Cambridge ha analizado tres escenarios hipotéticos que ilustran las posibles consecuencias negativas de un «diseño negligente» de esta tecnología sin las debidas medidas de seguridad.
La investigación, liderada por Katarzyna Nowaczyk-Basińska, describe situaciones como un bot de una abuela que ofrece recomendaciones publicitarias a su nieta, o un niño que sufre angustia debido a que la réplica de su madre fallecida comienza a generar respuestas incoherentes.
Otro escenario presenta a un padre que deja un avatar a sus hijos durante 20 años. Uno de los hijos comienza a recibir una gran cantidad de mensajes no solicitados, mientras que el otro experimenta agotamiento emocional al interactuar con el avatar, pero se siente atormentado por el destino del chatbot.
El Riesgo de Dependencia Emocional
Existe el peligro de que los bots sean diseñados de tal manera que hagan creer al usuario que las respuestas provienen realmente de su ser querido. Esto podría generar una relación de dependencia e incluso «el sufrimiento de una ‘segunda pérdida’ si el bot desaparece, por ejemplo, debido a problemas técnicos», advierte Jiménez.
El documental ‘Eternal You’, presentado en el Festival de Sundance (EE.UU.), explora el surgimiento de los bots de duelo y sigue a algunos de sus primeros usuarios, personas que «buscan consuelo en estas aplicaciones y que harían cualquier cosa por hablar con sus seres queridos fallecidos una vez más».
Los directores del documental, Hans Block y Moritz Riesewieck, también entrevistan a los responsables de estas empresas y abordan la problemática actual del duelo.
«Hubo cosas que me aterraron y muchas cosas que no quería oír, para las que no estaba preparada», comenta una de las usuarias en el tráiler.
Jiménez señala que un bot puede generar respuestas que no coincidan con los recuerdos del usuario sobre el fallecido, lo que podría causar frustración o dolor.
El Peligro de una Segunda Pérdida y la Alteración de la Memoria
También existe el riesgo de experimentar una segunda pérdida «al constatar la falta de autenticidad emocional» que caracterizaba la relación con el fallecido. Además, los bots podrían alterar la memoria del difunto, «lo que puede generar inquietud».
El canal de televisión surcoreano MBC ha producido una serie de documentales sobre experiencias de realidad inmersiva con recreaciones virtuales. En uno de ellos, una madre pudo pasar unas horas con su hija de siete años fallecida, y en otro, un hombre se reencontró con su esposa muerta. Ambos expresaron su gratitud por la experiencia.
Estas ‘tanatotecnologías’ no solo transforman la experiencia del duelo, «sino también la propia concepción de la mortalidad e incluso de la ‘resurrección'», indica Jiménez. La experta considera que las religiones tradicionales coexistirán «con nuevas y crecientes formas de entender el mundo, donde la inmortalidad digital será un elemento fundamental».
La Necesidad de Protección de Derechos
Jiménez advierte que nos encontramos ante un nuevo desarrollo tecnológico, basado en IA, «de alto riesgo y que requiere regulación», ya que plantea complejos desafíos éticos y sociales.
Sergio de Juan-Creix, abogado de Croma Legal y profesor de la UOC, experto en derecho digital, explica que en España los derechos al honor, imagen, intimidad y protección de datos se extinguen con la muerte. Sin embargo, la tutela de la memoria de los fallecidos recae en sus herederos.
Incluso si las empresas que ofrecen estos servicios tienen su sede fuera de la Unión Europea, si se dirigen a un público europeo, se les aplicaría la normativa europea de IA o el Reglamento General de Protección de Datos.
En cuanto a la protección de los datos utilizados para crear un bot después de la muerte de una persona, el abogado indica que si el heredero lo hace para su uso personal, tiene derecho a ello según la normativa española. No obstante, podría surgir un conflicto entre los herederos si alguno de ellos no está de acuerdo.
Si una persona decide preparar su propio bot en vida para sus herederos, la empresa debe tratar todos los datos de acuerdo con la Ley Orgánica de Protección de Datos.
Tras el fallecimiento, si los herederos no están de acuerdo, la mencionada ley española les permite reclamar esos datos a la empresa y solicitar su eliminación de las bases de datos.
Insights de Evox News: Cómo la IA para «Hablar» con los Muertos puede Impactar tu Negocio
Esta innovadora aplicación de la IA, aunque centrada en el ámbito personal y emocional, presenta implicaciones significativas para diversos sectores empresariales:
Desarrollo de Software y Tecnología: La creciente demanda de estas tecnologías impulsará la innovación en el campo de la IA, el procesamiento del lenguaje natural y la creación de avatares digitales realistas. Las empresas que puedan desarrollar soluciones seguras, éticas y personalizables tendrán una ventaja competitiva.
Servicios Funerarios y de Apoyo al Duelo: La industria funeraria podría integrar estas tecnologías como un servicio adicional, ofreciendo a los clientes nuevas formas de recordar y honrar a sus seres queridos.
Salud Mental y Terapia: Si bien existen preocupaciones sobre el impacto psicológico, estas herramientas también podrían ser utilizadas en entornos terapéuticos controlados para ayudar a las personas a procesar el duelo, siempre bajo la supervisión de profesionales de la salud mental.
Entretenimiento y Medios: La creación de avatares digitales de personajes históricos o celebridades fallecidas podría abrir nuevas posibilidades en la industria del entretenimiento, permitiendo la creación de contenido interactivo y experiencias inmersivas.
Protección de datos y ciberseguridad: Aumenta la necesidad de un manejo extremadamente cuidadoso de los datos personales, especialmente en el contexto del duelo. Las empresas que puedan garantizar la seguridad y privacidad de la información tendrán una ventaja competitiva.
Aspectos Legales y Éticos: Las empresas deberán navegar por un terreno legal y ético complejo, asegurándose de cumplir con las regulaciones de protección de datos y de respetar los derechos de los fallecidos y sus familiares. El desarrollo de un marco ético sólido será crucial para ganar la confianza de los usuarios.
* Innovación en Experiencias de Usuario: Ofrece oportunidades únicas para diseñar interfaces y experiencias que sean a la vez emocionalmente inteligentes y tecnológicamente avanzadas
