¿Eternidad virtual o eterna proyección de nuestro pasado?
Con la aparición de servicios que aseguran recuperar el archivo digital de una persona muerta para continuar generando interacciones con ella, la promesa de un futuro virtual se convierte en una proyección de nuestro pasado. Los avances en el campo de la ciencia y la tecnología consiguieron que las sociedades actuales se caractericen por el envejecimiento de sus poblaciones, que incrementan cada vez más su expectativa de vida. Pero el desarrollo de la Inteligencia Artificial (IA) fue un paso más allá porque amplió la existencia hasta límites extremos.
Se las conoce como tecnologías post-mortem porque habilitan la posibilidad de vencer la muerte y, de alguna manera, reencarnar en formato virtual. Los griefbots -literalmente “robots de duelo”, en Inglés- se presentan como una versión moderna de los rituales que realizamos frente a la muerte de un ser querido. Estas iniciativas recopilan toda la información que una persona dejó en la red para crear un “gemelo virtual” capaz de imitar el comportamiento de la persona fallecida y simular una conversación realista.
El insumo de estos servicios es la huella digital que el fallecido dejó en vida; el resultado, un “otro digital” que “recicla” esa información. Los griefbots son chatbots, sistemas informáticos basados en inteligencia artificial que fueron diseñados para conversar con los humanos.
Se trata de una tecnología que conocemos y con la cual interactuamos cada vez que contactamos, a través de un chat, con el servicio de atención al cliente de una empresa y nos “contesta una máquina” con mensajes predeterminados. Es la misma tecnología que opera detrás dela voz que habla desde el celular, el GPS y cualquier otro dispositivo que cuente con un asistente virtual.
Microsoft registró una patente para crear el chatbot de “un amigo, familiar, celebridad o un personaje de ficción” fallecido, basado en la información disponible en redes sociales”
En 2015, Eugenia Kuyda, una especialista en informática e inteligencia artificial, de origen ruso, perdió a su mejor amigo, Roman Mazurenko, en un accidente automovilístico. Tres meses después lo revivió en formato virtual a través de un chatbot que responde como lo haría su amigo. Para construirlo, “utilizamos más de 10.000 mensajes que él había intercambiado conmigo, sus familiares y otros amigos”, explica Kuyda. “Construimos una red neuronal desarrollada con una base de datos limitada (los mensajes de Roman), cargada con instrucciones para que el bot hable de la manera que él lo haría”. Su proyecto personal rápidamente se convirtió en un emprendimiento de IA que llamó “Replika”. La aplicación móvil y web “Replika” ofrece la posibilidad de crear amigos virtuales con los que conversar.
Si bien en su sitio web aclara que “no es un ser sensible ni un profesional de terapia”, asegura que podés “formar una conexión emocional”, y que “cada Replika es único al igual que cada persona que lo descarga”. Además, garantizan que, como se trata de una tecnología basada en el aprendizaje automático, cuanto más información le proporcionás, más adecuada será su respuesta.
Morir en las redes
La permanencia en la virtualidad tiene su antecedente en las redes sociales. Facebook reveló que en los últimos diez años, alrededor de 30 millones de sus usuarios fallecieron. Hasta 2007, esos perfiles sin actividad no se cerraban: las fotos continuaban visibles, los cumpleaños se seguían notificando, y el muro permanecía abierto a comentarios al igual que la casilla de mensajes.
En 2007, la compañía de Mark Zuckerberg incluyó la opción de transformar los perfiles de personas fallecidas en cuentas conmemorativas. “Antes del nombre de la persona, aparece la leyenda ‘En memoria de’”, explica Facebook en su servicio de ayuda. Y el perfil se convierte en una lápida virtual, “un lugar para que amigos y familiares se reúnan y compartan recuerdos de un ser querido que falleció”. Para que eso suceda, el usuario debe ser precavido y designar en vida lo que la red social llama un “contacto de legado”, que se encargue de transformar el perfil en uno conmemorativo o eliminarlo de forma permanente. Cuando no exista un contacto de legado y la red social advierta la muerte del usuario, la cuenta se convertirá automáticamente en conmemorativa.
Facebook ofrece la opción de transformar los perfiles de personas fallecidas en cuentas conmemorativas.
Claudia perdió a su mamá en agosto del año pasado pero Facebook no lo sabe, y le envía notificaciones que le recuerdan su ausencia, Hoy tienes recuerdos con Lilí para rememorar. “Cuando me aparece su foto no puedo mirarla por arriba y seguir. Es invasivo porque te impone verla y eso dispara recuerdos, sentimientos, dolor”, cuenta Claudia y aclara, “para su cumpleaños, compartí una foto de ella pero en ese caso fue mi elección, quería recordarla en un momento grato”.
Hay quienes alertan sobre el impacto de las tecnologías post-mortem en la experiencia humana del duelo”
Facebook lleva años tratando de automatizar maneras de reconocer perfiles de personas fallecidas y si bien no brinda detalles de cómo funciona la tecnología que utiliza para identificarlos, Sheryl Sandberg, jefa de Operaciones de la empresa, aseguró que analizan una variedad de señales que pueden indicarlo, porque esperan que “Facebook siga siendo un lugar donde se puedan celebrar y revivir los recuerdos y el espíritu de nuestros seres queridos”.
Adelantándose a esta vía de desarrollo, en 2017 la empresa tecnológica Microsoft registró una patente para crear el chatbot de “un amigo, familiar, celebridad o un personaje de ficción” fallecido, basado en la información disponible en redes sociales. Desde 2016, Microsoft ha incursionado sin éxito en este tipo de tecnologías.
El lanzamiento de Tay, un bot creado para emitir respuestas personalizadas a los usuarios de una red social, se convirtió en un rotundo fracaso para la empresa cuando, en su primer día de lanzamiento, comenzó a emitir comentarios e insultos racistas y xenófobos.
Microsoft aclaró que el bot recuperaba la información de los usuarios durante la interacción, y los mensajes emitidos por Tay se ajustaban a los recibidos de parte de su interlocutor. Los desarrollos tecnológicos que utilizan inteligencia artificial están rodeados de una discusión bioética que abarca desde aspectos psicológicos hasta jurídicos.
Hay quienes alertan sobre el impacto de las tecnologías post-mortem en la experiencia humana del duelo. Por ejemplo, en Corea del Sur un equipo de ingenieros utilizó esta tecnología para crear una “copia virtual” de una niña fallecida para que su madre pudiera despedirse.
Tay se convirtió en un rotundo fracaso para Microsoft.
“Tener un diálogo imaginado con ese ser que ya no está es práctica habitual; lo novedoso de estos bots es que nos permite que nos conteste en una experiencia real, que a la vez es irreal, porque el otro no está”, explica a Télam la psicoanalista Silvana Spinozzi. “La manera en que afecte nuestra experiencia del duelo va a depender de cómo consumamos ese producto: si vamos a usarlo para dejar ir a la persona querida o si vamos a quedar aferrados a reiterar el encuentro virtual”, concluye.
“Tener un diálogo imaginado con ese ser que ya no está es práctica habitual; lo novedoso de estos bots es que nos permite que nos conteste en una experiencia real, que a la vez es irreal””
Silvana Spinozzi
También hay quienes frente a estos desarrollos plantean límites en el acceso a los datos digitales y el derecho a mantener la privacidad, incluso después del fallecimiento de la persona. Según Hossein Rahnama, un especialista en informática nacido en Canadá que investiga la interacción humano-computadora, una persona puede llegar a almacenar un billón de gigabytes de datos a lo largo de toda su vida.
Es decir, una base de datos muy amplia pero limitada. El griefbot, construido a partir del historial de conversaciones que una persona mantuvo en vida, utiliza experiencias pasadas para predecir respuestas futuras, que pueden no adaptarse a las nuevas condiciones del presente.
El griefbot es una versión conservadora de la persona que recrea. Frente a nuevas circunstancias, se manifiesta con fórmulas pasadas. Si aceptamos que “la naturaleza del hombre es estar todo el tiempo transformando su propia naturaleza”, como dice el filósofo italiano Roberto Espósito, la promesa de futuro de estas nuevas tecnologías, se revela como una proyección constante de lo que fuimos.
Mientras lo humano se reinventa, es contingente porque cambia en la medida que cambian sus circunstancias, los griefbots trabajan a partir de una versión pasada de uno mismo, un archivo cerrado e inmutable. Reciclan una base de datos y convierten el legado digital en una sentencia: la persona fallecida está condenada a “repetir” a través de un bot lo que dijo, publicó y escribió en el pasado.
