Teme que los ‘deadbots’ puedan causar daño psicológico a sus creadores y usuarios o ‘perseguirlos’ digitalmente
Jueves 9 de mayo de 2024 10:00 AEST
Las recreaciones digitales de personas muertas están en la cúspide de la realidad y necesitan urgentemente una regulación, han argumentado los especialistas en ética de la IA, advirtiendo que los “robots muertos” podrían causar daño psicológico a sus creadores y usuarios, e incluso “perseguirlos”.
Estos servicios, que ya son técnicamente posibles de crear y legalmente permitidos, podrían permitir a los usuarios subir sus conversaciones con familiares fallecidos para “devolver la vida a la abuela” en forma de chatbot, sugieren investigadores de la Universidad de Cambridge.
Pueden comercializarse entre padres con enfermedades terminales que quieran dejar algo con lo que sus hijos interactúen, o simplemente venderse a personas aún sanas que quieran catalogar toda su vida y crear un legado interactivo.
Pero en cada caso, empresas sin escrúpulos y prácticas comerciales irreflexivas podrían causar daños psicológicos duraderos y fundamentalmente faltar el respeto a los derechos del fallecido, argumenta el documento.
“Los rápidos avances en la IA generativa significan que casi cualquier persona con acceso a Internet y algunos conocimientos básicos puede revivir a un ser querido fallecido”, afirmó la Dra. Katarzyna Nowaczyk-Basińska, una de las coautoras del estudio en el Centro Leverhulme para el futuro de la inteligencia de Cambridge (LCFI). ).
“Esta área de la IA es un campo minado ético. Es importante dar prioridad a la dignidad de los difuntos y garantizar que esto no se vea invadido por motivos financieros de servicios digitales de ultratumba, por ejemplo”.
Un riesgo son las empresas que monetizan sus servicios digitales heredados a través de la publicidad. Los usuarios de un servicio de este tipo pueden recibir una sorpresa cuando su ser querido recreado digitalmente comience a sugerirles que pidan comida para llevar en lugar de cocinar desde cero, sugiere el documento, lo que les llevará a la incómoda conclusión de que no fueron consultados sobre si sus datos podrían usarse en de tal forma.
Es posible obtener resultados mucho peores cuando los usuarios de dichos servicios son niños. Los padres que quieran ayudar a sus hijos a afrontar la pérdida de una madre o un padre pronto recurrirán a los deadbots.
Pero hay poca evidencia de que tal enfoque sea psicológicamente útil, y hay muchos que sugieren que podría causar un daño significativo al cortocircuitar el proceso normal de duelo.
“Ningún servicio de recreación puede demostrar que permitir que los niños interactúen con ‘robots muertos’ sea beneficioso o, al menos, no perjudique a este grupo vulnerable”, advierte el documento.
Para preservar la dignidad de los muertos, así como el bienestar psicológico de los vivos, los investigadores sugieren un conjunto de mejores prácticas que incluso pueden requerir regulación para su aplicación.
Dichos servicios deberían tener procedimientos para “retirar” con sensibilidad los robots muertos, por ejemplo, y deberían limitar sus funciones interactivas sólo a adultos, además de ser muy transparentes sobre cómo operan y las limitaciones de cualquier sistema artificial.
La idea de utilizar un sistema de inteligencia artificial estilo ChatGPT para recrear a un ser querido fallecido no es ciencia ficción. En 2021, Joshua Barbeau fue noticia después de usar GPT-3 para crear un chatbot que habló con la voz de su novia muertay seis años antes, la desarrolladora Eugenia Kuyda convirtió los mensajes de texto de una amiga cercana en un chatbot, lo que finalmente condujo a la creación de populares Aplicación complementaria de IA Replika.
La tecnología también va más allá de los chatbots. En 2021, el sitio de genealogía MyHeritage introdujo la nostalgia profunda, una función que creaba vídeos animados de los antepasados de los usuarios a partir de fotografías. Después de que la función se volviera viral, la empresa admitió que algunos usuarios “la encuentran espeluznante”.
“Los resultados pueden ser controvertidos y es difícil permanecer indiferente ante esta tecnología”, dijo MyHeritage en ese momento. “Esta característica está pensada para un uso nostálgico, es decir, para devolver la vida a nuestros queridos antepasados. Nuestros vídeos de conductores no incluyen discursos para evitar abusos, como la creación de vídeos ‘muy falsos’ de personas vivas”.
Un año después, MyHeritage presentó DeepStory, que permitía a los usuarios generar vídeos hablados.
{{#corazón}}
{{arriba a la izquierda}}
{{abajo a la izquierda}}
{{parte superior derecha}}
{{abajo a la derecha}}
{{#goalExceededMarkerPercentage}}{{/goalExceededMarkerPercentage}}{{/ticker}}
{{título}}
{{#párrafos}}
{{.}}
{{/paragraphs}}{{texto resaltado}}
{{#choiceCards}}
Una vezMensualAnual
Otro
{{/choiceCards}}Nos pondremos en contacto contigo para recordarte que contribuyas. Esté atento a un mensaje en su bandeja de entrada en . Si tiene alguna pregunta sobre cómo contribuir, comuníquese con nosotros.
2024-05-09 00:00:00
1715214703
#Las #recreaciones #digitales #personas #muertas #necesitan #una #regulación #urgente #dicen #los #especialistas #ética #Inteligencia #artificial
