Naukowcy ostrzegają przed "wskrzeszaniem" zmarłych przez AI. Technologia już istnieje

Dr Tomasz Hollanek i dr Katarzyna Nowaczyk-Basińska opisali te obawy w artykule opublikowanym w czasopiśmie "Philosophy & Technology". - Musimy już teraz zacząć myśleć o tym, jak ograniczyć społeczne i psychologiczne ryzyko cyfrowej nieśmiertelności, bo ta technologia już istnieje - podkreślała dr Nowaczyk-Basińska.

Jak działa deadbot?

Deadbot to program oparty na sztucznej inteligencji, który uczy się na wiadomościach, e-mailach i innych tekstach zostawionych przez zmarłego. Potem odpowiada w jego imieniu, głosowo lub w wiadomościach tekstowych.

ZOBACZ: AI usunęła system monitorujący. Kolejne incydenty, obawy rosną

Jedną z pierwszych platform, która zaczęła wykorzystywać OpenAI do tworzenia wirtualnych awatarów, był Project December (PD). Jego właściciel, projektant gier komputerowych, Jason Rohrer, tłumaczył, że usługa powstała jako projekt artystyczny i pomogła wielu osobom w trudnym okresie żałoby. Nie wszyscy byli jednak zadowoleni. Postacie myliły fakty i udzielały odpowiedzi, których zmarły nigdy by nie udzielił.

Podobne usługi oferują dziś także m.in. HereAfter AI, Séance AI i You, Only Virtual.

Trzy strony jednej rozmowy

Badacze wyróżnili trzy grupy, których dotyczą deadboty. Dawcy danych to zmarli, na których wiadomościach uczy się program, często bez ich zgody. Odbiorcy to bliscy, którzy po śmierci tej osoby mają dostęp do jej wiadomości i decydują, co się z nimi stanie. Użytkownicy to ci, którzy z deadbotem rozmawiają. 

- Bardzo ważne jest, aby firmy oferujące cyfrowe usługi związane z życiem pozagrobowym brały pod uwagę prawa i zgodę nie tylko osób, które odtwarzają, ale także tych, które będą musiały wejść w interakcję z AI - zaznaczał dr Hollanek.

Badacze stworzyli kilka fikcyjnych scenariuszy, sygnalizujących problemy w życiu codziennym, jakie mogą wynikać z kontaktu deadbotami.

W jednym z nich 67-letni mężczyzna potajemnie tworzy własnego deadbota i bez pytania o zgodę wskazuje swoje dorosłe dzieci jako jego rozmówców. Po pogrzebie syn, który woli poradzić sobie z żałobą po swojemu, nie otwiera linku do platformy. W efekcie dostaje lawinę powiadomień i e-maili, także od deadbota ojca. Córkę codzienne rozmowy z deadbotem z czasem przytłaczają, ale firma odmawia jego wyłączenia, bo ojciec opłacił usługę z góry na 20 lat.

ZOBACZ: Starzejący się mózg może mieć przewagę, której wcześniej nie doceniano

Według dr. Hollanka taki niechciany kontakt z łudząco wierną kopią zmarłego może wywołać cierpienie, a w i tak trudnym czasie jego skutki psychiczne mogą być druzgocące.

Od zachwytu po rozczarowanie 

W innym scenariuszu 35-latka tworzy deadbota zmarłej babci. Na początku jest zachwycona, bo program świetnie naśladuje akcent i dialekt babci, jej sposób pisania, a nawet stałe literówki. Po zakończeniu bezpłatnego okresu próbnego w rozmowach pojawiają się jednak reklamy. Gdy kobieta gotuje carbonarę według przepisu babci, deadbot radzi jej zamówić danie z dostawą. Inny problem? Bohaterka chce się z "babcią: pożegnać, ale aplikacja pozwala usunąć tylko konto, a nie deadbota.

Przywiązanie do takiego programu może też utrudnić pogodzenie się ze śmiercią bliskiej osoby. Zdaniem badaczy z deadbotów nie powinny korzystać osoby niepełnoletnie. Użytkownicy szczególnie wrażliwi, np. skłonni do depresji, powinni natomiast dostawać jasne ostrzeżenia przygotowane we współpracy z psychologami i psychiatrami.