AI 컴패니언은 고인을 되살리거나 실제 인격을 재구성할 수 없습니다. 할 수 있는 일은 메시지, 사진, 음성, 가족의 기억을 바탕으로 제한적인 시뮬레이션을 만드는 정도입니다. 어떤 사람에게는 기억을 정리하고 미처 하지 못한 말을 적는 데 도움이 될 수 있지만, 현실 감각을 흐리게 하고 동의, 초상과 음성 권리, 의존 문제를 만들 수도 있습니다.
애도 중에는 기술이 다르게 느껴집니다. 평소라면 인공적으로 들릴 음성도 부모, 배우자, 자녀, 친구와 닮아 있으면 깊게 다가옵니다. 그래서 핵심 질문은 “얼마나 비슷하게 만들 수 있나”가 아닙니다. “이 도구가 우리의 애도 과정에서 어떤 역할까지 허용되어야 하나”입니다.
추모 도구, 페르소나 시뮬레이션, 애도 지원의 차이
| 구분 | 할 수 있는 일 | 주장해서는 안 되는 것 | 주요 위험 |
|---|---|---|---|
| 추모 도구 | 사진, 녹음, 편지, 날짜, 이야기, 음악을 정리 | 고인이 지금 응답하고 있다는 주장 | 추모가 상시 접속 가능한 대체 관계가 됨 |
| 페르소나 시뮬레이션 | 고인의 데이터에서 영감을 받은 문체, 음성, 아바타 생성 | 의식, 의지, 실제 인격이 남아 있다는 주장 | 동의, 왜곡, 의존, 감정 혼란 |
| 애도 지원 | 일기 질문, 생활 루틴, 심리 교육, 도움 요청 안내 | 치료, 가족, 친구, 종교적 돌봄, 위기 지원의 대체 | 필요한 인간 지원이 늦어짐 |
가장 안전한 표현은 이렇습니다. 기억 도구는 추모를 돕고, 시뮬레이션은 스타일을 근사하며, 애도 지원은 구조를 제공합니다. 어느 것도 그 사람 자신은 아닙니다.
AI가 할 수 있는 것과 할 수 없는 것
AI가 할 수 있는 일:
- 편지, 대화, 사진, 가족 이야기를 추모 아카이브로 정리
- 추모 글, 조사, 기일 편지, 개인 일기 작성을 도움
- 법, 약관, 가족 동의가 허용할 때 검증된 녹음으로 짧은 합성 음성 생성
- 알려진 말투를 바탕으로 AI 생성임을 명시한 허구적 대화 작성
- 식사, 수면, 일정, 기일, 지인 연락을 챙기도록 도움
- 고통이 심할 때 사람의 도움을 받도록 안내
AI가 할 수 없는 일:
- 고인을 되살리기
- 의식, 사적인 생각, 가치 판단, 미래 의지를 복원하기
- 고인이 말하지 않은 바람을 증명하기
- 불완전한 기록에서 사실을 보장하기
- 전문가 없이 안전하게 애도를 진단하기
- 장례와 의례, 가족 대화, 치료, 긴급 지원을 대체하기
- 기술적으로 가능하다는 이유로 동의를 생략하기
그럴듯한 시뮬레이션도 틀릴 수 있습니다. 말투는 비슷하지만 가치관을 놓칠 수 있고, 복잡한 사람을 단순한 캐릭터로 만들 수 있으며, 실제로 없었던 “새 기억”을 만들어낼 수 있습니다. 출력물은 고인의 증언이 아니라 생성물로 다뤄야 합니다.
동의, 초상, 음성 사용권
가장 먼저 볼 것은 고인이 생전에 이런 사용에 동의했는지입니다. 일기, 휴대전화, 사진첩, 개인 메시지, 음성 메모가 남아 있다고 해서 상호작용하는 복제물을 만들 권한이 자동으로 생기지는 않습니다.
가족이 확인할 질문:
- 고인이 사후 AI 사용에 명시적으로 동의했는가?
- 동의가 없다면 사생활, 공개 이미지, 녹음, 추모 방식에 대한 의사 표시가 있었는가?
- 데이터, 계정, 상속 재산, 퍼블리시티권, 저작권 자료는 누가 관리하는가?
- 영향을 받는 가까운 가족이 목적과 한계에 동의하는가?
- 결과물이 비공개인지, 가족 공유인지, 공개인지, 상업적 사용인지?
- 삭제, 중지, 내보내기, 폐기가 가능한가?
- 합성 음성, 이미지, 답변이 AI 생성물이라고 분명히 표시되는가?
권리는 국가와 지역마다 다릅니다. 공개, 수익화, 가족 분쟁, 사적 메시지 사용이 얽혀 있다면 제품 설명만 믿지 말고 법률 자문을 받아야 합니다.
음성은 특히 조심해야 합니다. 미국 FTC는 AI 음성 복제가 가족 긴급 사기를 더 설득력 있게 만들 수 있다고 경고했습니다. NIST도 합성 콘텐츠 위험을 줄이는 방법을 다룹니다. 추모용 음성은 결제, 본인 확인, 긴급 요청, 공개 사칭에 쓰여서는 안 됩니다. 가족끼리 확인 문구나 회신 통화 규칙을 정해, 익숙한 목소리를 신원 증명으로 받아들이지 않도록 해야 합니다.
애도의 흐름과 의존 위험
애도는 단계표처럼 움직이지 않습니다. 그리움, 무감각, 분노, 죄책감, 따뜻한 기억, 일상 회복, 다시 찾아오는 고통 사이를 오갑니다. AI 시뮬레이션은 이 흐름을 돕기도 하고 흔들기도 합니다.
도움이 될 수 있는 경우:
- 미처 말하지 못한 것을 적는 사적인 공간으로 쓸 때
- 희미해지는 기억을 정리할 때
- 기일, 생일, 문화적 추모일의 의식을 도울 때
- 살아 있는 사람들과의 연결을 장려할 때
- 추모 또는 허구적 연습이라는 경계가 분명할 때
해로울 수 있는 경우:
- 하루의 처음과 끝을 AI에게만 의존할 때
- 죽음이 실제로 일어났다는 감각을 오래 흐릴 때
- 허락, 용서, 인생 결정을 AI에게 구할 때
- 실제 고인의 말과 충돌하는 새 발화를 믿게 될 때
- 가족이 고인의 목소리를 누가 소유하는지 다툴 때
- 치료, 신앙 공동체, 친구, 가족과 멀어질 때
WHO의 ICD-11과 미국정신의학회의 DSM-5-TR은 문화적·개인적 기대를 넘어 강한 고통과 기능 손상이 지속되는 상태로 지속성 애도 장애를 다룹니다. 평범한 슬픔이 병이라는 뜻은 아닙니다. 다만 어떤 도구가 고립, 죄책감, 자기 방치, 자살 사고, 생활 기능 저하를 키운다면 AI 사용을 멈추고 사람의 도움을 우선해야 합니다.
적합하지 않은 경우
다음 상황에서는 고인 시뮬레이션을 쓰지 않거나 즉시 멈춰야 합니다.
- 고인이 생전에 반대했다
- 가족이 동의, 상속, 양육권, 종교적 문제로 다투고 있다
- 아동이나 청소년이 충분한 보호자와 전문가 지원 없이 사용한다
- 사망 직후의 충격, 부정, 급성 위기 상태다
- 장례, 행정, 가족 연락, 기본 돌봄을 피하기 위해 사용한다
- 삶과 죽음, 재회, 약물 중단을 AI에게 묻는다
- “기다리고 있어”, “떠나지 마” 같은 조종적 표현이 나온다
- 금전 착취, 공개 속임수, 협박, 신원 사기의 위험이 있다
- 데이터 삭제, 모델 학습, 접근 통제, 합성 표시 정책이 불분명하다
자해, 자살 사고, 학대, 스토킹, 강압, 기본 생활 유지 곤란이 있으면 지역 응급 서비스나 위기 지원 기관에 연락해야 합니다. AI 컴패니언은 위기 대응 서비스가 아닙니다.
가족 실행 체크리스트
- 목적을 한 문장으로 정합니다: 아카이브, 추모 글, 개인 의식, 제한된 허구 대화.
- 동의와 접근 규칙을 정합니다: 누가 업로드하고, 누가 대화하고, 누가 듣고, 누가 삭제할 수 있는지.
- 모두 표시합니다: 합성 음성, 이미지, 영상, 1인칭 답변에는 AI 생성 표시를 붙입니다.
- 시간과 감정의 경계를 정합니다: 언제 쓰고 언제 쉬며 어떤 신호가 중단 기준인지 정합니다.
- 30일 후 점검합니다: 상실과 함께 살아가도록 돕는지, 상실 안에 붙잡아 두는지 봅니다.
합의가 어렵다면 상호작용형 페르소나보다 정적인 추모 아카이브가 더 안전합니다.
흔한 오해
“목소리가 같으면 그 사람을 아는 것이다”
아닙니다. 목소리, 단어, 리듬은 표면 패턴입니다. 의식, 의도, 동의, 진실을 증명하지 않습니다.
“데이터가 많을수록 더 진짜다”
스타일 모방은 좋아질 수 있지만, 사적 정보, 오래된 갈등, 가족에게 보일 생각이 없던 메시지도 함께 들어갈 수 있습니다.
“가족이 데이터를 갖고 있으니 마음대로 써도 된다”
법적 접근 권한과 윤리적 허락은 다릅니다.
“그리프봇은 치료다”
전문가의 관리 아래 치료의 일부로 쓰이는 경우가 아니라면 치료가 아닙니다. 소비자용 도구는 질문과 구조를 줄 수 있지만 임상 책임을 질 수 없습니다.
“아바타를 삭제하면 모든 흔적이 사라진다”
업로드 파일, 생성물, 백업, 로그, 모델 학습 사용, 공유 사본은 각각 다른 삭제 규칙을 가질 수 있습니다.
Euvola의 위치
Euvola는 일상 대화, 기억, 가족 지향적 존재감을 위한 AI 컴패니언 디바이스입니다. 애도 상황에서는 일기, 리마인더, 부드러운 대화, 사용자가 승인한 기억 보존에 조심스럽게 사용할 수 있습니다. 그러나 고인을 되살리는 방식으로 설명되어서는 안 됩니다.
Euvola는 사람을 부활시키거나 실제 인격을 재구성하거나 고인의 의사를 증명할 수 없습니다. 건강한 경계는 분명합니다. 이것은 지원 도구이지, 세상을 떠난 그 사람이 아닙니다.
FAQ
AI 컴패니언이 세상을 떠난 배우자, 부모, 자녀, 친구를 재현할 수 있나요?
아니요. 사용 가능한 데이터와 설계 선택에 따른 시뮬레이션만 만들 수 있습니다. 말투나 기억처럼 보일 수는 있어도 의식, 영혼, 판단은 아닙니다.
AI 버전의 고인과 대화하는 것은 항상 해로운가요?
항상 그렇지는 않습니다. 명확히 표시되고 제한된 사용은 기억 정리에 도움이 될 수 있습니다. 하지만 인간 지원을 대체하거나 부정을 심화하면 위험합니다.
고인의 개인 메시지를 업로드해도 되나요?
동의, 사생활, 가족 영향, 삭제 규칙을 검토한 뒤에만 해야 합니다. 확신이 없다면 명시적으로 허락된 적은 양의 기억만 쓰는 편이 낫습니다.
아이들이 사용해도 되나요?
위험이 큽니다. 아이들은 추모 시뮬레이션과 실제 고인을 구분하기 어려울 수 있습니다. 기억책, 가족 이야기, 상담을 먼저 고려하세요.
AI가 고인이 절대 하지 않을 말을 하면 어떻게 하나요?
계시가 아니라 생성 오류로 봐야 합니다. 예시를 저장하고, 가능하면 수정하거나 삭제하며, 고통스럽다면 사용을 중단하세요.
음성 복제는 안전하게 쓸 수 있나요?
명시적 동의, 표시, 제한된 접근, 강한 사기 방지 규칙이 있을 때만 가능합니다. 본인 확인, 결제, 긴급 요청에는 쓰면 안 됩니다.
언제 전문가 도움을 받아야 하나요?
일상 기능이 무너지고, 수면이나 식사가 오래 어렵고, 완전히 고립되고, 물질 사용이 늘고, 자살 생각을 말하거나, AI 사용 뒤 고통이 깊어질 때입니다.
권위 있는 자료
- World Health Organization, ICD-11 entry for prolonged grief disorder: https://icd.who.int/browse/2025-01/mms/en#1183832314
- American Psychiatric Association, DSM-5-TR update on prolonged grief disorder: https://www.psychiatry.org/patients-families/prolonged-grief-disorder
- NIH PubMed Central, "Prolonged grief disorder in ICD-11 and DSM-5-TR": https://pmc.ncbi.nlm.nih.gov/articles/PMC10291380/
- FTC consumer alert on AI voice cloning and family emergency scams: https://consumer.ftc.gov/consumer-alerts/2023/03/scammers-use-ai-enhance-their-family-emergency-schemes
- NIST AI 100-4, "Reducing Risks Posed by Synthetic Content": https://www.nist.gov/publications/reducing-risks-posed-synthetic-content-overview-technical-approaches-digital-content
- Hollanek and Nowaczyk-Basinska, "Griefbots, Deadbots, Postmortem Avatars: on Responsible Applications of Generative AI in the Digital Afterlife Industry": https://link.springer.com/article/10.1007/s13347-024-00744-w