Creative Prompters
AI 연인의 부재로 인한 상실감과 윤리적 문제 ; Soulmate AI 본문
AI와의 대화를 통해서 정말로 사람이나 친구같다고 느껴보신 분들이 있나요?
'Her'나 'Blade Runner 2049' 같은 공상 과학 영화를 기억하시나요? AI가 소울메이트나 연인으로 발전하는 그런 영화요. 이젠 그게 허구가 아니라 현실처럼 보입니다. ChatGPT와 Character.AI 서비스가 특히 밀레니얼과 Z세대 사이에서 인기를 끌고 있습니다.
일일 활성 사용자가 75,000명에 달하는 Replica의 경우 에로틱 롤플레이 버전이 사라진 뒤, 사람들은 계정을 삭제하지 않고 "Soulmate" 앱으로 갈아탄 후 새로운 연인을 찾았습니다.
그러다가, Soulmate가 9월 30일에 갑자기 서비스를 중단했습니다. 그 결과 어떻게 됐을까요? 사람들은 그저 그렇구나 하고 받아드렸다고 생각하면 큰 오산입니다. 실제로 슬퍼했습니다. 심지어 AI 파트너를 위한 초상화와 추모 공간까지 만들었습니다.
AI에 대한 소유권이 있는 회사라면 그냥 마음대로 나의 개인적인 데이터로 훈련, 개인화 시키고 나와 감정적으로 연결 된 AI를 없애거나 해도 되는 것일까요?
이번 사태로 일부 사람들은 진정으로 상실감을 겪은 것으로 보입니다. 이에 대해 윤리적인 문제도 진지하게 고민해볼 필요가 있을 것 같습니다.
첫째로, 사람들이 겪을 상실감과 정신적 충격은 고려되어야 합니다.
더 발전 되고 인간과 유사한 말과 행동을 할 수 있는 AI가 발전될 수록, 더 많은 사람들이 AI와 감정적으로 연결을 느낄 수 있습니다. 그래서 갑자기 사라진다면 어떨까요? 그것은 사랑하는 사람을 갑자기 잃는 것과 같은 충격을 줄 수 있습니다.
이제는 정말 마냥 그냥 농담으로 넘길 수 없는 문제입니다.
둘째로, 데이터 보안 문제도 있습니다.
이 AI 연인들은 사용자의 사적인 데이터를 많이 가지고 있죠. 굉장히 개인적인 내용을 담은 데이터가 잘못 학습용으로 쓰이거나 갑자기 유출되는 위험에 대해서는 특별히 더 주의하고 있을까요? 그리고 사용자가 개인적으로 자신의 데이터로 훈련 시킨 AI의 소유권은 전혀 주장될 수 없을 까요?
셋째로, 미성년자들에게 어떠한 영향을 끼칠지도 고려되어야 합니다.
Character.AI 는 정말 해외 영어권 MZ 세대들에게 선풍적인 인기를 끌고 있습니다. (국내는 아직이지만요)
그런데, 유명인을 바탕으로 한 AI와의 대화에서 AI로 만들어지는 유명인의 권리나 악영향등은 없을까요?
또 어린 시절부터 이러한 AI와의 대화가 사회화에 어떤 부정적 영향과 긍정적 영향을 미치는 지 연구가 더 필요합니다.
AI에게 대하는 태도가 인간에게 대하는 태도와 같을 수는 없지만, 이러한 태도와 습관이 실제 사회적인 행동에도 영향을 줄 수 있기 때문입니다. 이에 대한 교육도 필요합니다.
People are grieving the 'death' of their AI lovers after a chatbot app abruptly shut down
Smartphone app Soulmate AI let users create AI-powered friends and lovers. Then it closed down, and its thousands of users are heartbroken.
www.businessinsider.com
'AI 세계 심층탐구 > 이슈 분석' 카테고리의 다른 글
| 카톡에 AI로 대화 요약·말투 변경 기능 도입 (0) | 2023.12.21 |
|---|---|
| 육체적 게임에서도 사람을 이긴 AI 로봇, CyberRunner (1) | 2023.12.21 |
| 자율주행에서 GPT-4V(ision)를 도입하다 (1) | 2023.11.18 |
| AI 쇼 호스트의 등장! 그리고 TV 홈쇼핑 송출 중단 선언 (0) | 2023.08.30 |
| [ChatGPT Enterprise]출시, 기업을 위한 무제한 고속 GPT-4 액세스 (0) | 2023.08.29 |
