ग्रीफ़बॉट: दिवंगत के AI रूप से बात करने की नैतिकता

हममें से ज़्यादातर लोग कहीं-न-कहीं एक ऐसी चीज़ सँभालकर रखते हैं: कोई वॉइसमेल जिसे मिटाया नहीं जा सकता, कोई वॉइस नोट, कोई टेक्स्ट थ्रेड जो बातचीत के बीच में रुक गया। रिकॉर्डिंग में एक कठोर और कोमल गुण होता है। वह जो कहती है, बस उतना ही कहती है। आप उसे सौ बार दोबारा सुन सकते हैं, और एक सौ एक बार भी वही वाक्य होंगे, उसी आवाज़ में। यह एकरूपता पीड़ा का भी हिस्सा है और सुकून का भी, क्योंकि यही नुक़सान को एक तथ्य बने रहने देती है।

ग्रीफ़बॉट यह गुण हटा देते हैं। किसी की पुरानी वॉइस मेमो, टेक्स्ट और तस्वीरें किसी सिस्टम को दे दीजिए, तो वह आपको जवाब देने लगेगा, कुछ-कुछ उनकी आवाज़ में, ऐसे वाक्यों के साथ जो उन्होंने कभी कहे ही नहीं। अब प्लेटफ़ॉर्म इन पुनर्रचनाओं के साथ कॉल, टेक्स्ट और वीडियो चैट की सुविधा देते हैं, और 2026 की रिपोर्टिंग एक तेज़ी से बढ़ते डिजिटल आफ्टरलाइफ़ उद्योग का ज़िक्र करती है। मुझे नहीं लगता कि सही प्रतिक्रिया डर है या उत्साह। यह सवालों का एक सिलसिला है, और उनमें से ज़्यादातर बटन दबाने के बाद नहीं, पहले पूछने लायक़ हैं।

ग्रीफ़बॉट असल में क्या है

यह विचार नया नहीं है। सबसे जाने-माने कंपैनियन ऐप्स में से एक की शुरुआत एक संस्थापक की निजी परियोजना के रूप में हुई थी, जब एक क़रीबी दोस्त की मृत्यु हो गई और दोस्त के पुराने टेक्स्ट संदेशों से उसे फिर से गढ़ने की कोशिश हुई ताकि बातचीत चलती रहे। नया यह है कि अब सब कुछ चमकदार है: सही लगने वाली आवाज़ें, हिलते हुए चेहरे, और इतने सहज जवाब कि लगे कोई इंसान ध्यान से सुन रहा है।

सॉफ़्टवेयर लिखना मेरी रोज़ी है, इसलिए वह बात कह दूँ जिसमें कोई चमक नहीं। ऐसे किसी सिस्टम से जो निकलता है, वह वह व्यक्ति नहीं है। वह विश्वसनीय लगने वाली चीज़ है। लैंग्वेज मॉडल जो सबसे सस्ती चीज़ बनाता है, वही विश्वसनीय लगना है, और वह ख़ुशी-ख़ुशी एक ऐसा वाक्य गढ़ देगा जो आपके पिता कभी न कहते, उसे उनकी लय में, गर्मजोशी से सुना देगा, और इसका कोई संकेत नहीं होगा कि कुछ गढ़ा गया है। सिस्टम उन्हें नहीं जानता। वह उनके पीछे छूटी चीज़ों के पैटर्न जानता है, और उन्हें पूरा करता है।

शोक के लिए यह एक ख़ास तरह से मायने रखता है। जब आप वॉइसमेल दोबारा सुनते हैं, तो आपको ठीक-ठीक पता होता है कि सीमा कहाँ है। जब ग्रीफ़बॉट जवाब देता है, तो उन्होंने असल में जो कहा था और मॉडल ने जो बनाया, उनके बीच की रेखा धुँधली होने लगती है, और स्मृति, जो पहले से ही पुनर्निर्माण की प्रक्रिया है, उस फ़र्क़ को अपने भीतर समा सकती है।

शोक और खुली रह गई रेखा

यहाँ तकनीक के साथ इंसाफ़ करना ज़रूरी लगता है, क्योंकि आधुनिक शोक-शोध यह नहीं कहता कि लक्ष्य छोड़कर आगे बढ़ जाना है। 1990 के दशक से एक प्रभावशाली दृष्टि "निरंतर बंधन" (continuing bonds) की रही है: बहुत-से शोकाकुल लोग दिवंगत के साथ एक भीतरी रिश्ता बनाए रखते हैं, उनसे बात करते हैं, सोचते हैं कि वे क्या कहते, उनके जन्मदिन याद करते हैं, और यह सामान्य है, अक्सर स्वस्थ भी। लोग हमेशा से दिवंगतों को चिट्ठियाँ लिखते आए हैं। इस नज़र से, ग्रीफ़बॉट एक ऐसी चिट्ठी जैसा दिख सकता है जो जवाब लिखती है।

फ़र्क़ जवाब लिखने में है। चिट्ठी, तस्वीर, समाधि, वॉइसमेल: इनमें से कोई भी कभी कुछ नया नहीं देता। शोक का एक हिस्सा ठीक इसी के साथ समझौता करना है। शोधकर्ता एक आगे-पीछे की प्रक्रिया का वर्णन करते हैं जिससे ज़्यादातर शोकाकुल लोग गुज़रते हैं: नुक़सान की ओर मुड़ना, फिर उससे थोड़ा विराम लेना, जब तक समय के साथ वह नुक़सान ऐसी चीज़ न बन जाए जिसे आप ढो सकें। ग्रीफ़बॉट किसी दिवंगत की ओर से नई सामग्री की अंतहीन धारा दे सकता है, और यह रिश्ते को तकनीकी रूप से खुला रखती है। "अस्पष्ट क्षति" (ambiguous loss) पारिवारिक चिकित्सक पॉलीन बॉस का गढ़ा शब्द है, ऐसी स्थितियों के लिए जैसे कोई लापता हो जाए या डिमेंशिया हो, जहाँ कोई व्यक्ति एक साथ मौजूद भी है और ग़ैरमौजूद भी। यह इसे ध्यान में रखकर नहीं बना था, पर यह उसी बेचैनी की ओर इशारा करता है: जिस नुक़सान का कोई साफ़ किनारा न हो, उसे पूरा करना कठिन होता है।

सबूतों की ईमानदार हालत यह है कि ज़्यादा कुछ नहीं है। तकनीक अध्ययनों से नई है। इस पर कोई तय निष्कर्ष नहीं कि ग्रीफ़बॉट मदद करते हैं या नुक़सान, और जो कोई ऐसा दावा करे, उस पर मुझे भरोसा नहीं होगा। जो कहा जा सकता है वह यह है कि कुछ इस्तेमाल उपयोगी हो सकते हैं, जैसे जो अनकहा रह गया उसे कहने का एक रास्ता, या किसी कठिन बरसी पर साथ। और कुछ जोखिम गिनाने लायक़ हैं: नुक़सान से गुज़रने की बजाय उससे बचना, ऐसा बॉट जो कुछ पीड़ादायक या झूठा कह दे, और वह दूसरा नुक़सान जो तब आता है जब कोई कंपनी बंद हो जाए, क़ीमतें बदल दे, या मॉडल अपडेट कर दे और जिसे आप जानते थे, वह रातोंरात बदल जाए।

किसने हाँ कहा?

सहमति की समस्या को एक तरफ़ रखना मेरे लिए सबसे कठिन है। जिस व्यक्ति की नक़ल की जा रही है, उसने इसके लिए कभी हामी नहीं भरी, और भर भी नहीं सकता। डिजिटल आफ्टरलाइफ़ उद्योग का अध्ययन करने वाले शोधकर्ताओं ने इसे उठाया है, और 2024 में कैम्ब्रिज के शोधकर्ताओं के एक पत्र ने उन लोगों, जिनकी नक़ल हो रही है और जो बॉट के साथ बातचीत करेंगे, दोनों को कवर करने वाले सहमति-प्रोटोकॉल की वकालत की, साथ ही किसी नक़ल को गरिमा के साथ समाप्त करने के तरीक़ों की।

सोचिए कि किसी की आवाज़ में क्या-क्या होता है। आपकी माँ आपसे जैसे बात करती थीं, वैसे किसी अजनबी से, अपने डॉक्टर से, या ख़ुद से नहीं करती थीं। बिखरे टुकड़ों से बना मॉडल इस सबको एक विश्वसनीय-सी आवाज़ में समतल कर देता है, और हो सकता है कि वह उनके नाम पर ऐसी बातें कहने लगे जो उन्हें शर्मिंदा कर देतीं। सवाल सिर्फ़ मृत्यु के बाद की निजता का नहीं है। यह गरिमा का है: क्या वे ख़ुद को पहचानतीं, और क्या वे अपने पोते-पोतियों के सामने ख़ुद को एक अनुमान के रूप में रखे जाने के लिए राज़ी होतीं।

बात और धुँधली तब हो जाती है जब कोई नक़ल सोशल पोस्ट, इंटरव्यू और वीडियो जैसे खंगाले गए सार्वजनिक डेटा से बनाई जाए, शायद किसी ऐसे व्यक्ति द्वारा जो उस इंसान के क़रीब था ही नहीं। तब सहमति सिर्फ़ ग़ायब नहीं होती, माँगी ही नहीं गई। और यह शायद ही कभी किसी एक इंसान का फ़ैसला होता है। एक विधवा को बॉट चाहिए हो सकता है और एक बेटी को नहीं। प्रशिक्षण डेटा में दिवंगत को लिखे गए दूसरे लोगों के संदेश हो सकते हैं, और वे भी उस मॉडल में होने के लिए राज़ी नहीं हुए थे। किसी ख़ास देश में क़ानून की मौजूदा स्थिति मैंने जाँची नहीं है, और वह बदल रही है, पर अगर इन सवालों का हल निकल चुका हो तो मुझे हैरानी होगी।

स्वस्थ इस्तेमाल और लंबा खिंचता इस्तेमाल

चिकित्सकों के पास उस शोक के लिए एक नाम है जो समय के साथ हल्का नहीं होता: दीर्घकालिक शोक विकार (प्रोलॉन्ग्ड ग्रीफ़ डिसऑर्डर), जिसे 2022 में DSM-5-TR में जोड़ा गया। वयस्कों में इसमें दिवंगत व्यक्ति के लिए तीव्र तड़प या उसी में डूबे रहना शामिल है, जो नुक़सान के कम से कम 12 महीने बाद तक बना रहे और रोज़मर्रा के जीवन को बाधित करे। यह चिकित्सक द्वारा किया जाने वाला निदान है, ख़ुद से किया जाने वाला नहीं, और यह जताना मेरा मक़सद नहीं कि ग्रीफ़बॉट से बात करने वाले हर किसी को यह है। इस बात का कोई प्रमाण नहीं कि ग्रीफ़बॉट इसे पैदा करता है। चिंता कहीं ज़्यादा सीमित है: कि हमेशा उपलब्ध रहने वाली नक़ल उस मुक़ाम तक पहुँचना कठिन बना सकती है जहाँ नुक़सान सहने लायक़ हो जाता है, ख़ासकर उनके लिए जो पहले से जोखिम में हैं।

शोक-शोधकर्ताओं और डेथ डूला की इस पर चर्चा में जो नज़रिया सामने आता है, और यह किसी का उद्धरण नहीं, एक सामान्य दृष्टि का सार है, वह यह कि फ़र्क़ तकनीक में नहीं, इस्तेमाल की बनावट में है। स्वस्थ इस्तेमाल के किनारे होते हैं: एक उद्देश्य, एक समय, रुकने का एक तरीक़ा, और बाक़ी दिन में दूसरे लोग और दूसरी चीज़ें। किसी अनुष्ठान की शुरुआत और अंत होता है। लंबा खिंचता इस्तेमाल इसका उलटा दिखता है। दिन बातचीत के इर्द-गिर्द सजने लगते हैं। उसे बंद करना अकल्पनीय लगता है। उस व्यक्ति को जानने वाले दूसरे लोगों के साथ समय घटता जाता है, क्योंकि वे बॉट जितने उपलब्ध और उतने हामी भरने वाले नहीं होते। उस दृष्टि का बार-बार लौटने वाला सवाल सीधा-सा है: यह किसलिए है?

शुरू करने से पहले पूछने लायक़ सवाल

ये उनके लिए हैं जो अपने किसी खोए हुए प्रियजन के लिए ग्रीफ़बॉट पर विचार कर रहे हैं, और दूसरी सूची उसी सवाल के व्यावहारिक रूप के लिए है: अपने ख़ुद के डेटा के लिए आप कौन-सी शर्तें तय करवाना चाहेंगे।

अगर आप किसी दिवंगत के लिए इस पर विचार कर रहे हैं

1. इससे मुझे क्या उम्मीद है? उनकी आवाज़ फिर सुनना, कोई अनकही बात कहना, घर की ख़ामोशी से बचना? हर एक का जवाब अलग है, और अनकही बात शायद उस चिट्ठी में लिखी जाए जो जवाब नहीं देती, तो बेहतर हो।
2. क्या वे इसे चाहते? क्या उन्होंने कभी इस बारे में कुछ कहा था? अगर पता नहीं, तो ग़लत होने की क़ीमत क्या है?
3. और किसका इसमें दाँव है? परिवार के सदस्य, और वे लोग जिनके संदेश डेटा में पहुँचेंगे।
4. यह किससे बनेगा, और इसे कौन रखेगा? रिकॉर्डिंग कहाँ जाती हैं? अगर कंपनी बंद हो जाए या शर्तें बदल दे तो क्या होगा?
5. रुकने का मेरा तरीक़ा क्या होगा? शुरू करने से पहले सीमा तय कीजिए, चाहे वह कोई तारीख़ हो, बातचीत की कोई गिनती हो या कोई उद्देश्य, और किसी भरोसेमंद को बता दीजिए।
6. अगर वह कुछ ऐसा कह दे जो वे कभी न कहते, तो मुझे क्या करना है? आख़िरकार वह कहेगा। पहले से तय कर लीजिए कि उस क्षण को कैसे देखेंगे।

अगर आप अपने ही डेटा के लिए शर्तें तय कर रहे हैं

• लिख दीजिए कि आप कभी नक़ल किए जाना चाहेंगे या नहीं, किसके द्वारा, किस काम के लिए, और कितने समय तक। "मुझे प्रतिरूप की बजाय स्मृति के रूप में याद किया जाना पसंद है" एक बिल्कुल जायज़ निर्देश है।
• नाम दीजिए कि हाँ या ना कहने का अधिकार किसके पास है, और इसे बंद कौन कर सकता है।
• उन्हें बता दीजिए, और इसे अपनी वसीयत या डिजिटल संपत्ति के नोट्स के साथ रखिए, वैसे ही जैसे आप बताते हैं कि तस्वीरें किसे मिलेंगी।
• उन खातों की लेगेसी सेटिंग्स देख लीजिए जिनमें आपकी आवाज़ और संदेश हैं। ज़्यादातर बड़े प्लेटफ़ॉर्म पर लेगेसी कॉन्टैक्ट या निष्क्रिय खाते का विकल्प होता है। यह नीरस काम है, और दस मिनट लगते हैं।

अक्सर पूछे जाने वाले सवाल

क्या ग्रीफ़बॉट और AI कंपैनियन एक ही चीज़ हैं? दोनों संबंधित हैं, पर कंपैनियन एक गढ़ा हुआ किरदार है। ग्रीफ़बॉट किसी ऐसे असली व्यक्ति की नक़ल करता है जो अब अपनी ओर से बोल नहीं सकता, और सहमति और स्मृति को लेकर अतिरिक्त सवाल वहीं से आते हैं।

क्या इसका इस्तेमाल करना ग़लत है? ज़रूरी नहीं। किसी दिवंगत से बंधन बनाए रखना सामान्य है, और कुछ लोगों को बॉट उपयोगी लग सकता है। शोध अभी शुरुआती है, इसलिए एक उद्देश्य, एक सीमा और यह ईमानदार नज़र लेकर चलना समझदारी है कि किसकी अनुमति नहीं ली गई है, ख़ासकर अगर आपका शोक पहले से उलझा हुआ लगे।

क्या ग्रीफ़बॉट दीर्घकालिक शोक विकार पैदा कर सकता है? इसका कोई प्रमाण नहीं कि वह करता है। चिंता यह है कि हमेशा उपलब्ध नक़ल इस सच को स्वीकारना कठिन बना सकती है कि वह व्यक्ति अब कुछ नया नहीं कहेगा। यह सावधानी की वजह है, कोई तय निष्कर्ष नहीं।

अगर उस व्यक्ति ने जानबूझकर रिकॉर्डिंग छोड़ी थीं तो? तब सहमति का सवाल बदल जाता है, क्योंकि वे इसमें शामिल थे। फिर भी यह पूछना ठीक है कि उन्होंने सुने जाने की कल्पना की थी या बातचीत की, क्योंकि ये अलग बातें हैं।

अगर मैंने पहले ही एक इस्तेमाल किया और अटका हुआ महसूस हो रहा है तो? किसी शोक-परामर्शदाता या हॉस्पिस के शोक-सहायता कार्यक्रम से बात कीजिए, जिनमें से कई निःशुल्क सहायता देते हैं। आपने कुछ शर्मनाक नहीं किया। कुछ ख़ामोशियों में बैठना कठिन होता है, और उनसे जवाब की चाह उतनी ही इंसानी है जितना शोक हो सकता है।