लोग वित्तीय सलाह के लिए AI चैटबॉट से पूछ रहे हैं — किस पर भरोसा करें

मैं बड़े लैंग्वेज मॉडल्स के ऊपर सिस्टम बनाने का काम करता हूँ, जिसका मतलब है कि मैं काफ़ी समय ऐसी चीज़ों के बारे में उन्हें बेहद भरोसेमंद ढंग से बोलते देखने में बिताता हूँ जो बाद में ग़लत निकलती हैं। किसी साफ़ तरीक़े से ग़लत नहीं — बल्कि धाराप्रवाह, सुव्यवस्थित, फ़ुटनोट जैसी दिखने वाली ग़लती, जो बिल्कुल वैसी ही पढ़ी जाती जैसी सही जवाब पढ़ी जाती। वह अनुभव इस बात को रंग देता है कि मैं पैसों की सलाह के लिए चैटबॉट से पूछने की बढ़ती आदत के बारे में कैसे सोचता हूँ, क्योंकि इसका नाकामी वाला तरीक़ा यह नहीं है कि मॉडल कुछ न जानने पर चुप हो जाए। बल्कि यह है कि वह फिर भी जवाब देता है, ठीक उसी भरोसे वाली आवाज़ में जिसे वह तब इस्तेमाल करता है जब उसे सचमुच पता होता है।

बहुत से लोग अब यही कर रहे हैं। इधर-उधर पूछिए तो आपको ऐसे दोस्त मिलेंगे जिन्होंने चैटबॉट से रॉथ कन्वर्ज़न समझाने को कहा, बजट की जाँच करवाई, या यह सोच-विचार किया कि फ़र्क़ को निवेश करने के बजाय क़र्ज़ जल्दी चुका दें। यह समझ में आता है। विकल्प — एक भुगतान वाला सलाहकार, एक तय कॉल, एक फ़ीस — धीमा है और अक्सर ऐसे सवाल के मुक़ाबले असंगत लगता है जिसे टाइप करने में तीस सेकंड लग सकते हैं। पूछने लायक सवाल यह नहीं कि लोग यह करते रहेंगे या नहीं। वे करेंगे। सवाल यह है कि क्या उन्हें पता है कि जवाब के किन हिस्सों पर भरोसा करना है।

सर्वे और शुरुआती शोध असल में क्या दिखाते हैं

इस पर इंडस्ट्री सर्वे काफ़ी हद तक एक जैसे हैं: पिछले साल में एक बड़ी और बढ़ती हुई तादाद के वयस्कों ने पैसे के सवाल के लिए एक जनरल-पर्पस AI चैटबॉट की ओर रुख़ किया है, "401(k) मैच कैसे काम करता है" से लेकर "क्या मुझे रीफ़ाइनेंस करना चाहिए" तक हर तरह के सवाल के लिए। यह अब कोई अलग-थलग व्यवहार नहीं है; यह डिफ़ॉल्ट पहला पड़ाव बनता जा रहा है, कुछ लोगों के लिए सर्च इंजन से भी आगे और लगभग सबके लिए एक इंसानी सलाहकार से आगे, बस इसलिए क्योंकि वहाँ तक पहुँचना तेज़ है।

सलाह असल में कितनी अच्छी है, इस पर शोध उससे कहीं ज़्यादा परतदार कहानी बताता है जितनी आम तौर पर उत्साही लोग या शक करने वाले लोग मानते हैं। AI-जनित वित्तीय सलाह से नतीजों का अनुकरण करने वाले शुरुआती अकादमिक काम में पाया गया है कि यह व्यापक, सामान्य सवालों पर उचित रूप से अच्छा प्रदर्शन करता है — वैसे सवाल जिनका पाठ्यपुस्तक जैसा जवाब हो, जो किसी ख़ास व्यक्ति की स्थिति पर बहुत ज़्यादा निर्भर न करे। एक जगह जमा करने के बजाय विविधता लाएँ। अतिरिक्त निवेश से पहले एक आपातकालीन फंड आता है। चक्रवृद्धि ब्याज जल्दी शुरू करने का इनाम देता है। इस ज़मीन पर, मॉडल एक बहुत बड़े, अच्छी तरह स्थापित वित्तीय लेखन के भंडार से सामग्री खींच रहे होते हैं, और वे इसे सक्षमता से दोहराते हैं।

फ़ासला कहीं और दिखता है। जिन वित्तीय सलाहकारों और शोधकर्ताओं ने इन टूल्स को सीधे तनाव-परीक्षण किया है — पाठ्यपुस्तक जैसे सवालों के बजाय उन्हें असली, ख़ास परिस्थितियाँ देकर — वे लगातार एक अलग बात बताते हैं: मॉडल इतनी बार भरोसे के साथ ग़लत होते हैं कि इंसानी जाँच वैकल्पिक नहीं रह जाती। ऐसी ग़लती नहीं जो ख़ुद अपने बारे में बता दे। ऐसी ग़लती जो सही जवाब जितनी ही आधिकारिक सुनाई देती है।

AI चैटबॉट किन चीज़ों में भरोसे के साथ अच्छे हैं

यहाँ सामान्य शक की डिफ़ॉल्ट स्थिति में जाने के बजाय स्पष्ट होना ज़रूरी है, क्योंकि ये टूल वित्तीय सवालों के एक सच्चे उप-हिस्से के लिए सचमुच उपयोगी हैं।

ये अवधारणाएँ समझाने में अच्छे हैं। अगर आपको नहीं पता कि मार्जिनल टैक्स ब्रैकेट का असल मतलब क्या है, या एक इंडेक्स फंड का ख़र्च अनुपात एक साल के मुक़ाबले तीस साल में क्यों इतना ज़्यादा मायने रखता है, तो एक चैटबॉट आपको जितनी बारीकी में आप माँगें, उतनी बारीकी में, धैर्य से समझाएगा, बिना उस हल्की शर्मिंदगी के जो किसी इंसान से बात दोहराने को कहने में होती है। यह एक असली सेवा है। बहुत सारी वित्तीय चिंता इस बात से आती है कि शब्दावली को इतना अच्छे से न समझना कि एक तीखा सवाल भी पूछा जा सके, और एक धैर्यवान समझाने वाला, जो "रुको, फिर से बताओ" से कभी नहीं थकता, कुछ मायने रखता है।

अंकगणित और सामान्य तर्क के अर्थ में, ये परिदृश्य चलाने में अच्छे हैं। "अगर मैं इस लोन में हर महीने अतिरिक्त 200 डॉलर निवेश करने के बजाय लगाऊँ, तो यह लगभग कितना जल्दी चुक जाएगा, और अपेक्षित वृद्धि में मैं क्या खो रहा हूँगा?" यह एक ऐसी गणना है जो मॉडल साफ़-साफ़ कर सकता है, और यह तर्क को इस तरह दिखा सकता है कि आपको सिर्फ़ एक संख्या थमाने के बजाय अदला-बदली को समझने में मदद मिले।

ये किसी उलझी हुई स्थिति को व्यवस्थित करने के पहले प्रयास के रूप में अच्छे हैं। अलग-अलग दरों पर पाँच क़र्ज़ों का विवरण, या आमदनी-ख़र्च का मोटा-मोटा ख़ाका चिपकाइए, और एक चैटबॉट आपको यह देखने में मदद कर सकता है कि इसकी शक्ल क्या है — कौन-सा क़र्ज़ असल में सबसे ज़्यादा महँगा पड़ रहा है, बजट में कहाँ गुंजाइश है — एक ख़ाली स्प्रेडशीट को घूरकर आप जितनी जल्दी उसे व्यवस्थित करते उससे कहीं तेज़।

यह कहाँ टूटता है: आपकी ख़ास परिस्थिति, सामान्य नियम नहीं

नाकामियाँ एक अनुमान लगाने लायक जगह पर इकट्ठा होती हैं, और एक बार जब आप पैटर्न देख लेते हैं तो इस पर नज़र रखना आसान हो जाता है। मॉडल सामान्य नियम पर मज़बूत होते हैं और उसके आपके खाते से जुड़े ख़ास अपवाद पर कमज़ोर।

टैक्स और क़ानूनी सवाल इसकी सबसे तीखी मिसाल हैं। टैक्स क़ानून लगातार बदलता है — ब्रैकेट बदलते हैं, अलग-अलग आय सीमाओं पर छूट धीरे-धीरे ख़त्म होती है, राज्य के नियम संघीय नियमों से अलग होते हैं, और जो नियम मॉडल के प्रशिक्षण डेटा के ख़त्म होने के जिस भी बिंदु पर सही था, वह अब बस पुराना पड़ चुका हो सकता है। मॉडल को यह भरोसे के साथ पता नहीं होता कि उसके अपने ज्ञान का कौन-सा हिस्सा पुराना पड़ चुका है, और "यह पहले सच था और अब शायद न हो" यह झंडी दिखाने का उसमें कोई अंतर्निहित तंत्र नहीं है। वह दोनों ही सूरत में एक जैसे यक़ीन वाले लहजे में जवाब देता है।

खाते से जुड़ी बारीकी दूसरा नाकामी बिंदु है। सिर्फ़ रिटायरमेंट खातों में ही इतने उप-प्रकार हैं — किसी ख़ास नियोक्ता की योजना की बारीकियाँ, राज्य की पेंशन व्यवस्था, किसी पुराने नियोक्ता के पास पड़ा एक पुराना 401(k) अपने ही नियमों के साथ, अलग लाभार्थी नामांकन वाला जीवनसाथी का खाता — कि सामान्य सलाह अक्सर किसी असली खाते पर साफ़-साफ़ फ़िट नहीं बैठती। "क्या मुझे इसे रोल ओवर करना चाहिए" का जवाब देने वाला चैटबॉट उस सवाल के सामान्य संस्करण का जवाब दे रहा होता है, और सामान्य जवाब किसी ख़ास योजना के लिए, जिसकी अपनी ख़ास फ़ीस हों, ख़ास वेस्टिंग नियम हों, या ऐसा ख़ास नियोक्ता मैच ढाँचा हो जो पूरा गणित बदल दे, बिल्कुल ग़लत हो सकता है।

और एक ज़्यादा बारीक नाकामी है: मॉडल के पास यह जानने का कोई तरीक़ा नहीं है कि आपके बारे में उसे क्या नहीं पता। एक इंसानी सलाहकार पीछे के सवाल पूछता है — आपकी जोख़िम सहनशीलता के बारे में, आपकी बाक़ी संपत्तियों के बारे में, आपकी पारिवारिक स्थिति के बारे में, किसी ऐसी बात के बारे में जिसका ज़िक्र करना आपने सोचा भी न हो। एक चैटबॉट पूछे गए सवाल का, दी गई जानकारी के साथ, जवाब देता है, और आपने जो शामिल करने के बारे में सोचा ही नहीं, उस सब पर भरोसे के साथ चुप रहता है। "पूछे गए सवाल के लिए सलाह सही थी" और "आपकी असल स्थिति के लिए सलाह सही थी" के बीच का फ़ासला ठीक वही जगह है जहाँ लोगों को नुक़सान होता है।

भरोसे के साथ ग़लत होना ख़तरनाक नाकामी है, साफ़ तौर पर ग़लत होना नहीं

अगर कोई चैटबॉट वित्तीय सवालों का जवाब दिखती हुई अनिश्चितता के साथ देता — बचाव के वाक्य, चेतावनियाँ, उन हिस्सों पर चमकती चेतावनी जिनके पुराने पड़ने की सबसे ज़्यादा संभावना है — तो यह कहीं छोटी समस्या होती। असली नाकामी उससे बदतर है, क्योंकि यह भीतर से दिखाई नहीं देती। रॉथ कन्वर्ज़न आय सीमा के बारे में ग़लत जवाब बिल्कुल सही जवाब जैसा ही पढ़ा जाता है। वही धाराप्रवाह लहजा, वही साफ़ फ़ॉर्मेटिंग, वही भरोसेमंद अंत। कोई संकेत नहीं होता।

यहीं मेरी रोज़मर्रा की नौकरी असल में मतलब रखती है, किसी दिखावे के तौर पर नहीं, बल्कि एक सच्ची चेतावनी के तौर पर। मैंने इन मॉडल्स को अपने ही विशेषज्ञता के क्षेत्र में ऐसी बातों पर ग़लत होते देखा है, जो उन्हीं भरोसे के साथ कही गईं जैसे वे तब कहते हैं जब वे सही होते हैं, और उसे पकड़ पाने की इकलौती वजह यह थी कि मुझे पहले से जवाब पता था। किसी वित्तीय सवाल पर, जिसका जवाब मुझे पहले से नहीं पता — और यह ज़्यादातर लोगों पर, ज़्यादातर समय, ज़्यादातर पैसों के सवालों पर लागू होता है — कोई आंतरिक अलार्म घंटी नहीं बजती। जब मॉडल अंदाज़ा लगा रहा होता है, तब भी वह कम भरोसे के साथ नहीं बोलता। यही असली ख़तरा है, और यह "AI को काफ़ी नहीं पता" से अलग ख़तरा है। यह है "AI को यह नहीं पता कि उसे नहीं पता।"

आउटपुट को एक पहला ड्राफ़्ट मानिए, आख़िरी जवाब नहीं

काम का मानसिक मॉडल "इस पर भरोसा करो" या "भरोसा मत करो" नहीं है। यह उससे ज़्यादा क़रीब है कि आप एक ऐसे समझदार, ख़ूब पढ़े-लिखे दोस्त के साथ कैसा बर्ताव करेंगे जिसने बहुत कुछ पढ़ रखा है पर कभी आपका टैक्स रिटर्न, आपकी ख़ास 401(k) योजना का दस्तावेज़, या आपके राज्य के नियम नहीं देखे: सवाल को शक्ल देने और सामान्य ज़मीन का नक़्शा बनाने में सचमुच मददगार, पर उस इंसान का विकल्प नहीं जिसने सचमुच आपके आँकड़े देखे हों।

ठोस रूप में, इसका मतलब है AI के आउटपुट को किसी बातचीत के अंत के बजाय शुरुआती बिंदु की तरह इस्तेमाल करना — ख़ाली नज़र के बजाय सही सवाल के साथ अपने सलाहकार, अकाउंटेंट, या किसी प्राथमिक स्रोत तक पहुँचने का एक तरीक़ा। "मैं X पर विचार कर रहा हूँ, लगभग इसलिए, मेरी स्थिति के हिसाब से ख़ास तौर पर मुझसे क्या छूट रहा है?" — यह शून्य से शुरू करने के मुक़ाबले किसी इंसान के समय का कहीं बेहतर इस्तेमाल है, और यह उस चीज़ का सचमुच अच्छा इस्तेमाल है जिसमें चैटबॉट असल में अच्छा है: आपको इतना व्यवस्थित होने में मदद करना कि आप एक तीखा सवाल पूछ सकें।

एक सवालों की सूची: AI से क्या पूछें बनाम हमेशा क्या जाँचें

AI से पूछना उचित रूप से सुरक्षित:

• "[वित्तीय शब्द] का मतलब क्या है और यह क्यों मायने रखता है, समझाइए" — अवधारणा की व्याख्याएँ कम-जोख़िम वाली होती हैं क्योंकि ये आपके ख़ास आँकड़ों से बँधी नहीं होतीं।
• "क़र्ज़ जल्दी चुकाने बनाम फ़र्क़ को निवेश करने के बीच सामान्य अदला-बदली को समझाइए" — किसी अदला-बदली का तर्क और अंकगणित, अमूर्त रूप में, ऐसी चीज़ है जिसे मॉडल अच्छी तरह संभालते हैं।
• "इस ख़र्चों की सूची को श्रेणियों में व्यवस्थित करने में मेरी मदद करो" — जो जानकारी आप पहले ही दे चुके हैं उसके साथ व्यवस्था और अंकगणित के काम।
• "इस स्थिति के बारे में मुझे अपने अकाउंटेंट से क्या सवाल पूछने चाहिए?" — इंसानी बातचीत की जगह लेने के बजाय उसकी तैयारी के लिए AI का इस्तेमाल।

हमेशा किसी इंसान या प्राथमिक स्रोत से जाँचें:

• मौजूदा टैक्स वर्ष के लिए कोई भी ख़ास टैक्स आँकड़ा — एक ब्रैकेट, छूट की सीमा, योगदान की अधिकतम सीमा। ये हर साल बदलते हैं और मॉडल बिना बताए पुराना हो सकता है।
• आपकी ख़ास नियोक्ता योजना, पेंशन, या खाते के असली नियमों और फ़ीस से जुड़ी कोई भी बात, जिसे किसी जनरल-पर्पस मॉडल ने कभी नहीं देखा।
• किसी भी चीज़ पर राज्य-विशिष्ट नियम — ये बेहद अलग-अलग होते हैं और ठीक वैसी ही बारीकी है जिसे सामान्य प्रशिक्षण डेटा कम दर्शाता है।
• कोई भी एक-तरफ़ा दरवाज़ा: एक अपरिवर्तनीय रोलओवर, समय से पहले निकासी, ऐसा फ़ैसला जो अंतर्निहित मान्यता ग़लत निकलने पर महँगा या पलटना नामुमकिन हो।

आम सवाल

बुनियादी बजट बनाने में मदद के लिए AI चैटबॉट इस्तेमाल करना सुरक्षित है? आम तौर पर हाँ — बजट बनाना ज़्यादातर उन संख्याओं के साथ अंकगणित और व्यवस्था है जिन्हें आप पहले से सही जानते हैं, और यह ठीक वही तरह का काम है जिसे ये मॉडल अच्छी तरह संभालते हैं।

मुझे कैसे पता चले कि कोई जवाब जोख़िम भरे जवाबों में से एक है? एक मोटा नियम: अगर सही जवाब आज की तारीख़, आपके ख़ास खाते की बारीक शर्तों, या आपके राज्य पर निर्भर करता है, तो जब तक कोई इंसान या प्राथमिक स्रोत इसकी पुष्टि न कर दे, इसे बिना जाँचा हुआ मानिए। अगर सही जवाब पाँच साल पहले भी उतना ही सच होता और किसी भी राज्य में उतना ही सच होता, तो जोख़िम कम है।

क्या मुझे अपने असली सलाहकार से बात करते समय यह बताना चाहिए कि मैं AI इस्तेमाल कर रहा हूँ? हाँ, और ज़्यादातर सलाहकार चाहेंगे कि आप बताएँ। उन्हें यह बताना कि "मैंने X के बारे में एक चैटबॉट से पूछा और उसने Y कहा, क्या यह मेरी स्थिति के लिए सही है" उन्हें ख़ाली शुरुआती बिंदु के बजाय एक ख़ास, कारगर शुरुआती बिंदु देता है।

क्या एक इंसानी सलाहकार भी कभी-कभी ग़लत नहीं होता? हाँ, पर जिस इंसानी सलाहकार ने सचमुच आपके खाते देखे हैं वह एक अलग वजह से ग़लत होता है — आपकी ख़ास स्थिति के बारे में एक ग़लत आकलन, न कि पूरे भरोसे के साथ कहा गया कोई पुराना तथ्य। ये जोख़िम की अलग श्रेणियाँ हैं, और दूसरी को बाहर से पकड़ पाना कहीं ज़्यादा मुश्किल है।

चैटबॉट समस्या नहीं है। समस्या यह है कि उसके भरोसे को सटीकता का संकेत मान लिया जाए।