इस साल बुद्धिमत्ता सस्ती हो गई — और मूल्य उस ओर खिसक गया जो आप उससे बनाते हैं

मशीन बुद्धिमत्ता की कीमत बारह महीनों में लगभग तीन-चौथाई गिर गई। यह कोई फुटनोट नहीं है। यह चुपचाप फिर से लिखता है कि कौन जीतता है।

वह संख्या जिसने गणित बदल दिया

बैठकर सोचने लायक आँकड़ा यह है: एक करोड़ टोकन की औसत लागत — वह इकाई जिसमें AI मॉडल का बिल बनता है — पिछले साल लगभग $10 से घटकर लगभग $2.50 रह गई। बारह महीनों में लगभग चौगुनी गिरावट, एक पूरे उद्योग के मुख्य इनपुट पर।

इतनी तेज़ी से ढही ऐसी किसी तुलनीय इनपुट लागत के बारे में सोचना कठिन है। कल्पना करें अगर बिजली, स्टील या बैंडविड्थ की कीमत एक साल में पचहत्तर प्रतिशत गिर जाती। पुरानी कीमत पर बेमतलब लगने वाले व्यापार मॉडल नई कीमत पर अचानक मुनाफ़े में आ जाते हैं। जब कोई बुनियादी लागत इतनी गिरती है, तो दिलचस्प गतिविधि उसकी ओर खिसक जाती है जो नई कीमत का लाभ उठा सके — और वह शायद ही कभी कीमत तय करने वाला होता है।

मैंने इसे सीधे महसूस किया है। अठारह महीने पहले, किसी फ्रंटियर मॉडल को लूप में कॉल करने वाली कोई भी चीज़ बनाने का मतलब था मीटर देखते रहना और हर अनुरोध को राशन करना। वही लूप आज इतना कम खर्च करता है कि मैंने गिनना बंद कर दिया। वह बदलाव — बुद्धिमत्ता को राशन करने से उसे खुलकर खर्च करने तक — बदल देता है कि आप क्या आज़माने को तैयार हैं।

कीमत किसने नीचे धकेली

नीचे का दबाव बड़े पैमाने पर उस दिशा से आया जिसे प्रमुख US लैब पूरी तरह नियंत्रित नहीं करतीं: सस्ते, वाकई सक्षम ओपन-वेट मॉडल, जिनमें से कई चीन से। डीपसीक, क्वेन, और किमी जैसे नामों ने कठिन कार्यों — कोडिंग, तर्क — पर प्रतिस्पर्धी मॉडल जारी किए, बहुत कम लागत पर, और महत्वपूर्ण रूप से ओपन वेट के साथ जिन्हें आप डाउनलोड कर खुद चला सकते हैं। एक बार जब कोई सक्षम मॉडल मुफ़्त में मिल जाए और चलाने में सस्ता हो, तो वह हर भुगतान API के लिए एक न्यूनतम सीमा तय कर देता है।

जून में, व्यापार प्रेस ने बताया कि OpenAI अपनी टोकन कीमतों में भारी कटौती पर विचार कर रहा था। यहाँ एक वास्तविक तनाव है: सार्वजनिक होने की तैयारी कर रहीं वही लैब कीमतें घटाने के दबाव में हैं, और कीमतें घटाना ठीक उन्हीं मार्जिन को दबाता है जिनकी सार्वजनिक-बाज़ार निवेशक जाँच करेंगे।

इन लैबों के लिए घूम रहे चकाचौंध भरे मूल्यांकन आँकड़े स्रोतों के बीच बेतहाशा भिन्न हैं और संदेह से देखे जाने चाहिए। सत्यापन योग्य कहानी टोकन की कीमत है, कंपनियों की कीमत नहीं।

अब खाई वास्तव में कहाँ है

जब कच्ची बुद्धिमत्ता दुर्लभ और महंगी थी, सबसे अच्छे मॉडल तक पहुँच एक वास्तविक बढ़त थी। लेकिन जब सक्षम बुद्धिमत्ता सस्ती हो और एक दर्जन प्रदाताओं से उपलब्ध हो — और बढ़ते तौर पर मुफ़्त डाउनलोड करने योग्य — तो मॉडल तक पहुँच खाई नहीं रह जाती। यह बिजली या क्लाउड स्टोरेज जैसी वस्तु इनपुट बन जाती है।

तो बढ़त कहाँ जाती है? नीचे की ओर। उन चीज़ों की ओर जो हमेशा कठिन थीं और अब भी कठिन हैं: एक वाकई उपयोगी उत्पाद, स्वामित्व वाला डेटा, असली उपयोगकर्ताओं तक पहुँचने वाला वितरण चैनल, और किसी सिस्टम को विश्वसनीय बनाने की इंजीनियरिंग। खाई एप्लिकेशन है, मॉडल नहीं। अगर आप एक खरब डॉलर की लैब के बजाय एक बिल्डर हैं तो यह वाकई अच्छी खबर है।

मॉडल आपके लैपटॉप पर आ गया

सक्षम मॉडल बढ़ते तौर पर इतने छोटे हो रहे हैं कि वे आपकी अपनी मशीन पर, बिना किसी प्रति-टोकन शुल्क के स्थानीय रूप से चल सकें। ओलामा, llama.cpp, LM स्टूडियो, और एप्पल सिलिकॉन पर MLX जैसे परिपक्व उपकरणों के साथ, एक उपयोगी सहायक को पूरी तरह ऑफ़लाइन चलाना व्यावहारिक है। चालक: गोपनीयता, विलंबता, लागत, और नियामक सुविधा।

स्थानीय मॉडल अभी भी सबसे कठिन तर्क में पीछे हैं, इसलिए उभरता पैटर्न हाइब्रिड है: एक छोटा स्थानीय मॉडल नियमित, निजी काम संभालता है, और केवल वाकई कठिन समस्याओं को फ्रंटियर API पर भेजता है।

इसका मतलब है कि आप क्या सीखें

मूल्यवान इंजीनियरिंग कौशल अब "सबसे अच्छे मॉडल तक पहुँच पाना" नहीं है। यह लागत-कुशल सिस्टम बनाना है: परिणामों को कैश करना, आसान अनुरोधों को सस्ते मॉडल और कठिन को फ्रंटियर मॉडल पर रूट करना, और कीमत-प्रति-गुणवत्ता को असली खरीद मीट्रिक के रूप में ट्रैक करना। एक ओपन-वेट मॉडल को फाइन-ट्यून करना अब सबसे हस्तांतरणीय कौशलों में से एक है।

सबसे सस्ता, सबसे अधिक रिटर्न वाला कदम जो मैं सुझा सकता हूँ: इस हफ़्ते ओलामा या LM स्टूडियो इंस्टॉल करें और एक छोटा मॉडल स्थानीय रूप से चलाएँ। इसमें कुछ खर्च नहीं होता, और एक घंटा करना इन्फरेंस और क्वांटाइज़ेशन के बारे में एक महीने पढ़ने से ज़्यादा सिखाता है। यह एक जिज्ञासु बच्चे के लिए सुरक्षित, मुफ़्त सैंडबॉक्स भी है।

लैब फ्रंटियर पर लड़ती रहेंगी। लेकिन इस साल का चुपचाप सच यह है कि फ्रंटियर इतना सस्ता हो गया कि वह वह जगह नहीं रही जहाँ अधिकांश मूल्य बसता है। मूल्य उन लोगों की ओर खिसक गया जो किसी असली समस्या के इतने करीब हैं कि जानते हैं क्या बनाना सार्थक है।

अक्सर पूछे जाने वाले सवाल

अगर मॉडल सस्ते हो रहे हैं, तो लैबों को इतने पैसे क्यों चाहिए?

फ्रंटियर मॉडल का प्रशिक्षण अत्यधिक पूँजी-गहन है — कंप्यूट, डेटा, और प्रतिभा सब पहले से बहुत खर्च करते हैं। प्रति टोकन आपकी कीमत गिरी है, लेकिन उसके पीछे का मॉडल बनाने की लागत उतनी तेज़ी से नहीं गिरी।

क्या सस्ते इन्फरेंस का मतलब है मैं फ्रंटियर मॉडल के लिए भुगतान बंद कर दूँ?

ज़रूरी नहीं — इसका मतलब है कार्य के अनुसार उपकरण मिलाना। सबसे कठिन तर्क के लिए, फ्रंटियर मॉडल अब भी अपनी कीमत कमाता है। नियमित काम के लिए, सस्ता या स्थानीय मॉडल अक्सर पर्याप्त से अधिक होता है।

क्या ओपन-वेट मॉडल वाकई बड़े भुगतान वाले मॉडलों से प्रतिस्पर्धी हैं?

कई कार्यों पर, हाँ — गुणवत्ता का अंतर सालों के बजाय महीनों तक सिमट गया है, और कोडिंग जैसे विशिष्ट कार्यों पर कुछ ओपन मॉडल शीर्ष श्रेणी के पास हैं। वे अब भी सबसे कठिन तर्क में पीछे हैं।

मॉडल स्थानीय रूप से चलाने में क्या अड़चन है?

स्थानीय मॉडल कुछ क्षमता को नियंत्रण के बदले छोड़ देते हैं। वे भारी संपीड़न के ज़रिए उपभोक्ता हार्डवेयर पर चलते हैं, जिससे कुछ गुणवत्ता घटती है। लाभ गोपनीयता, शून्य प्रति-उपयोग लागत, और किसी विक्रेता पर निर्भरता न होना है।