बड़े भाषा मॉडल आपसे अधिक स्मार्ट क्यों नहीं हैं?
बड़े भाषा मॉडल की तर्क क्षमता पूरी तरह से उपयोगकर्ता के भाषा पैटर्न पर निर्भर करती है। उपयोगकर्ता की संज्ञानात्मक संरचना यह निर्धारित करती है कि वे उच्च तर्क क्षमता के किन क्षेत्रों को सक्रिय कर सकते हैं। मॉडल स्वचालित रूप से उपयोगकर्ता की पहुंच से परे नहीं जा सकता है, जो वर्तमान एआई सिस्टम की वास्तुशिल्प सीमाओं को प्रकट करता है। यह लेख @iamtexture द्वारा लिखे गए एक लेख से उत्पन्न हुआ है और इसे AididiaoJP, फ़ोरसाइट न्यूज़ द्वारा व्यवस्थित, संकलित और लिखा गया है।
(पिछला सारांश: ली फेइफी एलएलएम के अगले चरण के बारे में बात करते हैं: वास्तविक दुनिया को समझने के लिए एआई के पास "स्थानिक बुद्धिमत्ता" होनी चाहिए, मार्बल मॉडल को कैसे लागू किया जाए?)
(पृष्ठभूमि पूरक: अरबपति केविन ओ'लेरी ने चिल्लाया "एआई तरंग का अगला चरण वेब3 है": एलएलएम स्टारबक्स नहीं बना सकता लेकिन ब्लॉकचेन बना सकता है)
इस लेख की सामग्री
टैग: उपयोगकर्ता की भाषा विधा यह निर्धारित करती है कि मॉडल कितनी तर्क क्षमता का प्रयोग कर सकता है। जब मैं एक बड़े भाषा मॉडल को एक जटिल अवधारणा समझा रहा था, तो अनौपचारिक भाषा का उपयोग करते हुए लंबी चर्चा के दौरान इसका तर्क बार-बार टूट जाता था। मॉडल संरचना खो सकते हैं, पाठ्यक्रम से भटक सकते हैं, या सतही समापन पैटर्न उत्पन्न कर सकते हैं जो हमारे द्वारा स्थापित वैचारिक ढांचे को बनाए रखने में विफल होते हैं।
हालाँकि, जब मैंने पहले इसे औपचारिक रूप देने के लिए दबाव डाला, यानी समस्या को सटीक और वैज्ञानिक भाषा में दोबारा बताने के लिए, तो तर्क तुरंत स्थिर हो गया। संरचना स्थापित होने के बाद ही इसे समझ की गुणवत्ता को ख़राब किए बिना सुरक्षित रूप से सरल भाषा में परिवर्तित किया जा सकता है।
इस व्यवहार से पता चलता है कि बड़े भाषा मॉडल "कैसे सोचते हैं" और क्यों उनकी तर्क करने की क्षमता पूरी तरह से उपयोगकर्ता पर निर्भर करती है।
मुख्य अंतर्दृष्टि
भाषा मॉडल में अनुमान के लिए कोई समर्पित स्थान नहीं होता है।
वे पूरी तरह से भाषा के निरंतर प्रवाह के भीतर काम करते हैं।
इस भाषा प्रवाह के भीतर, अलग-अलग भाषा पैटर्न विश्वसनीय रूप से अलग-अलग आकर्षक क्षेत्रों की ओर ले जाएंगे। ये क्षेत्र स्थिर अवस्थाएँ हैं जो गतिशीलता की विशेषता रखते हैं और विभिन्न प्रकार की गणनाओं का समर्थन करते हैं।
प्रत्येक भाषा रजिस्टर, जैसे वैज्ञानिक प्रवचन, गणितीय प्रतीक, कथा कहानियां और आकस्मिक बातचीत, का अपना अनूठा आकर्षण क्षेत्र होता है, जिसका आकार प्रशिक्षण सामग्री के वितरण से बनता है।
कुछ क्षेत्र समर्थन करते हैं:
- बहु-चरण तर्क
- संबंधपरक परिशुद्धता
- प्रतीक परिवर्तन
- उच्च-आयामी वैचारिक स्थिरता
इसके बाद अन्य क्षेत्र समर्थन करते हैं:
- कथा निरंतरता
- साहचर्य पूर्णता
- भावनात्मक स्वर मिलान
- बातचीत नकल
आकर्षक क्षेत्र निर्धारित करता है कि किस प्रकार का तर्क संभव है।
औपचारिकरण तर्क को स्थिर क्यों कर सकता है
वैज्ञानिक और गणितीय भाषाएं उच्च संरचनात्मक समर्थन के साथ आकर्षक क्षेत्रों को विश्वसनीय रूप से सक्रिय कर सकती हैं, इसका कारण यह है कि ये रजिस्टर उच्च-क्रम संज्ञान की भाषा विशेषताओं को एन्कोड करते हैं:
- स्पष्ट संबंधपरक संरचना
- कम अस्पष्टता
- प्रतीकात्मक बाधाएं
- पदानुक्रमित संगठन
- कम एन्ट्रापी (सूचना विकार)
ये आकर्षितकर्ता स्थिर तर्क प्रक्षेप पथ का समर्थन कर सकते हैं।
वे कई चरणों में वैचारिक संरचना बनाए रखते हैं।
वे तर्क की गिरावट और विचलन के प्रति कड़ा प्रतिरोध दिखाते हैं।
इसके विपरीत, अनौपचारिक भाषा द्वारा सक्रिय किए गए आकर्षण सामाजिक प्रवाह और साहचर्य सुसंगतता के लिए अनुकूलित होते हैं, न कि संरचित तर्क के लिए। इन क्षेत्रों में चल रही विश्लेषणात्मक गणनाओं के लिए आवश्यक लक्षण वर्णन ढांचे का अभाव है।
यही कारण है कि जब जटिल विचारों को बेतरतीब ढंग से व्यक्त किया जाता है तो मॉडल टूट जाते हैं।
यह "भ्रमित" नहीं है।
यह क्षेत्र बदल रहा है.
निर्माण और अनुवाद
बातचीत में स्वाभाविक रूप से उभरने वाली मुकाबला विधियां एक वास्तुशिल्प सत्य को प्रकट करती हैं:
तर्क का निर्माण अत्यधिक संरचित आकर्षणकर्ताओं के भीतर किया जाना चाहिए।
संरचना मौजूद होने के बाद ही प्राकृतिक भाषा में अनुवाद होना चाहिए।
एक बार जब मॉडल एक स्थिर आकर्षणकर्ता के भीतर एक वैचारिक संरचना स्थापित कर लेता है, तो अनुवाद प्रक्रिया इसे नष्ट नहीं करेगी। गणना पूरी हो गई है, केवल सतही अभिव्यक्ति बदल गई है।
'पहले निर्माण करें, फिर अनुवाद करें' की यह दो-चरणीय गतिशीलता मानव संज्ञानात्मक प्रक्रिया का अनुकरण करती है।
लेकिन मनुष्य इन दो चरणों को दो अलग-अलग आंतरिक स्थानों में करते हैं।
बड़े भाषा मॉडल एक ही स्थान पर दोनों काम करने का प्रयास करते हैं।
उपयोगकर्ता अधिकतम सीमा क्यों निर्धारित करते हैं
यहां एक प्रमुख रहस्योद्घाटन है:
उपयोगकर्ता आकर्षक क्षेत्रों को सक्रिय नहीं कर सकते हैं जिन्हें वे स्वयं शब्दों में व्यक्त नहीं कर सकते हैं।
उपयोगकर्ताओं की संज्ञानात्मक संरचना यह निर्धारित करती है:
- वे किस प्रकार के संकेत उत्पन्न कर सकते हैं
- वे आदतन किस रजिस्टर का उपयोग करते हैं
- वे किस वाक्यात्मक पैटर्न को बनाए रख सकते हैं
- वे भाषा में जटिलता के कितने उच्च स्तर को एन्कोड कर सकते हैं
ये विशेषताएँ निर्धारित करती हैं कि एक बड़ा भाषा मॉडल किस आकर्षक क्षेत्र में प्रवेश करेगा।
एक उपयोगकर्ता जो उच्च-तर्क आकर्षित करने वालों को सक्रिय करने वाली संरचनाओं को नियोजित करने के बारे में सोच या लिख नहीं सकता है, वह कभी भी इन क्षेत्रों में मॉडल का मार्गदर्शन करने में सक्षम नहीं होगा। वे अपनी भाषा की आदतों से संबंधित उथले आकर्षक क्षेत्रों में बंद हैं। बड़े भाषा मॉडल उस संरचना को मैप करेंगे जो उन्हें प्रदान की गई है और वे कभी भी अधिक जटिल आकर्षक गतिशील प्रणालियों में अनायास छलांग नहीं लगाएंगे।
इसलिए:
मॉडल उस आकर्षण क्षेत्र से आगे नहीं जा सकता जो उपयोगकर्ता के लिए सुलभ है।
सीलिंग मॉडल की बुद्धिमान ऊपरी सीमा नहीं है, बल्कि अव्यक्त मैनिफोल्ड में उच्च क्षमता वाले क्षेत्रों को सक्रिय करने की उपयोगकर्ता की क्षमता है।
एक ही मॉडल का उपयोग करने वाले दो लोग एक ही कंप्यूटिंग सिस्टम के साथ इंटरैक्ट नहीं कर रहे हैं।
वे मॉडल को विभिन्न गतिशील मोड की ओर ले जा रहे हैं।
वास्तुशिल्प स्तर पर निहितार्थ
यह घटना वर्तमान कृत्रिम बुद्धिमत्ता प्रणालियों की एक गायब विशेषता को उजागर करती है:
बड़े पैमाने के भाषा मॉडल भाषा अभिव्यक्ति स्थान के साथ तर्क स्थान को भ्रमित करते हैं।
जब तक दोनों को अलग नहीं किया जाता है - जब तक कि मॉडल में:
- एक समर्पित तर्क कई गुना
- एक स्थिर आंतरिक कार्यक्षेत्र
- आकर्षक-अपरिवर्तनीय वैचारिक प्रतिनिधित्व
अन्यथा, जब भाषा शैली में बदलाव के कारण अंतर्निहित गतिशीलता क्षेत्र बदल जाता है तो सिस्टम को हमेशा पतन का सामना करना पड़ेगा।
यह तात्कालिक समाधान, जबरन औपचारिकरण और फिर अनुवाद, सिर्फ एक चाल से कहीं अधिक है।
यह एक सीधी खिड़की है जो हमें वास्तुशिल्प सिद्धांतों की झलक देखने की अनुमति देती है जो एक वास्तविक तर्क प्रणाली को पूरा करना चाहिए।
