लेखक: बॉक्सु ली 

परिचय

हालाँकि मैकरॉन एआई की नवीनता अक्सर इसकी क्षमता को कस्टम मिनी-ऐप्स बनाने या एक सहानुभूतिपूर्ण मित्र के रूप में कार्य करने की ओर ध्यान आकर्षित करती है, इसकी असली रीढ़ एक जटिल मेमोरी इंजन है। यह प्रणाली मैकरॉन को यह याद रखने की अनुमति देती है कि क्या महत्वपूर्ण है, क्या महत्वपूर्ण नहीं है उसे भूल जाने की अनुमति देती है, और प्रासंगिक अनुभवों को जल्दी और सुरक्षित रूप से पुनः प्राप्त करने की अनुमति देती है। संगीत के बारे में एक साधारण बातचीत अगली महीने के एक कॉन्सर्ट के बारे में याद दिलाने, स्वचालित रूप से एक प्लेलिस्ट संकलित करने, या एक कराओके सहायक उत्पन्न करने की ओर ले जा सकती है। ये सब बिना ऐसे मेमोरी तंत्र के संभव नहीं है जो लंबी वार्तालापों और विविध विषयों को संभाल सकते हैं। यह ब्लॉग मैकरॉन के मेमोरी इंजन में गहराई से तकनीकी गोता लगाता है, पदानुक्रमित संपीड़न, वेक्टर पुनः प्राप्ति, सुदृढीकरण-निर्देशित गेटिंग और गोपनीयता नियंत्रण पर चर्चा करता है। हम मैकरॉन के डिज़ाइन की अन्य पुनः प्राप्ति-संवर्धित पीढ़ी (RAG) प्रणालियों के साथ तुलना करते हैं और चर्चा करते हैं कि ये तंत्र जापानी और कोरियाई उपयोगकर्ताओं को कैसे व्यक्तिगत अनुभवों का आनंद लेने में सक्षम करते हैं।

1 पदानुक्रमित स्मृति प्रतिनिधित्व

1.1 मल्टी-स्टोर आर्किटेक्चर: लघु-अवधि, एपिसोडिक और दीर्घ-अवधि

Macaron स्मृति को कई स्टोर्स में व्यवस्थित करता है। लघु-अवधि स्टोर वर्तमान वार्तालाप को बनाए रखता है और लगभग 8-16 संदेशों तक फैला होता है। यह एक सामान्य ट्रांसफार्मर संदर्भ की तरह कार्य करता है: टोकन को अनुक्रमिक रूप से ध्यान के साथ संसाधित किया जाता है। एपिसोडिक स्टोर हाल के इंटरैक्शनों (जैसे, पिछले कुछ दिनों) को रखता है और समय-समय पर इसे ताज़ा किया जाता है। यहाँ, Macaron एक संपीड़ित ट्रांसफार्मर का उपयोग करता है: संदेशों को संक्षिप्त वेक्टर में संपीड़ित किया जाता है, जो मॉडल को मूल विंडो की लंबाई से परे संदर्भ बनाए रखने में सक्षम बनाता है। दीर्घ-अवधि स्टोर महत्वपूर्ण घटनाओं, तथ्यों और मिनी-ऐप कॉन्फ़िगरेशन को रखता है और इसे एक वेक्टर डेटाबेस के रूप में कार्यान्वित किया जाता है। प्रत्येक स्मृति आइटम में मेटाडेटा (समय चिह्न, डोमेन टैग, भाषा टैग) और एक एम्बेडिंग शामिल होती है जो एक बहुभाषी एन्कोडर द्वारा उत्पादित होती है।

1.2 लेटेंट सारांशण और ऑटोएन्कोडिंग के माध्यम से संपीड़न

लंबी बातचीत में एक प्रमुख चुनौती यह है कि आत्म-सावधानी की लागत अनुक्रम की लंबाई के साथ वर्गाकार रूप से बढ़ती है। इसे प्रबंधित करने के लिए, Macaron एक गुप्त सारांशण स्तर का उपयोग करता है: प्रत्येक टोकन पर ध्यान देने के बजाय, मॉडल महत्वपूर्ण खंडों की पहचान करना और उन्हें एक निश्चित-लंबाई की प्रस्तुति में संकुचित करना सीखता है। इस स्तर को एक ऑटोकोडिंग उद्देश्य का उपयोग करके प्रशिक्षित किया जाता है जो संकुचित सारांशों से छिपी हुई अवस्थाओं का पुनर्निर्माण करता है। सुदृढ़ीकरण सीखने से सारांशकर्ता को ठीक करता है: यदि एजेंट बाद में महत्वपूर्ण विवरणों को याद करने में विफल होता है, तो नीति को दंडित किया जाता है, जिससे उसे भविष्य में समान घटनाओं के बारे में अधिक जानकारी बनाए रखने के लिए प्रोत्साहित किया जाता है।

1.3 डायनामिक मेमोरी टोकन एक पॉइंटर नेटवर्क के रूप में

ताइवान समाचार लेख में वर्णित मेमोरी टोकन एक पॉइंटर की तरह कार्य करता है जो प्रासंगिक वस्तुओं को चुनने के लिए मेमोरी का अनुसरण करता है। याद के दौरान, टोकन मेमोरी बैंक को बार-बार प्रश्न करता है: यह एक संभावित मेमोरी को प्राप्त करता है, एक सीखी हुई स्कोरिंग फंक्शन का उपयोग करके इसे वर्तमान संदर्भ के लिए प्रासंगिकता का मूल्यांकन करता है, और यह निर्णय करता है कि इसे लौटाना है या खोज जारी रखनी है। यह प्रक्रिया न्यूरल संयोजकीय अनुकूलन में उपयोग किए जाने वाले पॉइंटर नेटवर्क के समान है। सुदृढीकरण संकेत टोकन को ऐसी मेमोरी अनुक्रमों का चयन करने के लिए मार्गदर्शन करते हैं जो उपयोगकर्ता की संतुष्टि को अधिकतम करते हैं (उदा., जैज़ के प्रति उपयोगकर्ता की पसंद को सही तरीके से भविष्यवाणी करना)। टोकन मेमोरी को भी अपडेट कर सकता है: जब नई जानकारी आती है, तो यह निर्णय करता है कि इसे मौजूदा मेमोरी के साथ मिलाना है या एक नया स्लॉट आवंटित करना है।

2 वेक्टर पुनःप्राप्ति और क्वेरी विस्तार

2.1 निकटतम पड़ोसी खोज का अनुमान

मैकरॉन की दीर्घकालिक मेमोरी उच्च-आयामी वेक्टर डेटाबेस का उपयोग करती है। प्रश्नों को एक बहुभाषी एन्कोडर के माध्यम से एम्बेडिंग में परिवर्तित किया जाता है; फिर एक अनुमानित निकटतम पड़ोसी (ANN) खोज शीर्ष-k मेमोरी को लौटाती है। प्रणाली खोज को तेज करने के लिए उत्पाद क्वांटीज़ेशन का उपयोग करती है और लाखों मेमोरी आइटम संग्रहीत करते समय भी विलंबता को 50 मिलीसेकंड से कम बनाए रखती है। तुच्छ प्रतियों को पुनः प्राप्त करने से बचने के लिए, प्रणाली अधिकतम सीमांत प्रासंगिकता (MMR) लागू करती है, जो परिणामों में समानता और विविधता के बीच संतुलन बनाती है।

2.2 संदर्भ और उपयोगकर्ता लक्ष्यों का उपयोग करके क्वेरी विस्तार

सरल कीवर्ड मिलान उपयोगकर्ता की मंशा को पकड़ने के लिए पर्याप्त नहीं है। Macaron उपयोगकर्ता के वर्तमान लक्ष्य और छिपी हुई मंशा का उपयोग करके क्वेरी का विस्तार करता है। उदाहरण के लिए, यदि टोक्यो में उपयोगकर्ता "花火大会" (फायरवर्क्स महोत्सव) का उल्लेख करता है, तो सिस्टम आमतौर पर त्योहारों से संबंधित क्रियाओं के आधार पर "टिकट", "तारीख" और "मौसम" को शामिल करने के लिए क्वेरी का विस्तार करता है। यदि कोई कोरियाई उपयोगकर्ता "김치전 만드는 법" (किम्ची पैनकेक कैसे बनाएं) के बारे में पूछता है, तो सिस्टम पिछले खाना पकाने के अनुभवों, पोषण डेटा और स्थानीय सामग्री की उपलब्धता के लिए भी खोज करता है। क्वेरी विस्तार को एक लक्ष्य भविष्यवक्ता द्वारा संभाला जाता है, जो बातचीत के संदर्भ को प्रासंगिक उपविषयों के सेट के साथ मैप करने के लिए प्रशिक्षित होता है।

2.3 क्रॉस-डोमेन रिट्रीवल और प्रासंगिकता फेडरेशन

मेमोरी इंजन को ऐसे प्रश्नों को संभालना चाहिए जो कई क्षेत्रों में फैले हों। मैकरॉन के स्व-मॉडल लेख में वर्णित प्रासंगिकता संघ प्रणाली को प्रणाली को डोमेन सीमाओं के पार स्मृतियों तक पहुंचने की अनुमति देती है। जब एजेंट जापानी उपयोगकर्ता की शादी की योजना बनाने में मदद करता है, तो उसे यात्रा की स्मृतियों (हनीमून गंतव्य), वित्तीय स्मृतियों (बजट) और सांस्कृतिक स्मृतियों (शादी के शिष्टाचार) को पुनः प्राप्त करने की आवश्यकता हो सकती है। प्रत्येक डोमेन की अपनी पुनः प्राप्ति सूचकांक होती है, और प्रणाली डोमेन के पार पुनः प्राप्ति संभावनाओं को वितरित करने के लिए सॉफ्टमैक्स गेटिंग फंक्शन का उपयोग करती है। गेटिंग फंक्शन को प्रासंगिक नहीं वस्तुओं की पुनः प्राप्ति को न्यूनतम करने के लिए RL के साथ प्रशिक्षित किया गया है, जबकि यह सुनिश्चित करता है कि महत्वपूर्ण क्रॉस-डोमेन कनेक्शन छूटे नहीं हैं। क्रॉस-लिंगुअल प्रश्नों के लिए, गेटिंग फंक्शन भाषा टैग को भी ध्यान में रखता है ताकि समान भाषा की स्मृतियों को प्राथमिकता दी जा सके, लेकिन जब अर्थात्मक समानता अधिक होती है, तो क्रॉस-लैंग्वेज पुनः प्राप्ति की अनुमति देता है।

3 पुनर्बलन-निर्देशित मेमोरी गेटिंग

3.1 रिवार्ड मॉडलिंग और फायरएक्ट प्रेरणा

Macaron टीम को FireAct परियोजना से प्रेरणा मिली, जिसने दिखाया कि RL पोस्ट-प्रशिक्षण तर्क सटीकता को 77% तक बढ़ाता है तुलना में प्रॉम्प्ट-आधारित विधियों के। Macaron में, RL का उपयोग मेमोरी गेटिंग पॉलिसी को प्रशिक्षित करने के लिए किया जाता है: एक न्यूरल नेटवर्क जो यह निर्णय करता है कि जानकारी को संग्रहीत, अपडेट या त्यागना है और पुनः प्राप्त यादों को कितना मजबूत करना है। रिवार्ड फंक्शन कई संकेतों को मिलाता है: कार्य पूरा करना, उपयोगकर्ता संतुष्टि, गोपनीयता अनुपालन और गणनात्मक दक्षता। उदाहरण के लिए, बहुत अधिक यादें पुनः प्राप्त करने से प्रतिक्रियाएं धीमी हो जाती हैं, इसलिए रिवार्ड अनावश्यक पुनः कॉल को दंडित करता है। प्रासंगिक विवरणों को भूलने पर उपयोगकर्ता संतुष्टि कम होती है, इसलिए पॉलिसी उन्हें लंबे समय तक रखने के लिए सीखती है। जापानी और कोरियाई बाजारों के लिए रिवार्ड फंक्शन को अलग-अलग तरीके से ट्यून किया जाता है: जापानी उपयोगकर्ता निजी विवरण के ओवरशेयरिंग को दंडित कर सकते हैं, जबकि कोरियाई उपयोगकर्ता गति और सक्रिय सुझावों को महत्व दे सकते हैं।

3.2 समयिक क्रेडिट असाइनमेंट और समय वीविंग

रिइन्फोर्समेंट लर्निंग अक्सर लंबी समय सीमा के साथ संघर्ष करता है: अभी किए गए कार्य भविष्य में दूर के परिणामों को प्रभावित कर सकते हैं। मैकरॉन इसे समय बुनाई के माध्यम से हल करता है, एक तंत्र जहां समय के पार घटनाओं को टाइमस्टैम्प और कथात्मक धागों द्वारा जोड़ा जाता है। जब पुराने स्मृति को याद करने के प्रभाव का मूल्यांकन किया जा रहा होता है, तो सिस्टम उन इंटरैक्शनों की श्रृंखला को ट्रेस कर सकता है जो इसके बाद हुए। यह आरएल एजेंट को विशेष पुनःप्राप्ति निर्णयों को श्रेय या दोष देने की अनुमति देता है। उदाहरण के लिए, यदि एक भूली हुई वर्षगांठ का संदर्भ देना संबंध में सुधार करता है, तो सिस्टम उस स्मृति गेट को सकारात्मक इनाम देता है जो वर्षगांठ की स्मृति को संरक्षित करता है। अगर एक शर्मनाक क्षण को फिर से उभारने से असुविधा हुई, तो गेट को नकारात्मक इनाम मिलता है।

3.3 पदानुक्रमित आरएल और मॉड्यूलर गेटिंग नीतियाँ

Macaron जटिलता को प्रबंधित करने के लिए अनुक्रमित प्रबलन शिक्षण का उपयोग करता है। एक उच्च-स्तरीय नियंत्रक उपयोगकर्ता के वर्तमान लक्ष्य के आधार पर मॉड्यूल्स (जैसे, पुनः प्राप्ति, सारांशण, संपीड़न) का चयन करता है, जबकि निम्न-स्तरीय नीतियाँ प्रत्येक मॉड्यूल के भीतर विशिष्ट कार्यों को संभालती हैं। इस मॉड्यूलर डिज़ाइन से ट्रांसफर लर्निंग में सहूलियत मिलती है: जापानी खाना पकाने की बातचीत के लिए प्रशिक्षित गेटिंग नीति को कोरियाई व्यंजनों के लिए पुनः उपयोग किया जा सकता है। यह Macaron को पूरे सिस्टम को पुनः प्रशिक्षित किए बिना व्यक्तिगत मॉड्यूल्स को अपडेट करने की अनुमति देता है। स्थिरता सुनिश्चित करने के लिए, Macaron प्रॉक्सिमल पॉलिसी ऑप्टिमाइज़ेशन (PPO) का उपयोग करता है जिसमें ट्रस्ट क्षेत्र क्लिपिंग शामिल है, जो अन्वेषण और दोहन के बीच संतुलन करता है और विनाशकारी भूलने से बचाता है।

4 अन्य मेमोरी सिस्टम्स के साथ तुलना

4.1 पुनः प्राप्ति-वर्धित उत्पादन (RAG)

कई एआई सिस्टम तथ्यात्मक सटीकता बढ़ाने के लिए बाहरी डेटाबेस से जानकारी खींचने के लिए रिट्रीवल-अग्मेंटेड जेनरेशन का उपयोग करते हैं। GPT-4 जैसे मॉडल RAG के साथ स्थिर ज्ञान आधारों पर निर्भर करते हैं और उपयोगकर्ता प्रतिक्रिया के आधार पर रिट्रीवल को अनुकूलित नहीं करते। मैकरॉन की मेमोरी इंजन तीन प्रमुख तरीकों से भिन्न है:

1. वैयक्तिकृत सामग्री: यादें सामान्य वेब दस्तावेजों के बजाय उपयोगकर्ता-विशिष्ट होती हैं। रिट्रीवल अनुभवों और लक्ष्यों को उत्पन्न करता है, न कि विश्वकोशीय तथ्यों को।
2. पुनर्बलन-निर्देशित भंडारण: सिस्टम इनाम संकेतों के आधार पर क्या स्टोर करना है या भूलना है, यह सीखता है, जबकि RAG सिस्टम अक्सर बिना भेदभाव के सब कुछ स्टोर करते हैं।
3. गोपनीयता और नीति बाइंडिंग: प्रत्येक मेमोरी में गोपनीयता मेटाडेटा शामिल होता है, और रिट्रीवल एक्सेस नियमों का सम्मान करता है। अधिकांश RAG कार्यान्वयन में इतनी सूक्ष्म नियंत्रण की कमी होती है।

4.2 लंबी-संदर्भ भाषा मॉडल

हाल के LLM जैसे कि Anthropic का Claude 3 और Google का Gemini सैकड़ों हजारों टोकन के संदर्भों को ध्यान विंडो को स्केल करके संभाल सकते हैं। ये मॉडल स्पष्ट पुनः प्राप्ति प्रदर्शन नहीं करते हैं; इसके बजाय, ये लंबी अनुक्रमों पर ध्यान केंद्रित करने की क्षमता पर निर्भर करते हैं। जबकि यह उन्हें पहले की बातचीत के खंडों को याद करने की अनुमति देता है, यह कम्प्यूटेशनल रूप से महंगा होता है और उपयोगकर्ता-नियंत्रित भूल का समर्थन नहीं करता। Macaron मध्य संदर्भ को पुनः प्राप्ति के साथ जोड़ता है ताकि कम लागत पर और अधिक गोपनीयता नियंत्रण के साथ समान कवरेज प्राप्त किया जा सके। डायनामिक मेमोरी टोकन बाहरी भंडारण के लिए एक संकेतक के रूप में कार्य करता है, जिससे मॉडल वर्षों के डेटा को संभाल सकता है बिना सब कुछ सक्रिय संदर्भ में संग्रहीत किए।

4.3 वेक्टर डेटाबेस और मेमोरी नेटवर्क्स

पाइनकॉन और फ़ैस जैसे वेक्टर डेटाबेस अक्सर पुनःप्राप्ति कार्यों के लिए एम्बेडिंग संग्रहीत करने के लिए उपयोग किए जाते हैं। मैकरॉन का दीर्घकालिक स्टोर इन तकनीकों पर आधारित है लेकिन इन्हें आरएल-नियंत्रित गेटिंग के साथ एकीकृत करता है। इस बीच, एंड-टू-एंड मेमोरी नेटवर्क जैसी प्रारंभिक मेमोरी नेटवर्क एक निश्चित मेमोरी स्लॉट्स का सेट पहले से गणना करती है और उन पर सॉफ़्ट ध्यान के साथ ध्यान देती है। मैकरॉन इसे इस प्रकार बढ़ाता है कि स्लॉट्स की संख्या को गतिशील रूप से बढ़ने या घटने की अनुमति देता है और यह तय करने के लिए आरएल का उपयोग करता है कि कौन से स्लॉट्स बने रहें। इस अर्थ में, मैकरॉन का मेमोरी इंजन एक न्यूरल ट्यूरिंग मशीन की तरह अधिक है जिसमें एक सीखा हुआ नियंत्रक है जो एक बाहरी मेमोरी टेप को पढ़ता और लिखता है।

5 गोपनीयता और नियामक संरेखण

5.1 नीति बाइंडिंग और विभेदित पारदर्शिता

क्षेत्रीय नियमों का पालन अत्यंत महत्वपूर्ण है। नीति बाइंडिंग डेटा के साथ मशीन-पढ़ने योग्य गोपनीयता नियम संलग्न करती है। उदाहरण के लिए, वित्तीय डेटा वाली एक मेमोरी में एक नियम हो सकता है कि इसे केवल बायोमेट्रिक प्रमाणीकरण के बाद ही एक्सेस किया जा सकता है। विभेदित पारदर्शिता विभिन्न हितधारकों के लिए भिन्न स्तर की जानकारी प्रदान करती है: एक जापानी उपभोक्ता अपनी स्वयं की डेटा की समीक्षा कर सकता है, एक कोरियाई नियामक समग्र सांख्यिकी देख सकता है, और डेवलपर्स को मॉडल सुधार के लिए गुमनाम प्रतिक्रिया मिलती है। ये तंत्र AI प्रमोशन एक्ट के पारदर्शिता पर जोर देने और कोरिया के AI फ्रेमवर्क एक्ट की जोखिम प्रबंधन और मानव निरीक्षण की आवश्यकताओं के साथ मेल खाते हैं।

5.2 नाम-और-शेम प्रवर्तन और जवाबदेही

जापान का एआई प्रमोशन एक्ट सीधे दंड नहीं देता, लेकिन गैर-अनुपालन कंपनियों को सार्वजनिक रूप से पहचानने के लिए नाम‑और‑शेम तंत्र का उपयोग करता है। मैकरॉन के ऑडिट लॉग मेमोरी एक्सेस और नीति निर्णयों को ट्रैक करते हैं, जिससे कंपनी ऑडिट होने पर अनुपालन साबित कर सकती है। कोरिया का ढांचा उल्लंघनों के लिए मामूली जुर्माना (अधिकतम KRW 30 मिलियन तक) लगा सकता है। हर मेमोरी इवेंट के साथ मेटाडेटा संलग्न करके, मैकरॉन स्वत: अनुपालन रिपोर्ट बना सकता है। यह प्रणाली उपयोगकर्ताओं को उनके डेटा को निर्यात और हटाने की अनुमति भी देती है, जिससे डेटा पोर्टेबिलिटी के उभरते वैश्विक मानक के साथ मेल खाती है।

5.3 मानव स्मृति के अनालोगीज़

Macaron की स्मृति प्रणाली मानव स्मृति की संरचना के समान है। संज्ञानात्मक वैज्ञानिक कार्यशील स्मृति को प्रीफ्रंटल कॉर्टेक्स में एक सीमित बफर के रूप में वर्णित करते हैं, एपिसोडिक स्मृति को हिप्पोकैंपस द्वारा मध्यस्थता की गई घटना-आधारित भंडारण के रूप में, और सामान्य ज्ञान स्मृति को कॉर्टेक्स में वितरित सामान्य ज्ञान के रूप में। इसी तरह, Macaron में एक अल्पकालिक संदर्भ विंडो, एक एपिसोडिक स्टोर और एक दीर्घकालिक वेक्टर डेटाबेस है। संदर्भ क्षय मानव भूलने वक्र जैसा है: स्मृतियाँ फीकी पड़ जाती हैं जब तक कि उन्हें सुदृढ़ नहीं किया जाता। समय बुनाई उसी तरह समानांतर है जैसे मानव समय के साथ घटनाओं को जोड़कर जीवन कथाएं बनाते हैं। इन तंत्रों की नकल करके, Macaron न केवल कम्प्यूटेशनल संसाधनों का अनुकूलन करता है बल्कि अधिक प्राकृतिक इंटरैक्शन भी उत्पन्न करता है। जब कोई उपयोगकर्ता बचपन के त्योहार की याद करता है, तो एजेंट संबंधित घटनाओं को याद कर सकता है और उन्हें वर्तमान बातचीत में बुन सकता है, जैसे कि एक मानव मित्र करता है।

5.4 भविष्य के अनुसंधान के दिशा-निर्देश

अपनी जटिलता के बावजूद, Macaron का मेमोरी इंजन कुछ प्रश्न खुला छोड़ देता है। एक क्षेत्र है स्वयं-संकुचन मेमोरी: न्यूरल मॉड्यूल्स का विकास जो बाहरी पर्यवेक्षण के बिना स्वचालित रूप से यादों को संक्षेप और संकुचित करते हैं। दूसरा है लाइफलॉन्ग लर्निंग: उपयोगकर्ता व्यवहार के विकास के साथ एजेंट को उसकी मेमोरी रणनीतियों को लगातार अनुकूलित करने की अनुमति देना। क्रॉस-लिंगुअल संरेखण एक सक्रिय शोध विषय बना हुआ है; भविष्य के मॉडल यादों को जापानी, कोरियाई और अन्य भाषाओं में अधिक सहजता से संरेखित करने के लिए कांट्रास्टिव रिप्रेजेंटेशन लर्निंग का उपयोग कर सकते हैं। शोधकर्ता न्यूरोमॉर्फिक हार्डवेयर और स्पाइकिंग न्यूरल नेटवर्क्स का भी पता लगा रहे हैं ताकि कम ऊर्जा लागत पर मेमोरी को लागू किया जा सके। अंत में, फेडरेटेड लर्निंग को एकीकृत करने से उपयोगकर्ताओं को Macaron की मेमोरी मॉडलों को स्थानीय रूप से प्रशिक्षित करने की अनुमति मिलेगी, केवल मॉडल अपडेट्स को साझा करते हुए, कच्चे डेटा को नहीं, इस प्रकार गोपनीयता को बढ़ाते हुए सामूहिक प्रदर्शन में सुधार होगा।