ReAct: Synergizing Reasoning and Acting in Language Models

Shunyu Yao; Jeffrey Zhao; Dian Yu; Nan Du; Izhak Shafran; Karthik Narasimhan; Yuan Cao

शोध पत्र · arXiv 2210.03629

ReAct: भाषा मॉडलों में रीजनिंग और एक्टिंग का समन्वय (Synergizing Reasoning and Acting in Language Models)

ReAct: Synergizing Reasoning and Acting in Language Models

Shunyu Yao, Jeffrey Zhao, Dian Yu, Nan Du, Izhak Shafran, Karthik Narasimhan, Yuan Cao

प्रकाशित 2022-10-06cs.CLcs.AIcs.LG arXiv PDF

अनुवाद और AI के साथ पढ़ें

तीन पंक्तियों में सारांश

🎯 केवल chain-of-thought पर निर्भर LLMs एकांत में रीज़न करते हैं और हैल्यूसिनेट करते हैं, जबकि act-only एजेंट्स में वर्किंग मेमोरी और रणनीतिक योजना की कमी होती है।
🔧 गतिशील रूप से योजना बनाने, ट्रैक करने और कार्य करने के लिए एजेंट एक्शन स्पेस को फिजिकल/API एक्शन्स के साथ इंटरलीव्ड मुक्त-रूप भाषा विचारों (thoughts) से संवर्धित करें।
📈 ReAct ने ALFWorld पर 71% और WebShop पर 40.0% सफलता हासिल की, जिससे इमिटेशन/RL बेसलाइन्स को पीछे छोड़ दिया गया और QA पर हैल्यूसिनेशन में भारी कमी आई।

सार

यद्यपि लार्ज लैंग्वेज मॉडल्स (LLMs) ने भाषा की समझ और इंटरएक्टिव निर्णय लेने के कार्यों में प्रभावशाली क्षमताओं का प्रदर्शन किया है, लेकिन उनकी रीज़निंग (जैसे chain-of-thought prompting) और एक्टिंग (जैसे एक्शन प्लान जनरेशन) की क्षमताओं का मुख्य रूप से अलग-अलग विषयों के रूप में अध्ययन किया गया है। इस शोध-पत्र में, हम दोनों के बीच बेहतर समन्वय स्थापित करने के लिए LLMs द्वारा रीज़निंग ट्रेसेस और टास्क-विशिष्ट एक्शन्स को एक इंटरलीव्ड (क्रमबद्ध) तरीके से उत्पन्न करने के उपयोग का पता लगाते हैं: रीज़निंग ट्रेसेस मॉडल को एक्शन प्लान्स को प्रेरित करने, ट्रैक करने और अपडेट करने के साथ-साथ अपवादों (exceptions) को संभालने में मदद करते हैं, जबकि एक्शन्स इसे अतिरिक्त जानकारी एकत्र करने के लिए बाहरी स्रोतों, जैसे नॉलेज बेस या वातावरण, के साथ इंटरफेस करने की अनुमति देते हैं। हम अपने दृष्टिकोण, जिसका नाम ReAct है, को भाषा और निर्णय लेने वाले विविध कार्यों पर लागू करते हैं और अत्याधुनिक बेसलाइन्स की तुलना में इसकी प्रभावशीलता प्रदर्शित करते हैं, साथ ही रीज़निंग या एक्टिंग घटकों के बिना वाली विधियों की तुलना में बेहतर मानव व्याख्यात्मकता और विश्वसनीयता भी दिखाते हैं। विशेष रूप से, प्रश्नोत्तर (HotpotQA) और तथ्य सत्यापन (Fever) पर, ReAct एक साधारण Wikipedia API के साथ इंटरैक्ट करके chain-of-thought रीज़निंग में प्रचलित हैल्यूसिनेशन और एरर प्रोपेगेशन की समस्याओं को दूर करता है, और मानव-समान टास्क-सॉल्विंग ट्रैजेक्ट्रीज़ उत्पन्न करता है जो बिना रीज़निंग ट्रेसेस वाले बेसलाइन्स की तुलना में अधिक व्याख्यात्मक हैं। दो इंटरएक्टिव डिसीजन मेकिंग बेंचमार्क (ALFWorld और WebShop) पर, ReAct केवल एक या दो इन-कॉन्टेक्स्ट उदाहरणों के साथ प्रॉम्प्ट किए जाने पर, इमिटेशन और रीइन्फोर्समेंट लर्निंग विधियों से क्रमशः 34% और 10% के पूर्ण सफलता दर से बेहतर प्रदर्शन करता है। कोड के साथ प्रोजेक्ट साइट: https://react-lm.github.io

मूल सार (अंग्रेज़ी)

While large language models (LLMs) have demonstrated impressive capabilities across tasks in language understanding and interactive decision making, their abilities for reasoning (e.g. chain-of-thought prompting) and acting (e.g. action plan generation) have primarily been studied as separate topics. In this paper, we explore the use of LLMs to generate both reasoning traces and task-specific actions in an interleaved manner, allowing for greater synergy between the two: reasoning traces help the model induce, track, and update action plans as well as handle exceptions, while actions allow it to interface with external sources, such as knowledge bases or environments, to gather additional information. We apply our approach, named ReAct, to a diverse set of language and decision making tasks and demonstrate its effectiveness over state-of-the-art baselines, as well as improved human interpretability and trustworthiness over methods without reasoning or acting components. Concretely, on question answering (HotpotQA) and fact verification (Fever), ReAct overcomes issues of hallucination and error propagation prevalent in chain-of-thought reasoning by interacting with a simple Wikipedia API, and generates human-like task-solving trajectories that are more interpretable than baselines without reasoning traces. On two interactive decision making benchmarks (ALFWorld and WebShop), ReAct outperforms imitation and reinforcement learning methods by an absolute success rate of 34% and 10% respectively, while being prompted with only one or two in-context examples. Project site with code: https://react-lm.github.io

पढ़ने की गाइड

समस्या और प्रेरणा

लार्ज लैंग्वेज मॉडल्स (LLMs) Chain-of-Thought (CoT) के माध्यम से रीज़निंग में और क्रियान्वयन योग्य कमांड आउटपुट करके निर्णय लेने में उत्कृष्ट प्रदर्शन करते हैं। हालांकि, इन दोनों क्षमताओं का आमतौर पर अलग-अलग अध्ययन किया गया है:

CoT reasoning अनग्राउंडेड (आधारहीन) होती है: मॉडल पूरी तरह से स्थिर आंतरिक अभ्यावेदन (frozen internal representations) पर निर्भर करता है, जिससे इसमें तथ्यात्मक हैल्यूसिनेशन, अद्यतन जानकारी की कमी और त्रुटियों का प्रसार (compounding error propagation) होने की संभावना रहती है।
Action-only systems संदर्भ को सीधे परिवेशी कार्यों में मैप करते हैं: इनमें अमूर्त लक्ष्यों को तैयार करने, मध्यवर्ती उप-लक्ष्यों को बनाए रखने, या अप्रत्याशित स्थिति परिवर्तनों को संभालने के लिए एक स्पष्ट वर्किंग मेमोरी की कमी होती है।

मानवीय आंतरिक विचार प्रक्रिया (inner speech) से प्रेरित होकर, यह शोध-पत्र जांच करता है कि क्या रीज़निंग स्टेप्स को परिवेशी इंटरैक्शन के साथ इंटरलीव करने से एक परस्पर सुदृढ़ करने वाला लूप बनता है: रीज़निंग कार्यों का मार्गदर्शन करती है, जबकि कार्यों से प्राप्त फीडबैक रीज़निंग को आधार (ground) प्रदान करता है।

मुख्य विचार

एक्शन स्पेस संवर्धन (Action Space Augmentation): एजेंट के एक्शन स्पेस को ऐसे भाषाई विचारों (language thoughts) को शामिल करने के लिए विस्तारित किया जाता है जो कोई बाहरी अवलोकन उत्पन्न नहीं करते बल्कि आंतरिक संदर्भ को अपडेट करते हैं।
सघन बनाम विरल विचार प्रणालियाँ (Dense vs. Sparse Thought Regimes): कार्य के आधार पर, विचार घनिष्ठ रूप से जुड़े हो सकते हैं (multi-hop QA के लिए चरण-दर-चरण बारी-बारी से) या अतुल्यकालिक और विरल हो सकते हैं (लंबी अवधि के खेलों में केवल योजना बनाते समय या अप्रत्याशित स्थितियों को संभालते समय उपयोग किए जाते हैं)।
हाइब्रिड रीज़निंग (Hybrid Reasoning): आंतरिक पैरामीट्रिक ज्ञान (CoT self-consistency के माध्यम से) को प्राप्त बाहरी फीडबैक (ReAct के माध्यम से) के साथ जोड़ना तथ्यात्मक सटीकता को रीज़निंग की चपलता के साथ संतुलित करता है।

विधि (प्रमुख समीकरणों के साथ)

एक इंटरएक्टिव परिवेश पर विचार करें जहाँ समय $t$ पर, एक एजेंट अवलोकन $o_{t} \in O$ प्राप्त करता है, ट्रैजेक्ट्री संदर्भ $c_{t} = (o_{1}, a_{1}, \dots, o_{t - 1}, a_{t - 1}, o_{t})$ बनाए रखता है, और नीति $π (a_{t} ∣ c_{t})$ के अनुसार कार्य करता है।

ReAct एक्शन स्पेस का विस्तार करता है: $\hat{A} = A \cup L$ जहाँ $L$ मुक्त-रूप भाषाई अभिव्यक्तियों का स्पेस है।

यदि कोई एजेंट परिवेशी एक्शन $\overset{a}{^}_{t} \in A$ उत्पन्न करता है, तो परिवेश एक अवलोकन $o_{t} \in O$ लौटाता है, जिससे अगला संदर्भ बनता है: $c_{t + 1} = (c_{t}, \overset{a}{^}_{t}, o_{t})$ ।
यदि कोई एजेंट एक विचार $\overset{a}{^}_{t} \in L$ उत्पन्न करता है, तो कोई बाहरी अवलोकन उत्पन्न नहीं होता है; विचार सीधे एजेंट संदर्भ में जुड़ जाता है: $c_{t + 1} = (c_{t}, \overset{a}{^}_{t})$ ।

नॉलेज टास्क (HotpotQA, FEVER) के लिए, API एक्शन सेट $A = {Search [entity], Lookup [string], Finish [answer]}$ है। हाइब्रिड सेटअप के लिए:

$ReAct \to CoT-SC$ : यदि ReAct निश्चित चरणों (उदा. HotpotQA के लिए 7, FEVER के लिए 5) के भीतर समाप्त नहीं होता है, तो CoT self-consistency से बहुमत वोटिंग पर वापस लौटें।
$CoT-SC \to ReAct$ : यदि $n$ सैंपल्स के बीच बहुमत सहमति $n /2$ से नीचे गिर जाती है, तो ReAct पर वापस लौटें।

परिणाम (सर्वाधिक महत्वपूर्ण आंकड़ों के साथ)

नॉलेज रीज़निंग (PaLM-540B):
- HotpotQA पर, दोनों व्यवस्थाओं ( $ReAct \to CoT-SC$ ) को मिलाकर 35.1% Exact Match (EM) प्राप्त होता है, जबकि Standard (28.7%), CoT (29.4%), और Act (25.7%) पीछे रह जाते हैं।
- FEVER पर, $CoT-SC \to ReAct$ Standard (57.1%) और CoT (56.3%) की तुलना में 64.6% Accuracy तक पहुँचता है।
- त्रुटि विश्लेषण से पता चलता है कि ReAct HotpotQA पर अपने विफलता के मामलों में 0% हैल्यूसिनेशन करता है, जबकि CoT की 56% विफलताओं का कारण हैल्यूसिनेशन है।
निर्णय लेना (ALFWorld और WebShop):
- ALFWorld पर, best-of-6 ReAct 71% की औसत सफलता दर (और सभी प्रॉम्प्ट्स में औसतन 57%) प्राप्त करता है, जो Act-only (सर्वश्रेष्ठ 45%), Inner Monologue-स्टाइल प्रॉम्प्टिंग (सर्वश्रेष्ठ 53%), और $1 0^{5}$ ट्रैजेक्ट्रीज़ पर प्रशिक्षित एक इमिटेशन लर्निंग एजेंट BUTLER (सर्वश्रेष्ठ 37%) से बेहतर प्रदर्शन करता है।
- WebShop पर, 1-shot ReAct 40.0% सफलता दर और 66.6 औसत स्कोर प्राप्त करता है, जो 10,000 से अधिक निर्देशों पर प्रशिक्षित इमिटेशन + रीइन्फोर्समेंट लर्निंग बेसलाइन्स (28.7% सफलता, 62.4 स्कोर) को हरा देता है।
फाइनट्यूनिंग: PaLM-8B और PaLM-62B को 3,000 स्व-जनित सही ट्रैजेक्ट्रीज़ के साथ बूटस्ट्रैप करने पर ReAct शीर्ष प्रदर्शनकर्ता बन जाता है, जिसमें PaLM-8B फाइनट्यून किया गया ReAct सभी 62B प्रॉम्प्टिंग विधियों से बेहतर प्रदर्शन करता है।

सीमाएं और खुले प्रश्न

इन-कॉन्टेक्स्ट प्रॉम्प्टिंग की सीमाएं: कॉन्टेक्स्ट विंडो की बाधाओं के कारण, LLMs केवल कुछ ही प्रदर्शन (1-6 उदाहरण) देख सकते हैं, जिससे पूरी तरह से प्रॉम्प्ट के माध्यम से बड़े एक्शन स्पेसेस में महारत हासिल करना चुनौतीपूर्ण हो जाता है।
सर्च भटकाव और लूप्स (Search Derailment & Loops): ग्रीडी डिकोडिंग के तहत, गैर-सूचनात्मक सर्च परिणाम ReAct को त्रुटि के 23% मामलों में विफल बनाते हैं, जिससे कभी-कभी मॉडल दोहराव वाले लूप में फंस जाता है।
सुरक्षा और टूल निष्पादन (Safety & Tool Execution): खुले परिवेश में LLMs को बाहरी कार्यों की अनुमति देने से अनपेक्षित कार्यों के जोखिम उत्पन्न होते हैं (उदा. अवांछित वेब लेनदेन निष्पादित करना या संवेदनशील डेटा प्राप्त करना)।

मुख्य शब्द

ReAct: एक प्रॉम्प्ट-आधारित प्रतिमान जो सामान्य समस्या-समाधान के लिए लार्ज लैंग्वेज मॉडल्स को इंटरलीव्ड रीज़निंग ट्रेसेस और डोमेन-विशिष्ट एक्शन्स उत्पन्न करने के लिए प्रेरित करता है।
Chain-of-Thought (CoT): एक प्रॉम्प्टिंग दृष्टिकोण जहाँ मॉडल बाहरी वातावरण में कार्रवाई किए बिना, अंतिम उत्तर उत्पन्न करने से पहले आंतरिक रीज़निंग चरणों को आउटपुट करते हैं।
Action Space Augmentation: एजेंट के असतत (discrete) एक्शन सेट का औपचारिक विस्तार जिसमें मनमाने प्राकृतिक भाषा कथनों को शामिल किया जाता है, जिन्हें गैर-पर्यावरण-परिवर्तनकारी विचारों के रूप में नामित किया जाता है।
Inner Monologue (IM): एक बेसलाइन और पूर्व दृष्टिकोण जहाँ भाषा मॉडल का विचार लचीली आंतरिक रणनीतिक योजना के बजाय मुख्य रूप से बाहरी परिवेशी फीडबैक तक ही सीमित रहता है।
CoT-SC: Self-consistency के साथ जुड़ी Chain-of-thought प्रॉम्प्टिंग, जहाँ उत्तरों को गैर-शून्य तापमान के साथ कई बार सैंपल किया जाता है और बहुमत मतदान द्वारा चुना जाता है।
ALFWorld: ALFRED बेंचमार्क पर आधारित एक टेक्स्ट-आधारित इंटरएक्टिव परिवेश जो बहु-चरणीय घरेलू लक्ष्य अपघटन, नेविगेशन और ऑब्जेक्ट हेरफेर का परीक्षण करता है।
WebShop: एक यथार्थवादी वेब नेविगेशन बेंचमार्क जिसमें Amazon से स्क्रैप किए गए 1.18 मिलियन वास्तविक उत्पाद शामिल हैं, जिसका मूल्यांकन टेक्स्ट निर्देशों को संतुष्ट करने वाली वस्तुओं को ब्राउज़ करने और खरीदने की एजेंट की क्षमता द्वारा किया जाता है।
Self-Reflection / Thought Editing: ह्यूमन-इन-द-लूप हस्तक्षेप जहाँ एक ऑपरेटर वज़न या एक्शन हिस्ट्री को संशोधित करने के बजाय उत्पन्न भाषाई विचार को मैन्युअल रूप से समायोजित करके मॉडल के प्रक्षेपवक्र (trajectory) को सही या निर्देशित करता है।

प्रश्न

ReAct मानक Chain-of-Thought की तुलना में हैल्यूसिनेशन के प्रति कम संवेदनशील क्यों है?

CoT पूरी तरह से आंतरिक पैरामीट्रिक मेमोरी पर निर्भर करता है, जो अक्सर गैर-मौजूद तथ्यों को गढ़ लेती है। ReAct ठोस कार्यों के माध्यम से बाहरी स्रोतों (जैसे Wikipedia APIs) की जाँच करता है, जिससे बाद के विचार सीधे प्राप्त अवलोकनों पर आधारित होते हैं।

ReAct, WebGPT या SayCan से किस प्रकार भिन्न है?

WebGPT और SayCan मानव फीडबैक या अफोर्डेंस मॉडल का उपयोग करके क्रियाओं या योजनाओं की भविष्यवाणी करने पर ध्यान केंद्रित करते हैं, बिना मॉडल को एक इंटरलीव्ड लूप में अपने स्वयं के मौखिक रीज़निंग ट्रेसेस को बनाए रखने, विभाजित करने और समायोजित करने के लिए स्पष्ट रूप से प्रेरित किए।

ReAct में जब खोज से कोई उपयोगी परिणाम नहीं निकलता है तो क्या होता है?

HotpotQA पर ReAct के विफलता मामलों में खोज विफलताओं का योगदान लगभग 23% था; मॉडल कभी-कभी प्रश्नों को पुनर्गठित करने में संघर्ष करते हैं और ग्रीडी डिकोडिंग के तहत दोहराव वाले एक्शन लूप्स में फंस जाते हैं।

ReAct में ह्यूमन-इन-द-लूप विचार संपादन (thought editing) कैसे काम करता है?

चूंकि रीज़निंग ट्रेसेस सामान्य भाषा में होते हैं, इसलिए एक मानव विफल हो रही ट्रैजेक्ट्री का निरीक्षण कर सकता है और पैरामीटर फाइन-ट्यूनिंग के बिना एजेंट को लूप्स या गलत धारणाओं से तुरंत बाहर निकालने के लिए एक या दो मध्यवर्ती विचारों को तुरंत संपादित कर सकता है।

इस पृष्ठ की व्याख्या AI ने शोध पत्र से लिखी है और इसमें गलतियाँ हो सकती हैं। विवरण के लिए मूल शोध पत्र पढ़ें।

अनुवाद और AI के साथ पढ़ें