Harness^2: Recursive Agent Harnessing for an Open World

Ruiyao Xu; Yanfei Chen; Zhongying CuiZhu; Bhavana Dalvi Mishra; Yifei Ming; Han Yu; Rujun Han; Chen-Yu Lee; Tomas Pfister

Harness^2: एक ओपन वर्ल्ड के लिए रिकर्सिव एजेंट हार्नेसिंग

Ruiyao Xu, Yanfei Chen, Zhongying CuiZhu, Bhavana Dalvi Mishra, Yifei Ming, Han Yu, Rujun Han, Chen-Yu Lee, Tomas Pfister

प्रकाशित 2026-10-09cs.AIcs.CLcs.LG arXiv PDF

अनुवाद और AI के साथ पढ़ें

तीन पंक्तियों में सारांश

🎯 ओपन-वर्ल्ड एजेंट परिनियोजन में, नए कार्यों में ग्राउंड-ट्रुथ वेरिफायर्स का अभाव होता है, और कार्य-विशिष्ट हार्नेस संपादन भविष्य के कार्यों में स्थानांतरित होने में विफल रहते हैं।
🔧 Harness2 रिकर्शन के दो युग्मित स्तरों को पेश करता है: कंट्रास्टिव Propose–Probe–Compose चरणों का उपयोग करने वाला टास्क-लेवल रिकर्शन, और हार्नेसिंग-लेवल रिकर्शन जो विभिन्न कार्यों के लिए एक सतत सुधार लाइब्रेरी को अपडेट करता है।
📈 समानांतर या अनुक्रमिक रिकर्शन के माध्यम से अतिरिक्त लाभ के साथ, WorkBuddy-Bench पर 11.5 अंक, JobBench पर 4.5 अंक और LAB पर 11.8 प्रतिशत अंक तक का सिंगल-स्टेप लाभ प्रदान करता है।

सार

LLM एजेंट्स की क्षमताएं न केवल उनके अंतर्निहित मॉडलों पर बल्कि उनके निष्पादन हार्नेस (execution harness) पर भी निर्भर करती हैं। रिकर्सिव सेल्फ-इम्प्रूवमेंट (RSI) इन हार्नेस को स्वचालित रूप से विकसित करने के लिए एक आशाजनक दृष्टिकोण प्रदान करता है। हालांकि, ओपन-वर्ल्ड परिवेश में RSI को तैनात करने में अभी भी दो महत्वपूर्ण चुनौतियां हैं। पहली, ओपन-वर्ल्ड कार्य आमतौर पर हार्नेस डिज़ाइन चरण के दौरान अनदेखे होते हैं और परीक्षण के समय सर्वथा नए होते हैं, जिससे ऑनलाइन हार्नेस संशोधनों को विश्वसनीय रूप से निर्देशित करने के लिए कोई ग्राउंड-ट्रुथ वेरिफायर उपलब्ध नहीं होते। दूसरी, RSI प्रक्रिया अत्यधिक कार्य-विशिष्ट बनी रहती है और नए परिदृश्यों में सामान्यीकृत होने में विफल रहती है। हम Harness^2 प्रस्तुत करते हैं, जो एक प्लग-एंड-प्ले, रिकर्सिव एजेंट हार्नेसिंग फ्रेमवर्क है और रिकर्शन के दो जुड़े हुए स्तरों के माध्यम से इन चुनौतियों का समाधान करता है। टास्क-लेवल रिकर्शन एक कंट्रास्टिव Propose-Probe-Compose चरण का उपयोग करके वर्तमान कार्य के हार्नेस को परिष्कृत करता है, जो बिना ग्राउंड-ट्रुथ वेरिफायर्स के संपादनों को विश्वसनीय रूप से निर्देशित करता है, और इसे समानांतर या अनुक्रमिक रिकर्शन के माध्यम से और अधिक बढ़ाया जा सकता है। इसके बाद, हार्नेसिंग-लेवल रिकर्शन एक निरंतर सुधार हार्नेस को अपडेट करने के लिए इन संपादनों से अनुभव प्राप्त करता है, जिससे एजेंट भविष्य के कार्यों के लिए बेहतर ढंग से अनुकूलित हो पाता है। तीन पेशेवर बेंचमार्क और चार मॉडल-हार्नेस कॉन्फ़िगरेशन में, एक एकल चरण लगातार GLM-5 और Gemini 3.5 Flash को उनके बेस हार्नेस की तुलना में बेहतर बनाता है, जिससे WorkBuddy-Bench पर 11.5 अंक, JobBench पर 4.5 अंक और LAB पर 11.8 प्रतिशत अंक तक का लाभ प्राप्त होता है, और टास्क-लेवल रिकर्शन बजट बढ़ने पर यह लाभ और अधिक बढ़ता है।

मूल सार (अंग्रेज़ी)

LLM agents' capabilities depend not only on their underlying models but also on their execution harnesses. Recursive self-improvement (RSI) offers a promising approach to automatically evolve these harnesses. However, deploying RSI in open-world settings still faces two critical challenges. First, open-world tasks are typically unseen during the harness design phase and novel at test time, leaving no ground-truth verifiers to reliably guide online harness edits. Second, the RSI process remains highly task-specific and fails to generalize to novel scenarios. We introduce Harness^2, a plug-and-play, recursive agent harnessing framework that addresses these challenges through two connected levels of recursion. Task-level recursion refines the current task's harness using a contrastive Propose-Probe-Compose step that reliably guides edits without ground-truth verifiers, and can be scaled further via parallel or sequential recursion. Harnessing-level recursion then extracts experience from these edits to update a continual improvement harness, enabling the agent to better adapt to future tasks. Across three professional benchmarks and four model-harness configurations, a single step consistently improves GLM-5 and Gemini 3.5 Flash over their base harnesses, yielding gains of up to 11.5 points on WorkBuddy-Bench, 4.5 points on JobBench, and 11.8 percentage points on LAB, with further gains as the task-level recursion budget increases.

पढ़ने की गाइड

समस्या और प्रेरणा

किसी LLM एजेंट का प्रदर्शन उसके निष्पादन हार्नेस पर बहुत अधिक निर्भर करता है—जो कि एक स्थिर (frozen) बेस मॉडल के चारों ओर प्रॉम्प्ट, टूल्स, मेमोरी, सब-एजेंट्स और प्लगइन्स का रनटाइम स्कैफोल्डिंग होता है। गतिशील ओपन-वर्ल्ड परिवेश में, एजेंट लगातार अनदेखे, जटिल वर्कफ़्लो का सामना करते हैं। हार्नेस के लिए मौजूदा रिकर्सिव सेल्फ-इम्प्रूवमेंट (RSI) तकनीकें दो प्राथमिक चुनौतियों के कारण संघर्ष करती हैं:

ग्राउंड-ट्रुथ वेरिफायर्स की अनुपस्थिति: ऑनलाइन परिनियोजन कार्य यह मूल्यांकन करने के लिए ग्राउंड-ट्रुथ उत्तर या विश्वसनीय टेस्ट-टाइम स्कोरिंग फ़ंक्शन प्रदान नहीं करते कि किसी ऑनलाइन हार्नेस संपादन ने प्रदर्शन में सहायता की है या नुकसान पहुंचाया है।
क्रॉस-टास्क ट्रांसफर की कमी: प्रत्यक्ष हार्नेस संशोधन आमतौर पर कार्य-विशिष्ट होते हैं; बदलते कार्य वितरणों में किसी निष्पादन हार्नेस को अंधाधुंध आगे ले जाने से अस्थिरता और प्रदर्शन में गिरावट आती है।

मुख्य विचार

Harness^2 रिकर्शन के दो अलग-अलग स्तरों को जोड़ता है:

टास्क-लेवल रिकर्शन (Task-Level Recursion): कंट्रास्टिव Propose–Probe–Compose चक्र के माध्यम से ग्राउंड-ट्रुथ वेरिफायर्स के बिना सक्रिय कार्य के लिए निष्पादन हार्नेस को परिष्कृत करता है। यह इनवेरिएंट प्रस्तावों (एजेंट संचालन वर्कफ़्लो) और डोमेन-विशिष्ट प्रस्तावों (व्यवसायी डोमेन नियम) को तैयार करता है, दोनों को समान परिस्थितियों में जांचता है, और सत्यापित व्यावहारिक सुधारों को संयोजित करता है।
हार्नेसिंग-लेवल रिकर्शन (Harnessing-Level Recursion): परीक्षण-समय परिष्करण प्रक्रिया से पुन: प्रयोज्य प्रक्रियात्मक पाठों और अपनाए गए घटकों को एक स्थायी harness improvement library में निकालता है, जिससे बाद के कार्यों पर सुधारक की मेटा-क्षमता में सुधार होता है।
प्लग करने योग्य स्केलिंग (Pluggable Scaling): समानांतर रिकर्शन (एक साथ संयोजित $k$ उम्मीदवार पूल) के माध्यम से अन्वेषण की चौड़ाई या अनुक्रमिक रिकर्शन ( $k$ श्रृंखलाबद्ध पुनरावृत्तियों) के माध्यम से गहराई को स्केल करने का समर्थन करता है।

पद्धति

एक एजेंट को एक स्थिर मॉडल $M$ और $K = 8$ फ़ाइल-स्तरीय घटकों (सिस्टम प्रॉम्प्ट, गार्डरेल्स, मेमोरी, स्किल्स, टूल गाइडेंस, स्क्रिप्ट्स, सब-एजेंट्स, मिडलवेयर प्लगइन) में एक संपादन योग्य हार्नेस $H = (c^{1}, \dots, c^{K})$ में विघटित किया जाता है।

टास्क-लेवल रिकर्शन

कार्य $q_{t}$ , निष्पादन इतिहास $E$ , और निश्चित सुधार हार्नेस $R_{t}$ के लिए, एक कंट्रास्टिव चरण $Φ$ एक अद्यतन हार्नेस $H^{'}$ , निष्पादन रिकॉर्ड $e^{'}$ , और चरण रिकॉर्ड $ξ$ उत्पन्न करता है: $(H^{'}, e^{'}, ξ) = Φ (q_{t}, H, E; R_{t})$

Propose: संदर्भ निष्पादन $e^{0} \sim A (q_{t}; M, H)$ का नमूना लेता है। $e^{0}$ और $R_{t}$ के आधार पर, यह एक इनवेरिएंट उम्मीदवार (प्रक्रियात्मक/टूल प्रवाह) और एक डोमेन-विशिष्ट उम्मीदवार (व्यवसायी बाधाएं) उत्पन्न करता है।
Probe: संदर्भ निष्पादन के विपरीत व्यावहारिक अंतरों का निरीक्षण करने के लिए $q_{t}$ पर उम्मीदवारों को निष्पादित करता है।
Compose: उम्मीदवार पूल से सत्यापित, गैर-विरोधाभासी संपादनों को चुनिंदा रूप से मर्ज करता है।

समानांतर रिकर्शन (Parallel Recursion) में, $k$ इनवेरिएंट और डोमेन उम्मीदवारों का नमूना लिया जाता है, और $k$ स्वतंत्र संयोजन सत्र उत्तराधिकारी उत्पन्न करते हैं: $H_{j}^{'} = \textsc C o m p ose_{j} (q_{t}, H, B, P; R_{t}), j = 1, \dots, k$ अनुक्रमिक रिकर्शन (Sequential Recursion) में, $k$ परिष्करण चरण क्रमिक रूप से श्रृंखलाबद्ध होते हैं: $(H^{(r)}, e^{(r)}, ξ^{(r)}) = Φ (q_{t}, H^{(r - 1)}, E^{(r - 1)}; R_{t}), r = 1, \dots, k$

हार्नेसिंग-लेवल रिकर्शन

कार्य पूरा होने और आर्टिफैक्ट चयन के बाद, सुधार प्रक्रिया सुधार हार्नेस लाइब्रेरी को अपडेट करने के लिए पूर्ण सुधार रिकॉर्ड $D_{t}$ की समीक्षा करती है: $R_{t + 1} = \textsc U p d a t e (R_{t}, H_{t}^{⋆}, D_{t})$ गलत विशेषताओं से बचने के लिए, सीखे गए सबक स्पष्ट रूप से ठोस प्रक्षेपवक्र (trajectory) विरोधाभासों पर आधारित होते हैं।

परिणाम

OpenCode और Codex के तहत Gemini 3.5 Flash और GLM-5 का उपयोग करके WorkBuddy-Bench (WB), JobBench, और Legal Agent Benchmark (LAB) पर मूल्यांकन किया गया:

सिंगल स्टेप ( $k = 1$ ) लाभ: WB Avg पर $+ 11.5$ अंक तक (OpenCode पर GLM-5: $64.2 \to 75.7$ ), JobBench पर $+ 4.5$ अंक (OpenCode पर Gemini: $31.5 \to 36.0$ ), और LAB आंशिक पास दर में $+ 11.8$ प्रतिशत अंक (OpenCode पर GLM-5: $59.6% \to 71.4%$ ) का सुधार प्राप्त होता है।
बजट स्केलिंग: $k = 5$ पर समानांतर रिकर्शन जोड़ने से WB पर $+ 2.9$ से $+ 3.9$ अंक, JobBench पर $+ 3.0$ से $+ 4.2$ अंक, और LAB पर $+ 2.6$ से $+ 6.7$ प्रतिशत अंक का अतिरिक्त लाभ मिलता है।
समान-मॉडल सुधारक (Same-Model improver): यह प्रदर्शित करता है कि लाभ किसी बाहरी बेहतर मॉडल पर निर्भर नहीं करते हैं; जब एक ही मॉडल निष्पादक और हार्नेस संपादक दोनों के रूप में कार्य करता है (GLM-5 से लेकर Claude Opus 5 तक परीक्षण किया गया), तो सभी बेंचमार्क पर लगातार प्रदर्शन सुधार देखा गया।
घटक एब्लेशन (Component Ablations): लाइब्रेरी, स्कोपिंग भूमिकाओं और संयोजन को हटाने से WB प्रदर्शन क्रमशः $3.1$ , $2.9$ और $1.6$ अंक कम हो जाता है।

सीमाएं और खुले प्रश्न

इन्फेरेंस कंप्यूट ओवरहेड: कई हार्नेस को प्रस्तावित करने, जांचने और संयोजित करने में काफी अतिरिक्त टोकन और रोलआउट लागत आती है।
स्टोकेस्टिकिटी और एट्रिब्यूशन बायस: ग्राउंड-ट्रुथ वेरिफायर्स के बिना, व्यावहारिक विरोधाभासों पर निर्भरता निष्पादन प्रसरण उच्च होने पर कभी-कभी शोर-युक्त क्रेडिट एट्रिब्यूशन या रूढ़िवादी/प्रतिबंधात्मक संपादन का कारण बन सकती है।
लाइब्रेरी विस्तार और प्रूनिंग: लाइब्रेरी घटकों को क्रमिक रूप से बनाए रखती है; पुराने पाठों को छांटने (prune) या बहुत लंबे कार्य क्षितिज पर परस्पर विरोधी कौशलों को सक्रिय रूप से समेकित करने के तंत्र अभी भी अनुसंधान का एक खुला क्षेत्र हैं।

मुख्य शब्द

harness: रनटाइम स्कैफोल्डिंग—जिसमें सिस्टम प्रॉम्प्ट, गार्डरेल्स, मेमोरी, स्किल्स, टूल गाइडेंस, स्क्रिप्ट्स, सब-एजेंट्स और मिडलवेयर प्लगइन्स शामिल हैं—जो एक एजेंट के रूप में काम करने के लिए स्थिर बेस LLM को घेरता है।
recursive agent harnessing: एक दोहरा-लूप रिकर्सिव सेल्फ-इम्प्रूवमेंट फ्रेमवर्क जहां टास्क-लेवल रिकर्शन वर्तमान कार्य के निष्पादन हार्नेस को परिष्कृत करता है जबकि हार्नेसिंग-लेवल रिकर्शन विभिन्न कार्यों में सुधार तंत्र को अपडेट करता है।
Propose–Probe–Compose: एक कंट्रास्टिव हार्नेस सुधार चरण जो स्कोप्ड हार्नेस संशोधनों का प्रस्ताव करता है, संदर्भ रनों के विरुद्ध उनके अनुभवजन्य व्यवहार की जांच करता है, और बिना ग्राउंड-ट्रुथ लेबल के मान्य डिफ्स को चुनिंदा रूप से संयोजित करता है।
parallel recursion: एक टास्क-लेवल अन्वेषण दृष्टिकोण जो एक साथ कई इनवेरिएंट और डोमेन-विशिष्ट उम्मीदवारों को उत्पन्न और जांचता है, जिसके बाद कई स्वतंत्र संयोजन सत्र होते हैं।
sequential recursion: संचित निष्पादन इतिहास पर आधारित क्रमिक कंट्रास्टिव सुधार चरणों को जोड़ने वाली एक पुनरावृत्त कार्य-स्तरीय परिष्करण रणनीति।
harness improvement library: एक स्थायी क्रॉस-टास्क रिपॉजिटरी जिसमें अपनाए गए निष्पादन योग्य हार्नेस और प्रलेखित परिचालन सबक शामिल हैं जो भविष्य के हार्नेस संशोधनों को सूचित करते हैं।
invariant candidate: एक प्रस्तावित हार्नेस संस्करण जो सामान्य एजेंटिक निष्पादन कमियों जैसे टूल उपयोग, योजना, नियतात्मक स्क्रिप्टिंग, या संदर्भ प्रबंधन को लक्षित करता है।
domain-specific candidate: एक प्रस्तावित हार्नेस संस्करण जो किसी विशिष्ट परिचालन डोमेन के लिए प्रासंगिक प्रक्रियात्मक आवश्यकताओं, डोमेन ज्ञान, निरंतरता जांच और डिलिवरेबल कॉन्ट्रैक्ट्स को लक्षित करता है।

प्रश्न

Harness2 ग्राउंड-ट्रुथ वेरिफायर या टास्क लेबल के बिना हार्नेस संपादनों का मूल्यांकन कैसे करता है?

यह अप्रभावित संदर्भ रोलआउट्स के विरुद्ध मेल खाने वाले उम्मीदवार की जांच के दौरान प्राप्त व्यावहारिक विरोधाभासों का उपयोग करता है। शुद्धता अंकों को मानने के बजाय, कंपोज़र निष्पादन प्रक्षेपवक्र में विशिष्ट व्यावहारिक तंत्र, त्रुटि न्यूनीकरण, और आउटपुट अनुरूपता को देखता है।

क्या Harness2 को हार्नेस एडिटर के रूप में कार्य करने के लिए अधिक शक्तिशाली LLM की आवश्यकता होती है?

नहीं। निष्पादक और हार्नेस एडिटर दोनों के रूप में बिल्कुल समान मॉडल (GLM-5, Gemini, और Claude वेरिएंट में परीक्षित) का उपयोग करने वाले प्रयोगों ने सभी मूल्यांकित बेंचमार्क पर लगातार सुधार दिखाया, जिसमें GLM-5 का उपयोग करके LAB पर 13.7 अंक का लाभ भी शामिल है।

क्या होगा यदि कोई प्रस्तावित हार्नेस संपादन त्रुटियों को जन्म देता है या सत्यापन में विफल रहता है?

Harness2 संरचनात्मक सत्यापन करता है (उदा. स्किल ट्रिगर्स और स्क्रिप्ट सिंटैक्स का सत्यापन)। यदि अमान्य है, तो यह सत्यापनकर्ता फीडबैक के साथ एक बार पुनः प्रयास करता है; यदि यह फिर से विफल रहता है या खाली आउटपुट जैसी विनाशकारी रनटाइम समस्याएं पैदा करता है, तो यह सुरक्षित रूप से पिछली स्थिर हार्नेस स्थिति पर वापस आ जाता है।

क्या एक बेंचमार्क में संचित अनुभव दूसरे बेंचमार्क में स्थानांतरित हो सकता है?

हाँ। क्रॉस-बेंचमार्क प्रयोगों में, JobBench पर संचित सुधार लाइब्रेरी को WorkBuddy-Bench में स्थानांतरित करने से अतिरिक्त जांच के बिना Code (+0.6), Web (+0.5), और Office (+2.9) डोमेन में एक-चरणीय परिष्करण प्रदर्शन में सुधार हुआ।

इस पृष्ठ की व्याख्या AI ने शोध पत्र से लिखी है और इसमें गलतियाँ हो सकती हैं। विवरण के लिए मूल शोध पत्र पढ़ें।

अनुवाद और AI के साथ पढ़ें