ReAct: Synergizing Reasoning and Acting in Language Models

Shunyu Yao; Jeffrey Zhao; Dian Yu; Nan Du; Izhak Shafran; Karthik Narasimhan; Yuan Cao

Makaleler · arXiv 2210.03629

ReAct: Dil Modellerinde Akıl Yürütme ve Eylemi Bir Araya Getirme

ReAct: Synergizing Reasoning and Acting in Language Models

Shunyu Yao, Jeffrey Zhao, Dian Yu, Nan Du, Izhak Shafran, Karthik Narasimhan, Yuan Cao

Yayımlanma 2022-10-06cs.CLcs.AIcs.LG arXiv PDF

Çeviri ve yapay zekâ ile oku

Üç satırda özet

🎯 Yalnızca düşünce zinciri yürüten LLM'ler yalıtılmış şekilde akıl yürütür ve halüsinasyon üretir; yalnızca eylem gerçekleştiren ajanlar ise çalışma belleğinden ve stratejik planlamadan yoksundur.
🔧 Dinamik olarak planlamak, izlemek ve eyleme geçmek için ajanın eylem uzaylarını, fiziksel/API eylemleriyle iç içe geçmiş serbest biçimli dilsel düşüncelerle genişletin.
📈 ReAct, ALFWorld'de %71 ve WebShop'ta %40,0 başarı elde ederek taklit/RL temellerini geride bırakırken, soru yanıtlama görevlerinde halüsinasyonları büyük ölçüde azaltır.

Özet

Büyük dil modelleri (LLM'ler) dil anlama ve etkileşimli karar verme görevlerinde etkileyici yetenekler sergilese de, akıl yürütme (örneğin düşünce zinciri istemleme) ve eylemde bulunma (örneğin eylem planı oluşturma) yetenekleri öncelikle ayrı konular olarak incelenmiştir. Bu makalede, LLM'lerin hem akıl yürütme izlerini hem de göreve özgü eylemleri iç içe geçmiş bir biçimde üretmesini inceleyerek ikisi arasında daha güçlü bir sinerji sağlıyoruz: Akıl yürütme izleri modelin eylem planlarını çıkarmasına, izlemesine, güncellemesine ve istisnaları yönetmesine yardımcı olurken; eylemler ise ek bilgi toplamak amacıyla bilgi tabanları veya çevreler gibi harici kaynaklarla etkileşime girmesini sağlar. ReAct adını verdiğimiz yaklaşımımızı çeşitli dil ve karar verme görevlerine uyguluyor; son teknoloji kıyaslamalara karşı etkinliğini, ayrıca akıl yürütme veya eylem bileşenleri içermeyen yöntemlere kıyasla gelişmiş insan tarafından yorumlanabilirliğini ve güvenilirliğini gösteriyoruz. Somut olarak, soru yanıtlama (HotpotQA) ve olgu doğrulama (Fever) görevlerinde ReAct, basit bir Wikipedia API'si ile etkileşime girerek düşünce zinciri akıl yürütmesinde yaygın olan halüsinasyon ve hata yayılımı sorunlarının üstesinden gelir ve akıl yürütme izleri bulunmayan temel yöntemlere kıyasla daha yorumlanabilir, insan benzeri görev çözme yörüngeleri üretir. İki etkileşimli karar verme testinde (ALFWorld ve WebShop), ReAct yalnızca bir veya iki bağlam içi örnekle yönlendirildiğinde taklit ve pekiştirmeli öğrenme yöntemlerini sırasıyla %34 ve %10 mutlak başarı oranıyla geride bırakır. Kodları içeren proje sitesi: https://react-lm.github.io

Orijinal özet (İngilizce)

While large language models (LLMs) have demonstrated impressive capabilities across tasks in language understanding and interactive decision making, their abilities for reasoning (e.g. chain-of-thought prompting) and acting (e.g. action plan generation) have primarily been studied as separate topics. In this paper, we explore the use of LLMs to generate both reasoning traces and task-specific actions in an interleaved manner, allowing for greater synergy between the two: reasoning traces help the model induce, track, and update action plans as well as handle exceptions, while actions allow it to interface with external sources, such as knowledge bases or environments, to gather additional information. We apply our approach, named ReAct, to a diverse set of language and decision making tasks and demonstrate its effectiveness over state-of-the-art baselines, as well as improved human interpretability and trustworthiness over methods without reasoning or acting components. Concretely, on question answering (HotpotQA) and fact verification (Fever), ReAct overcomes issues of hallucination and error propagation prevalent in chain-of-thought reasoning by interacting with a simple Wikipedia API, and generates human-like task-solving trajectories that are more interpretable than baselines without reasoning traces. On two interactive decision making benchmarks (ALFWorld and WebShop), ReAct outperforms imitation and reinforcement learning methods by an absolute success rate of 34% and 10% respectively, while being prompted with only one or two in-context examples. Project site with code: https://react-lm.github.io

Okuma rehberi

Problem ve motivasyon

Büyük dil modelleri (LLM'ler), Chain-of-Thought (CoT) aracılığıyla akıl yürütmede ve uygulanabilir komutlar üreterek karar vermede oldukça başarılıdır. Ancak bu iki yetenek genellikle birbirinden yalıtılmış olarak incelenmiştir:

CoT akıl yürütmesi temellendirilmemiştir (ungrounded): Model yalnızca sabit iç temsillerine güvenir; bu da onu olgusal halüsinasyonlara, güncel bilgi eksikliğine ve katlanarak artan hata yayılımına açık hale getirir.
Yalnızca eylem içeren (action-only) sistemler bağlamları doğrudan çevre eylemleriyle eşleştirir: Soyut hedefler formüle etmek, ara alt hedefleri sürdürmek veya beklenmeyen durum değişikliklerini yönetmek için açık bir çalışma belleğinden yoksundurlar.

İnsanın iç konuşmasından esinlenen bu makale, akıl yürütme adımları ile çevresel etkileşimlerin iç içe geçirilmesinin birbirini güçlendiren bir döngü oluşturup oluşturmadığını araştırmaktadır: Akıl yürütme eylemleri yönlendirirken, eylem geri bildirimi ise akıl yürütmeyi temellendirir.

Temel fikirler

Eylem Uzayını Genişletme (Action Space Augmentation): Ajanın eylem uzayı, hiçbir harici gözlem üretmeyen ancak dahili bağlamı güncelleyen dilsel düşünceleri içerecek şekilde genişletilir.
Yoğun ve Seyrek Düşünce Rejimleri: Göreve bağlı olarak düşünceler sıkı biçimde eşlenebilir (çok adımlı QA için adım adım değişmeli olarak) veya asenkron ve seyrek olabilir (yalnızca uzun ufuklu oyunlarda planlama yaparken ya da beklenmedik durumları ele alırken kullanılır).
Hibrit Akıl Yürütme: Dahili parametrik bilginin (CoT self-consistency aracılığıyla) erişilen harici geri bildirimle (ReAct aracılığıyla) birleştirilmesi, olgusal kesinlik ile akıl yürütme çevikliği arasında denge kurar.

Yöntem (temel denklemlerle)

Bir ajanın $t$ anında $o_{t} \in O$ gözlemini aldığı, $c_{t} = (o_{1}, a_{1}, \dots, o_{t - 1}, a_{t - 1}, o_{t})$ yörünge bağlamını koruduğu ve $π (a_{t} ∣ c_{t})$ politikasına göre hareket ettiği etkileşimli bir ortam düşünün.

ReAct, eylem uzayını şu şekilde genişletir: $\hat{A} = A \cup L$ burada $L$ , serbest biçimli dilsel ifadelerin uzayıdır.

Ajan bir çevresel eylem $\overset{a}{^}_{t} \in A$ üretirse, çevre bir $o_{t} \in O$ gözlemi döndürür ve sonraki $c_{t + 1} = (c_{t}, \overset{a}{^}_{t}, o_{t})$ bağlamını oluşturur.
Ajan bir düşünce $\overset{a}{^}_{t} \in L$ üretirse, hiçbir harici gözlem oluşturulmaz; düşünce doğrudan ajanın bağlamına eklenir: $c_{t + 1} = (c_{t}, \overset{a}{^}_{t})$ .

Bilgi görevleri (HotpotQA, FEVER) için API eylem kümesi $A = {Search [entity], Lookup [string], Finish [answer]}$ şeklindedir. Hibrit kurulumlar için:

$ReAct \to CoT-SC$ : ReAct belirli adımlar içinde tamamlanamazsa (örneğin HotpotQA için 7, FEVER için 5), CoT self-consistency yönteminin çoğunluk oylamasına geri dönülür.
$CoT-SC \to ReAct$ : $n$ örnek arasındaki çoğunluk uzlaşması $n /2$ 'nin altına düşerse ReAct'e geri dönülür.

Sonuçlar (en önemli sayılarla)

Bilgiye Dayalı Akıl Yürütme (PaLM-540B):
- HotpotQA'de her iki rejimin birleştirilmesi ( $ReAct \to CoT-SC$ ), Standard (%28,7), CoT (%29,4) ve Act (%25,7) yöntemlerine kıyasla %35,1 Tam Eşleşme (EM) elde eder.
- FEVER'da $CoT-SC \to ReAct$ , Standard (%57,1) ve CoT (%56,3) karşısında %64,6 Doğruluk seviyesine ulaşır.
- Hata analizi, HotpotQA'deki başarısızlık durumlarında ReAct'in %0 oranında halüsinasyon gördüğünü; buna karşılık halüsinasyonun CoT başarısızlıklarının %56'sını oluşturduğunu göstermektedir.
Karar Verme (ALFWorld ve WebShop):
- ALFWorld'de en iyi 6 denemenin en iyisi (best-of-6) ReAct, ortalama %71 başarı oranına (ve istemler genelinde ortalama %57) ulaşarak; Yalnızca Eylem (en iyi %45), Inner Monologue tarzı istemleme (en iyi %53) ve $1 0^{5}$ yörünge üzerinde eğitilmiş bir taklit öğrenme ajanı olan BUTLER'ı (en iyi %37) geride bırakır.
- WebShop'ta tek örnekli (1-shot) ReAct, %40,0 başarı oranı ve 66,6 ortalama puan elde ederek, 10.000'den fazla talimat üzerinde eğitilmiş taklit + pekiştirmeli öğrenme modellerini (%28,7 başarı, 62,4 puan) mağlup eder.
İnce Ayar (Finetuning): Kendi ürettiği 3.000 doğru yörünge ile PaLM-8B ve PaLM-62B modellerinin önyüklenmesi (bootstrapping), ReAct'i en iyi performans gösteren yöntem yapar; ince ayarlı PaLM-8B ReAct, tüm 62B istemleme yöntemlerinden daha iyi performans sergiler.

Kısıtlamalar ve açık sorular

Bağlam İçi İstemleme Sınırları: Bağlam penceresi kısıtlamaları nedeniyle LLM'ler yalnızca az sayıda gösterimi (1–6 örnek) gözlemleyebilir; bu da yalnızca istemler üzerinden devasa eylem uzaylarında uzmanlaşmayı zorlaştırır.
Arama Sapmaları ve Döngüler: Açgözlü kod çözme (greedy decoding) altında, bilgi içermeyen arama sonuçları ReAct'in hata durumlarının %23'ünde başarısız olmasına yol açar ve modeli zaman zaman tekrarlayan döngülere hapseder.
Güvenlik ve Araç Çalıştırma: LLM'lere açık ortamlarda harici eylem yetkisi verilmesi, istenmeyen eylemlerin gerçekleştirilmesi riskini doğurur (örneğin istenmeyen web işlemlerinin yürütülmesi veya hassas verilerin çekilmesi).

Temel terimler

ReAct: Büyük dil modellerini, genel görev çözümü için iç içe geçmiş akıl yürütme izleri ve alana özgü eylemler üretmeye yönlendiren istem tabanlı bir paradigma.
Chain-of-Thought (CoT): Modellerin harici ortamlarda eylem gerçekleştirmeksizin, nihai bir yanıt üretmeden önce dahili akıl yürütme adımları çıktısı verdiği bir istemleme yaklaşımı.
Action Space Augmentation: Bir ajanın ayrık eylem kümesinin, çevreyi değiştirmeyen düşünceler olarak tanımlanan rastgele doğal dil ifadelerini içerecek şekilde biçimsel olarak genişletilmesi.
Inner Monologue (IM): Dil modeli düşüncesinin esnek iç stratejik planlama yerine öncelikli olarak harici çevre geri bildirimiyle sınırlandırıldığı bir temel model ve önceki yaklaşım.
CoT-SC: Yanıtların sıfır olmayan bir sıcaklıkla birden çok kez örneklendiği ve çoğunluk oylamasıyla seçildiği, tutarlılık (self-consistency) ile birleştirilmiş düşünce zinciri istemlemesi.
ALFWorld: Çok adımlı ev içi hedef ayrıştırma, gezinme ve nesne manipülasyonunu test eden ALFRED kıyaslamasına dayalı, metin tabanlı etkileşimli bir ortam.
WebShop: Bir ajanın metin talimatlarını karşılayan ürünlere göz atma ve satın alma yeteneğiyle değerlendirildiği, Amazon'dan taranmış 1,18 milyon gerçek dünya ürününü içeren gerçekçi bir web gezintisi kıyaslama testi.
Self-Reflection / Thought Editing: Bir operatörün model ağırlıklarını veya eylem geçmişlerini değiştirmek yerine, üretilen bir dilsel düşünceyi manuel olarak düzenleyerek modelin yörüngesini düzelttiği veya yönlendirdiği insan döngüde (human-in-the-loop) müdahalesi.

Sorular

ReAct neden standart Chain-of-Thought yöntemine göre halüsinasyonlara daha az yatkındır?

CoT, sıklıkla var olmayan olgular uyduran dahili parametrik belleğe güvenir. ReAct ise somut eylemler aracılığıyla harici kaynakları (Wikipedia API'leri gibi) denetler ve sonraki düşünceleri doğrudan elde edilen gözlemlere dayandırır.

ReAct'in WebGPT veya SayCan'den farkı nedir?

WebGPT ve SayCan, modele kendi sözel akıl yürütme izlerini iç içe bir döngüde sürdürmesi, ayrıştırması ve ayarlaması için açıkça istem vermeden, insan geri bildirimi veya uygunluk (affordance) modelleri kullanarak eylemleri veya planları tahmin etmeye odaklanır.

ReAct'te arama yararlı bir sonuç vermediğinde ne olur?

Arama başarısızlıkları, HotpotQA'de ReAct'in hata vakalarının yaklaşık %23'ünü oluşturmuştur; modeller bazen sorguları yeniden formüle etmekte zorlanır ve açgözlü kod çözme altında tekrarlayan eylem döngülerine takılır.

ReAct'te insan döngüde düşünce düzenleme (thought editing) nasıl çalışır?

Akıl yürütme izleri yalın bir dille yazıldığı için, bir insan başarısız olan bir yörüngeyi inceleyebilir ve anında bir veya iki ara düşünceyi düzenleyerek, parametrelerde ince ayar yapmaya gerek kalmadan ajanı döngülerden veya yanlış inançlardan hızla çıkarabilir.

Bu sayfadaki açıklama yapay zekâ tarafından makaleden yazılmıştır ve hata içerebilir. Ayrıntılar için makaleyi okuyun.

Çeviri ve yapay zekâ ile oku