Makaleler · arXiv 2005.14165
Language Models are Few-Shot Learners
Üç satırda özet
- 🎯 Standart NLP modelleri, binlerce etiketli örnek üzerinde göreve özel ince ayara dayanır ve bu da zayıf dağılım dışı genelleme riski taşır.
- 🔧 GPT-3'ü (175B parametreye kadar) 300B belirteç üzerinde eğitin ve herhangi bir ağırlık güncellemesi olmadan bağlam içi istem koşullandırması kullanarak değerlendirin.
- 📈 Az-atımlı ortamda GPT-3 175B, TriviaQA'da %71,2 ve LAMBADA'da %86,4 doğruluk elde ederek ince ayarlı modelleri yakalar veya onlara yaklaşır.
Özet
Son dönemdeki çalışmalar, geniş bir metin derlemi üzerinde ön eğitim ve ardından belirli bir görev üzerinde ince ayar (fine-tuning) yaparak birçok NLP görevi ve kıyaslama testinde önemli kazanımlar elde edildiğini göstermiştir. Mimari açıdan genellikle görevden bağımsız olsa da bu yöntem, binlerce veya on binlerce örnekten oluşan göreve özel ince ayar veri kümelerine ihtiyaç duymaya devam etmektedir. Buna karşılık insanlar, yeni bir dil görevini genellikle yalnızca birkaç örnekten veya basit talimatlardan yola çıkarak yerine getirebilir; mevcut NLP sistemleri ise bunu yapmakta hâlâ büyük ölçüde zorlanmaktadır. Bu çalışmada, dil modellerini ölçeklendirmenin görevden bağımsız, az-atımlı (few-shot) performansı büyük ölçüde artırdığını ve kimi zaman önceki en gelişmiş (state-of-the-art) ince ayar yaklaşımlarıyla rekabet edebilecek düzeye ulaştığını gösteriyoruz. Özellikle, önceki seyrek olmayan tüm dil modellerinden 10 kat daha büyük olan 175 milyar parametreli özbağlanımlı (autoregressive) bir dil modeli olan GPT-3'ü eğitiyor ve performansını az-atımlı ortamda test ediyoruz. Tüm görevler için GPT-3, herhangi bir gradyan güncellemesi veya ince ayar yapılmaksızın; görevler ve az-atımlı gösterimler tamamen modelle metin tabanlı etkileşim yoluyla belirtilerek uygulanmaktadır. GPT-3; çeviri, soru-cevap ve cloze görevlerinin yanı sıra kelimeleri çözme, yeni bir kelimeyi cümle içinde kullanma veya 3 basamaklı aritmetik işlemler yapma gibi anlık akıl yürütme veya alan uyarlaması gerektiren birçok görev de dâhil olmak üzere çok sayıda NLP veri kümesinde güçlü bir performans sergilemektedir. Aynı zamanda, GPT-3'ün az-atımlı öğrenmesinin hâlâ zorlandığı bazı veri kümelerini ve büyük web derlemleri üzerinde eğitimden kaynaklanan yöntemsel sorunlarla karşılaştığı bazı veri kümelerini de tespit ediyoruz. Son olarak, GPT-3'ün insan değerlendiricilerin insanlar tarafından yazılan makalelerden ayırt etmekte zorlandığı haber makalesi örnekleri üretebildiğini görüyoruz. Bu bulgunun ve genel olarak GPT-3'ün daha geniş toplumsal etkilerini tartışıyoruz.
Orijinal özet (İngilizce)
Recent work has demonstrated substantial gains on many NLP tasks and benchmarks by pre-training on a large corpus of text followed by fine-tuning on a specific task. While typically task-agnostic in architecture, this method still requires task-specific fine-tuning datasets of thousands or tens of thousands of examples. By contrast, humans can generally perform a new language task from only a few examples or from simple instructions - something which current NLP systems still largely struggle to do. Here we show that scaling up language models greatly improves task-agnostic, few-shot performance, sometimes even reaching competitiveness with prior state-of-the-art fine-tuning approaches. Specifically, we train GPT-3, an autoregressive language model with 175 billion parameters, 10x more than any previous non-sparse language model, and test its performance in the few-shot setting. For all tasks, GPT-3 is applied without any gradient updates or fine-tuning, with tasks and few-shot demonstrations specified purely via text interaction with the model. GPT-3 achieves strong performance on many NLP datasets, including translation, question-answering, and cloze tasks, as well as several tasks that require on-the-fly reasoning or domain adaptation, such as unscrambling words, using a novel word in a sentence, or performing 3-digit arithmetic. At the same time, we also identify some datasets where GPT-3's few-shot learning still struggles, as well as some datasets where GPT-3 faces methodological issues related to training on large web corpora. Finally, we find that GPT-3 can generate samples of news articles which human evaluators have difficulty distinguishing from articles written by humans. We discuss broader societal impacts of this finding and of GPT-3 in general.
Okuma rehberi
Problem ve motivasyon
Standart ön eğitim artı ince ayar iş akışları, göreve özel büyük ölçekli etiketli veri kümelerine (genellikle binlerce ila yüz binlerce örnek) ihtiyaç duyar. Bu gereksinim genel uygulanabilirliği sınırlar, yanıltıcı korelasyonlara olan duyarlılığı artırır ve görevlere yalnızca talimatlar veya asgari düzeyde gösterim kullanarak uyum sağlayan insan öğrenmesinden ayrışır. Daha küçük modellerle bağlam içi öğrenmeye yönelik önceki girişimler, ince ayarın oldukça gerisinde kalmıştı.
Temel fikirler
- Bağlam İçi Meta-Öğrenme (In-Context Meta-Learning): Model, ön eğitim sırasında örüntü tanıma becerileri kazanır ve test zamanındaki ileri yönlü geçişler sırasında gradyan güncellemeleri olmadan aktivasyon uzayında görev uyarlaması gerçekleştirir.
- Koşullandırma Yelpazesi: Görevler; sıfır-atımlı (zero-shot, yalnızca talimat), tek-atımlı (one-shot, talimat + bir gösterim) ve az-atımlı (few-shot, gösterim, tipik olarak 2048 belirteçlik bir pencere içinde 10 ila 100 arası) olmak üzere test edilir.
- Öngörülebilir Ölçekleme: Doğrulama kaybının güç yasasına (power-law) dayalı ampirik ölçeklenmesi, 8 model boyutu (125M ile 175B parametre arası) genelinde sonraki aşama görev kabiliyetlerinde sürekli iyileşmelere dönüşür.
Yöntem
GPT-3, GPT-2 ile eşleşen özbağlanımlı bir transformer mimarisi kullanır ve dönüşümlü yoğun (dense) ile yerel bantlı seyrek (sparse) dikkat örüntüleri ekler. Modeller, etkin bağlam boyutuyla 300 milyar belirteç üzerinde önceden eğitilmiştir.
Temel değerlendirme formülasyonları şunları içerir:
- Belirteç Başına Tamamlama Olasılığı: Çoktan seçmeli veri kümeleri için aday tamamlamalar, normalize edilmiş belirteç olasılıkları karşılaştırılarak değerlendirilir.
- Koşulsuz Normalizasyon: ARC, OpenBookQA ve RACE gibi kıyaslama testlerinde model olasılığı, koşulsuz bir referans noktasına göre normalize edilir:
burada ,
"Answer: "veya"A: "gibi genel bir istemdir. - Üretim Kod Çözme: Serbest biçimli tamamlama görevlerinde 4 ışın genişliği (beam width) ve uzunluk cezası ile ışın araması (beam search) kullanılır.
Sonuçlar
- Kapalı Kitap Soru-Cevap (Closed-Book QA): GPT-3 175B, TriviaQA'da az-atımlı olarak %71,2'ye ulaşır (açık alan ince ayarlı RAG'in %68,0'lik sonucunu aşar), WebQuestions'da %41,5 ve Natural Questions'da %29,9 elde eder.
- Dil Modelleme ve Cloze: PTB üzerinde 20,5 perplexity değerine (sıfır-atımlı) ulaşır. LAMBADA'da görevi bir cloze testi olarak kurgulamak, %86,4 az-atımlı doğruluk sağlar (önceki SOTA'nın %18 üzerinde).
- Çeviri: İngilizceye çeviride 39,2 BLEU (Fr En), 40,6 BLEU (De En) ve 39,5 BLEU (Ro En) değerlerine ulaşarak önceki denetimsiz NMT referans modellerini geride bırakır.
- Akıl Yürütme ve Sentez: Az-atımlı ortamlarda 2 basamaklı toplamayı %100 ve 3 basamaklı toplamayı %80,4 oranında çözer. İnsan değerlendiricilerin gerçek makalelerden yalnızca %52 doğrulukla (rastgele tahmin düzeyine yakın) ayırt edebildiği sentetik haber makaleleri üretir.
Kısıtlar ve açık sorular
- Zayıf Görevler: Diziler arası karşılaştırmalarda, özellikle NLI (örn. ANLI, RTE) ve Word-in-Context (WiC %49,4 ile rastgele tahmin düzeyinde) görevlerinde zorlanır.
- Yapısal Kısıtlar: Tamamen özbağlanımlı eğitim, geriye dönük bakış veya tüm diziyi yeniden okuma gerektiren görevlere zarar veren çift yönlü koşullandırmayı engeller.
- Veri Kirlenmesi (Data Contamination): Yoğun web kazıma işlemi, eğitim-test örtüşmesine neden olur ve bu durum kapsamlı sonradan -gram filtreleme denetimlerini (örn. Winograd ve PIQA üzerinde) zorunlu kılar.
- Toplumsal Etkiler: İnternet ölçeğinde eğitim, önemli ölçüde cinsiyet, ırk ve din önyargılarını içine çeker ve üretilen çıktılar kötü niyetli metin üretimi için kullanılabilir.
Temel terimler
- in-context learning
- Önceden eğitilmiş bir modelin, test zamanında gradyan güncellemeleri olmadan yalnızca doğal dil talimatlarından ve istem gösterimlerinden bir görevi çıkardığı ve gerçekleştirdiği iç döngü uyarlama süreci.
- few-shot
- Modelin görev tanımının yanında bağlam penceresine sığabilecek kadar (tipik olarak 10 ila 100) gösterim örneği aldığı bir değerlendirme ortamı.
- one-shot
- Doğal dilde bir görev tanımıyla eşleştirilmiş yalnızca tek bir görev gösterimine izin veren değerlendirme koşulu.
- zero-shot
- Modelin hiçbir gösterim örneği olmadan yalnızca görevi açıklayan doğal dilde bir talimat aldığı değerlendirme kurgusu.
- closed-book question answering
- Test zamanında harici belgelere veya erişim sistemlerine başvurmaksızın yalnızca model parametrelerinde depolanan bilgiye dayanarak olgusal soruları yanıtlama.
- data contamination
- Sonraki aşama değerlendirme kıyaslamalarının, test kümelerinin veya geliştirme kümelerinin internet ölçeğindeki geniş ön eğitim derlemine kazara dâhil edilmesi.
- sparse attention
- Uzun bağlamlarda hesaplama verimliliğini dengelemek için yoğun dikkat katmanlarını yerel bantlı seyrek dikkat örüntüleriyle dönüştüren mimari bir uyarlama.
- unconditional normalization
- Çoktan seçmeli görevlerde uzunluk ve sıklık önyargılarını ortadan kaldırmak için koşullu tamamlama olasılığının yalnızca genel bir istem verildiğinde tamamlamanın sahip olduğu olasılığa bölünmesi.
Sorular
Tam GPT-3 modeli kaç parametreye sahiptir ve nasıl eğitilmiştir?
GPT-3; 96 katman, 96 dikkat başlığı ve 12.288'lik bir gizli boyuta yayılan 175 milyar eğitilebilir parametreye sahiptir. Filtrelenmiş Common Crawl, WebText2, Books1, Books2 ve Wikipedia üzerinde Microsoft V100 GPU kümelerinde Adam kullanılarak 300 milyar belirteç boyunca eğitilmiştir.
GPT-3 sonraki aşama kıyaslama testleri için ince ayar (fine-tuning) kullanır mı?
Hayır, makaledeki tüm temel sonuçlar gradyan güncellemeleri veya ince ayar yapılmadan, yalnızca sıfır-atımlı, tek-atımlı veya az-atımlı bağlam istemlerine dayanılarak değerlendirilmiştir.
İnsanlar GPT-3 175B tarafından üretilen haber makalelerini ne kadar kolay ayırt edebilmektedir?
İnsan değerlendiriciler, GPT-3 tarafından üretilen kısa (200 kelime) ve daha uzun (500 kelime) haber makalelerini insanların yazdığı makalelerden ayırt etmede yaklaşık %52 doğruluk elde etmiştir; bu oran rastgele tahmin düzeyinin (%50) hemen üzerindedir.
GPT-3 en çok hangi görevlerde zorlanmaktadır?
GPT-3; doğal dil çıkarımı görevlerinde (örn. ANLI ve RTE), Word-in-Context gibi çift yönlü karşılaştırmalarda (WiC, %49,4 puan ile) ve QuAC ile RACE gibi belirli okuduğunu anlama görevlerinde düşük performans göstermektedir.
Bu sayfadaki açıklama yapay zekâ tarafından makaleden yazılmıştır ve hata içerebilir. Ayrıntılar için makaleyi okuyun.