Okumaya değer makaleler
Popüler ve klasik makaleler, kısa bir yapay zekâ özetiyle. Okuyucuda açarak tam çeviri, açıklama ve sohbet kullanın.
Gündemde
- OpenHands: Genel Uzman Ajanlar Olarak Yapay Zeka Yazılım Geliştiricileri İçin Açık Bir PlatformOpenHands: An Open Platform for AI Software Developers as Generalist AgentsOpenHands; yalıtılmış çalıştırma, web'de gezinme ve 15 kıyaslama testini birleştiren açık kaynaklı bir yapay zeka geliştirici platformudur.
- TradingAgents: Çok Ajanlı LLM Finansal Alım-Satım ÇerçevesiTradingAgents: Multi-Agents LLM Financial Trading FrameworkTradingAgents, uzmanlaşmış LLM ajanları ve çok yönlü münazaralarla bir ticaret firmasını simüle ederek üstün riske göre düzeltilmiş getiri sunar.
- Unlimited OCR WorksUnlimited OCR Works: Welcome the Era of One-shot Long-horizon ParsingUnlimited OCR, tek seferde uzun ufuklu belge transkripsiyonu için Reference Sliding Window Attention ile sabit KV önbellekli kod çözme sunar.
- AgentScope ile Çok Büyük Ölçekli Çoklu Ajan SimülasyonuVery Large-Scale Multi-Agent Simulation in AgentScopeAgentScope; aktör tabanlı dağıtık mekanizma, çeşitlilik ve web yönetimiyle simülasyonları 1 milyon LLM ajanına kadar ölçeklendirir.
- AgentScope 1.0: Ajan Tabanlı Uygulamalar Geliştirmek İçin Geliştirici Odaklı Bir ÇerçeveAgentScope 1.0: A Developer-Centric Framework for Building Agentic ApplicationsAgentScope 1.0; paralel araç çağırma, MCP entegrasyonu, görsel stüdyo takibi ve yalıtılmış çalışma ortamı sunan ReAct tabanlı bir çerçevedir.
- Kronos: Finansal Piyasaların Dili İçin Bir Temel ModelKronos: A Foundation Model for the Language of Financial MarketsKronos, 12 milyar çoklu piyasa kaydında otoregresif ön eğitim için finansal mum verilerini hiyerarşik belirteçlere ayrıştırır.
- Hy-Nomas: Serbest Biçimli Etkileşimli Dünya Üretimine DoğruHy-Nomas: Towards Free-form Interactive World GenerationHy-Nomas; serbest metin komutlarını ve sürekli kamera kontrolünü çok turlu etkileşimlerde destekleyen 8B parametreli bir video dünya modelidir.
- MOSS-Image Teknik RaporuMOSS-Image Technical ReportMOSS-Image, 5B DiT ve aracı istem geliştirici ile iki dilli uzun metinler ve karmaşık düzenlere sahip görseller üretir.
- Bellek Duvarının Diğer Yarısı: Eğitilmiş Yönlendirme Tahmini ile SSD Üzerinden 35B MoE Modellerinin SunulmasıThe Other Half of the Memory Wall: Serving 35B MoEs from SSD with Trained Routing PredictionEdge0, 1 token önceden yönlendirme tahmini ve kurtarma LoRA'sı ile 35B MoE ağırlıklarını SSD'den 3 GiB RAM'de 20 tok/sn hızla tüketici donanımında sunar.
- Prism: Doğal 2K Birleşik Video-Ses Üretim Modeli Eğitimi için Dinamik Seyrek DikkatPrism: Dynamic Sparse Attention for Native 2K Joint Video-Audio Generation Model TrainingPrism, görsel varyans ve ses çapraz dikkat normlarıyla yönlendirilen dinamik seyrek dikkatle doğal 2K video-ses difüzyon eğitimini mümkün kılar.
Klasikler
- Attention Is All You NeedTransformer, özyineleme ve evrişimi çok başlı öz-dikkat ile değiştirerek daha hızlı ve son teknoloji dizi modelleme sunar.
- BERT: Dil Anlama için Derin Çift Yönlü Transformer'ların Ön EğitimiBERT: Pre-training of Deep Bidirectional Transformers for Language UnderstandingBERT, maskelenmiş dil modelleme ile derin çift yönlü Transformer temsilleri eğiterek 11 NLP görevinde yeni bir seviyeye ulaşıyor.
- Deep Residual Learning for Image RecognitionDerin artık ağlar, bozulma sorununu özdeşlik bağlantılarıyla çözerek 100+ katmanlı ağları son teknoloji doğrulukla eğitir.
- Language Models are Few-Shot LearnersÖzbağlanımlı modelleri 175B parametreye ölçeklemek, ince ayar yapmadan yalnızca bağlam içi öğrenmeyle rekabetçi az-atımlı NLP başarımı sağlar.
- Generative Adversarial NetworksGenerative Adversarial NetsÜretici ve ayırt edici arasındaki minimaks oyunuyla Markov zincirlerine ihtiyaç duymayan Çekişmeli Üretici Ağları (GAN) tanıtır.
- Auto-Encoding Variational BayesSürekli örtük değişkenli modellerde ölçeklenebilir çıkarım için yeniden parametreleme hilesi ve Auto-Encoding Variational Bayes (AEVB) tanıtılıyor.
- Denoising Diffusion Probabilistic ModelsBasitleştirilmiş score-matching hedefiyle eğitilen difüzyon olasılıksal modelleriyle yüksek kaliteli görüntü üretimi gösterilmektedir.
- Latent Diffusion Models ile Yüksek Çözünürlüklü Görüntü SenteziHigh-Resolution Image Synthesis with Latent Diffusion ModelsLatent Diffusion Models, difüzyon eğitimini önceden eğitilmiş latent uzaya taşıyarak hesaplama maliyetini düşürür ve yüksek çözünürlük sağlar.
- Bir Görüntü 16x16 Kelimeye Bedeldir: Ölçeklenebilir Görüntü Tanıma için Transformer'larAn Image is Worth 16x16 Words: Transformers for Image Recognition at ScaleVision Transformer (ViT), Transformer'ı doğrudan görüntü yamalarına uygular; büyük ölçekte eğitildiğinde CNN'leri yakalar veya geride bırakır.
- Learning Transferable Visual Models From Natural Language SupervisionCLIP, 400M web çiftinde karşıt metin-görsel ön eğitimini ölçeklendirerek denetimli modellerle yarışan sıfır atışlı görsel sınıflandırma sunar.
- İnsan Geri Bildirimiyle Talimatları Takip Etmek Üzere Dil Modellerinin EğitilmesiTraining language models to follow instructions with human feedbackInstructGPT, RLHF ile GPT-3'ü insan talimatlarına uyarlar; 1.3B modelle 175B performansına ulaşırken halüsinasyon ve toksisiteyi azaltır.
- LoRA: Büyük Dil Modellerinin Düşük Dereceli Uyarlaması (Low-Rank Adaptation of Large Language Models)LoRA: Low-Rank Adaptation of Large Language ModelsLoRA, önceden eğitilmiş ağırlıkları dondurup düşük dereceli matrisler ekleyerek parametreleri 10.000 kata kadar azaltır; gecikme eklemez.
- Chain-of-Thought Prompting Elicits Reasoning in Large Language ModelsChain-of-thought prompting, adım adım örneklerle büyük dil modellerinde ince ayar gerektirmeden çok adımlı akıl yürütmeyi mümkün kılar.
- LLaMA: Açık ve Verimli Temel Dil ModelleriLLaMA: Open and Efficient Foundation Language ModelsMeta, herkese açık 1,4 trilyon token ile eğitilen 65B parametreye kadar temel model ailesi LLaMA'yı sunuyor.
- Llama 2: Açık Temel ve İnce Ayarlı Sohbet ModelleriLlama 2: Open Foundation and Fine-Tuned Chat ModelsMeta, RLHF ve Ghost Attention ile kapalı sistemlerle yarışan açık kaynaklı Llama 2 (7B–70B) temel ve sohbet modellerini yayınladı.
- Retrieval-Augmented Generation for Knowledge-Intensive NLP TasksParametrik seq2seq modellerini yoğun parametrik olmayan getirmeyle birleştirerek bilgi-yoğun NLP görevlerinde son teknolojiyi belirler.
- Adam: Stokastik Optimizasyon İçin Bir YöntemAdam: A Method for Stochastic OptimizationAdam, verimli ve gürbüz stokastik optimizasyon için uyarlanabilir öğrenme oranlarını ve momentumu yanlılığı düzeltilmiş momentlerle birleştirir.
- Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate ShiftBatch Normalization, katman girdi dağılımlarını sabitleyerek daha hızlı eğitim, yüksek öğrenme oranları ve üstün ImageNet başarımı sağlar.
- Hesaplama Açısından Optimal Büyük Dil Modellerinin EğitilmesiTraining Compute-Optimal Large Language ModelsLLM'lerin yetersiz eğitildiğini ve optimal ölçeklemenin parametre ve token sayısını eşit oranda artırmayı gerektirdiğini gösterir.
- FlashAttention: IO Farkındalığı ile Hızlı ve Bellek Açısından Verimli Tam DikkatFlashAttention: Fast and Memory-Efficient Exact Attention with IO-AwarenessFlashAttention, N x N matrisini HBM'e yazmayarak döşeme ve yeniden hesaplama ile Transformer modellerini 3 kata kadar hızlandırır.
- Direct Preference Optimization: Dil Modeliniz Aslında Gizli Bir Ödül ModelidirDirect Preference Optimization: Your Language Model is Secretly a Reward ModelDPO, açık ödül modellerini ve RL ince ayarını ortadan kaldırarak ikili çapraz entropiyle dil modellerini doğrudan tercihlere göre hizalar.
- Mamba: Seçici Durum Uzayları ile Doğrusal Zamanlı Dizi ModellemeMamba: Linear-Time Sequence Modeling with Selective State SpacesMamba, seçici SSM ve donanım duyarlı paralel taramayla Transformer düzeyinde kaliteyi doğrusal dizi ölçeklemesiyle sunar.
- ReAct: Dil Modellerinde Akıl Yürütme ve Eylemi Bir Araya GetirmeReAct: Synergizing Reasoning and Acting in Language ModelsReAct, LLM'lerde sözel akıl yürütme ve çevre eylemlerini birleştirerek halüsinasyonları azaltır ve karar verme görevlerindeki performansı artırır.
- Segment AnythingSAM ve SA-1B'yi (1B maske, 11M görsel) tanıtarak sıfır vuruşlu görüntü bölümleme için komut tabanlı temel modeller ortaya koyar.
- DeepSeek-V3 Teknik RaporuDeepSeek-V3 Technical ReportDeepSeek-V3, 6 milyon doların altında bir maliyetle 14,8T token ile eğitilmiş, öncü kapalı modellerle yarışan açık bir 671B MoE LLM'dir (37B aktif).
- Proximal Policy Optimization AlgorithmsProximal Policy Optimization, kırpılmış vekil hedefle güvenli bölge yöntemlerini basitleştirir ve örneklem verimliliğini artırır.
- Playing Atari with Deep Reinforcement LearningDQN, deneyim tekrarı ile Atari 2600 piksellerinden uçtan uca kontrol öğrenerek üç oyunda insan uzman performansını geride bırakıyor.
- RoFormer: Rotary Position Embedding ile Güçlendirilmiş TransformerRoFormer: Enhanced Transformer with Rotary Position EmbeddingRoFormer, self-attention içinde ortogonal rotasyonlar ile göreli token konumlarını kodlayan Rotary Position Embedding'i (RoPE) tanıtır.
- A Simple Framework for Contrastive Learning of Visual RepresentationsSimCLR, özel mimariler olmadan kontrastif görsel temsili basitleştirip ImageNet üzerinde denetimli ResNet-50 başarımıyla eşleşiyor.
- NeRF: Görünüm Sentezi İçin Sahnelerin Nöral Işınım Alanları Olarak Temsil EdilmesiNeRF: Representing Scenes as Neural Radiance Fields for View SynthesisNeRF, türevlenebilir hacim işleme ile sürekli 5D nöral ışınım alanlarını optimize ederek karmaşık 3D sahnelerin fotogerçekçi yeni görünümlerini üretir.
- U-Net: Biyomedikal Görüntü Segmentasyonu için Evrişimli AğlarU-Net: Convolutional Networks for Biomedical Image SegmentationU-Net, az sayıda etiketli görüntüyle hızlı ve hassas biyomedikal segmentasyon için atlama bağlantılı u-şekilli bir kodlayıcı-kod çözücü mimarisidir.
- Gerçek Zamanlı Radiance Field İşleme için 3D Gaussian Splatting3D Gaussian Splatting for Real-Time Radiance Field Rendering3D Gaussian Splatting, anizotropik 3D Gaussians ve karo tabanlı rasterizasyon ile 1080p'de gerçek zamanlı ve yüksek kaliteli yeni açı sentezi sunar.
- Neural Machine Translation by Jointly Learning to Align and TranslateNöral makine çevirisine soft attention mekanizmasını getirerek kod çözücülerin kaynak sözcüklere dinamik odaklanmasını sağlar.
- Vektör Uzayında Sözcük Temsillerinin Verimli HesaplanmasıEfficient Estimation of Word Representations in Vector SpaceCBOW ve Skip-gram ile milyarlarca kelimeden semantik ve sözdizimsel ilişkileri koruyan yüksek kaliteli kelime vektörleri hızla üretiliyor.
- Aşırı Büyük Sinir Ağları: Seyrek Geçitli Uzmanlar Karışımı (MoE) KatmanıOutrageously Large Neural Networks: The Sparsely-Gated Mixture-of-Experts LayerSeyrek geçitli MoE katmanları, sinir ağlarını 137 milyar parametreye ölçeklendirerek düşük hesaplama maliyetiyle daha düşük şaşkınlık (perplexity) sağlar.
- Mixtral of ExpertsMixtral 8x7B, token başına 13B aktif parametreyle Llama 2 70B'yi geride bırakan ve GPT-3.5'i yakalayan açık bir Seyrek Uzmanlar Karışımı modelidir.
- Llama 3 Model AilesiThe Llama 3 Herd of ModelsMeta; 128K bağlam, çok dillilik, kodlama ve akıl yürütmeyi destekleyen, 405B parametreye kadar açık temel modelleri Llama 3'ü sunuyor.
- GPT-4 Teknik RaporuGPT-4 Technical ReportGPT-4; insan düzeyinde sınav başarısı, öngörülebilir ölçeklenme ve RBRM'lerle artırılmış güvenlik sunan büyük bir çok modlu modeldir.
- Constitutional AI: Harmlessness from AI FeedbackConstitutional AI, yazılı ilkelere dayalı eleştiri, revizyon ve YZ geri bildirimiyle kaçamak olmayan, zararsız dil asistanları eğitir.
- Finetuned Language Models Are Zero-Shot LearnersBüyük dil modellerini talimat formatlı veri kümelerinde ince ayardan geçirmek, görülmemiş görevlerde sıfır vuruş genellemesini büyük ölçüde artırır.