AgentScope 1.0: A Developer-Centric Framework for Building Agentic Applications

Dawei Gao; Zitao Li; Yuexiang Xie; Weirui Kuang; Liuyi Yao; Bingchen Qian; Zhijian Ma; Yue Cui; Haohao Luo; Shen Li; Lu Yi; Yi Yu; Shiqi He; Zhiling Luo; Wenmeng Zhou; Zhicheng Zhang; Xuguang He; Ziqian Chen; Weikai Liao; Farruh Isakulovich Kushnazarov; Yaliang Li; Bolin Ding; Jingren Zhou

Paper · arXiv 2508.16279

AgentScope 1.0: Ein entwicklerzentriertes Framework zur Erstellung agentischer Anwendungen

AgentScope 1.0: A Developer-Centric Framework for Building Agentic Applications

Dawei Gao, Zitao Li, Yuexiang Xie, Weirui Kuang, Liuyi Yao, Bingchen Qian, Zhijian Ma, Yue Cui, Haohao Luo, Shen Li, Lu Yi, Yi Yu et al.

Veröffentlicht 2025-08-22cs.AI arXiv PDF

Mit Übersetzung und KI lesen

Zusammenfassung in drei Zeilen

🎯 LLM-Agenten erfordern flexible, sichere und effiziente Werkzeuginteraktionen, strukturierte Koordination und produktionsreifes Engineering statt bloßer Spielzeug-Prototypen.
🔧 Führt AgentScope 1.0 ein: modulare Abstraktionen (Msg, Model, Memory, Tool), ReAct-Schleifen mit Unterstützung für Echtzeit-Steuerung und dynamische Werkzeugbereitstellung, integrierte spezialisierte Agenten und eine Ausführungslaufzeit mit isolierten Sandboxes.
📈 Bietet ein industrietaugliches Open-Source-System mit Unterstützung für zustandsbehaftete/zustandslose MCP-Clients, verteilte Evaluation via Ray und nativem Agent-to-Agent (A2A)-Protokoll-Deployment.

Abstract

Angetrieben durch die rasanten Fortschritte bei großen Sprachmodellen (LLMs) sind Agenten in der Lage, intrinsisches Wissen mit dynamischer Werkzeugnutzung zu kombinieren, was ihre Fähigkeit zur Bewältigung realer Aufgaben erheblich verbessert. Dieser Entwicklung folgend führt AgentScope mit der neuen Version (1.0) wesentliche Verbesserungen ein, um flexible und effiziente werkzeugbasierte Interaktionen zwischen Agent und Umgebung bei der Erstellung agentischer Anwendungen umfassend zu unterstützen. Konkret abstrahieren wir grundlegende Komponenten, die für agentische Anwendungen unerlässlich sind, und bieten einheitliche Schnittstellen sowie erweiterbare Module, sodass Entwickler mühelos neueste Fortschritte wie neue Modelle und MCPs nutzen können. Darüber hinaus verankern wir das Agentenverhalten im ReAct-Paradigma und bieten eine fortschrittliche Infrastruktur auf Agentenebene, die auf einem systematischen asynchronen Design basiert; dies bereichert sowohl Mensch-Agent- als auch Agent-Agent-Interaktionsmuster und verbessert gleichzeitig die Ausführungseffizienz. Darauf aufbauend integrieren wir mehrere integrierte Agenten, die auf spezifische Praxisszenarien zugeschnitten sind. AgentScope umfasst zudem robuste Engineering-Unterstützung für ein entwicklerfreundliches Arbeiten. Wir stellen ein skalierbares Evaluationsmodul mit einer visuellen Studio-Oberfläche bereit, wodurch die Entwicklung agentischer Anwendungen mit langen Trajektorien überschaubarer und leichter nachvollziehbar wird. Zudem bietet AgentScope eine Sandbox-Laufzeitumgebung, um eine sichere Ausführung der Agenten zu gewährleisten und ein schnelles Deployment in Produktionsumgebungen zu erleichtern. Mit diesen Erweiterungen bietet AgentScope ein praxisnahes Fundament für den Aufbau skalierbarer, adaptiver und effektiver agentischer Anwendungen.

Original-Abstract (Englisch)

Driven by rapid advancements of Large Language Models (LLMs), agents are empowered to combine intrinsic knowledge with dynamic tool use, greatly enhancing their capacity to address real-world tasks. In line with such an evolution, AgentScope introduces major improvements in a new version (1.0), towards comprehensively supporting flexible and efficient tool-based agent-environment interactions for building agentic applications. Specifically, we abstract foundational components essential for agentic applications and provide unified interfaces and extensible modules, enabling developers to easily leverage the latest progress, such as new models and MCPs. Furthermore, we ground agent behaviors in the ReAct paradigm and offer advanced agent-level infrastructure based on a systematic asynchronous design, which enriches both human-agent and agent-agent interaction patterns while improving execution efficiency. Building on this foundation, we integrate several built-in agents tailored to specific practical scenarios. AgentScope also includes robust engineering support for developer-friendly experiences. We provide a scalable evaluation module with a visual studio interface, making the development of long-trajectory agentic applications more manageable and easier to trace. In addition, AgentScope offers a runtime sandbox to ensure safe agent execution and facilitates rapid deployment in production environments. With these enhancements, AgentScope provides a practical foundation for building scalable, adaptive, and effective agentic applications.

Leseleitfaden

Problem und Motivation

Während moderne große Sprachmodelle (LLMs) hervorragend im logischen Schließen und der Generierung natürlicher Sprache sind, erfordert ihr praktischer Nutzen in der realen Welt fundierte Interaktionen mit der externen Umgebung über APIs, Datenbanken und dynamische Werkzeuge. Frühe Agentenarchitekturen basieren oft auf starrer, sequenzieller Werkzeugausführung, lassen eine robuste asynchrone Verarbeitung vermissen, kämpfen mit einem Überangebot an Werkzeugen („Paradox of Choice“) und entbehren entwicklerzentrierter Infrastruktur zum Debuggen langer Trajektorien, für verteilte Evaluationen und sichere Ausführung. AgentScope 1.0 schließt diese Lücken, indem es von reinen intrinsischen Reasoning-Frameworks zu einem erweiterbaren, entwicklerzentrierten agentischen Framework übergeht, das die Wahrnehmung von Werkzeugen und die Interaktion mit der Umgebung in den Mittelpunkt stellt.

Kernideen

AgentScope 1.0 ist um drei zentrale Säulen herum aufgebaut:

Grundlegende Komponenten: Entkoppelte Abstraktionen einschließlich Msg (multimodale Blöcke, Werkzeugaufrufe und Gedankengänge/Thinking-Traces), vereinheitlichte Model-Schnittstellen mit asynchronem Streaming und OpenTelemetry-Instrumentierung, hierarchisches Memory (In-Memory-Kurzzeitpuffer und entwickler-/agentengesteuertes Langzeitgedächtnis via Mem0) sowie ein erweiterbares Toolkit.
Infrastruktur auf Agentenebene: Zentriert um das ReAct-Paradigma (Reasoning + Acting), mit Unterstützung für nicht-blockierende parallele Werkzeugaufrufe, Benutzerunterbrechungen (Echtzeit-Steuerung bzw. Real-time Steering), dynamische Werkzeugbereitstellung (Aktivierung/Deaktivierung von Gruppen) und hierarchische Zustandspersistenz über StateModule.
Entwicklerfreundliche Nutzererfahrung: Integrierte Evaluationssuiten (unterstützt sequenziellen GeneralEvaluator und verteilten RayEvaluator), ein visuelles Studio mit Bootstrap-abgeleiteten Konfidenzintervallen und Trajektorienvergleichen, ein integrierter Copilot (Friday) sowie eine isolierte Ausführungs-Runtime mit Sandboxing.

Methode (mit den wichtigsten Gleichungen)

Das System strukturiert die Ausführung anhand standardisierter Abstraktionen:

Nachrichtenarchitektur: Informationspakete werden als Msg-Objekte vereinheitlicht, die name, role, content (eine Liste typisierter Blöcke wie TextBlock, ToolUseBlock, ThinkingBlock) und metadata enthalten. Anbieterspezifische Formatierer (ChatFormatter und MultiAgentFormatter) konvertieren diese Blöcke in anbieterspezifische Schemas.
Werkzeugausführung und Gruppierung: Werkzeuge werden im Toolkit mit automatisierter JSON-Schema-Extraktion aus Docstrings registriert. Um Leistungseinbußen bei der Suche durch zu viele Werkzeuge zu mindern, werden Werkzeuge in Gruppen $G_{k} \subset T$ verwaltet. Mittels update_tool_groups oder dem vom Agenten aufgerufenen reset_equipped_tools(group_names) wird die aktive Teilmenge der Werkzeuge $A_{t}$ pro Workflow-Schritt dynamisch angepasst: $A_{t} = k \in Active ⋃ G_{k}$
MCP-Integration: Unterscheidet zwischen Zustandsbehafteten Clients (persistenter Sitzungslebenszyklus für zustandskritische Werkzeuge wie Browser-Sitzungen) und Zustandslosen Clients (flüchtige Verbindung pro Aufruf zur Minimierung des Overheads).
Asynchrone Ausführung & Steuerung: Die asynchrone Agentenausführung nutzt nicht-blockierende Generatoren. Tritt ein asyncio-Abbruchsignal auf, unterbricht die ReAct-Schleife kontrolliert, liefert partielle Ausführungszustände zurück und hängt Abbruch-Tokens als beobachtbare Ereignisse an das Gedächtnis an.
Multi-Agenten-Koordination: Unterstützt Aufrufmuster nach dem Prinzip „Agent als Werkzeug“ parallel zu konversationeller Orchestrierung über Pipeline-Strukturen (sequenziell, verzweigend und schleifenbasiert) sowie MsgHub-Broadcasting.

Ergebnisse (mit den wichtigsten Zahlen)

Das Papier liefert konkrete Framework-Implementierungen und architektonische Validierungen anhand von drei integrierten, spezialisierten Agenten:

Deep Research Agent: Implementiert Query Expansion (baumstrukturierte Zerlegung), Multi-Quellen-Websuche via Tavily MCP, Reflexion auf niedriger Ebene (Korrektur von Werkzeugen/Parametern) und Reflexion auf hoher Ebene (Neuplanung von Teilaufgaben).
Browser-use Agent: Verwendet Playwright MCP über einen zustandsbehafteten Standard-I/O-Client (StdIOStatefulClient), bietet visuelle HTML-Verarbeitung, Multi-Tab-Koordination und stückweise Webseiten-Segmentierung für lange Seiten.
Meta Planner Agent: Orchestriert komplexe Arbeitsabläufe über RoadmapManager und WorkerManager und unterstützt das Umschalten im dualen Modus zwischen einfachem ReAct für simple Aufgaben und Roadmap-gesteuerter Multi-Agenten-Ausführung für komplexe Aufgaben.
Engineering-Infrastruktur: Native Integration von FastAPI-Deployment, OpenTelemetry-Tracing mit Kompatibilität zu Arize-Phoenix und Langfuse sowie Ray-basierte parallel verteilte Aufgabenbewertung mit persistenten Checkpoints.

Grenzen und offene Fragen

Das Papier stellt einen Systemarchitekturbericht dar und verzichtet auf Genauigkeitsvergleiche bei Standard-Benchmarks (z. B. fehlen Benchmark-Zahlen wie SWE-bench oder GAIA im Haupttext).
Die dynamische Werkzeugbereitstellung und der Planungs-Overhead im Meta Planner erfordern eine ausreichende Kontextfenster-Kapazität und eine hohe Zuverlässigkeit des zugrunde liegenden LLMs beim Aufrufen von Werkzeugen.
Der Koordinationsaufwand für Multi-Agenten-Systeme und die Kosten für die Sandbox-Isolation bei hoher Nebenläufigkeit werden in dieser Arbeit nicht mit konkreten Durchsatzzahlen bewertet.

Schlüsselbegriffe

AgentScope 1.0: Ein entwicklerzentriertes Framework zum Erstellen skalierbarer, adaptiver und werkzeugintegrierter LLM-basierter Agentenanwendungen.
ReAct Paradigm: Eine Agentenarchitektur, die logisches Schließen (Reasoning) und Handeln (Acting) in einem geschlossenen Regelkreis kombiniert, um Anfragen zu zerlegen, Werkzeugaktionen auszuführen, Ergebnisse zu beobachten und Pläne zu verfeinern.
Model Context Protocol (MCP): Ein offenes Protokoll, das standardisiert, wie LLMs mit externen Diensten und Datenquellen interagieren; in AgentScope über zustandsbehaftete und zustandslose Clients unterstützt.
Toolkit: Ein zentrales AgentScope-Modul, das die Registrierung von Werkzeugen, automatisierte JSON-Schema-Generierung, gruppenbasierte Werkzeugverwaltung und eine vereinheitlichte asynchrone Generatorausführung bereitstellt.
Real-time Steering: Der Mechanismus, der es Benutzern oder Systemen ermöglicht, eine laufende ReAct-Schleife eines Agenten über nicht-blockierende Abbrüche und Unterbrechungsereignisprotokollierung zu unterbrechen, umzuleiten oder zu steuern.
Dynamic Tool Provisioning: Eine Funktion, die es Agenten ermöglicht, bestimmte Teilmengen von Werkzeugen zur Laufzeit autonom zu aktivieren oder zu deaktivieren, um die kognitive Last zu verringern und Kontext einzusparen.
StateModule: Eine Basisklasse, die eine automatische geschachtelte Zustandsserialisierung und -wiederherstellung über die Methoden state_dict und load_state_dict für Agenten und Gedächtnis ermöglicht.
MsgHub: Ein zentraler Broadcast-Mechanismus in AgentScope, der Gruppenkonversationen mehrerer Agenten erleichtert, indem neue Nachrichten an alle Teilnehmer verteilt werden.

Fragen

Was ist der Unterschied zwischen zustandsbehafteten und zustandslosen MCP-Clients in AgentScope?

Ein zustandsbehafteter Client behält eine persistente Sitzung bei (z. B. das Beibehalten von Browser-Cookies und -Kontext über mehrere Aktionen hinweg), während ein zustandsloser Client für jeden Werkzeugaufruf eine flüchtige Verbindung herstellt und diese sofort wieder trennt, um den Ressourcen-Overhead zu minimieren.

Wie bewältigt AgentScope Kontextbeschränkungen bei der Browser-Automatisierung?

Der Browser-use Agent segmentiert lange Webseiten in kleinere Abschnitte (Chunks), erfasst den Inhalt Stück für Stück und verwaltet den abschnittsübergreifenden Kontext, um innerhalb der Kontextgrenzen des LLMs zu bleiben.

Wie unterstützt das Evaluationssystem sowohl lokales Debugging als auch Tests in großem Maßstab?

AgentScope implementiert den GeneralEvaluator für das sequenzielle, schrittweise Debuggen lokaler Prozesse und den RayEvaluator für die parallele, verteilte Ausführung über Multi-Worker-Cluster hinweg mithilfe des Ray-Frameworks.

Wie verhindert AgentScope Verwirrung beim Agenten, wenn Hunderte von Werkzeugen verfügbar sind?

Es verwendet ein gruppenweises Werkzeugmanagement, das es Entwicklern oder Agenten ermöglicht, logische Werkzeuggruppen (wie z. B. 'Browser-Werkzeuge') dynamisch zu aktivieren und zu deaktivieren, wodurch der aktive Suchraum auf das begrenzt wird, was für die aktuelle Teilaufgabe relevant ist.

Die Übersicht auf dieser Seite wurde von einer KI aus dem Paper erstellt und kann Fehler enthalten. Details stehen im Paper.

Mit Übersetzung und KI lesen