AgentScope 1.0: A Developer-Centric Framework for Building Agentic Applications

Dawei Gao; Zitao Li; Yuexiang Xie; Weirui Kuang; Liuyi Yao; Bingchen Qian; Zhijian Ma; Yue Cui; Haohao Luo; Shen Li; Lu Yi; Yi Yu; Shiqi He; Zhiling Luo; Wenmeng Zhou; Zhicheng Zhang; Xuguang He; Ziqian Chen; Weikai Liao; Farruh Isakulovich Kushnazarov; Yaliang Li; Bolin Ding; Jingren Zhou

Bài báo · arXiv 2508.16279

AgentScope 1.0: Khung làm việc tập trung vào nhà phát triển để xây dựng ứng dụng tác tử

AgentScope 1.0: A Developer-Centric Framework for Building Agentic Applications

Dawei Gao, Zitao Li, Yuexiang Xie, Weirui Kuang, Liuyi Yao, Bingchen Qian, Zhijian Ma, Yue Cui, Haohao Luo, Shen Li, Lu Yi, Yi Yu et al.

Xuất bản 2025-08-22cs.AI arXiv PDF

Đọc với bản dịch và AI

Tóm tắt trong ba dòng

🎯 Các tác tử LLM đòi hỏi tương tác công cụ linh hoạt, an toàn và hiệu quả, khả năng điều phối có cấu trúc và kỹ thuật chuẩn production thay vì chỉ là các mô hình nguyên mẫu đồ chơi.
🔧 Giới thiệu AgentScope 1.0: các trừu tượng hóa mô-đun (Msg, Model, Memory, Tool), vòng lặp ReAct hỗ trợ điều hướng thời gian thực và cung cấp công cụ động, các tác tử chuyên biệt tích hợp sẵn cùng runtime thực thi với sandbox cô lập.
📈 Cung cấp một hệ thống mã nguồn mở chuẩn công nghiệp hỗ trợ các MCP client dạng stateful/stateless, đánh giá phân tán qua Ray và triển khai giao thức Agent-to-Agent (A2A) nguyên bản.

Tóm tắt

Được thúc đẩy bởi những tiến bộ nhanh chóng của các Mô hình Ngôn ngữ Lớn (LLM), các tác tử (agent) ngày nay được trang bị khả năng kết hợp tri thức nội tại với việc sử dụng công cụ động, nâng cao đáng kể năng lực giải quyết các tác vụ trong thế giới thực. Bắt nhịp với sự phát triển này, AgentScope giới thiệu những cải tiến lớn trong phiên bản mới (1.0), hướng tới việc hỗ trợ toàn diện các tương tác linh hoạt và hiệu quả giữa tác tử và môi trường dựa trên công cụ để xây dựng các ứng dụng tác tử. Cụ thể, chúng tôi trừu tượng hóa các thành phần nền tảng thiết yếu cho các ứng dụng tác tử và cung cấp các giao diện hợp nhất cùng các mô-đun có thể mở rộng, cho phép các nhà phát triển dễ dàng tận dụng những tiến bộ mới nhất, chẳng hạn như các mô hình mới và MCP. Hơn nữa, chúng tôi thiết lập hành vi của tác tử dựa trên mô hình ReAct và cung cấp hạ tầng cấp tác tử nâng cao dựa trên thiết kế bất đồng bộ có hệ thống, giúp làm phong phú các mẫu tương tác giữa người với tác tử cũng như giữa tác tử với tác tử, đồng thời cải thiện hiệu quả thực thi. Dựa trên nền tảng này, chúng tôi tích hợp sẵn một số tác tử được tinh chỉnh cho các kịch bản thực tế cụ thể. AgentScope cũng bao gồm hỗ trợ kỹ thuật mạnh mẽ nhằm mang lại trải nghiệm thân thiện với nhà phát triển. Chúng tôi cung cấp một mô-đun đánh giá có khả năng mở rộng với giao diện visual studio, giúp quá trình phát triển các ứng dụng tác tử có quỹ đạo dài trở nên dễ quản lý và dễ theo vết hơn. Ngoài ra, AgentScope cung cấp một sandbox môi trường thực thi để đảm bảo tác tử vận hành an toàn và tạo điều kiện triển khai nhanh chóng trong môi trường production. Với những cải tiến này, AgentScope cung cấp một nền tảng thực tiễn để xây dựng các ứng dụng tác tử có khả năng mở rộng, thích ứng và hiệu quả.

Tóm tắt gốc (tiếng Anh)

Driven by rapid advancements of Large Language Models (LLMs), agents are empowered to combine intrinsic knowledge with dynamic tool use, greatly enhancing their capacity to address real-world tasks. In line with such an evolution, AgentScope introduces major improvements in a new version (1.0), towards comprehensively supporting flexible and efficient tool-based agent-environment interactions for building agentic applications. Specifically, we abstract foundational components essential for agentic applications and provide unified interfaces and extensible modules, enabling developers to easily leverage the latest progress, such as new models and MCPs. Furthermore, we ground agent behaviors in the ReAct paradigm and offer advanced agent-level infrastructure based on a systematic asynchronous design, which enriches both human-agent and agent-agent interaction patterns while improving execution efficiency. Building on this foundation, we integrate several built-in agents tailored to specific practical scenarios. AgentScope also includes robust engineering support for developer-friendly experiences. We provide a scalable evaluation module with a visual studio interface, making the development of long-trajectory agentic applications more manageable and easier to trace. In addition, AgentScope offers a runtime sandbox to ensure safe agent execution and facilitates rapid deployment in production environments. With these enhancements, AgentScope provides a practical foundation for building scalable, adaptive, and effective agentic applications.

Hướng dẫn đọc

Vấn đề và động lực

Mặc dù các Mô hình Ngôn ngữ Lớn (LLM) hiện đại vượt trội về suy luận và sinh ngôn ngữ tự nhiên, tính hữu dụng trong thế giới thực đòi hỏi sự tương tác có cơ sở với môi trường bên ngoài thông qua API, cơ sở dữ liệu và các công cụ động. Các kiến trúc tác tử ban đầu thường dựa vào việc thực thi công cụ tuần tự cứng nhắc, thiếu khả năng xử lý bất đồng bộ mạnh mẽ, gặp khó khăn khi có quá nhiều công cụ ("nghịch lý của sự lựa chọn"), và thiếu hạ tầng tập trung vào nhà phát triển để gỡ lỗi các quỹ đạo dài, đánh giá phân tán cũng như thực thi an toàn. AgentScope 1.0 giải quyết những khoảng trống này bằng cách chuyển đổi từ các khung suy luận nội tại sang một khung tác tử mở rộng, tập trung vào nhà phát triển, lấy nhận thức công cụ và tương tác môi trường làm trung tâm.

Ý tưởng cốt lõi

AgentScope 1.0 được tổ chức thành ba trụ cột cốt lõi:

Thành phần nền tảng: Các trừu tượng hóa tách rời bao gồm Msg (các khối đa phương thức, lệnh gọi công cụ và chuỗi suy nghĩ), giao diện Model hợp nhất với streaming bất đồng bộ và thiết bị đo kiểm OpenTelemetry, Memory phân cấp (vùng đệm ngắn hạn trong bộ nhớ và bộ nhớ dài hạn do nhà phát triển/tác tử kiểm soát thông qua Mem0), cùng một Toolkit có thể mở rộng.
Hạ tầng cấp tác tử: Lấy mô hình ReAct (Reasoning + Acting) làm trung tâm, hỗ trợ các lệnh gọi công cụ song song không chặn (non-blocking), sự can thiệp của người dùng (điều hướng thời gian thực), cung cấp công cụ động (kích hoạt/hủy kích hoạt nhóm), và lưu trữ trạng thái phân cấp qua StateModule.
Trải nghiệm thân thiện với nhà phát triển: Bộ công cụ đánh giá tích hợp (hỗ trợ GeneralEvaluator tuần tự và RayEvaluator phân tán), giao diện trực quan Studio với khoảng tin cậy được suy ra từ bootstrap và so sánh quỹ đạo, một copilot tích hợp sẵn (Friday), và một Runtime thực thi cô lập có sandbox.

Phương pháp (với các phương trình chính)

Hệ thống cấu trúc việc thực thi xung quanh các trừu tượng hóa chuẩn hóa:

Kiến trúc tin nhắn: Các gói thông tin được hợp nhất dưới dạng đối tượng Msg chứa name, role, content (danh sách các khối có kiểu như TextBlock, ToolUseBlock, ThinkingBlock), và metadata. Các bộ định dạng theo nhà cung cấp (ChatFormatter và MultiAgentFormatter) chuyển đổi các khối này thành schema tương ứng của nhà cung cấp.
Thực thi và nhóm công cụ: Các công cụ được đăng ký trong Toolkit với tính năng tự động trích xuất JSON schema từ docstring. Để giảm thiểu sự suy giảm không gian tìm kiếm do quá nhiều công cụ, các công cụ được quản lý thành các nhóm $G_{k} \subset T$ . Sử dụng update_tool_groups hoặc phương thức do tác tử gọi reset_equipped_tools(group_names), tập hợp công cụ con đang hoạt động $A_{t}$ được điều chỉnh động theo từng bước của quy trình: $A_{t} = k \in Active ⋃ G_{k}$
Tích hợp MCP: Phân biệt giữa Stateful Client (vòng đời phiên duy trì liên tục cho các công cụ quan trọng về trạng thái như phiên trình duyệt) và Stateless Client (kết nối tạm thời cho mỗi lệnh gọi nhằm giảm thiểu chi phí tài nguyên).
Thực thi bất đồng bộ & Điều hướng: Việc thực thi tác tử bất đồng bộ sử dụng các generator không chặn. Nếu có tín hiệu hủy asyncio xuất hiện, vòng lặp ReAct sẽ ngắt một cách an toàn (gracefully), trả về trạng thái thực thi một phần và nối các token gián đoạn vào bộ nhớ dưới dạng các sự kiện có thể quan sát được.
Điều phối đa tác tử: Hỗ trợ các mẫu gọi "Agent as a Tool" cùng với việc điều phối hội thoại thông qua các cấu trúc Pipeline (tuần tự, phân nhánh và lặp) và cơ chế phát sóng MsgHub.

Kết quả (với các số liệu quan trọng nhất)

Bài báo cung cấp các triển khai khung làm việc cụ thể và xác thực kiến trúc trên ba tác tử chuyên biệt tích hợp sẵn:

Deep Research Agent: Triển khai mở rộng truy vấn (phân rã cấu trúc cây), tìm kiếm web đa nguồn qua Tavily MCP, phản tư cấp thấp (sửa lỗi công cụ/tham số), và phản tư cấp cao (lập lại kế hoạch cho các tác vụ con).
Browser-use Agent: Sử dụng Playwright MCP thông qua client I/O tiêu chuẩn có trạng thái (StdIOStatefulClient), nổi bật với xử lý HTML trực quan, điều phối nhiều tab và phân đoạn trang web theo từng đoạn (chunk-wise) cho các trang dài.
Meta Planner Agent: Điều phối các quy trình phức tạp thông qua RoadmapManager và WorkerManager, hỗ trợ chuyển đổi chế độ kép giữa ReAct cơ bản cho các tác vụ đơn giản và thực thi đa tác tử theo lộ trình cho các tác vụ phức tạp.
Hạ tầng kỹ thuật: Tích hợp sẵn triển khai FastAPI, OpenTelemetry tracing tương thích với Arize-Phoenix và Langfuse, cùng khả năng đánh giá tác vụ phân tán song song dựa trên Ray với các điểm kiểm tra (checkpoint) bền vững.

Hạn chế và các câu hỏi mở

Bài báo trình bày một báo cáo kiến trúc hệ thống thay vì so sánh độ chính xác trên các bộ chuẩn (benchmark) tiêu chuẩn (ví dụ: các số liệu benchmark như SWE-bench hoặc GAIA không được đưa vào văn bản chính).
Chi phí cung cấp công cụ động và lập kế hoạch trong Meta Planner đòi hỏi dung lượng cửa sổ ngữ cảnh đủ lớn và độ chuẩn xác khi gọi công cụ của LLM nền tảng phải đủ mạnh.
Chi phí điều phối đa tác tử và chi phí cô lập sandbox dưới mức độ đồng thời quy mô lớn chưa được đo lường bằng các số liệu thông lượng thực tế trong bài báo này.

Thuật ngữ chính

AgentScope 1.0: Một khung làm việc tập trung vào nhà phát triển được thiết kế để xây dựng các ứng dụng tác tử dựa trên LLM có khả năng mở rộng, thích ứng và tích hợp công cụ.
ReAct Paradigm: Kiến trúc tác tử kết hợp suy luận và hành động trong một vòng lặp khép kín để phân rã truy vấn, thực thi hành động công cụ, quan sát kết quả và tinh chỉnh kế hoạch.
Model Context Protocol (MCP): Một giao thức mở chuẩn hóa cách LLM giao tiếp với các dịch vụ và nguồn dữ liệu bên ngoài, được hỗ trợ trong AgentScope thông qua các client stateful và stateless.
Toolkit: Mô-đun cốt lõi của AgentScope cung cấp khả năng đăng ký công cụ, tự động tạo JSON schema, quản lý công cụ theo nhóm và thực thi generator bất đồng bộ hợp nhất.
Real-time Steering: Cơ chế cho phép người dùng hoặc hệ thống can thiệp, chuyển hướng hoặc dẫn dắt vòng lặp ReAct đang diễn ra của tác tử thông qua tính năng hủy không chặn và ghi nhật ký sự kiện gián đoạn.
Dynamic Tool Provisioning: Tính năng cho phép các tác tử tự động kích hoạt hoặc hủy kích hoạt các tập hợp con công cụ cụ thể trong thời gian chạy nhằm giảm tải nhận thức và tiết kiệm ngữ cảnh.
StateModule: Một lớp cơ sở cho phép tự động tuần tự hóa và khôi phục trạng thái lồng nhau thông qua các phương thức state_dict và load_state_dict cho tác tử và bộ nhớ.
MsgHub: Cơ chế phát sóng tập trung trong AgentScope tạo điều kiện thuận lợi cho các cuộc hội thoại nhóm đa tác tử bằng cách phổ biến các tin nhắn mới tới tất cả các thành viên tham gia.

Câu hỏi thường gặp

Sự khác biệt giữa MCP client stateful và stateless trong AgentScope là gì?

Stateful client duy trì một phiên liên tục (ví dụ: giữ cookie trình duyệt và ngữ cảnh qua các hành động), trong khi stateless client tạo kết nối tạm thời cho mỗi lần gọi công cụ và ngắt kết nối ngay lập tức để giảm thiểu chi phí tài nguyên.

AgentScope xử lý các giới hạn ngữ cảnh dài như thế nào trong quá trình tự động hóa trình duyệt?

Browser-use Agent chia nhỏ các trang web dài thành các đoạn (chunk) nhỏ hơn, quan sát nội dung theo từng đoạn và quản lý ngữ cảnh giữa các đoạn để không vượt quá giới hạn ngữ cảnh của LLM.

Hệ thống đánh giá hỗ trợ gỡ lỗi cục bộ và thử nghiệm quy mô lớn như thế nào?

AgentScope triển khai GeneralEvaluator để gỡ lỗi quy trình cục bộ theo từng bước tuần tự, và RayEvaluator để thực thi song song, phân tán trên các cụm đa worker bằng framework Ray.

AgentScope ngăn chặn sự nhầm lẫn của tác tử như thế nào khi có hàng trăm công cụ sẵn có?

Hệ thống sử dụng cơ chế quản lý công cụ theo nhóm, cho phép nhà phát triển hoặc tác tử kích hoạt và hủy kích hoạt động các nhóm công cụ hợp lý (chẳng hạn như 'công cụ trình duyệt'), giới hạn không gian tìm kiếm chỉ ở những gì liên quan đến tác vụ con hiện tại.

Phần giải thích trên trang này do AI viết dựa trên bài báo và có thể có sai sót. Hãy đọc bài báo gốc để biết chi tiết.

Đọc với bản dịch và AI