OpenHands: Nền tảng mở cho các tác nhân AI phát triển phần mềm đóng vai trò tác nhân đa năng

Hướng dẫn đọc

Vấn đề và Động lực

Phát triển phần mềm là một trong những giao diện biểu đạt mạnh mẽ nhất mà con người dùng để tương tác với thế giới số. Mặc dù các mô hình ngôn ngữ lớn (LLM) có thể tạo ra các đoạn mã cô lập, kỹ nghệ phần mềm thực tế đòi hỏi tương tác dài hạn: điều hướng kho mã nguồn, chỉnh sửa kiến trúc nhiều tệp, thực thi các lệnh bash, đọc tài liệu qua trình duyệt web và tự gỡ lỗi dựa trên phản hồi thực thi.

Các framework tác nhân trước đây thường gặp phải những lỗ hổng kiến trúc then chốt: thiếu môi trường thực thi cô lập, trình chạy mã không lưu trạng thái (stateless), thiếu khả năng duyệt web đa phương thức, hoặc không có công cụ đánh giá chuẩn hóa trên các miền không đồng nhất. OpenHands (trước đây là OpenDevin) giải quyết nhu cầu này bằng một nền tảng mã nguồn mở (giấy phép MIT) cung cấp môi trường runtime dạng sandbox, Giao diện Tác nhân - Máy tính (Agent-Computer Interfaces - ACI) có thể mở rộng, điều phối đa tác nhân và quy trình đánh giá benchmark chuẩn hóa.

Ý tưởng Cốt lõi

• Kiến trúc Luồng Sự kiện (Event Stream Architecture): Lệnh từ người dùng, hành động của tác nhân và quan sát từ runtime được theo dõi theo trình tự thời gian trong một luồng sự kiện nhằm thống nhất giao tiếp giữa frontend, tác nhân và runtime sandbox.
• Các Nguyên mẫu Ngôn ngữ Lập trình (PL Primitives): Thay vì các API tùy chỉnh dễ gãy, các tương tác của tác nhân được neo vào các hành động tổng quát: IPythonRunCellAction, CmdRunAction và BrowseInteractiveAction (thông qua BrowserGym).
• AgentSkills Có thể Mở rộng: Một gói Python dạng mô-đun được nạp sẵn vào nhân IPython cung cấp các tiện ích cấp cao (ví dụ: chỉnh sửa dòng dựa trên cây cú pháp trừu tượng AST edit_file, phân tích cú pháp PDF, trích xuất hình ảnh đa phương thức) mà không cần viết lại các thư viện hiện có.
• Phân quyền Tác nhân (Agent Delegation): Các tác nhân chuyên trách xử lý các quy trình làm việc đặc thù theo miền (ví dụ: ủy quyền các tác vụ web qua AgentDelegateAction cho một BrowsingAgent chuyên biệt).
• Kiểm soát Chất lượng qua Kiểm thử Giả lập (Mocked Testing): Quy trình kiểm thử tích hợp liên tục định kỳ kiểm tra các lỗi hồi quy của prompt, hành động và độ ổn định của sandbox bằng cách lưu trữ đệm (caching) cặp prompt-response xác định thay vì gọi API thời gian thực tốn kém.

Phương pháp (kèm các phương trình cốt lõi)

Chu trình thực thi của OpenHands hoạt động trên một hàm bước rời rạc, trong đó tác nhân ánh xạ trạng thái môi trường $\mathcal{S}$ thành một hành động $a\in \mathcal{A}$: $$a_t=\text{Agent.step}({\mathcal{S}}_t)$$ Tại đây, trạng thái bao hàm lịch sử theo trình tự thời gian của các hành động và quan sát trước đó: $${\mathcal{S}}_t=\{(a_0,o_0),(a_1,o_1),\dots ,(a_{t-1},o_{t-1})\}\cup {\mathcal{M}}_t$$ trong đó ${\mathcal{M}}_t$ theo dõi siêu dữ liệu trạng thái phụ trợ (chi phí LLM tích lũy, ngăn xếp phân quyền đa tác nhân đang hoạt động, các tham số cấu hình).

Không gian hành động $\mathcal{A}$ bao gồm:

• CmdRunAction(command): Chạy các lệnh bash tùy ý trong shell Linux mục tiêu.
• IPythonRunCellAction(code): Thực thi mã Python có lưu trạng thái trong một nhân Jupyter liên tục, hiển thị AgentSkills.
• BrowseInteractiveAction(code): Thực thi các nguyên mẫu BrowserGym điều khiển bởi Playwright (click(bid), fill(bid, val), goto(url), v.v.).
• AgentDelegateAction(subtask, agent_name): Đẩy một mục tiêu phụ vào ngăn xếp tác nhân để triệu hồi một tác nhân chuyên trách.
• AgentFinishAction(): Kết thúc quá trình thực thi.

Quá trình thực thi diễn ra bên trong một Docker sandbox an toàn theo mô hình client-server. Các container Docker cơ sở được mở rộng bằng một máy chủ OpenHands REST API (runtime.py), được gắn nhãn bằng cơ chế gắn nhãn kép: một mã băm MD5 nội dung (target_image_repo:target_image_hash_tag) để đảm bảo khả năng tái lập nghiêm ngặt, và một nhãn ngữ nghĩa chung (runtime:oh_v{VERSION}_{BASE_IMAGE}_tag_{IMAGE_TAG}) cho các bản build lớp cơ sở được lưu đệm.

Kết quả (kèm các số liệu quan trọng nhất)

OpenHands đánh giá các tác nhân đa năng trên 15 benchmark thuộc các lĩnh vực kỹ nghệ phần mềm, duyệt web và trợ lý tổng quát mà không cần tinh chỉnh prompt riêng cho từng benchmark:

• SWE-Bench Lite (300 mẫu, không có gợi ý): CodeActAgent v1.8 kết hợp với claude-3-5-sonnet@20240620 đạt tỷ lệ giải quyết $26,0\%$ (chi phí trung bình 1,10 USD mỗi mẫu), vượt trội hơn SWE-Agent ($18,0\%$) và AutoCodeRover ($19,0\%$), và tiệm cận Aider ($26,3\%$).
• HumanEvalFix (164 mẫu): CodeActAgent v1.5 kết hợp với gpt-4o-2024-05-13 giải quyết được $79,3\%$ trong thiết lập tự gỡ lỗi 0-shot (so với $48,6\%$ của StarCoder2-15B).
• WebArena (812 mẫu): BrowsingAgent v1.0 đạt $15,5\%$ khi dùng claude-3-5-sonnet và $14,8\%$ khi dùng gpt-4o, trong khi CodeActAgent v1.8 thông qua phân quyền đạt $15,3\%$.
• MiniWoB++ (125 môi trường): BrowsingAgent v1.0 zero-shot với gpt-4o đạt $40,8\%$.
• Trợ lý Tổng quát & Suy luận:
  • GPQA Diamond: CodeActAgent v1.8 + claude-3-5-sonnet đạt điểm $52,0\%$ (mức chuyên gia con người là $81,2\%$, nhưng vượt trội hơn few-shot CoT GPT-4 ở mức $38,8\%$).
  • GAIA (L1 Validation): GPTSwarm v1.0 với gpt-4o đạt $32,1\%$ ($13,2\%$ đối với AutoGPT).
  • AgentBench (tập con OS): CodeActAgent v1.5 đạt $57,6\%$.
  • MINT (Toán / Mã nguồn): CodeActAgent v1.5 đạt $77,3\%$ ở môn toán và $50,0\%$ ở mã nguồn.

Hạn chế và các câu hỏi mở

• Chỉnh sửa Tệp Dài: Các nguyên mẫu chỉnh sửa hiện tại gặp khó khăn khi xử lý các kho mã nguồn lớn hoặc các tệp nguồn dài, nơi việc xê dịch số dòng dễ dẫn đến xung đột chỉnh sửa.
• Tích hợp Đa phương thức: Mặc dù các kỹ năng bổ trợ (parse_image, parse_pdf) trích xuất văn bản hoặc tóm tắt hình ảnh thông qua các mô hình thị giác bên ngoài, khả năng suy luận đa phương thức gốc trên trình duyệt và terminal vẫn chưa được thống nhất hoàn toàn.
• Tự động hóa Quy trình làm việc: Các quy trình vẫn phụ thuộc nhiều vào các prompt hệ thống thủ công và vòng lặp điều phối tác nhân thay vì các kiến trúc đồ thị được tối ưu hóa tự động (ví dụ: GPTSwarm).