AndroidWorld 基準測試
我們的 Agent 在雲手機上的成績
AndroidWorld 是 Google Research 推出的開放基準測試:涵蓋 20 款日常 Android App、共 116 項任務,每項都由程式碼依手機狀態判定。我們在 Clousd 雲手機上執行它,用的就是替你完成任務的同一個 Agent。
23 項和當天日期有關的任務會在 25.10.2026 執行,結果之後補上。
各 App 成績
每項任務只有一次機會。只有基準測試本身的檢查接受手機的最終狀態,任務才算通過。
| 應用程式 | 任務 | 通過 | 結果 |
|---|---|---|---|
| Simple Calendar Pro | 17 | 4 · 12 項待執行 | 80% |
| Settings | 16 | 16 | 100% |
| Markor | 14 | 10 | 71% |
| Broccoli recipes | 13 | 6 | 46% |
| Pro Expense | 9 | 8 | 89% |
| Simple SMS Messenger | 6 | 6 | 100% |
| Tasks.org | 6 | 0 · 5 項待執行 | 0% |
| OpenTracks | 6 | 0 · 6 項待執行 | — |
| Joplin | 4 | 3 | 75% |
| Retro Music | 4 | 3 | 75% |
| Chrome | 3 | 2 | 67% |
| Clock | 3 | 3 | 100% |
| OsmAnd | 3 | 3 | 100% |
| Audio Recorder | 2 | 2 | 100% |
| Camera | 2 | 1 | 50% |
| Contacts | 2 | 2 | 100% |
| Files | 2 | 2 | 100% |
| VLC | 2 | 1 | 50% |
| Simple Gallery Pro | 1 | 1 | 100% |
| Simple Draw Pro | 1 | 1 | 100% |
執行方式
一支普通的 Clousd 手機
一支 Pixel 6a,Android 13,和你在控制台建立的雲手機是同一種,基準測試需要的 App 由它自己的設定流程安裝。
就是你在用的 Agent
Clousd Agent,也就是「任務」和 POST /v1/runs 背後的那個 Agent,跑在 Clousd 模型上:它讀取畫面和元素樹,接著點擊、輸入、滑動,直到判斷任務完成。
基準測試本身的檢查
任務、資料和檢查都直接沿用 AndroidWorld 的程式碼,沒有任何改動。唯一的差別是連線方式:測試框架透過我們的轉接層連到手機,而不是用 USB 線。
沒有第二次機會
每項任務一次機會,步數上限依基準測試為該難度設定的數值。我們修好手機或轉接層後重跑的任務,以最後一次結果為準。
還會失敗的地方
我們看過每一項失敗任務的每個步驟。沒有一項是手機造成的;這些都是 Agent 本身的限制,我們正在改進。
長文字輸入:要把從其他 App 複製來的好幾份完整食譜或支出一筆筆打進去,步數額度就用完了。
RecipeAddSingleRecipe, RecipeAddMultipleRecipesFromMarkor, RecipeAddMultipleRecipesFromMarkor2, RecipeAddMultipleRecipesFromImage, ExpenseAddMultipleFromMarkor, MarkorCreateNoteFromClipboard
在長清單裡搜尋與計數:重複項目、符合條件的項目、多列加總。
RecipeDeleteDuplicateRecipes2, RecipeDeleteDuplicateRecipes3, RecipeDeleteMultipleRecipesWithConstraint, SimpleCalendarDeleteEvents, TasksHighPriorityTasks, NotesTodoItemCount, RetroPlaylistDuration
觀看與計時:讀出播放中影片裡的文字、等錄影結束、按下按鈕並記住不斷變動的數字。
MarkorTranscribeVideo, CameraTakeVideo, BrowserMultiply
跨資料夾和 App 的檔案雜事:合併、搬移筆記,一次建立兩個播放清單。
MarkorMergeNotes, MarkorMoveNote, VlcCreateTwoPlaylists
關於基準測試的常見問題
AndroidWorld 是什麼?
一套給操作 Android 手機的 Agent 使用的開放基準測試,由 Google Research 於 2024 年發表。內含 20 款 App 的 116 項任務,例如 Markor、Simple Calendar、OsmAnd、VLC 和系統設定;每項任務都以新參數產生,並由程式碼判定。
為什麼有些任務還沒有成績?
和「今天」或「下週」有關的任務,是以 2023 年某個固定日期撰寫的。我們把這些資料移到 2026 年的一個星期日,並在當天執行,讓手機的實際日期和任務吻合。
我可以在自己的 Clousd 手機上跑這個基準測試嗎?
可以。建立一支手機,透過 API 把它接上 AndroidWorld 測試框架,再用你自己的 Agent 透過 MCP 或 /v1/devices/{name}/observe 和 /act 操作它。