详细介绍
MemGUI-Agent由浙江大学与快手联合联合研发,面向移动端跨应用、多步骤超长链路自动化场景打造的GUI智能体。传统ReAct类智能体执行长序列任务时,会因交互历史文本线性膨胀,造成关键UI信息被稀释、模型易产生幻觉;MemGUI-Agent 创新提出ConAct交互协议,让模型每一步同时完成界面操作决策+结构化记忆管理双任务,实现轻量化、可持久化的上下文管控,大幅提升超长移动端任务的执行稳定性。

一、产品核心功能:
1、超长跨App连续任务执行:
支持多应用、多页面跳转的复杂自动化流程,平均稳定完成30步以上连续移动端操作,适配购物比价、多软件信息采集、表单多页填写等长链路场景。
2、自主可控上下文动态管理:
依托ConAct专属协议,智能体自主判断历史信息压缩时机、UI关键事实写入规则、单步行为结构化描述方式,主动控制上下文长度,避免冗余文本无限堆积。
3、结构化持久记忆操作:
内置标准化记忆指令集:memory_add、memory_update、memory_delete,可长期留存商品价格、联系方式、产品规格、表单参数等核心界面信息,跨步骤不丢失关键数据。
4、端到端轻量化微调方案:
基于Qwen3-VL-8B多模态视觉大模型推出LoRA微调专用模型 MemGUI-8B-SFT,仅8B参数量即可稳定胜任超长移动端GUI任务,部署门槛低。
5、全链路完整开源开放:
项目全套资源无闭源模块:完整工程代码、MemGUI-3K移动端GUI标注数据集、训练流水线、评测基准流程、模型权重全部公开可复用。
二、产品核心优势:
1、大幅削减上下文Token开销:
在150步超长任务场景下,ConAct协议对比传统ReAct架构平均节省约1500输入Token,从根源抑制上下文长度线性膨胀。
2、关键信息长效留存,抑制模型幻觉:
通过独立UI状态记忆库持久存储业务事实,长流程中不会出现关键信息遗忘、内容篡改、虚假推理等幻觉问题。
3、小参数模型具备顶尖长程能力:
仅8B规模微调模型,在移动端长程任务基准测试中,综合效果超越多数32B、235B超大参数量基线模型,推理成本更低、部署更轻量化。
4、优秀分布外场景泛化能力:
MemGUI-8B-SFT 在MobileWorld移动端通用测试集上任务成功率达17.9%,相比传统基线模型提升8.5个百分点,跨APP、未见过全新界面迁移表现突出。
5、全流程实验可复现,降低科研门槛:
数据集构建脚本、模型微调代码、标准化评测协议全部开源,研究人员可快速复现实验、二次迭代优化GUI智能体算法。
三、标准使用流程:
1、拉取开源工程:从GitHub仓库 github.com/kwai/MemGUI-Agent 克隆完整代码、训练与评测流水线;
2、加载标注数据集:在HuggingFace平台下载配套MemGUI-3K移动端GUI专用数据集;
3、导入微调权重:从HuggingFace获取预训练MemGUI-8B-SFT模型权重文件;
4、搭建Android运行环境:连接实体安卓手机或启动安卓模拟器,完成智能体执行环境部署;
5、下发自然语言任务:输入完整长流程自动化目标指令,智能体自动拆解步骤、规划交互并完成全链路移动端操作。
相关推荐
MakeItAQuote
主打语录海报、创意文字特效、本地抠图、贴纸批量制作,全部AI运算在用户设备本地完成,图片不会上传云端,隐私安全性拉满。
SecuredAI
在提示词提交至AI前自动识别姓名、邮箱、手机号、企业名称、账号标识等各类敏感信息,同时支持自定义规则识别隐私内容。
Invideo AI
平台聚合250余款AI模型,支持按照成片质量、生成速度、积分消耗横向对比不同模型输出效果,一站式完成从草稿打磨到成品导出全流程,无需跨多平台切换工具,大幅简化内容创作流程。
EZsub
解锁全球顶级AI服务的最佳入口。我们致力于简化支付流程,让你能以极具竞争力的价格,轻松订阅ChatGPT Plus、Claude Pro等前沿AI服务。
AI Image Detector
优先校验C2PA内容可信凭证,同步解析图片底层元数据,再调用多套独立AI鉴别模型交叉判定图像来源,区分相机实拍原图与AI生成伪造图像。
BytePlus
整合全栈AI模型、标准化AI产品、高性能云基础设施、智能体开发工具与行业解决方案,支持企业快速搭建、部署与规模化运营文本、图像、视觉、语音、视频类全模态AI应用。
热门工具
Turner AI
全程无需注册登录、导出无水印,仅通过自然语言提示词即可完成背景替换、杂物移除、光影校正、色彩调节、文字细节精修等全类型图片调整,轻量化快速出图。
Style3D AI
依托先进生成式AI能力,支持通过文字描述快速产出高精度服装视觉效果,无需手绘建模、无需实景拍摄,一站式完成服装概念创作、虚拟试穿、商业出图全流程。
图星人
平台聚焦解决创作者设计效率低、素材版权风险高两大痛点,覆盖国风美学、3D设计、营销海报等十大视觉品类,日均AI出图超百万张,是设计师、自媒体运营、营销从业者的高效设计工具。
Khroma
依托神经网络学习用户色彩偏好,批量生成海量适配配色方案,支持自由浏览、精准筛选、永久收藏,一站式解决各类设计场景配色需求。
Eva Design System
专为设计师打造,可智能输出合规、美观、适配场景的品牌色与语义色,高效赋能品牌视觉、UI界面等各类设计工作。
InteriorCapsule
平台核心差异化优势:效果图内每件家具均匹配乐天、Yahoo!购物、品牌直营店上万款日本在售实景商品,附带直达购买链接,实现设计方案一键落地采购。
温馨提示
本站仅做工具收录与导航,点击"直达官网"将跳转至外部网站,请注意账号与财产安全。