Open-AutoGLM开发者模式开启详细图解
1. 引言:让AI真正“学会用手机”
你有没有想过,有一天只需要说一句“帮我打开小红书搜美食”,手机就能自动完成所有操作?这不是科幻电影,而是Open-AutoGLM正在实现的现实。
Open-AutoGLM 是智谱AI开源的一款基于视觉语言模型的 AI 手机智能助理框架。它不仅能“看懂”你的手机屏幕,还能通过自然语言指令自动执行点击、滑动、输入等操作,真正实现AI代理操控安卓设备。无论是批量关注账号、自动下单外卖,还是重复性APP操作,它都能帮你一键搞定。
本文将带你从零开始,手把手完成Open-AutoGLM 开发者模式的完整部署与连接流程,并附上详细的图文说明和避坑指南,确保你能顺利开启这个强大的AI手机Agent功能。
核心能力一句话总结:你说指令,AI看屏、理解、规划、动手——全程无需手动干预。
2. 系统架构与工作原理
2.1 整体架构解析
Open-AutoGLM 的运行依赖于三个核心组件协同工作:
- 云端AI模型服务:部署在GPU服务器上的AutoGLM-Phone-9B大模型,负责理解屏幕画面和用户指令,并生成操作决策。
- 本地控制端(Open-AutoGLM代码):运行在你电脑上的Python程序,负责调用ADB控制手机。
- 安卓设备:真实手机或模拟器,执行最终的操作动作。
三者通过 ADB(Android Debug Bridge)建立通信链路,形成一个闭环系统。
2.2 工作流程拆解
当你输入一条指令如“打开抖音搜索某博主并关注”,整个流程如下:
- 指令解析:AI模型接收自然语言指令,理解任务目标;
- 屏幕感知:通过ADB截取当前手机屏幕图像,送入视觉语言模型分析界面元素;
- 动作规划:模型判断下一步应执行的操作(如点击搜索框、输入文字、点击头像);
- 执行控制:通过ADB发送对应操作命令到手机;
- 循环迭代:重复上述过程,直到任务完成。
整个过程完全自动化,且支持复杂多步任务。
3. 部署环境准备清单
3.1 硬件与软件要求
| 类别 | 要求 |
|---|---|
| 云服务器 | GPU显存 ≥32GB(推荐A100-40GB),Ubuntu 20.04/22.04 |
| 本地电脑 | Windows / macOS,Python 3.10+ |
| 安卓设备 | Android 7.0+ 真机(推荐Android 10+) |
| 网络环境 | 本地电脑与云服务器可互通,手机与电脑可通过USB或WiFi连接 |
3.2 必备工具下载
- Open-AutoGLM GitHub仓库
- ADB Keyboard APK安装包
- ADB调试工具包(Android SDK Platform Tools)
- AutoDL SSH隧道工具(用于USB映射)
4. 云服务器环境搭建(以AutoDL为例)
4.1 创建GPU实例
- 登录 AutoDL官网 并充值至少10元;
- 进入「算力市场」,选择:
- GPU型号:
A100-PCIE-40GB - 操作系统:
PyTorch 2.8.0 + Python 3.10 (Ubuntu 22.04) - CUDA版本:12.8
- GPU型号:
- 点击「创建开机」,等待1-2分钟实例启动。
4.2 SSH登录与基础配置
使用CMD或Terminal登录云主机:
ssh root@your-server-ip -p your-port登录后检查GPU是否识别成功:
nvidia-smi正常输出应显示A100显卡信息及40GB显存。
4.3 安装依赖环境
# 创建项目目录 mkdir ~/autoglm && cd ~/autoglm # 启用网络加速(关键!避免下载超时) source /etc/network_turbo # 克隆代码 git clone https://github.com/zai-org/Open-AutoGLM.git cd Open-AutoGLM # 创建虚拟环境(必须Python 3.10) conda create -n autoglm python=3.10 conda activate autoglm # 安装依赖 pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple/ pip install -e .注意:首次运行会自动从ModelScope下载
AutoGLM-Phone-9B模型(约6GB),需耐心等待。
5. 手机端设置详解(关键步骤)
5.1 开启开发者选项与USB调试
- 打开手机「设置」→「关于手机」;
- 连续点击「版本号」7次,提示“您已进入开发者模式”;
- 返回设置主菜单 →「开发者选项」;
- 开启「USB调试」;
- 若有「USB调试(安全设置)」也一并开启。
5.2 安装ADB Keyboard输入法
这是实现文本输入自动化的关键!
- 将下载的
ADBKeyboard.apk安装到手机; - 进入「设置」→「语言与输入法」→「默认输入法」;
- 选择「ADB Keyboard」作为当前输入法。
验证方法:在任意输入框长按粘贴,若出现“ADB Keyboard”则启用成功。
5.3 USB连接授权确认
使用原装数据线连接手机与本地电脑:
- 手机会弹出“允许USB调试吗?”对话框;
- 勾选“始终允许来自该计算机”并点击确定;
- 切勿忽略此步骤,否则ADB无法通信。
6. 本地控制端部署与设备连接
6.1 安装ADB工具
Windows 用户:
- 下载 Platform Tools;
- 解压后将文件夹路径添加到系统环境变量
Path; - 打开CMD验证:
adb versionmacOS 用户:
export PATH=${PATH}:~/Downloads/platform-tools adb version6.2 验证设备连接状态
adb devices正确输出示例:
List of devices attached ABCDEF1234567890 device如果显示unauthorized,请重新插拔USB线并在手机上授权。
7. 使用AutoDL SSH隧道映射手机
由于AI模型运行在云端,而手机连接在本地电脑,需要通过SSH隧道将本地ADB设备映射到云服务器。
7.1 下载并配置AutoDL SSH工具
- 下载 AutoDL-SSH-Tools;
- 解压后打开,登录你的AutoDL账号;
- 在列表中找到当前运行的实例,点击「USB映射」→「连接」。
7.2 验证云端ADB识别设备
回到云服务器终端,激活环境后执行:
conda activate autoglm adb devices你应该能看到与本地相同的设备ID。这表示手机已成功映射至云端。
8. 启动AI代理并执行任务
8.1 命令行方式运行
在云服务器上执行以下命令:
python main.py \ --device-id ABCDEF1234567890 \ --base-url http://localhost:8000/v1 \ --model "autoglm-phone-9b" \ "打开抖音搜索抖音号为:dycwo11nt61d 的博主并关注他!"参数说明:
--device-id:通过adb devices获取的设备ID;--base-url:vLLM服务地址(若模型本地部署,默认为http://localhost:8000/v1);- 最后字符串:你要下达的自然语言指令。
8.2 Python API方式调用(适合集成开发)
from phone_agent.adb import ADBConnection, list_devices # 初始化连接管理器 conn = ADBConnection() # 连接远程设备(WiFi ADB) success, message = conn.connect("192.168.1.100:5555") print(f"连接状态: {message}") # 列出所有连接设备 devices = list_devices() for device in devices: print(f"{device.device_id} - {device.connection_type.value}") # 启用TCP/IP模式(用于无线连接) success, message = conn.enable_tcpip(5555) ip = conn.get_device_ip() print(f"设备IP: {ip}")9. 常见问题排查指南
9.1 设备未识别(adb devices无输出)
- 更换USB数据线(确保支持数据传输);
- 检查手机是否开启“传输文件”模式;
- 重启ADB服务:
adb kill-server && adb start-server; - 重新运行SSH隧道的USB映射功能。
9.2 输入失败或乱码
- 确认已将ADB Keyboard 设置为默认输入法;
- 检查是否有其他输入法冲突;
- 可尝试重启手机后再连接。
9.3 模型加载缓慢或报错
- 显存不足会导致模型无法加载,请务必使用≥32GB显存GPU;
- 首次运行需下载模型,耗时约10-15分钟,请保持网络畅通;
- 若下载中断,删除
~/.cache/modelscope缓存后重试。
9.4 云服务器防火墙限制
确保云服务商安全组放行以下端口:
- ADB默认端口:5555
- vLLM服务端口:8000
- SSH端口:自定义端口(如25xxx)
10. 总结:开启AI手机Agent的新篇章
Open-AutoGLM 不只是一个技术玩具,它是通往通用AI代理时代的重要一步。通过本文的详细图解与实操步骤,你应该已经成功部署了这套系统,并见证了AI如何自主操作手机完成复杂任务。
核心要点回顾:
- 模型能力强大:基于9B参数的视觉语言模型,具备精准的界面理解和动作规划能力;
- 部署门槛降低:借助AutoDL等平台,个人开发者也能轻松拥有高性能GPU资源;
- 扩展性强:支持WiFi远程控制、多设备管理、自定义任务脚本;
- 安全性设计:敏感操作需人工确认,验证码场景支持接管。
下一步你可以尝试:
- 编写自己的任务指令集(如自动打卡、批量点赞);
- 结合RPA思想构建企业级自动化流程;
- 对特定APP进行微调,提升操作准确率;
- 探索无USB线的纯WiFi远程控制方案。
AI不再只是回答问题的助手,而是能“动手做事”的智能体。而你现在,已经掌握了让它行动起来的钥匙。
获取更多AI镜像
想探索更多AI镜像和应用场景?访问 CSDN星图镜像广场,提供丰富的预置镜像,覆盖大模型推理、图像生成、视频生成、模型微调等多个领域,支持一键部署。