Open-AutoGLM部署全攻略:从服务器配置到手机连接一步到位
Open-AutoGLM部署全攻略从服务器配置到手机连接一步到位1. 项目概述AutoGLM-Phone 是智谱AI开源的手机端智能助理框架基于视觉语言模型构建。这个创新性的AI Agent能够通过多模态方式理解手机屏幕内容使用ADB(Android Debug Bridge)自动操控设备根据自然语言指令完成复杂任务支持敏感操作确认和人工接管机制想象一下你只需要说打开小红书搜索美食AI就能自动完成整个操作流程无需手动点击。这就是AutoGLM-Phone带来的革命性体验。2. 服务器环境准备2.1 硬件要求为了确保模型稳定运行建议选择以下配置的云服务器显卡显存40G左右如A40、A100-40G或4090内存至少64GB存储建议500GB以上SSD带宽尽可能选择最高配置模型文件体积较大2.2 系统配置推荐使用Ubuntu 22.04系统并按照以下步骤进行基础环境配置# 更新系统包 sudo apt update sudo apt upgrade -y # 安装基础工具 sudo apt install -y git curl wget vim python3-pip3. Docker环境部署3.1 安装Docker按照官方文档安装最新版Docker Engine# 卸载旧版本 for pkg in docker.io docker-doc docker-compose docker-compose-v2 podman-docker containerd runc; do sudo apt-get remove $pkg; done # 安装依赖 sudo apt-get update sudo apt-get install ca-certificates curl # 添加Docker官方GPG密钥 sudo install -m 0755 -d /etc/apt/keyrings sudo curl -fsSL https://download.docker.com/linux/ubuntu/gpg -o /etc/apt/keyrings/docker.asc sudo chmod ar /etc/apt/keyrings/docker.asc # 添加仓库 echo \ deb [arch$(dpkg --print-architecture) signed-by/etc/apt/keyrings/docker.asc] https://download.docker.com/linux/ubuntu \ $(. /etc/os-release echo $VERSION_CODENAME) stable | \ sudo tee /etc/apt/sources.list.d/docker.list /dev/null # 安装Docker sudo apt-get update sudo apt-get install -y docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin # 验证安装 docker --version3.2 配置镜像加速为提升下载速度建议配置国内镜像源sudo tee /etc/docker/daemon.json -EOF { registry-mirrors: [ https://docker.m.daocloud.io, https://noohub.ru, https://huecker.io, https://dockerhub.timeweb.cloud ] } EOF sudo systemctl restart docker4. 模型下载与部署4.1 下载AutoGLM-Phone-9B模型推荐使用ModelScope进行模型下载# 安装ModelScope pip install modelscope # 创建模型目录并下载 mkdir -p /opt/model modelscope download --model ZhipuAI/AutoGLM-Phone-9B --local_dir /opt/model4.2 配置NVIDIA容器工具包# 检查NVIDIA驱动 nvidia-smi # 配置NVIDIA容器库 curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg \ curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \ sed s#deb https://#deb [signed-by/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g | \ sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list # 安装工具包 sudo apt-get update sudo apt-get install -y nvidia-container-toolkit sudo nvidia-ctk runtime configure --runtimedocker sudo systemctl restart docker4.3 启动vLLM推理服务# 拉取vLLM镜像 docker pull vllm/vllm-openai:v0.12.0 # 启动容器 docker run -it \ --entrypoint /bin/bash \ --gpus all \ -p 8800:8000 \ --ipchost \ -v /opt/model:/app/model \ --name autoglm \ vllm/vllm-openai:v0.12.0在容器内启动API服务# 安装依赖 pip install -U transformers --pre # 启动API服务 python3 -m vllm.entrypoints.openai.api_server \ --served-model-name autoglm-phone-9b \ --allowed-local-media-path / \ --mm-encoder-tp-mode data \ --mm_processor_cache_type shm \ --mm_processor_kwargs {\max_pixels\:5000000} \ --max-model-len 25480 \ --chat-template-content-format string \ --limit-mm-per-prompt {\image\:10} \ --model /app/model \ --port 80005. 客户端配置与连接5.1 本地环境准备Windows/macOS环境要求Python 3.10ADB工具Android 7.0设备或模拟器ADB配置步骤下载Android Platform Tools配置环境变量Windows将adb路径添加到系统PATHmacOSexport PATH${PATH}:~/Downloads/platform-tools5.2 手机端设置开启开发者模式设置 关于手机 连续点击版本号启用USB调试开发者选项 USB调试安装ADB Keyboard下载ADB Keyboard APK设置为默认输入法5.3 部署控制端代码# 克隆仓库 git clone https://github.com/zai-org/Open-AutoGLM cd Open-AutoGLM # 安装依赖 pip install -r requirements.txt pip install -e .6. 连接设备与启动AI代理6.1 连接手机设备USB连接方式adb devicesWiFi连接方式adb tcpip 5555 adb connect 192.168.x.x:55556.2 启动AI代理命令行方式python main.py \ --device-id 设备ID \ --base-url http://服务器IP:8800/v1 \ --model autoglm-phone-9b \ 打开抖音搜索特定博主并关注Python API方式from phone_agent.adb import ADBConnection, list_devices conn ADBConnection() success, message conn.connect(192.168.1.100:5555) print(f连接状态: {message}) devices list_devices() for device in devices: print(f{device.device_id} - {device.connection_type.value})7. 常见问题排查ADB连接问题检查USB调试是否开启尝试重新插拔USB线确保ADB版本与设备兼容服务端问题检查防火墙设置确保端口开放验证vLLM服务是否正常运行查看日志排查错误docker logs autoglm模型响应问题确认模型参数配置正确检查显存使用情况尝试减少并发请求量操作失败问题确保屏幕内容清晰可见检查ADB Keyboard是否为默认输入法复杂操作可分步执行8. 总结与展望通过本教程我们完成了从服务器配置到手机连接的完整Open-AutoGLM部署流程。这套系统将AI与手机自动化完美结合为用户提供了全新的交互体验。未来随着模型的持续优化我们可以期待更复杂的跨应用任务自动化更精准的屏幕内容理解更自然的语言交互体验更广泛的应用场景支持现在你可以尝试给AI下达各种指令体验智能助理带来的便利了获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。