Google AI Edge Gallery是什么?
Google AI Edge Gallery 是谷歌开放给公众的一款实验性 App,目前已支持安卓平台(iOS 还在开发中)。它最大的亮点就是:所有 AI 模型都在本地运行,完全不需要联网。

这意味着什么?简单来说:
-
更快的响应速度:生成回答几乎没有延迟;
-
更高的隐私保障:数据全程不出手机,适合敏感场景;
-
极强的模型自由度:你可以在 Hugging Face 上的多个模型间自由切换,对比不同模型在文本生成、多轮对话、图像问答等方面的表现。

实际体验
我自己试了下,用它来跑一个图像问答的模型,把一张笔记本照片传进去,提了几个“这是什么品牌?”、“键盘是什么布局?”的问题,模型居然都答对了,还给出了一些意料之外的细节。

准确率比我预期高不少,而且整体响应很流畅。但缺点也很明显:模型一启动手机就开始发热,几分钟下来明显能感觉到烫手。 这对于一些低端安卓设备可能会是个门槛。

不过可以理解,毕竟好几个 GB 的模型都在本地跑,性能开销不小。
功能亮点一览
如果你也想试试,这里简单整理一下它的核心能力:
-
本地运行、全程离线:加载完模型后,无需联网,所有处理都在手机上完成。
-
模型选择自由:内置多个 Hugging Face 模型,可对比性能和输出质量。
-
图像问答:上传图片提问,识别、分析都能搞定。
-
Prompt Lab:支持摘要、重写、生成代码等单轮任务。
-
多轮对话:不仅能聊天,还能连续追问,体验类似 ChatGPT 的对话能力。
-
性能评估:实时展示延迟、解码速度、首次响应时间等指标。
-
支持自定义模型:支持测试本地的 LiteRT
.task
模型。 -
开发者友好:附带模型说明卡片和源码链接,方便二次开发或深入学习。
快速上手指引
如果你想尝试:
-
下载 APK(谷歌目前仅提供 Android 安装包);
-
安装应用后,选择你感兴趣的模型;
-
等模型加载完后,就可以开始离线使用了。
更详细的安装方法和使用说明,谷歌提供了 项目 Wiki 页面。
总结
AI 全部本地运行,对我这种关注隐私、安全性和实际部署场景的产品人来说,是非常值得关注的一个趋势。虽然目前发热、耗电这些体验上还有瑕疵,但这类工具的出现,让我看到了 AI 应用“去云端化”的可能。
如果你是 AI 应用的开发者、产品人,或者就是一个喜欢折腾新玩意的用户,我推荐你亲自试试这个 App。
它不是下一个 ChatGPT,但可能是下一个“能跑 ChatGPT 的终端”。
项目地址:https://github.com/google-ai-edge/gallery
下载 APK: