GoogleAIEdgeGallery专注端侧轻量化AI模型展示与实操体验,支持离线推理测试、实时效果预览,直观呈现端侧AI运行性能,可进行多轮智能对话,最新的思维链模式可窥探模型内部的逐步推理过程,极大地增强AI回答的透明度,所有模型推理均在设备本地芯片完成,不仅支持谷歌自家的Gemma系列模型,还兼容来自HuggingFace社区的多种开源大模型。
一、GoogleAIEdgeGallery的使用教程
1.先选个你想玩的“技能”
如果你想让AI认图: 点击第一个 Ask Image。进去后你可以拍张照(比如拍个水果),问它“这是什么?”或者“这东西有多少热量?”。
如果你想让AI听写: 点击第二个 Audio Scribe。你可以对着它说话,它会实时把你的声音转成文字,甚至翻译成别的语言。
如果你想跟AI聊天: 点击第三个 AI Chat。这就跟用微信聊天一样,你可以让它帮你写个周报、想个菜谱。
2.下载“大脑”(关键步骤)
点进任何一个功能后,你会发现还不能直接用。你需要先点一下里面的 “Download”(下载)按钮。
原理: 就像给手机装游戏要下“资源包”一样,这些 AI 的“大脑”挺大,得先下到你手机里,之后不用联网就能用了。
注意: 建议连上 Wi-Fi 再点下载,毕竟这些“大脑”文件不小。下载完成后就可以体验了
当然你也可以从手机文件夹里手动添加一个 AI 的“大脑”文件。
二、GoogleAIEdgeGallery的软件功能
1、用户可上传图片并提出相关问题,获取图片描述、解决问题或识别物体等。
2、支持与本地运行的大型语言模型进行多轮对话,满足用户日常聊天、知识问答、创意交流等需求。
3、能实现总结、重写、生成代码等功能,用户还可使用自由形式的提示词来探索单轮大型语言模型的使用场景,辅助文本创作和开发。
4、允许用户轻松切换HuggingFace上的不同模型,还能导入自定义的LiteRT.task模型进行测试,并提供实时性能基准测试,方便用户评估模型性能。
三、GoogleAIEdgeGallery的软件特色
1、无需连接互联网即可体验生成式人工智能的功能,所有处理都在设备上直接进行,保护用户隐私,减少网络依赖。
2、支持HuggingFace上的众多模型,用户可根据需求轻松切换,比较不同模型在处理相同任务时的性能表现。
3、通过实时基准测试,用户可以直观了解模型的首字生成时间、解码速度和延迟等性能指标,有助于选择最适合自己需求的模型。
四、GoogleAIEdgeGallery的软件优势
1、依托HuggingFace平台,拥有大量第三方AI模型资源,涵盖多种类型和应用场景,满足不同用户的多样化需求。
2、提供API文档和示例代码,方便开发者深入了解和使用模型;还支持自定义模型导入,便于开发者测试自己的模型。
3、将图片问答、AI聊天、提示词实验室等多种功能集成在一个平台,用户无需在多个应用之间切换,操作便捷。



