AI Edge Gallery 是運行全球最強大的開源大型語言模型 (LLM) 的首選平台,讓您在行動裝置上享受卓越效能。體驗直接在您的硬體上運行的高效能生成式 AI——完全離線、私密且速度極快。
新增功能:EmbeddingGemma 2
本次更新正式支援最新發表的 EmbeddingGemma 2 模型。透過此次更新,我們為您帶來 100% 在您的裝置上運行的尖端多模態語義搜尋功能。立即體驗我們全新推出的「即時媒體搜尋」和「影片瞬間查找器」功能。
核心功能
- 智能體技能:將您的 LLM 從對話者轉變為主動助理。使用「智能體技能」模組,透過維基百科等工具增強模型功能,取得事實依據、互動式地圖和豐富的視覺化摘要卡片。您甚至可以從 URL 載入模組化技能,或在 GitHub Discussions 上瀏覽社群貢獻。
- AI 聊天與思考模式:進行流暢的多輪對話,並切換至全新的思考模式,深入了解其「底層」運作機制。此功能可讓您查看模型的逐步推理過程,非常適合理解複雜問題的解決方法。注意:思考模式目前適用於支援的模型,從 Gemma 4 系列開始。
- 即時媒體搜尋:使用快速的邊輸入邊搜尋的自然語言查詢和影像相似度匹配功能,探索您的照片庫(或內建範例媒體),無需任何雲端往返。
- 影片精彩瞬間查找器:使用自然語言描述精確定位影片中的精彩時刻。直接跳到互動式時間軸上的高亮時間戳,剪輯片段,並儲存或匯出您喜愛的瞬間。
- 影像問答:利用多模態功能,透過裝置的相機或照片庫辨識物件、解決視覺謎題或取得詳細描述。
- 音訊轉錄:使用高效的設備端語言模型,即時將語音錄音轉錄並翻譯成文字。
- 提示實驗室:一個專用的工作空間,用於測試不同的提示和單回合用例,並可對模型參數(例如溫度和 Top-K 值)進行精細控制。
- 行動操作:解鎖離線設備控制和自動化任務,這些功能完全由優化後的 FunctionGemma 270M 提供支援。
- 微型花園:一個有趣的實驗性小遊戲,使用自然語言,透過優化後的 FunctionGemma 270M 來種植和收穫虛擬花園。
- 模型管理與基準測試:模型庫是一個靈活的沙箱,支援各種開源模型。您可以輕鬆地從清單中下載模型,或載入您自己的自訂模型。輕鬆管理您的模型庫,並執行基準測試,以準確了解每個模型在您的特定硬體上的效能。
- 100% 裝置端隱私:所有模型推理均直接在您的裝置硬體上進行。無需網路連接,確保您的提示、圖像和敏感資料的絕對隱私。
為社區而生
AI Edge Gallery 是一個開源項目,專為開發者社群和 AI 愛好者打造。探索我們的範例功能,貢獻您的技能,共同塑造設備端代理生態系統的未來。
在 GitHub 上查看原始碼:
https://github.com/google-ai-edge/gallery
注意:此應用程式仍在積極開發中。效能取決於您裝置的硬體(CPU/GPU)。如有任何支援或回饋,請聯絡我們:google-ai-edge-gallery-android-feedback@google.com
在本地運行 Gemma 和其他開源 LLM:私有、快速、離線 AI