TurboLLM: Offline AI Chat

TurboLLM 直接在您的 Android 手机 CPU 上运行真正的大型语言模型——无需云端、无需账户、无需订阅，模型下载后也无需网络连接。

为什么选择本地 AI

大多数“AI 聊天”应用只是对其他云 API 的简单封装：您的提示会离开您的手机，您的对话会存储在您无法控制的服务器上，一旦失去信号，应用就会停止运行。TurboLLM 则不同。模型运行在真正的设备端推理引擎（llama.cpp，已编译为 Android 版本）中，您的对话始终无需离开您的手机。

您可以做什么

- 与开放权重的本地 LLM（例如 Llama、Qwen、Gemma 以及任何其他 GGUF 模型）聊天——完全离线，即使在飞行模式下也可以。

- 直接在应用内，一键即可发现并下载 Hugging Face 的模型。

- 推理引擎会在您首次使用时自动安装——无需手动设置、无需编译、无需终端。

- 创建自定义 AI 代理，为其配备专属系统提示和技能/工具访问权限，以应对不同任务——例如代码辅助、写作、研究，或者完全空白、不注入任何指令。

- 追踪您的使用情况：会话数、消息数、生成的令牌总数、连续使用天数以及您最常用的模型——所有数据均基于您的历史记录在本地计算。

- 通过针对每次聊天进行微调：调整思维预算、采样和推理工作量（适用于支持这些功能的模型）。

- 与 TurboLLM 桌面应用程序（Windows、Mac、Linux）相同的界面——如果您在电脑上使用过 TurboLLM，那么您的手机版操作方式也完全相同。

隐私设计

- 无需帐户、无需登录，您的对话数据无需云端后端存储。

- 此版本不收集遥测数据、不进行分析，也不会通过 SDK 向服务器发送崩溃报告。

- 聊天记录和下载的模型仅存储在您设备上此应用程序的私有存储空间中。

- 您的提示、文件和模型权重绝不会发送给我们或任何其他人。此应用只会发出您自己触发的网络请求：下载您选择的模型、首次需要时获取推理引擎二进制文件，或调用您明确批准的工具。

重要信息

推理过程在您手机的 CPU 上运行，因此速度取决于您的芯片组和您选择的模型大小——较小的模型（1-40 亿参数）在大多数手机上响应最流畅，如果您的硬件支持，也可以使用更大的模型。主动生成需要大量的计算资源，因此会产生正常的电池和发热负载，与任何设备端 AI 任务相同。

适用人群

注重隐私的用户、本地 AI 爱好者、已经在电脑上运行 TurboLLM 或 llama.cpp 的开发者，以及任何好奇在手机上体验真正离线 LLM 聊天的人——完全由您掌控，在您的硬件上运行，没有任何数据离开您的设备。