TurboLLM: Offline AI Chat

TurboLLM executa modelos de linguaxe reais e grandes directamente na CPU do teu teléfono Android: sen nube, sen conta, sen subscrición e sen necesidade de conexión a internet unha vez que se descarga un modelo.

POR QUE IA LOCAL

A maioría das aplicacións de "chat con IA" son unha fina envoltura arredor da API na nube doutra persoa: as túas solicitudes saen do teu teléfono, as túas conversas permanecen nun servidor que non controlas e a aplicación deixa de funcionar no momento en que perdes o sinal. TurboLLM é diferente. O modelo execútase nun motor de inferencia real no dispositivo (llama.cpp, compilado para Android) e a túa conversa nunca ten que saír do teu teléfono.

QUE PODES FACER

- Chatea con LLM locais de peso aberto (Llama, Qwen, Gemma e calquera outro modelo GGUF) totalmente sen conexión, mesmo en modo avión.

- Descubre e descarga modelos directamente desde Hugging Face, dentro da aplicación, cun só toque.

- O motor de inferencia instálase automaticamente a primeira vez que o necesitas: sen configuración manual, sen compilación, sen terminal. - Crea axentes de IA personalizados coa súa propia solicitude de sistema e acceso a habilidades/ferramentas, para diferentes tarefas: axuda coa programación, escritura, investigación ou unha folla en branco sen instrucións inxectadas.

- Rastrexa o teu propio uso ao longo do tempo: sesións, mensaxes, total de tokens xerados, rachas e o teu modelo máis usado, todo calculado localmente a partir do teu propio historial.

- Axusta a xeración con controis por chat: orzamento de pensamento, mostraxe e esforzo de razoamento, para modelos que os admiten.

- A mesma interface que a aplicación de escritorio de TurboLLM (Windows, Mac, Linux): se usaches TurboLLM nun ordenador, o teu teléfono funciona exactamente do mesmo xeito.

PRIVACIDADE POR DESEÑO

- Sen conta, sen inicio de sesión, sen backend na nube para as túas conversas.

- Sen telemetría, sen análises, sen SDK de informes de fallos que chama a casa nesta compilación.

- Os chats e os modelos descargados só viven no almacenamento privado desta aplicación no teu dispositivo.

- As túas solicitudes, ficheiros e pesos de modelos nunca nos envían a nós nin a ninguén máis. As únicas solicitudes de rede que fai esta aplicación son as que activas ti mesmo: descargar un modelo que escolliches, obter o binario do motor de inferencia a primeira vez que se necesita ou unha chamada de ferramenta que aprobaches explicitamente.

INFORMACIÓN IMPORTANTE

A inferencia execútase na CPU do teu teléfono, polo que a velocidade depende do teu chipset e do tamaño do modelo que escollas: os modelos máis pequenos (parámetros de 1 a 4 B) son os que mellor responden na maioría dos teléfonos e os máis grandes están dispoñibles se o teu hardware os pode soportar. A xeración activa é un traballo de computación real, polo que espera unha carga térmica e de batería normal, igual que calquera tarefa de IA no dispositivo.

PARA QUEN É

Usuarios preocupados pola privacidade, entusiastas da IA ​​local, desenvolvedores que xa executan TurboLLM ou llama.cpp nun ordenador e calquera persoa que teña curiosidade por saber como se sente un chat LLM realmente sen conexión nun teléfono, baixo o teu control, no teu hardware, sen que nada saia do dispositivo.