TurboLLM: Offline AI Chat

TurboLLM voert echte, grote taalmodellen rechtstreeks uit op de CPU van je Android-telefoon — geen cloud, geen account, geen abonnement en geen internetverbinding nodig zodra een model is gedownload.

WAAROM LOKALE AI

De meeste "AI-chat"-apps zijn slechts een dun laagje rond de cloud-API van iemand anders: je prompts verlaten je telefoon, je gesprekken staan ​​op een server waar je geen controle over hebt en de app stopt met werken zodra je het signaal verliest. TurboLLM is anders. Het model draait in een echte inferentie-engine op je apparaat (llama.cpp, gecompileerd voor Android) en je gesprek hoeft je telefoon nooit te verlaten.

WAT JE KUNT DOEN

- Chat met open-weight lokale LLM's — Llama, Qwen, Gemma en elk ander GGUF-model — volledig offline, zelfs in vliegtuigmodus.

- Ontdek en download modellen rechtstreeks van Hugging Face, in de app, met één tik.

- De inferentie-engine installeert zichzelf automatisch de eerste keer dat je hem nodig hebt — geen handmatige configuratie, geen compilatie, geen terminal.

- Maak aangepaste AI-agenten met hun eigen systeemprompt en toegang tot vaardigheden/tools voor verschillende taken: hulp bij coderen, schrijven, onderzoek of een volledig blanco pagina zonder instructies.

- Volg je eigen gebruik in de loop van de tijd: sessies, berichten, totaal aantal gegenereerde tokens, streaks en je meest gebruikte model – alles lokaal berekend op basis van je eigen geschiedenis.

- Verfijn de generatie met instellingen per chat: denkbudget, sampling en redeneerinspanning, voor modellen die dit ondersteunen.

- Dezelfde interface als de desktop-app van TurboLLM (Windows, Mac, Linux) – als je TurboLLM op een computer hebt gebruikt, werkt het op je telefoon precies hetzelfde.

PRIVACY BY DESIGN

- Geen account, geen login, geen cloudbackend voor je gesprekken.

- Geen telemetrie, geen analyses, geen crashrapportage-SDK die gegevens naar de server stuurt in deze versie.

- Chats en gedownloade modellen worden alleen opgeslagen in de privéopslag van deze app op je apparaat.

- Je prompts, bestanden en modelgewichten worden nooit naar ons of iemand anders verzonden. De enige netwerkverzoeken die deze app doet, zijn verzoeken die u zelf hebt geïnitieerd: het downloaden van een model dat u hebt gekozen, het ophalen van het binaire bestand van de inferentie-engine de eerste keer dat het nodig is, of een toolaanroep die u expliciet hebt goedgekeurd.

GOED OM TE WETEN

Inferentie draait op de CPU van uw telefoon, dus de snelheid hangt af van uw chipset en de grootte van het model dat u kiest. Kleinere modellen (1-4 miljard parameters) reageren het snelst op de meeste telefoons, en grotere modellen zijn beschikbaar als uw hardware ze aankan. Actieve generatie is daadwerkelijk rekenwerk, dus verwacht een normale batterij- en warmtebelasting, net als bij elke andere AI-taak op het apparaat zelf.

VOOR WIE IS HET BEDOELD

Gebruikers die waarde hechten aan privacy, liefhebbers van lokale AI, ontwikkelaars die al TurboLLM of llama.cpp op een computer gebruiken, en iedereen die nieuwsgierig is hoe een echt offline LLM-chat aanvoelt op een telefoon — onder uw controle, op uw eigen hardware, zonder dat er gegevens van het apparaat worden verwijderd.