TurboLLM: Offline AI Chat

TurboLLM suorittaa aitoja laajoja kielimalleja suoraan Android-puhelimesi suorittimella – ei pilvipalvelua, ei tiliä, ei tilausta eikä internetyhteyttä tarvita, kun malli on ladattu.

MIKSI PAIKALLINEN TEKOÄLY

Useimmat "tekoälykeskustelu"-sovellukset ovat ohut kääre jonkun toisen pilvi-API:n ympärillä: kehotteet poistuvat puhelimestasi, keskustelusi sijaitsevat palvelimella, jota et hallitse, ja sovellus lakkaa toimimasta heti, kun signaali katkeaa. TurboLLM on erilainen. Malli toimii oikeassa laitteen sisäisessä päättelymoottorissa (llama.cpp, käännetty Androidille), eikä keskustelusi tarvitse koskaan poistua puhelimestasi.

MITÄ VOIT TEHDÄ

- Keskustele avoimen painotuksen paikallisten LLM:ien – Llama, Qwen, Gemma ja mikä tahansa muu GGUF-malli – kanssa täysin offline-tilassa, jopa lentokonetilassa.
- Löydä ja lataa malleja suoraan Hugging Facesta, suoraan sovelluksen sisältä, yhdellä napautuksella.
- Päättelymoottori asentuu automaattisesti, kun tarvitset sitä ensimmäisen kerran – ei manuaalista asennusta, ei kääntämistä, ei terminaalia. - Luo mukautettuja tekoälyagentteja omilla järjestelmäkehotteillaan ja taito-/työkalukäyttöoikeuksillaan eri tehtäviin — koodausapuun, kirjoittamiseen, tutkimukseen tai täysin tyhjälle taululle ilman lisättyjä ohjeita.

- Seuraa omaa käyttöäsi ajan kuluessa: istuntoja, viestejä, luotujen tokeneiden kokonaismäärää, jaksoja ja eniten käyttämääsi mallia — kaikki lasketaan paikallisesti omasta historiastasi.

- Hienosäädä luontia keskustelukohtaisilla säätimillä: ajattelubudjetti, otanta ja päättelytyö malleille, jotka tukevat niitä.

- Sama käyttöliittymä kuin TurboLLM:n työpöytäsovelluksessa (Windows, Mac, Linux) — jos olet käyttänyt TurboLLM:ää tietokoneella, puhelimesi toimii täsmälleen samalla tavalla.

SUUNNITELTU TIETOSUOJA

- Ei tiliä, ei kirjautumista, ei pilvipohjaista taustajärjestelmää keskusteluillesi.

- Ei telemetriaa, ei analytiikkaa, ei kaatumisraportointia SDK:n kautta tässä versiossa.

- Keskustelut ja ladatut mallit elävät vain tämän sovelluksen yksityisessä tallennustilassa laitteellasi.
- Kehotteitasi, tiedostojasi ja mallien painoja ei koskaan lähetetä meille tai kenellekään muulle. Tämän sovelluksen ainoat verkkopyynnöt ovat itse laukaisemiasi: valitsemasi mallin lataaminen, päättelymoottorin binäärin hakeminen ensimmäisellä kerralla tai työkalukutsu, jonka olet nimenomaisesti hyväksynyt.

HYVÄ TIETÄÄ

Päättely toimii puhelimesi suorittimella, joten nopeus riippuu piirisarjasta ja valitsemastasi mallin koosta – pienemmät mallit (1–4 miljardia parametria) tuntuvat reagoivimmilta useimmissa puhelimissa, ja suuremmat mallit ovat käytettävissä, jos laitteistosi pystyy niitä kantamaan. Aktiivinen generointi on todellista laskentatehoa, joten odota normaalia akku- ja lämpökuormitusta, samaa kuin missä tahansa laitteella suoritettavassa tekoälytehtävässä.

KENELLE SE ON TARKOITETTU

Tietosuojaa arvostavat käyttäjät, paikalliset tekoälyharrastajat, kehittäjät, jotka jo käyttävät TurboLLM:ää tai llama.cpp:tä tietokoneella, ja kaikki, jotka ovat uteliaita, miltä aito offline-LLM-keskustelu tuntuu puhelimessa – hallinnassasi, laitteistollasi, ilman että mikään poistuu laitteesta.