TurboLLM: Offline AI Chat

TurboLLM-k hizkuntza-eredu handiak zuzenean exekutatzen ditu zure Android telefonoaren CPUan — ez hodeirik, ez konturik, ez harpidetzarik eta ez da Interneteko konexiorik behar eredua deskargatu ondoren.

ZERGATIK IA LOKALA

"IA txat" aplikazio gehienak beste norbaiten hodeiko APIaren inguruko estalki mehe bat dira: zure gonbidapenak zure telefonotik irteten dira, zure elkarrizketak zuk kontrolatzen ez duzun zerbitzari batean daude, eta aplikazioak funtzionatzeari uzten dio seinalea galtzen duzun unean. TurboLLM desberdina da. Eredua gailuan bertan dagoen inferentzia-motor batean exekutatzen da (llama.cpp, Androiderako konpilatua), eta zure elkarrizketak ez du inoiz zure telefonotik irten behar.

ZER EGIN DEZAKEZU

- Txateatu pisu irekiko tokiko LLMekin — Llama, Qwen, Gemma eta beste edozein GGUF eredu — guztiz lineaz kanpo, hegazkin moduan ere.

- Ezagutu eta deskargatu ereduak zuzenean Hugging Face-tik, aplikazioaren barruan, ukitu bakarrarekin.

- Inferentzia-motorra automatikoki instalatzen da lehen aldiz behar duzunean — ez eskuzko konfiguraziorik, ez konpilaziorik, ez terminalik. - Sortu IA agente pertsonalizatuak beren sistema-gonbitarekin eta trebetasun/tresna sarbidearekin, zeregin desberdinetarako — kodeketa laguntza, idazketa, ikerketa edo injektatutako argibiderik gabeko orri huts bat.

- Jarraitu zure erabilera denboran zehar: saioak, mezuak, sortutako token guztiak, segidak eta gehien erabiltzen duzun eredua — guztiak zure historiatik kalkulatuta.

- Doitu sorkuntza txat bakoitzeko kontrolekin: pentsatzeko aurrekontua, laginketa eta arrazoitzeko ahalegina, horiek onartzen dituzten ereduetarako.

- TurboLLM-ren mahaigaineko aplikazioaren interfaze bera (Windows, Mac, Linux) — ordenagailu batean TurboLLM erabili baduzu, zure telefonoak modu berean funtzionatzen du.

PRIBATUTASUNA DISEINUAREN BIDEZ

- Ez konturik, ez saiorik hasi, ez hodeiko backend-ik zure elkarrizketetarako.

- Ez telemetriarik, ez analisirik, ez hutsegiteen berri emateko SDKrik etxera deitzeko eraikuntza honetan.

- Txatak eta deskargatutako ereduak aplikazio honen biltegi pribatuan bakarrik bizi dira zure gailuan.

- Zure gonbitak, fitxategiak eta ereduen pisuak ez zaizkigu inoiz guri edo inori bidaltzen. Aplikazio honek egiten dituen sareko eskaera bakarrak zuk zeuk abiarazitakoak dira: zuk aukeratutako modelo bat deskargatzea, inferentzia-motorraren bitarra lehen aldiz behar denean eskuratzea edo esplizituki onartu duzun tresna-dei bat.

JAKITEKOA

Inferentzia zure telefonoaren CPUan exekutatzen da, beraz, abiadura zure txiparen eta aukeratzen duzun modeloaren tamainaren araberakoa da — modelo txikiagoak (1-4B parametroak) dira telefono gehienetan erantzunkorrenak, eta handiagoak hor daude zure hardwareak eraman ditzakeenean. Sorkuntza aktiboa benetako konputazio-lana da, beraz, espero bateria eta karga termiko normala, gailuko edozein AI zeregin bezala.

NORENTZAT

Pribatutasunaz arduratzen diren erabiltzaileentzat, tokiko AI zaleentzat, TurboLLM edo llama.cpp ordenagailu batean exekutatzen duten garatzaileentzat eta telefono batean benetako lineaz kanpoko LLM txat batek nola sentitzen den jakin-mina duen edonorentzat — zure kontrolpean, zure hardwarean, gailutik ezer atera gabe.