TurboLLM: Offline AI Chat

TurboLLM, böyük dil modellərini birbaşa Android telefonunuzun CPU-sunda işlədir — bulud, hesab, abunə və model yükləndikdən sonra internet bağlantısı tələb olunmur.

NİYƏ YERLİ SÜY

Əksər "SÜY söhbət" tətbiqləri başqasının bulud API-sinin ətrafında nazik bir örtükdür: sorğularınız telefonunuzdan çıxır, söhbətləriniz nəzarət etmədiyiniz bir serverdə qalır və siqnal kəsildiyi anda tətbiq işləməyi dayandırır. TurboLLM fərqlidir. Model real cihazdaxili çıxarış mühərrikində (llama.cpp, Android üçün tərtib edilmiş) işləyir və söhbətiniz heç vaxt telefonunuzdan çıxmamalıdır.

NƏ EDƏ BİLƏRSİNİZ

- Açıq çəkili yerli LLM-lərlə — Llama, Qwen, Gemma və digər GGUF modelləri ilə — hətta təyyarə rejimində belə — tamamilə oflayn söhbət edin.
- Modelləri birbaşa tətbiqin içərisində, Hugging Face-dən kəşf edin və bir kliklə yükləyin.
- Çıxış mühərriki ilk dəfə ehtiyac duyduğunuz zaman avtomatik olaraq quraşdırılır — əl ilə quraşdırma, tərtib etmə, terminal yoxdur.
- Müxtəlif tapşırıqlar üçün öz sistem sorğusu və bacarıq/alət girişi ilə xüsusi süni intellekt agentləri yaradın — kodlaşdırma köməyi, yazı, tədqiqat və ya sıfır inyeksiya təlimatları olan tamamilə boş bir vərəq.
- Zamanla öz istifadənizi izləyin: sessiyalar, mesajlar, yaradılan ümumi tokenlər, seriyalar və ən çox istifadə etdiyiniz model — hamısı öz tarixçənizdən yerli olaraq hesablanır.
- Çat başına idarəetmə ilə dəqiq tənzimləmə generasiyası: onları dəstəkləyən modellər üçün düşünmə büdcəsi, nümunə götürmə və mühakimə səyi.
- TurboLLM-in masaüstü tətbiqi (Windows, Mac, Linux) ilə eyni interfeys — əgər TurboLLM-i kompüterdə istifadə etmisinizsə, telefonunuz tam olaraq eyni şəkildə işləyir.

DİZAYN TƏRƏFİNDƏN MƏXFİLİK

- Hesab yoxdur, giriş yoxdur, söhbətləriniz üçün bulud arxa planı yoxdur.
- Bu quruluşda telemetriya, analitika, qəza hesabatı verən SDK yoxdur.
- Çat və yüklənmiş modellər yalnız cihazınızdakı bu tətbiqin şəxsi yaddaşında yaşayır.
- Sorğularınız, fayllarınız və model çəkiləriniz heç vaxt bizə və ya başqasına göndərilmir. Bu tətbiqin yeganə şəbəkə sorğuları özünüz tetiklediğiniz sorğulardır: seçdiyiniz modeli yükləmək, ilk dəfə lazım olduqda çıxarış mühərriki ikili faylını əldə etmək və ya açıq şəkildə təsdiqlədiyiniz bir alət çağırışı.

BİLMƏYƏ DƏYƏR

Çıxarış telefonunuzun CPU-sunda işləyir, buna görə də sürət çipsetinizdən və seçdiyiniz model ölçüsündən asılıdır — daha kiçik modellər (1-4B parametrləri) əksər telefonlarda ən çox cavabdeh hiss olunur və aparatınız onları daşıya bilirsə, daha böyükləri də mövcuddur. Aktiv generasiya əsl hesablama işidir, buna görə də cihazdakı hər hansı bir süni intellekt tapşırığı kimi normal batareya və istilik yükü gözləyin.

KİM ÜÇÜNDÜR

Məxfiliyə həssas istifadəçilər, yerli süni intellekt həvəskarları, artıq kompüterdə TurboLLM və ya llama.cpp işlədən tərtibatçılar və həqiqətən oflayn LLM söhbətinin telefonda — nəzarətiniz altında, aparatınızda, cihazdan heç nə çıxmadan necə hiss olunduğunu maraqlanan hər kəs.