TurboLLM: Offline AI Chat

TurboLLM, büyük dil modellerini doğrudan Android telefonunuzun işlemcisinde çalıştırır; bulut, hesap, abonelik veya model indirildikten sonra internet bağlantısı gerekmez.

NEDEN YEREL YAPAY ZEKÂ?

Çoğu "yapay zekâ sohbet" uygulaması, başkasının bulut API'sinin ince bir sarmalayıcısıdır: sorularınız telefonunuzdan çıkar, konuşmalarınız kontrol edemediğiniz bir sunucuda kalır ve sinyal kaybettiğiniz anda uygulama çalışmayı durdurur. TurboLLM farklıdır. Model, gerçek bir cihaz içi çıkarım motorunda (Android için derlenmiş llama.cpp) çalışır ve konuşmanız asla telefonunuzdan ayrılmak zorunda kalmaz.

NELER YAPABİLİRSİNİZ?

- Açık ağırlıklı yerel LLM'lerle (Llama, Qwen, Gemma ve diğer tüm GGUF modelleri) tamamen çevrimdışı, hatta uçak modunda bile sohbet edin.

- Tek dokunuşla, doğrudan uygulama içinden Hugging Face'ten modelleri keşfedin ve indirin.

- Çıkarım motoru, ilk ihtiyacınız olduğunda otomatik olarak kurulur; manuel kurulum, derleme veya terminal gerekmez.

- Farklı görevler için (kodlama yardımı, yazma, araştırma veya sıfır talimatla tamamen boş bir sayfa) kendi sistem komut istemi ve beceri/araç erişimine sahip özel yapay zeka ajanları oluşturun.

- Zaman içindeki kullanımınızı takip edin: oturumlar, mesajlar, oluşturulan toplam token sayısı, seriler ve en çok kullandığınız model - tümü kendi geçmişinizden yerel olarak hesaplanır.

- Destekleyen modeller için bütçe, örnekleme ve akıl yürütme çabası gibi sohbet başına kontrollerle üretimi ince ayar yapın.

- TurboLLM'nin masaüstü uygulamasıyla (Windows, Mac, Linux) aynı arayüz - TurboLLM'yi bir bilgisayarda kullandıysanız, telefonunuz da tamamen aynı şekilde çalışır.

**GİZLİLİK TASARIMI**

- Hesap yok, oturum açma yok, konuşmalarınız için bulut arka ucu yok.

- Bu sürümde telemetri yok, analiz yok, eve bağlantı veren çökme raporlama SDK'sı yok.

- Sohbetler ve indirilen modeller yalnızca cihazınızdaki bu uygulamanın özel depolama alanında bulunur.

- İstekleriniz, dosyalarınız ve model ağırlıklarınız asla bize veya başka birine gönderilmez. Bu uygulamanın yaptığı tek ağ istekleri, sizin kendiniz tetiklediğiniz isteklerdir: seçtiğiniz bir modeli indirmek, çıkarım motoru ikili dosyasını ilk ihtiyaç duyulduğunda almak veya açıkça onayladığınız bir araç çağrısı.

BİLİNMESİ GEREKENLER

Çıkarım, telefonunuzun CPU'sunda çalışır, bu nedenle hız, yonga setinize ve seçtiğiniz model boyutuna bağlıdır — daha küçük modeller (1-4B parametre) çoğu telefonda en hızlı tepkiyi verir ve donanımınız destekliyorsa daha büyük modeller de mevcuttur. Aktif üretim gerçek bir hesaplama işidir, bu nedenle herhangi bir cihaz içi yapay zeka göreviyle aynı normal pil ve termal yükü bekleyin.

KİMLER İÇİN?

Gizliliğe önem veren kullanıcılar, yerel yapay zeka meraklıları, TurboLLM veya llama.cpp'yi bilgisayarda zaten çalıştıran geliştiriciler ve gerçekten çevrimdışı bir LLM sohbetinin telefonda nasıl bir his verdiğini merak eden herkes — kontrolünüz altında, donanımınızda, hiçbir şey cihazdan ayrılmadan.