TurboLLM: Offline AI Chat

TurboLLM اصلی بڑے زبان کے ماڈلز کو براہ راست آپ کے Android فون کے CPU پر چلاتا ہے — کوئی کلاؤڈ، کوئی اکاؤنٹ، کوئی سبسکرپشن، اور ایک بار ماڈل ڈاؤن لوڈ ہونے کے بعد انٹرنیٹ کنکشن کی ضرورت نہیں ہے۔

کیوں مقامی AI

زیادہ تر "AI چیٹ" ایپس کسی اور کے کلاؤڈ API کے گرد ایک پتلی ریپر ہوتی ہیں: آپ کے اشارے آپ کے فون کو چھوڑ دیتے ہیں، آپ کی گفتگو ایک ایسے سرور پر بیٹھ جاتی ہے جسے آپ کنٹرول نہیں کرتے، اور جب آپ سگنل کھو دیتے ہیں تو ایپ کام کرنا بند کر دیتی ہے۔ TurboLLM مختلف ہے۔ ماڈل ایک حقیقی آن ڈیوائس انفرنس انجن میں چلتا ہے (llama.cpp، Android کے لیے مرتب کیا گیا)، اور آپ کی گفتگو کو کبھی بھی آپ کا فون نہیں چھوڑنا پڑتا۔

آپ کیا کر سکتے ہیں۔

- کھلے وزن والے مقامی LLMs کے ساتھ چیٹ کریں — Llama, Qwen, Gemma، اور کوئی دوسرا GGUF ماڈل — مکمل طور پر آف لائن، ہوائی جہاز کے موڈ میں بھی۔
- ایک نل کے ساتھ، ایپ کے اندر، سیدھے Hugging Face سے ماڈلز دریافت اور ڈاؤن لوڈ کریں۔
- جب آپ کو پہلی بار ضرورت ہو تو انفرنس انجن خود بخود انسٹال ہو جاتا ہے — کوئی دستی سیٹ اپ، کوئی کمپائلنگ، کوئی ٹرمینل نہیں۔
- مختلف کاموں کے لیے ان کے اپنے سسٹم پرامپٹ اور مہارت/آل تک رسائی کے ساتھ حسب ضرورت AI ایجنٹس بنائیں — کوڈنگ میں مدد، تحریر، تحقیق، یا صفر انجیکشن ہدایات کے ساتھ مکمل طور پر خالی سلیٹ۔
- وقت کے ساتھ اپنے استعمال کا پتہ لگائیں: سیشنز، پیغامات، کل ٹوکن جنریٹ کیے گئے، اسٹریکس، اور آپ کا سب سے زیادہ استعمال ہونے والا ماڈل - یہ سب آپ کی اپنی تاریخ سے مقامی طور پر شمار کیا جاتا ہے۔
- فی چیٹ کنٹرولز کے ساتھ فائن ٹیون جنریشن: ان ماڈلز کے لیے سوچنا بجٹ، نمونے لینے، اور استدلال کی کوشش۔
- TurboLLM کی ڈیسک ٹاپ ایپ (Windows, Mac, Linux) جیسا ہی انٹرفیس — اگر آپ نے کمپیوٹر پر TurboLLM استعمال کیا ہے، تو آپ کا فون بالکل اسی طرح کام کرتا ہے۔

پرائیویسی بذریعہ ڈیزائن

- آپ کی گفتگو کے لیے کوئی اکاؤنٹ، کوئی لاگ ان، کوئی کلاؤڈ بیک اینڈ نہیں۔
- اس بلڈ میں کوئی ٹیلی میٹری، کوئی اینالیٹکس، کوئی کریش رپورٹنگ SDK فوننگ ہوم نہیں ہے۔
- چیٹس اور ڈاؤن لوڈ کردہ ماڈلز صرف آپ کے آلے پر اس ایپ کے نجی اسٹوریج میں رہتے ہیں۔
- آپ کے اشارے، فائلیں، اور ماڈل وزن کبھی بھی ہمیں یا کسی اور کو نہیں بھیجے جاتے ہیں۔ نیٹ ورک کی صرف وہ درخواستیں جو یہ ایپ کرتی ہے وہ ہیں جو آپ نے خود ٹرگر کی ہیں: اپنے منتخب کردہ ماڈل کو ڈاؤن لوڈ کرنا، پہلی بار ضرورت پڑنے پر انفرنس انجن بائنری کو بازیافت کرنا، یا ایک ٹول کال جسے آپ نے واضح طور پر منظور کیا ہے۔

جاننے کے قابل

اندازہ آپ کے فون کے CPU پر چلتا ہے، لہذا رفتار آپ کے چپ سیٹ اور آپ کے منتخب کردہ ماڈل کے سائز پر منحصر ہے — چھوٹے ماڈل (1-4B پیرامیٹرز) زیادہ تر فونز پر سب سے زیادہ ردعمل محسوس کرتے ہیں، اور اگر آپ کا ہارڈویئر انہیں لے جا سکتا ہے تو بڑے ماڈلز موجود ہیں۔ ایکٹیو جنریشن حقیقی کمپیوٹ کا کام ہے، لہذا عام بیٹری اور تھرمل لوڈ کی توقع کریں، جیسا کہ کسی بھی آن ڈیوائس AI ٹاسک کی طرح۔

یہ کس کے لیے ہے۔

رازداری سے آگاہ صارفین، مقامی AI کے شوقین، ڈویلپرز جو پہلے سے ہی کمپیوٹر پر TurboLLM یا llama.cpp چلا رہے ہیں، اور کوئی بھی یہ جاننا چاہتا ہے کہ فون پر حقیقی طور پر آف لائن LLM چیٹ کیسا محسوس ہوتا ہے — آپ کے کنٹرول میں، آپ کے ہارڈ ویئر پر، ڈیوائس میں کچھ بھی نہیں چھوڑتا۔