TurboLLM: Offline AI Chat

TurboLLM সরাসরি আপনার অ্যান্ড্রয়েড ফোনের সিপিইউ-তে আসল বড় ল্যাঙ্গুয়েজ মডেল চালায় — একবার মডেল ডাউনলোড হয়ে গেলে কোনো ক্লাউড, অ্যাকাউন্ট, সাবস্ক্রিপশন বা ইন্টারনেট সংযোগের প্রয়োজন হয় না।

লোকাল এআই কেন

বেশিরভাগ "এআই চ্যাট" অ্যাপ হলো অন্য কারো ক্লাউড এপিআই-এর একটি পাতলা আবরণ: আপনার প্রম্পটগুলো আপনার ফোন থেকে বাইরে চলে যায়, আপনার কথোপকথন এমন একটি সার্ভারে থাকে যা আপনার নিয়ন্ত্রণে নেই, এবং সিগন্যাল চলে গেলেই অ্যাপটি কাজ করা বন্ধ করে দেয়। TurboLLM আলাদা। মডেলটি ডিভাইসের ভেতরেই একটি আসল ইনফারেন্স ইঞ্জিনে (llama.cpp, অ্যান্ড্রয়েডের জন্য কম্পাইল করা) চলে, এবং আপনার কথোপকথনকে কখনোই আপনার ফোন থেকে বাইরে যেতে হয় না।

আপনি যা করতে পারেন

- ওপেন-ওয়েট লোকাল এলএলএম — Llama, Qwen, Gemma, এবং অন্য যেকোনো GGUF মডেল — দিয়ে সম্পূর্ণ অফলাইনে, এমনকি এয়ারপ্লেন মোডেও চ্যাট করুন।

- এক ট্যাপে সরাসরি অ্যাপের ভেতর থেকে Hugging Face-এর মডেলগুলো খুঁজে বের করুন এবং ডাউনলোড করুন।

- প্রথমবার যখন আপনার প্রয়োজন হবে, ইনফারেন্স ইঞ্জিনটি স্বয়ংক্রিয়ভাবে ইনস্টল হয়ে যাবে — কোনো ম্যানুয়াল সেটআপ, কম্পাইলিং বা টার্মিনালের প্রয়োজন নেই। - বিভিন্ন কাজের জন্য নিজস্ব সিস্টেম প্রম্পট এবং স্কিল/টুল অ্যাক্সেস সহ কাস্টম AI এজেন্ট তৈরি করুন — যেমন কোডিং-এ সাহায্য, লেখালেখি, গবেষণা, অথবা কোনো নির্দেশনা ছাড়াই সম্পূর্ণ নতুন একটি অবস্থা।

- সময়ের সাথে সাথে আপনার নিজের ব্যবহার ট্র্যাক করুন: সেশন, মেসেজ, মোট জেনারেট করা টোকেন, স্ট্রিক এবং আপনার সবচেয়ে বেশি ব্যবহৃত মডেল — এই সবকিছু আপনার নিজের হিস্টরি থেকে স্থানীয়ভাবে গণনা করা হয়।

- প্রতিটি চ্যাটের জন্য আলাদা কন্ট্রোলের মাধ্যমে জেনারেশনকে সূক্ষ্মভাবে নিয়ন্ত্রণ করুন: যেসব মডেল সাপোর্ট করে, সেগুলোর জন্য থিঙ্কিং বাজেট, স্যাম্পলিং এবং রিজনিং এফোর্ট নির্ধারণ করুন।

TurboLLM-এর ডেস্কটপ অ্যাপের (Windows, Mac, Linux) মতোই একই ইন্টারফেস — আপনি যদি কম্পিউটারে TurboLLM ব্যবহার করে থাকেন, তবে আপনার ফোনও ঠিক একইভাবে কাজ করবে।

ডিজাইনের মাধ্যমেই গোপনীয়তা রক্ষা করা হয়েছে

- আপনার কথোপকথনের জন্য কোনো অ্যাকাউন্ট, লগইন বা ক্লাউড ব্যাকএন্ড নেই।

- এই বিল্ডে কোনো টেলিমেট্রি, অ্যানালিটিক্স বা ক্র্যাশ-রিপোর্টিং SDK নেই যা বাইরের কোনো সিস্টেমে ডেটা পাঠায়।

- চ্যাট এবং ডাউনলোড করা মডেলগুলো শুধুমাত্র আপনার ডিভাইসে এই অ্যাপের নিজস্ব স্টোরেজেই থাকে।

আপনার প্রম্পট, ফাইল এবং মডেল ওয়েট কখনোই আমাদের বা অন্য কারো কাছে পাঠানো হয় না। এই অ্যাপটি শুধুমাত্র সেইসব নেটওয়ার্ক রিকোয়েস্টই করে যা আপনি নিজে চালু করেছেন: যেমন আপনার বেছে নেওয়া কোনো মডেল ডাউনলোড করা, প্রথমবারের প্রয়োজনে ইনফারেন্স ইঞ্জিন বাইনারি ফেচ করা, অথবা আপনার স্পষ্টভাবে অনুমোদিত কোনো টুল কল।

জানার জন্য গুরুত্বপূর্ণ তথ্য

ইনফারেন্স আপনার ফোনের সিপিইউ-তে চলে, তাই এর গতি আপনার চিপসেট এবং আপনার বেছে নেওয়া মডেলের আকারের উপর নির্ভর করে — ছোট মডেলগুলো (১-৪ বাইট প্যারামিটার) বেশিরভাগ ফোনেই সবচেয়ে বেশি রেসপন্সিভ মনে হয়, এবং আপনার হার্ডওয়্যার সমর্থন করলে বড় মডেলগুলোও ব্যবহার করা যায়। অ্যাক্টিভ জেনারেশন একটি সত্যিকারের কম্পিউটিং কাজ, তাই ডিভাইসের যেকোনো এআই টাস্কের মতোই স্বাভাবিক ব্যাটারি এবং থার্মাল লোড আশা করতে পারেন।

কাদের জন্য

যারা প্রাইভেসি-সচেতন ব্যবহারকারী, লোকাল-এআই উৎসাহী, ডেভেলপার যারা ইতিমধ্যেই কম্পিউটারে TurboLLM বা llama.cpp চালান, এবং যারা ফোনে একটি সত্যিকারের অফলাইন এলএলএম চ্যাট কেমন হয় তা জানতে আগ্রহী — যা আপনার নিয়ন্ত্রণে, আপনার হার্ডওয়্যারে চলে এবং ডিভাইস থেকে কিছুই বাইরে যায় না।