TurboLLM: Offline AI Chat

TurboLLM ដំណើរការគំរូភាសាធំៗពិតប្រាកដដោយផ្ទាល់នៅលើ CPU ទូរស័ព្ទ Android របស់អ្នក — គ្មានពពក គ្មានគណនី គ្មានការជាវ និងមិនត្រូវការការតភ្ជាប់អ៊ីនធឺណិតទេ នៅពេលដែលគំរូត្រូវបានទាញយក។

ហេតុអ្វី AI ក្នុងស្រុក

កម្មវិធី "ជជែក AI" ភាគច្រើនគឺជាស្រទាប់ស្តើងមួយជុំវិញ API ពពករបស់អ្នកដទៃ៖ ការណែនាំរបស់អ្នកចាកចេញពីទូរស័ព្ទរបស់អ្នក ការសន្ទនារបស់អ្នកស្ថិតនៅលើម៉ាស៊ីនមេដែលអ្នកមិនបានគ្រប់គ្រង ហើយកម្មវិធីឈប់ដំណើរការនៅពេលដែលអ្នកបាត់បង់សញ្ញា។ TurboLLM គឺខុសគ្នា។ គំរូនេះដំណើរការនៅក្នុងម៉ាស៊ីនសន្និដ្ឋានពិតប្រាកដនៅលើឧបករណ៍ (llama.cpp ចងក្រងសម្រាប់ Android) ហើយការសន្ទនារបស់អ្នកមិនចាំបាច់ចាកចេញពីទូរស័ព្ទរបស់អ្នកទេ។

អ្វីដែលអ្នកអាចធ្វើបាន

- ជជែកជាមួយ LLM ក្នុងស្រុកដែលមានទម្ងន់បើកចំហ — Llama, Qwen, Gemma និងគំរូ GGUF ផ្សេងទៀត — ក្រៅបណ្តាញទាំងស្រុង សូម្បីតែនៅក្នុងរបៀបយន្តហោះក៏ដោយ។
- ស្វែងរក និងទាញយកគំរូដោយផ្ទាល់ពី Hugging Face នៅខាងក្នុងកម្មវិធី ដោយគ្រាន់តែប៉ះម្តង។
- ម៉ាស៊ីនសន្និដ្ឋានដំឡើងខ្លួនវាដោយស្វ័យប្រវត្តិនៅពេលដំបូងដែលអ្នកត្រូវការវា — គ្មានការដំឡើងដោយដៃ គ្មានការចងក្រង គ្មានស្ថានីយ។
- បង្កើតភ្នាក់ងារ AI ផ្ទាល់ខ្លួនជាមួយនឹងប្រអប់បញ្ចូលប្រព័ន្ធផ្ទាល់ខ្លួន និងការចូលប្រើជំនាញ/ឧបករណ៍ សម្រាប់កិច្ចការផ្សេងៗគ្នា — ជំនួយសរសេរកូដ ការសរសេរ ការស្រាវជ្រាវ ឬផ្ទាំងទទេទាំងស្រុងដោយគ្មានការណែនាំបញ្ចូល។
- តាមដានការប្រើប្រាស់ផ្ទាល់ខ្លួនរបស់អ្នកតាមពេលវេលា៖ វគ្គ សារ ថូខឹនសរុបដែលបានបង្កើត ស្ទ្រីក និងគំរូដែលប្រើច្រើនបំផុតរបស់អ្នក — ទាំងអស់ត្រូវបានគណនាក្នុងស្រុកពីប្រវត្តិផ្ទាល់ខ្លួនរបស់អ្នក។
- កែលម្អការបង្កើតជាមួយនឹងការគ្រប់គ្រងក្នុងមួយការជជែក៖ ថវិកាគិត ការយកគំរូ និងការខិតខំប្រឹងប្រែងវែកញែក សម្រាប់គំរូដែលគាំទ្រពួកវា។
- ចំណុចប្រទាក់ដូចគ្នានឹងកម្មវិធីកុំព្យូទ័រលើតុរបស់ TurboLLM (Windows, Mac, Linux) — ប្រសិនបើអ្នកបានប្រើ TurboLLM នៅលើកុំព្យូទ័រ ទូរស័ព្ទរបស់អ្នកដំណើរការតាមរបៀបដូចគ្នា។

ភាពឯកជនតាមការរចនា

- គ្មានគណនី គ្មានការចូល គ្មានផ្ទៃខាងក្រោយពពកសម្រាប់ការសន្ទនារបស់អ្នកទេ។
- គ្មានទូរមាត្រ គ្មានការវិភាគ គ្មាន SDK រាយការណ៍ការគាំងដែលហៅទូរស័ព្ទទៅផ្ទះនៅក្នុងការសាងសង់នេះទេ។
- ការជជែក និងគំរូដែលបានទាញយករស់នៅតែនៅក្នុងការផ្ទុកឯកជនរបស់កម្មវិធីនេះនៅលើឧបករណ៍របស់អ្នកប៉ុណ្ណោះ។
- ប្រអប់បញ្ចូល ឯកសារ និងទម្ងន់គំរូរបស់អ្នកមិនត្រូវបានផ្ញើទៅយើង ឬនរណាម្នាក់ផ្សេងទៀតឡើយ។ សំណើបណ្តាញតែមួយគត់ដែលកម្មវិធីនេះធ្វើគឺសំណើដែលអ្នកបានបង្កឡើងដោយខ្លួនឯង៖ ការទាញយកគំរូដែលអ្នកបានជ្រើសរើស ការទាញយកប្រព័ន្ធគោលពីររបស់ម៉ាស៊ីនសន្និដ្ឋានជាលើកដំបូងដែលវាត្រូវការ ឬការហៅឧបករណ៍ដែលអ្នកបានអនុម័តយ៉ាងច្បាស់លាស់។

គួរដឹង

ការសន្និដ្ឋានដំណើរការលើ CPU ទូរស័ព្ទរបស់អ្នក ដូច្នេះល្បឿនអាស្រ័យលើបន្ទះឈីបរបស់អ្នក និងទំហំគំរូដែលអ្នកជ្រើសរើស — គំរូតូចៗ (ប៉ារ៉ាម៉ែត្រ 1-4B) មានអារម្មណ៍ថាឆ្លើយតបបានច្រើនបំផុតនៅលើទូរស័ព្ទភាគច្រើន ហើយម៉ូដែលធំៗមាននៅទីនោះ ប្រសិនបើផ្នែករឹងរបស់អ្នកអាចផ្ទុកវាបាន។ ការបង្កើតសកម្មគឺជាការងារគណនាពិតប្រាកដ ដូច្នេះរំពឹងថានឹងមានថ្ម និងបន្ទុកកម្ដៅធម្មតា ដូចគ្នានឹងកិច្ចការ AI នៅលើឧបករណ៍ណាមួយដែរ។

សម្រាប់អ្នកណា

អ្នកប្រើប្រាស់ដែលយកចិត្តទុកដាក់ចំពោះភាពឯកជន អ្នកចូលចិត្ត AI ក្នុងស្រុក អ្នកអភិវឌ្ឍន៍ដែលបានដំណើរការ TurboLLM ឬ llama.cpp នៅលើកុំព្យូទ័ររួចហើយ និងអ្នកដែលចង់ដឹងថាតើការជជែក LLM ក្រៅបណ្តាញពិតប្រាកដមានអារម្មណ៍យ៉ាងណានៅលើទូរស័ព្ទ — ក្រោមការគ្រប់គ្រងរបស់អ្នក នៅលើផ្នែករឹងរបស់អ្នក ដោយគ្មានអ្វីចាកចេញពីឧបករណ៍នោះទេ។