TurboLLM: Offline AI Chat

ቱርቦልኤም በአንድሮይድ ስልክዎ ሲፒዩ ላይ እውነተኛ ትላልቅ የቋንቋ ሞዴሎችን ያሂዳል - ደመና የለውም፣ መለያ የለውም፣ የደንበኝነት ምዝገባ የለውም፣ እና አንድ ሞዴል ከወረደ በኋላ የኢንተርኔት ግንኙነት አያስፈልግም።

ለምን የአካባቢ AI

አብዛኛዎቹ "የAI ውይይት" መተግበሪያዎች የሌላ ሰው የደመና ኤፒአይ ዙሪያ ቀጭን መጠቅለያ ናቸው፡ ጥያቄዎችዎ ከስልክዎ ይወጣሉ፣ ውይይቶችዎ እርስዎ በማይቆጣጠሩት አገልጋይ ላይ ይቀመጣሉ፣ እና ሲግናል ሲያጡ መተግበሪያው መስራት ያቆማል። ቱርቦልኤም የተለየ ነው። ሞዴሉ በእውነተኛ የመሣሪያ ላይ ማጣቀሻ ሞተር (llama.cpp፣ ለአንድሮይድ የተዘጋጀ) ይሰራል፣ እና ውይይትዎ ከስልክዎ መውጣት የለበትም።

ምን ማድረግ ይችላሉ

- ከክፍት ክብደት ካላቸው የአካባቢ LLMዎች - ላማ፣ Qwen፣ Gemma እና ከማንኛውም GGUF ሞዴል ጋር ይወያዩ - ሙሉ በሙሉ ከመስመር ውጭ፣ በአውሮፕላን ሁነታ ላይም ቢሆን።
- ሞዴሎችን በቀጥታ ከHugging Face፣ በመተግበሪያው ውስጥ፣ በአንድ መታ በማድረግ ያግኙ እና ያውርዱ።

- የኢንፍሌሽን ሞተሩ ለመጀመሪያ ጊዜ ሲፈልጉት በራስ-ሰር ይጭናል - በእጅ ማዋቀር የለም፣ ማጠናቀር የለም፣ ተርሚናል የለም።
- ለተለያዩ ተግባራት የራሳቸውን የስርዓት ጥያቄ እና የክህሎት/መሳሪያ መዳረሻ በመጠቀም ብጁ የAI ወኪሎችን ይፍጠሩ - የኮድ እገዛ፣ ጽሑፍ፣ ምርምር ወይም ዜሮ የተወገደ መመሪያ ያለው ሙሉ በሙሉ ባዶ ሰሌዳ።

- የራስዎን አጠቃቀም በጊዜ ሂደት ይከታተሉ፡ ክፍለ ጊዜዎች፣ መልእክቶች፣ አጠቃላይ የመነጩ ቶከኖች፣ ጅረቶች እና በብዛት ጥቅም ላይ የዋለው ሞዴልዎ - ሁሉም ከራስዎ ታሪክ የተሰላ።
- በየቻት መቆጣጠሪያዎች ማመንጨትን ያስተካክሉ፡- በጀት ማሰብ፣ ናሙና መውሰድ እና የማመዛዘን ጥረት፣ ለሚደግፉ ሞዴሎች።

- ከቱርቦLLM የዴስክቶፕ መተግበሪያ (ዊንዶውስ፣ ማክ፣ ሊኑክስ) ጋር ተመሳሳይ በይነገጽ - ቱርቦLLMን በኮምፒውተር ላይ ከተጠቀሙ፣ ስልክዎ በትክክል በተመሳሳይ መንገድ ይሰራል።

በዲዛይን ግላዊነት

- ምንም መለያ የለም፣ መግቢያ የለም፣ ለውይይቶችዎ የደመና ጀርባ የለም።
- በዚህ ግንባታ ውስጥ ቴሌሜትሪ የለም፣ ምንም ትንታኔ የለም፣ ምንም የብልሽት ሪፖርት የሚያደርግ SDK የስልክ ጥሪ የለም።
- ውይይቶች እና የወረዱ ሞዴሎች በመሳሪያዎ ላይ ባለው በዚህ መተግበሪያ የግል ማከማቻ ውስጥ ብቻ ይኖራሉ።
- የእርስዎ ጥያቄዎች፣ ፋይሎች እና የሞዴል ክብደቶች በጭራሽ ወደ እኛ ወይም ለሌላ ሰው አይላኩም። ይህ መተግበሪያ የሚያቀርባቸው የኔትወርክ ጥያቄዎች እርስዎ እራስዎ የሚያነሳሷቸው ብቻ ናቸው፡ የመረጡትን ሞዴል ማውረድ፣ ለመጀመሪያ ጊዜ ሲያስፈልግ የኢንፍራይመንት ሞተር ሁለትዮሽ ማግኘት ወይም በግልጽ የጸደቁበት የመሳሪያ ጥሪ።

ማወቅ የሚገባ

ኢንፍራይመንት በስልክዎ ሲፒዩ ላይ ይሰራል፣ ስለዚህ ፍጥነቱ የሚወሰነው በቺፕሴትዎ እና በመረጡት የሞዴል መጠን ላይ ነው - ትናንሽ ሞዴሎች (1-4B መለኪያዎች) በአብዛኛዎቹ ስልኮች ላይ በጣም ምላሽ ሰጪ እንደሆኑ ይሰማቸዋል፣ እና ሃርድዌርዎ ሊሸከማቸው ከቻለ ትላልቅ ሞዴሎች አሉ። ንቁ ትውልድ እውነተኛ የኮምፒውተር ስራ ነው፣ ስለዚህ እንደማንኛውም በመሳሪያ ላይ ያለ የAI ተግባር ሁሉ መደበኛ የባትሪ እና የሙቀት ጭነት ይጠብቁ።

ለማን ነው

ግላዊነትን የሚያውቁ ተጠቃሚዎች፣ የአካባቢ-AI አድናቂዎች፣ በኮምፒውተር ላይ TurboLLM ወይም llama.cppን አስቀድመው የሚያሄዱ ገንቢዎች፣ እና በስልክ ላይ በእውነት ከመስመር ውጭ የሆነ የ LLM ውይይት ምን እንደሚመስል የሚፈልግ ማንኛውም ሰው - በእርስዎ ቁጥጥር ስር፣ በሃርድዌርዎ ላይ፣ ከመሳሪያው ምንም ሳይወጣ።