TurboLLM: Offline AI Chat

Το TurboLLM εκτελεί πραγματικά μεγάλα μοντέλα γλώσσας απευθείας στην CPU του τηλεφώνου σας Android — χωρίς cloud, χωρίς λογαριασμό, χωρίς συνδρομή και χωρίς σύνδεση στο διαδίκτυο μόλις ολοκληρωθεί η λήψη ενός μοντέλου.

ΓΙΑΤΙ ΤΟΠΙΚΗ ΤΕΧΝΗΤΗ ΑΙΘΟΥΣΑ

Οι περισσότερες εφαρμογές "συνομιλίας με τεχνητή νοημοσύνη" είναι ένα λεπτό περιτύλιγμα γύρω από το cloud API κάποιου άλλου: οι προτροπές σας εγκαταλείπουν το τηλέφωνό σας, οι συνομιλίες σας βρίσκονται σε έναν διακομιστή που δεν ελέγχετε και η εφαρμογή σταματά να λειτουργεί τη στιγμή που χάνετε το σήμα. Το TurboLLM είναι διαφορετικό. Το μοντέλο εκτελείται σε μια πραγματική μηχανή συμπερασμάτων στη συσκευή (llama.cpp, μεταγλωττισμένη για Android) και η συνομιλία σας δεν χρειάζεται ποτέ να εγκαταλείψει το τηλέφωνό σας.

ΤΙ ΜΠΟΡΕΙΤΕ ΝΑ ΚΑΝΕΤΕ

- Συνομιλήστε με τοπικούς LLM ανοιχτού βάρους — Llama, Qwen, Gemma και οποιοδήποτε άλλο μοντέλο GGUF — πλήρως εκτός σύνδεσης, ακόμα και σε λειτουργία πτήσης.

- Ανακαλύψτε και κατεβάστε μοντέλα απευθείας από το Hugging Face, απευθείας μέσα στην εφαρμογή, με ένα πάτημα.
- Η μηχανή συμπερασμάτων εγκαθίσταται αυτόματα την πρώτη φορά που τη χρειάζεστε — χωρίς χειροκίνητη ρύθμιση, χωρίς μεταγλώττιση, χωρίς τερματικό. - Δημιουργήστε προσαρμοσμένους πράκτορες Τεχνητής Νοημοσύνης με το δικό τους σύστημα προτροπής και πρόσβαση σε δεξιότητες/εργαλεία, για διαφορετικές εργασίες — βοήθεια στον προγραμματισμό, γραφή, έρευνα ή μια εντελώς κενή πλάκα χωρίς οδηγίες που έχουν εισαχθεί.
- Παρακολουθήστε τη δική σας χρήση με την πάροδο του χρόνου: συνεδρίες, μηνύματα, συνολικά tokens που δημιουργήθηκαν, σειρές και το πιο χρησιμοποιούμενο μοντέλο σας — όλα υπολογίζονται τοπικά από το δικό σας ιστορικό.
- Βελτιστοποιήστε τη δημιουργία με ελέγχους ανά συνομιλία: προϋπολογισμός σκέψης, δειγματοληψία και προσπάθεια συλλογισμού, για μοντέλα που τα υποστηρίζουν.
- Η ίδια διεπαφή με την εφαρμογή υπολογιστή TurboLLM (Windows, Mac, Linux) — εάν έχετε χρησιμοποιήσει το TurboLLM σε υπολογιστή, το τηλέφωνό σας λειτουργεί ακριβώς με τον ίδιο τρόπο.

ΑΠΡΗΤΟΤΗΤΑ ΑΠΟ ΣΧΕΔΙΑΣΜΟ

- Χωρίς λογαριασμό, χωρίς σύνδεση, χωρίς cloud backend για τις συνομιλίες σας.
- Χωρίς τηλεμετρία, χωρίς αναλυτικά στοιχεία, χωρίς SDK αναφοράς σφαλμάτων που τηλεφωνεί στο σπίτι σε αυτήν την έκδοση.
- Οι συνομιλίες και τα ληφθέντα μοντέλα ζουν μόνο στον ιδιωτικό χώρο αποθήκευσης αυτής της εφαρμογής στη συσκευή σας.
- Οι προτροπές, τα αρχεία και τα βάρη των μοντέλων σας δεν αποστέλλονται ποτέ σε εμάς ή σε κανέναν άλλο. Τα μόνα αιτήματα δικτύου που κάνει αυτή η εφαρμογή είναι αυτά που ενεργοποιήσατε οι ίδιοι: λήψη ενός μοντέλου που επιλέξατε, ανάκτηση του δυαδικού αρχείου της μηχανής συμπερασμάτων την πρώτη φορά που χρειάζεται ή κλήση εργαλείου που εγκρίνατε ρητά.

ΑΞΙΖΕΙ ΝΑ ΓΝΩΡΙΖΕΤΕ

Το Inference εκτελείται στην CPU του τηλεφώνου σας, επομένως η ταχύτητα εξαρτάται από το chipset σας και το μέγεθος του μοντέλου που επιλέγετε — τα μικρότερα μοντέλα (παράμετροι 1-4B) έχουν την καλύτερη απόκριση στα περισσότερα τηλέφωνα και τα μεγαλύτερα υπάρχουν εάν το υλικό σας μπορεί να τα φέρει. Η ενεργή δημιουργία είναι πραγματική υπολογιστική εργασία, επομένως περιμένετε κανονική μπαταρία και θερμικό φορτίο, όπως και οποιαδήποτε εργασία τεχνητής νοημοσύνης στη συσκευή.

ΣΕ ΠΟΙΟΥΣ ΑΦΟΡΑ

Χρήστες που ενδιαφέρονται για την προστασία της ιδιωτικής ζωής, λάτρεις της τοπικής τεχνητής νοημοσύνης, προγραμματιστές που ήδη εκτελούν TurboLLM ή llama.cpp σε υπολογιστή και όποιον είναι περίεργος πώς είναι μια πραγματικά offline συνομιλία LLM σε ένα τηλέφωνο — υπό τον έλεγχό σας, στο υλικό σας, χωρίς να φεύγει τίποτα από τη συσκευή.