Μια εναλλακτική λύση απέναντι στις συνδρομητικές υπηρεσίες τεχνητής νοημοσύνης έρχεται στο προσκήνιο συνδυάζοντας τοπικά μοντέλα AI με την Perplexica και τη μηχανή αναζήτησης SearXNG. Το αποτέλεσμα μάλιστα καλύπτει μεγάλο μέρος των λειτουργιών του ChatGPT και του Perplexity, χωρίς περιορισμούς στις αναζητήσεις ή επαναλαμβανόμενες χρεώσεις.
Τα μεγάλα γλωσσικά μοντέλα που λειτουργούν σε έναν προσωπικό υπολογιστή ή ιδιωτικό διακομιστή έχουν ένα βασικό μειονέκτημα: αντλούν πληροφορίες μόνο από τα δεδομένα με τα οποία εκπαιδεύτηκαν. Αυτό σημαίνει ότι δυσκολεύονται να απαντήσουν αξιόπιστα για πρόσφατες εξελίξεις, νέα τεχνικά προβλήματα και πληροφορίες που μεταβάλλονται συνεχώς.
Η Perplexica επιχειρεί να καλύψει αυτό το κενό, συνδέοντας τα τοπικά μοντέλα με αποτελέσματα αναζήτησης από το Διαδίκτυο. Είναι μια εφαρμογή ανοικτού κώδικα που μπορεί να εγκατασταθεί σε ιδιωτικό σύστημα και διαθέτει περιβάλλον παρόμοιο με εκείνο του Perplexity. Επιτρέπει στον χρήστη να επιλέγει τις πηγές που θα αξιοποιηθούν και εμφανίζει τις σχετικές παραπομπές μαζί με κάθε απάντηση, ώστε οι πληροφορίες να μπορούν να ελεγχθούν.
Η επίσημη έκδοση της εφαρμογής για Docker εγκαθιστά αυτόματα έναν τοπικό διακομιστή SearXNG. Πρόκειται για μια μεταμηχανή αναζήτησης που συγκεντρώνει αποτελέσματα από την Google, την Bing και δεκάδες άλλες υπηρεσίες, προσφέροντας μεγαλύτερο εύρος πηγών.
Παράλληλα, το SearXNG περιορίζει τα cookies και τους μηχανισμούς παρακολούθησης, δεν δημιουργεί διαφημιστικά προφίλ χρηστών και αφαιρεί διαφημίσεις ή χορηγούμενο περιεχόμενο από τα αποτελέσματα. Ο χρήστης μπορεί επίσης να καθορίζει ποιες μηχανές αναζήτησης θα χρησιμοποιούνται.
Με αυτόν τον τρόπο, το τοπικό μοντέλο αποκτά πρόσβαση σε πρόσφατες πληροφορίες, χωρίς οι συνομιλίες να αποθηκεύονται στους διακομιστές κάποιας πλατφόρμας τεχνητής νοημοσύνης.
Διαφορετικά μοντέλα για κάθε εργασία
Χρήστης χρησιμοποίησε το Qwen3.6-35B-A3B για προγραμματισμό, επίλυση τεχνικών προβλημάτων και σύνθετες έρευνες. Αναφέρει ότι το μοντέλο εντόπισε με ακρίβεια τα αίτια σφαλμάτων στο Proxmox 9 και αξιοποίησε τεχνικά φόρουμ, οδηγούς και επίσημα έγγραφα για να απαντήσει σε ερωτήσεις σχετικά με έργα αυτοματισμού ESP32.
Για απλούστερες αναζητήσεις χρησιμοποιεί το μικρότερο Gemma-4-E4B, το οποίο λειτουργεί σε παλαιότερη κάρτα γραφικών GTX 1080. Παράλληλα, διατηρεί ενεργό το nomic-embed-text-1.5, το οποίο χρησιμοποιείται για εργασίες ανάκτησης και επεξεργασίας πληροφοριών.
Η συγκεκριμένη λύση, πάντως, απαιτεί δικό της εξοπλισμό και εξοικείωση με εργαλεία όπως το Docker και το llama.cpp. Υπάρχει επίσης αναμονή στις πιο απαιτητικές εργασίες: με το Qwen3.6, η παραγωγή απάντησης μπορεί να χρειαστεί δύο έως τρία λεπτά στη γρήγορη λειτουργία και σχεδόν τον διπλάσιο χρόνο στην ισορροπημένη.
Για όσους διαθέτουν τον απαραίτητο εξοπλισμό, ο συνδυασμός Perplexica, SearXNG και τοπικών μοντέλων προσφέρει μεγαλύτερο έλεγχο των δεδομένων και ενημερωμένες απαντήσεις με παραπομπές, χωρίς σταθερή συνδρομή σε υπηρεσίες AI.
