Τι είναι τα μη λογοκριμένα LLMs;

Τα μη λογοκριμένα LLMs είναι μοντέλα γλώσσας ανοιχτών βαρών που έχουν τροποποιηθεί ώστε να μειώνουν μέρος της συμπεριφοράς άρνησης που συναντάται στους τυπικούς βοηθούς τεχνητής νοημοσύνης. Δίνουν στον χρήστη μεγαλύτερο έλεγχο στη συμπεριφορά του μοντέλου, καθιστώντας τα ιδιαίτερα σημαντικά για άτομα που εκτελούν και πειραματίζονται με LLMs τοπικά.

Τι Είναι τα Μη Λογοκριμένα LLMs;

Οι περισσότεροι σύγχρονοι βοηθοί τεχνητής νοημοσύνης εκπαιδεύονται να ακολουθούν κανόνες ασφαλείας και να αρνούνται ορισμένα αιτήματα. Αυτή η συμπεριφορά μπορεί να προέρχεται από τη ρύθμιση μέσω οδηγιών, την εκπαίδευση προτιμήσεων, τις προτροπές συστήματος και άλλα μέρη του μοντέλου ή της εφαρμογής.

Ένα μη λογοκριμένο LLM είναι γενικά ένα μοντέλο που έχει τροποποιηθεί ή εκπαιδευτεί ώστε να μειώνει ορισμένες από αυτές τις συμπεριφορές άρνησης. Δεν υπάρχει ενιαίος τεχνικός ορισμός του «μη λογοκριμένου». Διαφορετικοί δημιουργοί μοντέλων μπορούν να χρησιμοποιούν διαφορετικές μεθόδους και τα προκύπτοντα μοντέλα μπορούν να συμπεριφέρονται αρκετά διαφορετικά.

Ορισμένα μη λογοκριμένα μοντέλα δημιουργούνται μέσω πρόσθετης λεπτομερούς ρύθμισης. Άλλα χρησιμοποιούν τεχνικές που τροποποιούν συγκεκριμένες συμπεριφορές σε ένα υπάρχον μοντέλο. Ο όρος μπορεί επίσης να αναφέρεται σε μοντέλα που περιγράφονται ως abliterated, αν και η abliteration είναι μια συγκεκριμένη τεχνική και όχι συνώνυμο κάθε μη λογοκριμένου μοντέλου.

Μη Λογοκριμένο Δεν Σημαίνει Χωρίς Περιορισμούς

Η αφαίρεση ή η μείωση της συμπεριφοράς άρνησης δεν καθιστά ένα μοντέλο πιο ικανό. Ένα μη λογοκριμένο μοντέλο μπορεί ακόμα να παράγει λανθασμένες πληροφορίες, να παρερμηνεύει οδηγίες ή να αρνείται ορισμένα αιτήματα.

• Η ικανότητα εξακολουθεί να έχει σημασία: Ένα μικρότερο μοντέλο δεν θα γίνει καλύτερος συλλογιστής απλώς και μόνο επειδή άλλαξε η συμπεριφορά άρνησής του.
• Η ποιότητα ποικίλλει: Τα μη λογοκριμένα μοντέλα μπορούν να διαφέρουν σημαντικά ανάλογα με το υποκείμενο μοντέλο και τον τρόπο τροποποίησής τους.
• Η συμπεριφορά δεν είναι εγγυημένη: Ένα μη λογοκριμένο μοντέλο μπορεί ακόμα να αρνηθεί ορισμένα αιτήματα ή να ακολουθεί οδηγίες με ασυνέπεια.
• Η συμπεριφορά ασφαλείας μπορεί να αλλάξει: Η μείωση των αρνήσεων μπορεί επίσης να αφαιρέσει ορισμένες δικλείδες ασφαλείας που αποτελούσαν μέρος της αρχικής εκπαίδευσης του μοντέλου.

Επομένως, είναι πιο χρήσιμο να θεωρούμε τον όρο «μη λογοκριμένο» ως περιγραφή της συμπεριφοράς ενός μοντέλου, παρά ως εγγύηση για το τι μπορεί να κάνει το μοντέλο.

Μη Λογοκριμένα έναντι Ανοιχτών Βαρών έναντι Βασικών Μοντέλων

Αυτοί οι όροι χρησιμοποιούνται συχνά μαζί, αλλά περιγράφουν διαφορετικές πτυχές ενός LLM.

Αυτές οι κατηγορίες μπορούν να αλληλοεπικαλύπτονται. Ένα μη λογοκριμένο μοντέλο μπορεί να είναι ανοιχτών βαρών και να βασίζεται σε ένα υπάρχον μοντέλο. Μπορεί επίσης να είναι μια λεπτομερής ρύθμιση ή άλλη τροποποίηση αυτού του μοντέλου. Η ετικέτα από μόνη της δεν εξηγεί ακριβώς πώς δημιουργήθηκε το μοντέλο.

Γιατί να Εκτελέσετε ένα Μη Λογοκριμένο LLM Τοπικά;

Η τοπική εκτέλεση ενός μη λογοκριμένου LLM δίνει στον χρήστη μεγαλύτερο έλεγχο στο μοντέλο και το περιβάλλον του. Αντί να βασίζεται σε μια φιλοξενούμενη υπηρεσία τεχνητής νοημοσύνης, το μοντέλο εκτελείται σε υλικό που ελέγχεται από τον χρήστη.

• Έλεγχος: Επιλέγετε το μοντέλο, το λογισμικό εξαγωγής συμπερασμάτων και τη διαμόρφωση.
• Απόρρητο: Οι προτροπές και οι παραγόμενες απαντήσεις μπορούν να παραμείνουν εντός του δικού σας υπολογιστικού περιβάλλοντος.
• Προσαρμογή: Τα μοντέλα ανοιχτών βαρών μπορούν να τροποποιηθούν, να ρυθμιστούν λεπτομερώς και να διαμορφωθούν για διαφορετικούς φόρτους εργασίας.
• Χρήση εκτός σύνδεσης: Ένα τοπικά φιλοξενούμενο μοντέλο δεν χρειάζεται να στέλνει προτροπές σε εξωτερική υπηρεσία τεχνητής νοημοσύνης.
• Πειραματισμός: Οι προγραμματιστές και οι ερευνητές μπορούν να συγκρίνουν διαφορετικές εκδόσεις μοντέλων και τροποποιήσεις.

Η τοπική εξαγωγή συμπερασμάτων σας δίνει επίσης έλεγχο στο υλικό που εκτελεί το μοντέλο. Αυτό γίνεται σημαντικό καθώς τα μεγέθη των μοντέλων αυξάνονται.

Τι Υλικό Χρειάζονται τα Μη Λογοκριμένα LLMs;

Τα μη λογοκριμένα μοντέλα έχουν γενικά τις ίδιες απαιτήσεις υλικού με το υποκείμενο μοντέλο στο οποίο βασίζονται. Οι κύριοι παράγοντες είναι το μέγεθος του μοντέλου, η κβαντοποίηση, το μήκος πλαισίου και οι ρυθμίσεις εξαγωγής συμπερασμάτων.

Ένα μεγαλύτερο μοντέλο απαιτεί περισσότερη μνήμη από ένα μικρότερο. Η κβαντοποίηση μπορεί να μειώσει τη μνήμη που απαιτείται για τη φόρτωση ενός μοντέλου, καθιστώντας μεγαλύτερα μοντέλα πρακτικά σε GPU με λιγότερη VRAM.

Η VRAM χρησιμοποιείται επίσης από την ίδια τη διαδικασία εξαγωγής συμπερασμάτων. Η κρυφή μνήμη KV και άλλα δεδομένα χρόνου εκτέλεσης απαιτούν πρόσθετη μνήμη και τα μεγαλύτερα παράθυρα πλαισίου μπορούν να αυξήσουν την ποσότητα μνήμης που απαιτείται.

Αυτό σημαίνει ότι η επιλογή ενός μοντέλου είναι μόνο μέρος του σχεδιασμού μιας τοπικής ρύθμισης LLM. Η GPU πρέπει να διαθέτει αρκετή διαθέσιμη VRAM για το μοντέλο και τον φόρτο εργασίας που σκοπεύετε να εκτελέσετε.

Δοκιμάστε στο DaDesktop

Αν θέλετε να εκτελέσετε ένα μη λογοκριμένο LLM χωρίς να αγοράσετε και να εγκαταστήσετε το δικό σας υλικό GPU, το DaDesktop παρέχει επιτραπέζιους υπολογιστές cloud με αποκλειστικούς πόρους GPU. Μπορείτε να εκτελέσετε τοπικούς φόρτους εργασίας LLM στο DaDesktop ή να συγκρίνετε διαθέσιμες επιλογές GPU με βάση το μοντέλο που θέλετε να εκτελέσετε.