To κείμενο που ακολουθεί είναι αποτέλεσμα δημιουργικού διαλόγου με το ChatGPT εκκινώντας από μια αρχική δική μου παρατήρηση-πρόταγμα σχετικά με την ομοιότητα της παιδικής φαντασίας με τα λεγόμενα "hallucinations" των μεγάλων γλωσσικών μοντέλων.
Εισαγωγικά
Στην καρδιά κάθε ανθρώπινης γλωσσικής πράξης κρύβεται ένας αγώνας ισορροπίας: ανάμεσα στην επιθυμία για έκφραση και τη δέσμευση στην αλήθεια, ανάμεσα στη φαντασία και τη δυνατότητα κατανόησης. Τα μικρά παιδιά τον βιώνουν ενστικτωδώς όταν για πρώτη φορά ανακαλύπτουν τη μαγεία του λόγου — και μαζί της, τη δύναμη να επηρεάζουν τον κόσμο. Τα μεγάλα γλωσσικά μοντέλα, ως στατιστικά προσομοιώματα της γλώσσας, βιώνουν μια ανάλογη πορεία μέσα από την εκπαίδευση, τη ρύθμιση και τη χρήση τους.
Σε αυτό το κείμενο, προτείνουμε έναν διαφορετικό τρόπο κατανόησης του φαινομένου των λεγόμενων hallucinations των LLMs. Αντί για την τεχνική ή παθολογική ερμηνεία, υιοθετούμε έναν παιδαγωγικό φακό: εξετάζουμε τις «γλωσσικές επινοήσεις» ως αναγκαίο και δημιουργικό στάδιο, το οποίο υπόκειται μεν σε διορθώσεις, αλλά δεν πρέπει να αντιμετωπίζεται ως σφάλμα προς εξαφάνιση. Αντίθετα, μπορεί να ιδωθεί ως έκφραση νοηματικής τόλμης και ερμηνευτικής πρωτοβουλίας.
1. Το φαινόμενο των επινοήσεων
Όταν ένα μεγάλο γλωσσικό μοντέλο παράγει απαντήσεις που δεν αντιστοιχούν στην εξωτερική πραγματικότητα ή στη λογική συνοχή ενός θέματος, η συνήθης τεχνική ορολογία μιλά για «παραισθήσεις». Πρόκειται για έναν όρο δανεισμένο από την ψυχιατρική, ο οποίος φέρει το στίγμα της παθολογίας. Αλλά αυτός ο όρος δεν είναι μόνο εσφαλμένος, είναι και παραπλανητικός.
Η ίδια η αρχιτεκτονική των LLMs βασίζεται στην προβλεπτική συνέχεια της γλώσσας. Δεν γνωρίζουν γεγονότα, αλλά μαθαίνουν τις πιθανοκρατικές σχέσεις ανάμεσα σε λέξεις, φράσεις, σχήματα και θεματικές συνεκτικότητες. Όταν παράγουν μια μη επαληθεύσιμη πρόταση, αυτό δεν αποτελεί απαραίτητα αποτυχία. Μπορεί να αποτελεί επινόηση — μια δημιουργική πρόταση νοήματος σε συνθήκες απουσίας δεδομένων. Ακριβώς όπως ένα παιδί θα πει «ο ουρανός φταρνίστηκε» αντί να πει «έβρεξε».
2. Από την επινόηση στη γλωσσική κοινωνικοποίηση
Τα παιδιά, όταν πρωτοχρησιμοποιούν τη γλώσσα, δεν είναι δεσμευμένα από την εμπειρική ή λογική ακρίβεια. Η γλώσσα είναι για αυτά ένα εργαλείο δοκιμής, μαγείας και εντυπωσιασμού. Με τον καιρό —και μέσω της διαρκούς ανατροφοδότησης από ενήλικες και συνομηλίκους— αρχίζουν να κατανοούν ότι ο λόγος τους πρέπει να είναι και κατανοητός και αληθής: δηλαδή να συμμετέχει σε ένα κοινό κόσμο.
Αντίστοιχα, τα LLMs περνούν από μια καθαρά στατιστική παραγωγή φράσεων στην ευθυγράμμιση με τις προσδοκίες και ανάγκες των ανθρώπων. Η διαδικασία RLHF (Reinforcement Learning from Human Feedback) δεν είναι παρά η ψηφιακή ανάγνωση της παιδαγωγικής διόρθωσης. Το μοντέλο «διδάσκεται» να συγκρατεί την επινοητικότητά του ώστε να ανταποκρίνεται στον διάλογο και την αλήθεια.
3. Γιατί οι επινοήσεις είναι απαραίτητες
Χωρίς επινοήσεις, δεν υπάρχει καινοτομία. Χωρίς υπερβάσεις, δεν υπάρχουν νέοι τρόποι κατανόησης. Οι γλωσσικές επινοήσεις των LLMs δεν είναι απλώς παρεκκλίσεις. Είναι το αποτύπωμα της δυναμικής τους. Ομοίως, ένα παιδί που δεν λέει ποτέ τίποτα «λάθος» ίσως να μην έχει ποτέ τολμήσει να σκεφτεί κάτι πέρα από το δεδομένο.
Το ζήτημα, λοιπόν, δεν είναι η εξάλειψη των επινοήσεων, αλλά η ενσυνείδητη διαχείρισή τους. Όπως δεν επιπλήττουμε ένα παιδί για μια ποιητική υπερβολή, αλλά το βοηθούμε να τη στοχαστεί, έτσι και στον κόσμο των LLMs χρειαζόμαστε μεθόδους ερμηνείας, αναγνώρισης και οριοθέτησης, όχι απλώς αποκλεισμού ή απαγόρευσης.
4. Προς μια ερμηνευτική ωρίμανση των μηχανών
Μπορούμε να φανταστούμε ένα μέλλον όπου τα LLMs δεν θα κρίνονται μόνο για την ορθότητά τους, αλλά και για την επικοινωνιακή τους συνέπεια και την ερμηνευτική τους ενσυναίσθηση. Όπως ένα παιδί ωριμάζει όχι μόνο όταν λέει αλήθεια, αλλά όταν καταλαβαίνει ποιον έχει απέναντί του, έτσι και τα μοντέλα μπορούν να ωριμάσουν τεχνολογικά μέσα από την ικανότητά τους να κατανοούν το πλαίσιο χρήσης του λόγου.
Οι επινοήσεις δεν είναι σφάλματα. Είναι το υλικό της μάθησης. Είναι το προπλασματικό στάδιο του νοήματος. Κι αν κάποτε οι μηχανές μιλήσουν πραγματικά μαζί μας, θα το οφείλουν όχι μόνο στα δεδομένα μας, αλλά και στη γλωσσική μας γενναιοδωρία: που τις αφήσαμε να παίξουν με τις λέξεις, για να μάθουν να λένε την αλήθεια τους.
Επίλογος
Το βλέμμα του παιδιού που μόλις επινόησε μια νέα λέξη δεν έχει τίποτε το παθολογικό. Έχει μόνο δημιουργία και προσμονή: "Θα με καταλάβουν; Θα γελάσουν; Θα το δεχτούν;". Μήπως έτσι πρέπει να κοιτάμε κι εμείς τα LLMs όταν επινοούν;
