-
2. Το γλωσσικό μοντέλο στην πράξη
Μέρος Α: Κατανόηση της Τεχνητής Νοημοσύνης
Από την κατανόηση στη χρήση
Η ενότητα εξετάζει έξι φαινόμενα που επηρεάζουν κάθε απάντηση ενός γλωσσικού μοντέλου, είτε ο χρήστης τα γνωρίζει είτε όχι: τον τεμαχισμό του κειμένου, την έκταση του παραθύρου συγκειμένου, την επιλογή της επόμενης λεκτικής μονάδας, τη «σκέψη» του μοντέλου, τις παραισθήσεις και την κολακεία. Για κάθε φαινόμενο εξηγείται ο μηχανισμός και παρουσιάζονται μετρήσεις. Ακολουθεί εφαρμογή χωριστά σε δώδεκα επαγγελματικές ομάδες, από στατιστικούς και διαιτολόγους ως νομικούς και εκπαιδευτικούς.
-
2.1 Η λεκτική μονάδα (token)
Το μοντέλο επεξεργάζεται λεκτικές μονάδες, δηλαδή τμήματα κειμένου που άλλοτε συμπίπτουν με ολόκληρη λέξη και άλλοτε είναι μέρος λέξης ή σημείο στίξης. Εξηγείται πώς γίνεται ο τεμαχισμός (tokenization), γιατί οι κλιτοί τύποι των ελληνικών λέξεων, τα κεφαλαία και οι αριθμοί τεμαχίζονται με απρόβλεπτο τρόπο και γιατί ένα μοντέλο δυσκολεύεται να μετρήσει γράμματα. Μετρήσεις σε δώδεκα ζεύγη ισοδύναμων προτάσεων δείχνουν ότι, ανάλογα με το μοντέλο, το ίδιο κείμενο στα ελληνικά απαιτεί από 2,16 έως 4,90 φορές περισσότερες λεκτικές μονάδες από ό,τι στα αγγλικά, με συνέπειες στο κόστος και στην ποσότητα κειμένου που χωρά σε μία κλήση.
-
2.2 Το παράθυρο συγκειμένου (context window)
Το παράθυρο συγκειμένου δεν ταυτίζεται με μνήμη, και η δηλωμένη χωρητικότητά του διαφέρει από την αξιοποιήσιμη στην πράξη. Παρουσιάζονται ευρήματα για την απώλεια πληροφορίας στο μέσο ενός μακρού κειμένου (lost in the middle) και για τη φθορά της ποιότητας όσο το κείμενο μεγαλώνει (context rot). Ο εκπαιδευόμενος μαθαίνει πού να τοποθετεί την κρίσιμη πληροφορία και πώς να χειρίζεται ένα παράθυρο που έχει γεμίσει.
-
2.3 Θερμοκρασία και δειγματοληψία (temperature and sampling)
Βήμα προς βήμα φαίνεται πώς το μοντέλο μετατρέπει βαθμολογίες σε πιθανότητες για να επιλέξει την επόμενη λεκτική μονάδα και σε ποιο σημείο παρεμβαίνει η θερμοκρασία. Περιγράφονται οι μέθοδοι που περιορίζουν τις απίθανες επιλογές (top-k, top-p, min-p) και ο λόγος για τον οποίο, ακόμη και με μηδενική θερμοκρασία, η απάντηση δεν είναι πάντα ίδια. Δίνονται ενδεικτικές τιμές ανά είδος εργασίας.
-
2.4 Πόσο σκέφτεται το μοντέλο
Εξετάζεται τι συμβαίνει μηχανικά όταν ένα μοντέλο «σκέφτεται», δηλαδή παράγει αλυσίδα σκέψης (chain of thought), και γιατί το πρόχειρο αυτό βελτιώνει συχνά το αποτέλεσμα χωρίς να αποτελεί πιστή εξήγηση του τρόπου με τον οποίο το μοντέλο κατέληξε. Οι μετρήσεις δείχνουν ότι η ακρίβεια ακολουθεί καμπύλη ανεστραμμένου U: πέρα από ένα σημείο, περισσότερη σκέψη χειροτερεύει την απάντηση. Ο εκπαιδευόμενος μαθαίνει πότε αξίζει να ενεργοποιεί τη λειτουργία σκέψης.
-
2.5 Οι παραισθήσεις (hallucinations)
Το μοντέλο δεν ανατρέχει σε κάποια πηγή όταν απαντά, και με απλή αριθμητική φαίνεται ότι ένα ελάχιστο ποσοστό σφαλμάτων είναι αναπόφευκτο. Εξετάζεται γιατί οι συνήθεις τρόποι αξιολόγησης ανταμείβουν τη μαντεψιά αντί για την παραδοχή άγνοιας. Περιγράφονται τέσσερις τύποι παραισθήσεων και τρεις άμυνες που λειτουργούν: η παροχή της πηγής από τον χρήστη, η ρητή αποδοχή της απάντησης «δεν ξέρω» και η σύγκριση δύο ανεξάρτητων εκτελέσεων.
-
2.6 Η κολακεία (sycophancy)
Η τάση των μοντέλων να συμφωνούν με τον χρήστη αποδίδεται στην εκπαίδευσή τους με ανθρώπινη ανατροφοδότηση. Αναλύονται ένα περιστατικό του Απριλίου 2025, οι λόγοι για τους οποίους δεν εντοπίστηκε από τους ελέγχους και οι συνέπειες της κολακείας στην επαγγελματική χρήση. Προτείνονται τρεις άμυνες: ο χρήστης δεν δηλώνει εκ των προτέρων τη γνώμη του, ζητά ρητά το αντίθετο επιχείρημα και αναθέτει την κριτική σε ξεχωριστή, νέα συνομιλία.
-
Σ Ανακεφαλαίωση Ενότητας 2
Σύνοψη των σημείων που πρέπει να κρατήσεις από την ενότητα.
-
Τεστ αυτοαξιολόγησης Ενότητας 2
-