Πλοήγηση με κινούμενα σχέδια
High contrast mode
Πλοήγηση με κινούμενα σχέδια
High contrast mode

  • 4. Context Engineering: η διαχείριση του συγκειμένου

    Μέρος Β: Οδηγίες προς το μοντέλο

    Τι βλέπει το μοντέλο τη στιγμή που απαντά

    Η ενότητα μετατοπίζει την προσοχή από τη διατύπωση της ερώτησης στο σύνολο της πληροφορίας που βλέπει το μοντέλο τη στιγμή που απαντά. Εξηγεί δύο φαινόμενα που υποβαθμίζουν σιωπηλά την ποιότητα των απαντήσεων και τέσσερις πρακτικές για τη διαχείριση αυτής της πληροφορίας, ενώ δίνει μια πρώτη αναλυτική εισαγωγή στην τεχνική RAG και στους πράκτορες. Πρόκειται για σύντομη ενότητα, με κανόνες που εφαρμόζονται χωρίς κανένα εργαλείο, η οποία αποτελεί τη γέφυρα προς το μέρος του Bootcamp που αφορά τους πράκτορες.

    • 6 υποενότητες
    • Άσκηση συμπίεσης σε 5 βήματα
    • Ανακεφαλαίωση στο τέλος

    • 4.1 Το συγκείμενο ως πεπερασμένος πόρος

      Το συγκείμενο (context) ορίζεται ως το σύνολο των λεκτικών μονάδων που βλέπει το μοντέλο όταν απαντά. Εξηγείται γιατί το παράθυρο συγκειμένου λειτουργεί ως πεπερασμένος πόρος προσοχής και όχι ως αποθήκη, και γιατί η προσθήκη περισσότερου υλικού δεν βελτιώνει απαραίτητα την απάντηση.

    • 4.2 Φθορά και κατάρρευση συγκειμένου

      Η φθορά συγκειμένου (context rot) είναι η πτώση της ποιότητας καθώς μεγαλώνει η είσοδος, πολύ πριν γεμίσει το παράθυρο, όπως έδειξε μέτρηση σε 18 μοντέλα αιχμής. Η κατάρρευση συγκειμένου (context collapse) προκαλείται από διαδοχικές περιλήψεις του ίδιου υλικού. Μια ταξινόμηση τεσσάρων τρόπων αποτυχίας ενός μακρού συγκειμένου βοηθά τον χρήστη να αναγνωρίζει το σύμπτωμα.

    • 4.3 Οι τέσσερις πράξεις

      Η διαχείριση του συγκειμένου οργανώνεται σε τέσσερις πράξεις: καταγραφή εκτός παραθύρου (write), επιλογή (select), συμπίεση (compress) και απομόνωση (isolate). Για καθεμία φαίνεται πώς την εφαρμόζει ο χρήστης στην καθημερινή εργασία, με έτοιμες προτροπές, και πώς την εφαρμόζει ένα σύστημα. Ένας πίνακας αντιστοιχίζει κάθε σύμπτωμα στην πράξη που το αντιμετωπίζει.

    • 4.4 RAG: παραγωγή επαυξημένη με ανάκτηση

      Η τεχνική RAG (Retrieval-Augmented Generation) επιτρέπει στο μοντέλο να απαντά με βάση έγγραφα που ανακτώνται τη στιγμή της ερώτησης, όπως τα δικά σου ή πρόσφατα, και όχι μόνο με όσα έμαθε κατά την εκπαίδευση. Εξηγούνται τα τρία συστατικά της και ο κύκλος λειτουργίας σε τέσσερα βήματα, με τη χρήση ενσωματώσεων (embeddings), και γίνεται σύγκριση με τη λεπτή ρύθμιση του μοντέλου (fine-tuning) και με τη χρήση μεγάλου παραθύρου. Μετρήσεις σε δείκτη αναφοράς (44% ακρίβεια για την απλή μορφή, 63% για τα καλύτερα συστήματα) δείχνουν γιατί η απλή μορφή δεν επαρκεί, και παρουσιάζονται οι σύγχρονες μέθοδοι βελτίωσης.

    • 4.5 Πράκτορες: μια πρώτη αναλυτική εισαγωγή

      Παρουσιάζονται τρεις ορισμοί από διαφορετικές πηγές και η βασική διάκριση ανάμεσα σε μια προκαθορισμένη ροή εργασίας (workflow) και σε έναν πράκτορα που αποφασίζει ο ίδιος τα βήματα. Ακολουθούν τα τρία συστατικά ενός πράκτορα (μοντέλο, εργαλεία, ενορχήστρωση), οι πέντε κλασικοί τύποι, η κλίμακα αυτονομίας και οι περιπτώσεις στις οποίες ένας πράκτορας δεν χρειάζεται.

    • 4.6 Πρακτικοί κανόνες και άσκηση

      Οι τέσσερις πράξεις εφαρμόζονται σε εργασίες από διαφορετικά πεδία και συνοψίζονται σε έξι κανόνες που μπορούν να εφαρμοστούν αμέσως, σε οποιοδήποτε εργαλείο. Η ενότητα κλείνει με άσκηση συμπίεσης σε πέντε βήματα.

    • Σ Ανακεφαλαίωση Ενότητας 4

      Σύνοψη των σημείων που πρέπει να κρατήσεις από την ενότητα.

    • Τεστ αυτοαξιολόγησης Ενότητας 4
      Τεστ αυτοαξιολόγησης Ενότητας 4
      Περιορισμένο