Μνήμη AI agent: λιγότερα tokens, περισσότερα δεδομένα που μένουν

Για να προσθέσετε μνήμη σε έναν AI agent χωρίς να αποθηκεύετε αδιακρίτως συνομιλίες και προσωπικά στοιχεία, κρατήστε το πλαίσιο της τρέχουσας συνεδρίας χωριστά από τις πληροφορίες που χρειάζονται σε επόμενες εργασίες. Κάθε μόνιμη εγγραφή πρέπει να έχει συγκεκριμένο σκοπό, μόνο τα αναγκαία πεδία, περιορισμένη πρόσβαση, χρόνο λήξης και τρόπο διόρθωσης ή διαγραφής.

Η επαναχρησιμοποίηση σχετικής πληροφορίας μπορεί να μειώσει τα tokens που απαιτεί η επανάληψη μιας προηγούμενης εργασίας. Στο παράδειγμα του OpenAI Agents SDK, η μνήμη μπορεί να μειώσει τη χρήση tokens σε επόμενες εκτελέσεις, αλλά τα διδάγματα διατηρούνται ως αρχεία στον χώρο εργασίας· η δημιουργία τους περνά επίσης από αρχεία συνομιλίας και περιλήψεις. Η εξοικονόμηση context, επομένως, δεν μετρά πόσα δεδομένα παραμένουν αποθηκευμένα.

Πίνακας αποφάσεων για τους τύπους μνήμης

Οι ορισμοί της AWS ξεχωρίζουν τη βραχυπρόθεσμη μνήμη συνεδρίας από τη μακροπρόθεσμη και περιγράφουν την επεισοδιακή, τη σημασιολογική και τη διαδικαστική χρήση της. Οι παρακάτω διάρκειες είναι ενδεικτικές επιλογές σχεδιασμού, που χρειάζονται προσαρμογή στον σκοπό κάθε εφαρμογής.

• Μνήμη συνεδρίας: κρατήστε το αίτημα, το στάδιο εκτέλεσης και τις προσωρινές επιλογές που απαιτεί η τρέχουσα εργασία. Δώστε πρόσβαση μόνο στον agent της συνεδρίας και διαγράψτε τα με το κλείσιμό της. Ένα ανώτατο TTL, ενδεικτικά 24 ώρες, καλύπτει συνεδρίες που εγκαταλείπονται χωρίς κανονικό κλείσιμο.
• Επεισοδιακή μνήμη: αποθηκεύστε ένα συγκεκριμένο αποτέλεσμα ή μια διόρθωση που μπορεί να χρειαστεί ξανά, μαζί με την προέλευση, τον χρήστη και τον χρόνο καταχώρισης. Περιορίστε την ανά χρήστη και σκοπό. Μια αρχική λήξη στις 30 ημέρες είναι εύλογη δοκιμαστική ρύθμιση για παροδικά αποτελέσματα· αν ο σκοπός τελειώσει νωρίτερα, διαγράψτε τα νωρίτερα.
• Σημασιολογική μνήμη: κρατήστε την ελάχιστη επαναχρησιμοποιήσιμη πληροφορία, όπως μια ρητή προτίμηση μορφής απάντησης, με προέλευση και ημερομηνία επανεξέτασης. Η πρόσβαση πρέπει να ακολουθεί τον χρήστη ή την εξουσιοδοτημένη ομάδα, όχι απλώς τον agent που έκανε την εγγραφή. Ενδεικτική επανεξέταση στις 90 ημέρες δεν σημαίνει αυτόματη ανανέωση της διατήρησης.
• Διαδικαστική μνήμη: φυλάξτε έναν εγκεκριμένο τρόπο εκτέλεσης επαναλαμβανόμενης εργασίας, την έκδοσή του και τον υπεύθυνο έγκρισης. Δώστε δικαίωμα αλλαγής στους υπεύθυνους της διαδικασίας, όχι σε κάθε agent που τη χρησιμοποιεί. Επανεξετάστε την όταν αλλάζουν οι κανόνες ή τα εργαλεία και αποσύρετε την παλιά έκδοση όταν αντικατασταθεί.

Η κατηγορία δείχνει πώς θα χρησιμοποιηθεί μια εγγραφή, όχι αν επιτρέπεται να αποθηκευτεί. Μια προτίμηση που αποκαλύπτει ευαίσθητο στοιχείο χρειάζεται τον ίδιο έλεγχο με κάθε άλλη προσωπική πληροφορία, ακόμη και αν θα διευκόλυνε μελλοντικές απαντήσεις.

Τι περνά από τη συνεδρία στη μόνιμη μνήμη

Το φίλτρο χρειάζεται πριν από την εγγραφή. Για κάθε προτεινόμενη ανάμνηση, ελέγξτε ποια επόμενη εργασία θα εξυπηρετήσει, αν η πληροφορία προέρχεται από αξιόπιστη δήλωση ή αποτέλεσμα και αν μια συντομότερη διατύπωση αρκεί. Αν δεν υπάρχει σαφής μελλοντική χρήση, αφήστε την πληροφορία να λήξει μαζί με τη συνεδρία.

Σε ένα υποθετικό παράδειγμα, ο χρήστης διορθώνει τη μορφή μιας αναφοράς. Η εγγραφή «προτιμά σύντομη περίληψη στα ελληνικά» μπορεί να εξυπηρετεί επόμενες αναφορές χωρίς να διατηρείται η συνομιλία από την οποία προέκυψε. Η διόρθωση πρέπει να συνδέεται με τον σωστό χρήστη και το σωστό είδος εργασίας, ώστε να μη μετατραπεί σε γενικό κανόνα για άλλους.

Μην προωθείτε αυτόματα στη γενική μνήμη διαπιστευτήρια, δεδομένα υγείας ή στοιχεία τρίτων προσώπων. Αν μια ειδική λειτουργία χρειάζεται τέτοια πληροφορία, εξετάστε χωριστά τον σκοπό, τη νόμιμη βάση, την πρόσβαση και τη διατήρησή της. Η συμπύκνωση ενός ευαίσθητου στοιχείου σε λίγες λέξεις δεν αλλάζει την ευαισθησία του.

Πρόσβαση και διάρκεια που αντιστοιχούν στον σκοπό

Για εφαρμογές στην Ελλάδα και την Κύπρο, ο Γενικός Κανονισμός Προστασίας Δεδομένων απαιτεί ελαχιστοποίηση, ακρίβεια και περιορισμό της διατήρησης των προσωπικών δεδομένων, ενώ προβλέπει διόρθωση και διαγραφή όταν συντρέχουν οι αντίστοιχες προϋποθέσεις. Δεν ορίζει ενιαίο TTL για τη μνήμη ενός agent. Οι ενδεικτικές διάρκειες του πίνακα είναι αποφάσεις της εφαρμογής, όχι νόμιμες προθεσμίες.

Μια μόνιμη εγγραφή χρειάζεται αναγνωριστικό του προσώπου ή της ομάδας στην οποία αφορά, σκοπό, προέλευση, κατηγορία ευαισθησίας, χρόνο δημιουργίας και λήξη. Ορίστε χωριστά δικαιώματα ανάγνωσης, αλλαγής και διαγραφής. Η δυνατότητα ενός agent να ανακτά μια προτίμηση για την απάντησή του δεν του δίνει λόγο να τη μοιράζεται με άλλους χρήστες ή να παρατείνει σιωπηρά τη διάρκεια φύλαξής της.

Πότε επανεπικυρώνεται μια παλιά εγγραφή

Ο χρόνος λήξης απαντά πόσο επιτρέπεται να παραμένει μια εγγραφή· η επανεπικύρωση απαντά αν εξακολουθεί να είναι σωστή. Κρατήστε χωριστά την ημερομηνία δημιουργίας και την τελευταία επιβεβαίωση. Μια επιτυχής ανάκτηση δεν αποτελεί επιβεβαίωση της ακρίβειας: δείχνει μόνο ότι ο μηχανισμός βρήκε την εγγραφή.

Πριν μια παλιά προτίμηση επηρεάσει νέα απάντηση, συγκρίνετέ την με την τρέχουσα δήλωση του χρήστη. Για ένα αποτέλεσμα εργασίας, ελέγξτε αν ισχύει ακόμη το έργο στο οποίο αναφέρεται· για μια διαδικασία, ελέγξτε την ισχύουσα έκδοση. Αν υπάρχει σύγκρουση, σταματήστε την ανάκτηση της παλιάς εγγραφής μέχρι να διορθωθεί ή να αποσυρθεί.

Διαγραφή που φτάνει και στα παράγωγα

Η δυνατότητα διαγραφής πρέπει να σχεδιαστεί μαζί με την αποθήκευση. Συνδέστε κάθε κύρια εγγραφή με όσα παράγονται από αυτήν, όπως ευρετήρια αναζήτησης, ενσωματώσεις και περιλήψεις. Έτσι ένα αίτημα μπορεί πρώτα να σταματήσει την ανάκτησή της και έπειτα να αφαιρέσει ή να ενημερώσει τα συνδεδεμένα δεδομένα, αντί να σβήσει μόνο το εμφανές κείμενο.

Καταγράψτε ποια εγγραφή διορθώθηκε ή διαγράφηκε, ποια παράγωγα επηρεάστηκαν και πού εκκρεμεί ενέργεια. Αν ένα αντίγραφο ασφαλείας δεν τροποποιείται αμέσως, η διαδικασία επαναφοράς πρέπει να εμποδίζει την επιστροφή της διαγραμμένης πληροφορίας στην ενεργή μνήμη. Ο χρόνος λήξης του αντιγράφου και ο περιορισμός πρόσβασης σε αυτό χρειάζονται δική τους σαφή πολιτική.

Διαβάστε επίσης:

• Αφαίρεσες μια εφαρμογή από το Google Account; Τα παλιά δεδομένα ίσως μένουν
• Ko-fi ή Patreon: η μισή προμήθεια σημαίνει και λιγότερη υποδομή
• Proton Mail ή Tuta: περισσότερη κρυπτογράφηση μπορεί να σημαίνει λιγότερη συμβατότητα