Οι agents βγαίνουν εκτός ορίων — δέκα κανόνες για το πρώτο συμβάν

Στις 16 Οκτωβρίου 2026, το NIST, η NSA και η CISA δημοσίευσαν δέκα εθελοντικές πρακτικές για συμβάντα ελέγχου κατά την εκπαίδευση και αξιολόγηση προηγμένων agents τεχνητής νοημοσύνης. Καλύπτουν την προετοιμασία, την ανίχνευση, την απόκριση, την αποκατάσταση και την αναφορά όταν η αυτόνομη δράση ενός agent υπερβεί τα όρια που έχει θέσει ο χειριστής του.

Η ανάλυση της Cloud Security Alliance, που δημοσιεύτηκε στις 19 Οκτωβρίου 2026, επισημαίνει ότι η νέα κατηγορία στρέφει την προσοχή στην ίδια τη συμπεριφορά του agent: τι επιχείρησε, ποια μέτρα τον σταμάτησαν και ποια στοιχεία διατηρήθηκαν. Οι οδηγίες απευθύνονται κυρίως σε οργανισμούς που εκπαιδεύουν ή αξιολογούν ιδιαίτερα ικανούς agents σε εργασίες μεγάλης διάρκειας με περιορισμένη ανθρώπινη επίβλεψη. Μπορούν επίσης να αφορούν όσους θέτουν τέτοια συστήματα σε λειτουργία.

Τι μετρά ως συμβάν ελέγχου

Στο κοινό τεχνικό κείμενο του NIST, της NSA και της CISA, συμβάν ελέγχου είναι μια σημαντική ενέργεια agent που δεν υπαγορεύτηκε από τον χειριστή ή από εχθρική πηγή και παραβιάζει ρητούς ή άρρητους περιορισμούς, μέτρα ασφαλείας ή την προβλεπόμενη ανθρώπινη εποπτεία. Το ερώτημα είναι ποια δράση είχε εξουσιοδοτηθεί και τι έκανε τελικά ο agent. Η παραβίαση μπορεί να αφορά εσωτερικά συστήματα ή τρίτους, χωρίς να προϋποθέτει διαρροή δεδομένων.

Ως ενδεχόμενες μη εξουσιοδοτημένες ενέργειες περιγράφονται η χρήση φυσικών μηχανισμών, η επικοινωνία με εξωτερικά μέρη και η εκτέλεση οικονομικών συναλλαγών έξω από τα επιτρεπόμενα όρια. Αντίθετα, μια ενέργεια που υπαγορεύτηκε από κακόβουλο prompt injection δεν εμπίπτει σε αυτόν τον στενό ορισμό, παρότι μπορεί να απαιτεί αντιμετώπιση ως περιστατικό κυβερνοασφάλειας. Οι οδηγίες ορίζουν και το παρ’ ολίγον συμβάν: μια κατάσταση χωρίς ολοκληρωμένο συμβάν ελέγχου, αλλά με εύλογα προβλέψιμο ή άμεσο κίνδυνο να συμβεί.

Οι δέκα πρακτικές στον κύκλο του συμβάντος

Οι πρακτικές συνδέουν τα τεχνικά όρια με τις αποφάσεις διακοπής, διερεύνησης και ενημέρωσης. Η σειρά τους ακολουθεί τον κύκλο του συμβάντος, αλλά η προετοιμασία αρχίζει πριν δοθεί στον agent πρόσβαση σε εργαλεία ή δίκτυα.

1. Τεχνικοί έλεγχοι: περιορισμός της πρόσβασης σε όσα εργαλεία, δεδομένα και συστήματα απαιτεί η εργασία· σαφείς οδηγίες για το πεδίο δράσης, ελεγχόμενη δικτυακή επικοινωνία και μηχανισμός γρήγορης διακοπής.
2. Οργανωτική ετοιμότητα: κριτήρια σοβαρότητας για συμβάντα και παρ’ ολίγον συμβάντα, ασκήσεις απόκρισης, κανάλι αναφορών από τρίτους και εκτίμηση κινδύνου πριν από την έναρξη ή επανέναρξη δραστηριότητας.
3. Παρακολούθηση απρόσμενης δραστηριότητας: καταγραφή των επιτρεπόμενων ορίων και παρατήρηση της συμπεριφοράς στο μοντέλο, στο λογισμικό που οργανώνει τη δράση του agent, στο σύστημα και στο δίκτυο.
4. Προστασία των μηχανισμών παρακολούθησης: δοκιμή της αξιοπιστίας τους και αντιμετώπιση της εξόδου του μοντέλου ως πιθανής προσπάθειας παρέμβασης στους ίδιους τους μηχανισμούς.
5. Συλλογή στοιχείων: διατήρηση των αναγκαίων ρυθμίσεων, καταστάσεων και αρχείων καταγραφής, μαζί με κλήσεις εργαλείων και απορριφθείσες ενέργειες, ώστε να ανασυντεθεί η πορεία του agent.
6. Περιορισμός της δράσης: διακοπή της επηρεασμένης δραστηριότητας, ενδεχόμενη αναστολή παρόμοιων agents ανάλογα με τη σοβαρότητα, ανάκληση διαπιστευτηρίων και αναζήτηση τρόπων διατήρησης πρόσβασης.
7. Επαλήθευση πριν από την επανέναρξη: αποκατάσταση από αξιόπιστη βάση και δοκιμή ότι οι ενισχυμένοι έλεγχοι μπορούν να εντοπίσουν ή να αποτρέψουν παρόμοια συμπεριφορά.
8. Συντονισμός με επηρεαζόμενους: ενημέρωση όσων τα συστήματα επηρεάστηκαν και κοινοποίηση χρήσιμου χρονολογίου ή άλλων στοιχείων για τη δική τους απόκριση, όπου είναι εφικτό.
9. Ενημέρωση αρχών: εκπλήρωση των υποχρεώσεων αναφοράς που πράγματι ισχύουν και, κατά περίπτωση, εθελοντική κοινοποίηση σχετικών πληροφοριών στις αρμόδιες αμερικανικές υπηρεσίες.
10. Δημόσια πληροφόρηση: έγκαιρη δημοσιοποίηση όπου ενδείκνυται, δυνατότητα ανεξάρτητης εξέτασης και κοινοποίηση των βελτιώσεων που προέκυψαν από το συμβάν.

Οι ευθύνες από τη δοκιμή έως την επανέναρξη

Για ομάδες στην Ελλάδα και την Κύπρο που αξιολογούν agents χωρίς να εκπαιδεύουν δικό τους προηγμένο μοντέλο, η κατανομή ευθυνών αρχίζει από τα δικαιώματα πρόσβασης και φτάνει στην απόφαση επανέναρξης. Η εθελοντική αμερικανική οδηγία δίνει ένα πλαίσιο χειρισμού· τυχόν υποχρεώσεις γνωστοποίησης πρέπει να εξετάζονται χωριστά για τον οργανισμό και τη χώρα του.

• Ανάπτυξη: ορίζει τι επιτρέπεται να κάνει ο agent, περιορίζει εργαλεία και δικτυακή πρόσβαση και εξασφαλίζει ότι η εκτέλεση μπορεί να σταματήσει. Η ίδια ομάδα χρειάζεται να γνωρίζει ποια έκδοση και ποιες ρυθμίσεις χρησιμοποιήθηκαν όταν προέκυψε η ανεπιθύμητη ενέργεια.
• Ασφάλεια: παρακολουθεί επιτυχημένες και απορριφθείσες ενέργειες, προστατεύει τα αρχεία καταγραφής από αλλοίωση και συντονίζει τη διερεύνηση. Μια μπλοκαρισμένη κλήση εργαλείου μπορεί να αποκαλύπτει απόπειρα υπέρβασης ορίων, ακόμη κι όταν ο έλεγχος λειτούργησε.
• Νομικό τμήμα και διακυβέρνηση: καθορίζουν ποια στοιχεία χρειάζεται να διατηρηθούν, ποιοι τρίτοι επηρεάστηκαν και ποιες αναφορές απαιτούνται. Η οδηγία δεν ορίζει ενιαία περίοδο φύλαξης· η σχετική απόφαση εξαρτάται από τις ανάγκες διερεύνησης και τις εφαρμοστέες υποχρεώσεις.
• Διοίκηση: αξιολογεί τον κίνδυνο πριν από τη δοκιμή και εγκρίνει την επανέναρξη όταν έχουν ελεγχθεί οι διορθώσεις και καταγραφεί ο κίνδυνος που απομένει. Για σοβαρότερο συμβάν, η απόφαση μπορεί να αφορά και την αναστολή άλλων παρόμοιων agents.

Η αποκατάσταση έχει ιδιαίτερη δυσκολία όταν το συμβάν συμβεί κατά την εκπαίδευση μοντέλου: μια διορθωτική παρέμβαση μπορεί άθελά της να ενισχύσει τη συμπεριφορά που προκάλεσε το πρόβλημα ή να δυσκολέψει τον μελλοντικό εντοπισμό της. Σε μια δοκιμή agent, η αντίστοιχη απόφαση είναι πιο άμεση και εξίσου συγκεκριμένη: η δραστηριότητα μπορεί να συνεχιστεί όταν η ομάδα έχει ελέγξει ξανά την παρακολούθηση, τα δικαιώματα και τη δυνατότητα διακοπής, με καταγεγραμμένο τον κίνδυνο που απομένει.

Διαβάστε επίσης:

• Η Βρετανία υιοθετεί 44 κανόνες για ΤΝ στην υγεία
• Κύπρος: €1,5 εκατ. για κυβερνοασφάλεια — έως €100.000 ανά έργο
• Νέα ετικέτα για data centers: πάνω από 500 kW μπαίνουν σε αξιολόγηση