Απαντήσεις ΤΝ με πηγές: μία παραπομπή δεν αποδεικνύει όλη την πρόταση

Για να ελέγξεις μια απάντηση τεχνητής νοημοσύνης, χώρισε κάθε σύνθετη πρόταση σε επιμέρους ισχυρισμούς. Άνοιξε την παραπομπή και βρες το χωρίο που στηρίζει καθέναν: το σωστό πρόσωπο δεν αποδεικνύει αυτομάτως και τη χρονολογία, τον τόπο ή το συμπέρασμα που το συνοδεύει.

Σημείωσε ποια στοιχεία τεκμηριώνονται πλήρως, ποια μόνο εν μέρει και ποια χρειάζονται άλλη πηγή. Το προφίλ κινδύνου του NIST περιγράφει πώς τα συστήματα παραγωγικής ΤΝ μπορούν να παρουσιάζουν λανθασμένο περιεχόμενο με βεβαιότητα, ακόμη και να επινοούν παραπομπές ή συλλογισμούς που ενισχύουν αδικαιολόγητα την εμπιστοσύνη στην απάντηση.

Τι καλύπτει πραγματικά μια παραπομπή

Ένας σύνδεσμος στο τέλος μιας πρότασης δεν δείχνει ποιο μέρος της στηρίζει. Η πρόταση μπορεί να ενώνει ένα πραγματικό γεγονός με λάθος ημερομηνία, να παραλείπει μια προϋπόθεση ή να αποδίδει στην πηγή ένα συμπέρασμα που δεν διατυπώνει. Ο έλεγχος αρχίζει όταν αντιστοιχίσεις κάθε ελέγξιμο στοιχείο με συγκεκριμένο χωρίο.

Η τεκμηρίωση του Google Cloud εξηγεί ότι, στον δικό της έλεγχο θεμελίωσης, μια πρόταση αντιμετωπίζεται ως ένας ισχυρισμός και δεν θεωρείται θεμελιωμένη αν τα δεδομένα αναφοράς τη στηρίζουν μόνο εν μέρει. Η υπηρεσία επιστρέφει βαθμολογία στήριξης και συνδέει ισχυρισμούς με σχετικά αποσπάσματα. Για τον αναγνώστη, η χρήσιμη συνέχεια είναι να ξεχωρίσει μέσα σε αυτή την πρόταση το σωστό στοιχείο από εκείνο που χρειάζεται διόρθωση.

Η διαδικασία σε πέντε βήματα

1. Χώρισε την απάντηση σε ελέγξιμα μέρη. Ξεχώρισε πρόσωπα, ενέργειες, ημερομηνίες, ποσά, τόπους και όρους εφαρμογής. Αν μια πρόταση λέει ότι ένας φορέας εξέδωσε κανόνα, ότι ο κανόνας ισχύει στην Ελλάδα και ότι επιβάλλει συγκεκριμένη υποχρέωση, έλεγξε χωριστά την έκδοση, την επικράτεια και το περιεχόμενο. Σημείωσε επίσης λέξεις όπως «όλοι» ή «πάντα», επειδή μπορούν να μετατρέψουν μια περιορισμένη πληροφορία σε απόλυτο ισχυρισμό.
2. Άνοιξε κάθε παραπομπή και βρες το σχετικό χωρίο. Επιβεβαίωσε ότι ο σύνδεσμος οδηγεί σε υπαρκτό περιεχόμενο για το ίδιο θέμα. Διάβασε την παράγραφο γύρω από το επίμαχο σημείο, όχι μόνο τον τίτλο ή μια λέξη που εμφανίζεται στην αναζήτηση της σελίδας. Μια αρχική σελίδα, ένα άσχετο έγγραφο ή ένα χωρίο για διαφορετικό προϊόν δεν τεκμηριώνει τον συγκεκριμένο ισχυρισμό.
3. Έλεγξε την πηγή που γνωρίζει άμεσα το γεγονός. Για ανακοίνωση, αναζήτησε την ανακοίνωση του φορέα· για κανόνα, το επίσημο κείμενο· για λειτουργία προϊόντος, την τεχνική του τεκμηρίωση. Σύγκρινε έκδοση, περίοδο, χώρα και προϋποθέσεις πριν μεταφέρεις μια πληροφορία στην περίπτωσή σου. Αν η απάντηση βασίζεται σε περίληψη τρίτου, χρησιμοποίησέ την για να εντοπίσεις το πρωτογενές τεκμήριο και να δεις αν παραλείφθηκαν όροι ή εξαιρέσεις.
4. Κατάγραψε τον βαθμό στήριξης. Χαρακτήρισε κάθε μέρος ως πλήρως τεκμηριωμένο, μερικώς τεκμηριωμένο ή χωρίς επαρκές τεκμήριο. Στη μερική τεκμηρίωση γράψε τι ακριβώς επιβεβαιώνεται και τι μένει ανοικτό ή διαψεύδεται. Η απουσία του στοιχείου από μια σελίδα δεν σημαίνει από μόνη της ότι είναι ψευδές· σημαίνει ότι η συγκεκριμένη σελίδα δεν αρκεί για να το χρησιμοποιήσεις ως επιβεβαιωμένο.
5. Διόρθωσε τη διατύπωση πριν τη χρησιμοποιήσεις. Διατήρησε όσα στηρίζονται, πρόσθεσε τις αναγκαίες προϋποθέσεις και αφαίρεσε ή έλεγξε εκ νέου όσα δεν τεκμηριώνονται. Αν δύο αξιόπιστα κείμενα φαίνεται να διαφωνούν, σύγκρινε πρώτα αν μιλούν για το ίδιο αντικείμενο, την ίδια περίοδο και την ίδια περιοχή. Όταν η διαφορά παραμένει, μην παρουσιάζεις μία από τις εκδοχές ως βέβαιη χωρίς περαιτέρω επαλήθευση.

Πώς κρύβεται το λάθος μέσα σε μια σωστή λεπτομέρεια

Πάρε ως υποθετική απάντηση ΤΝ τη φράση «Η Google Inc. ιδρύθηκε από τους Larry Page και Sergey Brin το 1975». Η επίσημη ιστορία της Google κατονομάζει τους Larry Page και Sergey Brin και τοποθετεί την επίσημη ίδρυση της Google Inc. στο 1998. Τα ονόματα της υποθετικής φράσης είναι σωστά, ενώ το 1975 είναι λανθασμένο.

Χώρισε λοιπόν τη φράση σε δύο ερωτήματα: ποιοι συνδέονται με την ίδρυση και πότε ιδρύθηκε η εταιρεία. Το ίδιο χωρίο επιτρέπει να κρατήσεις τα ονόματα και να διορθώσεις το έτος. Αν αποδεχόσουν ολόκληρη τη φράση επειδή συνοδεύεται από υπαρκτή εταιρική παραπομπή, θα μετέφερες και το λάθος στην τελική απάντηση.

Η διάκριση γίνεται δυσκολότερη όταν το προβληματικό μέρος είναι μια εξαίρεση ή μια αιτιώδης σχέση αντί για χρονολογία. Μια πηγή μπορεί, για παράδειγμα, να περιγράφει ότι εφαρμόστηκε ένα μέτρο χωρίς να αποδεικνύει πως αυτό προκάλεσε το αποτέλεσμα που του αποδίδει η απάντηση. Τότε η ασφαλής διόρθωση κρατά το γεγονός της εφαρμογής και αφήνει έξω την ανεπιβεβαίωτη αιτία.

Πότε αναλαμβάνει άνθρωπος με αρμοδιότητα

Όταν η απάντηση πρόκειται να στηρίξει νομική, ιατρική ή οικονομική απόφαση, ή οδηγία προς πελάτη με ουσιαστικές συνέπειες, δώσε τον κρίσιμο ισχυρισμό και το πρωτογενές τεκμήριο σε άνθρωπο με γνώση του αντικειμένου. Η επαλήθευση πρέπει να καλύπτει ιδίως το αν ο κανόνας ή η πληροφορία εφαρμόζεται στη συγκεκριμένη περίπτωση. Ένα σωστό απόσπασμα μπορεί να οδηγήσει σε λάθος απόφαση αν αγνοηθεί το πεδίο εφαρμογής του.

Παράδωσε μαζί και τα σημεία που χαρακτήρισες μερικώς τεκμηριωμένα, ώστε να είναι σαφές τι χρειάζεται κρίση. Για μια συνηθισμένη εργασία σύνταξης, αρκεί συχνά μια σύντομη καταγραφή του αρχικού ισχυρισμού, του χωρίου που τον στηρίζει και της διορθωμένης φράσης. Έτσι η τελική απάντηση διατηρεί τα χρήσιμα στοιχεία της χωρίς να κληρονομεί την αβεβαιότητα που έκρυβε η αρχική παραπομπή.

Διαβάστε επίσης:

• Google Drive ή OneDrive: ο χώρος δεν είναι το μόνο κόστος