Artificial Intelligence 2 λεπτά ανάγνωσης

EVE-Agent: Εισάγει Επαληθεύσιμη Αυτοεξέλιξη σε Πράκτορες Αναζήτησης

Οι αυτοεξελισσόμενοι πράκτορες δεν πρέπει να εκπαιδεύονται σε παραδείγματα τα οποία δεν δύνανται να αιτιολογήσουν. Οι αυτοεξελισσόμενοι πράκτορες αναζήτησης χωρίς δεδομένα παρέχουν μια επεκτάσιμη οδό προς συστήματα ικανά να δημιουργούν τις δικές τους ερωτήσεις, να τις απαντούν και να βελτιώνονται από την ίδια τους την ανατροφοδότηση, χωρίς την ανάγκη ανθρώπινων σχολιασμών. Ωστόσο, ελλείψει επαληθεύσιμων αποδεικτικών στοιχείων, αυτός ο βρόχος μπορεί να επιβραβεύσει παραδείγματα που είναι μεν εύγλωττα αλλά ατεκμηρίωτα, μετατρέποντας το αυτοδημιούργητο πρόγραμμα σπουδών σε ένα αδιαφανές και δυνητικά αναξιόπιστο σήμα εκπαίδευσης.

Υποστηρίζεται ότι η επαληθευσιμότητα των αποδεικτικών στοιχείων αποτελεί προαπαιτούμενο για την αξιόπιστη αυτοεξέλιξη στους πράκτορες αναζήτησης: κάθε παραγόμενη περίπτωση οφείλει να περιλαμβάνει όχι μόνο μια απάντηση, αλλά και ένα τμήμα βασισμένο σε πηγή, του οποίου η συμβολή στην απάντηση αυτή μπορεί να μετρηθεί.

Παρουσιάζεται ο EVE-Agent, ένας Πράκτορας Αυτοεξέλιξης με Επαληθεύσιμα Αποδεικτικά Στοιχεία (Evidence-Verifiable Self-Evolving Agent), ο οποίος υλοποιεί αυτή την αρχή μέσω μιας τροποποίησης του πλαισίου προτείνοντος-επιλύοντος (proposer–solver).

Ο προτείνων δημιουργεί μια ερώτηση, μια απάντηση και ένα αυτούσιο τμήμα αποδεικτικών στοιχείων. Ένας επαληθευτής αποδεικτικών στοιχείων επιβραβεύει στη συνέχεια το τμήμα, βάσει του οριακού κέρδους ακρίβειας που προκύπτει όταν παρέχονται τα εν λόγω στοιχεία.

Αυτό παράγει ένα σήμα εκπαίδευσης που ευνοεί αποδεικτικά στοιχεία τα οποία συμβάλλουν ουσιαστικά στην απάντηση της ερώτησης, χωρίς να απαιτούνται απαντήσεις από μάντη (oracle answers), ανθρώπινες ετικέτες ή εξωτερικοί σχολιασμοί.

Ο EVE-Agent διατηρεί αμετάβλητα το βασικό μοντέλο (backbone model), τον ανακτητή (retriever), το εργαλείο αναζήτησης και το πλαίσιο βελτιστοποίησης. Πειράματα καταδεικνύουν ότι ο EVE-Agent βελτιώνει σημαντικά την ορθότητα που βασίζεται σε αποδεικτικά στοιχεία, σε σύγκριση με προηγούμενους αυτοεξελισσόμενους πράκτορες αναζήτησης.

Το προκύπτον πρόγραμμα σπουδών δεν είναι απλώς αυτοδημιούργητο, αλλά και ελεγχόμενο (auditable): κάθε παράδειγμα εκπαίδευσης φέρει ένα επιθεωρήσιμο τμήμα πηγής που εξηγεί γιατί πρέπει να είναι αξιόπιστο.