Artificial Intelligence 2 λεπτά ανάγνωσης

Conditional-Vendi και Conditional-RKE: Νέες μετρήσεις ποικιλομορφίας γεννητικών μοντέλων

Τα γεννητικά μοντέλα καθοδηγούνται από την πιστότητα και την ευθυγράμμιση με τις εντολές, ωστόσο η ικανότητά τους να παράγουν ποικίλες εξόδους παραμένει ανεξερεύνητη. Οι υφιστάμενες μετρικές ποικιλομορφίας, όπως οι Vendi και RKE, οι οποίες βασίζονται στις εντροπίες von Neumann και R’enyi των πινάκων πυρήνα, αναπτύχθηκαν για άνευ όρων μοντέλα. Αυτές οι μετρικές δεν είναι σε θέση να διακρίνουν μεταξύ της μεταβλητότητας που προκαλείται από την εντολή και εκείνης που προκαλείται από το ίδιο το μοντέλο.

Για να αντιμετωπιστεί αυτό το κενό, εισάγονται οι Conditional-Vendi και Conditional-RKE. Πρόκειται για μέτρα ποικιλομορφίας που προέρχονται από την υπό συνθήκη εντροπία θετικά ημιορισμένων πινάκων. Αυτές οι νέες βαθμολογίες απομονώνουν την ποικιλομορφία που προκαλείται από το μοντέλο σε γεννήσεις καθοδηγούμενες από εντολές. Η Conditional-RKE παρουσιάζει ρυθμό σύγκλισης της τάξης του $O(1/sqrt{n})$. Όσον αφορά την Conditional-Vendi, εισάγεται μια προσέγγιση πεπερασμένου φάσματος, η οποία παρέχει επεκτάσιμες και συνεπείς εκτιμήσεις.

Πειράματα που διεξήχθησαν σε εργασίες μετατροπής κειμένου σε εικόνα, δημιουργίας λεζάντας εικόνας και μοντέλων μεγάλων γλωσσών (LLM) καταδεικνύουν ότι οι υπό συνθήκη βαθμολογίες ανακτούν τις πραγματικές ταξινομήσεις ποικιλομορφίας. Επιπλέον, μπορούν να καθοδηγήσουν τα μοντέλα διάχυσης προς τη δημιουργία πιο ποικίλων δειγμάτων. Ο κώδικας είναι διαθέσιμος στη διεύθυνση https://github.com/mjalali/conditional-vendi.