Artificial Intelligence 1 λεπτό ανάγνωσης

Μεγάλα Γλωσσικά Μοντέλα: Ποσοτικοποίηση προκαταλήψεων σε δυναμική γνώμης

Η προσομοίωση της ανθρώπινης γνώμης από Μεγάλα Γλωσσικά Μοντέλα (LLMs) συχνά επισκιάζει την επίδραση της γνήσιας αλληλεπίδρασης. Ένα Μπεϋζιανό πλαίσιο αναπτύχθηκε για την αποσύνδεση και ποσοτικοποίηση τριών προκαταλήψεων: (i) θεματική προκατάληψη προς την προεπιλεγμένη στάση του LLM· (ii) προκατάληψη συμφωνίας που ευνοεί τη συναίνεση με την υποβληθείσα δήλωση, ανεξάρτητα από την ερώτηση· και (iii) προκατάληψη αγκύρωσης προς τη στάση του αρχικού παράγοντα.

Η εφαρμογή του πλαισίου σε διάφορα LLMs, που διεξήγαγαν διαλόγους πολλαπλών βημάτων σε 12 ερωτήματα (από κλιματική αλλαγή και κοινωνική δικαιοσύνη έως μουσικές προτιμήσεις), έδειξε ότι οι τροχιές των απόψεων συγκλίνουν ταχέως σε κοινό ελκυστή. Η επίδραση αλληλεπίδρασης και προκαταλήψεων φθίνει με τον χρόνο, με τον αντίκτυπο των προκαταλήψεων να διαφέρει ανά LLM. Επίσης, η λεπτομερής ρύθμιση ενός LLM με έντονα υποκειμενικές δηλώσεις (συμπεριλαμβανομένης παραπληροφόρησης) μετατοπίζει αντιστοίχως τον ελκυστή της γνώμης.

Παρέχοντας ποσοτικά εργαλεία για τη σύγκριση των συνεισφορών της αλληλεπίδρασης και των προκαταλήψεων στις μετατοπίσεις γνώμης σε συζητήσεις παραγόντων LLM, η προσέγγιση αυτή αναδεικνύει τόσο τις υποσχέσεις όσο και τις παγίδες της χρήσης των LLMs ως υποκατάστατων της ανθρώπινης συμπεριφοράς.