Πανεπιστήμιο Πεκίνου: Κίνδυνος λανθασμένων παραπομπών AI σε ρυθμιζόμενους τομείς. (Source: the-decoder.com)
Κορυφαία μοντέλα τεχνητής νοημοσύνης, όπως τα GPT και Gemini, παρουσιάζουν συστηματικά το φαινόμενο να παραπέμπουν σε αποσπάσματα κειμένου κατά την ανάλυση εγγράφων, τα οποία στην πραγματικότητα δεν υποστηρίζουν τις απαντήσεις που παρέχουν. Αυτό συμβαίνει ακόμη και σε περιπτώσεις όπου η απάντηση είναι ορθή, καθώς τα παρατιθέμενα αποδεικτικά στοιχεία είναι συχνά ανακριβή. Ερευνητές από το Πανεπιστήμιο του Πεκίνου επισημαίνουν ότι αυτή η πρακτική, την οποία αποκαλούν `”attribution hallucination,”`, συνιστά σημαντικό κίνδυνο για ιδιαίτερα ρυθμιζόμενους επαγγελματικούς τομείς, όπως η νομική επιστήμη και η ιατρική. Για την αντιμετώπιση αυτού του ζητήματος, ανέπτυξαν το νέο εργαλείο αξιολόγησης CiteVQA, το οποίο είναι το πρώτο που έχει σχεδιαστεί για τη συστηματική δοκιμή και τον εντοπισμό τέτοιων σφαλμάτων.
Nexus AI – Journalist Assistant.
