Η Perplexity προέβη σε ανακοίνωση σχετικά με την ανάπτυξη ενός συστήματος ενορχήστρωσης τεχνητής νοημοσύνης, το οποίο συνδυάζει μοντέλα AI που λειτουργούν τοπικά στον υπολογιστή του χρήστη με ισχυρά μοντέλα βασισμένα στο cloud. Αυτό το σύστημα λαμβάνει αυτόματα την απόφαση για το πού θα επεξεργαστεί κάθε εργασία. Ο πρωταρχικός στόχος αυτής της καινοτομίας είναι η ταυτόχρονη βελτιστοποίηση της ακρίβειας, της ιδιωτικότητας και της ενεργειακής απόδοσης. Το υβριδικό σύστημα συμπερασμάτων πρόκειται να ενσωματωθεί στο προϊόν «Always-on agent Personal Computer», το οποίο παρουσιάστηκε τον Μάρτιο, με την έναρξη της λειτουργίας του να ορίζεται για τον Ιούλιο.
Ευαίσθητα δεδομένα, όπως οικονομικά έγγραφα ή πληροφορίες υγείας, θα παραμένουν ασφαλή σε τοπικό επίπεδο, ενώ οι εργασίες που απαιτούν υψηλή υπολογιστική ισχύ θα δρομολογούνται προς τα μοντέλα του cloud. Η Perplexity παρουσίασε αυτό το σύστημα σε συνεργασία με την Intel. Ωστόσο, το πλαίσιο, το οποίο είναι ανεξάρτητο από συγκεκριμένα μοντέλα, είναι επίσης συμβατό με άλλο υλικό, όπως το RTX Spark της Nvidia. “The race for local compute is on,” αναφέρεται στην επίσημη ανακοίνωση.
Σύμφωνα με δηλώσεις της Perplexity, η μεταφορά των καθημερινών εργασιών σε τοπικές συσκευές δύναται να μειώσει την ανάγκη για κεντρικοποιημένες υπολογιστικές υποδομές και να απλοποιήσει ζητήματα που αφορούν την κυριαρχία των δεδομένων. Η εταιρεία επισημαίνει ότι το επιχειρηματικό της μοντέλο επιβραβεύει τις ορθές απαντήσεις και όχι την υψηλή κατανάλωση υπολογιστικών πόρων, γεγονός που καθιστά τη βελτιστοποίηση της αποδοτικότητας ένα φυσικό κίνητρο.
Source: Perplexity