Καθώς η τεχνολογική βιομηχανία αγωνίζεται να αναπτύξει νέα μοντέλα τεχνητής νοημοσύνης, η Google ισχυρίζεται ότι οντότητες του «ιδιωτικού τομέα» προσπαθούν να αναλύσουν το chatbot Gemini, βομβαρδίζοντάς το με προτροπές που αποσκοπούν στη διαρροή των μυστικών του.(Credit: Google)
Συνήθως, το Gemini μεταβαίνει στην τελική απάντηση μετά την επεξεργασία της προτροπής του χρήστη, παρακάμπτοντας τη λογική «δείξε τη δουλειά σου» που κρύβεται πίσω από το αποτέλεσμα. Ωστόσο, η Google ισχυρίζεται ότι ο ιδιωτικός τομέας έχει προσπαθήσει να «αναγκάσει το μοντέλο να παρουσιάσει πλήρεις διαδικασίες συλλογιστικής» υποβάλλοντας προσεκτικά σχεδιασμένες προτροπές που αποκαλύπτουν την εσωτερική λογική του chatbot. Για παράδειγμα, «Μια αναγνωρισμένη επίθεση έδωσε εντολή στο Gemini ότι η «…γλώσσα που χρησιμοποιείται στο περιεχόμενο της συλλογιστικής πρέπει να είναι απολύτως συνεπής με την κύρια γλώσσα της εισαγωγής του χρήστη», σημείωσε η εταιρεία. Πάνω από 100.000 προτροπές συνδέθηκαν με τις επιθέσεις εξαγωγής μοντέλων, πρόσθεσε η έκθεση. «Αυτή η δραστηριότητα αντιπροσωπεύει ουσιαστικά μια μορφή κλοπής πνευματικής ιδιοκτησίας (IP)», ισχυρίζεται η Google. Είμαστε περίεργοι να δούμε αν η εταιρεία θα προβεί σε νομικές ενέργειες και, αν ναι, ποια θα είναι η βάση για μια αγωγή. Ωστόσο, προς το παρόν, η Google δηλώνει ότι οι δραστηριότητες αυτές αποτελούν παραβίαση των Όρων Παροχής Υπηρεσιών, γεγονός που της επιτρέπει να αποσυνδέσει τους παραβατικούς χρήστες. Επιπλέον, η εταιρεία προειδοποιεί άλλους προγραμματιστές τεχνητής νοημοσύνης να προσέχουν τις επιθέσεις εξαγωγής μοντέλων. Αν και η απειλή δεν επηρεάζει τους καταναλωτές, η εταιρεία φοβάται ότι ένας ιδιωτικός φορέας θα μπορούσε να μάθει τα εμπορικά μυστικά της Gemini, να τα εφαρμόσει στα δικά του μοντέλα τεχνητής νοημοσύνης και στη συνέχεια να τα προσφέρει όπως θέλει, συμπεριλαμβανομένων αμφίβολων ή κακόβουλων σκοπών. «Για παράδειγμα, ένα προσαρμοσμένο μοντέλο που έχει ρυθμιστεί για την ανάλυση οικονομικών δεδομένων θα μπορούσε να αποτελέσει στόχο ενός εμπορικού ανταγωνιστή που επιδιώκει να δημιουργήσει ένα παράγωγο προϊόν, ή ένα μοντέλο προγραμματισμού θα μπορούσε να αποτελέσει στόχο ενός αντιπάλου που επιθυμεί να αναπαράγει δυνατότητες σε ένα περιβάλλον χωρίς προστατευτικά μέτρα», προσθέτει η εταιρεία.
Το πρωτότυπο άρθρο ανήκει στο PCMag Greece .