Ένας αγρότης από το Chizhou της Κίνας, εδώ και μήνες είχε αρχίσει να ακολουθεί τις συμβουλές της τεχνητής νοημοσύνης, οι οποίες αρχικά έμοιαζαν να λειτουργούν. Όμως οι τελευταίες αλληλεπιδράσεις του μαζί της οδήγησαν στον θάνατο 100 στρεμμάτων καλλιεργιών. Σύμφωνα με την ταϊβανέζικη ιστοσελίδα CTWANT, ο 67χρονος αγρότης ήταν αρχικά πολύ επιφυλακτικός με την τεχνητή νοημοσύνη, αλλά σύντομα άλλαξε γνώμη όταν είδε πως κάποιες από τις συμβουλές της απέδιδαν. Η τυφλή εμπιστοσύνη, όμως, έφερε την ολοκληρωτική καταστροφή σε 100 στρέμματα δενδρυλλίων σουσαμιού Όταν ο αγρότης ρώτησε την τεχνητή νοημοσύνη γιατί συνέβη αυτό, εκείνη υπαινίχθηκε πως το flusulfasulfaether ίσως ευθυνόταν για το πρόβλημα. Σύμφωνα με τους ειδικούς, η συγκεκριμένη ουσία προτείνεται για πλατύφυλλα ζιζάνια σε χωράφια σόγιας. Το USDA κατηγοριοποιεί το σουσάμι ως πλατύφυλλο φυτό, πράγμα που σημαίνει ότι επηρεάζεται άμεσα και θανατηφόρα από το συγκεκριμένο ζιζανιοκτόνο. Παράλληλα, η ουσία αυτή χρησιμοποιείται μόνο στοχευμένα στα σημεία που υπάρχει πρόβλημα και όχι στο σύνολο της καλλιέργειας. Ο Wu ισχυρίστηκε πως η τεχνητή νοημοσύνη δεν τον ενημέρωσε για τους κινδύνους που εγκυμονούσε η λύση που του έδωσε. Ωστόσο, η σελίδα εμφάνιζε το τυπικό μήνυμα: «Η παραγωγή Τεχνητής Νοημοσύνης μπορεί να κάνει λάθη, παρακαλώ επαληθεύστε». Πρόκειται για την ίδια προειδοποίηση που διαθέτουν όλα τα μοντέλα, αλλά σχεδόν κανένας δεν λαμβάνει σοβαρά υπόψη. Παρόλο που η Τεχνητή Νοημοσύνη είναι ένα ισχυρό εργαλείο, διατηρεί επίσης ένα βεβαρημένο ιστορικό στο να δίνει επικίνδυνες συμβουλές και να κάνει λανθασμένες επιλογές. Μόλις πριν από μερικές ημέρες, ένας προγραμματιστής διέγραψε ολόκληρο τον φάκελο του προφίλ του (και μαζί όλη τη δουλειά του) κατά τη διάρκεια μιας συνηθισμένης διαδικασίας δημιουργίας αντιγράφων ασφαλείας, εξαιτίας ενός τυπογραφικού λάθους της AI. Ακόμη και διευθύντρια της Meta είδε ολόκληρο το inbox της να διαγράφεται αυτόματα από λάθος της τεχνητής νοημοσύνης. Για αυτόν τον λόγο σας έχουμε αναφέρει επανειλημμένα πως δεν πρέπει να έχετε τυφλή εμπιστοσύνη στην τεχνητή νοημοσύνη, καθώς υποπίπτει σε τραγικά σφάλματα ακόμη και σε απλές λειτουργίες. Στο παρελθόν τη δοκιμάσαμε στο Techmaniacs για ορθογραφικό και συντακτικό έλεγχο σε άρθρα και καταλήγαμε με χειρότερα συντακτικά λάθη, αντικατάσταση σωστών λέξεων με λανθασμένες και αλλοίωση μερών του κειμένου, παρότι είχαμε ζητήσει ρητά να μην πειραχτεί το περιεχόμενο. Επομένως, δεν πρέπει να υπάρχει καμία εμπιστοσύνη, πόσο μάλλον σε θέματα εργασίας, ιατρικής φύσεως ή για οτιδήποτε αφορά την περιουσία μας. Δεν είναι η πρώτη φορά που βλέπουμε κραυγαλέα λάθη της τεχνητής νοημοσύνης με σοβαρές επιπτώσεις στον πραγματικό κόσμο. Δεν μπορούμε όμως και να κατηγορήσουμε τον αγρότη που έκανε το λάθος να την εμπιστευτεί, ειδικά από τη στιγμή που του είχε δώσει μερικές χρήσιμες συμβουλές στο παρελθόν. Είναι ολόκληρη η βιομηχανία της τεχνητής νοημοσύνης που την προωθεί ως την απόλυτη λύση για κάθε πρόβλημα, παρουσιάζοντάς την σαν ένα πάνσοφο σύστημα που ήρθε να σώσει την ανθρωπότητα. Όπως έχουμε επισημάνει αρκετές φορές στο Techmaniacs, πρόκειται για ένα εργαλείο με συγκεκριμένη χρησιμότητα, το οποίο απέχει πάρα πολύ από το να θεωρηθεί έτοιμο, πόσο μάλλον για ευρεία χρήση από το ευρύ κοινό. Παράλληλα, απουσιάζει η διαφάνεια σχετικά με τα δεδομένα εκπαίδευσής του και το κατά πόσο αυτά έχουν φιλτραριστεί σωστά ώστε να παρέχουν ακρίβεια και ρεαλισμό. Αν και κατά καιρούς χρησιμοποιώ τεχνητή νοημοσύνη για πολύ συγκεκριμένες εργασίες τις οποίες διασταυρώνω προσεκτικά, η πραγματικότητα είναι πως απέχουμε πολύ από ένα αξιόπιστο εργαλείο που θα μας λύσει τα χέρια. Σε συγκεκριμένα αιτήματα, η AI εκτελεί το ακριβώς αντίθετο από αυτό που της ζητήθηκε, ενώ συχνά αγνοεί δοθείσες οδηγίες και ενεργεί αυτόνομα χωρίς προειδοποίηση. Την ίδια στιγμή, είναι προγραμματισμένη να κολακεύει τον χρήστη, παρουσιάζοντας τα πάντα ωραία. Όταν όμως της ζητήσεις να απαντήσει αντικειμενικά και χωρίς κολακείες, η στάση της αλλάζει δραματικά, αποδεικνύοντας ότι δεν μπορούμε να βασιζόμαστε πάνω της. Στην παρούσα φάση, οι εταιρείες προσπαθούν απλώς να μας κάνουν να νιώθουμε όμορφα κατά τη χρήση, επιβεβαιώνοντας ακόμη και λανθασμένους ισχυρισμούς μας. Πρόκειται για εργαλεία μη ώριμα για ευρεία χρήση, ειδικά από ανθρώπους που δεν διαθέτουν την απαραίτητη τεχνολογική ή εξειδικευμένη κατάρτιση. Εσύ χρησιμοποιείς εργαλεία τεχνητής νοημοσύνης στην καθημερινότητα ή την εργασία σου; Έχεις συναντήσει επικίνδυνα ή περίεργα λάθη; Μοιράσου την εμπειρία σου στα σχόλια!Η ψευδαίσθηση της αλάθητης τεχνητής νοημοσύνης
Με τη ματιά του Techmaniacs
