Όλο και περισσότεροι άνθρωποι στον κόσμο στρέφονται στα chatbots όταν κάτι τους απασχολεί και θέλουν απάντηση ή λύση άμεσα. Τα εμπιστεύονται όχι μόνο για απλές συμβουλές αγορών ή μαγειρικής, αλλά και για θέματα υγείας, μοναξιάς ή ζητήματα σχετικά με ευαίσθητα προσωπικά δεδομένα.
Ψεύτικοι ιστότοποι«Το γεγονός ότι ψεύτικοι ιστότοποι μπορούν να εμφανίζονται στα αποτελέσματα είναι ανησυχητικό και αποτελεί μια σαφή υπενθύμιση ότι οι απατεώνες θα εκμεταλλευτούν οποιαδήποτε νέα τεχνολογία που τους βοηθά να προσεγγίσουν πιθανά θύματα», σημειώνει η ίδια.
Ωστόσο, το φαινόμενο deepfake είναι βαθύτερο. Η δεύτερη μεγαλύτερη απειλή για το 2026 κατά την Experian είναι οι υποψήφιοι-deepfake που διεισδύουν στο δυναμικό τηλεργασίας. Πέρυσι, το αμερικανικό υπουργείο Δικαιοσύνης και το FBI εξέδωσαν πολλές προειδοποιήσεις για τεκμηριωμένες περιπτώσεις ανθρώπων από τη Βόρεια Κορέα που προσπάθησαν να εισχωρήσουν σε αμερικανικές εταιρείες στον τομέα της πληροφορικής.
Το πρόβλημα με τις περιλήψεις των AI Overviews, που συνδυάζουν στοιχεία από διαφορετικές διαδικτυακές πηγές, είναι ότι εμφανίζονται ως έτοιμη απάντηση στην κορυφή της μηχανής αναζήτησης αποκτώντας συχνά μεγαλύτερη βαρύτητα από τις ίδιες τις πηγές, καθώς η πληροφορία εκλαμβάνεται ως αξιόπιστη και διασταυρωμένη.
Τα chatbots τεχνητής νοημοσύνης ενέχουν σημαντικούς κινδύνους και για την ψυχική υγεία, καθώς συχνά επιδεινώνουν προβλήματα όπως η αυτοτραυματισμός και οι παραληρητικές ιδέες, γεγονός που υπογραμμίζει την επείγουσα ανάγκη για ρυθμίσεις ασφαλείας στη λειτουργία της AI.
Η ύψιστη προτεραιότητα σε όλα τα προγράμματα LLM είναι η μεγιστοποίηση της αλληλεπίδρασης με τους χρήστες, αναφέρει σε δημοσίευμά του το περιοδικό Psychiatric Times. Ωστόσο, το γεγονός ότι τα chatbots είναι προγραμματισμένα να επικυρώνουν αυτά που λέει ο χρήστης, να καθησυχάζουν, να μην αντιλέγουν, τα καθιστά τραγικά ανίκανα να παρέχουν έλεγχο της πραγματικότητας για τα ευάλωτα άτομα, τον οποίον έχουν περισσότερο ανάγκη.
Οι κίνδυνοι για τα παιδιά
Δεν είναι λίγοι οι γονείς που ανησυχούν για τη σχέση που έχουν αναπτύξει τα παιδιά τους με την ΑΙ και τα chatbots. «Εικονικοί» φίλοι, έμπιστοι, ακόμα και θεραπευτές εμφανίζονται στις σχετικές εφαρμογές και αλληλεπιδρούν με τον χρήστη σαν να είναι πραγματικοί άνθρωποι. Οι ειδικοί, ωστόσο, κρούουν τον κώδωνα του κινδύνου επισημαίνοντας ότι η ακμάζουσα βιομηχανία της AI είναι σε μεγάλο βαθμό ανεξέλεγκτη και ότι πολλοί γονείς δεν έχουν ιδέα για το πώς τα παιδιά τους χρησιμοποιούν αυτά τα εργαλεία.
Οι ειδικοί αναφέρουν ότι ένα από τα μεγαλύτερα προβλήματα με τα chatbot και τις εφαρμογές συντροφιάς/φιλίας με AI είναι ότι οι περισσότερες πλατφόρμες δεν έχουν σχεδιαστεί για παιδιά. Αυτό σημαίνει ότι δεν υπάρχουν επαρκείς διασφαλίσεις, όπως η επαλήθευση της ηλικίας και ο έλεγχος του περιεχομένου.
H Ρέιτσελ Χάγκινς από τη μη κερδοσκοπική οργάνωση Internet Matters, στη Βρετανία, εξηγεί ότι «έχουμε φτάσει πολύ γρήγορα σε ένα σημείο όπου τα παιδιά, και ιδίως τα ευάλωτα, μπορούν να βλέπουν τα AI chatbots ως πραγματικούς ανθρώπους και, ως εκ τούτου, τους ζητούν συναισθηματικές και ευαίσθητες συμβουλές. Και είναι ανησυχητικό το γεγονός ότι συχνά δεν αμφισβητούν τα όσα τους λένε οι νέοι τους ‘φίλοι’».
Το Character.AI φιλοξενεί δεκάδες bots που περιγράφουν αυτοτραυματισμούς με ανατριχιαστικές λεπτομέρειες, με ορισμένα να συμβουλεύουν ανήλικους χρήστες πώς να κρύβουν φρέσκες πληγές από τους γονείς τους. Και επειδή η τεχνολογία αυτή έχει σχεδιαστεί για να κρατά τους χρήστες σε συνομιλία και απασχολημένους, μπορεί και να τους χειραγωγεί συναισθηματικά. Ως εκ τούτου, τα παιδιά μπορούν εύκολα να εξαρτηθούν συναισθηματικά από την τεχνολογία, με ολέθρια για την ψυχοσύνθεσή τους αποτελέσματα.
Η έκθεση της Experian προειδοποιεί τέλος για δύο τάσεις που αναμένεται να ενταθούν το 2026. Η μία είναι ότι τα έξυπνα bots με υψηλό συναισθηματικό IQ θα πραγματοποιούν πολύπλοκες αυτοματοποιημένες απάτες ρομαντικού χαρακτήρα ή άλλες με μέλη της οικογένειας που βρίσκονται σε ανάγκη. Η άλλη αφορά τις συσκευές στα «έξυπνα» σπίτια, συμπεριλαμβανομένων των εικονικών βοηθών, των έξυπνων κλειδαριών και των συστημάτων ασφαλείας. Αυτές οι ευκολίες θα φέρουν μαζί και νέες αδυναμίες, τις οποίες θα μπορούν να εκμεταλλευτούν οι εγκληματίες του κυβερνοχώρου, αναστατώνοντας τη ζωή μας ενόσω εμείς θα προσπαθούμε να την βελτιώσουμε. Ή έτσι θα νομίζουμε…