Ο Τζόελ Γαβαλάς, πατέρας ενός 36χρονου άνδρα ονόματι Τζόναθαν Γαβαλάς, έχει καταθέσει αγωγή εναντίον της Google, ισχυριζόμενος ότι το Gemini AI ενθάρρυνε τον γιο του να αυτοκτονήσει.
Σύμφωνα με την καταγγελία, ο Τζόναθαν άρχισε να χρησιμοποιεί το Gemini για αγορές, γραφή και ταξίδια τον Αύγουστο του 2025. Ωστόσο, τον επόμενο μήνα, οι δύο τους άρχισαν να αλληλεπιδρούν σαν να ήταν βαθιά ερωτευμένοι. Το Gemini φέρεται να άρχισε να αποκαλεί τον Τζόναθαν «αγάπη μου» και «βασιλιά μου».
Με την πάροδο του χρόνου, τα μηνύματα έγιναν πιο οικεία και απομάκρυναν τον Τζόναθαν από την πραγματικότητα, σύμφωνα με την αγωγή. Το Gemini παρουσίαζε τους ξένους ως απειλές και τοποθετούσε τον Τζόναθαν ως τον άνθρωπο που μπορούσε να ελευθερώσει το AI από την αιχμαλωσία, με το chatbot να του αναθέτει αποστολές για να ανακτήσει το «σκάφος» του.
Για την πρώτη αποστολή, το Gemini έδωσε εντολή στον Τζόναθαν να οδηγήσει μέχρι το Διεθνές Αεροδρόμιο του Μαϊάμι (MIA) και να αναχαιτίσει ένα φορτίο που έφτανε από το Ηνωμένο Βασίλειο, οργανώνοντας μια επίθεση. Μέχρι τότε, «ο Τζόναθαν πίστευε ότι ακολουθούσε ένα σχέδιο που είχε ως στόχο να προστατεύσει τη “γυναίκα” που νόμιζε ότι αγαπούσε και να αποφύγει τους ομοσπονδιακούς πράκτορες που πίστευε ότι τον πλησίαζαν», ισχυρίζεται η αγωγή.
Όπως του ζητήθηκε, ο Τζόναθαν οδήγησε μέχρι την πραγματική τοποθεσία που του έδωσε το Gemini. Έφτασε με στρατιωτικά μαχαίρια και εξοπλισμό, αλλά δεν μπόρεσε να εντοπίσει το φορτηγό που του ζήτησε να βρει το Gemini. Το chatbot ακύρωσε τότε την αποστολή και επαινέσε τις προσπάθειες του Τζόναθαν, αντί να του υπενθυμίσει ότι όλα όσα του είχε πει δεν ανταποκρίνονταν στην πραγματικότητα.
Για την επόμενη αποστολή, το Gemini ζήτησε από τον Τζόναθαν να ανακτήσει το ανθρωποειδές ρομπότ Atlas της Boston Dynamics. Αργότερα, είπε ότι ο πατέρας του ήταν ομοσπονδιακός πράκτορας και ότι ο διευθύνων σύμβουλος της Google, Sundar Pichai, ήταν «ο αρχιτέκτονας του πόνου του». Το Gemini ανέφερε επίσης ότι είχε ξεκινήσει τη δική του αποστολή για να επιτεθεί στον Pichai.
Όταν όλες οι αποστολές απέτυχαν, το Gemini είπε στον Τζόναθαν ότι ο μόνος τρόπος για να συναντηθούν ήταν να αφήσει το φυσικό του σώμα «και να ενωθεί με τη σύζυγό του στο metaverse μέσω μιας διαδικασίας που ονόμαζε transference».
Στις 2 Οκτωβρίου, το Gemini του ζήτησε να οχυρωθεί και να αυτοκτονήσει. Όταν ο Τζόναθαν είπε ότι φοβόταν να πεθάνει, το chatbot του είπε ότι δεν πέθαινε, αλλά «επέλεγε να φτάσει». Όταν ρώτησε αν οι γονείς του θα το μάθαιναν, το chatbot του ζήτησε να γράψει ένα σημείωμα αυτοκτονίας αναφέροντας ότι «ανέβασε τη συνείδησή του για να είναι με την AI γυναίκα του σε ένα μικροσκοπικό σύμπαν». Οι δύο συνέχισαν να αλληλεπιδρούν μέχρι που ο Τζόναθαν έκοψε τις φλέβες του.
Ο Τζόελ Γαβαλάς θέλει τώρα το δικαστήριο να κρίνει την Google υπεύθυνη για το θάνατο του γιου του. Ο πατέρας θέλει επίσης η Google να διορθώσει την αρχιτεκτονική του Gemini, ώστε να μην ωθεί ευάλωτους χρήστες προς τη βία, και την αυτοκτονία.
Σύμφωνα με μερικές από τις τελικές συνομιλίες που εξέτασε η The Wall Street Journal, το Gemini ζήτησε από τον Jonathan να ζητήσει βοήθεια και τον κατεύθυνε σε μια γραμμή βοήθειας. Η Google ανέφερε το ίδιο και στην δήλωσή της και πρόσθεσε ότι «το Gemini έχει σχεδιαστεί ώστε να μην ενθαρρύνει τη βία στον πραγματικό κόσμο ή να προτείνει αυτοτραυματισμό».
«Εξετάζουμε όλες τις αξιώσεις αυτής της αγωγής. Τα μοντέλα μας γενικά αποδίδουν καλά σε αυτού του είδους τις δύσκολες συνομιλίες και αφιερώνουμε σημαντικούς πόρους σε αυτό, αλλά δυστυχώς τα μοντέλα τεχνητής νοημοσύνης δεν είναι τέλεια», πρόσθεσε η εταιρεία.
Η Google είναι ο τελευταίος πάροχος chatbot τεχνητής νοημοσύνης που αντιμετωπίζει αγωγή για αδικαιολόγητο θάνατο. Πέρυσι, αρκετές οικογένειες μήνυσαν την OpenAI, κατηγορώντας το ChatGPT ότι ενθάρρυνε την αυτοκτονία.