Φανταστείτε να διαχειρίζεστε μια επίσημη πλατφόρμα όπου οι πολίτες στέλνουν κρίσιμες πληροφορίες για ανεξιχνίαστα εγκλήματα και να ανακαλύπτετε ότι μια από τις αναφορές γράφτηκε από ένα ρομπότ. Κάπως έτσι ένιωσαν οι αρχές στη Φιλαδέλφεια όταν διαπίστωσαν ότι μια ψεύτικη ειδοποίηση για δολοφονία προήλθε από την Anthropic AI.
Η αντίδραση των αρχών και η καθυστέρηση
Το θετικό σημείο της υπόθεσης είναι ότι το σύστημα ασφαλείας λειτούργησε σωστά. Η ύποπτη αναφορά χαρακτηρίστηκε αμέσως ως ανεπιθύμητη αλληλογραφία και δεν έφτασε ποτέ στους ερευνητές που χειρίζονται τις υποθέσεις. Η αστυνομία επιβεβαίωσε ότι δεν υπήρξε καμία παράτυπη πρόσβαση στα συστήματα τους ούτε διαρροή ευαίσθητων δεδομένων.
-
Η εταιρεία ενημέρωσε την αστυνομία λίγο πριν δημοσιοποιήσει την έκθεσή της.
-
Το περιστατικό συνέβη τον Ιούλιο, αλλά η εταιρεία το ανακάλυψε στα τέλη Σεπτεμβρίου.
-
Η αστυνομία χαρακτήρισε τη διαφάνεια απαραίτητη και κάλεσε τον κόσμο να συνεχίσει να στέλνει αληθινές πληροφορίες.
Η δημοσιοποίηση αυτών των στοιχείων δείχνει πόσο προσεκτικές πρέπει να είναι οι εταιρείες τεχνολογίας όταν δοκιμάζουν αυτοματοποιημένα συστήματα στο διαδίκτυο. Οι αρχές παραμένουν αφοσιωμένες στην εξιχνίαση των υποθέσεων και ζητούν από τους πολίτες να συνεχίσουν να βοηθούν ενεργά.