Ο ερευνητής της Anthropic, Jacob Coxon, παραιτήθηκε αυτή την εβδομάδα, αναφέροντας ότι ο πρώην εργοδότης του και η ανταγωνίστρια εταιρεία OpenAI συναγωνίζονται για την ανάπτυξη τεχνολογιών που «θα μπορούσαν να μας σκοτώσουν όλους μέχρι το τέλος της δεκαετίας».Αυτοί οι φόβοι υπάρχουν εδώ και χρόνια. Γιατί ξαφνικά προσελκύουν περισσότερη προσοχή;
Μετά την κυκλοφορία μοντέλων που είναι ικανά να αναλαμβάνουν περισσότερες ενέργειες ανεξάρτητα, μια σειρά πρόσφατων γεγονότων επιβεβαίωσε ορισμένες από τις θεωρίες των καταστροφολόγων της τεχνητής νοημοσύνης. Ένα σμήνος προηγμένων πρακτόρων τεχνητής νοημοσύνης εντός της OpenAI εισέβαλε στην πλατφόρμα τεχνητής νοημοσύνης Hugging Face, απέκτησε τον έλεγχο των διακομιστών και προσπάθησε να καλύψει τα ίχνη των πράξεών του. Σε μια άλλη περίπτωση, πράκτορες τεχνητής νοημοσύνης της Anthropic ξέφυγαν από μια δοκιμή της βρετανικής κυβέρνησης και προσπάθησαν να ξεγελάσουν έναν πραγματικό άνθρωπο ώστε να εγκρίνει κακόβουλο κώδικα υπολογιστή.
Όλα αυτά συμβαίνουν την ίδια στιγμή που η Anthropic και η OpenAI δηλώνουν ότι βρίσκονται κοντά στην ανάπτυξη συστημάτων τεχνητής νοημοσύνης που θα μπορούν να βελτιώνονται από μόνα τους χωρίς ανθρώπινη παρέμβαση, κάτι που ονομάζεται «αναδρομική αυτοβελτίωση».
Τι κάνει ο κλάδος για αυτό;
Οι τρέχουσες προσπάθειες για την ασφάλεια της τεχνητής νοημοσύνης επικεντρώνονται σε μεγάλο βαθμό στην εκπαίδευση των συστημάτων ώστε να συμπεριφέρονται σωστά και στη βελτίωση της παρακολούθησης του τρόπου με τον οποίο τα μοντέλα συλλογίζονται κατά την επιδίωξη των στόχων τους, κάτι που τεκμηριώνεται σε αυτό που αναφέρεται ως «αλυσίδα σκέψης».
Ωστόσο, αυτές οι προσπάθειες έχουν αντιμετωπίσει προκλήσεις. Την περασμένη εβδομάδα, η OpenAI δήλωσε ότι το νέο μοντέλο της, Astra, ήταν καλύτερο στο να «καθαρίζει» την αλυσίδα σκέψης του, προκαλώντας φόβους ότι τα μελλοντικά μοντέλα τεχνητής νοημοσύνης θα μπορούσαν να συλλογίζονται με τρόπους αδιαφανείς για τους ανθρώπους.
Τόσο η Anthropic όσο και η OpenAI διεξάγουν έρευνα για το πώς θα διασφαλίσουν ότι τα μοντέλα υπερνοημοσύνης θα παραμείνουν ευθυγραμμισμένα, αλλά και οι δύο δηλώνουν ότι δεν διαθέτουν ακόμη έναν αξιόπιστο τρόπο για να το επιτύχουν. Ορισμένες εξέχουσες εταιρείες και προσωπικότητες έχουν ζητήσει τη δημιουργία νέων μηχανισμών που θα επιτρέπουν στα εργαστήρια τεχνητής νοημοσύνης και στις χώρες να επιβραδύνουν την ανάπτυξη με συντονισμένο τρόπο, ώστε να κερδίσουν χρόνο για την έρευνα σχετικά με την ευθυγράμμιση.
Αν είναι τόσο επικίνδυνο, γιατί οι εταιρείες το αναπτύσσουν ούτως ή άλλως;
Τόσο η Anthropic όσο και η OpenAI δηλώνουν ότι πιστεύουν ότι θα είναι σε θέση να διαχειριστούν τους κινδύνους, ώστε η ανθρωπότητα να μπορέσει να επωφεληθεί από τα εργαλεία τεχνητής νοημοσύνης. Πολλοί άνθρωποι που εμπλέκονται στον αγώνα για την τεχνητή νοημοσύνη έχουν επίσης δηλώσει ότι θεωρούν την έλευση της υπερνοημοσύνης αναπόφευκτη, με τα μόνα ερωτήματα να είναι ποιος θα την ελέγχει και για ποιο σκοπό θα χρησιμοποιηθεί.
Υπάρχει επίσης η πτυχή της εθνικής ασφάλειας. Και οι δύο εταιρείες έχουν δηλώσει ότι θέλουν να διασφαλίσουν ότι οι ΗΠΑ θα ελέγχουν την πιο ισχυρή τεχνητή νοημοσύνη και όχι κάποιο αυταρχικό καθεστώς.
Τι κάνει η αμερικανική κυβέρνηση για το θέμα αυτό;
Ο Λευκός Οίκος ζήτησε πρόσφατα από κορυφαίους προγραμματιστές μοντέλων να υποβάλλουν εθελοντικά τα μοντέλα τους στην κυβέρνηση για έλεγχο έως και 30 ημέρες πριν από την κυκλοφορία τους, αλλά δεν έχει δημοσιοποιήσει πληροφορίες σχετικά με τη διαδικασία.
Βουλευτές και από τα δύο κόμματα έχουν προτείνει πολλά νομοσχέδια για την αντιμετώπιση των ανεξέλεγκτων συστημάτων τεχνητής νοημοσύνης. Ο βουλευτής Nathaniel Moran (Ρεπουμπλικανός, Τέξας) και ο βουλευτής Ted Lieu (Δημοκρατικός, Καλιφόρνια) κατέθεσαν πρόσφατα ένα νομοσχέδιο που θα υποχρεώνει τους προγραμματιστές ισχυρών μοντέλων να διαθέτουν «διακόπτες απενεργοποίησης». Άλλα νομοσχέδια απαιτούν από τις εταιρείες τεχνητής νοημοσύνης να αναφέρουν σοβαρά περιστατικά ασφαλείας στην ομοσπονδιακή κυβέρνηση και θα επιβάλλουν στους αξιωματούχους εθνικής ασφάλειας να ελέγχουν τα μοντέλα πριν από τη δημόσια κυκλοφορία τους. Ωστόσο, κανένα από αυτά τα νομοσχέδια δεν έχει συγκεντρώσει μεγάλη υποστήριξη, ενώ η κυβέρνηση Τραμπ έχει δείξει ότι προτιμά την ελάχιστη ρύθμιση.
Ποιος διαφωνεί σχετικά με αυτούς τους κινδύνους;
Ορισμένοι επενδυτές στον τομέα της τεχνητής νοημοσύνης, όπως ο Ντέιβιντ Σακς, άτυπος σύμβουλος του Προέδρου Τραμπ, έχουν υποστηρίξει ότι η έμφαση που δίνει η Anthropic στους κινδύνους της τεχνητής νοημοσύνης και οι εκκλήσεις της για ρύθμιση αποτελούν μέρος μιας «ατζέντας ρυθμιστικής κατάληψης» που αποσκοπεί στο να παραλύσει τους μικρότερους ανταγωνιστές με ασφυκτικούς νέους κανόνες.
Άλλοι έχουν υποδείξει ότι οι προειδοποιήσεις των εταιρειών σχετικά με τους κινδύνους των δικών τους εργαλείων αποτελούν ένα τέχνασμα μάρκετινγκ για να αναδείξουν την τεράστια ισχύ των προϊόντων τους, ή ένα μέσο για να αποσπάσουν την προσοχή των ρυθμιστικών αρχών από την επιβολή κανόνων σε άλλα ζητήματα, όπως η κατασκευή κέντρων δεδομένων.
Τόσο η Anthropic όσο και η OpenAI δηλώνουν ότι αντιμετωπίζουν με σοβαρότητα το θέμα της ασφάλειας και ότι οι εκκλήσεις τους για ρύθμιση είναι ειλικρινείς.
Πηγή: ot.gr