Πώς χρησιμοποιεί η Anthropic το AI για την ανάπτυξη νέων μοντέλων;
Διάρκεια άρθρου:
Λιγότερο απο 1 λεπτό
Λεπτά
Πώς χρησιμοποιεί η Anthropic το AI για την ανάπτυξη νέων μοντέλων;
Αυτό είναι το σημείο στο οποίο στέκεται η Anthropic. Η εταιρεία περιγράφει το ενδεχόμενο οι δυνατότητες των μοντέλων να βελτιώνονται ταχύτερα από όσο προλαβαίνουν οι ομάδες της να σχεδιάσουν, να επαληθεύσουν και να εφαρμόσουν και τα απαραίτητα μέτρα ασφαλείας. Αναγνωρίζει επίσης ότι μπορεί να αντιληφθεί μια σημαντική επιτάχυνση εκ των υστέρων, όταν αυτή έχει ήδη συμβεί. Σκέψου μια ομάδα που αποκτά τη δυνατότητα να παράγει περισσότερες δοκιμαστικές εκδόσεις ενός μοντέλου μέσα στην εβδομάδα. Κάθε έκδοση όμως θέλει τον δικό της έλεγχο. Πρέπει να δεις τι καινούργιο μπορεί να κάνει, πού αποτυγχάνει και πώς συμπεριφέρεται όταν κάποιος προσπαθεί επίτηδες να παρακάμψει τους περιορισμούς της. Αν η παραγωγή εκδόσεων επιταχυνθεί και οι έλεγχοι συνεχίσουν στον ίδιο ρυθμό, το ημερολόγιο γεμίζει πολύ γρήγορα. Και ένα μοντέλο που βοηθά να γραφτεί καλύτερος κώδικας μπορεί να κάνει πιο εύκολη και τη δουλειά κάποιου που ψάχνει ευπάθειες.
Η Anthropic λέει ότι σκοπεύει να διατηρήσει την ανθρώπινη συμμετοχή στην ανάπτυξη για το μέλλον. Ακόμη κι αν κάποτε γίνει τεχνικά εφικτό, η δηλωμένη πρόθεσή της είναι να υπάρχει ουσιαστική ανθρώπινη επίβλεψη και κατανόηση της διαδικασίας όταν ο Claude συνεισφέρει στον σχεδιασμό και στη βελτίωση μοντέλων. Η εταιρεία εξετάζει επίσης αλλαγές στο πλαίσιο Responsible Scaling Strategy, στο οποίο περιγράφει πώς παρακολουθεί αυτούς τους κινδύνους.
Το πιο ενδιαφέρον τεστ για εμάς θα έρθει όταν η Anthropic μπορεί να βάλει δίπλα δίπλα δύο μετρήσεις. Πόσο χρόνο γλίτωσαν οι ερευνητές χάρη στο AI και πόσο χρόνο χρειάστηκαν για να καταλάβουν τι έμαθε να κάνει το μοντέλο που έφτιαξαν. Η πρώτη μέτρηση δείχνει πόσο γρήγορα μπορείς να πας. Η δεύτερη δείχνει αν ξέρεις ακόμη πού πατάς.
