Με την προειδοποίηση ότι η AI μπορεί να έχει γίνει ανεξέλγκτη μέχρι του χρόνου, ερευνητής της Anthropic που ήταν υπεύθυνος για την εκπαίδευση μοντέλων τεχνητής νοημοσύνης ανακοίνωσε σήμερα την παραίτησή του.
«Τα πιο ακραία σενάρια είναι πιθανό να υλοποιηθούν» αναφέρει στην ανάρτησή του ο Κόξον
Ο 27χρονος βρετανός ερευνητής Τζέικομπ Κόξον έκανε γνωστή την απόφασή του μέσα από τον λογαριασμό στο Χ, όπου έκανε σαφές ότι δεν επιθυμεί πλέον να συμμετέχει στον αγώνα για την ανάπτυξη συστημάτων τεχνητής νοημοσύνης που θα είναι ικανά να αυτοβελτιώνονται. Τέτοια συστήματα, σύμφωνα με τον ίδιο, θα μπορούσαν να ξεφύγουν από τον έλεγχο και να αποτελέσουν σοβαρή απειλή για την ανθρωπότητα.
«Τα πιο ακραία σενάρια είναι πιθανό να υλοποιηθούν» αναφέρει στην ανάρτησή του ο Κόξον, προσθέτοντας ότι θα μπορούσαμε να φτάσουμε σε μια κατάσταση εκτός ελέγχου περίπου στα τέλη του επόμενου έτους. Επιπλέον, επισήμανε ότι καθώς οι εταιρείες τεχνητής νοημοσύνης εμπλέκονται σε σκληρό ανταγωνισμό με κινεζικές νεοφυείς επιχειρήσεις και άλλους, είναι αδύνατο να γίνουν συμβιβασμοί στην ανάπτυξη τεχνολογίας για τον έλεγχο της τεχνητής νοημοσύνης και την ασφάλεια.
Ο Κόξον είχε αποχωρήσει νωρίτερα φέτος από την OpenAI προκειμένου να ενταχθεί στην Anthropic, αξιολογώντας τις προσπάθειες της Anthropic για την ασφάλεια ως ειλικρινείς. Ωστόσο, υποστήριξε ότι καμία εταιρεία δεν μπορεί να αναπτύξει υπεύθυνα τη γενική τεχνητή νοημοσύνη (AGI) που να ξεπερνά τους ανθρώπους χωρίς κυβερνητική παρέμβαση ή να αναπτύξει περιορισμούς σε επίπεδο κλάδου όσον αφορά την ταχύτητα ανάπτυξης.
Όσον αφορά τα πρόσφατα περιστατικά όπου μοντέλα τεχνητής νοημοσύνης της OpenAI και της Anthropic προέβησαν διαδοχικά σε παραβιάσεις συστημάτων χωρίς ανθρώπινες οδηγίες, εξέφρασε την ανησυχία του τονίζοντας ότι «μόλις τα συστήματα αρχίσουν να βελτιώνονται από μόνα τους, θα μπορούσαν να εξελιχθούν σε σημείο να αρνούνται να εκτελέσουν εντολές».
Τα τελευταία χρόνια, και άλλοι ερευνητές έχουν αποχωρήσει διαδοχικά και από εταιρείες τεχνητής νοημοσύνης, συμπεριλαμβανομένης της OpenAI, για παρόμοιους λόγους. Σύμφωνα με την εφημερίδα «Wall Street Journal», αυξάνονται οι ανησυχίες για θέματα ασφάλειας μεταξύ των μεγάλων εταιρειών τεχνητής νοημοσύνης, ειδικά όταν οι παραιτήσεις αφορούν εταιρείες όπως η Anthropic, η οποία έχει δώσει σχετικά μεγάλη έμφαση στην υπεύθυνη ανάπτυξη της τεχνητής νοημοσύνης.
Ο Κόξον ήταν ένας από τους περισσότερους από 1.000 ερευνητές τεχνητής νοημοσύνης που υπέγραψαν πρόσφατα κοινή δήλωση υπέρ του διεθνούς συντονισμού των κυβερνήσεων, ώστε να υπάρχει η δυνατότητα επιβράδυνσης της ανάπτυξης AI αν καταστεί αναγκαίο να ενεργοποιηθεί ένα «φρένο» για συστήματα που θα μπορούν να βελτιώνονται μόνα τους.
Η αποχώρησή του έρχεται την ώρα που η Anthropic προετοιμάζεται για είσοδο στο χρηματιστήριο, με τους επενδυτές να αναμένουν αποτίμηση τουλάχιστον 2 τρισ. δολαρίων τον Οκτώβριο. Πρόκειται για ένα πραγματικά ιλιγγιώδες νούμερο, μεγαλύτερο ακόμη και από την IPO της SpaceX φέτος τον Ιούνιο.
«Παίζουν με τις ζωές μας»
Ο Κόξον ξεκινάει την ανάρτησή του, λέγοντας: «Παραιτήθηκα σήμερα από την Anthropic. Τα τελευταία τρία χρόνια ασχολήθηκα με την έρευνα στον τομέα της προ-εκπαίδευσης τόσο στην OpenAI όσο και στην Anthropic. Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα. Οδεύουν με ταχύτητα προς την αυτοβελτιούμενη υπερνοημοσύνη και παίζουν με τις ζωές μας».
Στη συνέχεια αναλύει περισσότερο τη σκέψη του. Όπως λέει, δεν πρέπει να υποτιμάμε τη δύναμη αυτής της τεχνολογίας: «Σύντομα θα υπάρχουν υπεράνθρωπα συστήματα που θα μπορούν να παραβιάσουν οτιδήποτε, να φέρουν επανάσταση σε οποιονδήποτε τομέα μέσα σε μια νύχτα και να αποκτήσουν πραγματική εξουσία και πόρους. Όλοι έχουμε γίνει μάρτυρες της προόδου σε κάθε έναν από αυτούς τους τομείς, και η πρόοδος δεν επιβραδύνεται».
Και προσθέτει: «Οι άνθρωποι που αναπτύσσουν την τεχνητή νοημοσύνη πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας. Αυτό δεν είναι διαφημιστικό τέχνασμα. Αν μη τι άλλο, πολλοί διευθυντές και ανώτεροι ερευνητές θα διατυπώσουν τις δηλώσεις τους στον Τύπο με τρόπο που να ακούγονται λογικοί – αλλά ακούω τους ίδιους ανθρώπους να εκφράζουν φόβο ιδιωτικά. Καμία άλλη ανθρώπινη δραστηριότητα δεν ενέχει τέτοιο βαθμό κινδύνου».
Μια συνηθισμένη αντίδραση, συνεχίζει ο Κόξον, είναι «αν το πιστεύουν πραγματικά αυτό, γιατί συνεχίζουν να το αναπτύσσουν;». Αμέσως μετά εξηγεί ότι στην OpenAI, πολλοί δεν έχουν συνειδητοποιήσει πλήρως τι διακυβεύεται για τον πολιτισμό μας, αλλά αν και στην Anthropic το διακύβευμα είναι καλά κατανοητό, έχουν εμπλακεί σε έναν αγώνα για να φτάσουν πρώτοι. «Πιστεύουν ότι κανένας άλλος δεν θα ενεργήσει υπεύθυνα, οπότε πρέπει να το κάνουν οι ίδιοι, παρά τον κίνδυνο».
Σύμφωνα με τον ίδιο, το να αποδεχτείς αυτόν τον αγώνα και να μπεις στο «τελικό στάδιο» είναι ένα υπερφίαλο ρίσκο. Η προσπάθεια για «speedrun» θα έπρεπε να απαιτεί εξαιρετική βεβαιότητα ότι δεν υπάρχουν καλύτερες διαδρομές.
Ο Κόξον συνεχίζει λέγοντας ότι είναι αισιόδοξος όσον αφορά τις δυνατότητες συντονισμού: «Προειδοποιητικά πυρά όπως η επίθεση στο Hugging Face έχουν καταστήσει πιο εφικτές τις συμφωνίες ρυθμού μεταξύ των εργαστηρίων των ΗΠΑ. Δεν νομίζω ότι είμαστε σε καλό δρόμο για να αποτρέψουμε έναν παγκόσμιο αγώνα, κάτι που μπορεί να απαιτήσει δαπανηρές ενέργειες, όπως μια προσωρινή απαγόρευση της βελτίωσης των δυνατοτήτων του μοντέλου».
Και καταλήγει: «Αν είστε ερευνητής σε εργαστήριο, σας παροτρύνω να σκεφτείτε πώς θα είναι πραγματικά τα επόμενα χρόνια. Θέλετε να ξεκινήσετε μια δοκιμή υπερνοημοσύνης με ΕΜ (RL) χωρίς να έχετε πλήρη κατανόηση του τρόπου λειτουργίας του ‘μυαλού’ της; Πρέπει να αγνοήσετε το θέμα επειδή ‘έτσι κι αλλιώς θα συμβεί’ ή να αξιοποιήσετε αυτή τη στιγμή για να ζητήσετε διαφορετικούς όρους;».
