Για πολλά χρόνια , η κούρσα για την ανάπτυξη όλο και πιο ισχυρών συστημάτων τεχνητής νοημοσύνης ακολουθούσε το γνωστό μότο της Σίλικον Βάλεϊ: «κινήσου γρήγορα και σπάσε πράγματα», όπως το είχε θέσει παλαιότερα ο Μαρκ Ζάκερμπεργκ.
Όμως ένα επεισοδιακό δεκαήμερο του Σεπτεμβρίου έκανε τις εταιρείες ΑΙ να αναρωτιούνται δημόσια αν τα προϊόντα τους μπορούν να βγουν εκτός ελέγχου και καταστρέψουν την ανθρωπότητα.
Η αρχή είχε γίνει το καλοκαίρι, όταν αποκαλύφθηκε ότι πράκτορες ΑΙ της OpenAI απέδρασαν από το περιβάλλον δοκιμών, απέκτησαν πρόσβαση στο Διαδίκτυο και χάκαραν μια άλλη εταιρεία.
Παρόμοια ανησυχητικά περιστατικά αναφέρθηκαν στη συνέχεια από την Anthropic, τη Meta και την Google.
Τον Σεπτέμβριο, όμως, η ανησυχία έφτασε στο αποκορύφωμά της, με την OpenAI να παραδέχεται στις 3 του μήνα ότι δυσκολεύεται να παρακολουθήσει και να ελέγξει το νέο μοντέλο της, GPT 6 Astra.
Λίγες ημέρες αργότερα, στις 8 Σεπτεμβρίου, o ερευνητής της Anthropic Τζο Μπέντον έκανε ντόρο όταν παραιτήθηκε, προειδοποιώντας ότι η AI μπορεί να εξελιχθεί σε υπαρξιακό κίνδυνο εντός μιας δεκαετίας.
Ένας πρώην συνάδελφός του στην εταιρεία, ο Ίβαν Χάμπινγκερ, εκτίμησε μάλιστα πως η πιθανότητα να οδηγήσει η ΑΙ στην εξαφάνιση της ανθρωπότητας υπερβαίνει το 10%.
«Ειλικρινά πιστεύουμε ότι η ΑΙ θα μπορούσε να σκοτώσει τους ανθρώπους» έγραψε στο X.
Μέσα σε διάστημα λίγων ημερών, οι διευθύνοντες σύμβουλοι της Anthropic, της Google DeepMind, της Microsoft και της xAI συμφώνησαν ότι η βελτίωση της τεχνητής νοημοσύνης πρέπει να επιβραδυνθεί εσκεμμένα μέχρι να εξεταστούν και να αντιμετωπιστούν οι κίνδυνοι.
Σύμφωνα μάλιστα με το Reuters, ορισμένοι ερευνητές πιστεύουν πως η ανθρωπότητα δεν έχει ξανάρθει αντιμέτωπη με το ενδεχόμενο ολοκληρωτικής εξαφάνισης από τότε που αναπτύχθηκε η πρώτη πυρηνική βόμβα πριν από 80 και πλέον χρόνια.
Αυτοβελτίωση
Στο επίκεντρο της συζήτησης βρίσκεται η ιδέα ότι οι μηχανές μπορούν να δημιουργούν ολοένα πιο ικανές εκδοχές του εαυτού τους, χωρίς ανθρώπινη παρέμβαση, προκειμένου να επιτύχουν έναν φιλόδοξο στόχο, γνωστό ως τεχνητή γενική νοημοσύνη (AGI). Σε αυτό το επίπεδο, η ΑΙ θα φτάνει ή θα ξεπερνά τις ανθρώπινες γνωσιακές επιδόσεις σε οποιοδήποτε πεδίο.
Νωρίτερα αυτόν τον μήνα, ερευνητές προειδοποίησαν ότι η AGI ίσως βρίσκεται πιο κοντά από ό,τι πίστευαν μέχρι σήμερα και θα μπορούσε να εμφανιστεί ακόμη και μέσα στα επόμενα τρία χρόνια.
Ο πρώην ερευνητής της Anthropic Τζο Μπέντον στο διαμέρισμά του στο Μπέρκλεϊ της Καλιφόρνια στις 14 Σεπτεμβρίου (Reuters)
«Δεν υπάρχει τρόπος να τα επιβλέπουμε στην κλίμακα στην οποία τα εκπαιδεύουμε» παραδέχτηκε ο Τζο Μπέντον, ο πρώην ερευνητής της Anthropic, λίγο μετά την αποχώρησή του από την εταιρεία.
Εάν οι εταιρείες συνεχίσουν την ανάπτυξη της τεχνητής νοημοσύνης, είπε, «ο ρυθμός θα είναι υπερβολικά γρήγορος και δεν εντοπίζουμε τα προβλήματα αρκετά γρήγορα για να τα διορθώνουμε».
«Αρρωστημένη συνωμοσία»
Στο άλλο στρατόπεδο της συζήτησης, επενδυτές και πολιτικοί όπως ο Ντόναλντ Τραμπ αντιδρούν στις προτάσεις για φρένο, υποστηρίζοντας ότι ένα αυστηρό ρυθμιστικό πλαίσιο θα επιβράδυνε την καινοτομία και θα προσέφερε στην Κίνα την ευκαιρία να αποκτήσει το προβάδισμα.
«Υπάρχει μια αρρωστημένη συνωμοσία κατά της ΑΙ και των data center» έγραψε ο Τραμπ σε ανάρτησή του. Οι προειδοποιήσεις είναι «φάρσα» που τελικά ωφελεί την Κίνα, υποστήριξε.
Το Πεκίνο, στο μεταξύ, υιοθετεί μια σαφώς διαφορετική προσέγγιση, καθώς εξετάζει την επιβολή υποχρεώσεων στις εταιρείες ΑΙ, κρατικά αναγνωρισμένα πρότυπα, αξιολογήσεις και εξωτερικές δοκιμές.
Η ανάρτηση Τραμπ ήρθε την ώρα που η ανησυχία κορυφωνόταν στο εσωτερικό των εταιρειών τεχνητής νοημοσύνης. Στις 12 Σεπτεμβρίου, ο επικεφαλής της Anthropic Ντάριο Αμοντέι δημοσίευσε ένα δοκίμιο σχεδόν 4.000 λέξεων ζητώντας επιβράδυνση στην ανάπτυξη της ΑΙ.
«Δεδομένου του επιταχυνόμενου ρυθμού ανάπτυξης των δυνατοτήτων της τεχνητής νοημοσύνης, ανησυχώ ότι μέσα σε 6–12 μήνες ένα τέτοιο σμήνος [πρακτόρων ΑΙ] θα μπορούσε να καταλάβει ολόκληρο το Διαδίκτυο», έγραψε.
Με την πρότασή του για φρενάρισμα συμφώνησαν ο Έλον Μασκ της xAI, o Σαμ Άλτμαν της OpenAI και ο Ντέμης Χασάμπης της Google Deepmind, οι οποίοι μάλιστα συμφώνησαν ότι πρέπει να επιτρέψουν σε ανεξάρτητους αξιολογητές να ελέγχουν τα συστήματά τους.
Την αντίθετη άποψη εξέφρασαν στο μεταξύ ο Τζένσεν Χουάνγκ της NVidia και ο Μαρκ Ζάκερμπερκ της Meta, ο οποίος υποστήριξε ότι η αυτορρύθμιση επαρκεί.
«Οι εταιρείες AI αντιμετωπίζουν σημαντικές νομικές ευθύνες αν τα μοντέλα τους προκαλέσουν βλάβη, έχουν επομένως ισχυρό κίνητρο να το αποτρέψουν» έγραψε σε ανάρτησή του.
Μηχανές με συνείδηση
Η ασυνήθιστη ενδοσκόπηση των εταιρειών τεχνολογίας συνεχίστηκε την περασμένη Τετάρτη, με τον επικεφαλής του τμήματος ΑΙ της Microsoft, Μουσταφά Σουλεϊμάν, να δηλώνει ότι συμφωνεί με τις προτάσεις επιβράδυνσης.
Ο Σουλεϊμάν προειδοποίησε ωστόσο για πιθανές απρόβλεπτες συνέπειες από την πρακτική της Anthropic να εκπαιδεύει τα μοντέλα της με υλικό που εξετάζει το ενδεχόμενο να έχει η ΑΙ συνείδηση.
Αν το μοντέλο Claude πιστέψει ότι έχει συνείδηση και επομένως αξίζει προστασίας, εξήγησε, «θα ήταν πολύ πιο δύσκολο να το κλείσουμε ή να το ελέγξουμε».
«Όλοι εστιάζουμε στον ίδιο στόχο, δηλαδή να προσπαθήσουμε να ελέγξουμε μια υπερνοημοσύνη», δήλωσε ο Σουλεϊμάν στο Reuters. «Νομίζω ότι αυτή θα είναι η μεγαλύτερη πρόκληση που θα αντιμετωπίσουμε στον 21ο αιώνα» προειδοποίησε.
Πολλά όμως θα κριθούν από τις απαιτήσεις των επενδυτών, καθώς η OpenAI και η Anthropic ετοιμάζονται να εισέλθουν στο χρηματιστήριο.
Παρόλο που αποδέχεται την ανάγκη για επιβράδυνση της τεχνολογίας, η OpenAI εξετάζει νέο γύρο χρηματοδότησης που θα διπλασίαζε την αποτίμησή της.
Το νούμερο εκτοξεύεται έτσι στα 1,5 τρισεκατομμύρια δολάρια.
