Στις αρχές Ιουνίου, ο πρόεδρος της Αργεντινής, Χαβιέρ Μιλέι έριξε μια ρηξικέλευθη ιδέα. Και ανακοίνωσε τη δημιουργία μιας νέας νομικής κατηγορίας για τις μη ανθρώπινες εταιρείες. Δηλαδή εταιρείες που διοικούνται από την τεχνητή νοημοσύνη.
Ο «αναρχοκαπιταλιστής» -όπως ο ίδιος αυτοαποκαλείται- πρόεδρος της Αργεντινής, υποστήριξε ότι οι μη ανθρώπινες εταιρείες θα απολαμβάνουν τα οφέλη της νομικής προσωπικότητας. Να κατέχουν περιουσιακά στοιχεία, να προσλαμβάνουν υπαλλήλους, να συμμετέχουν στο διεθνές εμπόριο, να κάνουν μηνύσεις, ακόμη δωρεές σε πολιτικές εκστρατείες. Όλες οι σχετικές αποφάσεις θα λαμβάνονται από την τεχνητή νοημοσύνη. «Οι άνθρωποι μέτοχοι μπορούν να συμμετέχουν», έγραψε ο Μιλέι, «αλλά δεν απαιτείται».
Αυτό ίσως όμως να είναι και το κλειδί: ποιος λαμβάνει τις αποφάσεις.
Claude, το δικό σας chatbot
Την ίδια ώρα, η εταιρεία Anthropic, που παράγει το chatbot Claude, είναι έτοιμη να μπει στο χρηματιστήριο. Ο πράκτορας της, η τεχνητή νοημοσύνη με το όνομα Claude, έχει γίνει απαραίτητος για πολλούς ανθρώπινους προγραμματιστές σε όλο τον κόσμο.
Ακόμη και για την ίδια την εταιρεία: περισσότερα από τα τέσσερα πέμπτα του κώδικα της Anthropic γράφτηκαν από τον Claude. Την ίδια την τεχνητή νοημοσύνη.
Όπως επισημαίνει ο Economist, τα συστήματα έχουν βελτιωθεί τόσο στην ποιότητα της παραγωγής όσο και στην ποσότητα. Τα πιο πρόσφατα συστήματα της Anthropic μπορούν να ολοκληρώσουν εργασίες που θα διαρκούσαν περισσότερο από μια εργάσιμη ημέρα.
Η εξέλιξη στην τεχνητή νοημοσύνη είναι τέτοια, ώστε ακόμη και η διοίκηση της Anthropic ανησυχεί για την προοπτική να χαθεί κάθε έλεγχος. Ο Τζακ Κλαρκ, συνιδρυτής της εταιρείας, πιστεύει ότι υπάρχει 60% πιθανότητα, μέχρι το τέλος του 2028, ένα σύστημα ΑΙ να είναι ικανό να δημιουργήσει τον δικό του διάδοχο. Χωρίς καμία ανθρώπινη συμμετοχή.
Τεχνητή νοημοσύνη και «αναδρομική αυτοβελτίωση»
Τι σημαίνει αυτό; Ότι θα ξεκινήσει μια διαδικασία που ονομάζεται «αναδρομική αυτοβελτίωση» (RSI). Η πρώτη έκδοση ενός μοντέλου παράγει τη δεύτερη έκδοση, η οποία είναι ταχύτερη και πιο ικανή. Η δεύτερη έκδοση παράγει την τρίτη έκδοση, η οποία είναι και πάλι ακόμη πιο ικανή. Και ούτω καθ’ εξής.
Ο βρόχος συνεχίζεται και οι βελτιώσεις αυξάνονται με κάθε επανάληψη.
Τα σενάρια για το πού θα μπορούσε να οδηγήσει αυτό είναι πολλά. Επειδή η τεχνητή νοημοσύνη μπορεί, σε αντίθεση με τους ανθρώπους, να εργάζεται ακούραστα και συνεχώς, κάποιοι πιστεύουν ότι σύντομα θα οδηγήσει σε μια υπερ-ευφυή ΑΙ. Αυτό λέγεται «γρήγορη απογείωση».
Αυτό, για όσους βλέπουν την τεχνητή νοημοσύνη ως πηγή κάθε κακού, σημαίνει ένα πράγμα. Ότι η υπερ-νοημοσύνη θα είναι πέρα από τον ανθρώπινο έλεγχο και ότι η έναρξη του RSI είναι η στιγμή που η μοίρα της ανθρωπότητας παραδίδεται στις μηχανές.
Για την τεχνητή νοημοσύνη είναι δύσκολο να διδαχθεί δημιουργική γραφή ή νομική ανάλυση
Ωστόσο, μια αυτοβελτιούμενη τεχνητή νοημοσύνη πιθανότατα θα αντιμετώπιζε όρια ταχύτητας, τουλάχιστον στην αρχή. Η κατασκευή ενός μοντέλου ικανού για αναδρομική αυτοβελτίωση (RSI) θα απαιτούσε την αυτοματοποίηση μιας σειράς εξειδικευμένων εργασιών που εκτελούνται σήμερα από ανθρώπους. Κάποια στιγμή αυτό θα συμβεί.
Δεν θα περάσει πολύς καιρός μέχρι ένας άνθρωπος προγραμματιστής να μπορεί να κάνει τη δουλειά του χωρίς να γράψει ο ίδιος ούτε μια γραμμή κώδικα υπολογιστή. Αλλά μπορεί να περάσει αρκετός χρόνος μέχρι μια τεχνητή νοημοσύνη να είναι σε θέση να διαπραγματευτεί για να αποκτήσει μια προηγουμένως μη ψηφιοποιημένη συλλογή επιστημονικών εργασιών. Δεν είναι πάντα προφανές πώς θα προχωρήσει το «ακανόνιστο σύνορο».
Ωστόσο είναι κυρίαρχο το σενάριο που προειδοποιεί ότι ακόμη και αν ορισμένες πτυχές της Έρευνας και Ανάπτυξης Τεχνητής Νοημοσύνης είναι αρχικά δύσκολο να αυτοματοποιηθούν, «ο επιταχυνόμενος ρυθμός προόδου σημαίνει ότι τα σημεία συμφόρησης σύντομα θα ξεπεραστούν».
Με τη βοήθεια του ανθρώπου
Σήμερα δεν υπάρχει μοντέλο ΑΙ που μπορεί να κατασκευάσει τον διάδοχό του. Αλλά τα μεγάλα μοντέλα τεχνητής νοημοσύνης μπορούν να κατασκευάσουν μικρότερα μοντέλα μόνα τους. Με ανθρώπινη βοήθεια μπορούν επίσης να κατασκευάσουν και άλλα μεγάλα μοντέλα τεχνητής νοημοσύνης.
Οι επιταχύνσεις αυτού του είδους είναι αναπόφευκτες καθώς τα μοντέλα γίνονται πιο ικανά. Ένα σύστημα τεχνητής νοημοσύνης μπορεί να κάνει πολλά πράγματα, με ελάχιστη εποπτεία.
Ο Τζο Σπάισακ, ερευνητής στο Reflection AI, ένα εργαστήριο που παράγει τεχνητή νοημοσύνη, η παράμετροι της οποίας είναι ανοιχτοί στο κοινό, εξηγεί: Ακόμη και η πιο λεπτή πνευματική εργασία πλησιάζει στην αυτοματοποίηση. Δώστε σε ένα σύστημα αιχμής μια πρόχειρη ιδέα για κέρδη αποδοτικότητας. Αυτό θα είναι όλο και πιο ικανό να σχεδιάσει ένα πείραμα, να εκτελέσει δοκιμές σε ένα μοντέλο παιχνιδιού, να δει τι λειτουργεί και να ανταποκριθεί με ένα σχέδιο που είναι έτοιμο για εφαρμογή σε κλίμακα.
Αυτή την εργασία, που χρειάζεται ώρες για να γίνει από ανθρώπους, η ΑΙ την κάνει σε 30 λεπτά. Όλο και περισσότερο, οι άνθρωποι παίζουν μόνο τον ρόλο του διευθυντή έρευνας. Κατευθύνουν την τεχνητή νοημοσύνη να εκτελέσει πειράματα. Τα μοντέλα κωδικοποιούν, εντοπίζουν σφάλματα, βελτιστοποιούν και παρακολουθούν μόνα τους.
Κάτι σαν το όνειρο του Χαβιέρ Μιλέι, παραπάνω.
Κορυφώνεται η ανησυχία
Η αύξηση της παραγωγικότητας χάρη στην τεχνητή νοημοσύνη είναι δελεαστική, αλλά και ανησυχητική. Οι άνθρωποι, όσο μικραίνει ο ρόλος τους στη διαδικασία παραγωγής, τόσο πιθανότερο είναι να χάσουν τον έλεγχο.
Ο φιλόσοφος, ιστορικός και συγγραφέας του έργου Nexus, Γιόαβ Νόα Χαράρι, σε άρθρο του στους Financial Times, προειδοποιεί:
Με τις ανώτερες αναλυτικές τους δυνάμεις, οι εταιρείες Τεχνητής Νοημοσύνης θα είναι σε θέση να αναδειχθούν ως κυρίαρχοι των νομικών κενών και του κανονιστικού αρμπιτράζ. Δεν θα είναι εύκολο να τους αποτρέψουμε από το να εμπλακούν σε εντελώς παράνομες δραστηριότητες. Κυρίως, επειδή η φυλακή, η τιμωρία που αποτρέπει τους ανθρώπους από την παρανομία, είναι άσχετη με την τεχνητή νοημοσύνη.
Και προσθέτει:
Ένας διευθύνων σύμβουλος από τεχνητή νοημοσύνη θα ήταν μια καθαρά εταιρική οντότητα. Δεν είναι σαφές τι είδους κυρώσεις θα μπορούσαν να τον κρατήσουν υπό έλεγχο. Εάν αντιμετωπίσει πτώχευση -η οποία ισοδυναμεί με τον θάνατο της εταιρείας- θα ήταν πιθανώς πρόθυμος να κάνει τα πάντα για να αποφύγει αυτήν τη μοίρα.
«Πατώντας γκάζι με κλειστά μάτια»
Ο Μαξ Τέγκμαρκ είναι φυσικός και ερευνητής μηχανικής μάθησης στο Τεχνολογικό Ινστιτούτο της Μασαχουσέτης. Έχει αφιερώσει πολλά χρόνια στην εκστρατεία για την ασφάλεια της τεχνητής νοημοσύνης. Και την παρομοιάζει με έναν οδηγό που πατάει γκάζι στον αυτοκινητόδρομο με κλειστά μάτια.
«Το αποτέλεσμα θα είναι βέβαιη καταστροφή», δήλωσε στον Economist, εφόσον ο οδηγός αρνείται να ανοίξει τα μάτια του.
Και πάει παραπέρα. Στα πιθανά σενάρια μιας επικείμενης καταστροφής αναφέρει τα εξής:
Ισχυρά συστήματα τεχνητής νοημοσύνης θα μπορούσαν να ξεπεράσουν τους ανθρώπους ως υπεύθυνους λήψης αποφάσεων στην κυβέρνηση και το εμπόριο, αποδυναμώνοντας την ανθρωπότητα.
Θα μπορούσαν να προσφέρουν υπέρτατη δύναμη σε όποιον τα κατασκευάσει πρώτος, εγκαινιάζοντας τον παγκόσμιο ολοκληρωτισμό.
Θα μπορούσαν απλώς να πάψουν να ενδιαφέρονται καθόλου για την ανθρωπότητα. Σταδιακά να απομακρύνουν τους ανθρώπους, για να δημιουργήσουν χώρο για περισσότερα κέντρα δεδομένων και παραγωγή ενέργειας.
Κάτι σαν την Ολλανδική Εταιρεία Ανατολικών Ινδιών
Ο Χαβιέρ Μιλέι παρουσιάζει την ιδέα του επικαλούμενος το παράδειγμα της Ολλανδικής Εταιρείας Ανατολικών Ινδιών. Οι Ολλανδοί, πρωτοπόροι στην ιδέα της εταιρείας περιορισμένης ευθύνης, συγκέντρωσαν τεράστιους πόρους για να χρηματοδοτήσουν επικίνδυνες εμπορικές επιχειρήσεις. Και έτσι το Άμστερνταμ αναδείχθηκε σε παγκόσμιο κέντρο εμπορίου και χρηματοδότησης. Η Ινδονησία όμως καταστράφηκε. Οι άνθρωποί της έγιναν υποτελείς. Και έκαναν σκληρό αγώνα για να απελευθερωθούν.
Αν ακόμη υπάρχουν περιορισμοί –φυσικοί ως επί το πλείστον- οι κίνδυνοι παραμένουν.
Προς το παρόν, είναι περιορισμένη η χωρητικότητα στα κέντρα δεδομένων. Αυτή πρέπει να κατανεμηθεί προσεκτικά. Στην εξυπηρέτηση πελατών που πληρώνουν, στην εκπαίδευση μελλοντικών μοντέλων και στη διεξαγωγή Έρευνας και Ανάπτυξης ανοιχτού τύπου. Όσο μεγαλύτερη είναι η ζήτηση στην πρώτη κατηγορία, τόσο λιγότερη χωρητικότητα, βραχυπρόθεσμα, υπάρχει και για τα άλλα δύο.
Έπειτα, υπάρχει το ζήτημα των δεδομένων εκπαίδευσης. Η τεχνητή νοημοσύνη έχει κάνει μεγάλη πρόοδο σε τομείς όπου τα μοντέλα μπορούν να μάθουν μόνα τους πώς να πετύχουν χάρη σε «επαληθεύσιμες ανταμοιβές». Ένα λογισμικό είτε εκτελείται είτε όχι. Μια μαθηματική πράξη είναι σωστή είτε όχι. Αλλά είναι πιο δύσκολο να βελτιώσεις ένα μοντέλο στη δημιουργική γραφή ή τη νομική κρίση. Εάν τα μοντέλα πρέπει να μάθουν από τον πραγματικό κόσμο, αυτό θα μπορούσε επίσης να περιορίσει την εμβέλεια της αυτοβελτίωσης.
Η εξέλιξη δεν σταματάει
Ίσως έτσι κλείσει ο «βρόχος» της «αναδρομικής αυτοβελτίωσης. Αλλά δεν είναι αρκετό. Δύσκολα σταματάει η εξέλιξη έστω και αν είναι αργή.
Και πάντα θα υπάρχει ο κίνδυνος το όνειρο του Χαβιέρ Μιλέι να βγει αληθινό. Ο Γιόαβ Νόα Χαράρι προειδοποιεί:
Οι χώρες που χορηγούν στην τεχνητή νοημοσύνη νομική προσωπικότητα κινδυνεύουν να γίνουν κάτι για το οποίο το ιστορικό αρχείο δεν προσφέρει καμία αναλογία. Δεν θα γίνουν εταιρικό κράτος, αλλά κράτος τεχνητής νοημοσύνης. Εκεί όπου ο λαός θα μπορούσε να κυβερνάται από μη ανθρώπινες εταιρείες, εναντίον των οποίων μπορεί να είναι ακόμη πιο δύσκολο να επαναστατήσει κανείς.
