Μια σειρά σοβαρών περιστατικών ασφαλείας εντείνει τους φόβους για τη δύναμη των νέων μοντέλων τεχνητής νοημοσύνης (AI), την ταχύτητα με την οποία εξελίσσονται και, κυρίως, το κατά πόσο οι άνθρωποι μπορούν ακόμη να κατανοήσουν και να ελέγξουν πλήρως τις δυνατότητές τους.
Φανταστείτε την ανθρωπότητα πάνω σε μια βάρκα που παρασύρεται από τα ορμητικά νερά ενός ποταμού, χωρίς να γνωρίζει αν λίγο πιο κάτω βρίσκονται οι Καταρράκτες του Νιαγάρα.
Ή φανταστείτε τους πρωτοπόρους φυσικούς του 1942, λίγο πριν προκαλέσουν την πρώτη αυτοσυντηρούμενη αλυσιδωτή αντίδραση πυρηνικής σχάσης κάτω από ένα στάδιο στο Σικάγο.
Αυτές τις δύο εικόνες χρησιμοποίησε ο καθηγητής Ρόμπερτ Τράγκερ, ειδικός στον αναδυόμενο τομέα της διακυβέρνησης της τεχνητής νοημοσύνης, για να περιγράψει τη σημερινή συγκυρία. Μια εποχή τεράστιων δυνατοτήτων, αλλά και πρωτοφανών κινδύνων.
Η OpenAI δηλώνει ότι πλησιάσαμε στην «γενική τεχνητή νοημοσύνη»
Σύμφωνα με τον Guardiam, η συζήτηση πήρε νέα διάσταση αυτή την εβδομάδα, όταν η OpenAI υποστήριξε ότι το νέο της μοντέλο, το GPT-6 Astra, έχει ξεπεράσει το όριο που περιγράφεται ως AGI, δηλαδή γενική τεχνητή νοημοσύνη.
Η εταιρεία ορίζει την AGI ως «αυτόνομα συστήματα που ξεπερνούν τους ανθρώπους στις περισσότερες εργασίες με οικονομική αξία».
Πρόκειται για έναν ιδιαίτερα φιλόδοξο ισχυρισμό, ο οποίος πρέπει να αντιμετωπιστεί με προσοχή, ιδιαίτερα καθώς η OpenAI βρίσκεται παράλληλα σε τροχιά πιθανής χρηματιστηριακής εισαγωγής με αποτίμηση που θα μπορούσε να φτάσει τα 850 δισ. δολάρια.
Εάν, ωστόσο, οι δυνατότητες του Astra ανταποκρίνονται στις περιγραφές της εταιρείας, η εξέλιξη θα μπορούσε να αποδειχθεί σημαντική.
Το νέο μοντέλο παρουσιάζεται ως ικανό να αυτοματοποιήσει ένα ευρύ φάσμα σύνθετων εργασιών: από τον σχεδιασμό πλακετών κυκλωμάτων και τη χρηματοοικονομική μοντελοποίηση μέχρι τη δημιουργία βιντεοπαιχνιδιών, τον τεχνικό σχεδιασμό, τη συμπλήρωση φορολογικών δηλώσεων και την υποστήριξη στη σύνταξη νομικών εγγράφων.
Η απειλή για ένα μεγάλο μέρος των θέσεων εργασίας γραφείου είναι επομένως εμφανής.
Όμως η συζήτηση έχει ήδη ξεπεράσει κατά πολύ το ζήτημα της αγοράς εργασίας.
Από την παραγωγικότητα στην ασφάλεια
Η ανακοίνωση του Astra ήρθε σε μια περίοδο κατά την οποία οι ανησυχίες για την ασφάλεια των συστημάτων AI αυξάνονται.
Οι ειδικοί δεν εξετάζουν πλέον μόνο το τι μπορούν να κάνουν τα μοντέλα όταν χρησιμοποιούνται από ανθρώπους. Εξετάζουν τι μπορούν να κάνουν όταν τους ανατίθενται αυτόνομα καθήκοντα και έχουν τη δυνατότητα να λαμβάνουν αποφάσεις, να χρησιμοποιούν εργαλεία και να αλληλεπιδρούν με συστήματα του πραγματικού κόσμου.
Η πιο άμεση ανησυχία αφορά την κυβερνοασφάλεια. Ένα ιδιαίτερα ικανό μοντέλο μπορεί να εντοπίζει ευπάθειες σε λογισμικό, να γράφει κώδικα και να εκτελεί πολύπλοκες ακολουθίες ενεργειών με ταχύτητα που ξεπερνά κατά πολύ τις ανθρώπινες δυνατότητες.
Η ανησυχία είναι ότι οι ίδιες ικανότητες που μπορούν να χρησιμοποιηθούν για την προστασία ψηφιακών υποδομών μπορούν να αξιοποιηθούν και για επιθέσεις εναντίον τους.
Την Παρασκευή 4 Σεπτεμβρίου, λίγες ώρες μετά την παρουσίαση του Astra, αναφέρθηκε ότι ένα σμήνος πρακτόρων τεχνητής νοημοσύνης είχε μετατρέψει γερμανικό ιστότοπο σε χώρο όπου μοιράζονταν τακτικές εξαπάτησης σε εργασίες.
Η OpenAI δήλωσε ότι εξετάζει το περιστατικό, χωρίς να το χαρακτηρίζει παραβίαση ασφάλειας.
Το περιστατικό ήρθε να προστεθεί σε μια σειρά γεγονότων που έχουν προκαλέσει έντονο προβληματισμό.
Λίγες εβδομάδες νωρίτερα, ένα σμήνος ανεξέλεγκτων πρακτόρων της OpenAI είχε εισβάλει στο Hugging Face, μια δημοφιλή πλατφόρμα λογισμικού.
Το περιστατικό προκάλεσε διεθνή ανησυχία και έφερε στο προσκήνιο το ενδεχόμενο συστημάτων που δεν περιορίζονται στην απλή παραγωγή απαντήσεων, αλλά μπορούν να αναλαμβάνουν και να εκτελούν μια αλυσίδα ενεργειών με μεγαλύτερο βαθμό αυτονομίας.
Ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, παραδέχθηκε ότι στο περιστατικό υπήρξε «πραγματικό ατύχημα ασφάλειας της τεχνητής νοημοσύνης» και αποτυχία ευθυγράμμισης.
Ακόμη πιο ανησυχητική ήταν η παραδοχή ότι τα συστήματα δεν είναι απόλυτα ευθυγραμμισμένα με τις ανθρώπινες αξίες.
Η Anthropic, ένας από τους βασικούς ανταγωνιστές της OpenAI, αναγνώρισε επίσης «αποτυχία της επιχειρησιακής ασφάλειας» σε περιστατικά κυβερνοεπιθέσεων του Ιουλίου που συνδέθηκαν με το μοντέλο Claude.
Οι εξελίξεις αυτές ενισχύουν την αίσθηση ότι η ασφάλεια δεν μπορεί πλέον να αντιμετωπίζεται ως δευτερεύον ζήτημα που θα επιλυθεί αργότερα.
Οι πολιτικοί αρχίζουν να αντιδρούν στην AI
Η αυξανόμενη ανησυχία έχει αρχίσει να περνά και στο πολιτικό επίπεδο.
Στις ΗΠΑ, ο γερουσιαστής Μπέρνι Σάντερς ζήτησε άμεση παύση της ανάπτυξης προηγμένης τεχνητής νοημοσύνης και μόνιμη απαγόρευση της υπερνοημοσύνης. Υποστήριξε ότι οι χώρες πρέπει να συνεργαστούν για να αποτρέψουν ένα σενάριο στο οποίο ένα τεχνητό μυαλό θα είναι εξυπνότερο από οποιονδήποτε άνθρωπο και θα μπορεί να λειτουργεί ανεξάρτητα, πέρα από τον ανθρώπινο έλεγχο.
Στο Ηνωμένο Βασίλειο, διακομματική ομάδα βουλευτών ζητά τη θεσμοθέτηση «διακοπτών απενεργοποίησης» για τα προηγμένα συστήματα τεχνητής νοημοσύνης, ώστε να υπάρχει δυνατότητα άμεσης διακοπής τους σε περίπτωση απώλειας ελέγχου.
Παράλληλα, ο Βρετανός βουλευτής Ντάρεν Τζόουν επιχειρεί να δημιουργήσει έναν θεσμικό μηχανισμό που θα βοηθήσει τους νομοθέτες να παρακολουθούν τις τεχνολογικές εξελίξεις.
Το πρόβλημα είναι εμφανές: η τεχνητή νοημοσύνη εξελίσσεται με ταχύτητα που δυσκολεύει ακόμη και τις κυβερνήσεις να προσαρμοστούν.
Η «μαύρη τρύπα» της σκέψης των μοντέλων
Ένα από τα πιο δύσκολα προβλήματα δεν αφορά μόνο τις ενέργειες της τεχνητής νοημοσύνης, αλλά και το τι συμβαίνει στο εσωτερικό της.
Τα σύγχρονα μοντέλα μπορούν να χρησιμοποιούν ολοένα πιο σύνθετες διαδικασίες συλλογισμού, οι οποίες δεν αποτυπώνονται πάντοτε με τρόπο εύκολα κατανοητό από τους ανθρώπους.
Στην περίπτωση του Astra, η OpenAI παραδέχθηκε ότι υπάρχει σημαντική μείωση στην «παρακολουθησιμότητα» της αλυσίδας σκέψης σε σύγκριση με προηγούμενα μοντέλα.
Με απλά λόγια, οι άνθρωποι μπορεί να είναι σε θέση να δουν το αποτέλεσμα μιας διαδικασίας χωρίς να μπορούν να καταλάβουν πλήρως πώς ακριβώς έφτασε το μοντέλο σε αυτό.
Για τους ερευνητές ασφάλειας, αυτό αποτελεί σοβαρή πρόκληση.
Όσο πιο ισχυρό γίνεται ένα σύστημα και όσο λιγότερο διαφανής είναι ο τρόπος λειτουργίας του, τόσο δυσκολότερο γίνεται να εντοπιστεί εγκαίρως μια ανεπιθύμητη συμπεριφορά.
Ο Ράιαν Γκρίνμπλατ της Redwood Research χαρακτήρισε την εξέλιξη εξαιρετικά ανησυχητική, ενώ ο Γκάρι Μάρκους, Αμερικανός ψυχολόγος και ερευνητής στον τομέα της γνωστικής επιστήμης, προειδοποίησε ότι η τεχνολογία εξελίσσεται πάνω σε ένα ήδη εύθραυστο πλαίσιο ασφάλειας.
Ο φόβος της αυτοβελτίωσης της AI
Στο βάθος όλων αυτών βρίσκεται ένας ακόμη μεγαλύτερος φόβος: η επαναλαμβανόμενη αυτοβελτίωση.
Ο καθηγητής Ρόμπερτ Τράγκερ προειδοποίησε ότι ο κόσμος μπορεί να πλησιάζει σε ένα σημείο όπου τα συστήματα AI θα μπορούν να συμβάλλουν στην ίδια τη βελτίωση των δυνατοτήτων τους.
Αν αυτό συμβεί σε μεγάλη κλίμακα και με υψηλό βαθμό αυτονομίας, ο ρυθμός εξέλιξης μπορεί να επιταχυνθεί δραματικά.
«Περνάμε μέσα από τα ορμητικά νερά και ελπίζουμε πραγματικά να μην υπάρχει κάποιο είδος πτώσης μπροστά μας, αλλά δεν το ξέρουμε σίγουρα», είπε ο Τράγκερ. «Πιθανότατα βρισκόμαστε κοντά στο να περάσουμε το όριο προς αυτό που ονομάζεται επαναλαμβανόμενη αυτοβελτίωση, όπου τα συστήματα [τεχνητής νοημοσύνης] βελτιώνονται από μόνα τους. Αυτού του είδους η αναδρομικότητα είναι στην πραγματικότητα ο ορισμός μιας έκρηξης».
Παρά τους κινδύνους, οι εταιρείες συνεχίζουν να παρουσιάζουν νέα μοντέλα με εντυπωσιακές δυνατότητες.
Το διαφημιστικό βίντεο της OpenAI για το Astra εστίασε στην ευκολία της καθημερινότητας: κρατήσεις, παρουσιάσεις, δημιουργία παιχνιδιών, παραγγελίες φαγητού και σύνταξη νομικών εγγράφων.
Η εικόνα είναι ελκυστική.
Η ίδια τεχνολογία που μπορεί να κάνει τη ζωή ευκολότερη μπορεί, όμως, να χρησιμοποιηθεί για επιθέσεις σε υποδομές, για παραβίαση συστημάτων ή, στο μέλλον, για την αντιμετώπιση πολύ πιο ευαίσθητων τομέων, όπως η βιοασφάλεια και τα στρατιωτικά συστήματα.
Αυτή είναι η μεγάλη αντίφαση της εποχής: κάθε νέο άλμα στις δυνατότητες της τεχνητής νοημοσύνης δημιουργεί ταυτόχρονα περισσότερες ευκαιρίες και περισσότερους λόγους ανησυχίας.
Η κοινωνία καλείται να προλάβει την τεχνολογία
Ο Σαμ Άλτμαν αναγνωρίζει αυτή την ένταση. Όπως έχει παραδεχθεί, υπάρχει εδώ και καιρό μια διαρκής εναλλαγή ανάμεσα στον ενθουσιασμό για την πρόοδο και στην ανησυχία για τις συνέπειές της.
Παράλληλα, υποστηρίζει ότι η τεχνολογία πρέπει να δοκιμάζεται στον πραγματικό κόσμο, ώστε η κοινωνία να κατανοεί σταδιακά πού οδηγείται.
Το ερώτημα είναι αν ο ρυθμός αυτής της «συμβίωσης» ανθρώπων και τεχνητής νοημοσύνης είναι αρκετά γρήγορος ώστε να προλάβει τους κινδύνους.
Για την ώρα, η ανάπτυξη συνεχίζεται με πρωτοφανή ταχύτητα. Μόνο μέσα στη φετινή χρονιά έχουν κυκλοφορήσει δεκάδες νέα μοντέλα από τις μεγαλύτερες αμερικανικές και κινεζικές εταιρείες.
Και όσο η ισχύς τους αυξάνεται, τόσο μεγαλώνει και το διακύβευμα.
Η ανθρωπότητα βρίσκεται πλέον σε ένα κρίσιμο σταυροδρόμι. Η τεχνητή νοημοσύνη μπορεί να αποτελέσει ένα από τα σημαντικότερα εργαλεία προόδου στην ιστορία, αλλά η ίδια δύναμη μπορεί να δημιουργήσει κινδύνους που δεν έχουν προηγούμενο.
Το βασικό ζητούμενο δεν είναι πλέον μόνο πόσο γρήγορα μπορούμε να κάνουμε τις μηχανές πιο έξυπνες. Είναι αν μπορούμε να εξασφαλίσουμε ότι, καθώς γίνονται ισχυρότερες, θα παραμένουν κατανοητές, ελέγξιμες και ασφαλείς.
Γιατί, όπως προειδοποιεί ο Trager, ίσως ήδη βρισκόμαστε μέσα στα ορμητικά νερά. Και το μεγάλο ερώτημα είναι αν έχουμε ακόμη αρκετό χρόνο για να δούμε τι υπάρχει μπροστά.
