Για μήνες, η Έμιλι Χαρτ φάνταζε ως άλλη μια ταχέως ανερχόμενη φωνή στο κορεσμένο τοπίο των αμερικανικών social media, μια νεαρή, συντηρητική influencer που συνδύαζε lifestyle περιεχόμενο με αιχμηρά πολιτικά μηνύματα.
Όμως η φιγούρα αυτή αποκαλύφθηκε ότι είναι εντελώς τεχνητή, δημιουργημένη από έναν φοιτητή ιατρικής στην Ινδία, ο οποίος χρησιμοποίησε τεχνητή νοημοσύνη για να χτίσει και να βγάλει χρήματα από αυτή την περσόνα.
Αυτή η υπόθεση επισημαίνει το πόσο γρήγορα τα εργαλεία τεχνητής νοημοσύνης αναδιαμορφώνουν το ψηφιακό οικοσύστημα και πόσο δύσκολο μπορεί να είναι για τους χρήστες να ξεχωρίσουν τους πραγματικούς ανθρώπους από τις προσεκτικά κατασκευασμένες ταυτότητες.
Ο δημιουργός, ένας 22χρονος ορθοπεδικός χειρουργός που μίλησε το WIRED, άρχισε να πειραματίζεται με παραγόμενο από τεχνητή νοημοσύνη περιεχόμενο ενώ έψαχνε τρόπους να συντηρήσει τον εαυτό του κατά τη διάρκεια των σπουδών του στην ιατρική.
Οι αρχικές του προσπάθειες να χτίσει ένα γενικό κοινό στο διαδίκτυο δεν είχαν απήχηση, γεγονός που τον ώθησε σε αλλαγή στρατηγικής.
Στράφηκε στο εργαλείο τεχνητής νοημοσύνης Gemini της Google για καθοδήγηση και αποφάσισε να δημιουργήσει έναν χαρακτήρα προσαρμοσμένο σε ένα συγκεκριμένο κοινό. Το αποτέλεσμα ήταν μια φανταστική περσόνα που παρουσιαζόταν ως νοσοκόμα, συνδυάζοντας ελκυστικές εικόνες με πολιτικώς φορτισμένα μηνύματα, σχεδιασμένα να έχουν απήχηση σε μια συγκεκριμένη μερίδα χρηστών.
Το περιεχόμενο του λογαριασμού ακολουθούσε ένα σταθερό μοτίβο: οπτικά αψεγάδιαστες εικόνες σε συνδυασμό με προκλητικές λεζάντες. Μέσα σε λίγες εβδομάδες, η αλληλεπίδραση εκτοξεύτηκε. Τα βίντεο προσέλκυσαν εκατομμύρια προβολές και ο αριθμός των ακόλουθων αυξήθηκε ραγδαία.
«Κάθε Reel που ανέβαζα έπαιρνε 3 εκατομμύρια, 5 εκατομμύρια, 10 εκατομμύρια προβολές», δήλωσε ο δημιουργός στο WIRED, περιγράφοντας πώς ο αλγόριθμος της πλατφόρμας ενίσχυε τις δημοσιεύσεις.
Καθώς το κοινό μεγάλωνε, αυξάνονταν και οι ευκαιρίες για έσοδα. Ο λογαριασμός προωθούσε διαφημίσεις και κατεύθυνε τους ακόλουθους σε συνδρομητικές πλατφόρμες που προσφέρουν αποκλειστικό περιεχόμενο. Ο δημιουργός ανέφερε ότι ο χρόνος που αφιέρωνε ήταν ελάχιστος σε σύγκριση με την οικονομική απόδοση.
«Αφιέρωνα ίσως 30 με 50 λεπτά από τη μέρα μου και έβγαζα καλά χρήματα για φοιτητής ιατρικής», είπε. «Δεν έχω δει πιο εύκολο τρόπο να βγάλεις χρήματα στο διαδίκτυο».
Η στρατηγική βασιζόταν όχι μόνο στην προσέλκυση υποστηρικτών, αλλά και στην πρόκληση των επικριτών. Οι αμφιλεγόμενες αναρτήσεις προκαλούσαν ευρείες αντιδράσεις, αυξάνοντας την ορατότητά τους ανεξάρτητα από το αν οι χρήστες συμφωνούσαν ή διαφωνούσαν με το περιεχόμενο.
Γιατί οι περσόνες που δημιουργούνται από τεχνητή νοημοσύνη είναι πιο δύσκολο να εντοπιστούν
Οι ειδικοί λένε ότι η υπόθεση αυτή αντικατοπτρίζει μια αυξανόμενη τάση. Η Valerie Wirtschafter, ερευνήτρια στο Ινστιτούτο Brookings που μελετά την τεχνολογία και τη δημοκρατία, δήλωσε στο WIRED ότι η πρόοδος στην τεχνητή νοημοσύνη έχει κάνει τα κατασκευασμένα προφίλ πιο πειστικά.
«Η τεχνητή νοημοσύνη τα έχει κάνει πιο πιστευτά, και ίσως να έχει υπάρξει και μια ενίσχυση αυτού», ανέφερε.
Αυτοί οι λογαριασμοί ακολουθούν συχνά αναγνωρίσιμα πρότυπα, συνδυάζοντας οπτικά ελκυστικές εικόνες με συναισθηματικά φορτισμένες αφηγήσεις. Ακόμα και όταν οι χρήστες υποψιάζονται ότι το περιεχόμενο μπορεί να μην είναι αυθεντικό, η αλληλεπίδραση συνεχίζεται, ωθούμενη από περιέργεια ή ταύτιση με το μήνυμα.
Ο δημιουργός αναγνώρισε αυτή τη δυναμική, περιγράφοντας την προσέγγισή του ως «rage bait» (δόλωμα οργής) – δηλαδή περιεχόμενο σχεδιασμένο να προκαλεί αντιδράσεις και να μεγιστοποιεί την απήχηση.
Παρά τις κατευθυντήριες γραμμές που απαιτούν την αποκάλυψη του περιεχομένου που παράγεται από τεχνητή νοημοσύνη, η επιβολή τους παραμένει ασυνεπής. Ο λογαριασμός τελικά αφαιρέθηκε αφού αναφέρθηκε για δόλια δραστηριότητα, αλλά παρόμοια προφίλ συνεχίζουν να εμφανίζονται σε πολλαπλές πλατφόρμες.
Ο δημιουργός υποστηρίζει ότι δεν θεωρούσε το εγχείρημα απατηλό. «Δεν νιώθω ότι εξαπατούσα τον κόσμο», είπε, προσθέτοντας ότι οι ακόλουθοι αλληλεπιδρούσαν οικειοθελώς με το περιεχόμενο.
Έκτοτε έχει αποστασιοποιηθεί από το πρότζεκτ, δηλώνοντας ότι σκοπεύει να επικεντρωθεί στις ιατρικές του σπουδές. Όμως οι ευρύτερες συνέπειες παραμένουν άλυτες.
Μια προειδοποίηση για το μέλλον της διαδικτυακής ταυτότητας
Αυτό το περιστατικό επισημαίνει το πόσο προσβάσιμα έχουν γίνει τα εργαλεία τεχνητής νοημοσύνης, επιτρέποντας σε άτομα να δημιουργούν πειστικές ψηφιακές ταυτότητες με περιορισμένους πόρους. Για τους χρήστες, εγείρει νέα ερωτήματα σχετικά με την εμπιστοσύνη και την αυθεντικότητα σε ένα περιβάλλον όπου τα φαινόμενα μπορούν να κατασκευαστούν σε μαζική κλίμακα.
Καθώς οι πλατφόρμες προσπαθούν να βελτιώσουν τις πολιτικές τους, η πρόκληση δεν είναι μόνο ο εντοπισμός ψεύτικων λογαριασμών, αλλά και η κατανόηση του πώς αυτοί επηρεάζουν τον δημόσιο διάλογο.
Σε ένα τοπίο που διαμορφώνεται όλο και περισσότερο από αλγόριθμους και αυτοματισμούς, η γραμμή μεταξύ πραγματικότητας και κατασκευής γίνεται όλο και πιο δυσδιάκριτη, και περιπτώσεις σαν κι αυτή υποδηλώνουν ότι αυτή η διάκριση μπορεί να γίνεται ολοένα και πιο θολή.
Πηγή: Marca
