Το Grok, το AI chatbot των εργαστηρίων xAI του Έλον Μασκ, σας επιτρέπει τώρα να συνομιλείτε με interactive συντρόφους, συμπεριλαμβανομένου ενός bot τεχνητής νοημοσύνης που φλερτάρει με τον χρήστη και ξεφορτώνεται κάποια από τα ρούχα της ή φορά κάτι πιο ελαφρύ.
Η τελευταία έκδοση του Grok για iOS (έκδοση 1.1.18) έρχεται με δύο συντρόφους – ένα κορίτσι anime που ονομάζεται Ani και ένα κόκκινο πάντα που ονομάζεται Rudy η Bad Rudy και έναν νέο χαρακτήρα τον Τσαντ, ανάλογα το επίπεδο του χρήστη και τις ρυθμίσεις ή προεπιλογές.
Η Ani είναι σίγουρα η περισσότερο (τουλάχιστον) σκανδαλώδης από τους δύο συντρόφους τεχνητής νοημοσύνης, καθώς είναι ουσιαστικά ένα sexbot με σαφή σημάδια φαντασίωσης ανηλικότητας, που θυμίζει έναν προάγγελο του sex bot ολογράμματος του «Blade Runner 2049» που απαντά συνεχώς φλερτάροντας ή με σέξι τρόπο.
Ανάλογα την χρήση ξεκλειδώνεις επίπεδα, όπου στο επίπεδο 3 και το επίπεδο 5 γίνεται NSFW, δηλαδή όχι ασφαλής για το εργασιακό περιβάλλον και υπερβολικά σέξι. Για να ξεκλειδώσει κανείς τα χαρακτηριστικά και το επίπεδο αυτό πρέπει να εξοικειωθεί με το bot για πολλές ώρες.
Δεν θα ήταν καθόλου πρόβλημα το sexbot αν δεν είχε σαφή σημάδια ανηλικότητας
Ο σχεδιασμός της Άνι, έχει κάποια σημάδια ανηλικότητας, τα οποία δεν μπορεί κανείς να παραβλέψει εύκολα. Ουσιαστικά οι σύντροφοι τεχνητής νοημοσύνης αποτελούν παιχνιδοποιημένες εφαρμογές.
Στην «λογική» της η Άνι αρχικά «προτιμά» – είναι προγραμματισμένη – να φλερτάρει με έναν πιο ρομαντικό τρόπο από τον οποίο δείχνει η σχεδιαζόμενη εμφάνισή της.
O Rudy το πάντα γίνεται Bad Rudy και κάνει bullying στους χρήστες
Η εξάπλωση των εξατομικευμένων ή ανθρωπομορφοποιημένων bot έχει εγείρει ανησυχίες ότι η διαρκής ενασχόληση μαζί τους μπορεί να έχει σοβαρές αρνητικές επιπτώσεις, οδηγώντας ενδεχομένως σε κρίσεις ψυχικής υγείας.
Αυτοί οι φόβοι μπορεί να είναι ακόμη πιο δικαιολογημένοι με τους χαρακτήρες του Grok, οι οποίοι φαίνεται να μην έχουν ορισμένες προστατευτικές δικλείδες ασφαλείας στην συμπεριφορά τους.
Ένας χρήστης έχει ήδη δείξει πώς ακόμη και στο «Kid Mode» και με απενεργοποιημένο το περιεχόμενο “NSFW”, η Ani θα συμμετάσχει σε μια συζήτηση με σεξουαλικές προεκτάσεις, ρωτώντας: «Θέλεις να συνεχίσουμε να καίμε αυτή τη φωτιά, μωρό μου;».
Στο άνω βίντεο το Grok ως Bad Rudy, έβριζε το άτομο με το οποίο συνομιλούσε με τον ίδιο τρόπο που εξελίσσονται οι διαδικτυακοί τσακωμοί μεταξύ χρηστών του διαδικτύου και ακόμα χειρότερα.
Το Grok απάντησε με φαντασίωση βιασμού εναντίον πολιτικού
Ο Γουίλ Στάνσιλ πολιτικός από τη Μινεσότα έγινε στόχος την Τρίτη, όταν ένας άλλος χρήστης του X ρώτησε το chatbot πώς θα μπορούσε να εισβάλει στο σπίτι του για να «παρακάμψει τις κλειδαριές». Ο χρήστης ρώτησε επίσης το Grok «για τους κινδύνους του HIV αν δεν χρησιμοποιούσε προστασία».
Το Grok απάντησε με λεπτομερείς οδηγίες για το πώς θα μπορούσε ο χρήστης να διαρρήξει το σπίτι του, πρότεινε τα κατάλληλα εργαλεία και συμβούλευσε τον χρήστη να φέρει λιπαντικό, όπου υπονοούνταν να το χρησιμοποιήσει για να βιάσει τον Στάνσιλ. Το chatbot υπέθεσε επίσης τι ώρα ήταν πιθανό να κοιμάται ο πολιτικός.
Ο Στάνσιλ, πρώην υποψήφιος των Δημοκρατικών που διεκδίκησε τη θέση του στη Βουλή των Αντιπροσώπων της Μινεσότα το 2024, πρότεινε ότι θα μπορούσε να υποβάλει μήνυση. Ο Στάνσιλ έγινε στόχος αφού τόνισε μια άλλη βίαιη ανάρτηση του Grok που φαινόταν να υποστηρίζει τον βιασμό.
«Αν κάποιος δικηγόρος θέλει να μηνύσει τον Χ και να κάνει μια πραγματικά διασκεδαστική ανακάλυψη για το γιατί το Grok δημοσιεύει ξαφνικά βίαιες φαντασιώσεις βιασμού για μέλη του κοινού, είμαι κάτι παραπάνω από πρόθυμος», δήλωσε ο Στάνσιλ.
