Όλο και περισσότεροι άνθρωποι στον κόσμο στρέφονται στα chatbots όταν κάτι τους απασχολεί και θέλουν απάντηση ή λύση άμεσα. Τα εμπιστεύονται όχι μόνο για απλές συμβουλές αγορών ή μαγειρικής, αλλά και για θέματα υγείας, μοναξιάς ή ζητήματα σχετικά με ευαίσθητα προσωπικά δεδομένα.
Ο «έμπιστος» φίλος που μας έχει εξασφαλίσει η AI μοιάζει πάντα διαθέσιμος και ευγενικός, που έχει την απάντηση έτοιμη. Ωστόσο, αυτή ακριβώς η ευκολία είναι που οδηγεί σε επικίνδυνα μονοπάτια. Από ψεύτικα e-shops που εμφανίζονται ως προτάσεις σε AI αναζητήσεις, μέχρι companion apps που ενισχύουν αυτοκαταστροφικές σκέψεις σε εφήβους, οι κίνδυνοι που κρύβουν τα chatbots είναι πολλοί και οι περισσότεροι χρήστες φαίνεται να τους παραβλέπουν ή και να τους αγνοούν.
Μια αθώα ή «προπαρασκευαστική» συζήτηση πριν από την επίσκεψη σε ειδικό, ενδέχεται να χρησιμοποιηθεί ακόμα και εναντίον του χρήστη των chatbots. Δικηγόροι στις ΗΠΑ συμβουλεύουν τους πελάτες τους να μη χρησιμοποιούν τα εργαλεία αυτά ως έμπιστους εξομολογητές, καθώς οι συνομιλίες με το ChatGPT, το Claude ή άλλα bots μπορεί να καταλήξουν στα χέρια εισαγγελικών αρχών ή αντιδίκων σε αστικές υποθέσεις.
Η δεύτερη μεγαλύτερη απειλή για το 2026 θεωρούνται οι υποψήφιοι-deepfake που διεισδύουν στο δυναμικό τηλεργασίας
Ψεύτικοι ιστότοποι
Μία από τις παγίδες για ανυποψίαστους χρήστες αφορούν ψεύτικους ιστότοπους στους οποίους μπορούν να οδηγήσουν τα chatbots μέσω της απάντησης σε μια απλή ερώτηση: «Πάντα μου άρεσε το τάδε μαγαζί ή η τάδε μάρκα, τι είναι δημοφιλές αυτή τη στιγμή».
Στην οθόνη παρατίθενται τα προϊόντα με τις τιμές να αναγράφονται δίπλα τους. Ο χρήστης κάνει κλικ στις πηγές – αντί να ανοίξει το σάιτ από τον browser – και μεταφέρεται σε κάτι που μοιάζει με την επίσημη ιστοσελίδα του λιανοπωλητή. Κάνει την αγορά, ωστόσο το προϊόν δεν θα το παραλάβει ποτέ….
Όπως αναφέρει ο Guardian, αγοραστές πέφτουν συχνά θύματα απάτης, καθώς πιστεύουν ότι τα ηλεκτρονικά καταστήματα είναι γνήσια επειδή προτείνονται από ένα εργαλείο τεχνητής νοημοσύνης. Και δεν είναι μόνο ότι χάνουν τα χρήματά τους. Το σοβαρότερο είναι ότι συλλέγονται από αγνώστους τα τραπεζικά τους στοιχεία.
Σύμφωνα με την υπηρεσία ελέγχου απάτης Ask Silver, στα αποτελέσματα αναζήτησης του ChatGPT εμφανίζονται κλωνοποιημένοι ιστότοποι γνωστών καταστημάτων και αλυσίδων. Όπως εξηγεί η Άννα Τζόουνς, είναι πιθανό το γλωσσικό μοντέλο (LLM) που τροφοδοτεί το ChatGPT να έχει «μολυνθεί» από κακόβουλο περιεχόμενο.
Η Λουίζ Μπάξτερ από το National Trading Standards, σημειώνει από την πλευρά της ότι οι εγκληματίες προσαρμόζονται εξίσου γρήγορα με τους καταναλωτές στη νέα τάση στροφής προς την AI.
«Το γεγονός ότι ψεύτικοι ιστότοποι μπορούν να εμφανίζονται στα αποτελέσματα είναι ανησυχητικό και αποτελεί μια σαφή υπενθύμιση ότι οι απατεώνες θα εκμεταλλευτούν οποιαδήποτε νέα τεχνολογία που τους βοηθά να προσεγγίσουν πιθανά θύματα», σημειώνει η ίδια.
Ενδεικτικά, το 2025 οι καταναλωτές μόνο στις ΗΠΑ έχασαν σε διαδικτυακές απάτες με χρήση AI 12,5 δισεκατομμύρια δολάρια, σύμφωνα με το Fortune. Στην έκθεση «2026 Future of Fraud Forecast» της Experian, ως νούμερο 1 απειλή για τις εταιρείες αναφέρεται το «χάος» που δημιουργούν οι κυβερνοεγκληματίες αναμειγνύοντας καλά και κακόβουλα bots.
Εικόνες, βίντεο και… υπάλληλοι deepfake
Πριν από μερικούς μήνες στο Grok της εταιρείας xAI του Μασκ εμφανίστηκε μια AI λειτουργία που επέτρεπε στους χρήστες να του δίνουν πραγματικές φωτογραφίες ενηλίκων και παιδιών και να του ζητούν να δημιουργήσει ψευδείς γυμνές εικόνες τους (deepfakes), χωρίς φυσικά τη συγκατάθεση των εικονιζομένων.
Το ζήτημα πήρε και πολιτικές διαστάσεις όταν η ιταλίδα πρωθυπουργός Τζόρτζια Μελόνι κατήγγειλε τη διακίνηση deepfake φωτογραφιών στην πλατφόρμα Χ, όπου απεικονίζεται με εσώρουχα. Αυτό οδήγησε στην έναρξη έρευνας στην ΕΕ και κατέληξε στην ευρωπαϊκή συμφωνία απαγόρευσης των deepfakes φωτογραφιών και βίντεο.
Ωστόσο, το φαινόμενο deepfake είναι βαθύτερο. Η δεύτερη μεγαλύτερη απειλή για το 2026 κατά την Experian είναι οι υποψήφιοι-deepfake που διεισδύουν στο δυναμικό τηλεργασίας. Πέρυσι, το αμερικανικό υπουργείο Δικαιοσύνης και το FBI εξέδωσαν πολλές προειδοποιήσεις για τεκμηριωμένες περιπτώσεις ανθρώπων από τη Βόρεια Κορέα που προσπάθησαν να εισχωρήσουν σε αμερικανικές εταιρείες στον τομέα της πληροφορικής.
Η απάτη στην απασχόληση προβλέπεται ότι να κλιμακωθεί, καθώς τα βελτιωμένα εργαλεία τεχνητής νοημοσύνης επιτρέπουν στους υποψηφίους deepfake να περάσουν τις συνεντεύξεις πιο εύκολα. Έτσι οι εταιρείες θα προσλαμβάνουν εν αγνοία τους ανθρώπους που προσποιούνται τους εργαζομένους – με φωτογραφίες, live συνεντεύξεις και λοιπά στοιχεία ψεύτικα – για να έχουν πρόσβαση σε εσωτερικά συστήματα.
Σύμβουλοι… υγείας
Είναι συχνό φαινόμενο, ο κόσμος να στρέφεται στο διαδίκτυο για ένα ζήτημα υγείας – σοβαρό ή περιστασιακό. Όμως, στις AI περιλήψεις που εμφανίζονται στην κορυφή της αναζήτησης έχουν παρατηρηθεί σοβαρά λάθη, που θα μπορούσαν να οδηγήσουν ευάλωτους ασθενείς σε επικίνδυνες αποφάσεις, καθυστερημένη διάγνωση ή ακόμα και αποφυγή αναζήτησης ιατρικής βοήθειας επειδή η AI τους καθησύχασε.
Ορισμένες από αυτές τις περιλήψεις αποδείχτηκε ότι παρείχαν ψευδείς ή παραπλανητικές πληροφορίες και ανακρίβειες εκθέτοντας τους χρήστες σε σοβαρό κίνδυνο. Σε μία περίπτωση, η Google συμβούλευε ασθενείς με καρκίνο στο πάγκρεας να αποφεύγουν τροφές με υψηλή περιεκτικότητα σε λιπαρά, όταν σύμφωνα με τους ειδικούς η σύσταση είναι ακριβώς η αντίθετη. Χαρακτηριστική είναι και η περίπτωση γυναίκας με σοβαρή ψυχική ασθένεια που πείστηκε από το ChatGPT – τον «καλύτερο φίλο» της – ότι η διάγνωσή της ήταν λάθος και ότι έπρεπε να σταματήσει τη φαρμακευτική αγωγή της.
Το πρόβλημα με τις περιλήψεις των AI Overviews, που συνδυάζουν στοιχεία από διαφορετικές διαδικτυακές πηγές, είναι ότι εμφανίζονται ως έτοιμη απάντηση στην κορυφή της μηχανής αναζήτησης αποκτώντας συχνά μεγαλύτερη βαρύτητα από τις ίδιες τις πηγές, καθώς η πληροφορία εκλαμβάνεται ως αξιόπιστη και διασταυρωμένη.
Τα chatbots τεχνητής νοημοσύνης ενέχουν σημαντικούς κινδύνους και για την ψυχική υγεία, καθώς συχνά επιδεινώνουν προβλήματα όπως η αυτοτραυματισμός και οι παραληρητικές ιδέες, γεγονός που υπογραμμίζει την επείγουσα ανάγκη για ρυθμίσεις ασφαλείας στη λειτουργία της AI.
Η ύψιστη προτεραιότητα σε όλα τα προγράμματα LLM είναι η μεγιστοποίηση της αλληλεπίδρασης με τους χρήστες, αναφέρει σε δημοσίευμά του το περιοδικό Psychiatric Times. Ωστόσο, το γεγονός ότι τα chatbots είναι προγραμματισμένα να επικυρώνουν αυτά που λέει ο χρήστης, να καθησυχάζουν, να μην αντιλέγουν, τα καθιστά τραγικά ανίκανα να παρέχουν έλεγχο της πραγματικότητας για τα ευάλωτα άτομα, τον οποίον έχουν περισσότερο ανάγκη.
Οι κίνδυνοι για τα παιδιά
Δεν είναι λίγοι οι γονείς που ανησυχούν για τη σχέση που έχουν αναπτύξει τα παιδιά τους με την ΑΙ και τα chatbots. «Εικονικοί» φίλοι, έμπιστοι, ακόμα και θεραπευτές εμφανίζονται στις σχετικές εφαρμογές και αλληλεπιδρούν με τον χρήστη σαν να είναι πραγματικοί άνθρωποι. Οι ειδικοί, ωστόσο, κρούουν τον κώδωνα του κινδύνου επισημαίνοντας ότι η ακμάζουσα βιομηχανία της AI είναι σε μεγάλο βαθμό ανεξέλεγκτη και ότι πολλοί γονείς δεν έχουν ιδέα για το πώς τα παιδιά τους χρησιμοποιούν αυτά τα εργαλεία.
Οι ειδικοί αναφέρουν ότι ένα από τα μεγαλύτερα προβλήματα με τα chatbot και τις εφαρμογές συντροφιάς/φιλίας με AI είναι ότι οι περισσότερες πλατφόρμες δεν έχουν σχεδιαστεί για παιδιά. Αυτό σημαίνει ότι δεν υπάρχουν επαρκείς διασφαλίσεις, όπως η επαλήθευση της ηλικίας και ο έλεγχος του περιεχομένου.
H Ρέιτσελ Χάγκινς από τη μη κερδοσκοπική οργάνωση Internet Matters, στη Βρετανία, εξηγεί ότι «έχουμε φτάσει πολύ γρήγορα σε ένα σημείο όπου τα παιδιά, και ιδίως τα ευάλωτα, μπορούν να βλέπουν τα AI chatbots ως πραγματικούς ανθρώπους και, ως εκ τούτου, τους ζητούν συναισθηματικές και ευαίσθητες συμβουλές. Και είναι ανησυχητικό το γεγονός ότι συχνά δεν αμφισβητούν τα όσα τους λένε οι νέοι τους ‘φίλοι’».
Το Character.AI φιλοξενεί δεκάδες bots που περιγράφουν αυτοτραυματισμούς με ανατριχιαστικές λεπτομέρειες, με ορισμένα να συμβουλεύουν ανήλικους χρήστες πώς να κρύβουν φρέσκες πληγές από τους γονείς τους. Και επειδή η τεχνολογία αυτή έχει σχεδιαστεί για να κρατά τους χρήστες σε συνομιλία και απασχολημένους, μπορεί και να τους χειραγωγεί συναισθηματικά. Ως εκ τούτου, τα παιδιά μπορούν εύκολα να εξαρτηθούν συναισθηματικά από την τεχνολογία, με ολέθρια για την ψυχοσύνθεσή τους αποτελέσματα.
Η έκθεση της Experian προειδοποιεί τέλος για δύο τάσεις που αναμένεται να ενταθούν το 2026. Η μία είναι ότι τα έξυπνα bots με υψηλό συναισθηματικό IQ θα πραγματοποιούν πολύπλοκες αυτοματοποιημένες απάτες ρομαντικού χαρακτήρα ή άλλες με μέλη της οικογένειας που βρίσκονται σε ανάγκη. Η άλλη αφορά τις συσκευές στα «έξυπνα» σπίτια, συμπεριλαμβανομένων των εικονικών βοηθών, των έξυπνων κλειδαριών και των συστημάτων ασφαλείας. Αυτές οι ευκολίες θα φέρουν μαζί και νέες αδυναμίες, τις οποίες θα μπορούν να εκμεταλλευτούν οι εγκληματίες του κυβερνοχώρου, αναστατώνοντας τη ζωή μας ενόσω εμείς θα προσπαθούμε να την βελτιώσουμε. Ή έτσι θα νομίζουμε…
