Γράφει η Καβαλιώτη Δανάη, Κοινωνιολόγος, Εγκληματολόγος (MSc), Επικεφαλής Ερευνών και Εκπαιδευτικών Προγραμμάτων CSI Institute.
Όταν η τεχνητή νοημοσύνη μαθαίνει να μιλά τη γλώσσα μας, η εξαπάτηση δεν είναι απαραίτητο πια να μοιάζει με απάτη.
Ας υποθέσουμε ότι λαμβάνετε ένα μήνυμα από έναν συνεργάτη. Αναφέρεται σε ένα πρόσφατο επαγγελματικό ζήτημα, χρησιμοποιεί εκφράσεις που είναι οικείες και ζητά μια φαινομενικά λογική και μικρή εξυπηρέτηση. Ορθογραφικά λάθη δεν υπάρχουν, περίεργες διατυπώσεις ή εμφανείς λόγοι ανησυχίας. Το μήνυμά του μοιάζει απολύτως φυσιολογικό. Και εκεί ακριβώς είναι το πρόβλημα.
Η τεχνητή νοημοσύνη έχει φτάσει σε σημείο να είναι πειστική και επαναλαμβάνεται πολύ πιο εύκολα, καθώς δεν μπορεί να δημιουργήσει την εξαπάτηση από το μηδέν. Η παλιά εικόνα του απατεώνα πους στέλνει το ίδιο κακογραμμένο μήνυμα σε χιλιάδες ανθρώπους αρχίζει να υποχωρεί δραστικά. Αντ αυτού εμφανίζεται μια πραγματικότητα αρκετά πιο σύνθετη, μέσα στην οποία το μήνυμα μπορεί να είναι προσαρμοσμένο στον άνθρωπο που το διαβάζει.
Δεν εξαπατούν όλοι με τον ίδιο τρόπο
Στην εγκληματολογία, η εξαπάτηση εξετάζεται ως διαδικασία επηρεασμού της ανθρώπινης συμπεριφοράς και ως τεχνική παραβίασης. Το λεγόμενο Social Engineering (Κοινωνική Μηχανική) βασίζεται στην εκμετάλλευση της εμπιστοσύνης, της αυθεντίας, του φόβου, της αίσθησης του επείγοντος. Ο δράσης πλέον αρκεί να πείσει έναν άνθρωπο να κάνει ο ίδιος αυτό που επιδιώκει, χωρίς απαραίτητα να παραβιάσει κάποιο σύστημα.
Η τεχνητή νοημοσύνη έρχεται να αναβαθμίσει αυτή τη διαδικασία, βοηθώντας στη σύνταξη πειστικών μηνυμάτων, στην προσαρμογή του ύφους, στη μετάφραση σε οποιαδήποτε γλώσσα ο δράστης επιθυμεί καθώς επίσης στην αξιοποίηση των πληροφοριών που είναι ήδη διαθέσιμες στο διαδίκτυο. Η επαγγελματική ανάρτηση στο LinkedIn, το δημόσιο προφίλ, η συζήτηση στα μέσα κοινωνικής δικτύωσης, μπορούν να αποκαλύψουν ενδιαφέροντα, επαγγελματικές σχέσεις και πρόσφατες δραστηριότητες για εκείνον που ενδιαφέρεται να μάθει. Όταν οι πληροφορίες αυτές συνδυαστούν, προσφέρουν το κατάλληλο πλαίσιο προκειμένου να γίνει σωστά και στοχευμένα η προσέγγιση.
Η έρευνα των Schmitt και Flechais, δημοσιεύθηκε το 2024 στο Artificial Intelligence Review και περιέγραψε τους τρεις βασικούς τρόπους με τους οποίους η παραγωγική τεχνητή νοημοσύνη ενισχύει την κοινωνική μηχανική: 1)δημιουργία ρεαλιστικού περιεχομένου, 2) εξατομίκευση της προσέγγισης, 3) αυτοματοποίηση της επικοινωνίας. Με πιο απλά λόγια, ο δράστης μπορεί να προσεγγίσει περισσότερους ανθρώπους, ενώ ταυτόχρονα δεν χρειάζεται να καταβάλει για τον κάθε ένα ξεχωριστά την ίδια προσπάθεια.
Εδώ ακριβώς έχουμε την ουσιαστική αλλαγή. Δεν χρειάζεται ο δράστης να γνωρίζει προσωπικά το θύμα. Αρκεί να διαθέτει αρκετές πληροφορίες για να κατασκευάσει μια ιστορία που να ταιριάζει στην ζωή των θυμάτων του.
Το ευάλωτο σημείο δεν είναι η εξυπνάδα
Γιατί όμως ένας άνθρωπος που γνωρίζει τους κινδύνους του διαδικτύου, μπορεί να εξαπατηθεί το ίδιο εύκολα με εκείνον που τους αγνοεί;
Οι κοινωνιολόγοι και οι εγκληματολόγοι, απομακρύνονται από την πεποίθηση πως τα θύματα είναι αφελή και απρόσεκτα. Η απόφαση ενός ατόμου επηρεάζεται από το περιβάλλον, την συναισθηματική του κατάσταση, τον χρόνο που διαθέτει καθως και το πόσο εύκολη μπορεί να μοιάζει μια πληροφορία μέσα σε μια συγκεκριμένη περίσταση.
Το μήνυμα που επικαλείται επαγγελματική υποχρέωση, ενεργοποιεί το αίσθημα της ευθύνης. Το τηλεφώνημα που προέρχεται από συγγενή σε κίνδυνο, προκαλεί τον πανικό. Μια επικοινωνία που μπορεί να φαίνεται πως προέρχεται από άτομο εμπιστοσύνης, μειώνει την ανάγκη για επιβεβαίωση. Η τεχνητή νοημοσύνη απλώς ενισχύει αυτές τις συνθήκες και δημιουργεί περιεχόμενο που ταιριάζει καλύτερα στις προσδοκίες του αποδέκτη.
Ερευνητική μελέτη για την εξατομικευμένη πειθώ σε στοχευμένες επιθέσεις ηλεκτρονικού “ψαρέματος”, έδειξε ότι οι συμμετέχοντες που εκτέθηκαν σε συνθήκες υψηλής διαθεσιμότητας προσωπικών πληροφοριών ήταν 2,97 φορές πιο ευάλωτοι από εκείνους που βρίσκονταν σε συνθήκες χαμηλής διαθεσιμότητας. Το εύρημα δείχνει πόσο σημαντικό μπορεί να είναι το πλαίσιο που κατασκευάζεται γύρω από ένα μήνυμα, όμως όχι απαραίτητα ότι κάθε προσωπική πληροφορία οδηγεί σε εξαπάτηση.
Το θύμα δεν είναι απαραίτητο να πιστέψει κάτι παράλογο, αρκεί να πειστεί ότι αυτό που βλέπει ταιριάζει με όσα ήδη γνωρίζει και αναμένει.
Από το μαζικό μήνυμα στην προσωπική χειραγώγηση
Η κλωνοποίηση της φωνής, τα συνθετικά βίντεο, τα ψηφιακά προφίλ που κατασκευάζονται με την βοήθεια της τεχνητής νοημοσύνης, διευρύνουν τις δυνατότητες πλασροπροσωπίας. Ένα ηχητικό μήνυμα μπορεί να φαίνεται ότι προέρχεται από οικείο πρόσωπο, ενώ μια διαδικτυακή γνωριμία μπορεί να στηρίζεται σε μια ταυτότητα που έχει σχεδιαστεί για να εμπνέει εμπιστοσύνη.
Η έκθεση ENISA Threat Landscape 2026, που δημοσιεύθηκε το 2026, επισημαίνει ότι η τεχνιτή νοημοσύνη χρησιμοποιείται όλο και περισσότερο για την υποστήριξη κακόβουλων ενεργειών. Η δημιουργία συνθετικού ήχου και βίντεο, η παραγωγή περιεχομένου και η μαζική διανομή του, ενισχύουν τις δυνατότητες χειραγώγησης και εξαπάτησης. Κάθε απάτη δεν είναι προϊόν AI. Αυτό που αξίζει να σημειωθεί είναι πως μειώνεται το κόστος δημιουργίας πειστικού περιεχομένου και αυξάνεται η δυνατότητα προσέγγισης διαφορετικών ανθρώπων.
Το ζήτημα λοιπόν δεν είναι αν απλώς μπορούμε να αναγνωρίσουμε το ψεύτικο μήνυμα, αλλά την ψεύτικη πρόθεση όταν αυτή εκφράζεται απολύτως φυσιολογικά.
Πως προστατεύομαι ;
Η καχυποψία σε κάθε μήνυμα δεν είναι η σωστή απάντηση και σίγουρα το να προσπαθούμε συνεχώς να καταλάβουμε αν το λάβαμε από άνθρωπο ή απο μηχανή δεν είναι βιώσιμο. Η γλωσσική αρτιότητα δεν αποτελεί απόδειξη γνησιότητας, όπως τα λάθη αντίστοιχα δεν αποτελούν απαραίτητο χαρακτηριστικό της απάτης.
Η ουσιαστική προστασία ξεκινά τη στιγμή που αρχίζουμε να διαχωρίζουμε την πειστικότητα από την αξιοπιστία. Το μήνυμα που ζητά χρήματα, προσωπικά δεδομένα, κωδικούς ή μια επείγουσα ενέργεια, πρέπει να επιβεβαιώνεται από διαφορετικό, ήδη γνωστό κανάλι επικοινωνίας. Δεν βασιζόμαστε σε μια φωνή, μια συνομιλία και ένα προφίλ αποκλειστικά, όσο οικεία και αν φαίνονται. Περιορίζουμε τις δημόσιες πληροφορίες οι οποίες αποκαλύπτουν ευαίσθητες λεπτομέρειες για την καθημερινότητα και τις σχέσεις μας.
Χρειάζεται να αμφισβητήσουμε μια βαθιά ριζωμένη συνήθεια: την τάση να θεωρούμε αξιόπιστο ό,τι μας φαίνεται οικείο.
Η τεχνητή νοημοσύνη λοιπόν, μπορεί να μας κάνει καλύτερα θύματα. Οχι επειδή είμαστε λιγότερο έξυπνοι αλλά γιατί μπορεί να βοηθήσει τον δράστη να γίνει αποτελεσματικότερος στην εκμετάλλευση της εμπιστοσύνης μας. Η τεχνολογία εντοπίζει της ανθρώπινες αδυναμίες, τις προσεγγίζει και έχει τη δυνατότητα να τις αξιοποιήσει με μεγαλύτερη ακρίβεια. Η ασφαλής πλοήγηση σημαίνει ότι αναρωτιόμαστε ποιος βρίσκεται πίσω από την επικοινωνία, τι επιδιώκει και γιατί θέλει να ενεργήσουμε τώρα.
Η πιο αποτελεσματική εξαπάτηση είναι εκείνη που μας κάνει να αισθανθούμε ότι δεν υπάρχει κανένας λόγος να αμφιβάλλουμε.
Πηγές
https://link.springer.com/article/10.1007/s10462-024-10973-2
https://www.sciencedirect.com/science/article/abs/pii/S0003687022002319?via%3Dihub
https://www.enisa.europa.eu/topics/cyber-threats/threat-landscape?