Χάκερς εκμεταλλεύονται τη λειτουργία περίληψης τεχνητής νοημοσύνης για να κλέψουν κωδικούς και δεδομένα μέσω αόρατων εντολών
«Η Google εξέδωσε προειδοποίηση σχετικά με μια νέα απειλή που στοχεύει τους χρήστες του Gmail και του Google Workspace, μέσω του εργαλείου τεχνητής νοημοσύνης Gemini». Η νέα κυβερνοαπειλή, που αποκαλύφθηκε πρόσφατα, δημιουργεί εύλογες ανησυχίες για την ασφάλεια των προσωπικών δεδομένων εκατομμυρίων χρηστών.
Πώς λειτουργεί η επίθεση – Τι είναι η “έμμεση εισαγωγή εντολών”
Η τεχνική που χρησιμοποιούν οι χάκερς ονομάζεται indirect prompt injection (έμμεση εισαγωγή εντολών). Σε αυτή τη μέθοδο, οι κακόβουλες εντολές “κρύβονται” μέσα σε emails, συνήθως με λευκό κείμενο σε λευκό φόντο, ώστε να είναι αόρατες στον άνθρωπο αλλά αναγνώσιμες από την τεχνητή νοημοσύνη.
Όταν ο χρήστης επιλέξει να διαβάσει «Περίληψη» μέσω του Gemini, το σύστημα ενδέχεται να “ξεγελαστεί”, θεωρώντας την κρυφή εντολή ως αληθινό μήνυμα ασφαλείας. Έτσι δημιουργεί παραπλανητικές ειδοποιήσεις, που μοιάζουν να προέρχονται απευθείας από τη Google. Οι ψευδείς ειδοποιήσεις καλούν τον χρήστη «να αλλάξει κωδικό» ή «να επισκεφθεί έναν σύνδεσμο», οδηγώντας τον σε ιστοσελίδες υποκλοπής δεδομένων.
—
Η αποκάλυψη από την ομάδα 0din – Αληθινό περιστατικό επιβεβαιώνει τους κινδύνους
Η ομάδα κυβερνοασφάλειας 0din της Mozilla εντόπισε πραγματικό περιστατικό, όπου χρήστης του Gmail παρέλαβε πλαστή ειδοποίηση για παραβίαση του λογαριασμού του. Κατόπιν οδηγήθηκε σε “ενέργειες ασφαλείας” που τελικά οδήγησαν σε κλοπή προσωπικών διαπιστευτηρίων.
Τι πρέπει να κάνουν οι χρήστες – Οι επίσημες οδηγίες της Google
Για την αποφυγή παραβίασης, η Google συστήνει τα εξής:
- Αγνοήστε οποιαδήποτε ειδοποίηση ασφαλείας εμφανίζεται μέσω των AI περιλήψεων.
- «Η Google δεν ειδοποιεί για παραβιάσεις μέσω του Gemini ή της λειτουργίας περίληψης».
- Μην καταχωρείτε ποτέ προσωπικά στοιχεία ή κωδικούς σε συνδέσμους που περιλαμβάνονται σε τέτοια μηνύματα.
Η προσοχή των χρηστών είναι κρίσιμη, καθώς η παραπλάνηση είναι τεχνικά εξελιγμένη και εμφανίζεται με ρεαλιστική μορφή.
—
Αντίδραση Google: Μέτρα ενίσχυσης ασφάλειας στο Gemini 2.5
Σε άμεση απάντηση στην απειλή, η Google ανακοίνωσε την ενίσχυση της προστασίας στο Gemini 2.5, προχωρώντας σε αναβαθμίσεις ασφαλείας που θα του επιτρέπουν να:
- Απορρίπτει κακόβουλες ή παραπλανητικές εντολές
- Εντοπίζει λογισμικά με επιβλαβή συμπεριφορά
- Παρέχει συστημική προστασία σε όλα τα στάδια λειτουργίας της AI
Όπως τονίζει η εταιρεία, αυτές οι ενέργειες καθιστούν πιο δύσκολη και πιο ανιχνεύσιμη την επίθεση, υποχρεώνοντας τους κυβερνοεγκληματίες να καταφύγουν σε περίπλοκες τεχνικές με μικρότερες πιθανότητες επιτυχίας.
Η νέα πρόκληση της τεχνητής νοημοσύνης: Όταν το AI γίνεται στόχος χειραγώγησης
Η περίπτωση αυτή αναδεικνύει τη νέα γενιά απειλών, όπου η ίδια η AI εργαλειοποιείται από επιτιθέμενους. Με τις λειτουργίες περίληψης να γίνονται ολοένα και πιο δημοφιλείς, η ανάγκη για επίγνωση και υπεύθυνη χρήση είναι πιο σημαντική από ποτέ.
