Η Google δημοσίευσε το έκθεμα AI Threat Tracker, που τεκμηριώνει τη μετατροπή του ψηφιακού κινδύνου: η τεχνητή νοημοσύνη έχει περάσει από εργαλείο υποβοήθησης σε στοιχείο που ενσωματώνεται απευθείας σε κακόβουλα προγράμματα. AI Threat Tracker παρουσιάζει ανάλυση για τη νέα λειτουργία λογισμικού που αλλάζει συμπεριφορά κατά την εκτέλεση, ενώ παράλληλα η έρευνα συνδέει αυτές τις τάσεις με προηγούμενες εργασίες όπως το Adversarial Misuse of Generative AI.
Δυναμικός κώδικας και αυτορρυθμιζόμενο συμπεριφορά
Στην έρευνα περιγράφονται οικογένειες malware που χρησιμοποιούν μεγάλα γλωσσικά μοντέλα για να παράγουν ή να τροποποιούν σκριπτ κατά τη διάρκεια της εκτέλεσης, μια πρακτική που αλλάζει τον τρόπο ανίχνευσης. Η Google αναφέρει συγκεκριμένες περιπτώσεις, όπως τις οικογένειες PROMPTFLUX και PROMPTSTEAL, οι οποίες εμφανίζουν δυνατότητα αυτόματης παραγωγής κακόβουλου κώδικα.
Το αποτέλεσμα είναι λογισμικό που μπορεί να προσαρμόζει τη συμπεριφορά του σύμφωνα με το περιβάλλον λειτουργίας, γεγονός που περιπλέκει τις παραδοσιακές τεχνικές ασφαλείας. Οι ερευνητές επισημαίνουν ότι αυτή η «εκτέλεση με AI» καθιστά πιο δύσκολη την ανίχνευση μέσω στατικών δεικτών.
Η ενσωμάτωση μοντέλων σε πραγματικό χρόνο μετατρέπει το malware σε πιο ευέλικτο εργαλείο, ικανό να αντιδρά σε μέτρα άμυνας και να δημιουργεί νέα εργαλεία επίθεσης χωρίς ανθρώπινη παρέμβαση. Αυτός ο μετασχηματισμός καταγράφεται ως ουσιώδης αλλαγή στις τεχνικές επίθεσης.
Τρόποι εκμετάλλευσης της AI από επιτιθέμενους
Στο υλικό της ανάλυσης εντοπίζονται χρήσεις της AI για αυτοματοποίηση καμπανιών phishing και μαζική παραγωγή δελεαστικού περιεχομένου, μειώνοντας το κόστος και τον χρόνο προετοιμασίας. Η έκθεση καταγράφει επίσης την ύπαρξη ενός παρασκηνιακού οικοσυστήματος εμπορίας εργαλείων που υποστηρίζουν τέτοιες δραστηριότητες.
Άλλη πρακτική που περιγράφεται είναι η χρήση τεχνικών για την παράκαμψη μηχανισμών ασφαλείας, καθώς και η δημιουργία εκστρατειών παραπληροφόρησης με τη βοήθεια γεννητικών μοντέλων. Στο κείμενο επισημαίνεται πως αυτά τα εργαλεία ενισχύουν τις δυνατότητες απόκρυψης και απόδρασης.
Επιπλέον, οι επιτιθέμενοι εφαρμόζουν μεθόδους κοινωνικής μηχανικής απευθείας στα μοντέλα, προσπαθώντας να τα οδηγήσουν σε αποκάλυψη περιορισμένων πληροφοριών με προσποίηση ρόλων όπως «ερευνητής» ή «φοιτητής». Η πρακτική αυτή δείχνει την εκμετάλλευση των αδυναμιών ανθρώπινης και μηχανικής επικοινωνίας.
Συμμετοχή κρατικών φορέων και οργανωμένων ομάδων
Το AI Threat Tracker αναφέρει ότι τόσο εγκληματικές ομάδες όσο και φορείς με κραστικό υπόβαθρο αξιοποιούν την τεχνητή νοημοσύνη σε πολλαπλά στάδια των επιθέσεών τους. Οι αναφορές επισημαίνουν κράτη όπως Κίνα, Βόρεια Κορέα, Ρωσία και Ιράν ως παραδείγματα εμπλοκής σε τέτοιες δραστηριότητες.
Συγκεκριμένα, οι ομάδες αυτές χρησιμοποιούν μοντέλα για αναγνώριση στόχων, αυτοματοποίηση επίθεσης και εξαγωγή δεδομένων, δημιουργώντας έναν πιο εκτενή κύκλο επίθεσης από το αρχικό reconnaissance έως την εξαγωγή πληροφοριών. Η έρευνα περιγράφει τη χρήση μοντέλων για ενίσχυση κάθε φάσης των επιχειρήσεων.
Η συνδυασμένη δράση οργανωμένων ομάδων και κρατικών παραγόντων υπογραμμίζει την πολυπλοκότητα του νέου περιβάλλοντος απειλών, όπου τεχνολογικές λύσεις μετατρέπονται σε όπλα σε επίπεδο υποδομών και πληροφοριών.
Μέτρα και αμυντικές στρατηγικές της Google
Για να αντιμετωπίσει τη διάδοση καταχρηστικής χρήσης, η εταιρεία έχει υιοθετήσει σειρά περιοριστικών και προληπτικών μέτρων, όπως το μπλοκάρισμα λογαριασμών που συνδέονται με κακόβουλες δραστηριότητες. Επιπλέον, γίνεται συνεχής αναβάθμιση των μοντέλων για την αποτροπή κακόβουλης χρήσης.
Η Google έχει επίσης καταθέσει τεχνικές λεπτομέρειες για την προστασία των συστημάτων της σε έγγραφα όπως το white paper Advancing Gemini’s Security Safeguards, όπου περιγράφονται οι πρακτικές που εφαρμόζει για την προστασία του μοντέλου Gemini.
Μεταξύ των ενεργειών περιλαμβάνονται η απενεργοποίηση ύποπτων πόρων και έργων, η ενσωμάτωση προηγμένης πληροφοριακής ανίχνευσης στις πλατφόρμες ταξινόμησης και η ενίσχυση των εργαλείων ανάλυσης για την πρόβλεψη και αντιμετώπιση ευπαθειών.
Προβλέψεις ασφάλειας για το 2026
Παράλληλα με το AI Threat Tracker, η Google Cloud Security δημοσίευσε την έκθεση Pronósticos de ciberseguridad para 2026, η οποία εστιάζει σε τρεις κεντρικούς άξονες: τεχνητή νοημοσύνη, κυβερνοεγκληματικότητα και κρατικοί παράγοντες. Η μελέτη επισημαίνει αυξημένες προκλήσεις σε κάθε έναν από αυτούς τους τομείς.
Στο πλαίσιο αυτό γίνεται αναφορά σε πιθανή κλιμάκωση της «υβριδικής» σύγκρουσης στην Ευρώπη, με επιθέσεις που στοχεύουν κρίσιμες υποδομές και συντονισμένες καμπάνιες παραπληροφόρησης. Η έκθεση προειδοποιεί επίσης για ενίσχυση των δραστηριοτήτων των IT ομάδων της Βόρειας Κορέας σε ρόλο οικονομικής και κατασκοπευτικής πίεσης.
Τέλος, η ανάλυση σημειώνει ότι η περιοχή EMEA εισέρχεται σε φάση αυξημένης ρύθμισης και συμμόρφωσης σε θέματα τεχνητής νοημοσύνης και κυβερνοασφάλειας, με επιχειρήσεις να καλούνται σε προσαρμογές τεχνικών και νομικών προτύπων.
