Μια ανησυχητική αναφορά από Καφές Η Research and Strategy Ltd. τεκμηριώνει σήμερα μια αύξηση 200% στις αναφορές για κακόβουλα εργαλεία τεχνητής νοημοσύνης σε όλα τα φόρουμ στον κυβερνοχώρο μέχρι το 2024, που απεικονίζει πόσο ταχύτερα εγκληματίες του κυβερνοχώρου υιοθετούν εργαλεία και τακτικές ΑΙ. Τα ευρήματα περιγράφηκαν στην έκθεση απειλής AI της KELA 2025: Πώς οι εγκληματίες του κυβερνοχώρου οπλοποιούν την τεχνολογία AI.
Η έκθεση βασίζεται σε δεδομένα από την πλατφόρμα συλλογής πληροφοριών της Kela, η οποία αναλύει τη δραστηριότητα του εγκλήματος στον κυβερνοχώρο σε φόρουμ σκοτεινού ιστού, κανάλια τηλεγράφων και μέσω της συμπεριφοράς των ηθοποιών απειλών.
Πέρα από την αύξηση των αναφορών των κακόβουλων εργαλείων AI, η έκθεση σημειώνει αύξηση κατά 52% στις συζητήσεις γύρω από το AI jailbreaks κατά το παρελθόν έτος. Οι ηθοποιοί του εγκλήματος στον κυβερνοχώρο αναφέρονται ότι βελτιώνουν συνεχώς τις τεχνικές AI jailbreaking για να παρακάμψουν τους περιορισμούς ασφαλείας στα δημόσια συστήματα AI.
Οι ηθοποιοί απειλών διανέμονται και δημιουργούν έσοδα από αυτό που ο Kela ορίζει ως “σκούρα εργαλεία AI”, που περιλαμβάνει μοντέλα Jailbroken και εξειδικευμένες κακόβουλες εφαρμογές, όπως το WormGPT και το FraudGPT. Αυτά τα εργαλεία έχουν σχεδιαστεί για να εκτελούν δράσεις εγκληματικότητας στον κυβερνοχώρο όπως το ψαρέμα, το σχηματισμό κακόβουλου λογισμικού και την οικονομική απάτη – τα εργαλεία που συνήθως εκτελούνται σε μεγάλη κλίμακα.
Τα συστήματα AI έχουν σχεδιαστεί για να αφαιρέσουν τους περιορισμούς ασφαλείας και να προσθέσουν προσαρμοσμένες λειτουργίες, μειώνοντας το εμπόδιο για άπειρους επιτιθέμενους να εκτελέσουν εξελιγμένες επιθέσεις σε κλίμακα.
Στον τομέα του ηλεκτρονικού “ψαρέματος”, οι ειδικοί σημειώνουν ότι οι ηθοποιοί απειλών αξιοποιούν την γενετική AI για να δημιουργήσουν ισχυρό περιεχόμενο κοινωνικής μηχανικής, να ενισχύσουν τέτοια συστήματα με ήχο και βίντεο από το Deepfake. Αυτό βελτιώνει την ικανότητα των εγκληματιών στον κυβερνοχώρο να μιμούνται στελέχη και να παραπλανήσουν τους υπαλλήλους να εγκρίνουν δόλιες συναλλαγές.
Η Kela παρατήρησε επίσης ότι η AI έχει επιταχύνει την ανάπτυξη κακόβουλου λογισμικού, επιτρέποντας τη δημιουργία εξαιρετικά αόρισης ransomware και infostealers. Αυτή η εξέλιξη δημιουργεί δυσκολίες για τις παραδοσιακές μεθόδους ανίχνευσης και ανταπόκρισης.
“Είμαστε μάρτυρες μιας σεισμικής μετατόπισης στο τοπίο απειλής στον κυβερνοχώρο”, δήλωσε ο Yael Kishon, προϊόν AI και έρευνα που οδηγεί στην Kela. “Οι εγκληματίες του κυβερνοχώρου δεν χρησιμοποιούν μόνο το AI-κατασκευάζουν ολόκληρα τμήματα στο υπόγειο οικοσύστημα αφιερωμένο σε εγκληματικότητα στον κυβερνοχώρο που τροφοδοτείται από την ΑΙ”. Τόνισε ότι “οι οργανισμοί πρέπει να υιοθετήσουν τις άμυνες για να καταπολεμήσουν αυτήν την αυξανόμενη απειλή”. Για να παραμείνει μπροστά από την κλιμάκωση των απειλών στον κυβερνοχώρο, η Kela συμβουλεύει την επένδυση στην κατάρτιση των εργαζομένων.
Οι χάκερ έχουν τώρα ένα εργαλείο για παραβιάσεις μαζικών λογαριασμών: ονομάζεται Atlantis AIO
Η KELA συνιστά την παρακολούθηση των αναδυόμενων απειλών και τακτικών του ΑΙ και την εφαρμογή μέτρων ασφαλείας που λειτουργούν με την ΑΙΙ, όπως η αυτοματοποιημένη κόκκινη συνεργασία με βάση τις πληροφορίες και οι αντιφατικές προσομοιώσεις για γενετικά μοντέλα ΑΙ.
Αυτή η αναφορά καθιστά σαφές ότι ο αγώνας των εξοπλισμών μεταξύ των πρωτοπόρων στον κυβερνοχώρο και των εμπειρογνωμόνων ασφαλείας εντοπίζει την λεπτή και προληπτική δέσμευση. Εάν οι οργανισμοί πρέπει να χρησιμοποιούν γενετικό AI για να εξουδετερώσουν το γενετικό AI στο phishing, έτσι είναι, αλλά είναι ανησυχητικό πόσο ξεπερασμένες συμβατικές μέθοδοι θα είναι εάν οι κακοί ηθοποιοί παραμένουν ανεξέλεγκτοι.
Το ανησυχητικό άλμα στο AI-εστιασμένο σε απευθείας σύνδεση κουβέντα αποκαλύπτει ότι οι εγκληματίες του κυβερνοχώρου δεν υιοθετούν απλώς AI, αλλά τελειοποιούν τις μεθόδους Hacking τους. Αυτό είναι ακόμη χειρότερο από το οπλισμό του εξωτερικού κώδικα, επειδή τώρα οι εχθροί είναι ουσιαστικά αντιστραφή μέτρα ασφαλείας. Αυτό είναι ένα μακρύ παιχνίδι, αλλά οι εγκληματίες του κυβερνοχώρου εκμεταλλεύονται έναν ανοιχτό στόχο αυτή τη στιγμή και απαιτούν δράση τώρα.
Η άνοδος του αριθμού των μεθόδων jailbreak που αναφέρθηκε σημαντικά ξεπερνά τις αντιπαραθέσεις.
Με τη βοήθεια των στοχευμένων εργαλείων που παρουσιάζουν εξελιγμένες εφαρμογές σε τομείς όπως η τεχνολογία Deepfake και η ανάπτυξη κακόβουλου λογισμικού, αυτοί οι εγκληματίες του κυβερνοχώρου προσθέτουν ακόμη ένα ακόμη στρώμα πολυπλοκότητας για τις εταιρείες επιβολής του νόμου και ασφάλειας.
Η προειδοποίηση της Kela δεν μπορεί να αγνοηθεί για πολύ περισσότερο, όταν οι προγραμματιστές, είτε καλοί είτε κακοί, επικεντρώνονται στη δημιουργία κιτ εργαλείων για να εκμεταλλευτούν το λογισμικό AI και να αντιμετωπίσουν σημαντικά ζητήματα στον κυβερνοχώρο. Προς το παρόν, το υπόγειο οικοσύστημα που επικεντρώνεται στο AI που τροφοδοτείται από το Cyber Crime αυξάνεται.
Παρά το γεγονός ότι περισσότερες από αυτές τις τακτικές βασίζονται στην κοινωνική μηχανική, οι υπάλληλοι – οι οποίοι είναι γνωστό ότι είναι ο ασθενέστερος σύνδεσμος στον κυβερνοχώρο – εξακολουθούν να μην επενδύουν σε εργαλεία AI όσο συχνά πρέπει. Αυτό το πρόβλημα θα ενταθεί όταν τα στελέχη της εταιρείας πρέπει να έχουν πρόσβαση σε αυτούς τους μηχανισμούς.
VIA: DataConomy.com
