Η ανίχνευση spam μηνυμάτων του Gmail με χρήση ΑΙ, είναι η μεγαλύτερη αναβάθμιση ασφαλείας!

Σε νέα ανάρτηση που έγινε στο επίσημο Google Security blog, δίνεται η περιγραφή για ένα νέο χαρακτηριστικό που καταφθάνει μέσω νέας ενημερωμένης λειτουργίας στα φίλτρα ανεπιθύμητης αλληλογραφίας του Gmail, την οποία η Google αποκαλεί “μία από τις μεγαλύτερες αμυντικές αναβαθμίσεις των τελευταίων ετών”. Η αναβάθμιση έρχεται με τη μορφή ενός νέου συστήματος ταξινόμησης κειμένου που ονομάζεται RETVec (Resilient & Efficient Text Vectorizer). Η Google λέει ότι αυτό μπορεί να βοηθήσει στην κατανόηση των “adversarial text manipulations”—πρόκειται για μηνύματα ηλεκτρονικού ταχυδρομείου γεμάτα με ειδικούς χαρακτήρες, emoji, τυπογραφικά λάθη και άλλους ανεπιθύμητους χαρακτήρες που προηγουμένως ήταν ευανάγνωστοι από τον άνθρωπο αλλά δεν ήταν εύκολα κατανοητοί από μηχανές. Προηγουμένως, τα ανεπιθύμητα μηνύματα ηλεκτρονικού ταχυδρομείου γεμάτα ειδικούς χαρακτήρες περνούσαν εύκολα τις άμυνες του Gmail.

Τέτοια μηνύματα ηλεκτρονικού ταχυδρομείου ήταν τόσο δύσκολο να ταξινομηθούν επειδή, ενώ οποιοδήποτε φίλτρο ανεπιθύμητης αλληλογραφίας θα μπορούσε πιθανώς να βρει ένα μήνυμα ηλεκτρονικού ταχυδρομείου που λέει: “Συγχαρητήρια! Διατίθεται υπόλοιπο 1.000 $ για τον λογαριασμό σας στο τζάκποτ”, αυτό δεν λέει στην πραγματικότητα αυτό το μήνυμα ηλεκτρονικού ταχυδρομείου. Ένα μεγάλο μέρος των γραμμάτων εδώ είναι ” ομόγλυφα “—βουτώντας στα ατελείωτα βάθη του προτύπου Unicode, μπορείτε να βρείτε σκοτεινούς χαρακτήρες που μοιάζουν σαν να αποτελούν μέρος του κανονικού λατινικού αλφαβήτου, αλλά στην πραγματικότητα δεν ισχύει κάτι τέτοιο.

Για παράδειγμα, το θέμα “𝐂𝐡𝐞𝐜𝐤_𝐘𝐨𝐮𝐫_𝐀𝐜𝐜𝐨𝐮𝐧𝐭” είναι παράξενα τολμηρό όχι επειδή έχει τολμηρό ύφος, μη γραμμένο, όπως το gpitaltheph. Είναι ένα μαθηματικό σύμβολο που τυχαίνει να μοιάζει με το γράμμα “C” στους ανθρώπους, αλλά το ρομπότ που κάνει φιλτράρισμα ανεπιθύμητων μηνυμάτων το βλέπει με ακρίβεια ως μαθηματικό σύμβολο και δεν κατανοεί την προβλεπόμενη αγγλική έννοια. Όσο πιο προσεκτικά κοιτάτε ένα τέτοιο μήνυμα ηλεκτρονικού ταχυδρομείου, τόσο χειρότερο γίνεται: Το “C0NGRATULATIONS” έχει ένα μηδέν που αντικαθιστά έναν από τους χαρακτήρες “O”, τα υπογραμμισμένα γράμματα στο “Jᴀ̲ᴄ̲ᴋ̲pot” είναι τόσο περίεργα που δεν εμφανίζονται καν σε αναζητήσεις Unicode και πολλά κενά ανταλλάσσονται με τελείες ή κάτω παύλες. Το αποτέλεσμα είναι ότι ένα φίλτρο ανεπιθύμητης αλληλογραφίας εξετάζει αυτό το καυτό χάος ενός email και βασικά τα παρατάει.

Η Google λέει ότι το RETVec είναι εδώ για να σώσει τη μέρα: “Το RETVec έχει εκπαιδευτεί να είναι ανθεκτικό σε χειρισμούς σε επίπεδο χαρακτήρων, όπως εισαγωγή, διαγραφή, τυπογραφικά λάθη, ομόγλυφα, αντικατάσταση LEET και άλλα. Το μοντέλο RETVec εκπαιδεύεται πάνω από έναν νέο κωδικοποιητή χαρακτήρων που μπορεί να κωδικοποιήσει αποτελεσματικά όλους τους χαρακτήρες και τις λέξεις UTF-8. Έτσι, το RETVec λειτουργεί εξαρχής σε περισσότερες από 100 γλώσσες χωρίς να χρειάζεται πίνακας αναζήτησης ή σταθερό μέγεθος λεξιλογίου.”

Εναλλακτικές προσεγγίσεις που χρησιμοποιούσαν ένα “σταθερό μέγεθος λεξιλογίου” ή “πίνακα αναζήτησης” για ομόγλυφα τα έκαναν να εκτελούνται με ένταση πόρων. Φανταστείτε μια λίστα με κάθε πιθανή ορθογραφία και ανορθογραφία του “συγχαρητήρια” που αντικαθιστά έναν ή περισσότερους χαρακτήρες με αριθμούς, μαθηματικά σύμβολα, κυριλλικά, εβραϊκά ή emojis, και έχετε μια σχεδόν ατελείωτη λίστα. Η Google λέει ότι το RETVec είναι μόνο 200.000 “αντί για εκατομμύρια παραμέτρους”, οπότε ενώ το cloud φιλτραρίσματος ανεπιθύμητων μηνυμάτων της Google είναι πιθανώς αρκετά μεγάλο για να τρέξει οτιδήποτε, αυτό είναι αρκετά μικρό ώστε να μπορεί να τρέξει ακόμη και σε τοπική συσκευή. Το RETVec είναι ανοιχτού κώδικα και η Google ελπίζει ότι θα απαλλάξει τον κόσμο από τις επιθέσεις ομογλυφικών, οπότε ακόμη και η τοπική ενότητα σχολίων σας θα μπορούσε να το εκτελέσει κάποια μέρα.

[via]