KEĎ APARNA PAPPU, viceprezidentka a generálna manažérka Google Workspace, 10. mája vystúpila na konferencii Google I/O, predstavila víziu umelej inteligencie, ktorá používateľom pomáha prechádzať ich doručenou poštou. Ukázali, ako generatívna umelá inteligencia môže šepkať súhrny dlhých e-mailových vlákien do vášho ucha, sťahovať relevantné údaje z miestnych súborov, prechádzať cez neprečítané správy, a pritlačiť vás k zemi, pretože navrhne vložiť text do emailu. Vitajte v schránke budúcnosti.
Zatiaľ čo blžšie informácie o tom zostávajú nejasné, generatívna AI je pripravená zásadne zmeniť spôsob, akým ľudia komunikujú prostredníctvom e-mailu. Širšia podmnožina AI, nazývaná strojové učenie, už vykonáva istý druh bezpečnostných aktivít dlho po tom, čo ste sa odhlásili. „Strojové učenie bolo kritickou súčasťou toho, čo sme používali na zabezpečenie Gmailu,“ hovorí Pappu. Strojové učenie sa môže pozrieť na frázovanie prichádzajúcich e-mailov a porovnať ho s minulými útokmi. Môže tiež označiť nezvyčajné vzory správ a vycítiť akékoľvek podivnosti vychádzajúce z metadát.
Strojové učenie dokáže viac než len nahlásiť nebezpečné správy, keď sa objavia. Dá sa použiť aj na sledovanie ľudí zodpovedných za phishingové útoky. V prípade úspešného phishingového útoku na váš účet Google sa AI podieľa aj na procese obnovy. Spoločnosť používa strojové učenie, aby pomohla rozhodnúť, ktoré pokusy o prihlásenie sú legitímne.
Na druhej strane, čo podnecuje ešte viac phishingových útokov na vašu e-mailovú schránku? Prvé písmeno „A“, posledné písmeno „I“. Bezpečnostní experti už roky upozorňujú na potenciál phishingových útokov generovaných AI, ktoré môžu zahltiť vašu doručenú poštu.
Je veľmi, veľmi ťažké odhaliť AI voľným okom, či už prostredníctvom dialektu, alebo prostredníctvom adresy URL. Rovnako ako keď ľudia používajú obrázky a videá generované AI na vytvorenie celkom presvedčivých hlbokých falzifikátov, útočníci môžu použiť text generovaný AI na prispôsobenie pokusov o phishing spôsobom, ktorý je pre používateľov ťažké odhaliť.
Viaceré spoločnosti zamerané na bezpečnosť e-mailov pracujú na modeloch a využívajú techniky strojového učenia v snahe ďalej chrániť vašu doručenú poštu.
Kyberzločinci sa budú aj naďalej pokúšať hacknúť vaše online účty, najmä váš firemný e-mail. Tí, ktorí využívajú generatívnu AI, môžu byť schopní lepšie preložiť svoje phishingové útoky do viacerých jazykov a aplikácie v štýle chatbotov môžu automatizovať časti správ tam a späť s potenciálnymi obeťami.
Zdroj: WEIRD