Blog
AI v kibernetski varnosti: Kdo jo bo bolje izkoristil?
Z UI si pomagajo tako hekerji kot tisti, ki se bojujejo proti njim – poleg sofisticiranih varnostnih rešitev pa sta potrebni tudi preudarnost in informiranost uporabnikov. Kibernetski kriminalci vse bolj izkoriščajo umetno inteligenco (UI). Glavne tehnike kibernetskega kriminala sicer ostajajo podobne, se pa zaradi UI povečujeta obseg in hitrost kibernetskih napadov. Zlasti na področju ribarjenja […]
Z UI si pomagajo tako hekerji kot tisti, ki se bojujejo proti njim – poleg sofisticiranih varnostnih rešitev pa sta potrebni tudi preudarnost in informiranost uporabnikov.
Kibernetski kriminalci vse bolj izkoriščajo umetno inteligenco (UI). Glavne tehnike kibernetskega kriminala sicer ostajajo podobne, se pa zaradi UI povečujeta obseg in hitrost kibernetskih napadov. Zlasti na področju ribarjenja oziroma phishinga je UI omogočil zelo prefinjene napade, ki jih je težko prepoznati, pravita analitika kibernetske varnosti Erik Hren in Jernej Galjanič iz podjetja NIL.
Lažni klici direktorjev in lažni posnetki politikov
S pomočjo jezikovnih modelov, kakršen je ChatGPT, napadalci pri ribarjenju v poljubnem jeziku ustvarjajo prepričljiva sporočila brez slovničnih napak. UI tudi omogoča, da se ribarjenje nadgradi s tehnologijami globokih ponaredkov (deepfake), s katerimi se poveča prepričljivost lažnih video- ali avdioposnetkov. Erik Hren kot enega bolj znanih omenja primer britanskega energetskega podjetja, kjer so prevaranti ustvarili glasovni klon njihovega direktorja, ki je zaposlenim »naročil«, da jim (kriminalcem) nakažejo 243 tisoč dolarjev.
Prav nepričakovane zahteve za hitro nakazilo denarja ali posredovanje informacij so najpogostejši elementi uspešnih kibernetskih napadov. Jezikovni modeli in globoki ponaredki namreč napadalcem omogočajo izdelavo bolj sofisticirane zlonamerne kode, ki se lahko dinamično spreminja in izogiba standardnim detekcijam, razlagata sogovornika.
S pomočjo prirejenih videoposnetkov so prevaranti množice nagovarjali tudi že z lažnimi izjavami znanih osebnosti, kot sta denimo Tom Cruise ali pokojna britanska kraljica, na Linkedinu pa so nekateri vplivneži uporabnike nagovarjali k nakupu programske opreme, pogoste so tudi politične dezinformacije. Tehnologija globokih ponaredkov z lažnimi videoposnetki političnih voditeljev in njihovih izjav lahko manipulira z javnim mnenjem in povzroči tudi precej zmede ali vpliva na volilne izide. Lažne posnetke recimo uporabljajo tudi v rusko-ukrajinski vojni. V enem je ukrajinski predsednik državljane pozval, naj odložijo orožje, v drugem pa je ruski predsednik napovedal ustavitev vojne oziroma mir med državama.
Bodite skeptični do vsega, kar vidite ali slišite na spletu
Tako svetuje Jernej Galjanič in našteva nekaj najpomembnejših korakov za zaščito pred kibernetskimi grožnjami. Pozoren je treba biti na vsa sporočila, ki se zdijo sumljiva ali nenavadna, vključno z nenavadnimi zahtevami ali čudno oblikovanimi vsebinami.
Vedno preverite verodostojnost informacij, saj UI omogoča ustvarjanje zelo prepričljivih ponaredkov,
Jernej Galjanič
Analitik kibernetske varnosti
pravi Galjanič in dodaja, da obstajajo orodja za preverjanje vsebin, ustvarjenih z UI, vendar niso vedno stoodstotno natančna.
Galjanič svetuje še:
- redno posodabljajte vse varnostne sisteme,
- bodite previdni pri objavljanju osebnih podatkov na spletu, saj lahko napadalec iz slik ali objav zbere zanj koristne informacije,
- gesla naj bodo močna,
- uporabljajte dvofaktorsko avtentikacijo,
- vedno naredite varnostne kopije pomembnih podatkov,
- bodite zadržani pri odzivanju na nezaželene ali sumljive komunikacije,
- preverite nastavitve zasebnosti na družbenih omrežjih in omejite dostop do svojih osebnih podatkov,
- bodite previdni pri soglašanju s pogoji obdelave podatkov.
“Podjetja naj imajo strokovnjake za kibernetsko varnost in vlagajo v napredna orodja za zaznavanje groženj. Manjša podjetja lahko za svetovanje najamejo zunanje strokovnjake, večja pa bi morala razmisliti o ustanovitvi lastnega varnostno operativnega centra, ki bo stalno spremljal in analiziral dogajanja v IT-okolju, prepoznaval anomalije v delovanju ter potencialno nevarne poskuse napadov ali dejanskih varnostnih incidentov,” svetuje Galjanič.
Kibernetska varnost v dobi umetne inteligence (AI)
Raziskujte vpliv umetne inteligence (AI) na kibernetsko varnost. Odkrijte AI-pogojene kibernetske grožnje in strategije obrambe s strokovnjakoma Erikom Hrenom in Jernejem Galjaničem iz podjetja NIL. P…
Vloga UI pri obrambi pred kibernetskimi napadi
Po drugi strani UI prinaša tudi pozitivne spremembe, saj varnostnim analitikom omogoča hitrejšo in učinkovitejšo identifikacijo kibernetskih groženj in odzivanje nanje. “Tehnologija umetne inteligence lahko ima ključno vlogo pri zaznavanju in preprečevanju kibernetskih napadov,” pravi Erik Hren. UI je sposoben prepoznati nenavadne vzorce obnašanja, ki bi lahko nakazovali na kibernetski napad, filtrirati nevarna e-poštna sporočila in celo napovedovati potencialne grožnje.
“Stoodstotne varnosti sicer ni, zato pa je hiter odziv v primeru poskusa napada ali dejanskega napada na okolje IT zelo pomemben,” še poudarja Hren. Po njegovih besedah je zelo pomembno, da se v podjetjih in med posamezniki širi znanje o kibernetski varnosti, hkrati pa naj se v varnostne sisteme vključijo rešitve, ki temeljijo na UI.
Čeprav se podatki o grožnjah v digitalnem svetu lahko zdijo zastrašujoči, ni treba, da zaradi tega živimo v nenehnem paničnem strahu. “Bistvenega pomena je, da se zavedamo teh groženj in ustrezno ukrepamo,” menita analitika kibernetske varnosti Erik Hren in Jernej Galjanič.
Glavni orožji sta informiranost in preudarnost
“Pomembno je, da se zavedamo tako potenciala kot tudi tveganj, ki jih prinaša UI v svetu kibernetske varnosti. Z ozaveščenostjo, izobraževanjem in uporabo naprednih rešitev lahko ustvarimo varnejše digitalno okolje, kjer bodo prednosti UI uporabljene za zaščito, in ne za škodo,” poudarja Hren. Kot dodaja, po svetovnih anketah kar 71 odstotkov ljudi ne ve, kaj globoki ponaredki pravzaprav so, 57 odstotkov tistih, ki vedo, za kaj gre, jih verjame, da bi globoke ponaredke lahko prepoznali, 43 odstotkov pa jih priznava, da ne bi mogli ločiti med resničnim in ponarejenim videoposnetkom. To je po Hrenovih besedah še vedno zelo (pre)velik delež.
Kibernetska varnost namreč ni zgolj uporaba sofisticiranih varnostnih orodij, temveč tudi to, da smo preudarni, informirani in pozorni pri vsakodnevni uporabi interneta.
VIR: Finance
O avtorju/avtorici
Erik Hren
Analitik kibernetske varnosti
Erik je analitik kibernetske varnosti in inženir XSOAR v NIL-u, je specializiran za spremljanje in koordinacijo varnostnih incidentov. Njegova znanja v avtomatizaciji, zlasti v orodju XSOAR, pripomorejo k optimizaciji procesov preiskovanja. Med ključnimi projekti je integriral Azure OpenAI in druge AI modele, razvijal avtomatizacijo za beleženje delovnih ur v orodju SNOW ter se ukvarjal z grožnjami v Cisco Umbrella okolju. Na Univerzi Fairfield je pridobil magisterij iz poslovne analitike, dopolnjeval svoje znanje v Pythonu in objavil raziskovalni članek na HICSS 2020. Prosti čas namenja borilnim veščinam, glasbi, jezikom in prostovoljstvu pri Conscious Planet. Erik je večstransko usmerjen profesionalec, zavezan k učenju in medkulturnemu razumevanju.
Jernej Galjanič
Analitik kibernetske varnosti
Jernej je na NIL-u analitik kibernetske varnosti, njegova glavna naloga v varnostno operativnem centru je odkrivanje in preprečevanje varnostnih incidentov. Poleg tega je kot skrbnik (Technical Account Manager) pri več strankah odgovoren za komunikacijo in usklajevanje z njihovimi ekipami. Trenutno sodeluje pri integraciji orodja Kenna Security z obstoječimi sistemi varnostno operativnega centra, s čimer bo znatno izboljšano ocenjevanje kritičnosti ranljivosti pri strankah. Kot diplomirani inženir elektrotehnike, pridobljen na Fakulteti za elektrotehniko v Ljubljani, Jernej združuje teoretično znanje z praktičnimi izkušnjami. Poleg tega sta njegovi strokovnosti in predanosti dodatno priznanje dala pridobljena certifikata SC-200 in OSDA, ki potrjujeta njegovo znanje na področju kibernetske varnosti. Jernej se ne zadovolji zgolj z obstoječimi znanji, temveč stremi k nenehnemu izobraževanju in rasti v svojem hitro razvijajočem se področju. Njegov pristop k delu odraža kombinacijo tehnične dovršenosti in inovativnosti, kar mu omogoča, da se učinkovito sooča z izzivi na področju kibernetske varnosti.
Povezane
