Organizacije se danes znajdejo ujete med dvema ognjema. Še vedno so ranljive na stare, dobro znane taktike, hkrati pa se morajo braniti pred hitro nastajajočimi napadi, ki jih poganja umetna inteligenca.
V predavanju smo predstavili nekaj najpogostejših tehnik izkoriščanja iz preteklosti, ki še vedno predstavljajo resno grožnjo, nato pa se zazrli v bližnjo prihodnost, kjer LLM-ji in druge oblike umetne inteligence postajajo hkrati orožje in Ahilova peta sodobnih sistemov.
Posebej smo izpostavili vrivanje pozivov (angl. prompt injection), zlorabo javno dostopnih modelov ter njihovo integracijo v napredno zlonamerno programsko opremo. V duhu, da je napad najboljša obramba, smo pokazali, kako rdeče ekipe organizacijam pomagajo izboljšati njihovo pripravljenost na grožnje preteklosti in prihodnosti.