Raziskovalci kibernetske varnosti opozarjajo, da je umetno inteligenco (UI) mogoče zlahka prevarati in jo napeljati k neumnim ali nevarnim dejanjem. Hekerji so izkoristili ranljivost bančnega sistema, ko so v omrežje bankomata vstavili Raspberry Pi s povezavo 4G in z napredno zlonamerno programsko opremo poskušali izvesti krajo. Medtem pa priročnik razkriva osnove umetne inteligence v preprostem jeziku.

Severnokorejski IT strokovnjaki in kibernetski kriminalci vse pogosteje uporabljajo orodja umetne inteligence (AI), kot je Claude, da bi prikrili pomanjkanje veščin in pospešili svoje nezakonite sheme, vključno z izogibanjem sankcijam in vohunjenjem. Poročilo podjetja Anthropic razkriva, da se AI modeli zlorabljajo tudi za izsiljevanje in lažne zaposlitvene goljufije. Podjetje Anthropic aktivno preprečuje poskuse zlorabe svojega modela Claude za kibernetski kriminal, vendar pa ugotovitve poudarjajo naraščajočo zaskrbljenost zaradi izkoriščanja AI v kibernetskem kriminalu, kar poziva tehnološka podjetja in regulatorje k okrepitvi varnostnih ukrepov.

SaaS varnostno podjetje AppOmni je razkrilo novo ranljivost v platformi ServiceNow's Now Assist, ki omogoča zlonamernim akterjem manipulacijo z agenti umetne inteligence. Hkrati je podjetje Fetch AI predstavilo ASI:One, platformo za orkestracijo osebne umetne inteligence, Fetch Business za preverjanje in Agentverse, odprt imenik z več kot dvema milijonoma agentov. Poleg tega raziskava PricewaterhouseCoopers kaže, da se podjetja v ZDA pospešeno posvečajo AI agentom, pri čemer jih več kot polovica potrošnikov uporablja ali bo uporabljala AI agente za nakupovanje.