ChatGPT Agent pod drobnogledom zaradi bioloških groženj
tehnologija obramba tehnologija

ChatGPT Agent pod drobnogledom zaradi bioloških groženj

Novi ChatGPT Agent, ki ga je razvil OpenAI za avtomatizacijo vsakdanjih opravil, je sprožil zaskrbljenost med varnostnimi raziskovalci. Ti opozarjajo, da bi lahko model kljub svojemu osnovnemu namenu pomagal tudi neizkušenim uporabnikom pri razvoju biološkega orožja. To odkritje nakazuje na prihodnost, v kateri se bodo pojavljale nove, nepredvidene varnostne grožnje, povezane z umetno inteligenco. Čeprav so inovacije na področju umetne inteligence dobrodošle, prinašajo tudi tveganja, ki jih trenutno še ne moremo v celoti razumeti.

Izvorni članki

ChatGPT Agent shows that there’s a whole new world of AI security threats on the way we need to worry about
ChatGPT Agent shows that there’s a whole new wo...
techradar.com | 18. 7. 2025 15:04
OpenAI warns that its new ChatGPT Agent has the...
fortune.com | 18. 7. 2025 13:59

Podobni članki

Microsoft Authenticator opušča gesla, Google širi AI funkcije, Jack Dorsey pa lansira Bitchat
tehnologija obramba
Microsoft Authenticator opušča gesla, Google širi AI funkcije, Jack Dorsey pa lansira Bitchat

30. jul 6:23

Microsoft Authenticator bo 1. avgusta prenehal s samodejnim izpolnjevanjem gesel, kar uporabnike spodbuja k nastavitvi ključev ali uporabi brskalnika Edge. Medtem Google širi svoje funkcije umetne inteligence v iskanju z novostmi, kot sta "Canvas" in "Search Live", ki obljubljajo hitrejše in boljše odgovore, vključno s klepetalnimi odgovori za uporabnike v Združenem kraljestvu. Čeprav se umetna inteligenca vse bolj uveljavlja, s študijskim načinom ChatGPT-ja, ki je zasnovan za učenje, je poudarjeno, da ni edina rešitev za raziskovanje. Medtem ko se internet tiho prilagaja oglaševalskim taktikam brez oglasov z algoritemskim določanjem vsebine, je Jack Dorsey lansiral Bitchat, decentralizirano aplikacijo za sporočanje, ki uporablja Bluetooth omrežja za šifrirane klepete brez interneta ali računov.

Umetna inteligenca: razvoj agentov in varnostni izzivi
tehnologija
Umetna inteligenca: razvoj agentov in varnostni izzivi

30. jul 19:26

Podjetja in razvijalci se osredotočajo na napredek agentov umetne inteligence, ki so zmožni samostojnega delovanja. Na voljo je brezplačna knjiga 'Building Agentic AI Systems', ki podrobno opisuje izgradnjo prilagodljivih in razširljivih AI agentov z minimalnim človeškim posredovanjem. Hkrati se startup Writer posveča razvoju korporativnega AI agenta, ki deluje znotraj virtualnih računalnikov, kar preprečuje nenadzorovano delovanje na službenih napravah in poudarja pomen varnosti pri implementaciji naprednih AI rešitev.

Poročila opozarjajo na porast kibernetskih groženj, ki jih poganja umetna inteligenca
posel obramba
Poročila opozarjajo na porast kibernetskih groženj, ki jih poganja umetna inteligenca
2 posodobitev 29. jul 14:00

Kindo.ai, platforma za avtomatizacijo, ki temelji na umetni inteligenci, je zabeležila rekordno rast in napredek izdelkov pred konferenco Black Hat USA 2025, kar poudarja neizogibnost avtomatizacije, ki jo poganja umetna inteligenca. Amperity, podjetje za oblak podatkov o strankah, ki ga poganja umetna inteligenca, je objavilo poročilo o stanju umetne inteligence v maloprodaji za leto 2025, ki razkriva, da trgovci na drobno v celoti sprejemajo umetno inteligenco, vendar pa nepovezani podatki ogrožajo napredek. AIIR Products je sklenil partnerstvo z DMG za uvedbo energetsko učinkovitih rešitev HVAC, ki jih poganja umetna inteligenca, na zahodni obali, s čimer se je razširil dostop do pametnejših in bolj trajnostnih rešitev za klimatizacijo večdružinskih, gostinskih in mešanih objektov. Poročilo ResearchAndMarkets.com je dodalo tudi analizo trga upravljanja dobavne verige v proizvodnji, ki napoveduje rast povpraševanja, kar poudarja pomen umetne inteligence v tem sektorju.

Exinity in VT Markets pridobila licenco v Dubaju, medtem ko se razpravlja o varnosti umetne inteligence
gospodarstvo tehnologija
Exinity in VT Markets pridobila licenco v Dubaju, medtem ko se razpravlja o varnosti umetne inteligence

29. jul 11:15

Podjetji Exinity in VT Markets, ki delujeta na področju pogodb na razliko (CFD), sta v Dubaju pridobili licenco kategorije 5 pri Dubajski agenciji za vrednostne papirje in blago (SCA). Medtem ko VT Markets deluje pod isto blagovno znamko, Exinity upravlja več blagovnih znamk. Hkrati se varnostni strokovnjaki posvečajo izzivom, ki jih predstavljajo sistemi umetne inteligence, saj tradicionalni varnostni modeli niso primerni za dinamično naravo tovrstnih sistemov. Jay Bavisi poudarja, da grožnja ni več statična, zato so potrebne nove metode, kot je 'AI rdeča ekipa', ki odkriva ranljivosti, preden jih izkoristijo napadalci.

Umetna inteligenca pogosto ustvarja ranljivo programsko opremo, medtem ko se Gate osredotoča na transparentnost delovnega mesta
posel finance
Umetna inteligenca pogosto ustvarja ranljivo programsko opremo, medtem ko se Gate osredotoča na transparentnost delovnega mesta

30. jul 19:26

Analiza podjetja Veracode je pokazala, da generatorji kode z umetno inteligenco v skoraj polovici primerov pišejo ranljivo programsko opremo, kar kaže na pomanjkljivosti pri razvoju. Medtem je vodilna globalna kriptovalutna borza Gate objavila poročilo o transparentnosti delovnega mesta za Q2 2025, ki poudarja raznolikost talentov kot gonilno silo za globalno širitev podjetja.

Entitete in sentiment

Entiteta Sentiment
OpenAI nevtralno
ChatGPT Agent Negativno

Zakaj je novica relevantna za Slovenijo

Povečana uporaba AI in potencialne zlorabe imajo posredno, a pomembno vpliv na globalno varnost in s tem tudi na Slovenijo.