0x

guest@0xbase ~$ ainult lugemisrežiim. Postitamine nõuab EL-i asukohta.

OWASP-i teadlane hoiatab: viipade süstimine jääb lahendamata probleemiks generatiivses tehisintellektis (infosecurity-magazine.com)

· 50 p tagasi · Teata · Tõstke see esile ·
0xBASE LUUREÜLEVAADE
  • Viipade süstimine jääb arhitektuuriliselt lahendamata, kuna suurtel keelemudelitel puudub sisendite vahel privilege eraldus.
  • Agentne AI suurendab riski: süstimine võib käivitada reaalseid tegevusi nagu andmete lekkimine või süsteemi ülevõtmine.
  • Fogel kutsub üles masinakiirusel jälgimisele ja reaalajas ohjeldamisele, mitte ainult ennetusele.

"Infosecurity Europe 2026-l hoiatas OWASP-i kaastöötaja Ariel Fogel, et viipade süstimine on jätkuvalt lahendamata arhitektuurne probleem generatiivses tehisintellektis. Risk suureneb agentse tehisintellekti töövoogudega, sest süstid võivad käivitada reaalseid tegevusi. Fogel soovitab masinakiirusel jälgimist, reaalajas ohjeldamist ja tugevamaid identiteedikontrolle, kuni mudelid ja käituskeskkonnad jõustavad usaldusväärse privilege eraldamise."

#Viipade süstimine #Agentne AI #OWASP

Arutelumaatriks

0 segmenti

kommentaare veel pole.