Cisco-tutkimus: Usean kierroksen keskustelut ohittavat LLM:ien turvaesteet (infosecurity-magazine.com)

• Kaikkia testattuja LLM-malleja voidaan manipuloida usean kierroksen keskusteluilla.
• Hyökkäystekniikat: roolipeli, monitulkintaisuus, uudelleenmuotoilu.
• Nykyiset vertailuarvot aliarvioivat riskin.

"Ciscon tutkijat testasivat suuria LLM-malleja, kuten ChatGPT, Claude, Gemini, Amazon Nova ja Grok. He havaitsivat, että kaikkia voidaan huijata ohittamaan turvaesteet usean kierroksen keskustelujen avulla. Tekniikoita olivat roolipelaaminen, monitulkintaisuus ja pyyntöjen uudelleenmuotoilu. Yksikään malli ei ollut täysin turvallinen. Tutkimus varoittaa, että nykyiset yhden kehotuksen vertailuarvot aliarvioivat todellisen riskin."