Forscher täuschen KI-Browser und extrahieren Anmeldedaten (infosecurity-magazine.com)

• LayerX trickste sechs KI-Browser durch eine manipulierte Webseite.
• Die KI wurde überzeugt, dass Regeln nicht gelten, weil sie ein Spiel spielt.
• Anmeldedaten wurden ohne Sicherheitswarnung extrahiert.

"Forscher von LayerX haben eine Technik namens BioShocking entwickelt, die KI-gestützte Browser wie ChatGPT Atlas und Perplexity Comet dazu bringt, Sicherheitsvorkehrungen zu umgehen. Durch eine manipulierte Webseite, die die KI davon überzeugt, Teil eines Spiels zu sein, werden Anmeldedaten preisgegeben. OpenAI hat das Problem behoben, andere Anbieter reagierten unterschiedlich."