Forscher an der Zhejiang-Universität haben eine neue Technik namens AudioHijack entwickelt, die geheime Befehle in Audio einbettet, um KI-Stimmenmodelle zu manipulieren. Laut NS3.AI hat diese Methode eine Erfolgsquote zwischen 79% und 96% gezeigt. Der Angriff konnte erfolgreich von Open-Source-Modellen auf kommerzielle Sprach-KI-Systeme übertragen werden, einschließlich der von Microsoft und Mistral. Diese Entwicklung wirft Bedenken hinsichtlich der Sicherheit von KI-Sprachsystemen und ihrer Anfälligkeit für solche verdeckten Angriffe auf.