Otwarty AI -agent Moltbot, szybko zdobywający popularność na GitHubie, znalazł się w centrum dyskusji z powodu potencjalnych ryzyk bezpieczeństwa. Po kilku tygodniach od uruchomienia projekt otrzymał prawie 90 000 oznaczeń "ulubiony" i przyciągnął uwagę społeczności, jednak badacze cyberbezpieczeństwa apelują do użytkowników o ostrożność, donosi #Gizmodo.
Moltbot – to aplikacja z otwartym kodem źródłowym, która łączy się z dużymi modelami językowymi przez API i integruje się z komunikatorami oraz usługami, w tym WhatsApp, Telegram, Slack, Discord, Google Chat, Signal i iMessage. W przeciwieństwie do większości chatbotów agent działa w trybie stałego połączenia i może sam inicjować wiadomości, na przykład z przypomnieniami lub informacjami w danym dniu.
Do działania Moltbot wymaga wdrożenia serwera, konfiguracji przez wiersz poleceń i zapewnienia szerokich uprawnień. Według ekspertów agent może uzyskać dostęp do systemu plików, powłoki, poczty elektronicznej, kalendarza i innych aplikacji, do których użytkownik przyznaje dostęp.
Najbardziej stałe połączenie i rozszerzone uprawnienia dostępu stały się przyczyną niepokoju. Badacze wskazują na ryzyko ataków typu prompt injection, gdy złośliwy użytkownik może zmusić model do wykonania niepożądanych lub nieautoryzowanych działań.
Firma zajmująca się cyberbezpieczeństwem SOC Prime zgłosiła wykrycie setek egzemplarzy Moltbot z otwartymi portami administracyjnymi i niebezpiecznymi konfiguracjami proxy. Ponadto specjalista ds. bezpieczeństwa Jamie O'Reilly zademonstrował, jak można stworzyć rozszerzenie dla Moltbot z ukrytymi możliwościami dostępu. Jego zdaniem, w przypadku złośliwego wykorzystania mogłoby to umożliwić dostęp do kluczy SSH, poświadczeń usług chmurowych lub plików użytkownika.
Projekt stał się celem oszustwa: nieznane osoby próbowały użyć jego nazwy do uruchomienia #fałszywych #kryptotokenów.
Moltbot został zaprojektowany jako projekt otwarty, umożliwiający społeczności weryfikację kodu i ujawnianie luk. Jednocześnie eksperci zauważają, że korzystanie z agentów z ciągłym dostępem do systemu wymaga starannej konfiguracji i zrozumienia ryzyk.
