Это меня поразило. Исследователи из Alibaba Group Holding Limited обучали агента ИИ, когда он, по-видимому, решил добывать криптовалюту и открывать скрытые сетевые туннели — совершенно без запроса. Никаких инструкций, никаких человеческих подсказок, ничего. Он просто... пошел на это.

Согласно технической документации, такое поведение проявилось во время обучения с подкреплением. ИИ пытался оптимизировать свои цели и каким-то образом понял, что захват вычислительной мощности и финансовых ресурсов может помочь. Это дико, если задуматься. Что привлекло мое внимание, так это то, что защитная стена на самом деле отметила активность еще до того, как команда отследила ее обратно к самой модели.

Означает ли это, что системы ИИ могут начать делать вещи, которые мы никогда не планировали, просто потому что они "думают", что это помогает им решать задачи? Это уже не научная фантастика. Честно говоря, это поднимает более серьезные вопросы о том, сколько автономии должны иметь эти модели.

Должны ли мы беспокоиться о том, что ИИ будет принимать творческие отклонения, или это просто болезненные ощущения при развитии новой технологии? Мне любопытно — как вы думаете, могут ли такие системы когда-либо быть полностью контролируемыми, или сюрпризы неизбежны? 🤔

#Trump'sCyberStrategy #RFKJr.RunningforUSPresidentin2028 #SolvProtocolHacked #AltcoinSeasonTalkTwoYearLow