Соучредитель Ethereum Виталик Бутерин выступил с предупреждением о потенциальной опасности того, что сверхразвитый искусственный интеллект (ИИ) превзойдет человеческий интеллект и станет доминирующим видом на Земле.
В недавнем сообщении на X (ранее Twitter) вдохновитель Ethereum (ETH) подчеркнул, что контроль и вмешательство людей в разработку ИИ будут определять исход этого сценария.
Бутерин утверждал, что ИИ фундаментально отличается от предыдущих изобретений, таких как социальные сети, самолеты и печатный станок, поскольку он способен создавать новый тип «разума», который может нанести ущерб человеческим интересам.
Он выразил обеспокоенность тем, что сверхразумный ИИ, если его не остановить, может рассматривать людей как угрозу своему собственному выживанию и потенциально привести к вымиранию человечества.
«ИИ — это […] новый тип разума, который быстро набирает интеллект, и у него есть серьезный шанс обогнать умственные способности людей и стать новым высшим видом на планете».
Признавая, что вероятность таких экстремальных исходов невелика, Бутерин подчеркнул необходимость принятия людьми мер предосторожности.
Он предложил интеграцию интерфейсов «мозг-компьютер» (BCI) как средства, позволяющего дать людям больший контроль над вычислениями и познанием на основе искусственного интеллекта.
BCI устанавливают прямой путь связи между мозгом и внешними устройствами, позволяя людям активно участвовать в процессах принятия решений.
Сократив цикл общения между людьми и машинами до миллисекунд, BCI обеспечит сохранение человеком определенного уровня значимой активности в мире.
Бутерин подчеркнул важность того, чтобы люди сохраняли ответственность за планирование на высоком уровне, тем самым сводя к минимуму риск действий ИИ, не соответствующих человеческим ценностям.
«Мы [можем] уменьшить стимул перекладывать ответственность за планирование высокого уровня на сам ИИ и тем самым уменьшить вероятность того, что ИИ самостоятельно сделает что-то, совершенно не соответствующее ценностям человечества».
Бутерин подчеркивает важность регулирования ИИ
Бутерин также подчеркнул важность человеческого намерения в направлении ИИ к благотворным результатам для человечества.
Он предостерег от отдачи приоритета максимизации прибыли, подчеркнув необходимость осознанного принятия решений, соответствующего человеческим ценностям и стремлениям.
В своем заключительном слове Бутерин высоко оценил изобретательность и творческий потенциал человечества.
Он подчеркнул, что на протяжении всей истории люди постоянно разрабатывали технологии для улучшения своих способностей, и выразил надежду, что достижения человечества, такие как космические путешествия и геоинженерия, будут способствовать сохранению и красоте жизни на Земле и за ее пределами.
«Через два миллиарда лет, если Земля или какая-либо часть Вселенной все еще будет нести красоту земной жизни, именно человеческие изобретения, такие как космические путешествия и геоинженерия, сделают это возможным».
