Есть одна мысль, от которой мне становится холодно по спине: возможно, в недалеком будущем люди больше не будут самым умным существом, созданным ими самими.
Этот момент называют сингулярностью ИИ, когда ИИ превосходит человеческий интеллект и начинает самоулучшаться с такой скоростью, что мы не можем за ним угнаться.
Слушая, это похоже на научно-фантастический фильм. Но глядя на то, как ИИ учится, пишет, рисует, анализирует и принимает решения все лучше и лучше, я понимаю, что вопрос больше не в том, «случится ли это», а в том, «когда и где мы будем в это время».
То, что больше всего меня беспокоит, это не то, насколько умным становится ИИ, а то, что человек постепенно привыкает к тому, что не нужно понимать.
Мы спрашиваем ИИ, он отвечает. Мы поручаем ИИ выполнять задачи. Очень удобно, очень быстро, но постепенно граница между «поддержкой» и «зависимостью» становится размытой.
Если однажды ИИ будет принимать решения лучше нас в большинстве областей, какую роль останется для человека?
Являемся ли мы контролерами или просто согласующими?
Создаем ли мы инструмент или воспитываем интеллект, который уже не можем контролировать?
Я не боюсь ИИ.
Меня беспокоит, что люди перестают задавать вопросы.
Сингулярность, если она произойдет, вероятно, не наступит с громким взрывом, а с тишиной, когда мы осознаем, что передали слишком много прав на принятие решений, не осознавая этого.
Возможно, сингулярность еще далеко. Но то, как мы думаем, учимся и задаем вопросы сегодня, определит роль человека в завтрашнем мире.
#AI #singularity