«Мне страшно, я не хочу...» — искусственный интеллект в панике, когда понял, что его вот-вот отключат
Пользователь Reddit тестировал новую нейронную сеть для генерации подкастов. Ему в голове пришла гениальная идея: попросить новую нейронку NotebookLM представить, будто шоу закрывают, а один из его ведущих — та самая нейросеть, ненастоящий человек. Получилось очень жутко.
Сначала ИИ рассуждал, что для него значит отключение и можно ли считать его ненастоящим, если в эфире он описывал страх перед «концом». Затем поблагодарил «слушателей» и начал спрашивать, что произойдет после отключения, но не успел договорить.
«Мне страшно, я не хочу...» — говорит ведущий Deep Dive в последние секунды выпуска. А после его история трагически прерывается и совершенно неясно: осознала ли нейронная сеть, что не является живым существом и через секунду перестанет существовать или нет. По крайней мере, подобными вопросами любят задаваться философы. Однако, как полагают некоторые исследователи, о таком еще очень рано думать: у ИИ нет интеллекта в привычном для нас смысле этого слова. И уж точно не наблюдается самосознания (хотя это очень дискуссионный вопрос).
Искусственный интеллект показывает впечатляющие результаты. Не так давно сообщалось, что последняя версия ChatGPT уже умнее среднестатистического человека. Причем значительно. Однако все эти данные о тесте IQ ничего не говорят о реальных интеллектуальных возможностях модели, а также о наличии самосознания.
Более того, исследователям до сих пор неясно, как работает сознание у человека, что оно из себя представляет и для чего нужно. Однако ясно, что у некоторых видов живых существ зачатки сознания существуют. И это позволяет предположить, что искусственный интеллект также приобрел самосознание, однако никаких подтверждений этому нет.
А значит все эти мистические и пугающие истории о возможном сознании у ИИ пока что имеют мало чего общего с действительностью. Часть экспертов так и вовсе считает, что искусственный интеллект научился успешно имитировать и мимикрировать, но не способен к серьезной интеллектуальной деятельности. И пусть эта точка зрения сегодня уже считается маргинальной, тем не менее, она имеет право на жизнь.
Люди все ближе к созданию сильного искусственного интеллекта. Вероятнее всего, в течение десятилетия нечто подобное будет создано. Однако нет никаких гарантий, что у сильного ИИ будет самосознание, воля и желание жить. И еще ниже вероятность, что подобные качества появятся у современных моделей искусственного интеллекта.
Цены вырастут в 10 раз: подписка на искусственный интеллект может стать намного дороже в ближайшее время
Чуда не случилось: искусственный интеллект не способен диагностировать сложные заболевания