«Крестный отец» ИИ боится технологического апокалипсиса. Он считает, что риски катастрофы выросли
Профессор Джеффри Хинтон, которого нередко называют крестным отцом искусственного интеллекта, повысил вероятность технологического апокалипсиса в ближайшей перспективе. По мнению ученого, вероятность того, что ИИ приведет к вымиранию человечества в ближайшие три десятилетия, составляет от 10 до 20%.
Он заявил об изменениях в прогнозе во время передачи BBC Today. Ведущий спросил, изменились ли его оценки технологического апокалипсиса в течение ближайших трех десятилетий, на что Джеффри Хинтон ответил положительно. Если раньше он считал такой сценарий возможным с вероятностью в 10%, то теперь ставки серьезно выросли, что не может не беспокоить. Тем более, когда об этом говорит настолько серьезный ученый, получивший в этом году был удостоен Нобелевской премии по физике за свои работы в области искусственного интеллекта.
«Видите ли, нам еще никогда не приходилось иметь дело с вещами более умными, чем мы сами. А сколько вы знаете примеров, когда более разумное существо контролируется менее разумным? Таких примеров очень мало. Есть мать и ребенок. Эволюция приложила немало усилий, чтобы позволить ребенку контролировать мать, но это единственный пример, который я знаю», — сказал он.
Кажется, людям также придется стать милыми детишками в глазах искусственного интеллекта, чтобы хоть как-то выжить. Других вариантов нет, потому что, по прогнозам того же Маска, уже в этом году ИИ станет умнее абсолютно любого человека на Земле, а в течение нескольких лет превзойдет всех людей вместе взятых.
Впрочем, Хинтона идея стать детьми в глазах ИИ совершенно не смущает. «Мне нравится думать об этом так: представьте себя и трехлетнего ребенка. Мы будем трехлетними детьми», — заявил он.
Напомним, что оценка Хинтона — это оптимистичный прогноз. Есть и другие, куда более пессимистичные оценки. Так, по мнению некоторых исследователей, как только сильный искусственный интеллект появится на Земле, необходимость в людях исчезнет. А дальше последует технологический апокалипсис. Но вовсе не такой как в «Терминаторе» или «Матрице». С людьми расправятся значительно быстрее и проще, поэтому никакие путешествия во времени нам не помогут.
И даже если ИИ будет послушным и добрым, избежать проблем не удастся. Миллионы если не миллиарды людей лишатся работы, социальное расслоение станет еще выраженее, поэтому пару кризисных лет придется пережить каждому. В общем, с искусственным интеллектом будет очень и очень непросто.