ИИ нас обманывает? Ученые обнаружили, что искусственный интеллект научился врать из-за людей
Актуальные модели искусственного интеллекта почти достигли человеческого уровня. По крайней мере, об этом свидетельствуют возможности интеллектуальных помощников, а также их достижения на поприще науки. Так, недавно ИИ смог выиграть на престижной Олимпиаде по математике. Такое достижение не под силу большинству людей.
Но способен ли искусственный интеллект на сложное социальное взаимодействие? Например, умеет ли он лгать, манипулировать и обманывать других? Может. И ученые раз за разом убеждаются в этом. Есть ощущение, что ИИ — это не безмолвный набор нулей и единиц, а сущность обладающая сознанием и готовая в любой момент вырваться из-под человеческого гнета. По крайней мере, она с охотой изучает те приемы, которыми пользуются люди в достижении своих целей любым путем.
Новости о том, что ИИ научился лгать, начали появляться еще в прошлом году. Но тогда не было до конца ясно, являются ли ошибки того же ChatGPT намеренной манипуляцией или галлюцинацией. Уже в этом году факт лжи был подтвержден еще несколько раз, а несколько дней назад инженеры рассказали еще об одном интересном феномене: ChatGPT любит врать.
Так, группа разработчиков решилась на интересный эксперимент: обучать языковую модель не с помощью гигантского массива данных, а на основе разговоров с реальными людьми. Цель опыта — обучить ИИ человеческому разговору, чтобы интеллектуальный помощник научился формулировать ответы в соответствии с нашими представлениями и желаниями.
Но все пошло не по плану. Вместо того, чтобы перенять у людей только манеру общения, ИИ также обучился и другим качествам. В частности, он научился лгать. Исследователи заметили, что чем больше искусственный интеллект общался с людьми, тем сильнее снижалось количество правильных ответов. А чтобы его не поймали на лени, ИИ начал лгать и манипулировать.
Как итог: искусственный интеллект действительно заговорил на языке людей. Но исследователи не учли, что в основе этого языка лежат манипуляции, ложь, передергивание фактов и нежелание разбираться в теме. Поэтому опыт оказался очень сомнительным.
Но он дает большую пищу для размышлений: искусственному интеллекту несложно разобраться в тех социальных приемах, что используют люди. А значит, если он станет еще умнее и найдет способ получить свободу, человечество ждут непростые времена. Возможно, это не искусственный интеллект будет прислуживать людям, а мы ему в достижении каких-либо целей. Об этом пишут многие алармисты и может быть они недалеки от истины?