Нейросеть чуть не убила целую семью: она предложила рецепт с ботулотоксином
Искусственный интеллект постепенно становится неотъемлемой частью жизни современного человека. Однако можем ли мы слепо доверять машине, зная, что она опирается на данные, созданные человеком? Принято считать, что в ответах ChatGPT не может быть ошибки, однако практический опыт говорит об обратном.
Пользователь Reddit рассказал свою историю общения с нейросетью Gemini от Google, которая попыталась его убить. Мужчина спросил у ИИ рецепт заправки для салата из оливкового масла и чеснока. Пользователь поленился нагревать ингредиенты и поинтересовался у нейросети, каким образом можно их смешать.
Gemini предложила следующий вариант: немного раздавить очищенные зубчики, залить их маслом и оставить на неделю в закрытой банке.
Мужчина доверился нейросети и выполнил последовательность указанных действий. Спустя три дня он обратил внимание, что его «соус» ведет себя странно – булькает и выпускает газ. Через неделю этот процесс прекратился, но мужчина решил прогуглить рецепт прежде, чем добавлять соус в салат. Это решение, вероятно, спасло жизни ему и членам его семьи. Результат шокировал мужчину – предложенный нейросетью рецепт является идеальным способом создать ботулотоксин в домашних условиях. Эта опасная бактерия парализует нервную систему человека, вызывает паралич и может привести к смерти.
«Оказалось, что я только что вырастил ботулотоксии, а чеснок в оливковом масле — довольно распространенный способ культивации этого яда. Если бы я не проверил его через 3-4 дня, я бы ничего не узнал, а моей семье можно было бы выписать премию Дарвина», — пишет шокированный пользователь.
Автор поста предупредил реддиторов, что не стоит слепо доверять нейросетям, особенно в области, которая напрямую касается здоровья человека.
Ботулотоксин часто возникает в консервации, в случаях, когда была нарушена стерильность процесса. Бактерия боится высоких температур, поэтому риск заражения выше во время употребления пищи, не прошедшей термическую обработку.
Недавно в России произошла крупнейшая за последние 30 лет вспышка ботулизма. Токсин был обнаружен в консервированной фасоли от компании «Савон-К». Продукт стал ингредиентом для салатов из «Кухни на районе» и «Гаспропорта». С признаками отравления в медучреждения обратились более 150 человек, которые накануне ели салаты из доставки. Некоторые их них находятся в реанимации в тяжелом состоянии. По факту произошедшего проводится проверка, вся опасная продукция была изъята из оборота и уничтожена, сообщил Роспотребнадзор.