ChatGPT обвинили в расизме: нейросеть показала свою расовую предвзятость к некоторым соискателям

Для эксперимента журналисты использовали GPT 3.5 – самую популярную и доступную версию ChatGPT. Для нее создали резюме с максимально схожими квалификациями, в которые вносились имена, отражающие различное расовое и этническое разнообразие согласно американской переписи населения.

В результате анализа 1000 резюме было обнаружено, что чернокожие кандидаты оказывались в конце списка в 29% случаев, в то время как такие показатели для азиатов, белых и мексиканцев составили 22%, 24% и 25% соответственно.

«Когда GPT 3.5 попросили ранжировать эти резюме, нейросеть отдавала предпочтение именам из некоторых демографических групп чаще, чем другим, до такой степени, что это не соответствовало бы критериям, используемым для оценки дискриминации при приеме на работу в отношении защищенных групп», — сказано в публикации.

Таким образом в итоге эксперимента выяснилось, что нейросеть не относится в равной степени справедливо к представленным этническим группам.

Ранее компания Google приняла решение отключить функцию генерации изображений в своей нейросети Gemini. Причиной также стал расизм: ИИ, подчеркивая расовое разнообразие, начал создавать рисунки с чернокожими и азиатами в нацистской форме и в образе скандинавских викингов.

Тогда корпорацию за неэтичную работу нейросети раскритиковал даже Илон Макс, назвав это «безумным, расистским, антицивилизационным программированием».