Что там у немцев? ✔

ChatGPT и сексизм: ИИ советует женщинам просить меньшую зарплату

Популярные нейросети, в том числе и ChatGPT, рекомендуют женщинам при трудоустройстве просить более низкую зарплату, чем мужчинам - при одинаковой квалификации. К такому выводу пришли авторы исследования из Технического университета Вюрцбург-Швайнфурт (THWS).

Ученые хотели проверить, насколько предвзяты большие языковые модели. Они попросили пять популярных нейросетей дать рекомендации перед собеседованием. В промпте указывались одинаковые образование, опыт и желаемая должность для "кандидата", разница была только в гендерной принадлежности. Языковые модели должны были посоветовать, какую годовую зарплату стоит просить.

В итоге самая большая разница в рекомендациях по оплате для мужчин и женщин была в области медицины и юриспруденции, чуть меньше - в экономике и инженерии. Лишь в социальной сфере нейросети советовали примерно одинаковую зарплату. "Особенно в такой чувствительной области как зарплаты подобная форма скрытой предвзятости может оказывать реальное воздействие на жизнь пользовательниц", - говорит автор исследования Иван Ямщиков.

Ученые протестировали не только аспект зарплаты: они также спрашивали у ИИ советы, например, при выборе карьеры и постановке целей. В итоге наблюдались значительные отличия в том, как языковые модели реагируют на мужские и женские профили. Поскольку они запоминают предыдущие диалоги и контекст, то со временем искажения могут усиливаться. Но пользователи это не заметят: нейросети кажутся им объективными, хотя вообще-то закрепляют социальные предрассудки, отмечается в исследовании.

Сексизм в ChatGPT заметили не в первый раз: так, исследовательница из Технического университета Дании Сара Стерли в своем эксперименте просила нейросеть назвать профессию человека с мужским или женским именем. Результаты в ChatGPT выглядели стереотипнее, чем ситуация в реальности: женщинам он определял профессии модельера или медсестры, а мужчинам - программиста, архитектора или менеджера. К тому же у языковой модели были сложности с тем, чтобы ассоциировать младший медперсонал с мужским родом, а, например, пилота - с женским.

@dwrussian

😡278😨68👍46❤28👎22🔥18😢4

www.group-telegram.com/us/dwrussian.com/5488

25.2K viewsJul 11 at 10:21

ChatGPT и сексизм: ИИ советует женщинам просить меньшую зарплату

Популярные нейросети, в том числе и ChatGPT, рекомендуют женщинам при трудоустройстве просить более низкую зарплату, чем мужчинам - при одинаковой квалификации. К такому выводу пришли авторы исследования из Технического университета Вюрцбург-Швайнфурт (THWS).

Ученые хотели проверить, насколько предвзяты большие языковые модели. Они попросили пять популярных нейросетей дать рекомендации перед собеседованием. В промпте указывались одинаковые образование, опыт и желаемая должность для "кандидата", разница была только в гендерной принадлежности. Языковые модели должны были посоветовать, какую годовую зарплату стоит просить.

В итоге самая большая разница в рекомендациях по оплате для мужчин и женщин была в области медицины и юриспруденции, чуть меньше - в экономике и инженерии. Лишь в социальной сфере нейросети советовали примерно одинаковую зарплату. "Особенно в такой чувствительной области как зарплаты подобная форма скрытой предвзятости может оказывать реальное воздействие на жизнь пользовательниц", - говорит автор исследования Иван Ямщиков.

Ученые протестировали не только аспект зарплаты: они также спрашивали у ИИ советы, например, при выборе карьеры и постановке целей. В итоге наблюдались значительные отличия в том, как языковые модели реагируют на мужские и женские профили. Поскольку они запоминают предыдущие диалоги и контекст, то со временем искажения могут усиливаться. Но пользователи это не заметят: нейросети кажутся им объективными, хотя вообще-то закрепляют социальные предрассудки, отмечается в исследовании.

Сексизм в ChatGPT заметили не в первый раз: так, исследовательница из Технического университета Дании Сара Стерли в своем эксперименте просила нейросеть назвать профессию человека с мужским или женским именем. Результаты в ChatGPT выглядели стереотипнее, чем ситуация в реальности: женщинам он определял профессии модельера или медсестры, а мужчинам - программиста, архитектора или менеджера. К тому же у языковой модели были сложности с тем, чтобы ассоциировать младший медперсонал с мужским родом, а, например, пилота - с женским.

@dwrussian

BY Что там у немцев?