Многие организации применяют искусственный интеллект для решения важных вопросов, например, при найме сотрудников, начислении премии, распределении средств, для автоматизации процессов и тд. ИИ используют и в сфере деятельности правоохранительных органов, судебной практике, в образовании и многом другом. В общем, технология активно интегрируется в процессы в государственном и частном секторах. Нейросеть становится глобальной «умной головой», которая знает обо всем и принимает заведомо верные решения. Но так ли это на практике и что думают об этом люди?
Ученые Марина Чугунова и Вольфганг Й. Лухан (Marina Chugunova, Wolfgang J. Luhan’s) провели исследование («Управляемые роботами» — Ruled by Robots), в котором изучили отношение людей к принятию решений по распределению средств (начисление ЗП, премий) ИИ или человеком. Были опрошены более 200 участников из Великобритании и Германии. И немного неожиданно, но 63,3% респондентов проголосовали за то, чтобы алгоритм отвечал за то, сколько денег они заработают. Общественность, отвечая на вопросы, вероятно, руководствовалась тем, что робот будет принимать нейтральные, ничем не ангажированные, решения, тогда как у человека могут возникнуть, например, личные неприязни, дискриминация по половому или национальному признаку.
Однако опрос показал также, что, хотя участники и больше доверяют ИИ, на выходе вердикт машины людей удовлетворил менее, чем человеческий. Помимо того, что роботы вроде как беспристрастны, решающее значение имеет, как они обучены и насколько прозрачны и подотчетны. И это не всегда честно, как может показаться на первый взгляд.
Читайте также
ИИ-чат-боты могут незаметно искажать восприятие реальности: ученые предупреждают о новом риске
Многие исследования систематически выявляют проблемы, связанные с предвзятостью в системах ИИ. Так, Управление комиссара по информации Великобритании (ICO) определило, что самые популярные большие языковые модели (LLM) политически ангажированы. Например, чат-бот Grok из x.AI Илона Маска специально обучен так, чтобы не давать честные, неудобные для текущей повестки ответы («woke» answers).
Исследование, проведенное учеными из Оксфордского, Стэнфордского и Чикагского университетов, показало, что нейросети чаще рекомендуют смертную казнь обвиняемым, говорящим на афроамериканском английском. А эксперты Bloomberg Technology выявляли дискриминацию ИИ при выборе кандидатов на должность финансового аналитика. Резюме с именами, характерными для афроамериканцев, преимущественно разворачивались.
Получается, что и ИИ может быть весьма предвзятым при принятии решений, если его на это настроили. Поэтому вопрос «кому лучше доверять» – человеку или роботу – пока остается открытым. Возможно, при правильном подходе к языковым моделям и контроле, применять ИИ в некоторых областях будет не таким уж и плохим вариантом.
Меню 
Знания 
События 
Новости 
Курсы валют