Max Home IndustryИсследователи утверждают, что инструменты найма с искусственным интеллектом не уменьшают предвзятость и не улучшают разнообразие.
«Растет интерес к новым способам решения таких проблем, как предвзятость в интервью», — пишут исследователи из Кембриджского университета в журнале Philosophy and Technology.
Использование ИИ становится все более распространенным, но его анализ видео-кандидатов или приложений — это «псевдонаука».
Профессиональная организация по управлению персоналом сообщила BBC News, что искусственный интеллект может противодействовать предвзятости.
В исследовании отмечается, что в 2020 году международный опрос 500 специалистов по кадрам показал, что почти четверть из них использовали ИИ для «привлечения талантов в форме автоматизации».
Но использование его для уменьшения предвзятости контрпродуктивно, и, как сказала BBC News постдокторский исследователь Центра гендерных исследований Кембриджского университета Керри Маккерет, основываясь на «мифе».
«Эти инструменты нельзя научить только определять характеристики, связанные с работой, и исключать пол и расу из процесса найма, потому что те атрибуты, которые, как мы считаем, необходимы для того, чтобы быть хорошим сотрудником, неотъемлемо связаны с полом и расой». она сказала.
В исследовании отмечается, что некоторые компании также сочли эти инструменты проблематичными.
В 2018 году, например, Amazon объявила, что отказалась от разработки механизма набора персонала на основе ИИ, поскольку он мог определять пол по резюме и дискриминировал соискателей-женщин.
«Современная френология»
Особую озабоченность у исследователей вызывали инструменты для «анализа деталей речи и телодвижений кандидата», чтобы увидеть, насколько они напоминают предполагаемого идеального сотрудника компании.
Технология анализа видео и изображений не имеет «научной основы», заявила BBC News соавтор Элеонора Дрэдж, отвергнув ее как «современную френологию», а ложная теория формы черепа может выявить характер и умственные способности.
«Говорят, что они могут узнать вашу личность, взглянув на ваше лицо. Идея состоит в том, что, подобно тесту на детекторе лжи, ИИ может видеть «сквозь» ваше лицо настоящего вас», — сказала она BBC News.
Вместе с шестью студентами, изучающими информатику, исследователи создали собственный упрощенный инструмент для набора ИИ, чтобы оценивать фотографии кандидатов по личностным качествам «большой пятерки»:
- приятность
- экстраверсия
- открытость
- добросовестность
- невротизм
Но рейтинги были искажены множеством нерелевантных переменных.
«Когда вы используете наш инструмент, вы можете видеть, что ваш показатель личности меняется, когда вы меняете контраст/яркость/насыщенность», – написал Драге.
Сайт новостей технологий The Register отметил, что другие расследования пришли к аналогичному выводу.
Немецкий общественный вещатель, увидевший, что в видео он носил очки или платок, изменил баллы кандидата.
Хайфа Мохдзаини из Чартерного института персонала и развития сообщила BBC News, что, согласно его исследованиям, только 8% работодателей использовали ИИ для отбора кандидатов.
«ИИ может эффективно помочь увеличить разнообразие организации, отфильтровывая из более широкого пула кандидатов, но он также может упустить много хороших кандидатов, если правила и обучающие данные будут неполными или неточными», — сказала она.
«Программное обеспечение ИИ для анализа голоса и языка тела кандидатов при приеме на работу находится в зачаточном состоянии и, следовательно, несет в себе как возможности, так и риски».