Не забудьте поширити ❤️
Людство давно прагне автоматизувати різні рутинні процеси. Поява штучного інтелекту дозволила поширити цей механізм на складніші завдання. Співробітник складу Amazon Раян Фен розповідає, як був організований процес його працевлаштування в компанію.
Кілька тижнів тому я відправив в Amazon резюме на посаду співробітника складу. Система запропонувала подивитися відео і пройти вікторину з розміщення вантажів – важке вниз, легке нагору. Приблизно через 20 хвилин мені прийшов електронний лист від Amazon з повідомленням, що я прийнятий на роботу, і вказівкою прийти до відділу з роботи з персоналом на складі в Балтіморі – потрібно було зробити фото для бейджа і відсканувати документи.
4 підказки: як рекрутери Google оцінюють емоційний інтелект
Попри разючу швидкість і простоту процесу, я не міг позбутися однієї думки – я влаштувався в одну з найбільших компаній світу, поговоривши тільки з однією людиною. Цей факт змушував замислитися над тим, як далеко зайшов процес автоматизації в нашому світі.
Кілька днів по тому я здав тест на наркотики та заповнив ще одну анкету. На складі, де мені треба було працювати, я провів менш як п’ять хвилин і зустрів всього двох співробітників. Все це здалося мені дуже незвичним. Невже для компанії не мають значення людські якості? Чи змогли співробітники оцінити їх за час нашої короткої зустрічі, чи важлива тільки моя здатність виконувати роботу?
Останньою частиною процесу працевлаштування виявилося годинне навчальне відео, в якому розповідалося про всі особливості роботи на складі: від вимог безпеки до відповідного одягу.
Автоматичний найм співробітників на деякі вакансії економить масу часу, особливо у великих компаніях (станом на 30 квітня в Amazon працювало понад 935 тисяч осіб). Також вважається, що такий підхід допоможе боротися з дискримінацією. Фріда Поллі з Harvard Business Review зазначає, що люди навіть не стали б розглядати багатьох кандидатів, в той час як штучний інтелект неупереджено оцінює всіх, хто подав заяву.
Однак професора Корнелльського університету Маніш Рагхаван і Солон Барокас дотримуються протилежної думки та заявляють, що новий підхід може тільки погіршити цю проблему. Професор права і співробітниця Сховища препринтів з соціальних і гуманітарних наук SSRN (Social Science Research Network) Іфеома Аджунва зазначає, що інструменти, використовувані при автоматичному наймі, можуть обмежувати можливості претендентів значно сильніше, ніж бесіда зі співробітником відділу кадрів – особливо, якщо мова йде про низькооплачувану або погодинну роботу.
Amazon вже знайшла підтвердження цієї думки у власних алгоритмах: у 2018 році фахівці з машинного навчання виявили, що система автоматичного найму частіше вибирає чоловіків. Для налаштування її алгоритмів використовувалися резюме, які були подані в компанію за останні десять років. Серед них виявилося більше заяв від кандидатів чоловічої статі, тому система навчилася знижувати шанси жінок. Інженери намагалися усунути цю проблему, але зробити це так і не вдалося. Упередженість інструменту Amazon виявилася пов’язана з тим, що він був створений на основі реальних резюме.
Goldman Sachs у 2016 році свідомо почав використовувати формат автоматичного інтерв’ю, щоб підвищити культурне розмаїття команди. Але в статті New York Times за 2019 рік Аджунва стверджує, що зростання автоматизації не розв’язує цю проблему і призводить до появи замкнутої системи, позбавленої прозорості та підзвітності.
Інтернет показує оголошення про вакансії певному колу осіб, і після автоматичного відбору компанія наймає кількох кандидатів. Алгоритм використовує їх відповіді при створенні критеріїв працевлаштування майбутніх співробітників.
Дослідниця наводить два приклади дискримінації при онлайн-працевлаштуванні. В ході судового розгляду 2017 року було встановлено, що платформи автоматизованого найму дискримінували кандидатів за віком – в списку, в якому потрібно було вказати період навчання в коледжі, були відсутні роки випуску починаючи з певної дати. У 2016 році проти Facebook був поданий груповий позов, в результаті якого компанії довелося переналаштовувати платну рекламну платформу для дотримання антидискримінаційних законів. Функція «Схожі користувачі» дозволяла роботодавцям показувати оголошення про роботу тільки тим користувачам Facebook, які зовні нагадували їх нинішніх співробітників. Це призводило до дискримінації за расовою і статевою ознакою.
Аджунва стверджує, що до тих пір, поки роботодавці можуть на свій розсуд вибирати критерії «культурної відповідності», у них залишається можливість для дискримінації. EEOC (Equal Employment Opportunity Commission – Комісія з рівних можливостей зайнятості в США) розділяє ці побоювання. Наприклад, було встановлено, що тести для кандидатів на вакансії Best Buy порушували Розділ VII Закону про громадянські права. Це змусило компанію відмовитися від використання анкети, яка була частиною процесу автоматизованого найму і застосовувався для прогнозування ефективності роботи співробітників. Тест віддавав перевагу тим кандидатам, у яких не було прогалин в трудовому стажі. Такий підхід знижував шанси жінок, які переривали кар’єру, щоб подбати про дітей.
Автоматизація різних процесів (наприклад, найму співробітників) – це тренд найближчого майбутнього. Але для боротьби з можливою дискримінацією потрібно поставитися до налаштування відповідних систем уважніше.
За словами адвокатів Марка Жируарда і Мацея Цегловськи, правила EEOC покликані зробити процес працевлаштування співробітників максимально прозорим. Наприклад, пропонується зобов’язати компанії зберігати дані, пов’язані з процесом підбору співробітників. У разі виявлення факту дискримінації роботодавця можуть притягнути до відповідальності. Аджунва підтримує такий підхід. Якщо у комісії виникнуть питання до системи найму, яку використовує компанія, роботодавець повинен буде надати докази того, що дана платформа не була створена з метою дискримінації певних груп кандидатів.
У ще одній статті Аджунва пропонує зобов’язати роботодавців проводити внутрішній і зовнішній аудит. Ці перевірки дозволять переконатися в тому, що жоден з кандидатів не був виключений несправедливо.
OSHA (Occupational Safety and Health Administration – Управління з безпеки та гігієни праці) проводить перевірки безпеки співробітників на робочому місці та на їх основі ставить оцінки роботодавцям. Аджунва виступає за введення аналогічної системи для контролю за платформами автоматичного найму. Також вона рекомендує почати колективне обговорення, в ході якого представники профспілок спільно з роботодавцями зможуть розробити критерії підбору співробітників і посилити захист особистих даних кандидатів.
Як стати інженером машинного навчання в Amazon
Пандемія COVID-19 сприяла зростанню популярності ШІ у сфері підбору персоналу. Прагнучи звести до мінімуму особисті контакти, багато роботодавців проводять співбесіди онлайн і використовують можливості штучного інтелекту для підбору співробітників. При цьому для того, щоб забезпечити рівноправність і справедливість процесу, як і раніше потрібні люди.
Ми у соцмережах: