Влада зобовя’зала нью-йоркські компанії перевіряти своїх роботів-ейчарів на расизм та сексизм

У Нью-Йорку компаніям доведеться довести, що їх ШІ для найму не є сексистським чи расистським.

Такі нововведення закладені в новому законі, який набув чинності в середу, повідомляє NBC News.

Вперше в світі

Компанії, які використовують штучний інтелект для пошуку  співробітників, тепер повинні показати, що цей процес відбувається від сексизму та расизму.

Новий закон вважається першим у своєму роді. Згідно з ним, тепер ШІ, який буде використовуватися в якості ейчара, має пройти перевірку сторонньої компанії.

Компанії, які використовують програмне забезпечення для найму також повинні публікувати ці результати. Компанії, які використовують стороннє програмне забезпечення більше не можуть законно використовувати такі застосунки.

Роботів-ейчарів все більше

Компанії все частіше використовують автоматизовані інструменти в процесах найму. Генеральний директор впливової консалтингової фірми Orcaa Кеті О’Ніл, яка проводила перевірки інструментів найму для компаній, які хочуть відповідати новому закону, сказала, що збільшення кількості інструментів,  стало необхідним.

«В епоху Інтернету влаштуватися на роботу набагато легше. І є інструменти для кандидатів, щоб спростити цей процес. Типу «дайте нам своє резюме, і ми подамо його на 400 вакансій», — заявила вона.

Відповідно, постає необхідність і в таких технологіях.

І відповідно, постає необхідність в таких перевірках. Адже дослідження давно виявили, що ШІ часто демонструє расизм, сексизм та інші упередження.

Експерти кажуть, що хоча закон Нью-Йорка важливий для працівників, він все ще дуже обмежений.

«Але є також багато прогалин. Так, наприклад, аудит упередженості дуже обмежений з точки зору категорій. Ми не розглядаємо дискримінацію за віком, наприклад, що є величезною проблемою при прийомі на роботу, або інвалідність», – заявляють експерти.

Також не зрозуміло, як і в якому обсязі буде виконуватися закон.

Департамент із захисту прав споживачів і працівників Нью-Йорка, відповідальний за дотримання закону, «збиратиме та розслідуватиме скарги» компаній, звинувачених у його порушенні.

Читайте також:

OpenAI готує спецкоманду для управління «надрозумним» і «не завжди доброзичливим» ШІ

«ШІ створює ризики вимирання, як і ядерна війна»: Сем Альтман з OpenAI та 350 науковців підписали нову заяву

OpenAI відкрила всім доступ до API GPT-4