Reuters сообщила, что Amazon разработала инструмент, основанный на искусственном интеллекте, который должен помочь компании в наборе новых сотрудников. Однако использование системы было прекращено, когда компания обнаружила, что она дискриминирует женщин …
По данным Reuters, в 2014 году Amazon обратилась к инженерной команде с просьбой разработать способ автоматизации процесса найма. Компания создала 500 компьютерных моделей для поиска и анализа резюме предыдущих кандидатов, на основе которых система могла помнить хорошие и плохие примеры резюме.
Некий источник, из администрации Amazon, сообщил, что компания хотела разработать систему, которая автоматически выбирала бы лучших кандидатов, например, пять из ста резюме.
Год спустя, однако, инженеры обнаружили серьезный дефект в работе системы. Оказалось, что искусственному интеллекту … не нравятся женщины. Скорее всего, причина заключалась в том, что Amazon настроила систему главным образом для возобновления работы мужского персонала, что автоматически дисквалифицировало резюме, отправленные женщинами, считая их менее предпочтительными.
Amazon якобы отказался от системы автоматического набора персонала в начале прошлого года, после того как менеджеры компании потеряли веру в правильную работу механизма. Компания заявила, что, конечно, она обратила внимание на суждение об искусственном интеллекте, но никогда не полагалась на нее на 100%. В заявлении для портала Business Insider представители Amazon заверили, что компания соблюдает принципы равенства при наборе сотрудников.