Предвзятость ИИ в найме: предпочтение собственного стиля
Ключевые факты
- 1 ИИ в найме может быть предвзятым не только по демографическим признакам, но и по стилю написания резюме.
- 2 Модели ИИ могут предпочитать тексты, стилистически похожие на их собственные выходные данные.
- 3 Кандидаты, использующие LLM для создания резюме, могут получить преимущество при оценке той же моделью.
- 4 Будущее найма может превратиться в конкурс на правильный «ИИ-стиль», а не на компетенции.
Новое исследование выявило потенциальную проблему в использовании искусственного интеллекта для оценки резюме: модели могут отдавать предпочтение кандидатам, чьи резюме написаны в стиле, напоминающем собственный вывод ИИ. Это означает, что соискатели, использующие ту же большую языковую модель (LLM), которая затем будет оценивать их резюме, могут получить несправедливое преимущество. Эксперименты показали, что резюме, стилизованные под выходные данные модели, получали заметно более высокие оценки, даже при сопоставимом качестве кандидатов. Это поднимает серьезные вопросы о будущем найма, где конкурс может сместиться от оценки компетенций к соревнованию за правильный «ИИ-стиль» написания резюме. Вместо того чтобы выбирать лучшего специалиста, система может отдавать предпочтение тому, кто смог адаптировать свой текст под алгоритмы нейросети.