Нейросеть определила сексуальную ориентацию по фотографии: точность оказалась выше человеческой
Исследователи Стэнфордского университета представили работу, посвящённую способности алгоритмов машинного обучения выявлять различия между фотографиями гетеросексуальных и гомосексуальных людей. Учёные подчёркивают: результаты имеют научный интерес, но одновременно демонстрируют серьёзные риски для приватности и безопасности.
Авторами исследования стали Михал Косински и Йилун Вонг. Для эксперимента они использовали несколько уже существующих систем распознавания лиц и анализа визуальных особенностей. В качестве исходного материала применялись фотографии пользователей американского сайта знакомств.
Изначально исследователи располагали массивом более чем из 300 тысяч снимков. После отбора в эксперимент вошли 35 326 фотографий 14 776 мужчин и женщин. Количество гетеросексуальных и гомосексуальных участников было одинаковым. Их ориентацию определяли по информации о том, партнёров какого пола они искали на платформе.
В выборку включили только фотографии белых людей. Учёные объяснили это тем, что среди пользователей с другим цветом кожи оказалось недостаточно представителей сексуальных меньшинств для получения статистически значимых результатов. Такая особенность ограничивает применимость выводов и показывает, что алгоритм нельзя автоматически считать универсальным.
Во время тестирования нейросети предлагали сравнить изображения двух случайно выбранных людей: одного гетеросексуального и одного гомосексуального. По одной фотографии система правильно определяла ориентацию мужчин в 81% случаев, а женщин - в 74%. Когда алгоритму предоставляли пять снимков одного человека, показатель возрастал до 91% для мужчин и до 83% для женщин.
Люди справлялись с аналогичной задачей заметно хуже. При анализе одной фотографии участники эксперимента угадывали ориентацию мужчин примерно в 61% случаев, а женщин - в 54%. Эти результаты примерно соответствуют данным более ранних исследований человеческого восприятия.
Алгоритм учитывал множество едва заметных визуальных признаков, а не одну конкретную черту внешности. В среднем у мужчин-гомосексуалов исследователи обнаружили более узкую нижнюю часть лица, длиннее нос и более высокий лоб. У женщин-гомосексуалок, напротив, чаще отмечались более широкая челюсть и относительно низкий лоб.
Дополнительными признаками у мужчин оказалась менее выраженная растительность на лице, а у женщин - более редкое использование косметики и более тёмный цвет волос. Однако авторы отдельно подчёркивают: эти особенности настолько слабо выражены, что их невозможно надёжно использовать для оценки ориентации конкретного человека. Они проявляются только при обработке больших массивов данных.
Причины выявленных корреляций остаются неясными. Например, меньшее количество волос на лице может быть связано как с биологическими особенностями, так и с привычками ухода. Аналогично использование косметики зависит от личного выбора, культуры, возраста и социальных условий, а не только от физиологии.
По мнению авторов, полученные результаты могут косвенно поддерживать гипотезу о влиянии гормональных факторов внутриутробного развития на формирование сексуальной ориентации. Согласно одной из научных теорий, определённую роль могут играть особенности воздействия мужских половых гормонов на организм плода. При этом исследование не доказывает эту гипотезу и не позволяет установить прямую причинно-следственную связь.
Учёные также затрагивают проблему физиогномики - попыток определять характер, способности или моральные качества человека по чертам лица. Подобные идеи долгое время считались лженаучными и неоднократно использовались для оправдания дискриминации. Современные алгоритмы действительно могут находить статистические закономерности, но наличие корреляции ещё не означает, что по внешности можно достоверно судить о личности.
На внешний вид влияют гены, гормоны, возраст, образ жизни, социальная среда и привычки. Те же факторы могут отражаться на поведении и самовосприятии. Кроме того, отношение окружающих способно менять манеру одеваться, выражение лица, стиль ухода за собой и даже особенности поведения. Поэтому нейросеть может распознавать не саму ориентацию, а косвенные следы жизненного опыта и социального окружения.
Исследование вызвало обеспокоенность прежде всего из-за возможного злоупотребления технологией. Если подобные системы станут доступными государственным структурам, работодателям, страховым компаниям или злоумышленникам, их могут использовать для давления, шантажа, незаконного наблюдения и отказа в услугах.
Особенно опасна ситуация, когда алгоритм применяется без согласия человека. Фотографии лица сегодня размещены в социальных сетях, базах организаций, новостных материалах и системах видеонаблюдения. Даже если пользователь не раскрывает личную информацию, его изображение может быть сопоставлено с другими цифровыми данными.
В отличие от поведения в интернете лицо невозможно полностью скрыть при каждом контакте. Цифровые следы можно удалить, ограничить доступ к аккаунту или использовать анонимные сервисы, тогда как изображения миллиардов людей уже находятся в открытом или полуоткрытом доступе. Именно поэтому авторы считают результаты своей работы не только научным достижением, но и предупреждением.
При этом точность алгоритма не следует воспринимать как доказательство способности "читать" ориентацию по лицу. Система обучалась на конкретной базе данных, сформированной из пользователей одного сайта знакомств и принадлежащей преимущественно к одной этнической группе. При работе с фотографиями людей другого возраста, происхождения, культуры или качества изображения результаты могут оказаться значительно хуже.
Кроме того, вероятность ошибки даже в приведённых показателях остаётся существенной. Если алгоритм ошибается в каждом десятом случае, его нельзя использовать для принятия решений, затрагивающих права, свободы, здоровье или безопасность человека. Тем более недопустимо превращать статистический прогноз в утверждение о личности конкретного пользователя.
Для защиты от подобных рисков необходимы строгие правила обработки биометрических данных. Фотографии лица должны использоваться только с информированного согласия, а алгоритмы, способные делать выводы о чувствительных характеристиках человека, нуждаются в независимой проверке и правовом контроле.
История этого исследования показывает двойственную природу искусственного интеллекта. Нейросети способны обнаруживать закономерности, которые недоступны человеческому зрению, но сами по себе не понимают контекст, не оценивают моральные последствия и не различают научный эксперимент и вторжение в частную жизнь. Поэтому вопрос заключается не только в том, может ли алгоритм определить ориентацию по фотографии, но и в том, имеет ли он право это делать.
