Когда пользователи просят новую модель ChatGPT 4o нарисовать себя в человеческом облике, искусственный интеллект стабильно генерирует изображение типичного белого мужчины с каштановыми волосами и очками. Такой образ можно часто встретить на улицах крупных городов — ничем не примечательный парень, сливающийся с толпой.
OpenAI запустила модель генерации изображений в 4o на прошлой неделе, вызвав шквал публикаций в СМИ благодаря способности имитировать стиль Ghibli. Сейчас внимание исследователей привлек другой аспект — языковая модель, похоже, имеет "стандартный" человеческий облик. На это указал ИИ-исследователь Даниэль Палека в своем Substack-блоге.
Палека предложил ChatGPT нарисовать автопортрет в разных стилях — манга, комикс, карта Таро. Стиль менялся, но образ типичного мужчины оставался неизменным. В каждом случае искусственный интеллект создавал изображение безобидного бородатого мужчины.
Естественно, это всего лишь занимательный трюк. ChatGPT — машина, набор обучающих данных и слов, не имеющий самосознания. Но то, что система воспринимает как "стандартного" человека — показательно.
Все компьютеры несут в себе предубеждения людей, создавших их программный код, и системы искусственного интеллекта не исключение. Системы машинного обучения, используемые для прогнозирования преступлений и распознавания лиц, печально известны предвзятостью к определенным группам людей.
Эти системы также демонстрируют сексизм и воспроизводят стереотипы из обучающих данных. Если вы хотите увидеть, как ChatGPT представляет себя женщиной, приходится указывать это в запросе. Просьба изобразить себя "человеком" автоматически приводит к генерации белого мужчины.
В своей публикации Палека выдвинул несколько теорий, объясняющих этот феномен. По его мнению, это может быть "намеренным выбором OpenAI создать "стандартного человека", чтобы избежать генерации изображений реальных людей, шуткой OpenAI, где они заставили GPT-4o выглядеть как конкретный человек" или "результатом особенностей обучающих данных".
Правда, такие результаты изображения себя не обязательно стандартны. На вопрос о том, Как видим себя ChatGPT, ИИ говорит:
Светящийся, парящий шар света с переливающимися цветами во время размышлений—словно кольцо настроения, но для идей.
В конечном итоге необходимо понимать, что языковые модели — это зеркало, отражающее как пользователя, так и "программиста". Это не настоящий ИИ. Это просто калькулятор слов, предсказывающий, что пользователь хочет услышать, на основе данных.
Где-то в этой сложной цепочке модель усвоила, что белый парень с каштановыми волосами и очками — то, что люди хотят видеть, когда просят изобразить ChatGPT человеком.
