Исследователи из Пекинского университета Цзяотун представили экспериментальную разработку — устройство для считывания мозговой активности, которое может быть использовано для усиления системы интернет-цензуры в Китае, в частности для выявления порнографического контента.
Контекст: существующие методы контроля
В Китае распространение порнографии законодательно запрещено. Для её обнаружения и блокировки уже применяется комплексный подход: используются алгоритмы искусственного интеллекта (ИИ) для автоматического анализа контента, а также труд специальных сотрудников — так называемых «оценщиков порно» (цзянь хуан ши). Эти специалисты, преимущественно женщины, вручную просматривают огромные массивы изображений и видео. Однако у обоих методов есть существенные недостатки. Человеческий фактор приводит к профессиональному выгоранию и ошибкам из-за усталости, а алгоритмы ИИ пока не обладают стопроцентной точностью, особенно при анализе изображений со сложным фоном, что позволяет части контента оставаться незамеченным.
Принцип работы нейроинтерфейса
Новая разработка призвана объединить преимущества человека и машины. Устройство, напоминающее шлем, регистрирует электрическую активность мозга (энцефалограмму). Идея основана на научном наблюдении: когда человек видит откровенный контент, даже мельком (например, на 0.5 секунды среди потока других изображений), в его мозге возникает специфическая реакция — «всплеск» удивления или внимания, который фиксируется приборами. Таким образом, технология пытается автоматизировать процесс первичного отбора, используя непроизвольную и мгновенную реакцию человеческого мозга, которая считается более точной, чем работа текущих алгоритмов ИИ.
Обратите внимание: Работы ученых из США, Франции и Австрии открывают перспективы для новых технологий, основанных на квантовой информации.
Текущие результаты и перспективы
По данным разработчиков, в ходе испытаний система демонстрировала срабатывание практически каждый раз при показе откровенных изображений. Однако технология ещё далека от совершенства: её общая точность оценивается примерно в 80%, а также фиксируются ложные срабатывания. Исследователи связывают это с недостаточным объёмом обучающих данных, использованных при настройке алгоритмов распознавания паттернов мозговой активности.
Широкий контекст применения нейромониторинга
Стоит отметить, что подобные технологии мониторинга состояния человека уже находят применение в Китае не только в сфере контроля контента. Например, на некоторых промышленных предприятиях используются системы для отслеживания уровня внимания и эмоционального состояния рабочих. Это делается с целью повышения производительности труда и снижения риска несчастных случаев. Такая практика поднимает важные вопросы о границах приватности и этики в эпоху цифровых технологий.
Согласны ли вы, чтобы ваш работодатель следил за вашим эмоциональным состоянием на работе?
Поддержите канал подпиской и поделитесь своим мнением.
Больше интересных статей здесь: Технологии.
Источник статьи: О новых технологиях для контроля в интернете.