"Вконтакте" запускает сервис на основе нейросети для борьбы с враждебными высказываниями
26 февраля, 2021 - 13:46
Администраторы групп "ВКонтакте" смогут использовать специальный фильтр, в основе которого лежит нейросеть, для борьбы с враждебными высказываниями.
Об этом говорится в сообщении соцсети.
"Администраторам стал доступен специальный фильтр для борьбы с враждебными высказываниями - в его основе лежит нейросеть. Фильтр можно включить и отключить в настройках сообщества в любое время, при этом по умолчанию он отключен. Функция уже появилась у владельцев 50% пабликов, а скоро станет доступна всем", - сообщили в компании.
Отмечается, что сейчас алгоритмы умеют определять прямые угрозы - пожелания смерти, обещания причинить вред здоровью и угрозы расправы. В будущем алгоритм может научиться распознавать и другие признаки нетерпимости, например, травлю по национальной или религиозной принадлежности. "Руководителям сообществ доступны отфильтрованные публикации с возможностью их восстановить, однако тестовый запуск показал, что отсеянные комментарии возвращают лишь в 1% случаев", - поясняют в соцсети.
Тестирование фильтра было запущено в ноябре 2020 года. За этот период функцией уже воспользовались руководители свыше 10% всех сообществ "ВКонтакте" - это 13 млн публичных страниц, групп и мероприятий. Администраторы сообществ оценили работу нейросети - среди подключивших фильтр комментариев от него впоследствии отказались лишь 1,8%.
Для создания алгоритмов, которые хорошо понимают разговорную речь, использовалось большое количество текстов на русском языке - например, субтитры из фильмов, сериалов и видео. Нейросеть содержит в себе специальный механизм внимания, позволяющий принимать решения на основе важности слов и их комбинаций. Разработчики изучают логику принятия решений - это позволяет исправлять ошибки, учитывать контекст и эффективнее обучать алгоритмы. Сейчас нейросеть правильно определяет угрозы в 80% случаев, и команда продолжает работать над ее улучшением.
Популярное сегодня
- Найдено тело пропавшей в Евпатории 23-летней девушки
- Двое крымчан задержаны по подозрению в убийстве пропавшей девушки из Евпатории (видео)
- Появились новые подробности исчезновения 23-летней девушки в Евпатории
- 25 апреля: День дочери, ДНК, делегатов и пингвинов
- В Крыму пропала 24-летняя рыжеволосая девушка
- Карнавал ирисов стартовал в Никитском ботаническом саду
- Где в Севастополе не будет воды 25 апреля 2024? (ДОПОЛНЯЕТСЯ)
- В Севастополе на храме в честь Всех святых в земле Русской просиявших установлен крест на центральном куполе (фото)
- В Севастополе 25 апреля морской транспорт приостановил движение
- Где в Севастополе не будет света 25 апреля
Добавить комментарий