Социальная сеть «ВКонтакте» запустила «обученный» алгоритм собственной разработки, который сможет выявлять «опасный» контент. Алгоритм распознает на картинках объекты — людей, животных, растения — и присваивает им специальный рейтинг, пишет газета «Известия».
Кроме того, нейросеть умеет анализировать текстовые надписи на изображениях. Если алгоритм характеризует картинку как «опасную», она отправляется модераторам на проверку. «Умеренно опасные» фотографии пропадают из поисковой выдачи, а в новостной ленте их приоритет понижается. Записи и фотографии с суицидальным контентом (например, с хэштегами, которые ранее использовались для призыва к суициду) удаляются автоматически, а страницы их авторов блокируются.
По словам руководителя направления Big Data и Machine Learning «ВКонтакте» Андрея Законова, сейчас нейросеть анализирует только изображения, загружаемые для общего доступа, то есть отправляемые фото в личных сообщениях не анализируются. «С помощью этой технологии в будущем мы сможем бороться со спамом и мошенничеством. Мы обучили нашу нейросеть на основе жалоб пользователей на разный контент», — говорит Законов.
Отметим, алгоритм также помогает формировать «умную» новостную ленту, в которой записи друзей и сообществ показываются не в хронологическом порядке, а по приоритету, максимально интересному конкретному пользователю.
Фото: ИЗВЕСТИЯ/Павел Бедняков
