Instagram внедрил AI-алгоритм для удаления оскорбительных комментариев

06.07.2017

Instagram внедрил AI-алгоритм для удаления оскорбительных комментариев

В конце июня Instagram внедрил AI-алгоритм для удаления спама и оскорбительных комментариев. Искусственный интеллект распознаёт недопустимые фразы, анализируя контекст. Он чистит даже те комментарии, в которых нейтральные слова могут нести оскорбительное значение, и не трогает сообщения, где нецензурная лексика выражает экспрессию.

Алгоритм классификации текста DeepText разработала компания Facebook. Система применяет машинное обучение и концепцию «встраивания слов» – принцип, по которому работает человеческий мозг при распознавании смысла речи. То есть, DeepText думает, как люди, и может обучаться.

Во второй половине 2016-го руководство Instagram решило внедрить новую технологию понимания текста для удаления спама. Ранее комментарии пользователей просматривала команда модераторов. DeepText взял на себя 80% их работы. Система анализирует семантику каждого сообщения, а также проверяет аккаунт пользователя, который его оставил. Если сообщение написал человек, на которого пользователь не подписан, то система проверит, не спам ли это. Повторяющиеся однотипные комментарии также расцениваются как реклама.

Увидев, что система работает эффективно (количество спама в комментариях уменьшилось в разы), представители соцсети решили использовать DeepText для модерации оскорбительных сообщений и комментариев, нарушающих правила общения. AI-алгоритм даёт оценку написанному тексту в зависимости от того, насколько он уверен, что комментарий недопустим. Если оценка выше определённого значения, сообщение автоматически удаляется. Причём автор его видит, а пользователи нет.

Пока DeepText работает только с англоязычными тестами, но в будущем его функциональность расширится. При желании алгоритм можно отключить в настройках.

По мнению руководства соцсети, AI-система поможет Instagram стать самым дружелюбным местом в Интернете.

Все новости
Новости AI CONFERENCE

Присоединяйтесь к нашим подписчикам и получите скидку в 1000 рублей на билет

19 АПРЕЛЯ 2018 | NEWSROOM

Москва, ул. Поклонная, д. 3-А, стр. 4

Купить билет