Instagram планирует использовать ИИ для борьбы с оскорбительными комментариями

Instagram начнет использовать систему, которая автоматически обнаруживает оскорбительные комментарии и следит за тем, чтобы люди никогда их не видели. Новая система основана на работе, которую Facebook и Instagram сделали с помощью DeepText, механизма классификации текста, предназначенного для того, чтобы помочь машинам интерпретировать слова, используемые в контексте борьбы со спамом.

Как сообщало Wired, Instagram успешно использует технологию для борьбы со спамом с октября прошлого года. Основываясь на успехе этой системы, команда соцсети хотела проверить, сможет ли она решить даже более крупную проблему: злобные комментарии. Разработчики смогли обучить DeepText определению отрицательных комментариев и классификации их на широкие сегменты, такие как «издевательства, расизм или сексуальные домогательства». Говорят, что система проанализировала, по крайней мере, два миллиона комментариев до сегодняшнего дня, и каждый из них был оценен как минимум дважды, чтобы обеспечить правильную классификацию.

Первое время фильтр будет работать только на английском языке. Однако Instagram расширяет свой фильтр спама на другие языки, что означает, что, скорее всего, они будут использовать этот инструмент для большего количества регионов.