ОК сократили токсичность в комментариях почти вдвое с помощью ИИ
Одноклассники стали временно ограничивать пользователей, которые пишут оскорбительные комментарии. Разработка на основе машинного обучения позволила сократить долю и количество негативных высказываний под постами, фотографиями и видео на 47%.
Одноклассники внедрили модель машинного обучения, позволяющую автоматически выявлять токсичные комментарии и ограничивать их авторов в написании новых на определенный промежуток времени — от одного часа до 24 часов.
Зависит от того, как часто пользователь оставляет негативные высказывания в адрес других.
По данным исследования ОК, негативные посты вызывают злость у более чем 40% пользователей, принявших участие в опросе. ML-модель была обучена на 400 тысячах высказываний, которые можно описать как недружелюбные или провоцирующие негативную дискуссию. Запуск ML-модели позволил сократить время обработки жалоб на токсичные посты в три раза и быстрее помочь людям с решением их проблем.