Об AI модерации

В последнее время я много наблюдаю за общением игроков на серверах. И ситуация с отношением друг к другу лучше не становится. При этом комьюнити CS 1.6 сокращается с каждым днём, и в потоке тысяч игроков скрыться маргиналам с неадекватным поведением всё сложнее.

Впрочем, многие из них и так всегда были на виду: токсики, любители обходить правила и использовать уязвимости системы, игроки, рассчитывающие на защиту администраторов, свои привилегии или возможность откупиться деньгами. Кто-то пользуется техническими обходами, кто-то тем, что уследить за всем происходящим невозможно.

Политика проекта всегда была достаточно мягкой как в отношении общения, так и в отношении соблюдения других правил, и в приоритете ставилось регулирование внутриигровой части самими игроками.
Отчасти такой подход и привёл к тому, что у нас обосновались люди, которые годами нарушают правила, избегая наказаний или получая их в недостаточной мере.

Поэтому сегодня мы начинаем эксперименты с внедрением на сервера проекта искусственного интеллекта. Первым направлением станет текстовый чат, а карательным инструментом - мут. ИИ будет анализировать ваши публичные сообщения на предмет нарушения правил и блокировать возмутителей спокойствия.

Анализ уже работает на всех серверах, но реальные действия самим ИИ будут вводиться постепенно, от сервера к серверу. Не стоит думать, что все наказания сразу будут справедливыми и без ошибок, нужно время на дебаг и на поиск абузов.

Не могу сказать что я жду какого-то конкретного результата от такого нововведения, на данном этапе это скорее всё ради получения данных и последующих выводах о том что поменяется при введении нового субъекта регулирования и куда двигаться дальше.

Изменились технологии, и это даёт новые инструменты контроля. Теперь предстоит разобраться, стоит ли их использовать, для каких целей и где должна проходить граница.