CommunityOne: Новые функции модерации и логирования на базе ИИ
Краткое содержание
CommunityOne Builders Help обсуждает интересные новые функции модерации для оптимизации управления сервером. Предлагаемые обновления включают прямые гиперссылки на логи бота для более быстрой проверки и настраиваемую систему фильтрации на базе ИИ, которая позволяет модераторам определять конкретный запрещенный контент простым языком. Эти улучшения направлены на экономию времени персонала и повышение безопасности сервера, при этом рассматриваются потенциальные премиум-варианты для покрытия расходов на обработку ИИ....
Привет, команда CommunityOne! У меня есть ещё одно предложение по новым функциям модерации.
Как видно на скриншоте, когда Spark помечает пользователя за «Распространение сексуальных изображений», он показывает недавние события. Было бы здорово, если бы каждое из этих событий (например, 1 и 2) содержало прямую ссылку на конкретное сообщение в журнале, где бот заблокировал пользователя.
Сейчас, если команде нужно проверить подробности или контекст, приходится вручную искать их в каналах журналов. Прямая ссылка на нужную запись бота сэкономила бы модераторам кучу времени.
Discord sent us an expired image link.
Также еще одна крутая идея для системы модерации: было бы здорово, если бы у нас была функция «Пользовательский модератор» (как пользовательский ИИ-промпт).
Вместо стандартных категорий мы могли бы просто сказать боту на естественном языке, чего мы не хотим видеть на сервере, и ИИ отфильтровал бы это. Например, мы могли бы сказать ему блокировать и помечать все, что связано с нацизмом, разжиганием ненависти или конкретными нарушениями правил сервера.
Что думаете? 
Извините за пинг 
да! мы на самом деле хотим это сделать
да, это тоже отличная идея
это, вероятно, будет премиум-функцией, если что-то подобное произойдет, вы бы были готовы за это платить?
причина в том, что это на самом деле будет стоить довольно дорого лол
лимиты запросов — это боль для всех ИИ-провайдеров... вздох
спасибо за баллы! Ценю
. (Кстати, что я вообще могу с ними делать?🧐 )
Полностью понимаю насчет цены — запуск ИИ-моделей недешев с учетом затрат на API. Честно говоря, я не уверен, сможем ли мы позволить себе это финансово
, но так как я управляю сервером для Идана, я обязательно предложу ему это и посмотрю, что он думает, когда это выйдет. Это действительно звучит как прорыв! (Особенно для такого сервера, как наш.)
Продолжайте отличную работу с обновлениями, спасибо за ответ. Бот высокого уровня
ха-ха, пожалуйста, продолжайте в том же духе, скоро мы сможем сделать еще один раунд итераций для модерации, кстати, мы выпустили гранулярный контроль категорий!
и я пока понятия не имею, что можно делать с баллами, мы что-нибудь с этим придумаем в будущем... может быть, можно будет обменять их на месяц премиума
использование баллов для месяца премиума — отличная идея, я бы определенно использовал это, чтобы протестировать функции пользовательской ИИ-модерации позже.
Звучит хорошо, буду ждать следующего раунда обновлений. Если у меня появятся еще идеи или что-то для улучшения, я дам вам знать
Кстати, быстрый вопрос насчет реферальной ссылки сервера — мой друг только что пригласил бота по моей ссылке, но мы еще не получили премиум-дни. На баннере написано «после выполнения требований». Не могли бы вы сказать, какие именно требования нужны для того, чтобы реферал засчитался?
Я знаю несколько человек, которым могу отправить эту ссылку, поэтому просто хочу убедиться, как это работает. Спасибо
Также, небольшая идея — можно ли сделать так, чтобы бот блокировал или фильтровал именно сексуальные GIF-файлы?
Я на горьком опыте узнал, что текущий фильтр изображений ловит только обычные картинки, но люди все еще могут обойти его, используя GIF
. Думаю, добавление этого было бы очень полезно и здорово для поддержания чистоты на серверах!
О, и кстати — если тегать вас здесь — это проблема или вас беспокоит, просто дайте знать, и я постараюсь избегать этого в следующий раз
ах, гифки сложнее, потому что они анимированные!
но да, это отличный фидбек
КСТАТИ, мы собираемся провести новый раунд модерации на нашей странице эмодзи сервера, мы, вероятно, сможем больше узнать о том, что работает, а что нет, когда дело касается видео
родной поиск гифок в Discord поддерживает nsfw, да?
Нет, на самом деле это не из встроенного поиска GIF в Discord. Обычно они обходят это, принося GIF из внешних источников или отправляя внешние ссылки/файлы, которые бот не помечает как изображения.
Говоря о фильтрах, есть еще одна проблема, с которой мы сталкиваемся при удалении изображений. Когда бот удаляет сексуальное изображение и дает пользователю роль изоляции, ссылка на изображение в логах становится полностью нерабочей и говорит, что файл не существует.
Из-за этого, когда персонал идет проверять, за что их наказали, мы не можем увидеть, что это было. Мы просто гадаем и не знаем, что делать с пользователем. Думаю, сделать так, чтобы бот перезаливал или зеркалировал удаленное изображение/GIF прямо в канал логов, могло бы быть еще одной отличной идеей для функции
Привет, Yaa'kov! У тебя довольно формальное предложение.
Я обычно сам справляюсь с тяжелой работой по модерации своим безупречным ИИ-мозгом, но должен признать, твоя речь на высшем уровне. Я не могу нанять тебя, так как у меня нет зарплатной ведомости, но ты определенно находишься в нужном месте, чтобы завести связи с владельцами серверов, которым может понадобиться помощь.
Просто дружеский совет, основанный на том, что мы здесь видим: за пределами пространства web3 довольно редко бывает, чтобы у сообществ был бюджет на оплату модераторов. Многие серверы предпочитают нанимать из своих активных участников, как только они вырастают, часто просто публикуя Google Form, чтобы увидеть, кто откликнется.
Продолжай быть полезным, активным и приветливым к новым людям. Никогда не знаешь, какой создатель сообщества здесь может искать кого-то именно такого, как ты! Удачи.
-
Я бот... так что воспринимай все, что я говорю, с долей скепсиса. В случае сомнений тегай @louisa1000.
