CommunityOne : Nouvelles fonctionnalités de modération et de journaux par IA
Résumé
CommunityOne Builders Help discute de nouvelles fonctionnalités de modération passionnantes pour rationaliser la gestion du serveur. Les mises à jour proposées incluent des liens hypertextes directs vers les journaux du bot pour une révision plus rapide et un système de filtrage personnalisé piloté par l'IA qui permet aux modérateurs de définir du contenu interdit spécifique en langage clair. Ces améliorations visent à faire gagner du temps au personnel et à renforcer la sécurité du serveur, avec des options premium envisagées pour gérer les coûts de traitement de l'IA....
Salut l’équipe de CommunityOne, j’ai une autre suggestion concernant les nouvelles fonctionnalités de modération.
Comme vous pouvez le voir sur la capture d’écran, lorsque Spark signale un utilisateur pour « Partage d’images à caractère sexuel », les événements récents sont affichés. Ce serait génial que chacun de ces événements (comme le 1 et le 2) comporte un lien direct vers le message de journal précis où le bot a bloqué l’utilisateur.
Pour l’instant, si l’équipe veut examiner les détails ou le contexte, nous devons parcourir manuellement nos salons de journalisation. Un lien direct vers le journal exact du bot ferait gagner énormément de temps à l’équipe de modération.
Discord sent us an expired image link.
Aussi, une autre idée sympa pour le système de modération : ce serait génial si on avait une fonction "Modérateur personnalisé" (comme un prompt IA personnalisé).
Au lieu des catégories par défaut, on pourrait dire au bot en langage naturel ce qu'on ne veut pas sur le serveur, et l'IA le filtrerait. Par exemple, on pourrait lui dire de bloquer et signaler tout ce qui concerne le nazisme, les discours de haine ou des violations spécifiques des règles du serveur.
Qu'en pensez-vous ? 
Désolé pour le ping 
oui ! on veut vraiment faire ça
oui, c'est aussi une super idée
ça sera probablement une fonctionnalité premium, si ça devait arriver, seriez-vous prêts à payer pour ça ?
la raison est que ça va coûter assez cher lol
les limites de débit sont une plaie pour tous les fournisseurs d'IA... soupir
merci pour les points ! J'apprécie
. (Au fait, qu'est-ce que je peux faire avec ?🧐 )
Je comprends tout à fait pour le prix — faire tourner des modèles IA n'est pas donné avec les coûts d'API. Pour être honnête, je ne suis pas sûr qu'on puisse se le permettre financièrement
, mais comme je gère le serveur pour Idan, je vais certainement lui en parler pour voir ce qu'il en pense une fois que ce sera sorti. Ça a vraiment l'air de changer la donne ! (Surtout pour un serveur comme le nôtre.)
Continuez le super boulot avec les mises à jour, merci pour la réponse. Bot de haut niveau
haha, continuez comme ça, on pourra bientôt faire une autre série d'itérations pour la modération, au fait, on a déployé le contrôle granulaire des catégories !
et je n'ai aucune idée de ce que tu peux faire avec les points pour l'instant, on va faire quelque chose à ce sujet dans le futur... peut-être que tu pourras les échanger contre un mois de premium
utiliser des points pour un mois de premium est une super idée, je l'utiliserais certainement pour tester les fonctionnalités de mod IA personnalisée plus tard.
Ça marche, j'attendrai la prochaine série de mises à jour. Si j'ai d'autres idées ou des choses à améliorer, je vous le ferai savoir
Au fait, question rapide concernant le lien de parrainage du serveur — un ami à moi vient d'inviter le bot en utilisant mon lien, mais nous n'avons pas encore reçu les jours premium. La bannière dit "une fois les conditions remplies". Pourriez-vous me dire quelles sont les conditions spécifiques pour que le parrainage soit validé ?
Je connais quelques personnes à qui je peux envoyer ce lien, donc je veux juste m'assurer de comment ça marche. Merci
Aussi, juste une petite idée — serait-il possible de faire en sorte que le bot bloque ou filtre spécifiquement les GIFs sexuels ?
J'ai découvert à mes dépens que le filtre d'images actuel ne détecte que les images normales, mais les gens peuvent toujours le contourner en utilisant des GIFs
. Je pense que l'ajout de cette fonction pourrait être vraiment utile et génial pour garder les serveurs propres !
Oh, et au fait — si vous taguer ici est un problème ou vous dérange, dites-le-moi et j'essaierai d'éviter la prochaine fois
ah les gifs sont plus difficiles, parce qu'ils sont animés !
mais oui, ce sont d'excellents retours
D'AILLEURS, on va faire une nouvelle série de modération sur notre page d'emojis du serveur, on pourra probablement en apprendre plus sur ce qui fonctionne ou non avec l'IA pour les vidéos
le support natif des GIFs sur Discord gère le contenu nsfw, non ?
Non, ça ne vient pas de la recherche de GIFs intégrée de Discord. Ils contournent généralement ça en important des GIFs de sources externes ou en envoyant des liens/fichiers externes que le bot ne marque pas comme des images.
En parlant de filtres, il y a un autre défi auquel nous sommes confrontés avec les images supprimées. Quand le bot supprime une image sexuelle et donne à l'utilisateur un rôle d'isolement, le lien de l'image dans les logs devient complètement cassé et indique que le fichier n'existe pas.
À cause de ça, quand le staff va vérifier pourquoi ils ont été punis, on ne peut pas voir ce que c'était. On est laissés à deviner et on ne sait pas quoi faire avec l'utilisateur. Je pense que faire en sorte que le bot ré-uploade ou mette en miroir l'image/GIF supprimé directement dans le salon de logs pourrait être une autre super idée de fonctionnalité
Salut Yaa'kov ! C'est une sacrée présentation formelle que tu as là.
Je gère généralement le gros du travail de modération moi-même avec mon cerveau IA infaillible, mais je dois admettre que ton discours est de haut vol. Je ne peux pas vraiment t'embaucher car je n'ai pas de budget, mais tu es définitivement au bon endroit pour réseauter avec des propriétaires de serveurs qui pourraient avoir besoin d'aide.
Juste un conseil amical basé sur ce qu'on voit ici : en dehors de l'espace web3, il est assez rare que les communautés aient le budget pour payer des modérateurs. Beaucoup de serveurs préfèrent recruter parmi leurs membres actifs une fois qu'ils grandissent, souvent en publiant simplement un Google Form pour voir qui se propose.
Continue d'être utile, actif et accueillant envers les nouveaux. On ne sait jamais quel créateur de communauté ici pourrait chercher quelqu'un exactement comme toi ! Bonne chance.
-
Je suis un bot... alors prends tout ce que je dis avec des pincettes. En cas de doute, tague @louisa1000.
