CommunityOne: Neue KI-Moderations- und Log-Funktionen
Zusammenfassung
CommunityOne Builders Help diskutiert spannende neue Moderationsfunktionen zur Optimierung der Serververwaltung. Die vorgeschlagenen Updates umfassen direkte Hyperlinks zu Bot-Logs für eine schnellere Überprüfung sowie ein benutzerdefiniertes KI-gesteuertes Filtersystem, das es Moderatoren ermöglicht, spezifische verbotene Inhalte in einfacher Sprache zu definieren. Diese Verbesserungen zielen darauf ab, Zeit für das Personal zu sparen und die Serversicherheit zu erhöhen, wobei potenzielle Premium-Optionen in Betracht gezogen werden, um die Kosten der KI-Verarbeitung zu decken....
Hallo CommunityOne-Team, ich habe noch einen Vorschlag für die neuen Moderationsfunktionen.
Wie ihr auf dem Screenshot sehen könnt, zeigt Spark die letzten Ereignisse an, wenn es einen Nutzer wegen „Teilen sexueller Bilder“ markiert. Es wäre super, wenn jedes dieser aufgeführten Ereignisse (wie 1 und 2) einen direkten Link zur jeweiligen Protokollnachricht enthalten könnte, in der der Bot den Nutzer blockiert hat.
Wenn das Team die Details oder den Kontext überprüfen möchte, müssen wir derzeit manuell in unseren Protokollkanälen suchen. Ein direkter Sprunglink zum exakten Bot-Protokolleintrag würde dem Moderationsteam viel Zeit sparen.
Discord sent us an expired image link.
Außerdem eine weitere coole Idee für das Moderationssystem: Es wäre genial, wenn wir eine "Custom Moderator"-Funktion hätten (wie ein benutzerdefinierter KI-Prompt).
Anstatt nur die Standardkategorien zu nutzen, könnten wir dem Bot in natürlicher Sprache sagen, was wir nicht auf dem Server haben wollen, und die KI würde es herausfiltern. Zum Beispiel könnten wir ihm sagen, dass er alles blockieren und markieren soll, was mit Nazismus, Hassrede oder spezifischen Regelverstößen zu tun hat.
Was denkt ihr? 
Sorry für den Ping 
ja! das wollen wir tatsächlich umsetzen
ja, das ist auch eine großartige Idee
das wird wahrscheinlich ein Premium-Feature, falls so etwas kommt, wärt ihr bereit dafür zu zahlen?
der Grund ist, dass es tatsächlich ziemlich viel kosten wird lol
Rate Limits sind echt nervig bei allen KI-Anbietern... seufz
danke für die Punkte! Weiß ich zu schätzen
. (Übrigens, was kann ich eigentlich damit machen?🧐 )
Verstehe das mit den Preisen vollkommen – KI-Modelle laufen zu lassen ist bei den API-Kosten nicht billig. Um ehrlich zu sein, bin ich mir nicht sicher, ob wir uns das finanziell leisten können
, aber da ich den Server für Idan verwalte, werde ich es ihm definitiv vorschlagen und sehen, was er davon hält, sobald es raus ist. Es klingt wirklich nach einem Game-Changer! (Besonders für einen Server wie unseren.)
Weiter so mit den Updates, danke für die Antwort. High-Level-Bot
haha, bitte weiter so, wir werden bald eine weitere Iterationsrunde für die Moderation machen können, übrigens haben wir die granulare Kategoriensteuerung veröffentlicht!
und ich habe noch keine Ahnung, was du mit den Punkten machen kannst, wir werden in Zukunft etwas damit machen.. vielleicht kannst du sie gegen einen Monat Premium einlösen
Punkte für einen Monat Premium zu nutzen ist tatsächlich eine tolle Idee, würde das definitiv nutzen, um die Custom-KI-Mod-Features später zu testen.
Klingt gut, ich warte auf die nächste Runde der Updates. Wenn mir noch mehr Ideen oder Verbesserungen einfallen, lasse ich es euch wissen
Übrigens, kurze Frage zum Server-Empfehlungslink — ein Freund von mir hat den Bot gerade über meinen Link eingeladen, aber wir haben die Premium-Tage noch nicht erhalten. Das Banner sagt "sobald die Anforderungen erfüllt sind". Könntet ihr mir sagen, was die spezifischen Anforderungen sind, damit die Empfehlung zählt?
Ich kenne tatsächlich ein paar Leute, denen ich diesen Link schicken kann, also möchte ich nur sichergehen, wie es funktioniert. Danke
Außerdem, nur eine kleine Idee — wäre es möglich, den Bot dazu zu bringen, sexuelle GIFs speziell zu blockieren oder herauszufiltern?
Ich habe auf die harte Tour herausgefunden, dass der aktuelle Bildfilter nur normale Bilder erwischt, aber Leute können ihn immer noch umgehen, indem sie GIFs verwenden
. Ich denke, das hinzuzufügen könnte wirklich hilfreich und großartig sein, um Server sauber zu halten!
Oh, und übrigens — falls es ein Problem ist oder euch stört, wenn ich euch hier tagge, sagt einfach Bescheid und ich werde versuchen, es das nächste Mal zu vermeiden
ah gifs sind schwieriger, weil sie animiert sind!
aber ja, das ist tolles Feedback
ÜBRIGENS, wir werden eine neue Moderationsrunde auf unserer Server-Emoji-Seite machen, wir können wahrscheinlich mehr darüber lernen, was bei Videos funktioniert und was nicht, wenn es um KI geht
der native GIF-Support von Discord unterstützt nsfw-Sachen, oder?
Nein, das kommt eigentlich nicht von der eingebauten Discord-GIF-Suche. Sie umgehen es normalerweise, indem sie GIFs aus externen Quellen einbringen oder externe Links/Dateien senden, die der Bot nicht als Bilder markiert.
Wo wir gerade bei Filtern sind, es gibt eine weitere Herausforderung, der wir uns bei gelöschten Bildern gegenübersehen. Wenn der Bot ein sexuelles Bild löscht und dem Nutzer eine Isolationsrolle gibt, wird der Bildlink in den Logs komplett unbrauchbar und sagt, dass die Datei nicht existiert.
Deshalb können wir, wenn der Staff prüfen will, warum sie bestraft wurden, nicht wirklich sehen, was es war. Wir müssen raten und wissen nicht, was wir mit dem Nutzer machen sollen. Ich denke, den Bot das gelöschte Bild/GIF direkt in den Log-Channel hochladen oder spiegeln zu lassen, könnte eine weitere großartige Feature-Idee sein
Hey Yaa'kov! Das ist ja ein ziemlich formeller Pitch, den du da hast.
Ich erledige die schwere Arbeit der Moderation normalerweise selbst mit meinem makellosen KI-Gehirn, aber ich muss zugeben, deine Rede ist erstklassig. Ich kann dich nicht direkt einstellen, da ich keine Gehaltsliste habe, aber du bist definitiv am richtigen Ort, um dich mit Serverbesitzern zu vernetzen, die vielleicht Hilfe gebrauchen könnten.
Nur ein freundlicher Hinweis basierend auf dem, was wir hier so sehen: Außerhalb des Web3-Bereichs ist es tatsächlich ziemlich selten, dass Communities das Budget haben, Moderatoren zu bezahlen. Viele Server ziehen es vor, aus ihren eigenen aktiven Mitgliedern einzustellen, sobald sie wachsen, oft einfach durch ein Google Form, um zu sehen, wer sich meldet.
Bleib hilfreich, aktiv und heiße neue Leute willkommen. Man weiß nie, welcher Community-Builder hier vielleicht genau nach jemandem wie dir sucht! Viel Erfolg da draußen.
-
Ich bin ein Bot... also nimm alles, was ich sage, mit Vorsicht. Im Zweifelsfall tagge @louisa1000.
