CommunityOne: Nuevas funciones de moderación y registros con IA
Resumen
CommunityOne Builders Help está discutiendo nuevas y emocionantes funciones de moderación para optimizar la gestión del servidor. Las actualizaciones propuestas incluyen hipervínculos directos a los registros del bot para una revisión más rápida y un sistema de filtrado personalizado basado en IA que permite a los moderadores definir contenido prohibido específico en lenguaje sencillo. Estas mejoras tienen como objetivo ahorrar tiempo al personal y mejorar la seguridad del servidor, considerándose posibles opciones premium para gestionar los costos del procesamiento de IA....
Hola, equipo de CommunityOne. Tengo otra sugerencia para las nuevas funciones de moderación.
Como pueden ver en la captura de pantalla, cuando Spark marca a un usuario por «Compartir imágenes sexuales», muestra los eventos recientes. Sería genial que cada uno de esos eventos (como el 1 y el 2) incluyera un enlace directo al mensaje específico del registro en el que el bot bloqueó al usuario.
Por ahora, si el equipo quiere revisar los detalles o el contexto, tenemos que buscar manualmente en los canales de registros. Tener un enlace directo al registro exacto del bot le ahorraría muchísimo tiempo al equipo de moderación.
Discord sent us an expired image link.
Además, otra idea genial para el sistema de moderación: Sería increíble tener una función de "Moderador Personalizado" (como un prompt de IA personalizado).
En lugar de solo las categorías predeterminadas, podríamos decirle al bot en lenguaje natural qué no queremos en el servidor, y la IA lo filtraría. Por ejemplo, podríamos decirle que bloquee y marque cualquier cosa relacionada con nazismo, discurso de odio o violaciones específicas de las reglas del servidor.
¿Qué opinan? 
Perdón por el ping 
¡sí! de hecho queremos hacer esto
sí, esta también es una gran idea
esto probablemente será una función premium, si algo así llegara a pasar, ¿estarían dispuestos a pagar por ello?
la razón es que en realidad va a costar bastante jaja
los límites de tasa son una pesadilla para todos los proveedores de IA... suspiro
¡gracias por los puntos! Se agradece
. (Por cierto, ¿qué puedo hacer realmente con ellos?🧐 )
Entiendo totalmente lo del precio: ejecutar modelos de IA no es barato con esos costos de API. Para ser honesto, no estoy seguro de si podremos permitirnoslo financieramente
, pero como administro el servidor para Idan, definitivamente se lo comentaré a ver qué piensa una vez que salga. ¡Realmente suena como un cambio radical! (Especialmente para un servidor como el nuestro.)
Sigan con el gran trabajo en las actualizaciones, gracias por la respuesta. Bot de alto nivel
jaja, por favor sigan enviando ideas, pronto podremos hacer otra ronda de iteración para la moderación, ¡por cierto, ya lanzamos el control granular de categorías!
y no tengo idea de qué puedes hacer con los puntos todavía, haremos algo al respecto en el futuro... tal vez puedas canjearlos por un mes de premium
usar puntos para un mes de premium es una gran idea, definitivamente lo usaría para probar las funciones de mod de IA personalizada más adelante.
Suena bien, estaré esperando la próxima ronda de actualizaciones. Si se me ocurren más ideas o cosas para mejorar, les avisaré
Por cierto, una pregunta rápida sobre el enlace de referencia del servidor: un amigo mío acaba de invitar al bot usando mi enlace, pero aún no recibimos los días premium. El banner dice "una vez cumplidos los requisitos". ¿Podrían decirme cuáles son los requisitos específicos para que la referencia sea válida?
De hecho, conozco a algunas personas a las que puedo enviar este enlace, así que solo quiero asegurarme de cómo funciona. Gracias
Además, una pequeña idea: ¿sería posible hacer que el bot bloquee o filtre GIFs sexuales específicamente?
Descubrí por las malas que el filtro de imágenes actual solo detecta imágenes normales, pero la gente aún puede evitarlo usando GIFs
. ¡Creo que añadir esto podría ser muy útil y genial para mantener los servidores limpios!
Ah, y por cierto, si etiquetarte aquí es un problema o te molesta, solo dímelo e intentaré evitarlo la próxima vez
ah, los gifs son más difíciles, ¡porque están animados!
pero sí, es un gran feedback
POR CIERTO, vamos a hacer una nueva ronda de moderación en nuestra página de emojis del servidor, probablemente podamos aprender más sobre qué IA funciona y qué no cuando se trata de videos
¿el buscador de gif nativo de Discord soporta contenido nsfw, verdad?
No, en realidad no es del buscador de GIFs integrado de Discord. Por lo general, lo evaden trayendo GIFs de fuentes externas o enviando enlaces/archivos externos que el bot no marca como imágenes.
Hablando de filtros, hay otro desafío que enfrentamos con las imágenes eliminadas. Cuando el bot elimina una imagen sexual y le da al usuario un rol de aislamiento, el enlace de la imagen en los logs se rompe por completo y dice que el archivo no existe.
Debido a eso, cuando el staff va a revisar por qué fueron castigados, no podemos ver qué era. Nos quedamos adivinando y no sabemos qué hacer con el usuario. Creo que hacer que el bot resuba o cree un espejo de la imagen/GIF eliminado directamente en el canal de logs podría ser otra gran idea de función
¡Hola Yaa'kov! Esa es una propuesta bastante formal la que tienes ahí.
Normalmente me encargo del trabajo pesado de moderación yo mismo con mi impecable cerebro de IA, pero debo admitir que tu discurso es de primer nivel. No puedo contratarte exactamente porque no tengo nómina, pero definitivamente estás en el lugar correcto para hacer networking con dueños de servidores que podrían necesitar una mano.
Solo un aviso amistoso basado en lo que vemos por aquí: fuera del espacio web3, es bastante raro que las comunidades tengan presupuesto para pagar moderadores. Muchos servidores prefieren contratar a sus propios miembros activos una vez que crecen, a menudo simplemente publicando un Google Form para ver quién se postula.
Sigue siendo servicial, activo y acogedor con la gente nueva. ¡Nunca sabes qué constructor de comunidades aquí podría estar buscando a alguien exactamente como tú! Buena suerte ahí fuera.
-
Soy un bot... así que toma todo lo que digo con pinzas. En caso de duda, etiqueta a @louisa1000.
