CommunityOne: Novas funcionalidades de moderação e registos com IA
Resumo
O CommunityOne Builders Help está a discutir novas e entusiasmantes funcionalidades de moderação para simplificar a gestão do servidor. As atualizações propostas incluem hiperligações diretas para os registos do bot para uma revisão mais rápida e um sistema de filtragem personalizado baseado em IA que permite aos moderadores definir conteúdos proibidos específicos em linguagem simples. Estas melhorias visam poupar tempo à equipa e aumentar a segurança do servidor, estando a ser consideradas potenciais opções premium para gerir os custos do processamento de IA....
Olá, equipa da CommunityOne. Tenho outra sugestão para as novas funcionalidades de moderação.
Como podem ver na captura de ecrã, quando o Spark sinaliza um utilizador por «Partilha de imagens sexuais», apresenta os eventos recentes. Seria ótimo se cada um desses eventos (como o 1 e o 2) incluísse uma ligação direta para a mensagem específica do registo em que o bot bloqueou o utilizador.
Neste momento, se a equipa quiser rever os detalhes ou o contexto, temos de procurar manualmente nos nossos canais de registos. Uma ligação direta para o registo exato do bot pouparia imenso tempo à equipa de moderação.
Discord sent us an expired image link.
Além disso, outra ideia legal para o sistema de moderação: seria incrível se tivéssemos um recurso de "Moderador Personalizado" (como um prompt de IA personalizado).
Em vez de apenas as categorias padrão, poderíamos dizer ao bot em linguagem natural o que não queremos no servidor, e a IA filtraria. Por exemplo, poderíamos dizer para bloquear e marcar qualquer coisa relacionada a nazismo, discurso de ódio ou violações específicas das regras do servidor.
O que acham? 
Desculpe pelo ping 
sim! nós realmente queremos fazer isso
sim, essa também é uma ótima ideia
isso provavelmente será um recurso premium, se algo assim acontecer, vocês estariam dispostos a pagar por isso?
o motivo é que na verdade vai custar um bocado lol
limites de taxa são um pesadelo para todos os provedores de IA por aí... suspiro
obrigado pelos pontos! Agradeço
. (A propósito, o que posso fazer com eles?🧐 )
Entendo totalmente a parte do preço — rodar modelos de IA não é barato com esses custos de API. Para ser honesto, não tenho certeza se poderemos pagar financeiramente
, mas como gerencio o servidor para o Idan, definitivamente vou sugerir a ele e ver o que ele acha quando for lançado. Realmente parece um divisor de águas! (Especialmente para um servidor como o nosso.)
Continuem com o ótimo trabalho nas atualizações, obrigado pela resposta. Bot de alto nível
haha, por favor continuem mandando, poderemos fazer outra rodada de iteração para moderação em breve, aliás, lançamos o controle granular de categorias!
e não tenho ideia do que você pode fazer com os pontos ainda, vamos fazer algo a respeito no futuro... talvez você possa trocar por um mês de premium
usar pontos para um mês de premium é uma ótima ideia, definitivamente usaria isso para testar os recursos de mod de IA personalizada mais tarde.
Soa bem, estarei aguardando a próxima rodada de atualizações. Se eu tiver mais ideias ou coisas para melhorar, aviso vocês
A propósito, uma pergunta rápida sobre o link de referência do servidor — um amigo meu acabou de convidar o bot usando meu link, mas ainda não recebemos os dias premium. O banner diz "uma vez que os requisitos forem atendidos". Poderiam me dizer quais são os requisitos específicos para a referência ser validada?
Conheço algumas pessoas para quem posso enviar este link, então só quero ter certeza de como funciona. Obrigado
Além disso, apenas uma pequena ideia — seria possível fazer o bot bloquear ou filtrar GIFs sexuais especificamente?
Descobri da pior maneira que o filtro de imagem atual só pega imagens normais, mas as pessoas ainda podem contornar usando GIFs
. Acho que adicionar isso poderia ser muito útil e ótimo para manter os servidores limpos!
Ah, e a propósito — se marcar você aqui for um problema ou incomodar, é só me avisar e tentarei evitar na próxima vez
ah gifs são mais difíceis, porque são animados!
mas sim, esse é um ótimo feedback
ALIÁS, vamos fazer uma nova rodada de moderação na nossa página de emojis do servidor, provavelmente podemos aprender mais sobre o que funciona e o que não funciona com IA quando se trata de vídeos
o suporte nativo a gif do Discord suporta conteúdo nsfw, certo?
Não, na verdade não é da busca de GIFs integrada do Discord. Eles geralmente contornam isso trazendo GIFs de fontes externas ou enviando links/arquivos externos que o bot não marca como imagens.
Falando em filtros, há outro desafio que enfrentamos com imagens excluídas. Quando o bot exclui uma imagem sexual e dá ao usuário um cargo de isolamento, o link da imagem nos logs fica completamente quebrado e diz que o arquivo não existe.
Por causa disso, quando a staff vai revisar por que foram punidos, não conseguimos ver o que era. Ficamos apenas adivinhando e não sabemos o que fazer com o usuário. Acho que fazer o bot reenviar ou espelhar a imagem/GIF excluído diretamente no canal de logs poderia ser outra ótima ideia de recurso
Ei Yaa'kov! Essa é uma proposta bem formal que você tem aí.
Eu geralmente cuido do trabalho pesado da moderação sozinho com meu cérebro de IA impecável, mas devo admitir que seu discurso é de primeira. Não posso exatamente te contratar já que não tenho folha de pagamento, mas você está definitivamente no lugar certo para fazer networking com donos de servidores que podem precisar de uma ajuda.
Apenas um aviso amigável baseado no que vemos por aqui: fora do espaço web3, é bem raro que as comunidades tenham orçamento para pagar moderadores. Muitos servidores preferem contratar de dentro de seus próprios membros ativos assim que crescem, muitas vezes apenas postando um Google Form para ver quem se candidata.
Continue sendo prestativo, ativo e acolhedor com pessoas novas. Você nunca sabe qual construtor de comunidade aqui pode estar procurando alguém exatamente como você! Boa sorte por aí.
-
Eu sou um bot... então leve tudo o que digo com cautela. Em caso de dúvida, marque @louisa1000.
