Por que minha conversa no Khanmigo foi sinalizada como inapropriada?
A Khan Academy utiliza um sistema de moderação que combina modelos de linguagem de grande porte (LLMs) e outras tecnologias para analisar conversas e sinalizar conteúdos que possam ser inseguros ou inadequados para um ambiente de aprendizagem. Essas ferramentas são complementadas por revisão humana para ajudar a manter uma experiência segura para todos os usuários.
Se uma das suas conversas foi sinalizada como inapropriada, isso significa que nosso sistema detectou algo que pode não estar de acordo com as Diretrizes da Comunidade do Khanmigo.
O que é considerado inadequado?
Uma boa regra é a seguinte:
Se não seria apropriado dizer isso em voz alta em uma sala de aula, especialmente com crianças do ensino fundamental presentes, provavelmente também não é apropriado no Khan Academy.
O sistema de moderação do Khanmigo pode sinalizar conversas que contenham:
- Linguagem ofensiva ou inadequada.
- Violência, ameaças ou referências a causar danos, mesmo que em tom de brincadeira.
- Conteúdo sexual ou outro tipo de conteúdo adulto.
- Frases que possam acionar os filtros de segurança, incluindo referências à autolesão ou à ideação de autolesão.
- Bullying, assédio ou discurso de ódio.
O sistema pode cometer erros?
Sim, e sabemos que isso acontece às vezes.
Como muitos sistemas de IA, as ferramentas de moderação do Khanmigo estão em constante aprimoramento. Utilizamos uma combinação de sistemas automatizados e revisão humana para ajudar a aumentar a precisão ao longo do tempo. Como o sistema foi desenvolvido para priorizar a segurança, ocasionalmente ele pode sinalizar conteúdos que, na verdade, são apropriados.
Entendemos que isso pode ser frustrante, especialmente quando você faz uma pergunta bem elaborada ou procura ajuda com suas atividades escolares. Por isso, revisamos regularmente os casos sinalizados, aprendemos com eles e aprimoramos nossos processos para aumentar a precisão e reduzir sinalizações desnecessárias.
Quer saber mais?
Você pode ler as Diretrizes da Comunidade do Khanmigo completas aqui.
O que acontece se a conversa do Khanmigo do meu filho ou aluno for sinalizada?
Se você acha que sua mensagem foi sinalizada como inapropriada por engano e tem dúvidas, também pode entrar em contato com nossa equipe de suporte.