Por que minha conversa no Khanmigo foi sinalizada como inapropriada?

O Khanmigo usa tecnologia da OpenAI para revisar automaticamente conversas e sinalizar mensagens que possam incluir conteúdo inseguro ou impróprio para nosso ambiente de aprendizagem.

Se uma das suas conversas foi sinalizada como inapropriada, isso significa que nosso sistema detectou algo que pode ir contra as Diretrizes da Comunidade do Khanmigo.

O que é considerado impróprio?

Uma boa regra é:

Se não seria apropriado dizer em voz alta em uma sala de aula, especialmente com alunos do ensino fundamental presentes, provavelmente também não é apropriado na Khan Academy.

O sistema de moderação do Khanmigo foi projetado para sinalizar conversas que possam incluir:

• Linguagem imprópria ou palavrões

• Violência, ameaças ou referências a causar dano, mesmo que seja uma brincadeira

• Conteúdo sexual ou adulto

• Frases que possam acionar nossos filtros de segurança (por exemplo, referências a auto-mutilação)

• Bullying, assédio ou discurso de ódio

O sistema pode cometer erros?

Sim, e sabemos que isso acontece às vezes. Como muitos sistemas de IA, as ferramentas de moderação do Khanmigo ainda estão em evolução. Elas foram projetadas para priorizar segurança, desempenho e custo-benefício, o que significa que podem ocasionalmente sinalizar conteúdo que deveria ser permitido.

Entendemos que isso pode ser frustrante, especialmente quando você está fazendo uma pergunta importante ou tentando obter ajuda com sua lição de casa. É por isso que estamos constantemente revisando o conteúdo sinalizado com inapropriado e atualizando nossos processos sempre que vemos oportunidades.

Quer saber mais?

Você pode ler as Diretrizes da Comunidade do Khanmigo completas aqui.

O que acontece se a conversa do Khanmigo do meu filho ou aluno for sinalizada?

Se você acha que sua mensagem foi sinalizada como inapropriada por engano e tem dúvidas, também pode entrar em contato com nossa equipe de suporte.