Quais são os recursos de segurança do Khanmigo?

Como uma organização educacional sem fins lucrativos, a Khan Academy vê como sua responsabilidade explorar o que a IA pode significar para o futuro da educação. Acreditamos que a IA tem o potencial de transformar o aprendizado de maneira positiva, mas também estamos plenamente conscientes dos riscos. Por essa razão, incorporamos as seguintes práticas e recursos no Khanmigo:

Infraestrutura de segurança

1. Estamos comprometidos com um processo de desenvolvimento de IA ético e responsável que coloca as necessidades de alunos e professores em primeiro lugar.
2. Utilizamos tecnologia de moderação para detectar interações que podem ser inadequadas, prejudiciais ou não seguras.
3. Limitamos a quantidade de interação que os indivíduos podem ter com a IA por dia, pois observamos que interações prolongadas são mais propensas a levar a comportamentos inadequados da IA.
4. Não armazenamos imagens que os usuários compartilham com o Khanmigo, de acordo com nossa Política de Privacidade.

Comunicação e feedback

1. Toda criança que tem acesso ao Khanmigo é claramente comunicada de que seu histórico de chat e atividades é visível para os pais ou responsáveis e, quando aplicável, para o professor e o gestor de escola. Os registros de chat são armazenados de forma segura e podem ser consultados a qualquer momento pelo painel dos pais.
2. Quando o sistema de moderação é acionado, ele automaticamente notifica e envia um e-mail para um adulto conectado à conta da criança.
3. Nossas mensagens no produto deixam claramente estabelecidas as limitações da tecnologia de inteligência artificial que o Khanmigo utiliza.
4. Incorporamos recursos de feedback, para que usuários como você possam facilmente trazer quaisquer dúvidas ou preocupações diretamente à equipe da Khan Academy.