¿Qué funciones de seguridad tiene Khanmigo?

Como organización educativa sin fines de lucro, Khan Academy considera que es nuestra responsabilidad explorar lo que la inteligencia artificial podría significar para el futuro de la educación. Creemos que la IA tiene el potencial de transformar el aprendizaje de manera positiva, pero también somos conscientes de los riesgos. Por esta razón, hemos incorporado las siguientes prácticas y características en Khanmigo:

1. Estamos comprometidos con un proceso ético y responsable de desarrollo de IA que coloca las necesidades de los estudiantes y profesores en primer lugar.
2. Utilizamos tecnología de moderación para detectar interacciones que pueden ser inapropiadas, perjudiciales o inseguras.
3. Cada niño que tiene acceso a Khanmigo recibe una comunicación clara de que su historial de chat y actividades son visibles para los padres o tutores y, si corresponde, su maestro.
4. Cuando se activa el sistema de moderación, notifica automáticamente y envía un correo electrónico a un adulto conectado a la cuenta del niño.
5. Limitamos la cantidad de interacciones que las personas pueden tener con la IA por día porque hemos observado que las interacciones prolongadas son más propensas a generar un comportamiento deficiente de la IA.
6. Nuestro mensaje dentro del producto indica claramente las limitaciones de la tecnología de inteligencia artificial que Khanmigo utiliza.
7. Hemos incorporado funciones de retroalimentación, para que usuarios como tú puedan llevar fácilmente cualquier pregunta o inquietud directamente al equipo de Khan Academy.