¿Qué funciones de seguridad tiene Khanmigo?
Como organización educativa sin fines de lucro, Khan Academy se compromete a explorar de manera responsable el potencial de la inteligencia artificial en la educación.
Nos entusiasma la capacidad de la Inteligencia Artificial (IA) para transformar el aprendizaje de forma positiva, pero también reconocemos los riesgos que pueden acompañar a esta tecnología. Por esta razón, hemos incorporado las siguientes prácticas y funciones en Khanmigo.
Infraestructura de seguridad
- Estamos comprometidos con un proceso de desarrollo de IA ético y responsable que prioriza las necesidades de los estudiantes y los maestros, y que cumple con los estándares de privacidad educativa y las mejores prácticas del sector.
- Utilizamos tecnología de moderación para detectar interacciones que puedan ser inapropiadas, dañinas o inseguras.
- Limitamos la cantidad de interacciones que una persona puede tener con la IA por día, ya que hemos observado que las sesiones prolongadas pueden generar respuestas repetitivas o conversaciones que se desvían de los objetivos educativos. Estos límites ayudan a garantizar sesiones de aprendizaje productivas.
- No almacenamos las imágenes que los usuarios comparten con Khanmigo, de acuerdo con nuestras Políticas de privacidad.
Comunicación y comentarios
Todos los niños que tienen acceso a Khanmigo reciben información clara de que su historial de chats y actividades es visible para sus padres o tutores y, cuando corresponde, para su maestro y el administrador escolar. Los registros de chat se almacenan de forma segura y pueden revisarse en cualquier momento desde el Panel de padres.
Cuando se activa el sistema de moderación, este notifica automáticamente y envía un correo electrónico a un adulto vinculado a la cuenta del niño, con detalles sobre la interacción marcada, para que pueda dar seguimiento de manera adecuada.
Los mensajes dentro del producto explican claramente las limitaciones de la tecnología de inteligencia artificial que utiliza Khanmigo, incluido el hecho de que en ocasiones puede proporcionar información incorrecta y que no debe reemplazar la instrucción del maestro ni la orientación de los padres o tutores.
También hemos incorporado funciones de feedback y procesos de apelación para que usuarios como tú puedan enviar fácilmente cualquier pregunta, inquietud o solicitud de revisión directamente al equipo de Khan Academy.
Para obtener información más detallada sobre nuestras prácticas de privacidad y el manejo de datos, consulta nuestra Política de privacidad completa.