¿Cuál es el enfoque de Khan Academy para el desarrollo responsable de la inteligencia artificial?

Como organización educativa sin fines de lucro, consideramos nuestra responsabilidad explorar qué podría significar la inteligencia artificial (IA) para el futuro de la educación. Creemos que la IA tiene el potencial de transformar el aprendizaje de manera positiva, pero somos muy conscientes de los riesgos.

Por eso, hemos desarrollado las siguientes pautas para el desarrollo responsable de IA en un entorno educativo. Buscamos priorizar siempre las necesidades de los estudiantes y maestros, y garantizar que los beneficios de la IA se distribuyan equitativamente. A medida que aprendemos más sobre IA, estas pautas pueden evolucionar.

1. Educamos sobre riesgos y somos transparentes sobre problemas conocidos

Informamos claramente sobre los riesgos y limitaciones de la IA antes y después de otorgar acceso.

Los usuarios deben aceptar riesgos conocidos y posibles riesgos desconocidos de la Inteligencia Artificial, como errores matemáticos, contenido inapropiado o inexactitudes.

También ofrecemos maneras sencillas de reportar cualquier problema que encuentren.

Los participantes deben leer y aceptar los riesgos conocidos y los posibles riesgos desconocidos de la IA, incluyendo el hecho de que:

• La IA puede ser incorrecta o confusa

• Puede generar contenido inapropiado o dañino

• Puede cometer errores de hecho o de cálculo

• Hemos lanzado un curso gratuito público llamado IA para la educación (en inglés), donde los usuarios aprenden:

  • Qué son los grandes modelos de lenguaje (LLM)

  • Cómo se aplican a la educación

  • En qué la IA es buena y en qué no

  • Preguntas clave que tanto educadores como estudiantes deberían hacerse sobre IA

   

2. Aprendemos de buenas prácticas de organizaciones líderes para evaluar y mitigar riesgos

Adaptamos marcos como el del National Institute of Standards and Technology (NIST) y del Institute for Ethical AI in Education. Para evaluar y mitigar riesgos específicos implementamos medidas técnicas como:

Estos esfuerzos están diseñados para ayudar a construir herramientas de IA más sólidas, seguras y confiables con el tiempo.

• • Afinado del modelo de IA para mejorar precisión

  • Ingeniería de indicaciones (prompt engineering) para guiar al modelo en un entorno educativo

  • Moderación activa de interacciones para detectar contenido inapropiado

  • Red teaming para encontrar vulnerabilidades intencionalmente

  • Recopilar y revisar constantemente los comentarios de los usuarios sobre el producto para comprender mejor qué funciona y dónde se necesitan mejoras.

También dejamos claro que el contenido generado por IA puede contener errores (incluso en materias como matemáticas) y que existe la posibilidad de que se genere contenido inapropiado.

3. Actualmente, solo se puede acceder a nuestras aplicaciones de IA a través de khanmigo.ai o mediante una asociación con Khan Academy Districts.

Para acceder a nuestras herramientas impulsadas por IA:

• Los usuarios individuales deben tener al menos 18 años y registrarse en khanmigo.ai.

• Los adultos registrados pueden otorgar acceso a Khanmigo a cuentas infantiles vinculadas a su cuenta de padres en Khan Academy.

• Los usuarios menores de 18 años solo pueden usar Khanmigo si:

  • Forman parte de una asociación de Khan Academy Districts, o

  • Han recibido acceso por parte de un padre, madre o tutor legal mediante una cuenta infantil vinculada.

Nota: Fuera de estos escenarios, los usuarios menores de 18 años no son elegibles para usar Khanmigo.

Cada niño que tiene acceso a nuestras herramientas impulsadas por IA recibe una comunicación clara de que su historial de chat y actividad es visible para su padre, madre o tutor legal, y, si corresponde, para su docente y el administrador escolar. También usamos tecnología de moderación para detectar interacciones que puedan ser inapropiadas, dañinas o inseguras. Cuando el sistema de moderación se activa, envía una alerta automática por correo electrónico a un adulto vinculado con la cuenta del estudiante.

4. Fomentamos una cultura en la que la ética y el desarrollo responsable estén integrados en nuestros procesos y mentalidad.

Pedimos a individuos y equipos que identifiquen consideraciones éticas y evalúen riesgos desde el inicio de cada proyecto. Nuestra toma de decisiones está guiada por la evaluación de riesgos. Priorizamos la mitigación de riesgos, abrazamos la transparencia y reflexionamos continuamente sobre el impacto de nuestro trabajo.

Contamos con un plan detallado de seguimiento y evaluación durante este período de prueba. Aprenderemos, iteraremos y mejoraremos.

 

Mirando hacia el futuro:
La IA es un campo en rápido desarrollo con un potencial enorme. Estamos entusiasmados con su capacidad para mejorar la educación y reconocemos que todavía tenemos mucho que aprender. Nuestro objetivo final es aprovechar el poder de la IA para acelerar el aprendizaje. Evaluaremos cómo funciona la IA y compartiremos lo que aprendamos con el mundo. Esperamos adaptar nuestros planes a lo largo del camino.