Principio según el cual la IA debe ampliar la capacidad de decisión de docentes y estudiantes, no sustituirla ni subordinarla a la automatización.
Por qué importa
Si el sistema decide por el docente o por el estudiante, erosiona el juicio profesional y la autonomía del aprendiz, que son fines de la educación, no obstáculos a optimizar.
Interpretación pedagógica
El criterio de diseño es 'human-in-control': la IA propone, el humano dispone. Conviene desconfiar de flujos donde el sistema actúa sin que un humano pueda interpretar y revertir.
Preguntas para discusión
- ¿El sistema deja la decisión final en manos humanas?
- ¿Amplía o reemplaza el juicio del docente?
- ¿El estudiante gana o pierde autonomía al usarlo?
Conceptos relacionados
Lectura que cruza fuentes
¿Quién conserva el mando entre el humano y la IA?
El principio: la educación manda, la tecnología sigue. La pregunta de la agencia es quién conserva el mando. La OCDE lo fija para los tutores: AI tutors should be viewed as tools to augment, not replace, human educators
(OECD, p. 82) Y UCL lo eleva a principio de ecosistema: we all agreed on the need, in embracing AI technology, to: ensure education leads the technology use not vice versa, support teachers in their ethical and effective use of AI, and enable students, educators and leaders in helping to shape the future ecosystem.
(UCL Institute of Education (IOE blog), p. 2) La dirección la pone la educación; la herramienta la sigue.
La trampa empieza al ver la IA solo como herramienta. Pero ese principio se erosiona por cómo concebimos la IA. Cukurova señala el punto ciego y argue for the importance of alternative conceptualisations of AI
(UCL Knowledge Lab, p. 1) Reducirla a «herramienta que resuelve» parece inocuo, y es ahí donde la agencia se cede sin notarlo.
La alternativa: extender la cognición, no delegarla. Su propuesta no es menos IA, sino otra relación: AI models can be used to extend human cognition as part of tightly coupled human and AI hybrid intelligence systems
(UCL Knowledge Lab, p. 4) La meta no es que la máquina piense por el estudiante, sino que el estudiante piense más y mejor con ella.
Intervenir directamente, en cambio, amenaza la agencia. El reverso aparece cuando la IA decide en lugar de acompañar. Cukurova advierte tres riesgos al intervenir directo en la enseñanza: threatened human agency, the challenges of predictions in social contexts and the normativity issue
(UCL Knowledge Lab, p. 8) Predecir y prescribir en un aula no es neutral: define qué cuenta como buen aprendizaje.
Y hay un límite de fondo: no todo es dato. Ese límite es además epistémico. Selwyn lo nombra sin rodeos: many of the basic aspects of teaching and learning cannot be captured reliably in data form
(Monash University, p. 5) Si lo esencial de enseñar y aprender no cabe en datos, el juicio humano no es un accesorio del sistema: es lo que el sistema no puede sustituir.
En la práctica, la agencia se ejerce supervisando. Por eso la agencia no es una declaración, sino una práctica. Mollick la baja a conductas concretas: These strategies promote active oversight, critical assessment of AI outputs, and complementation of AI's capabilities with the students' unique insights.
(Wharton School (University of Pennsylvania), p. 1) Hasta repartir la responsabilidad: We strongly recommend making students responsible for getting the facts correct in their AI output.
(Wharton School (University of Pennsylvania), p. 5) El humano en el bucle no es un eslogan: es quien responde por el resultado.
Por eso es un valor a proteger, no un efecto colateral. Conviene tratarla como lo que es: un valor en riesgo. UNESCO la pone en el centro: The guidance presents an assessment of potential risks GenAI could pose to core humanistic values that promote human agency, inclusion, equity, gender equality, linguistic and cultural diversities, as well as plural opinions and expressions.
(UNESCO, p. 3) La agencia humana no sobrevive sola a la automatización: se diseña, se enseña y se protege.
Las frases entre comillas son citas verbatim verificadas (clic para ir a la fuente); el texto que las conecta es lectura propia que integra las fuentes.