Protección de los datos personales de estudiantes y docentes, y de sus derechos fundamentales, frente a la recolección y el procesamiento que requieren los sistemas de IA.
Por qué importa
Los sistemas educativos de IA se alimentan de datos sensibles de menores. La privacidad no es un detalle técnico sino una condición de legitimidad del sistema.
Interpretación pedagógica
Tratar la IA educativa como cuestión de derechos —no solo de eficacia— obliga a documentar consentimiento, minimización de datos y límites de uso antes de medir resultados de aprendizaje.
Preguntas para discusión
- ¿Qué datos se recogen, dónde se almacenan y por cuánto tiempo?
- ¿El consentimiento es informado y revocable?
- ¿Quién se beneficia económicamente de los datos estudiantiles?
Conceptos relacionados
Lectura que cruza fuentes
Los datos del estudiante son el primer derecho en juego
El riesgo no es abstracto: son los datos del estudiante. Antes que la pedagogía, la IA toca un derecho concreto. El Banco Mundial lo nombra: This involves developing robust data governance frameworks to safeguard student privacy and mitigate algorithmic biases that could perpetuate or amplify inequities.
(World Bank (Digital Innovations in Education, Brief N°1), p. 30) Privacidad y sesgo son la misma pieza: quién gobierna los datos.
Los sesgos no son un fallo técnico: son históricos. El problema viene cargado de antes. UCL advierte que The transition of Artificial Intelligence (AI) from a lab-based science to live human contexts brings into sharp focus many historic, socio-cultural biases, inequalities, and moral dilemmas.
(UCL Knowledge Lab, p. 1) La IA no inventa el sesgo: lo hereda y lo amplifica a escala.
Hay valores humanistas en riesgo, no solo datos. Lo que está en juego excede la privacidad. UNESCO enmarca el riesgo sobre The guidance presents an assessment of potential risks GenAI could pose to core humanistic values that promote human agency, inclusion, equity, gender equality, linguistic and cultural diversities, as well as plural opinions and expressions.
(UNESCO, p. 3) Y ancla su marco The new framework embodies UNESCO's mandate by anchoring its vision of AI and education in principles of human rights, inclusion and equity.
(UNESCO, p. 5) El derecho de fondo es la agencia humana.
Y un riesgo específico: la vigilancia. Entre los daños concretos, uno es propio del aula digital. Brookings lo señala sin rodeos: privacy and data risks involving surveillance and security breaches
(Brookings Institution (Center for Universal Education), p. 54) Monitorear no es neutral: convierte el aprendizaje en dato observado.
La protección exige regla estatal, no autorregulación. ¿Quién protege? UNESCO traduce el principio en acción de gobierno: propone It proposes key steps for governmental agencies to regulate the use of GenAI including mandating the protection of data privacy
(UNESCO, p. 3) Y la urgencia crece porque la regla es despareja: el Banco Mundial advierte que This disparity creates uncertainty and potential risks in AI implementation, particularly in light of varying data privacy regulations
(World Bank (Digital Innovations in Education, Brief N°4), p. 31) Donde la regulación no llega, el derecho queda a merced del diseño del proveedor.
Las frases entre comillas son citas verbatim verificadas (clic para ir a la fuente); el texto que las conecta es lectura propia que integra las fuentes.