Microsoft ha acordado implementar diez principios de seguridad y privacidad para regular el uso de la inteligencia artificial en los colegios. El pacto, firmado con los principales sindicatos docentes del país en defensa de la infancia, permitirá a los centros educativos incorporar estas exigencias en sus contratos a partir de noviembre.
Esto es algo que en un principio se aplica en Estados Unidos, por lo que la compañía de Satya Nadella ha bautizado el documento como la Norma nacional de seguridad y privacidad en materia de IA. Y es que, como podemos comprobar en el propio anuncio, el acuerdo llega en un momento en el que familias y docentes muestran un recelo creciente hacia el papel de estas herramientas en las aulas, sobre todo en lo relacionado con la protección de los datos de los menores.
La presión de los grandes centros escolares
El pacto no llega de forma aislada. Apenas una semana antes, grandes distritos escolares como los de Nueva York y Los Ángeles anunciaron suspensiones temporales del uso de herramientas de inteligencia artificial en sus clases, con el objetivo de analizar los riesgos que plantea la tecnología e imponer la seguridad adecuada antes de retomar su uso entre el alumnado.
Ese movimiento se sumó a las quejas que venían mostrando sindicatos y asociaciones de familias sobre el impacto de estas herramientas en los menores, un clima que habría llevado a Microsoft a ofrecer garantías concretas si quería que sus productos siguieran presentes en las aulas estadounidenses. Podemos comprobar que la compañía ha optado por fijar por escrito un marco al que los centros podrían recurrir en sus contratos, aunque el documento no precisa si estas condiciones se extenderán, más adelante, a otros proveedores de tecnología educativa. La coincidencia de fechas, apenas una semana entre las suspensiones de Nueva York y Los Ángeles y el anuncio de la norma nacional, sugiere que este acuerdo llega como respuesta al malestar mostrado por esos distritos.
Qué cambiará en los contratos de los centros educativos
Desde noviembre, los distritos escolares de Estados Unidos podrán incluir en sus contratos con proveedores tecnológicos las condiciones recogidas en esta norma nacional. Eso convierte los diez principios en una herramienta con peso contractual para las escuelas, y no solo en un compromiso voluntario de la compañía.
Debemos tener en cuenta que Microsoft no ha detallado públicamente, por el momento, el contenido íntegro de cada uno de los diez puntos ni qué categorías concretas de datos de los alumnos quedan excluidas del tratamiento por parte de la IA. Lo que sí ha trascendido es el objetivo general del pacto: dar a los centros educativos capacidad de exigencia frente a las plataformas que tratan información de menores, en un contexto en el que la falta de transparencia sobre el uso de esos datos ha alimentado la desconfianza de docentes y familias.
Tampoco se ha precisado si el incumplimiento de alguno de los diez principios conllevaría consecuencias contractuales automáticas o si cada colegio deberá negociarlo caso por caso con su proveedor. Lo que la norma sí fija es el momento a partir del cual estas condiciones podrán formar parte del papeleo habitual entre distritos escolares y empresas de tecnología educativa: noviembre.
Por qué los sindicatos docentes han sido parte clave
El acuerdo se firma directamente con los principales sindicatos docentes de Estados Unidos, un actor que en los últimos años ha ganado peso en las decisiones sobre qué tecnología entra en las aulas. Su implicación explica en parte por qué el documento se centra en la protección de la infancia y no solo en cuestiones de rendimiento o eficacia pedagógica de la IA.
Para los sindicatos, contar con esta norma supone disponer de un marco de referencia que podrían invocar en negociaciones futuras con otros proveedores tecnológicos, más allá de Microsoft, aunque el acuerdo no lo explicita así. No hay constancia de cuándo los sindicatos venían reclamando garantías sobre el tratamiento de los datos del alumnado, aunque el recelo de familias y docentes sí aparece como el motor directo de este pacto.
La entrada en vigor de la norma en noviembre será el momento en que los distritos escolares puedan empezar a comprobar, contrato por contrato, si un proveedor de inteligencia artificial cumple con las garantías pactadas junto a los sindicatos docentes.