PowerSchool, un destacado proveedor de software en la nube para el sector educativo K-12, ha dado un nuevo paso en la protección de sus estudiantes con el lanzamiento de PowerBuddy™, un asistente de inteligencia artificial innovador diseñado para apoyar a más de 60 millones de estudiantes en más de 90 países. PowerBuddy facilita la interacción entre los estudiantes y sus redes de apoyo a través de diversas plataformas educativas. Un desafío crítico ha sido garantizar la seguridad de los estudiantes mediante un sofisticado sistema de filtrado de contenido, especialmente en entornos donde muchos usuarios son menores de edad.

Para abordar esta problemática, PowerSchool ha implementado un novedoso sistema de filtrado de contenido personalizado mediante Amazon SageMaker AI. Este sistema identifica y bloquea contenido perjudicial como el acoso escolar y el discurso de odio, sin interferir en discusiones académicas legítimas, lo cual es esencial, especialmente en la enseñanza de temas sensibles. De este modo, se evita que, por ejemplo, el análisis de eventos históricos sea erróneamente marcado como violento.

La solución desarrollada por PowerSchool incluye características avanzadas, desde la preparación de datos hasta la arquitectura de inferencia. Utilizando técnicas de adaptación de bajo rango (LoRA), ajustaron el modelo Llama 3.1 8B para operar con precisión en este contexto. Las pruebas han demostrado una impresionante precisión del 93% en la identificación de contenidos dañinos y un false positive rate menor al 3.75%, superando significativamente a las soluciones genéricas.

Con la implementación de este sistema personalizado, se ha fortalecido la confianza en el uso de herramientas de inteligencia artificial en las aulas. La recolección continua de retroalimentación y las pruebas A/B han permitido ajustes en tiempo real, asegurando la eficacia del filtrado de contenido.

Con PowerBuddy en proceso de integración en otros productos de PowerSchool, la compañía planea futuras adaptaciones del modelo de filtrado de contenido. El objetivo es mantener un equilibrio entre la innovación educativa y la seguridad del estudiante, creando un entorno de aprendizaje seguro y accesible, que permita a los estudiantes aprender sin el riesgo de exposición a contenido dañino.