Documento legal
Uso responsable de inteligencia artificial
Criterios para evaluar el diseño y la operación de capacidades de IA de Newton by Docens junto con cada institución.
Alcance y responsabilidades
Este documento describe criterios generales, no un inventario de funciones disponibles ni una sustitución del contrato con cada institución. La finalidad, los módulos habilitados, los datos permitidos, los proveedores, la conservación y las responsabilidades deben quedar definidos para cada implementación.
La institución determina sus procesos y decisiones académicas. Docens configura y presta las funciones contratadas dentro del alcance acordado. Ningún resultado generado por IA debe tratarse por sí solo como decisión institucional definitiva.
Finalidad, necesidad y supervisión
Antes de habilitar un caso de uso deben definirse su propósito, usuarios autorizados, información necesaria, límites de actuación y forma de evaluar sus resultados. La automatización no debe extenderse a finalidades ajenas a las acordadas.
Las decisiones con efectos relevantes para estudiantes, docentes o personal requieren responsables humanos identificables, posibilidad de revisar el contexto y una vía para corregir errores. La intervención de IA debe ser reconocible para quienes utilizan la función.
Datos, privacidad y proveedores
Sólo deben utilizarse datos pertinentes para la finalidad institucional autorizada. El tratamiento de datos personales, sensibles o de menores exige las condiciones y salvaguardas correspondientes según la política de tratamiento, el contrato y la legislación aplicable. Las instituciones no deben introducir información reservada en funciones que no estén habilitadas para procesarla.
Las integraciones y proveedores de modelos utilizados en una implementación deben evaluarse por sus condiciones de seguridad, acceso, ubicación, retención y uso de datos. La información institucional no debe destinarse a publicidad comportamental o entrenamiento de modelos generales propios fuera de una autorización y un acuerdo específicos.
Calidad, seguridad y trazabilidad
Los casos de uso deben evaluarse antes y durante su operación para detectar respuestas inexactas, sesgos, exposición indebida de datos, cambios de contexto o impactos no previstos. Las medidas de control y los registros deben ser proporcionales al riesgo y a las obligaciones contractuales.
Los usuarios autorizados deben conocer las limitaciones relevantes de la función y contar con una vía para reportar resultados inadecuados. La documentación de cada implementación debe indicar cómo se revisan y escalan esos reportes.
Revisión de este marco
Estos criterios se revisarán conforme se definan las funciones, contratos y controles de cada servicio. Para inquietudes sobre tratamiento de datos personales, escribe a soporte@docens.app; para el uso de una plataforma institucional, acude también a los canales designados por tu institución.
