当前，一些应用人工智能技术开发的教育产品由于可解释性、问责性、安全性及公平性等原因，存在一定的伦理风险。而智能教育伦理研究与实际应用脱节，又对智能教育的指导作用不强。“因此，以合乎伦理的方式推动智能技术在教育领域中的应用势在必行。”提案执笔人，九三学社上海市委常委、九三学社华东师范大学委员会主委，华东师大大学计算机科学与技术学院副院长贺樑告诉记者。

目前，智能教育伦理风险界定、评估指标量化、治理框架验证等存在难点，其内涵与外延尚未明确界定。与此同时，针对已明确的伦理风险，缺乏结合具体教育应用场景的量化评测指标;现有智能教育产品很难在真实环境中测试，没有标准流程来衡量产品成效，也没有评估和监测系统伦理风险的现成工具。“智能教育伦理治理框架难以在真实环境中得到有效验证。”贺樑说。

由于智能教育培训机制不完善，学生、教师、系统研发人员等相关主体人工智能素养有待提高，智能教育伦理方面尤为欠缺。据介绍，目前教育伦理学的内容在教师资格证考试中很少涉及，在教师继续教育中基本没有;部分一线教师在没有系统学习智能教育相关知识的情况下，就开始接触并使用智能教育产品。另据对部分智能教育工具开发企业员工调查发现，目前极少有企业开展内部技术伦理培训，员工对智能教育伦理风险基本没有概念。

此外，虽然制定了保护学生人身安全，数据隐私，要求以“德”育为中心、指导学生全面发展等规定，国家新一代人工智能治理专业委员会也发布了《新一代人工智能伦理规范》，但是智能教育伦相关规范体系尚未建立，还没有明确的与教育伦理道德有关的规定。

鉴于此，九三学社上海市委提出了鼓励开展智能教育伦理理论研究、建立智能教育伦理工具应用审核机制、提升重点人群智能伦理素养和构建智能教育伦理规范体系4方面建议。

鼓励开展智能教育伦理理论研究。贺樑认为，应尽快开展智能教育伦理内涵外延界定的定性研究和智能教育伦理可量化可评测的定量方法研究;制定智能教育伦理量化评价标准，建设智能教育伦理量化评测数据集;鼓励高校、研究机构开展教育学、心理学、社会学和计算机、人工智能等领域学科交叉融合，建设智能教育伦理风险理论体系，明确智能教育伦理风险内涵外延的界定方法和范围，建立可动态更新的智能教育伦理风险清单;基于风险清单，开展风险定量评测和流程设计，为开展智能教育伦理风险评测奠定基础。

建立智能教育伦理工具应用审核机制。基于智能教育伦理量化评价标准，可参考教育类APP上线前的审核模式，建立智能教育伦理工具应用事前审核机制，通过伦理审核的产品方可被纳入教育采购清单。凡进入教育采购清单的智能教育工具，定期开展飞行检查，通过对实时运行系统和数据的技术性评测教师、学生等使用者的反馈，评估其教育伦理风险，预防智能教育伦理事故发生;凡存在重大风险隐患的，及时停用整改。

“提升重点人群智能伦理素养。”提案重点提及这一点。在学校层面，建议在教师数字化教学评价素养指标体系中增加智能教育伦理风险识别能力项目、在师范生课程中加入数字化教学评价素养培养的相关课程、在高校通识教育中设置相关课程;同时开发用户友好的智能教育伦理风险识别评估工具，辅助教师对智能教育工具进行风险评估。在行业层面，面向智能教育从业人员建设智能教育伦理课程，并加大培训的力度。

此外，还要构建智能教育伦理规范体系。基于智能教育伦理理论研究成果，搭建智能教育伦理开源开放平台，建设智能教育产品评测平台，建立可信的实证库，支持人工智能教育应用与成效评估。鼓励上下游企业参与智能教育伦理体系建设，鼓励智能教育产品开发企业建设内部伦理委员会，开展内部伦理审核。加大监管力度，对于发生教育伦理负面事件的企业，依法从严给予处罚，促进企业规范自律。