文章总结： 香港数字政策办公室发布生成式AI技术及应用指引，旨在平衡创新潜力与社会责任。指引覆盖技术开发者、服务提供者、服务使用者三类持份者，聚焦技术治理、伦理规范及法律合规。核心内容包括风险分级监管（四层级）、五大治理维度（隐私、知识产权、犯罪防治、真实可信、系统安全）及治理核心原则。指引强调法律合规为基石，通过技术优化与多方协作推动AI可信可控发展。 综合评分： 86 文章分类： 政策法规,技术标准,安全建设,AI安全,解决方案

香港数字政策办公室发布《香港生成式人工智能技术及应用指引》

安全进化论

2025年5月9日 11:30 广东

在小说阅读器读本章

去阅读

来源：香港数字政策办公室

摘要：2025年4月，香港特区政府数字政策办公室委托香港生成式人工智能研发中心（HKGAI）制定本指引，旨在平衡生成式AI（GenAI）的创新潜力与社会责任，推动技术发展的效益最大化、风险最小化。指引覆盖技术开发者、服务提供者、服务使用者三类持份者，聚焦技术治理、伦理规范及法律合规，确保GenAI安全服务于香港社会。

一、核心内容

（一）治理框架与核心风险

1.技术局限

（1）模型幻觉：生成内容与事实不符（如虚构信息、错误逻辑）。

（2）模型偏见：训练数据或算法设计导致生成内容存在歧视性（性别、种族、文化等）。

（3）黑盒问题：模型决策过程不透明，可解释性低。

（4）数据完整性风险：数据投毒、数据漂移、未经授权修改。

2. 服务风险

（1）内容安全：生成色情、暴力、虚假信息等有害内容。

（2）模型越狱：绕过安全机制生成非法内容（如深度伪造、恶意代码）。

（3）数据泄露：用户隐私或敏感信息外泄。

（4）知识产权侵权：生成内容涉及版权争议。

3. 风险分级监管（四层级）

（1）不可接受风险（如危害公共安全）：全面禁止，开发者承担法律责任。

（2）高风险（如医疗诊断、自动驾驶）：需合规评估、人工监督、持续监测。

（3）有限风险（如招聘工具、教育AI）：履行透明度义务，提供用户退出机制。

（4）低风险（如垃圾邮件过滤）：企业自我认证即可。

（二）治理五大维度

1. 个人隐私：采用联邦学习、数据匿名化等技术，确保数据收集、处理、存储符合《个人资料（私隐）条例》。

2. 知识产权：避免使用未授权版权材料训练模型，明确生成内容的版权归属。

3. 犯罪防治：打击深度伪造、虚假信息传播，禁止生成助长暴力或诈骗的内容。

4. 真实可信：通过检索增强生成（RAG）技术增强内容准确性，要求生成内容标注来源或水印。

5. 系统安全：防范数据投毒攻击，建立监控与更新机制，确保模型鲁棒性。

（三）治理核心原则

1. 遵守法律：全流程符合香港及国际法规（如《网络安全法》《版权条例》）。

2. 安全透明：采用可解释AI技术，公开数据来源与模型逻辑。

3. 准确可靠：通过RAG技术验证内容真实性，提供人工核查机制。

4. 公平客观：消除数据偏见，确保生成内容无歧视性。

5. 实用高效：优化模型性能，推动跨领域应用创新（如智慧城市、金融科技）。

（四）GenAI链条相关主体的指南

1. 技术开发者

（1）建立完整团队（数据、算法、合规、质控），确保数据质量与模型安全。

（2）采用RAG技术减少幻觉，定期审计模型偏见。

2. 服务提供者

（1）合规框架：内容过滤、隐私保护、系统安全监测。

（2）风险分级：根据应用场景实施差异化管控（如高风险领域强制人工审核）。

（3）透明披露：向用户说明生成内容的局限性与潜在风险。

3. 服务使用者

（1）合法使用：禁止利用AI生成违法内容（如虚假新闻、伪造文件）。

（2）自主判断：验证生成内容真实性，避免盲目依赖AI输出。

（3）隐私保护：避免输入敏感信息，选择不共享数据的服务。

（4）责任归属：传播AI生成内容需标注来源，承担后续法律责任。

（五）香港特色治理框架

1. 应用为本：结合行业需求制定灵活治理规则（如金融业需透明、医疗业重隐私）。

2. 风险分级：优先监管高风险场景（如自动驾驶、公共安全）。

3. 行业协作：联合金管局、司法机构等制定行业指南（如金融沙盒、司法AI使用规范）。

4. 国际兼容：参考欧盟《AI法案》、新加坡治理框架，促进跨境技术合作。

二、结论

该指引为香港生成式AI的研发、应用与治理提供系统性框架，以法律合规为基石，通过技术优化与多方协作，推动AI技术可信、可控、可持续地服务于社会福祉。

免责声明：以上报告均系通过公开、合法渠道获得，版权归原撰写/发布机构所有，如涉侵权， 请联系及时删除；内容为推荐阅读仅供参考学习，如对内容存疑请与原撰写/发布机构联系。

戳“阅读原文”下载完整报告。

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：安全进化论 《香港数字政策办公室发布《香港生成式人工智能技术及应用指引》》