欧盟达成《人工智能法案》初步协议。2023年5月11日，欧洲议会就欧盟《人工智能法案（The AI Act）》达成初步协议，对通用人工智能实行更严格的监管。该协议将于6月中旬进行全体投票，如获通过将为全球第一部综合性人工智能规则。该“法案”根据AI系统的风险水平，提出了渐次严格的规则，“对人的安全构成不可接受的风险”的人工智能系统将被彻底禁止。
来源：欧洲议会
【天枢点评】：2022年底ChatGPT的推出，引起全球广泛、持续的关注，打开了人们对人工智能技术和产业发展新的想象空间，同时也引发了方方面面的担忧，甚至恐慌。应该说，AI安全问题是一个非常复杂的问题，除了已知风险，还有未知风险，既有当前风险，还有长远风险。各国对此都高度重视，许多国家都在出台类似这样的管理办法。对AI监管持“轻约束”态度的美国白宫也于2023年5月4日，召集微软、谷歌等科技巨头就人工智能安全问题展开对话，要求科技巨头在保障AI安全上担当责任。
应当说，为了防止安全失控，监管确实需要及时跟进，出台管理办法非常必要且紧迫的。但同时也要看到，生成式人工智能还在快速发展中，很多问题还不是很明朗，其发展与应用的边界还在扩展中，如果用过于严苛的监管方式进行监管，或者用传统互联网监管方式、货物商品的监管模式进行监管，可能会扼杀创新。因此，当前的紧迫任务，除了人工智能创新，也需要监管创新，在安全与发展间寻求平衡。
自然资源部发布《国土空间规划城市时空大数据应用基本规定》。2023年4月11日，自然资源部发布公告显示，《国土空间规划城市时空大数据应用基本规定》（TD/T1073-2023）行业标准已通过全国自然资源与国土空间规划标准化技术委员会审查，自2023年3月5日起实施。该《规定》适用于城市层级国土空间规划时空大数据应用，其他层级国土空间规划工作也可参考执行。
来源：自然资源部
【天枢点评】：随着智慧城市建设的加快推进，城市数字安全已然成为当前及未来一个时期数字安全的重点。无论建设智慧城市，还是保障好城市数字安全，都离不开城市时空大数据。《国土空间规划城市时空大数据应用基本规定》是国土空间规划领域如何应用时空大数据的第一个行业标准，标志着智慧规划建设从“硬件端”开始走向“应用端”。在做好城市时空大数据时，同步做好数字城市孪生系统，实时获取安全大数据，通过城市安全大脑综合分析和集中研判，感知风险，预警威胁，预先运行策略，将更有利于保障整体安全。
OpenAI幕后的英雄Scale AI入选CNBC颠覆者50强。2023年5月9日，CNBC消息，为OpenAI提供数据标签服务的幕后英雄Scale AI公司与OpenAI一起入选CNBC 2023年度颠覆者（Disruptor）50强榜单。
来源：CNBC
【天枢点评】：Scaler AI公司在2016年由时年19岁从麻省理工计算机学院辍学的华裔年轻人Alexandr Wang创立。该公司目前估值为73亿美元，成就了迄今最年轻的亿万富豪。生成式人工智能所依靠的关键是大型语言模型（LLMs），而LLMs是通过用专门的指令数据集和一种叫做人类反馈强化学习（RLHF）的技术对它们进行微调而实现的。Scale AI正在帮助包括OpenAI等颠覆性人工智能公司训练和微调有人类反馈的LLMs。在生成式人工智能时代，仅仅有大数据和大模型还不够，用于大型语言模型的RLHF将为下一代语言模型提供动力。
生成式人工智能和Mandiant威胁情报的集成正在重塑谷歌云安全战略。2023年5月11日，谷歌在山景城举办的2023年度I/O开发者大会上发布了新一代大语言模型PaLM 2。在前不久闭幕的RSAC 2023大会上，谷歌发布了由Sec-PaLM提供支持的安全工作台套件(Security AI Workbench)。
来源：谷歌
【天枢点评】：Google Cloud Security AI Workbench 将解决三大安全挑战：1）减少安全专业人员的繁琐和重复性工作量；2）解决安全行业的人才缺口；3）提高识别和阻止威胁的速度。这一切都依托于其发布的特定于安全的大型语言模型（LLM）Sec-PaLM与Mandiant领先的情报能力相结合。我们可以看到，谷歌正在与微软展开激烈的竞争，在一定程度上说明了谷歌已经不是创新者而是跟随者。在数字安全垂直领域，谷歌与Mandiant 的融合将为生成式人工智能赋能数字安全行业梳理了典范，构建安全的大模型，谷歌相对于微软有其独特性。
* 如需了解《数字安全观察》完整版信息，请联系[email protected]，关注360天枢智库
评论