世界经济论坛最新的《2024 年全球风险报告》强调了网络威胁的不断上升，并将错误信息和虚假信息列为全球最严重的风险。它还警告低成本犯罪天堂以及人工智能权力集中在少数人手中的问题。

错误信息和虚假信息已成为未来两年预计最严重的全球风险。  

资料来源：世界经济论坛 2024 年全球风险报告

世界经济论坛指出，错误信息和虚假信息迅速增加，随着今年多个经济体举行选举，这种风险可能会变得更加严重。

该报告强调，错误信息和虚假信息的广泛使用以及传播这些信息的工具可能会损害新当选政府的合法性。

世界经济论坛指出，易于使用的大规模人工智能（AI）模型接口已经导致伪造信息和所谓的“合成”内容激增，从复杂的语音克隆到假冒网站。

尽管旨在打击网络虚假信息和非法内容的监管不断涌现，但世界经济论坛表示，监管的速度和有效性不太可能跟上发展的步伐。

网络攻击风险成为重要议程

网络攻击和网络不安全风险仍然是《2024 年全球风险报告》中接受调查的许多利益相关者最关心的问题。

审视当前的风险形势，39% 的受访者提到了网络攻击，这是 2024 年第五大担忧。极端天气位居风险形势首位 (66%)，其次是人工智能生成的错误和虚假信息 (53%)、社会风险和/或政治两极分化（46%），然后是生活成本危机（42%）。

资料来源：世界经济论坛 2024 年全球风险报告

在未来两年的全球风险严重程度排名中，网络不安全排名第四，并被列为持续关注的问题。

政府和私营部门利益相关者将网络不安全视为短期内第三大风险。

成为网络犯罪分子更容易

总体而言，非法经济活动排名较低，但《2024 年全球风险报告》指出：“技术进步将打开新市场并允许犯罪网络蔓延，犯罪造成的人力和经济成本可能会同步上升。”

由于这些技术进步，特别是在网络领域，进入壁垒将被打破，从而使跨国犯罪网络得以蔓延。

这些犯罪网络将越来越多地采用利用新技术的混合商业模式，使非法资金多样化并分散有组织犯罪的实际存在。

世界经济论坛指出，最终，网络犯罪为有组织犯罪提供了越来越低风险和低成本的收入来源。

从地理上看，世界经济论坛指出，随着复杂的网络防御将目标转向数字素养较低的个人或安全性较低的基础设施和系统，网络犯罪将继续蔓延到亚洲部分地区以及西非和南部非洲。这种趋势已经在拉丁美洲出现。

这一地理趋势也受到这些地区更大的互联网连接以及日益富裕的推动。

市场集中度将导致网络不安全

该报告的受访者强调，网络不安全和技术力量集中是人工智能技术产生不利结果的唯一风险驱动因素。

报告指出，人工智能技术的生产高度集中，只有少数公司和国家青睐。

这造成了重大的供应链风险，世界经济论坛称这种风险可能在未来十年内显现。

报告指出：“一小组人工智能基础模型的广泛部署，包括在金融和公共部门，或过度依赖单一云提供商，可能会导致系统性网络漏洞，导致关键基础设施瘫痪。”

与此同时，北半球国家在技术堆栈开发方面的主导地位可能会延续社会、文化和政治偏见，而南半球国家对人工智能带来的风险（从错误信息和虚假信息到犯罪使用）的抵御能力也可能较低。