白宫推水印系统防范AI风险 七大科技巨头许安全承诺 数字水印重要性日益凸显

《科创板日报》7月24日 当地时间7月21日，美国白宫发布公告称，已与大型科技公司达成协议，为人工智能的开发设置更多防护措施，包括开发水印系统等，来控制误导信息的传播和其他风险。

白宫表示，亚马逊、Anthropic、谷歌、Inflection、Meta、微软和OpenAI七家主要人工智能公司做出自愿承诺，帮助实现AI技术安全、可靠和透明的发展。公告显示，这些公司做出的自愿承诺强调了AI未来的三个基本原则：安全、保障和信任，这标志着朝着开发负责任的人工智能迈出了关键一步。

拜登指出，公司的措施只是第一步，并承诺采取行政行动，同时与国会合作制定有关人工智能的规章制度。他说，“我们必须对这些威胁保持清醒和警惕。”

随着以ChatGPT为代表的AI的持续火热，AI技术蕴藏的风险，例如人脸伪造技术等也愈发受到公众的关注。今年4月底，曾有一名受害者10分钟被AI换脸骗走430万元。生成式AI技术的不断迭代也增加了伪造图片的真实度，使得识别难度愈发加大，其带来的潜在风险也进而提升。

数字水印则能够将标识信息嵌入数字载体当中，通过隐藏在载体中的信息，可确认且判断载体是否被篡改，保护数字产品版权、完整性、防复制或去向追踪。随着AI安全的重要性日益凸显，数字水印的应用愈发受到重视。

此前，微软在Build 2023开发者大会上就曾表示，将对AI生成内容进行添加水印，确保其程序生成的AI艺术能够被识别出来；谷歌也在今年的开发者大会上宣布，将确保公司的每一张AI生成图片都内嵌水印，以提示用户该图片由AI生成。

国内方面，抖音曾发布关于人工智能生成内容的平台规范暨行业倡议，提出各生成式人工智能技术的提供者，均应对生成内容进行显著标识，以便公众判断。

市场空间方面，据Precedence Research数据，2022年全球基于AI的网络安全市场规模为174亿美元，预计2032年将达1027.8亿美元，2022-2032年CAGR约19.43%。

据《科创板日报》不完全整理，A股上市公司中，布局数字水印以及AI安全相关业务的公司主要有：