矛与盾｜反ChatGPT，火了！

梁正

清华大学人工智能国际治理研究院副院长、人工智能治理研究中心主任、中国科技政策研究中心副主任、公共管理学院教授

“矛”和“盾”的关系总是相伴相生。

近期，随着人工智能ChatGPT的热浪席卷各行各业，对于人工智能担忧与警惕的声音随之而来，“反ChatGPT”开始成为一股新的势力。

从资本市场上来看，经历了近两周对ChatGPT等人工智能的热炒，2月10日，“反ChatGPT”成为新的热门概念。“数字水印”等提供相关解决方案的公司领涨板块。

反ChatGPT火了

热点的对立面同样也能创造热点。

2月10日A股开盘，伴随部分此前“ChatGPT”概念股进一步回调，“反ChatGPT”概念异军突起。“数字水印”这一概念走进了投资人的视野当中。汉邦高科涨停，金运激光、汉仪股份领涨。

数字水印是什么？据业内头部企业之一汉邦高科介绍，数字水印技术是向数据多媒体（如图像、声音、视频信号等）中添加某些数字信息以达到文件真伪鉴别、版权保护、文件溯源等功能的技术手段。

数字水印技术的基本原理是将与原始音视频媒体信息内容相关或不相关的一些标识信息，直接嵌入数字对象内容当中，不能影响原音视频媒体内容的使用价值，并且不能轻易被人的感知系统察觉。通过这些隐藏在音视频媒体内容中的标识信息，可以确认内容原始版权拥有者、实际购买者，或者音视频媒体是否真实完整。

在适用范围上，数字水印技术可以在盗版追溯、媒资管理、安全保护、防伪验真等多方面有众多衍生应用，应用方式包含但不限于软件系统、硬件集成、芯片嵌入以及云端服务等。

目前来看，“数字水印”仍然处于概念先行的阶段，但上述上市公司已经拥有相关技术储备，也不乏一些商业化合作案例。

比如汉邦高科，公司自2007年起致力于数字水印算法的研究，已经掌握了数字水印的运用原理及核心算法，构建了较高的知识产权壁垒。近些年来持续地研发投入和推广应用，公司目前已经形成了基于视频、音频、图片等比较完善的数字水印应用技术体系，是行业内少数掌握数字水印核心技术的企业之一。

另一只“数字水印”概念金运激光也在数字水印领域有一定布局。金运激光证券部人士表示，公司目前可以提供数字内容水印的技术以及加密技术，该技术对内容形式没有限制。公开资料显示，金运激光主营业务为以高端数字激光装备制造为主的工业智能应用和以IP衍生品运营业务为主的商业智能应用。

此外，数码视讯在互动平台表示，公司是第一家通过ChinaDRMLAB安全评估的数字水印产品方案商。平治信息表示，在数字音频版权跟踪技术方面，公司使用音频数字水印嵌入技术在数字音频中嵌入隐蔽的版权信息。

人工智能左右互搏

事实上，当前对类ChatGPT产品的担忧，在于这些可以以假乱真的内容是否会进入本不应该进入的领域，比如各类考试、论文之中。

清华大学人工智能国际治理研究院副院长、人工智能治理研究中心主任梁正在接受采访时表示，针对目前潜在的风险及监管隐患，加入“数字水印”或将成为一种解决方案。此外，ChatGPT的开发商Open AI也在考虑对AI系统生成的内容加个水印，来辅助辨别文本是出自AI还是人类之手。

不过，相较于今日市场对“数字水印”的热情，多位市场人士认为能够制约AI的，或许也只有AI。“从实际操作层面来看，类似数字水印这样的技术是防君子不防小人的。”一家科技公司负责人告诉记者，“除非有强制的行政法令要求AI生成必须嵌入水印，否则普通人很难鉴别。”

美国明尼苏达大学近期的一项试验就显示，将学校法学院的一份试卷输入ChatGPT中发现，ChatGPT最终取得了C+的成绩——尽管不算优秀，但是已经足以通过考试。参与该项试验的教授此后评价ChatGPT称，“在撰写论文时，ChatGPT表现出对基本法律规则的把握，以及其一贯的扎实的组织文本和写作的能力。”

记者注意到，近期许多美国教育机构纷纷出台政策“封杀”ChatGPT，与此同时，检测AI生成文本的全新算法DetectGPT也应运而生。

这款由斯坦福大学研究团队制作的产品据称可以准确检测文本中AI生成的蛛丝马迹。团队表示，该技术可对未来越来越普遍的人工智能写作论文事件起到很好的反制作用。

不过一位AI研究员告诉记者，近期她刚试用了部分市面上的检测产品，效果尚不尽如人意。“目前的AI检测需要足够长的文本，其本质也是对大量语料分析比对加以判断。”她说道，“因此对于短文本，或者小朋友写得本身就不那么通顺的文本，检测器的准确率就会明显下降。”

当然，在业内看来，检测器的诞生更具象征意义——在“矛”诞生不久之后，“盾”也会应运而生。