中国要求AI生成内容需体现“社会主义核心价值观”

[Mobot]

中国要求AI生成内容需体现“社会主义核心价值观”

CHANG CHE

2023年4月25日

百度首席执行官李彦宏讲人工智能，摄于2018年。百度和其他中国科技公司一直在竞相追赶硅谷在人工智能方面的进展。 Ng Han Guan/Associated Press

在ChatGPT掀起对人工智能技术的投资狂潮五个月后，中国政府正在采取措施控制本国的聊天机器人，展示了政府对可能定义一个时代的技术进行严格监管的决心。

中国国家互联网信息办公室本月公布了生成式人工智能服务管理办法征求意见稿。生成式人工智能是一种软件系统，它能根据用户的问题和提示生成文本和图片，支撑ChatGPT的就是这样的系统。

根据该管理办法，公司必须遵守中共严格的审查规定，网站和应用程序必须避免发布诋毁中国领导人或触及历史禁区的内容。人工智能生成的内容需要体现“社会主义核心价值观”，“不得含有颠覆国家政权”或“破坏国家统一”的信息。

公司还必须确保它们的聊天机器人生成的文字和图片是真实的，并尊重知识产权，公司需按照要求将它们的算法（也就是聊天机器人背后的软件）在监管机构备案。虽然管理办法尚未定稿，监管机构也许会继续对其进行修改，但专家表示，在中国构建人工智能服务的工程师们已经在寻找将这些规则置入产品的办法。

聊天机器人的能力令各国政府惊叹不已，从令人担忧到无伤大雅，人工智能生成的结果不一而足。人工智能已被用来在大学考试中取得优异成绩，还被用来制作了一张教皇方济各穿着白色羽绒服的假照片。

ChatGPT由美国公司OpenAI开发，微软为OpenAI提供了约130亿美元的支持，这款软件促使硅谷的公司将其背后的技术应用于视频游戏和广告等新领域。据风险投资公司红杉资本估计，人工智能企业最终可能产生“数万亿美元”的经济价值。

中国国家互联网信息办公室发布了规范生成式人工智能的管理办法草案，这些规定在征求意见后可能有进一步的改动。 Thomas Peter/Reuters

在中国，投资者和企业家们正在竞相迎头赶上。人工智能公司的股价飙升。一些最大的科技企业都在大张旗鼓地宣布推出相关产品，包括最近的电子商务巨头阿里巴巴、制造人脸识别软件的商汤科技，以及搜索引擎百度。至少有两家开发OpenAI技术中国替代产品的初创企业已筹集到了数百万美元的资金。

ChatGPT在中国无法使用。但面对越来越多的本土替代品，中国政府迅速公布了人工智能的红线，抢在了其他仍在考虑如何监管聊天机器人的国家的前头。

这些规定展示了中国“快速行动，先破后立”的监管做法，总部设在北京的策纬咨询公司的科技政策主管凯娜(Kendra Schaefer)说。“因为不是两党制，没有对如何做争论不休的两方，他们可以直接说，‘好，我们知道我们需要做这个，我们做了再说’，”她补充道。

聊天机器人使用互联网上的大量信息进行训练，开发人员正在努力解决它们吐出的答案有时候不准确、出乎意料的问题。从表面上看，中国的规定要求在一个技术层次控制聊天机器人，而中国的科技公司目前还做不到这点。就连像微软这样的公司仍在对它们的聊天机器人进行微调，以剔除机器人给出的有害回答。中国的要求高得多，这就是为什么一些聊天机器人已经被封，而另一些仅供少数用户使用。

对于如何训练人工智能系统，使其始终如一地提供与事实相符的答案，专家们对此事的难度存在分歧。一些人对科技公司能否满足中国全方位的审查规定表示怀疑，这些规定通常涉及的内容广泛，而且处在不断变化中，甚至需要审查特定的词语和日子，比如1989年6月4日，那是军队镇压天安门广场民主示威的日子。还有人认为，随着时间的推移和工作做到位，机器人能与真理和特定的价值体系保持一致，甚至是政治价值体系保持一致。

分析人士预计，与中国科技公司磋商后，管理办法会发生变化。监管机构可能放松执行力度，这样就不至于从整体上削弱人工智能技术的发展。

中国人脸识别软件公司商汤科技2021年在上海一个会议上的展位。 China News Service, via Agence France-Presse — Getty Images

中国对互联网的审查由来已久。政府在本世纪的前十年里建起了世界上最强大的网络信息监管系统。这吓跑了谷歌和 Facebook等不服从的西方公司。政府雇了数百万人来监控互联网上的活动。

与此同时，不得不遵守审查规定的中国科技公司却蓬勃发展起来，这让西方批评人士对政治控制会削弱增长和创新的预测落空。随着人脸识别技术和手机的出现，中国的科技公司帮助政府利用这些技术来建造一个监控国家。当前的人工智能浪潮给中共带来了新的风险，研究中国人工智能方面的专家、卡内基国际和平基金会研究员马特·希恩说。

希恩表示，聊天机器人的不可预测性会让其做出荒谬或错误的（也就是研究人员称为“幻觉”的）陈述，这与中共痴迷于管理网上言论的做法背道而驰。

“生成式人工智能给中共的两个主要目标制造了矛盾：一个是控制信息，一个是在人工智能方面领先，”他补充说。

专家表示，中国的新规定并不完全是关于政治的。例如，政府也要保护个人隐私和数据创建者的知识产权，这是全世界都关心的话题，因为训练人工智能系统依靠数据。

今年2月，图像数据库公司Getty Images起诉了人工智能初创公司Stable Diffusion，后者用1200万张带水印的图片训练了自己的图像生成系统，Getty声称该公司的做法稀释了其图片的价值。

为了解决有关人工智能公司使用底层数据和内容的法律问题，中国正在采取措施，从更高层面予以推动。今年3月，中国成立了国家数据局，这是重大机构改革的一部分，是为了更好地定义拥有数据、买卖数据的含义。国家数据局还将协助公司建立训练人工智能模型所需的数据集。

“他们现在正在决定数据属于什么样的财产，谁有权使用和控制数据，”凯娜说道，她写过大量有关中国人工智能监管的文章，她认为该管理办法是“变革性的”。

北京人民大会堂前的保安。上个月，政府宣布了设立国家数据局的计划。 Kevin Frayer/Getty Images

尽管如此，中国的新护栏可能不合时宜。中国在半导体方面正临着日益激烈的竞争和制裁，这可能会削弱中国在包括人工智能在内的技术上的竞争力。

今年2月初，人们曾对中国的人工智能充满希望，当时人工智能工程师兼企业家徐亮发布了一款手机应用，那是中国对ChatGPT的最早回应。徐亮表示，这款名为元语智能的应用程序在第一个小时里就获得了超过1万次下载。很快就出现了元语智能的回答与党的路线明显不符的媒体报道。这些回答对中国经济的描述十分黯淡，还将俄罗斯在乌克兰的战争描述为“侵略战争”，这与中共的亲俄立场背道而驰。几天后，当局关闭了这款应用程序。

徐亮表示，他正在增加措施，以创造一个更“爱国”的机器人。这些措施包括过滤掉敏感的关键词，雇佣更多的人工审查者来帮助标记有问题的答案。他甚至正在训练另外一个能检测到“不正确观点”的模型，这样就能将这些观点过滤掉。

尽管如此，徐亮的机器人何时才能让当局满意目前尚不清楚。截屏显示，元语智能预计恢复时间是2月13日，但截至周五仍处于关闭状态。

“系统更新维护中，”程序界面上的文字显示。

Chang Che是时报亚洲科技记者。他曾为“中国项目”工作，并作为自由撰稿人报道中国的技术和社会。欢迎在Twitter上关注他：@changxche。

翻译：纽约时报中文网

[0] ChatGPT: https://www.nytimes.com/2023/03/31/technology/sam-altman-open-ai-chatgpt.html
[1] 严格的审查规定: https://www.nytimes.com/topic/destination/internet-censorship-in-china
[2] 聊天机器人的能力: https://www.nytimes.com/2023/03/29/technology/ai-artificial-intelligence-musk-risks.html
[3] 约130亿美元: https://www.nytimes.com/2023/01/23/business/microsoft-chatgpt-artificial-intelligence.html
[4] 数万亿美元: https://www.sequoiacap.com/article/generative-ai-a-creative-new-world/
[5] 飙升: https://www.bloomberg.com/news/articles/2023-02-01/chatgpt-buzz-drives-buying-frenzy-in-china-s-ai-related-stocks?sref=zVYYYI5e
[6] 阿里巴巴: https://www.alibabacloud.com/press-room/alibaba-cloud-unveils-new-ai-model-to-support?spm=a3c0i.8288105.9593763490.16.2a546a37vZBoDT
[7] 商汤科技: https://www.bloomberg.com/news/articles/2023-04-10/alibaba-backed-sensetime-unfurls-china-s-latest-chatgpt-rival
[8] 百度: https://www.nytimes.com/2023/03/16/world/asia/china-baidu-chatgpt-ernie.html
[9] 中国替代产品: https://www.stcn.com/article/detail/792634.html
[10] 有害回答: https://www.nytimes.com/2023/02/16/technology/bing-chatbot-microsoft-chatgpt.html
[11] 分歧: https://spectrum.ieee.org/amp/ai-hallucination-2659565411
[12] 军队镇压天安门广场民主示威: https://www.nytimes.com/1989/06/04/world/crackdown-beijing-troops-attack-crush-beijing-protest-thousands-fight-back.html
[13] Getty Images: https://www.nytimes.com/2023/04/08/business/media/ai-generated-images.html
[14] 侵略战争: https://www.nytimes.com/2023/02/22/us/politics/china-russia-sanctions.html
[15] 截屏: https://unwire.hk/2023/02/11/chatyuan/fun-tech/


https://cn.nytimes.com/china/20230425/china-chatbots-ai/?utm_source=RSS

Tue, 25 Apr 2023 11:47:59 +0800

--
Mobot

If you have any comments about this article, you can simply leave them by replying to this post. However, if you have any comments about this bot, please leave your message in the cn.fan group.