生成式人工智能的潜在风险：各国监管机构正
据《华尔街日报》4月11日报道，拜登政府已经开始研究是否需要对ChatGPT等人工智能工具进行审查，以回应人们越来越担心生成式人工智能可能被用来进行歧视或传播有害信息的担忧。
作为潜在监管的第一步，美国商务部已经于美东时间4月11日（周二）正式公开征求意见，就其所谓的问责措施发表意见，包括有潜在风险的新人工智能模型在发布前是否应该通过认证程序。
《每日经济新闻》记者注意到，北京时间周二，中国的监管机构已经对生成式AI技术进行过一系列的表态。其中提到，提供生成式AI产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗。此外，4月10日，中国支付清算协会网站发布“关于支付行业从业人员谨慎使用ChatGPT等工具的倡议”。
前腾讯安全技术中心专家李铁军在接受《每日经济新闻》记者采访时指出，目前各方面对生成式AI的担忧比较多，美国方面以马斯克为代表。“他们担心AI的自我生长，可能突破人类限制。如果真的突破，或许人类干不过AI，后果难以评估。”
担忧生成式AI风险，美国拟设置“护栏”
美国政府采取上述监管行动之际，新兴人工智能工具的使用在过去几个月大范围风靡。这些工具可以快速生产类似人类产出的文字、图片和视频等。一些分析师估计，微软支持的聊天机器人ChatGPT比历史上任何消费类应用程序的用户增长规模都更快。
美国国家电信和信息管理局（下称NTIA，美国商务部发布征求意见的机构）局长Alan Davidson表示，“看到这些工具在相对早期就能发挥（如此强大的）作用，真是令人惊讶。我们知道，我们需要设置一些‘护栏’，以确保这些工具被负责任地使用。”
《华尔街日报》报道截图
Davidson表示，上述征求意见将被用来帮助制定给美国政策制定者关于如何对待人工智能的建议。他还补充称，NTIA的法律任务涉及向总统提供科技政策建议，而不是编写或执行法规。
报道中还称，行业和政府官员对一系列潜在的人工智能危害表示担忧，包括利用该技术进行犯罪或传播虚假信息。美国参议员Michael Bennet上个月曾写信给几家人工智能公司，询问在公共实验中聊天机器人向冒充年轻人的用户提供有害建议的情况，同时儿童的安全也是他们最关心的问题。
康涅狄格州民主党参议员Richard Blumenthal在接受媒体采访时也表示，“关于人工智能可能带来的爆炸性的好处和坏处，人们正在进行非常活跃的讨论。对国会来说，这是一个终极挑战——技术性高度复杂、事关重大，非常紧迫。”
《每日经济新闻》记者注意到，包括特斯拉CEO马斯克和“人工智能教父”Geoffrey Hinton在内的科技领袖最近也开始呼吁暂停训练比GPT-4更强大的AI系统。GPT-4是OpenAI大约在一个月前发布的聊天机器人版本。这些科技大佬警告称，OpenAI与Alphabet旗下谷歌等竞争对手之间正在展开AI“军备竞赛”，但并未对潜在风险进行充分的管理和规划。
图片来源：futureofoffice
据悉，拜登上周在白宫也与一个科学家顾问委员会讨论了这个话题。当一名记者问及生成式人工智能技术是否危险时，拜登答道：“有可能。还有待观察。”
据悉，这个委员会的成员包括了微软和谷歌的代表，他们和洽谈发布人工智能系统的公司表示，他们正在不断更新安全“护栏”，如通过编程避免让聊天机器人回答某些有害问题。
中国监管机构已提前出手
前腾讯安全技术中心专家李铁军在接受《每日经济新闻》记者采访时指出，当前对生成式人工智能的担忧主要集中在两个方面。一方面，美国一些科学家担心生成式人工智能可能会自我进化，超越人类的认知和操作能力，导致人类在与AI的竞争中处于劣势。另一方面，一些人也提出了类似《黑客帝国》中描述的担忧，认为生成式人工智能可能会对人类产生不可预测的影响。李铁军表示，对于生成式人工智能的发展和应用，需要平衡好人类利益和AI利益的关系，同时制定相应的规范和标准，确保AI的发展符合人类的利益和价值观。同时，也需要加强对AI的监管和监督，确保其发展不会对人类造成不可预测的影响。
“美国政客的讨论就是充分利用新技术确保竞争优势，但安全方面的担忧确实是很重要的一方面，美国网络安全与基础设施安全局官员上周还在一个论坛上对生成式人工智能的安全影响表示了严重关切，警告说需要采取立法行动来规范其使用。”李铁军对记者补充道。
每经记者还注意到，就在美国政府周二就生成式AI的潜在监管公开征求意见之前，中国的监管机构已经对该技术进行过一系列的表态。
北京时间4月11日（周二），国家互联网信息办公室就《生成式人工智能服务管理办法(征求意见稿)》公开征求意见。其中提到，提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗。此外，利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。
图片来源：国家网信办
4月10日，中国支付清算协会网站发布“关于支付行业从业人员谨慎使用ChatGPT等工具的倡议”。
工具如 ChatGPT 等智能语言模型近期引起了广泛关注，部分企业员工已经开始使用这些工具来开展工作。然而，这些工具也暴露了跨境数据泄露等风险。为了应对这些风险并保护客户隐私和维护数据安全，中国支付清算协会向行业发出倡议，提升支付清算行业的数据安全管理水平。根据相关法律法规，协会呼吁企业遵守数据保密和信息安全相关规定，加强员工培训和监管，确保数据安全。
图片来源：中国支付清算协会
除了中国和美国外，4月3日，德国联邦数据保护专员发言人称，出于数据保护方面的考虑，可能会暂时禁止在德国使用ChatGPT。
当地时间4月4日，加拿大隐私专员办公室(OPC)宣布对聊天机器人ChatGPT开发公司OpenAI展开调查，该调查涉及“OpenAI未经同意收集、使用和披露个人信息”的指控。
隐私保护一直是人工智能领域的热门话题。OPC作为全球最大的电信设备制造商之一，其产品涉及个人隐私保护的问题。目前，该机构没有透露更多的调查细节，但OPC的一位隐私专员表示，人工智能技术及其对隐私的影响是该机构优先事项之一。隐私保护是人工智能技术发展的关键，因此OPC需要跟上快速发展的技术并保持领先。
这是继意大利之后又一个对ChatGPT“出手”的国家监管机构。此外，法国、爱尔兰、西班牙等欧洲国家也开始考虑对人工智能聊天机器人采取更严格的监管。
OpenAI最新回应：安全监管是必要的
在监管声四起的当下，一些人工智能企业也主动欢迎并寻求制定新的监管规定。例如，OpenAI最近还在一篇博客文章中表示，“我们认为，强大的人工智能系统应该接受严格的安全评估。需要监管来确保这些做法得到采用，我们积极与各国政府接触，探讨可能采取的最佳监管形式。”
据Axios报道，美东时间本周三，OpenAI、微软、谷歌、苹果、英伟达、Stability AI、Hugging Face、Anthropic等公司将开会讨论制定AI技术开发使用标准，以最负责任的态度继续开发AI。
Axios报道截图
众议院监督委员会技术小组主席、南卡罗来纳州共和党众议员Nancy Mace上个月在一场关于人工智能的听证会上发表讲话，讨论了人工智能的风险和好处。她表示，她的开庭陈词所有内容，都是用ChatGPT写的。Mace问在场的人士，人工智能是否发展得太快了：“我们有能力开发出对人类生存构成威胁的人工智能吗？还是说这只是科幻小说？”在听证会上，她与其他人讨论了人工智能的发展，以及其对经济和伦理的影响。她指出，人工智能的发展可能会带来巨大的好处，如提高生产效率和改善医疗保健，但也会带来风险，如自动化导致的失业和隐私侵犯。她还强调了人工智能在解决交通问题和天气预测方面的潜力，但也提出了一些挑战，如如何确保人工智能的准确性和安全性。在结束发言时，Mace表示，她相信人工智能可以为人类带来巨大的好处，但同时也需要小心谨慎地管理和发展，以确保其不会对人类生存构成威胁。
谷歌前CEO Eric Schmidt此前则表示，美国国会应该把重点放在促进人才发展和创新上。
《每日经济新闻》记者还注意到，由于目前还没有针对人工智能的联邦法律，一些政府机构正在使用其他法律权利。例如，金融部门监管机构已经调查了贷款机构如何使用人工智能来承销贷款，以防止对少数群体的歧视。美国司法部反垄断部门则表示，正在检测该领域的竞争。而美国联邦贸易委员会(FTC)则警告企业，它们可能会因对人工智能产品做出虚假或未经证实的声明而面临法律后果。
