如何防止“人工智能”暴走 关键是要控制好“人”_天天新资讯

(资料图片)

4月11日，国家互联网信息办公室发布《生成式人工智能服务管理办法(征求意见稿)》。《征求意见稿》就生成式人工智能在研发、应用等不同环节需遵循的社会伦理，对知识产权与个人隐私保障等法律义务，以及服务平台应遵守的相关法规和应尽责任，明确了标准和要求。所谓“生成式人工智能”，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术，近段时间引爆全球的ChatGPT，就属于一种生成式人工智能服务。

任何一场技术革命总是伴随着滞后的风险规避措施。近来，“AI写假新闻”“AI一键脱衣”等案例提醒我们，在拥抱人工智能的同时，必须构建完善的管理制度和法律规范，让AI及其开发者明白该做什么、不该做什么。《征求意见稿》对人工智能应用“立规矩”，并不是要限制它的发展，而是强调科技发展是安全的，且必须向着合乎人类利益的方向演进。从这个意义上讲，“让我们享受一个漫长的AI夏天，而不是毫无准备地陷入秋天”，并非一般的诗句，而是人类迈向科技未来需要反复唱颂的史诗。

其中，“安全”两字对人工智能来说至关重要。之前，图灵奖得主约书亚·本吉奥、计算机科学家斯图尔特·罗素以及特斯拉创始人马斯克等千余名业界人士则站出来指出，鉴于最近几个月来人工智能领域已陷入一场几近失控的竞赛，巨型AI研究是时候按下暂停键，并且在这段时间里，所有AI实验室和独立学者都应该合力开发一套共享安全协议，这些协议必须确保这些AI系统毋庸置疑的安全。

《征求意见稿》同样也提出，利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息；防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权；禁止非法获取、披露、利用个人信息和隐私、商业秘密等。这些规定都是为促进人工智能技术的健康发展和规范应用，尽量使“技术向善”。

因为比起失控的技术，更有可能失控的是用技术来为非作歹的“人”。比如，恶意使用者可能会利用ChatGPT来制造虚假信息、实施欺诈活动或进行其他不道德行为。《征求意见稿》从预防性原则出发提出监管并不是简单叫停，而是通过科技风险的认知和研判，探寻我们可以接受的研究和创新。毫无疑问，科技将越来越深地走进生命和智能等关乎人类存在的领域，人的价值、伦理等问题也因此必须被视为研究和创新的内在环节，必须在关注度和监管措施上给予相应的投入，“与时俱进”的风险规避，实施更全面的人工监管，时刻关注AI技术的安全性，确保其不会被滥用，才能充分发挥人工智能的潜力，为人类社会带来更多便利和进步。

立好规矩、划好红线，使科技的力量在我们可以掌控的节奏下有序绽放，人工智能才能更好造福人类，而不是引发焦虑、成为威胁。《征求意见稿》广纳众言，也希望社会相关各方积极参与其中，共同维护生成式AI的技术研发和产业发展。

关键词：