要点:①警惕AI的发展，防止其失控，正在成为世界范围内科技领域的“政治正确”；在防止人类自我灭绝的问题上，核战争、气候变化、致命病毒的传播、生物技术的滥用等诸多风险应该排在超级AI之前；③人工智能可能导致各种社会风险。学术界早已指出，早就提出了各种对策。现在的问题是根据国情实施AI治理措施，而不是暂停研发；④如果不进行统筹的政策安排，ChatGPT必将导致大量的“AI失业”，进而阻碍ChatGPT的进一步应用。
作者:刘永谋中国人民大学哲学学院教授，国家发展与战略研究院研究员。
2023年3月，包括埃隆马斯克(Elon Musk)在内的数千名专家联名签署* * *，呼吁暂停GPT-4后续人工智能(AI)模型的训练至少6个月。消息一出，引爆全球网络和媒体，迅速引来吴恩达等“艾丹尼尔”的反对。最后就是没有下文了。GPT-4的暂停被怀疑是OpenAI的一波炒作。
4月份有消息称意大利要全面封杀ChatGPT，结果很快就罚款了。
5月，美国总统拜登和副总统哈里斯也来凑热闹，与谷歌母公司Alphabet、微软、OpenAI和Anthropic的首席执行官举行了一次会议，向企业施压，要求他们围绕人工智能实施保障措施，并表示支持新的法规或立法，以减少AI技术的潜在危害。
《马斯克和他的AI女友》用户使用生成式AI工具制作来源:网络
一切似乎都要来了。看来，以ChatGPT、Midjourney、DALL-E 2为代表的GAI(生成AI)催生了新的更严重的社会风险，从根本上改变了人类社会发展和AI技术应用的大局，需要新的策略、措施和方法来应对，比如全面暂停AI新技术的研发。
真的是这样吗？号码
首先，GAI没有制造任何新的风险，它可能造成的问题早就被学术界讨论和呼吁了。其次，不需要新的方法来应对GAI风险。处理AI风险的关键一直是执行。
4月11日，国家互联网信息办公室公开发布《生成性人工智能服务管理办法(征求意见稿)》，以前所未有的速度回应GAI，证明GAI的申请社会影响巨大，必须认真研究，谨慎快速处理。
01警惕失控的人工智能——全球科技领域的“政治正确”
1)失业问题，即可能导致文案、原画、工业设计师、程序员、媒体从业者、翻译等脑力劳动者大量失业。
2)教育问题，即可能冲击现有的教育科研体系。比如学生可以用ChatGPT代替自己做作业。
3)信息安全问题，即GAI自动生成海量AI (AI生成内容)，真假难辨，立场可疑，归属不明，难以追究，甚至可能成为挑战主流价值观和意识形态的危险工具。
AI风险早已受到世界各国政府的重视，近年来更是成为全社会关注的焦点。显然，GAI造成的上述三种影响并不是什么新问题，早在ChatGPT大爆炸之前，学术界和政府就已经开始关注和研究了。
过去十年，从物联网到大数据、云计算、区块链、元宇宙、ChatGPT，从来不缺少关注风险的声音。
我密切关注新技术社会的影响，花费大量精力提醒大家AI可能带来的技术风险。如撰写专著《技术治理通论》、《物联网与泛在社会的来临》、《技术有病我无药可医》、《Metacosmic Trap》、《科技与社会十四讲》等，提醒非专业人士ICT的社会影响和技术风险。
可以说，警惕AI的发展，防止其失控，正在成为全球范围内科技领域的“政治正确”。在这种氛围下，公开宣称“AI无禁区”的声音被极大压制。作为一个技术控的选择者，我完全同意这一点。
就目前的发展趋势来看，ChatGPT有哪些必须“加码”处理的严重风险，比如停办至少6个月？
有人说ChatGPT是超级AI出现的标志。如果现在不停止(注:不仅仅是暂停)，一旦潘多拉魔盒被打开，人类很快就会被超级AI统治甚至灭绝。这种花里胡哨的想法很难被认真对待。特别是很多专业人士都不认可ChatGPT是万能AI，更不认可超级AI的雏形。
超级AI可能是个问题，但在防止人类自我灭绝的问题上，核战争、气候变化、致命病毒传播、生物技术滥用等诸多风险应该排在超级AI之前。我们先阻止他们了吗？即使停不下来，也可以暂停，至少可以呼吁暂停。
既然没什么新东西，就没必要采取极端手段暂停发展。为什么？
第一，暂停不合理。有人说ChatGPT的风险应对措施没有想清楚，所以先暂停。不对！不是没想清楚，是没落实到位。
第二，暂停是不可能实现的，肯定会有AI公司违反禁令，造成不正当竞争。
第三，暂停不会解决问题。就算所有AI公司真的暂停GAI研究，风险问题就解决了吗？不要！除非LLM(大型语言模型)被完全停止和禁止，否则风险不会消失。重新开始的时候，还是要面对风险。
当今，新技术是人类生存和发展最重要的工具。GAI对社会生产力的推动作用是显而易见的。为什么要因噎废食？为什么我们不能有控制地使用它？
20世纪，有人提出科技对当时的人类来说已经足够了。继续发展会导致许多新的问题，所以科学和技术应该停止，科学家应该停止研究。这种极不理性的想法从来没有被社会重视过。
02 GAI·R&D的停职不可能实现，它只是一个无效的“传声筒”。
AI可能导致各种社会风险，学界早已指出，早就提出了各种对策。所以现在的问题是根据国情实施AI治理措施，而不是暂停AI研发。事实证明，暂停GAI R&D的想法简单粗暴，收效甚微，无法实现。纯属无效的“嘴炮”。
以AI中的失业问题为例。AI的失业问题，也就是人工智能的推广伴随着越来越多的人失业，这是AI社会影响中最大的问题，涉及到整个社会的全面制度创新。现有文献中关于AI失业的论述数不胜数，具体对策多种多样，如学生职业规划、劳动者AI素养提升、失业人员社会保障与再就业、产业结构升级等。
长期的战略规划也很壮观，比如系统性地减少劳动者的工作时间(有些地方已经在尝试一周工作四天)，开征AI税(AI是所有人类智慧的结晶，对AI公司征收重税让所有人分享)，弹性退休制度(劳动者一生可以短暂退休几次)。
AI应用对当代治理活动的最大影响在于扩大了经济自由，增加了闲暇时间，极大地改变了公共治理的前提条件，从而改变了社会运行的根本面貌。但这种影响也意味着“AI失业问题”越来越严重，给整个社会的治理活动带来严峻挑战，必须谨慎处理。AIGC的工业化将再次证明艾失业问题的严重性。如果不做整体的政策安排，ChatGPT一定会导致大量的“AI失业”，进而阻碍ChatGPT的进一步应用。
漫画:机器人接管重复性的工作，比如制造和包装。资料来源:TC
解决“AI失业问题”，既要考虑前景，也要考虑现实。
从长远来看，“AI失业问题”的解决涉及到人类社会系统的根本性变革，而不仅仅是依靠智能技术和智能治理的发展。根据马克思主义的基本原理，“艾失业问题”反映了科学技术生产力发展与现存生产关系之间的矛盾。机器人可以替代人类劳动，并不意味着实际上替代人类劳动，因为这种替代意味着取消少数人通过制度安排强迫大多数人劳动的剥削制度。本质上，要解决“AI失业问题”，必须不断减少劳动者的工作时间，给予人们更多的闲暇时间，最终必须彻底消灭剥削制度。20世纪的劳动史表明，现代科学技术在生产中的应用不断减少了社会必要劳动总时间，促进了越来越多的国家实行“八小时工作制”和“双休制”。
现实中，社会系统的进化需要很长的时间，必须一步一步稳步推进，也必须等待智能技术的不断发展。因此，当务之急是为受到人工智能冲击的劳动者找到新的工作，并确保他们能够享受科技进步创造的物质财富。
因此，在AIGC工业化初期，国家、政府和社会应深入研究，统筹规划，积极应对可能出现的失业和就业压力。
比如，完善失业保险和提供再就业培训服务，加强年轻人的职业规划和提高他们的创造素质，调整学校的人才培养方向，特别是人文艺术，促进产业升级以创造新的就业岗位。总之，面对AI可能伴随的失业风险，一定要放弃非此即彼的极端思维，尽量避免，实时调整。
在中国如何管理AI？
建设数字中国是数字时代推进中国现代化的重要引擎，是构建国家竞争新优势的有力支撑。
在数字中国建设中，必须推进“以人为中心”的AI治理，让AI真正造福社会。为此，首先要呼吁全社会关注AI风险问题。政府、企业、非政府组织、科技界和公众要按照职责分工，完善政策措施，加强资源整合和力量协调，形成行动合力，真正落实控制AI风险的各项预案。
此外，可以考虑以下原则性建议来管理AI风险:
第一，贯彻工具有限的原则。我们必须清楚地认识到智慧治理的作用——智慧治理不是万能的“完美武器”，很多时候也会“失灵”，甚至走向阻碍社会效率的反面。因此，要认识到智能技术在某些领域、某些问题、某些场合提高治理效率的作用，主张优先采用技术治理手段解决问题，时刻牢记智能技术的有限作用。坚持科技谦逊，警惕“大数据迷信”，采取具体语境分析的批判态度，重视治理活动的实际效果反馈和风险控制。
第二，利用和控制并重。既要发挥智能治理的作用，又要控制具体的智能治理，防止智能平台和技术专家的力量失控。同时，要用系统-技术的方法来规避智能治理可能带来的社会风险。
第三，妥善处理“AI失业问题”。智能技术的应用对当代治理活动的最大影响在于扩大了经济自由，增加了闲暇时间，极大地改变了公共治理的前提条件，从而改变了社会运行的根本面貌。但这种影响也意味着“AI失业问题”越来越严重，给全社会的治理活动带来严峻挑战，引起全社会的关注，必须谨慎处理。
第四，紧密结合“智慧城市”和“数字乡村”建设。科学经营城市是当代科技治理的重要战略举措，智慧城市是科学城市的高级形式。目前人类主要生活在城市，尤其是大型和超大型城市，所以目前的智能治理主要是围绕“智慧城市”的建设来推进的，或者说“智慧城市”的建设是主要载体。在数字中国建设中，尤其是数字乡村建设不容忽视，要努力通过数字化缩小城乡差距。
第五，注重智能科技与人的融合。在技术治理活动中，技术与人的结合越好，治理效率越高。加强智能治理活动中人和技术因素的整合，需要系统反思各种智能技术的特点以及相关的伦理、法律、心理、危机管理等诸多方面，推进制度建设、技术研发和人才储备，加强组织领导、专家咨询和实战演练，持续系统地提升我国智能治理能力。
第六，区分特定背景下的治理和操纵。智能治理是有限度的，超过限度就变成了智能操纵，侵犯了公民的基本权利。智能治理的未来发展必须具体考虑各种应用的极限，这不仅涉及治理目标，还涉及所采用的手段，只能在特定的社会语境中冷静、客观、谨慎地判断。要防止智能治理走向智能操控，一个很重要的问题在于，必须在一定程度上容忍智能治理的反治理行为。
温馨提示：注：内容来源均采集于互联网，不要轻信任何，后果自负，本站不承担任何责任。若本站收录的信息无意侵犯了贵司版权，请给我们来信(j7hr0a@163.com)，我们会及时处理和回复。
原文地址"马斯克的ai技术，马斯克发推shib"：http://www.guoyinggangguan.com/qkl/142540.html。
微信扫描二维码关注官方微信
▲长按图片识别二维码
