作者:徐慈豪
来源:
/Image-1/图片来源:工具生成。
OpenAI引发的人工智能热潮仍在继续，但AIGC相关的应用程序也被犯罪分子用来生成虚假内容，扰乱社会的正常运转，同时提高生产效率。
国鑫证券的研究报告指出，国内AI应用正在逐步扩大，与AI相关的应用将逐步增加。针对AI滥用的风险，数据安全、密码、AI监管都是重要的技术发展方向。
日前，Mayer PaCO发布了一款新产品，可以检测和识别AI生成的视频、图像和文本。事实上，中国有关部门一直在探索对AIGC产品和应用的法律监管。有关专家还建议，只有建立和完善相关法律制度，才能从根本上促进中国AIGC产业的健康和可持续发展。
美亚百科发布AI监管产品
5月15日，Mayer-PaCO发布了一份投资者关系活动记录。
备案表显示，在AI监管产品方面，公司发布了AI-3300“慧眼”视频图像鉴真工作站，可监控识别伪造视频图像和AIGC产生的视频图像。该公司推出的AIGC检测平台支持检测和识别AIGC生成的文本。
同时，梅耶尔·帕科表示，后续公司将继续进行AI安全和监管方面的研究，包括反生成AI，并根据业务需求及时安排相关产品。
袁宇宙新闻记者致电美亚拜克。公司接线人士表示，从业务模式来看，目前公司的AI安全产品主要服务于公安、网信等监管部门，利用生成技术对网络上不良信息的传播行为进行识别和鉴别；此外，它还可以为提供生产服务的制造商提供安全和合规性评估服务。
上述接线人士坦言，目前国内大型号厂商还处于发布和市场应用阶段。从B端来看，业务领域的合作还在讨论中。
“随着深度伪造技术和AIGC技术的成熟，伪造相关视频、音频、图像的技术门槛大大降低，AI技术滥用的风险进一步扩大，监管亟待加强。”天使投资人、人工智能资深专家告诉袁宇宙新闻，AI监控工具在监控识别深度伪造技术、AIGC技术制作的图片、视频、视频等方面有很好的效果，可以降低技术滥用的风险。
负责戴尔技术中国R&D集团的高级科学家李三平博士告诉元宇宙新闻，从技术角度来看，已经有一些人工智能生成图片和视频的尝试。例如，谷歌将标记其工具创建的每一张人工智能生成的图像。
“技术上很容易识别，不影响用户使用。不过课文课的内容还在摸索中。”李三平说。
AI监管一直在路上。
国信证券认为，随着百度、360、阿里、华为、腾讯等国内互联网公司发布或计划发布大型机型，AI相关应用将逐渐增多。针对AI滥用的风险，数据安全、密码、AI监管都是重要的技术发展方向。
事实上，中国一直非常重视对AI的监管。
2023年1月10日，《互联网信息服务深度融合管理规定》(以下简称《规定》)正式生效。《规定》明确，提供智能对话、合成语音、人脸生成、沉浸式现实场景等服务的人员对产生或显著改变的信息内容应进行显著标注，以避免公众产生混淆或误解。任何组织或者个人不得利用技术手段删除、篡改或者隐匿相关标识。
4月11日，信息办发布《生成式人工智能服务管理办法(征求意见稿)》(以下简称《办法》)，首次聚焦生成式AI，进一步明确法律边界和责任主体。《办法》提出，使用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人，包括通过提供可编程接口支持他人生成文本、图像、声音的，应当承担产品生产者的责任。提供方应对生成性人工智能产品的预训练数据的合法性和优化训练数据的来源负责。
“人工智能行业监管存在突出问题，如相关法律法规和标准体系不完善，缺乏多部门协调的自上而下的监管体系，监管技术手段落后。”郭涛指出，政府相关部门需要尽快建立和完善AIGC R&D及应用相关的法律法规和标准，建立或完善伦理审查制度和监管体系，加强对科技企业、应用场景和用户的监管，搭建多方协同治理平台，促进AIGC产业健康持续发展。
温馨提示：注：内容来源均采集于互联网，不要轻信任何，后果自负，本站不承担任何责任。若本站收录的信息无意侵犯了贵司版权，请给我们来信(j7hr0a@163.com)，我们会及时处理和回复。
原文地址"ai监管什么意思，如何对AI进行监管？专家建议健全法律保障和标准体系"：http://www.guoyinggangguan.com/qkl/148389.html。
微信扫描二维码关注官方微信
▲长按图片识别二维码
