下载APP
坚决杜绝生成式AI“深层作假”
字体：
小
中
大
谢若琳
伴随着AI的使用越来越普遍，许多问题开始显现，第一个的便是具体内容真实有效。AI做为专用工具不具备判断能力，其形成的结果就是根据数据信息喂食和算率养成的好习惯综合性物质，那样，这些信息是否属实合理合法，直接关系到AI能否广泛应用。
日前，国信办公布《生成式人工智能服务管理办法（征求意见稿）》(下称《征求意见稿》)，面向社会征询建议。《征求意见稿》确立“我国适用人工智能技术、架构等基本技术的科技创新、全面推广、国际交流，支持优先选择选用安全可信的app、专用工具、运算数据资料”，并针对生成式人工智能技术服务提供商的准入条件，计算机算法、训练样本挑选、实体模型、具体内容，以及客户私人信息、商业机密等多个方面给出了有关要求。
在其中，有一条具体内容阐述了真正。一则要在第四条“给予生成式人工智能技术产品和服务理应遵守法律的需求，尊重社会公德、公共秩序”中指出，“运用生成式人工智能技术产生的具体内容理应真正精确，采取有效措施避免形成不实信息”。另一则要在第七条“服务提供者需对生成式人工智能应用的预训练数据信息、优化训练信息来源的合规性担负”中指出，“可以保证数据信息真实性、精确性、普遍性、多元性”。
这就意味着，AIGC的研发平台不仅要确保喂食的数据资料真实有效，一样需要对产生的具体内容承担，无疑是一项很大的挑战。
实际上，在全球范围内AI赛道的顶尖参赛选手中，还没有任何一个平台对AI形成结论信息真实性开展贷款担保。先前，谷歌搜索发布的人工智能对话机器人艾克（Bard）与ChatGPT对决，只因艾克犯下事实错误，造成谷歌的股价大跌，一夜之间股价暴跌约1056亿美金。微软公司即在一份免责协议中指出：“必应是通过人工智能技术驱动，因而可能出现意外和不正确。”
对生成式AI产品研发者来说，保证结论真实难度系数之深显而易见。小编认为，在产品研发、试验环节，应当容许AI不断试错、调整、健全，但是随着生成式AI做为专用工具进到工业领域，逐渐点击搜索、美术绘画、互动问答，乃至程序编写、视频生成等相关工作，那样保证真正应该是基本门坎。
也就是说，AI要抢人类工作中，从底层实体模型以来就需先处理是否属实准确的难题。假如这一问题还没有结论，那样研发平台应当谨慎向外界方面推出新品，更不可草率地将AI应用于经营环境中。
现如今，全世界根据AI的初创公司如雨后春笋不断涌现，仅仅在3月份就会有近10款AI短视频制作器问世。键入好多个关键词就可以获得一段文字、一张图片乃至一个视频，这不仅展现了科技的魅力。但一些公司为了七毒口就匆忙推出新品，造成商品质量参差不齐，一些产品产生的具体内容高效，更具一些产品产生的具体内容存有虚报。这种“深层作假”内容一旦流传开来，极易引发社会发展舆论压力。
在笔者看来，应对新技术应用，大家不仅把握机会、勇于攀登，也无法逃避技术发展趋势所带来的各种安全隐患和伦理道德考验，需搭建有效规范化的数字规则，做“有责任心的”人工智能技术，立起规定确立底线，预防潜在性风险，促进科技向善。
消费界所刊载信息，来源于网络，并不代表本媒体观点。本文所涉及的信息、数据和分析均来自公开渠道，如有任何不实之处、涉及版权问题，请发送邮件：Jubao_404@163.com，我们会及时处理。本文仅供读者参考，任何人不得将本文用于非法用途，由此产生的法律后果由使用者自负。投诉举报邮箱：
相关资讯
未经书面授权不得复制或建立镜像，违者必究。
Copyright © 2012 -2023 CONSUMER TIMES. All Rights Reserved.
深圳市赢销网络科技有限公司版权所有
粤ICP备14076428号
粤公网安备 44030702005336号