下载APP
AI作假高发领域整治刻不容缓 上市企业积极布局网络信息安全业务流程
字体：
小
中
大
一方面，监督机构需尽早不断完善人工智能技术研发及运用有关法律法规和质量标准体系，强化对高科技企业、网络媒体等严格监管。另一方面，给予深层生成服务的公司要坚决落实网络安全管理监督责任，不断完善优化算法体制审批、高新科技伦理审查、反电信诈骗等管理方案，提升生成视频的核查及管理，对智能对话、生成人声伴奏、面部形成、沉浸式体验车祸模拟情景等形成信息进行明显标志，防止群众搞混或错认
本报讯记者许林艳
前不久，AI领域发展中的诸多乱相，引起了销售市场高度关注，网络信息安全再度立在镜头下，好几家全产业链上市企业也关心爱护网络信息安全有关合理布局状况。
AI市场乱象高发
“AI孙燕姿”的人气还未完全消退，“AI变脸”明星直播间便再次成为社交媒体上关注的焦点话题讨论。打开直播房间，就能看到换脸杨幂、热巴等女星在直播卖货。这让顾客在感慨科技创新的前提下，还对AI发展形势以及相关安全性问题表示忧虑。
“现在大多数企业能直接给予相关明星的算法优化，质优价廉，在3万元至4万之间，选购以后就能直接仿冒大牌明星开展直播卖货。如今AI市场发展乱相许多，到务必加强监管力度和整治的时刻。”一位不愿具名的业内人士对记者表示。
前不久就会有福州某高新科技公司法人孙先生10分钟之内上当受骗430万元事情发生。据统计，骗子公司先攻占了孙先生的好朋友手机微信，从而通过智能AI变脸和拟音设备对孙先生实施诈骗。
深度科技科学研究院张孝荣接受《证券日报》采访时表示：“现阶段的AI变脸和AI拟音牵涉到‘深度伪造’，是AI科技的衍化运用。这类运用一般根据使用‘生成式对抗网络’的深度学习模型，将照片或视频合成累加到源图片或者视频上，依靠神经网络技术开展大样本学习培训，将自身的声响、脸部情绪及形体动作拼凑生成虚报具体内容。”
张孝荣还强调，现阶段也有一种新的发展趋向，即AI练习形成虚拟人物连接ChatGPT这种NLP大模型，再根据视频语音精仿技术性，还原与真实事件交流的实际效果，如此一来，就会使线上“武松”和“内鬼”更为真假难分。
应对现阶段AI市场的发展乱相，网络信息安全整治已刻不容缓。风险投资人、杰出人工智能专家郭涛接受《证券日报》采访时表示：“一方面，监督机构需尽早不断完善人工智能技术研发及运用有关法律法规和质量标准体系，强化对高科技企业、网络媒体等严格监管。另一方面，给予深层生成服务的公司要坚决落实网络安全管理监督责任，不断完善优化算法体制审批、高新科技伦理审查、反电信诈骗等管理方案，提升生成视频的核查及管理，对智能对话、生成人声伴奏、面部形成、沉浸式体验车祸模拟情景等形成信息进行明显标志，防止群众搞混或错认。”
网络信息安全受重视
AI乱相所产生的网络信息安全引发网友热议，好几家全产业链上市企业还在关心爱护有关市场布局状况。
“AI领域发展中消极事情高发，本质上还是由于AIGC是新鲜事物，对AIGC的使用场景欠缺必须的监管方案和检测方式。以AI诈骗为例子，假如各种运用在鉴别到传送内容就是AI产生的情况下，可以对具体内容接受者进行深入提示，那样犯罪嫌疑人执行诈骗难度将会大大增加。但目前还没有相近严格监管规章，缺乏足够的充足合理、低成本无损检测技术。”深信服相关工作人员告知《证券日报》新闻记者，企业致力于网络信息安全行业，在AI安全生产方面关键对焦三个情景：一是运用AI技术赋能检测服务和经营业务流程，比如威胁检测、数据分析、威胁情报、智能化系统安全运行等；二是运用AI全过程中数据安全与隐私维护难题，比如多方安全计算、联邦学习等；三是AI实体模型本身安全问题，包含AI实体模型可扩展性、数据信息下毒进攻等。
永信至诚人员在接纳《证券日报》采访时表示，对于运用人工智能技术执行的新式网络诈骗，永信至诚集团旗下“i春秋”知名品牌根据多年来的网络信息安全一线实践经验，可面对不一样用户场景，根据场景式、高模拟仿真、可视化体感互动系统软件提高用户安全防范意识水准。以AI变脸行骗为例子，用户可以通过“i春秋”的AI变脸感受系统软件掌握AI变脸的基本原理及存有安全隐患，进而增强安全意识，降低AI变脸诈骗案的产生。
信安世纪也十分重视网络信息安全，谈起在这个方面合理布局状况，信安世纪层面对《证券日报》记者说：“密码技术在抵抗真实身份假冒、数据信息仿冒层面本身具有的优点，现阶段信安世纪正积极将人工智能应用与密码技术结合，以提供更加友善、安全系数高的使用体验。”
方正证券表明，AI将产生网络安全产业逻辑重要更改。从进攻侧来说，大模型、GPT、生成式AI技术将大幅度降低黑客入侵准入门槛，明显加重了总体威协趋势，从而产生各种安全性硬件软件需求以及市企安全性费用预算的提高；从管控侧来说，在类ChatGPT的形成语言工具得到了广泛的应用以后，管控侧针对视频的监督和核查将会成为头等大事，网络安全内容、网络信息安全、总流量可视性等安全管理侧需求量获得大幅提升。
消费界所刊载信息，来源于网络，并不代表本媒体观点。本文所涉及的信息、数据和分析均来自公开渠道，如有任何不实之处、涉及版权问题，请发送邮件：Jubao_404@163.com，我们会及时处理。本文仅供读者参考，任何人不得将本文用于非法用途，由此产生的法律后果由使用者自负。投诉举报邮箱：
相关资讯
未经书面授权不得复制或建立镜像，违者必究。
Copyright © 2012 -2023 CONSUMER TIMES. All Rights Reserved.
深圳市赢销网络科技有限公司版权所有
粤ICP备14076428号
粤公网安备 44030702005336号