浙江绍兴警方破获多起“ai换脸”案件

2023-09-08 21:47    来源:科普社会

警惕利用人工智能进行新型犯罪新动向

人工智能技术飞速发展,一些不法分子利用其进行违法犯罪活动,给网络安全带来了严峻挑战。近期,浙江绍兴市公安局破获多起涉人工智能案件。

今年6月,绍兴上虞区警方发现有网民发布了关于上虞工业园区发生火灾的视频,浏览量在短时间内迅速上升。视频中,上虞区一工业园区内火势猛烈,整个园区被浓烟覆盖,现场不时传出爆炸声,场面惊心动魄。

民警核查发现,视频中的建筑、森林大火场景,并非该工业园真实场景,并且疑似源自其它视频。经分析,民警判断该视频是利用人工智能合成技术,将网络上多段不同视频剪辑拼接而成。警方经侦查,认定某网络科技公司员工有较大作案嫌疑,立刻赴该公司所在地抓获包括汤某在内的3名犯罪嫌疑人。

“犯罪嫌疑人首先在网上搜集热门话题,通过生成式人工智能服务自动生成脚本,在网上抓取相关视频片段,然后利用AI软件合成完整视频,配上音乐、字幕。不到一分钟,一段虚假视频便‘新鲜出炉’。”上虞区分局民警沈林丰介绍,为获得流量、博人眼球,自今年5月以来,该团伙不断利用AI技术制作虚假视频、散布谣言,在网上发布未经核实的虚假视频达3000多个。

随着人脸识别技术越来越普及,一些不法分子开始利用“AI换脸”等技术实施盗窃、诈骗等犯罪,引发了公众对于个人信息保护的担忧。

“我的APP好像被黑了!”今年4月13日,绍兴市民朱女士到辖区派出所报案,称有人登录某政务APP,擅自下载了朱女士公司的电子营业执照。接警后,上虞区分局迅速展开侦查,很快确认曾某某有重大作案嫌疑。

经审查,犯罪嫌疑人曾某某利用自己的手机号码注册账号,并通过朱女士的姓名、身份证号等信息进行实名认证,然后通过人脸识别进行绑定,最终成功登录账号进行作案。

“曾某某通过网购店铺引流,利用‘客户’提供的人脸照片,通过专业AI软件制作合成人脸动图,以人脸识别验证方式登录各类APP,非法获取相关信息。”上虞区分局相关负责同志介绍。

“每次交易价格不等,只是觉得这样挣钱比较容易,没想到已经触犯到了法律。”曾某某悔不当初。据了解,曾某某通过此类手段共制作动态人脸1000多个,获利9万多元。目前,曾某某已被采取刑事强制措施,案件正在办理中。

公安部网络安全局相关负责人介绍:“犯罪分子用于实施‘AI换脸’的物料主要为照片,特别是身份证照片,同时结合人员姓名、身份证号来突破人脸识别验证系统。为防范和打击此类新型犯罪,公安机关联合国家重点实验室等单位,开展人脸识别与活体检测技术安全测评,覆盖了境内用户量大、问题隐患突出的各类重点APP,及时发现人脸识别验证系统存在的风险隐患,通报运营主体升级安全保护措施和人脸识别算法。”据介绍,公安机关依托“净网”专项行动,组织专项会战,严打泄露身份证照片等图像信息的犯罪源头,破获多起“AI换脸”案件,抓获相关犯罪嫌疑人,有效遏制了该类犯罪势头。

“不法分子滥用人工智能技术,给社会带来严重危害,也触犯了相关法律。”警方人士介绍,根据法律规定,使用人工智能技术制作散布虚假信息,扰乱社会秩序,可能构成编造、故意传播虚假信息罪;利用人工合成技术破解他人账号、窃取他人个人信息,则可能构成侵犯公民个人信息罪。此外,如果使用人工智能等技术手段来从事欺凌、恐吓、威胁等行为,就可能构成寻衅滋事罪等。

“人工智能技术操作简单、可定制性强、应用场景广泛,降低了链条式犯罪的难度,被黑客等不法分子利用后危害性极大。”绍兴市公安局上虞区分局相关负责人表示,对人工智能技术产生的新应用、新业态,公安机关将坚守价值引领与技术“纠错”并行,保护人工智能技术健康发展的同时,防范打击利用人工智能技术侵犯公民权利、危害公共安全的新型案件,维护风清气正的网络环境,全力保障网络空间安全。

与此同时,办案民警提示,要警惕利用人工智能进行新型犯罪新动向,建议个人要加强信息保护意识,防止信息泄露,不轻易提供人脸、指纹等个人生物信息给他人;管理好自己的“朋友圈”,尽量避免过多暴露隐私;警惕不明平台发来的广告、中奖等链接,不随意点击填写信息,以免上当受骗。



崖州区去年这份民生“答卷”写满幸福
头条

崖州区去年这份民生“答卷”写满幸福

本文转自:三亚日报 本报讯(记者 张慧膑)1月21日,记者从崖州区获悉,2023年该区围绕民生保障,聚焦“就业、医疗、教育”等与百姓生活息息相关的民生热点,有力有序推进十大为民办实事项目,推动解决了一批群众关心、反映强烈的“急难愁盼”问题,有力提升了人民群众的获得感、幸福感和满意度。 在中小学生课后 [详情]

一片丹心育新人
头条

一片丹心育新人

本文转自:南通日报 一片丹心育新人 ——记海安市曲塘镇群贤村关工委常务副主任尤桂英  [详情]

震区在校学生全部疏散完毕
头条

震区在校学生全部疏散完毕

本文转自:闽北日报 新华社乌鲁木齐1月23日电(记者马锴 顾煜 杜刚)1月23日2时09分,新疆阿克苏地区乌什县发生7.1级地震,地震发生时,新疆阿克苏、喀什、和田等多个地区有明显震感,当地在校学生已经全部疏散完毕,目前暂无接到人员伤亡情况报告。 阿克苏地委宣传部工作人员表示,震中有两间房屋倒塌,地 [详情]

“你们的服务真好”
头条

“你们的服务真好”

本文转自:闽北日报 1月23日一大早,在武夷山葛仙超限运输检测站的“司机之家”,安然度过一夜的滞留货车司机吴青收到了一份热乎乎的早餐,他感动地说:“你们的服务真好!” 吴青常年在宁上高速这条道路上来回驰骋,以往只觉得这一路山水明艳、风景秀丽,却从未如此感动过。  [详情]

男子地铁昏厥,“90后”医生跪地救人
头条

男子地铁昏厥,“90后”医生跪地救人

本文转自:扬子晚报 地铁站内,一名男乘客突然晕厥在地,嘴角及地面有一摊血迹……千钧一发之际,江苏省人民医院(南京医科大学第一附属医院、江苏省妇幼保健院)的90后规培医生徐坤跪地抢救,直至乘客恢复意识。 1月20日晚间,徐坤医生下班后从地铁二号线上车,忽然听到隔壁车厢有人大声呼救:“有没有医生?有人晕 [详情]

回原单位上班可再约试用期吗?
头条

回原单位上班可再约试用期吗?

本文转自:劳动报 记者同志: 您好。我原来在一家造船企业担任电焊工,工作又苦又累收入还不高,便在多年前跳了槽。现在造船企业电焊工收入有了大幅提高,我便重新应聘,签订劳动合同时企业人事部门告知,需要设立三个月的试用期。  [详情]

啥叫“灯头让灯尾”?这起事故藏着“学问”
头条

啥叫“灯头让灯尾”?这起事故藏着“学问”

本文转自:扬子晚报 扬子晚报讯(记者 郭一鹏 通讯员 尹峥嵘 夏文娟) 近日,南京江宁交警中队接到报警称,汤铜公路六顺园十字路口发生一起两车碰撞事故。原来,朱某驾车沿六顺园路由北向南行驶,在上一个周期信号灯绿灯结束前已进入路口,由于速度较慢,在通过路口过程中信号灯转换成了红灯。此时,魏某驾车沿汤铜公 [详情]