热消息:10分钟被骗430万?我们都可能是AI作恶的受害者

2023-05-23 08:57:02 来源:北京日报客户端


【资料图】

原标题:10分钟被骗430万?我们都可能是AI作恶的受害者

近日,“某科技公司老板遭遇AI换脸诈骗”一事冲上热搜,引发网友热议。

据报道,当事人突然接到好友的微信视频,经过短暂聊天,好友开口借钱。基于视频聊天信任的前提下,他毫无怀疑把钱转了过去,没想到却是不法分子通过AI换脸技术,佯装好友进行诈骗。

魔幻一幕令人吃惊,但这并非AI换脸第一次作恶了。除了诈骗钱财,此前还有女子被人利用AI“一键脱衣”造黄谣,某男子利用视频合成技术,将电视剧中与某知名女星亲吻的男主角换成自己以蹭流量,效果都到了以假乱真的地步。如上案件细节不尽相同,但无不直观展示了AI作恶的可怖之处。一来,技术门槛大幅降低,一键生成为病毒式传播大开方便之门。二来,受害者无差别,骗人内容五花八门。三来,追责难上加难。此前网络乱象就因为匿名性导致追责不易,如今在AI加持下,更难追查,传播链条病毒式延展,维权只怕更加赶不上骗人速度。

作为一种基于深度学习算法的信息技术,人工智能本身是中性的,但背后操作、设定、使用的是真实的人,AI可用来兴利向善,也可用来牟利作恶。这也提醒我们,普及人工智能技术时,必须以法律和道德加以规范,避免滥用、泄露和侵犯个人信息等行为。在这方面,我们国家已经较早开展人工智能立法探索,并且针对“AI换脸术”专门出台了管理规定。至于广受诟病的“一键脱衣”等灰色软件,更是早就被封禁下载。但就现实来看,“灰产”恐怕还有变种,仍需加强监管。其中平台作为关键的传播载体,也必须守土尽责,对侵权视频加强审核、建立机制,真正成为健康优质的信息分享地。

AI作恶危害性极大,每个人也都应该成为“安全围栏”的重要一环。遇到不实信息随手举报,别去围观恶劣内容,提高警惕、尊重别人、净化环境,就是在保护我们自己和身边人。(雨馨)

上一篇 : 舟山武港铁矿累计吞吐量近3亿吨

下一篇 : 最后一页

x

相关推荐