AI使造谣变得越来越容易?科技的边界也需法律来明确

来源:华西都市报

2023-04-13 06:59:07

AI使造谣变得越来越容易?

科技的边界也需法律来明确

AI绘画,AI视频,AI对话……


【资料图】

在AI正加速渗透现代人生活的当下,Bard、ChatGPT、Chinchilla和LLaMA等生成式AI正迎来裂变式增长的用户。

通过将智能的机器学习算法与数十亿条人类生成的内容相结合,这些系统似乎可以做任何事情:根据字幕创建一个极度逼真的图像,或是通过已公开的用户照片合成一张新的自拍照,用视频中的一个人的肖像替换另一个人也只需要动动手指。

在这个由AI构成的“新世界”中,生成式AI创建的内容高度逼真,普通人越来越难准确区分真人和AI生成内容,伪造、扭曲现实、造谣将变得越来越容易,有图也不是真相,有视频可能也不是真相——它们需要先证明自己是真的才行。

AI写真能精准复制你的样子

人工智能技术日益发展,深伪技术(deepfake,即基于人工智能的人体图像合成技术)也在人们生活中更加常见,而且更常被滥用。

最近,喜欢拍照的王洛奇(化名)迷上了AI写真。“给自己拍照,老公怎么训练也练不出来,自从用上了AI生成软件,‘喂了’大概50张自己之前拍过的照片进行训练,写真再也不愁没有好的摄影师拍了。”

王洛奇告诉记者,使用AI生成的写真相似度应该在95%以上。“我拿了一张AI生成的写真去问女儿照片中的人是谁?孩子表示这就是妈妈呀,还问我什么时候拍的。”

因为在王洛奇进行AI写真训练时,使用的照片大多是在泰国旅行时拍的,还有几张穿泰服的,结果AI生成的写真极具异域色彩。

当被问到AI生成的照片是否有明显的缺点时,王洛奇想了想告诉记者:“其实AI写真的近景和中景都很无敌了,非要说缺点,就是远景的全身照脸部会有点垮,不知道是不是训练素材数量不太够还是生成照片的像素太低导致的。”

制作真实人物的虚假视频技术正变得越来越容易获得。生成人工智能的进步,将很快意味着虚假但视觉上令人信服的内容将在网上激增,从而导致信息生态系统更加混乱。

近日,一位女网友在网上晒出自己在地铁列车的照片被别有用心的网友下载,并用AI技术“一键脱衣”,造谣图随后在网上广泛传播。此事冲上热搜。

更为严重的是,如果AIGC(生成式AI)内容不断被训练后,可能导致生成的视频或图片成了让人难以分辨的伪证,进而损害当事人的利益和名誉。

加水印能保护用户隐私吗?

专门研究图像取证的计算机科学家、伯克利计算机科学教授Hany Farid主张对AI图像进行视觉指定:是时候该给这些数字照片贴上可识别的标签。Hany Farid在接受记者采访时表示:“我认为解决这个问题的有效方法之一,就是添加水印。”

标记文件和其他物品以证明其真实性、表明所有权和反伪造的历史由来已久。以庞大的图像档案库Getty Images为例,它为其目录中的所有数字图像添加了可见水印,允许客户在保护公司资产的同时自由浏览图像。

根据OpenAI公开发布的内容显示,该公司正在试验一个系统来为ChatGPT的创作添加水印,但段落中的字符不能像数值那样进行调整,因此文本水印采用不同的形式。

抵御AI滥用是场“持久战”

高水准“AI画师”Stable Diffusion曾为自己设置了一个自动审核图片安全性的程序,一旦监测到生成的图像涉嫌违规,即它在内容政策里写明的不得用来生成“引人不适的、色情、仇恨、暴力等图像”,机器就会拦下这张图片。

据外媒报道,C2PA联盟(内容来源和认证联盟)最近发布了一个开放规范来支持视听内容可以被验证为人工生成。随着Adobe、微软、英特尔、BBC等多家技术公司加入这项工作,C2PA已做好充分准备,以生产有效且广泛部署的身份验证技术。

对人类生成的内容和人工智能生成的内容进行联合签名和水印处理,虽然不能防止一切形式的滥用,但可以提供一定程度的保护。任何安全措施都必须不断调整和完善,因为“对手”会找到将最新技术武器化的新方法。

近日,江苏首例“人脸解封”侵犯公民个人信息案公开审理,郑某在被害人不知情的情况下从他人处购买包含姓名、身份证号码、照片、视频等个人信息,然后操作图片形成动态视频来进行人脸核验解封他人账号,帮助诈骗团伙实施犯罪。

被告人郑某因犯侵犯公民个人信息罪被判有期徒刑八个月、缓刑一年,并处罚金人民币40000元,作案工具予以没收。该案判决目前已生效。

“要遏制AI合成的乱象,得政府监管部门、平台、网民多方形成合力,多管齐下。”北京航空航天大学法学院副教授、北京科技创新中心研究基地副主任赵精武曾表示,作为服务的提供者,AI合成平台必须承担主体责任。

《互联网信息服务深度合成管理规定》对AI合成的服务提供方作出了多项规定,比如,AI合成平台必须要求内容创作者实名认证,监督创作者标明“这是由AI合成”之类的标识,以免误导公众;在提供“换脸”技术前,应该征得“被换脸”者的同意;完善数据管理、保障个人信息安全。

《互联网信息服务深度合成管理规定》要求,深度合成服务提供者和技术支持者必须加强训练数据管理和技术管理。

如同垃圾邮件、钓鱼网站伴随着互联网的诞生而难以清除,在AIGC逐渐普及的当下,抵御使用生成AI的各种形式的滥用,何为现实何为AI生成的“真假之辩”,似乎也是一场“持久战”。

华西都市报-封面新闻记者 边雪

关键词:

AI使造谣变得越来越容易?科技的边界也需法律来明确

AI使造谣变得越来越容易?科技的边界也需法律来明确AI绘画,AI视频[详细]
2023-04-13

全球快讯:苦心人天不负百二秦关终属楚三千越甲可吞吴_苦心人天不负

一、题文苦心人天不负这句话全文是什么?二、解答有志者,事竟成,破釜沉舟,二百秦关终属楚;苦心人,天不负,卧薪尝胆,[详细]
2023-04-13

焦点热文:中国工商银行股份有限公司 关于2023年二级资本债券(第一期)发行完毕的公告

证券代码:601398证券简称:工商银行公告编号:临2023-010号中国工商银行股份有限公司董事会及全体董事保证本公告内容不存在任何虚假记载、误[详细]
2023-04-13

我国一年新增115万名网约车司机,广深订单合规率稳居前列 环球精选

我国一年新增115万名网约车司机,广深订单合规率稳居前列[详细]
2023-04-12

天天百事通!上海电影:公司AI业务目前尚处在初步探索阶段 尚未产生实际利润贡献

上海电影发布股票交易风险提示公告,公司近期对包括AI在内的国内外新科技的发展趋势予以了跟踪和关注,但公司的AI业务目前尚处在初步探索阶段[详细]
2023-04-12

犬熊_关于犬熊介绍

1、亚洲最大肉食动物之一。2、最大品种是北美犬熊。3、欧洲的多个中新世纪化石点都发现了大犬熊。4、它们身上混杂着多种[详细]
2023-04-12

观点数字化大会丨刘洋:真正搭建数字化是要建设一个数字化的体系

2023观点数字大会·现场快讯。4月12日,2023观点数字化大会在杭州召开,会议主题为“数智驱动”。刘洋表示“我们自己研发的系统,有C端的,有B[详细]
2023-04-12

瑞鹄模具股东户数增加4.56%,户均持股15.95万元-环球观热点

瑞鹄模具最新股东户数1 76万户,低于行业平均水平。公司户均持有流通股份6496股;户均流通市值15 95万元。[详细]
2023-04-12

小米13 Ultra定档:4月18日晚间发布_今日快讯

小米13Ultra发布会定档4月18日19:00召开。这次小米的官宣似乎晚了一天。官方海报中还展示了后摄模组,目前来看与日前曝光的渲染图基本一致,继[详细]
2023-04-12

当前时讯:南漳:昔日美丽水乡 如今花的海洋

南漳:昔日美丽水乡如今花的海洋---湖北日报客户端讯(通讯员南融媒张广建王毅刘思)南漳县李庙镇齐家岗村地处石门水库尾端,素有美丽“水乡"[详细]
2023-04-12
版权所有: 热讯制冷网 All Rights Reserved
豫ICP备20005723号-6
联系邮箱:29 59 11 57 8@qq.com