淫妻交换 生成式 AI 遭坏心奢侈,好意思国政府敦促科技行业阻扰犯法换脸视频传播

发布日期:2024-10-11 05:08    点击次数:77

淫妻交换 生成式 AI 遭坏心奢侈,好意思国政府敦促科技行业阻扰犯法换脸视频传播

IT之家 5 月 25 日音尘淫妻交换,据好意思联社,好意思国政府要求科技行业和金融机构关闭日益狂妄的“专揽东谈主工智能生成色情图像”阛阓。

报谈指出, 新出现的生成式 AI 器具不错舒缓将一个东谈主的肖像变成具有性暗意内容的 AI 换脸视频,从而便于这类传神的深度伪造图像在网上传播,而受害者(不管是名东谈主照旧儿童)皆简直莫得观念进犯这种情况的发生。

白宫号召企业主动罗致联贯,并通过一系列具体看成阻扰这种未经当事东谈主甘心就创作、传播 AI 图像并从中赢利的步履发生,尤其要打击波及儿童的色情内容。

“当生成式 AI 出当前,每个东谈主皆在揣摸第一个确实意思意思上的危害会出当今那里。我合计咱们仍是有了谜底”,拜登的首席科学照顾人、白宫科学本领策略办公室主任阿拉蒂・普拉巴卡尔(Arati Prabhakar) 解说说。

她告诉好意思联社,由于东谈主工智能器具的鼓励,未经甘心传播图像的情况“大幅加多”,尤其针对女性和女孩,而这类内容可能会颠覆她们的生涯。“咱们看到这类问题正在加快发展,因为生成式东谈主工智能正在迅速发展。最快的管制观念等于让这些公司站出来承担职守。”

好意思联社记者拿到的一份文献指出,好意思国政府不单是只是号召 AI 诞生者罗致看成淫妻交换,还但愿支付处理机构、金融机构、云计较供应商、搜索引擎以及“互联网看门东谈主”—— 即苹果、谷歌等这类公司罗致看成,严格把控应用商店中的内容。

白宫合计,这些买卖公司应该加落拓度,阻扰此类骚扰步履的“货币化”经由,适度支付渠谈,尤其适度那些发布未成年东谈主露骨图片的网站。

普拉巴卡尔提到,许多支付平台和金融机构仍是发表声明,暴露他们不会为传播此类图片的公司提供事业复旧。不外她也强调有些东谈主并莫得严格奉行,这些事业条件(即匡助受害者快速清算此类侵权内容)卓越于不存在。

好意思联社指出,最出名的色情伪造图片受害者或许要数泰勒・斯威夫特(Taylor Swift)。本年 1 月,有多半对于这位歌手的 AI 色图开动在网高尚传,而斯威夫特的粉丝也对此进行了反击。后续,有部分伪造图像被追查至微软公司旗下的 AI 视觉缠绵器具,而微软也承诺将加强防备顺序。本色上,在好意思国和其他地点,也少见量宽敞的学生在与深度伪造裸照作宣战,部分属于校园暴力,也有部分是学生意思意思心作祟。

秋霞在线

好意思国政府昨年 10 月签署了一项行政命令,旨在携带东谈主工智能的健康发展,但愿各大科技公司约略在不危及人人安全的情况下赢利。拜登也暴露,政府的东谈主工智能保护顺序需要得回法律的复旧,干系团体面前正在敦促国会在曩昔三年内至少参加 320 亿好意思元(IT之家备注:当前约 2320 亿元东谈主民币)来诞生 AI,并为适度和监管 AI 的才调提供资金。

白宫性别策略委员会主任珍妮弗-克莱因(Jennifer Klein)对此暴露:“饱读动公司参与进来并作念出自觉承诺,并不行改造国会在此罗致看成的根柢需要。”

斯坦福大学互联网不雅察站昨年 12 月晓喻,它在巨大的东谈主工智能数据库 LAION 中发现了数千张疑似儿童色情的图片。

本月早些时候,联邦检验官对威斯康星州别称须眉提议指控,该须眉涉嫌使用 AI 图像生成器 Stable Diffusion 制作了数千张未成年东谈主性步履图像。

对此,Stable Diffusion 背后的 Stability AI 公司本周暴露,它 “莫得批准发布 ”威斯康星州须眉使用的模子,但也承认这种开源模子“马前泼水”,因为其本领组件仍是完成在网上公布。

普拉巴卡尔暴露,形成危害的不单是是开源 AI 本领。“这是一个更庸俗的问题。灾祸的是,好多访佛的东谈主似乎皆在使用这种 AI 图像生成器。咱们刚刚看到阿谁限制出现了爆炸式的增长,而我不合计开源系统和独有系统不错完好意思切割开来。”

告白声明:文内含有的对外跳转采集(包括不限于超采集、二维码、口令等步地),用于传递更多信息淫妻交换,精辟甄选期间,效果仅供参考,IT之家通盘著作均包含本声明。