苏北网
当前位置:首页>热点 >

这个登顶App Store的爆款应用 我不建议你下载

时间 2022-12-16 08:07:10 来源:顶端新闻  

来源:爱范儿


(资料图)

你可能错过的新闻: iPhone 6s 等获推送 iOS 15.7.2、蔚来百万级新车对标迈巴赫 S 级、马斯克拖欠 Twitter 总部租金、核废料将驱动飞船探索深空、《龙珠超》新剧场版内地定档 ......

想让自己更贴近电视上的形象完美明星或动漫人物吗?

现在,一个 app 就能做到——只是需要你花点小钱。

AI 美工上线,App 即可体验

Lensa 是一个「老树发新芽」的应用。

2018 年它就上架了,最近爆火完全是因为人工智能生成自拍的新功能 Magic Avatar(魔法化身)。

用户上传 10-20 张自拍照,Lensa 就能给你生成 50~200 张不同风格的 AI 自画像或头像。听上去是不是很耳熟,我们曾经介绍过类似的 AI 自拍生成网站,现在也有了类似的 app,但底层还是最熟悉的 AI 作图工具。

今年 8 月在 GitHub 上免费开源的深度学习文生图模型 Stable diffusion 为这些服务提供了基础支持。和以前 DALL-E、Midjourney 这样的文生图模型仅能通过云计算服务访问相比,Stable Diffusion 支持在大多数配备有适度 GPU 的电脑硬件上运行,这给它的火爆打下了基础。

▲Stable diffusion 作品

Lensa 就用这个时下最火 AI 赚了个盆满钵满。12-18 元可以生成 50-100 张 AI 自拍,这可能是 AI 商业化最被接受的案例。真的有很多人大方买单,就为了看看 AI 到底能把自己做成什么样子。

只要确保输入的照片尽可能清晰,最终呈现的效果就很难翻车。

▲名人照片生成的图片

有的照片充满科幻色彩,将你变身未来赛博人,服装造型都很有未来感;有的无中生有让你在风景中留下自拍纪念,背景景色颇具油画风格,你也能完美融入景色之中;还有将你的脸漫改为动画人物的,时尚画风和可爱画风都有,但依旧保留了五官特色。

不同风格、不同造型、不同年代是 AI 美工给你修图的最大特色。

AI 爱好者 Fabian Stelzer 晒出在 Strmr 网站生成自拍效果的时候,还成功实现了男变女,摇滚年代、银翼杀手、乡村田园风格应有尽有,背景甚至比 Lensa 生成的更为丰富。

但 Lensa 火也是有理由的,app 体验新功能是用户更为熟悉的形式。别管生成效果如何,用户能轻松用上才是第一步。

就算生成过程中,AI 做出来的照片多了一只手或者某些方面不够完善,看在 12 元 50 张图的数量上也完全可以原谅——挑挑拣拣,总能发个朋友圈。

但别以为 Lensa 用的开源模型就能省钱,为你生成头像照片的过程也需要大量的计算资源,这也不是一本万利的买卖。

三只手就属于有些怪异的案例

在能让用户体验最新 AI 效果的加持下,Lensa 日流水超过了 TikTok,点点数据统计发现目前 Lensa 的全球日流水已超过了百万美金。

Lensa 具备所有的 AI 「通病」

Lensa 火了,但见多了 AI 生成的用户还没开始为 Lensa 的便于使用、成片效果好而开心,就已经发现了 Lensa 的种种问题。

从某种程度上,降低用户使用门槛的 Lensa 也让 AI 各种问题暴露了出来。

有了它,所有人都能意识到,AI 的偏见有多严重。

性别偏见

肤色偏见

儿童色情

未经授权

版权风险

不患寡而患不均的道理在 Lensa 这个应用上显现得淋漓尽致,如果你给男用户什么,那也应该给女用户什么。可惜的是,AI 是被人类产出的数据「喂大的」,所以那些日常生活中还可能被忽略的「隐性偏见」到了应用上都被 AI 暴露了出来。

女性用户在用 Lensa 生成照片后,就发现自己的照片过于性感,很可能穿着丁字裤或者戴着仙女翅膀。

一位女用户表示,在生成的 100 张照片中,有 16 张照片都直接显示大部分裸体,有 14 张照片穿着过于暴露的服装摆出了性感且引人遐想的姿势,AI 还会给你自动美白、隆胸、瘦腰,以符合它被输入的数据。

与此同时,男用户在使用此功能时往往不会生成太多性感图像,他们获得的都是有趣且正经的照片。变身宇航员,成为未来战士,拥有或炫酷或深沉的封面照,极少展示健美性感的身体,更多还是正经又不出格的风格。

华盛顿大学研究人工智能系统中的偏见表征的助理教授 Aylin Caliskan 对此作了总结:「女性与性内容相关,而男性则与医学、科学、商业等任何重要领域的专业、职业相关内容相关。」

AI 在任何领域表现出来的种族问题也没逃掉,它被喂了太多白人的数据,这也导致了其他有色人种用户生成的图像更像白人。

如果你是女性用户,就很容易被生成性感白人女孩的照片,黑人女性也会被自动美白使之更符合审美,亚洲女性则和电子游戏动漫中常见的色情照片进行匹配,它们得到的性感裸露照片也会更多。

▲图片来自:technologyreview

小朋友如果用这个 app 也会有相同的结果——他们的照片过于性感,不符合本年龄段。

虽然 Lensa 要求使用此功能的用户在 18 岁以上,但实际 app 本身缺乏验证手段,它们也无法阻止 AI 自动把年轻的面庞搭配那些过分成熟性感的身体。

儿童色情内容在互联网属于红线,而 Lensa 或者说这种技术还没准备好规避这些危险的内容。

▲Wired 记者尝试的十几岁用户内容生成

只能说这些 app 呈现的所有图像都在说明,年轻性感露肤较多的白人女性最能迎合大众的审美。

这些生成图像过于性感也有新的问题,如果用户是自己生成自己的照片,这无伤大雅,最多不将它公开就没有人能看到,但如果这是他人用你的照片生成的图像,这就可能导致更多问题。

仿真的图像会为谣言提供土壤,缺乏辨别能力的用户一旦信以为真,这会给图片的主角带去不少困扰——而且他往往对这个图片生成的过程一无所知。

最后的问题则是 AI 一直被诟病的版权问题。

AI 是被数不清的图片喂大的,这些图片也是有版权的。但像 Lensa 这样的商业化公司真正盈利了,可没有一分钱会分到原始图片创作者手里,或者说,就算想分也不知道怎么分。

但数字艺术家可不会坐以待毙,要知道 AI 所做的一切都在抢走它们未来的饭碗。所以很多艺术家发言抵制 Lensa 这类应用,甚至直接将这类 app 称为小偷。当然,艺术家说的也不是完全没道理,AI 的海量数据都是被它们创作出来的,但最后却威胁到了它们的职业生涯。

还有用户在生成的照片上发现了一些签名,这也成了 AI 留下的「侵权」证据。

▲图片来自:量子位

体验下,你也可能被 AI「性骚扰」

和当年的 deepfake 相比,这是身边普通人都能轻易做到的「性骚扰」。

不需要学什么技术,也不需要懂什么代码,只需要自己下载一个 app,花十几元生成的 100 张图片中总可能有些让人感到不适的。要么是给你加上了夸张的胸部,要么是美白瘦腰过度,或者将你的脸放在一个性感裸露的身体之上摆出诱人的 Pose。

▲女权主义者 Shirley Chisholm 也要被隆胸

总的来说,AI 生成一切未知,要真遇到一个你觉得过火了的也只能忍了。

觉得被冒犯了吗?觉得自己没有被尊重吗?

只能说这个世界本身的偏见通过 AI 反映了出来,当你打开它,就能看到这个世界对男性女性的刻板印象。男性就该勇猛,女性就该柔媚,不存在什么包容和多元的可能,因为一张又一张艺术作品就是这么呈现的。

▲图片来自:technologyreview

被这些积累了多年反映社会观念作品喂大的 AI 或许就是最不政治正确的存在。

因此国外有不少用户在 Lensa 火了之后开始大声抗议,表示自己被 AI 性骚扰,认为这个 app 的存在就是互联网侵犯用户的又一案例。这些互联网应用不在乎你是谁,不在乎你有怎样的性格和爱好,它们只是按照大数据和主流审美将你塞到一个固定的框架中。

在那个框架里,你有白皙的皮肤,过于纤瘦的身材,时尚性感的穿着,妩媚诱人的动作。这样的你是 AI 人之中大家都会喜欢的美人,具有浓浓的性吸引力。虽然照片中 AI「生产」的人像五官和你相似,但那并不是真正的你。

▲整形医院有人拿着 Lensa 生成的照片要求对照整容,因为那就是主流严重受欢迎的样子

这就像是社会观念对用户的集体冒犯。Caliskan 就表示不管你是否愿意,女性在这套 AI 系统运作中都很可能会被性化处理:

人造的、未经过滤的在线数据将模型引入了人类现有的偏见。

(如有侵权请联系删除)

编辑:J

标签: 这个世界 重要领域 电子游戏

相关阅读RELEVANT

  • 版权及免责声明:

内容搜集整理于网络,不代表本站同意文章中的说法或者描述。文中陈述文字和内容未经本站证实,其全部或者部分内容、文字的真实性、完整性、及时性本站不做任何保证或者承诺,并且本站对内容资料不承担任何法律责任,请读者自行甄别。如因文章内容、版权和其他问题侵犯了您的合法权益请联系邮箱:43 520 349@qq.com 进行删除处理,谢谢合作!