华裔妹子用AI上传自己头像后引起网络轰动...(组图)
24岁麻省理工学院(MIT)华裔女生罗娜˙王(Rona Wang)不久前利用AI工具,希望让自己的头像照在求职时看上去更加专业,但AI工具却将她变成了白人,此事已在社媒上引发热议,令人关注AI工具中存在的种族偏见问题。
星岛日报根据《商业内幕》和《波士顿环球》的报道,今秋将完成研究生课程的罗娜˙王,用在AI图像生成器Playground AI制作她在LinkedIn上的头像照,
她于7月14日将本人一张穿着MIT红色运动衫照片上传到Playground AI,并希望将此照片变成一张专业的LinkedIn头像照,结果,AI图像生成器生成的头像照已改变了她的外貌,令她看来更像白人。
罗娜˙王说,她纳闷难道AI工具认为自己变成白人才更显得专业?她还担忧如果有公司用AI工具选择最专业的求职者,它无疑会选择那些看来像白人的求职者。
罗娜˙王希望软件研制者意识到此类偏见,并考虑办法加以减少。
当罗娜˙王在社媒上分享了自己的经历后,随即在网上就AI工具存在的种族偏见问题展开了大讨论,Playground AI创始人多希Suhail Doshi)在回复罗娜˙王的帖文时称,这些模型没有收到那样的指示,它们不够聪明,它是基于提示选择任何通用的东西,并称希望解决此问题。
来自AI公司Hugging Face研究人员最近的一项研究发现,像DALL-E2那样的AI图像生成器存在着性别及种族偏见问题。
研究发现,在DALL-E2根据提示生成像导演或CEO那样拥有权势的图像时所生成的图像中,高达97%是白人男性。
研究人员称,这是因为AI图像生成器是按照可能放大了刻板印象的存在偏见的数据受训的。
Playground AI及其创始人没有立即回应置评请求