人工智能也搞歧视！研究发现AI生成的艺术作品存在种族、性别偏见

站长之家（ChinaZ.com）12月29日 消息:随着技术研究不断推荐，由算法生成的艺术作品的受欢迎程度也在持续增长。从创作绘画到发明新的艺术风格，基于人工智能的生成艺术已经在一系列的应用中展示。

富士通（Fujitsu）研究人员在一项新研究中，调查了偏见是否会渗透到用于创造艺术的人工智能工具中。根据模型，他们声称目前的人工智能方法没有考虑到社会经济的影响，并表现出明显的偏见。

据悉，研究人员调查了使用人工智能生成艺术的学术论文、在线平台和应用程序，选择了专注于模拟现有艺术风格的例子。为了调查偏见，他们考虑了最先进的人工智能系统在各种艺术风格方面的训练成果，包括:

艺术运动（文艺复兴时期的艺术、立体主义、未来主义、印象主义、表现主义）;

类型（风景、肖像、草图和插图）;

材料（木刻版画、雕刻、油漆）;

艺术家（柑橘猎人、玛丽卡萨特、文森特·梵高、古斯塔夫·多尔等等）。

研究人员通过使用一个称为“directed acrylic graphs”（dag）的因果模型分析表示，他们能够识别人工智能生成艺术品的相关方面，以及这些不同方面是如何相互影响的。

在一个案例中，他们发现DeepArt（注:这是一个让用户按照其他艺术家的风格重新绘制图片的平台），没有考虑到将费尔南德·莱热的立体派作品《螺旋桨》转化为未来主义风格的运动。

其中有些偏见比其他问题更有害。GoArt是一个类似DeepArt的平台，它将克莱曼婷·亨特的《黑矩阵女主角》的面部颜色从黑色改为红色，将其转化为表现主义风格。另一个AI生成的艺术工具，“Abacus”将拉斐尔和皮耶罗·迪·科西莫作品中留长发的年轻男性错当成了女性。

研究人员将这些问题归咎于用于训练生成人工智能模型的数据集失衡，他们指出，这可能受到数据集管理员偏好的影响。例如，研究中提到的一款应用“人工智能肖像”（AI Portraits）使用了4.5万幅文艺复兴时期的肖像画，其中大部分是白人。根据研究人员的说法，另一个潜在的偏差来源可能是标记过程中的不一致。不同的注释者有不同的偏好、文化和信念，这些可能反映在它们创建的标签中。

研究称，“在艺术流派（例如大量的照片vs少量的雕塑）、艺术家(例如大部分的欧洲艺术家vs少数的本土艺术家)、艺术运动(大量关于文艺复兴和现代艺术运动的作品，而不是用其它作品)等方面可能存在不平衡。另外，描述不同种族、外貌等信息也没有纳入数据集，因此造成了代表性偏见。

研究人员警告说，错误地建模或忽视某些微妙的信息，生成艺术可能会助长对过去社会、文化和政治方面的错误认知，并阻碍了解重要历史事件。