spot_img
首页图像AIDALL-E 2有性...

DALL-E 2有性别偏见,能应用于哪些目的尚不确定

我们曾报道过,OpenAI 多模态AI模型DALL-E 2能生成富有创造性的图像,还能够改变现有图像的风格。只要输入一句描述性话语即可生成细节丰富的图像,更生动、更详细的话语效果更好。特别令人印象深刻的是 DALL-E 2 能够根据当前环境调整生成图像。

在发布研究论文之后,OpenAI 研究人员最近在社交媒体上展示了 DALL-E 2 生成的诸多示例图像。从这些图像中可以发现,DALL-E 表现出对性别的刻板印象。护士、秘书和空乘人员在现实中也有男性担任,但是DALL-E 2将这些角色全部呈现为女性。这与法官、首席执行官和建筑工人相反,这里 DALL-E 2 呈现的都是男性。

由于这些和其他风险,OpenAI表示,对于DALL-E 2的哪些应用目的将占主导地位,以及可以“长期安全地”得到支持,存在“高度不确定性”。

OpenAI认为,从人工智能模型中消除偏见(例如通过过滤器)是困难的:“偏见的高度关联性使得很难测量和减轻使用DALL-E 2造成的实际下游损害。”

专栏
赞赏
lighting
lighting
新的开始
本文系反讽机器原创(编译)内容,未经授权,不得用于商业目的,非商业转载须注明来源并加回链。

欢迎订阅我们的内容