我们曾报道过,OpenAI 多模态AI模型DALL-E 2能生成富有创造性的图像,还能够改变现有图像的风格。只要输入一句描述性话语即可生成细节丰富的图像,更生动、更详细的话语效果更好。特别令人印象深刻的是 DALL-E 2 能够根据当前环境调整生成图像。
在发布研究论文之后,OpenAI 研究人员最近在社交媒体上展示了 DALL-E 2 生成的诸多示例图像。从这些图像中可以发现,DALL-E 表现出对性别的刻板印象。护士、秘书和空乘人员在现实中也有男性担任,但是DALL-E 2将这些角色全部呈现为女性。这与法官、首席执行官和建筑工人相反,这里 DALL-E 2 呈现的都是男性。
由于这些和其他风险,OpenAI表示,对于DALL-E 2的哪些应用目的将占主导地位,以及可以“长期安全地”得到支持,存在“高度不确定性”。
OpenAI认为,从人工智能模型中消除偏见(例如通过过滤器)是困难的:“偏见的高度关联性使得很难测量和减轻使用DALL-E 2造成的实际下游损害。”