多模态AI模型 DALL-E 2自推出测试版以来，已被用户用来生成了300多万幅图像。根据OpenAI 的统计数据，其中有0.05%的图像（约 450 幅）被标记为可能违反了内容准则，在这 0.05% 中，有30% 被人工审查员评定为有导致帐户暂停的违规行为。
DALL-E 2能生成富有创造性的细节丰富的图像，只要输入一句描述性话语即可，还能够根据当前环境改变现有图像的风格。由于OpenAI担心系统会反复生成违反社会习俗甚至法律的图像，因此在提供给用户测试时很谨慎，制定了内容准则，并希望通过测试继续研究从训练数据中提取的人工智能系统中的偏见。
在内容准则中，OpenAI 禁止生成包含色情、极端暴力、负面刻板印象和犯罪等动机的内容。另外，OpenAI 希望不生成逼真的面孔，这是为了限制可能造成的损害。
虽然从迄今的测试情况看违反内容准则的图像占比很小，但当这一AI系统大规模扩展后仍可能导致较大范围的滥用。因此，OpenAI 将继续谨慎行事，仅允许少量新用户（每周 1,000 个）使用，且所有测试人员必须严格遵守内容准则。
与文本 AI 模型GPT-3 类似，DALL-E 2也面临着造成负面影响的责任问题：谁承担它？是工具制造商还是它的用户？除了强化内容准则和监控，OpenAI希望能确定跨文化的道德、艺术、表达自由和良好品味的界限。
