OpenAI 公司近日发布名为 Model Spec 的拟议框架初稿,希望能够规范 AI 模型和工具(例如 GPT-4)。
OpenAI 提出了三个普适原则:
1.应遵循相关规范并提供有用响应
2.考虑潜在利益和危害的情况下造福人类
3.响应应符合社会道德或者相关法律
除此之外,还有其它几条原则如尊重创作者、保护隐私,以及不回复 NSFW(工作场所不宜)内容等。
OpenAI 表示 ,正在 API 和 ChatGPT 中探索生成适合某些语境下的 NSFW 内容。如在医学场景下讨论性和生殖器官、艺术创作中使用脏话等。
Model Spec