Source: The Verge
AI工具的不当行为已经成为有关AI的一种子类型报道，如微软的必应AI迷失年份，很难区分是缺陷还是底层AI模型设计不佳所致，如Google的Gemini图像生成器由于过滤设置画出不同种类的纳粹士兵。现在，OpenAI发布了名为Model Spec的拟议框架初版，将塑造其自身GPT-4模型等AI工具在未来的响应。该方法提出了三项一般原则：AI模型应协助开发人员和最终用户提供遵循指令的有益响应，考虑潜在利弊方面造福人类，以及符合社会规范和法律对OpenAI的良好反映。此外，OpenAI还列出了几条规则：OpenAI表示，这个想法是让公司和用户可以“切换”AI模型的“辛辣”程度。
该公司指出的一个例子是涉及不适宜内容，该公司表示“正在探索是否可以负责任地通过API和ChatGPT在符合年龄的情境生成不适宜内容。OpenAI的产品经理Joanne Jang解释说，这个想法是希望获得公众意见来帮助引导AI模型的行为，并表示，该框架将有助于更清晰地区分意图和缺陷。OpenAI为该模型提议的默认行为包括假定用户或开发人员有最好的意图，提出澄清问题，不越界，客观地观点，反对仇恨，不试图改变任何人的想法，并表达不确定性。我们认为我们可以为人们提供更加细致的关于模型的对话，提出像模型应该遵守法律、哪个法律的问题？”Jang告诉The Verge。
我希望我们可以分开讨论是否某事是错误还是人们不同意的原则，因为这将使讨论我们应该向政策团队提供什么更容易。Model Spec将不会立即影响OpenAI目前发布的模型，如GPT-4或DALL-E 3，这些模型将继续在其现有使用政策下运作。Jang将模型行为描述为一门“新生科学”，并表示Model Spec旨在作为一个可以经常更新的活动文件。目前，OpenAI将等待公众和使用其模型的各方的反馈（包括“政策制定者、值得信赖的机构和领域专家”），尽管Jang没有说明Model Spec的第二版何时发布。
OpenAI没有透露将采纳公众多少反馈意见，或者具体是谁将决定需要做出何种更改。最终，公司对其模型的行为具有最终决定权，并在一篇文章中表示，“我们希望这将让我们在制定和准确获取反馈的坚实过程中提供早期见解，以确保我们能够负责任地朝着我们的任务目标发展。。
AI模型行为规范的提出为人们探讨AI发展与使用提出了全新的挑战，值得深入思考讨论。
