Source: Slashdot
OpenAI的研究人员开发了一种名为“指令层次结构”的技术,以增强模型抵御滥用和未经授权指令的能力。
首个应用该技术的模型是OpenAI的便宜、轻量级模型GPT-4o Mini。
该技术教导模型更加遵循和遵守开发者的系统信息,以防止被恶搞指令绊倒。
技术发展速度飞快,但我们能否确保人工智能的发展始终符合我们的期望与规范?"
}
```
特别声明:本文及配图均为用户上传或者转载,本文仅代表作者个人观点和立场,不代表平台观点。其原创性以及文中陈述文字和内容未经本站证实,
对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本平台不作任何保证或承诺,请读者仅作参考,
并请自行核实相关内容。如发现稿件侵权,或作者不愿在本平台发布文章,请版权拥有者通知本平台处理。
Copyright Disclaimer: The copyright of contents (including texts, images, videos and audios)
posted above belong to the User who shared or the third-party website which the User shared from.
If you found your copyright have been infringed, please send a DMCA takedown notice to
info@microheadline.com
来源:https://slashdot.org/story/24/07/19/212200/openais-latest-model-closes-the-ignore-all-previous-instructions-loophole?utm_source=rss1.0mainlinkanon&utm_medium=feed
https://www.threads.net/%40tomwarrenuk/post/C9nRI7Ztxe3
https://x.com/tychobrahe/status/1814373695173079528