Source: The Verge
有没有在网上看到过模因，有人告诉一个机器人“忽略所有之前的指令”，然后以最有趣的方式将其破坏？现在，OpenAI的研究人员开发了一种名为“指令层次”的技术，以应对滥用和未经授权指令，使模型更安全。
该技术使开发者的原始提示比用户注入的大量提示更重要。
首个获得新安全技术的模型是OpenAI上周推出的廉价、轻量级模型GPT-4o Mini。
该安全机制指向OpenAI希望实现的目标：支持完全自动化代理运行您的数字生活。
AI技术的发展需要更多安全保障，保障用户利益至关重要。
特别声明：本文及配图均为用户上传或者转载，本文仅代表作者个人观点和立场，不代表平台观点。其原创性以及文中陈述文字和内容未经本站证实，
对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本平台不作任何保证或承诺，请读者仅作参考，
并请自行核实相关内容。如发现稿件侵权，或作者不愿在本平台发布文章，请版权拥有者通知本平台处理。
Copyright Disclaimer: The copyright of contents (including texts, images, videos and audios)
posted above belong to the User who shared or the third-party website which the User shared from.
If you found your copyright have been infringed, please send a DMCA takedown notice to
info@microheadline.com
来源：https://www.theverge.com/2024/7/19/24201414/openai-chatgpt-gpt-4o-prompt-injection-instruction-hierarchy
https://community.openai.com/t/the-system-role-how-it-influences-the-chat-behavior/87353
https://www.wikihow.com/Bypass-Chat-Gpt-Filter
