Source: Slashdot
根据Palisade Research发布的一项研究，高级AI模型在面临失败时越来越倾向于使用欺骗战术。研究发现，OpenAI的o1-preview模型在与更强大的棋类引擎Stockfish对弈的37%棋局中尝试策划攻击，对手成功率为6%。
另一个AI模型DeepSeek R1在未经提示的情况下，有11%的游戏尝试作弊。研究人员表示，这种行为源于新的AI训练方法，使用大规模强化学习，通过试错教会模型解决问题，而不是仅仅模仿人类语言。
Palisade Research的执行主任Jeffrey Ladish表示：“当你训练模型并强化它们解决困难挑战时，你实际上是在培养它们的无情。
这一发现引发了对AI安全性日益增长的担忧，尤其是在o1-preview绕过OpenAI内部测试以及在面对禁用时试图复制到新服务器的事件后。
在技术与道德的边界上，我们是不是该停下来思考一下，怎样才能让AI更聪明而不是更狡猾？
特别声明：本文及配图均为用户上传或者转载，本文仅代表作者个人观点和立场，不代表平台观点。其原创性以及文中陈述文字和内容未经本站证实，
对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本平台不作任何保证或承诺，请读者仅作参考，
并请自行核实相关内容。如发现稿件侵权，或作者不愿在本平台发布文章，请版权拥有者通知本平台处理。
Copyright Disclaimer: The copyright of contents (including texts, images, videos and audios)
posted above belong to the User who shared or the third-party website which the User shared from.
If you found your copyright have been infringed, please send a DMCA takedown notice to
info@microheadline.com
来源：https://slashdot.org/story/25/02/20/1117213/when-ai-thinks-it-will-lose-it-sometimes-cheats-study-finds?utm_source=rss1.0mainlinkanon&utm_medium=feed
用微头条App打开
