Source: Slashdot
一份报道称，ChatGPT的2亿活跃用户每周都在帮助推动开发该聊天机器人的公司OpenAI的估值达到100刀亿。然而，在主流之外，仍然有许多金钱可以赚取，尤其是针对地下世界的需求。根据上个月在康奈尔大学拥有的预印本服务器arXiv上发布的一项研究，非法的大规模语言模型(LLMs)可以通过在地下市场上销售从而在两个月内赚取高达28000刀的销售额。
这还只是冰山一角，研究发现了在2023年4月至10月间列出的200多个恶意LLMs（或malas）的案例。LLMs分为两类：那些完全未经审查的LLMs，通常基于开放源标准，以及使用启动器来越狱商业LLMs解除警戒线的LLMs。印第安纳大学布鲁明顿分校的教授之一，也是该论文的合著者之一的王晓峰表示：我们相信现在是开始研究这些的好时机，因为我们不想等到造成重大伤害后才行动。
我们希望在攻击对我们造成巨大伤害之前及时抵御。虽然黑客有时可以绕过主流LLMs内置的限制，以防止非法或可疑活动，但这种情况寥寥无几。
相反，为了满足需求，非法LLMs应运而生。毫不奇怪，背后的人都急于利用这种兴趣赚钱。
在追求金钱和利益的诱惑下，黑市中的AI聊天机器人市场与恶意行为势不可挡，我们需要警惕在技术进步的同时也可能带来的潜在风险。
特别声明：本文及配图均为用户上传或者转载，本文仅代表作者个人观点和立场，不代表平台观点。其原创性以及文中陈述文字和内容未经本站证实，
对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本平台不作任何保证或承诺，请读者仅作参考，
并请自行核实相关内容。如发现稿件侵权，或作者不愿在本平台发布文章，请版权拥有者通知本平台处理。
Copyright Disclaimer: The copyright of contents (including texts, images, videos and audios)
posted above belong to the User who shared or the third-party website which the User shared from.
If you found your copyright have been infringed, please send a DMCA takedown notice to
info@microheadline.com
来源：https://slashdot.org/story/24/09/06/1648218/the-underground-world-of-black-market-ai-chatbots-is-thriving?utm_source=rss1.0mainlinkanon&utm_medium=feed
https://twitter.com/breizh2008/status/1831782544163131624
https://www.livarava.com/technology/p/7445073
