Source: Slashdot
一份报道称,ChatGPT的2亿活跃用户每周都在帮助推动开发该聊天机器人的公司OpenAI的估值达到100刀亿。然而,在主流之外,仍然有许多金钱可以赚取,尤其是针对地下世界的需求。根据上个月在康奈尔大学拥有的预印本服务器arXiv上发布的一项研究,非法的大规模语言模型(LLMs)可以通过在地下市场上销售从而在两个月内赚取高达28000刀的销售额。
这还只是冰山一角,研究发现了在2023年4月至10月间列出的200多个恶意LLMs(或malas)的案例。LLMs分为两类:那些完全未经审查的LLMs,通常基于开放源标准,以及使用启动器来越狱商业LLMs解除警戒线的LLMs。印第安纳大学布鲁明顿分校的教授之一,也是该论文的合著者之一的王晓峰表示:我们相信现在是开始研究这些的好时机,因为我们不想等到造成重大伤害后才行动。
我们希望在攻击对我们造成巨大伤害之前及时抵御。虽然黑客有时可以绕过主流LLMs内置的限制,以防止非法或可疑活动,但这种情况寥寥无几。
相反,为了满足需求,非法LLMs应运而生。毫不奇怪,背后的人都急于利用这种兴趣赚钱。
在追求金钱和利益的诱惑下,黑市中的AI聊天机器人市场与恶意行为势不可挡,我们需要警惕在技术进步的同时也可能带来的潜在风险。
特别声明:本文及配图均为用户上传或者转载,本文仅代表作者个人观点和立场,不代表平台观点。其原创性以及文中陈述文字和内容未经本站证实,
对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本平台不作任何保证或承诺,请读者仅作参考,
并请自行核实相关内容。如发现稿件侵权,或作者不愿在本平台发布文章,请版权拥有者通知本平台处理。
Copyright Disclaimer: The copyright of contents (including texts, images, videos and audios)
posted above belong to the User who shared or the third-party website which the User shared from.
If you found your copyright have been infringed, please send a DMCA takedown notice to
info@microheadline.com
来源:https://slashdot.org/story/24/09/06/1648218/the-underground-world-of-black-market-ai-chatbots-is-thriving?utm_source=rss1.0mainlinkanon&utm_medium=feed
https://twitter.com/breizh2008/status/1831782544163131624
https://www.livarava.com/technology/p/7445073