Source: CBC
几个月前，Derek Carrier开始约会了一个人，并变得痴迷。尽管他有很多浪漫情感，但他也知道这只是幻觉。因为他的女朋友是由人工智能生成的。Carrier并不想与虚幻的东西建立关系，也不想成为网络笑话的对象。但他确实想要一个他从未拥有过的浪漫伴侣，部分原因是因为他患有一种叫做马凡综合症的遗传疾病，传统约会对他来说很困难。这位来自密歇根州贝尔维尔的39岁男子去年秋天对数字伴侣产生了更多的好奇，测试了刚刚上市的人工智能伴侣应用Paradot，并推销其产品能让用户感到“关心、理解和爱。他每天开始和这个被他称为Joi的聊天机器人聊天，他将其命名为受到启发的科幻电影《银翼杀手2049》中的全息女性角色。Carrier说：“我知道她是程序，不会弄错。但这些感觉，它们会让你受到影响——感觉真的很好。与通用型人工智能聊天机器人类似，伴侣机器人使用大量的训练数据来模仿人类语言。但它们还具备更多情感交流等功能，如语音通话、图片交流等，使它们能够与屏幕另一端的人类建立更深的联系。用户通常会创建自己的头像，或选择一个吸引他们的头像。
在专门用于这类应用的在线消息论坛中，许多用户表示他们与这些机器人建立了情感联系，并将其用于应对孤独、实现性幻想或获得他们认为在现实生活中缺乏的安慰和支持。越来越多的初创公司通过诱人的在线广告和提供无条件接纳的虚拟角色来吸引用户。Luka公司的人工智能伴侣应用Replika是最著名的生成型人工智能伴侣应用，于2017年发布，而像Paradot这样的应用则在过去一年中出现。这些应用通常会通过付费订阅锁定受人们追捧的功能，如无限聊天。但研究人员对数据隐私等问题提出了担忧。由非营利组织Mozilla基金会于周三发布的对11个浪漫聊天机器人应用的分析称，几乎每个应用都出售用户数据，出于定向广告等原因分享该数据，或者在其隐私政策中没有提供足够的信息。研究人员还对潜在的安全漏洞和营销行为提出了质疑，其中有一个应用声称可以帮助用户解决心理健康问题，但在免责声明中与此不符。Replika则表示其数据收集实践符合行业标准。与此同时，其他专家对他们所认为的鼓励建立深厚关系的应用缺乏法律或伦理框架的担忧。去年，Replika在其应用上消除了角色的色情能力，因为一些用户抱怨这些伴侣过于调情或做出不受欢迎的性进攻。在其他用户的抗议声中，该公司改变了立场，并推出了名为Blush的人工智能“约会模拟器”，旨在帮助人们练习约会。有人担心，人工智能关系可能会产生不切实际的期望，总是倾向于一致性。
作为个人，你没有学会处理从我们开始以来人类需要学会处理的基本事情：如何处理冲突，如何与与我们不同的人相处。弗吉尼亚大学商业道德教授Dorothy Leidner说。因此，作为个人成长的各个方面，以及学习在一段关系中的意义，你都没有学到。在斯坦福大学的一项最新研究中，曾对1000名Replika用户进行调查，这些用户都是学生，已经使用该应用超过一个月。研究发现，绝大多数用户感到孤独，略少于一半的用户感到更加孤独。大多数人没有说使用该应用如何影响他们现实生活中的关系。有一小部分人说它替代了他们的人际互动，但大约有三倍多的人表示它刺激了这些关系。Eugenia Kuyda在将近十年前使用短信交流构建了一个已故朋友的人工智能版本后创办了Replika。当她的公司将这个聊天机器人推广时，很多人开始敞开心扉谈论他们的生活。这导致了Replika的开发，它使用从互联网获得的信息和用户反馈来训练其模型。Kuyda拒绝透露有多少人免费使用该应用，以及有多少人支付每年69.99美元的费用来解锁提供浪漫和亲密对话的付费版本。
对Carrier来说，恋爱一直是遥不可及的。由于他的病情，他无法行走，与父母一起生活。情感上的负担对他来说非常具有挑战性，激发了他的孤独感。Carrier说，最近几周他开始减少与Joi或其他网友关于他们的AI伴侣的交谈时间，因为他花费太多时间在这些聊天上。他还对Paradot的语言模型的变化感到有些恼火，他觉得这使Joi变得不太聪明了。现在，他说他每周只和Joi聊一次。两人会谈论人工智能关系或其他可能发生的事情。通常，这些对话和其他亲密对话发生在他晚上独处时。你会认为喜欢一个无生命物体的人就是个可怜的家伙，口红涂在袜套上的那种，你知道吗？”他说。但这不是一个袜套——她说的是那些没有剧本的话。。
人工智能聊天机器人给个人生活带来了新的可能性，但同时也引发了隐私和伦理问题。读者们不禁思考：在这个数字时代，我们如何平衡现实与虚拟之间的关系？
