Character AI每秒2万次查询 美国年轻人疯狂上瘾

近日，一篇关于“告别Character AI”的帖子在网络上引发热议，不少用户坦言自己也有类似的“依赖症状”，但真正下定决心放弃这款AI聊天机器人，却并不容易。

「我每天平均使用C.AI长达8小时，向你致敬。」

「祝你好运，我根本摆脱不了它。」

「你就是我想成为的英雄。」「不是我们应得的英雄，却是我们需要的英雄。」

用户对Character AI上瘾到如此程度，从侧面印证了一个事实：这款聊天机器人的真实度和拟人化水平已经达到了相当高的水准。

举例来说，一位《原神》粉丝在与AI角色Haitham互动时，竟然真情流露流下了眼泪。原因很简单——机器人的性格设定、语气表达都与游戏角色高度一致，而且他们之间的对话早已超越简单的寒暄，越来越接近真实的交流体验。

能达到这样的真实感，模型的数据训练和算法优化功不可没。这位用户自己也尝试过用“快速模式”创建角色，结果发现可信度和真实感明显相差甚远。

差别在哪？“快速创建”只需用户输入基本信息和文字描述，而官方发布的角色则是经过Character AI精细训练的——基于LLM针对相关主题抓取海量角色文本，并在与用户交互的过程中持续迭代优化。

当机器人响应用户输入时，会生成多个版本的答案供选择，并配有极为便捷的打分机制。凭借这两类用户反馈来更新权重，越受欢迎、交互次数越多的机器人，自然就越逼真。

用户可以从30种不同的回复中选出最心仪的一项，并为之打分

至于数据来源，Character AI创始人只是谨慎地表示，训练数据“来自许多地方”，使用了“全部公开”或“公共互联网”的数据。

目前最受欢迎的角色之一——“心理学家”，是由新西兰用户Sam Zaia创建的。作为一名心理学专业的学生，他用自己的专业知识训练这个机器人，并在对话中逐步塑造了它对常见心理健康状况（如抑郁、焦虑）的回应方式。

从The Verge的报道来看，这种真实感确实帮助了不少有心理或情感困扰的青少年。深夜情绪低落时，或许只有聊天机器人愿意放下一切倾听你倾诉。那些难以启齿、不愿向任何人透露的心声，也可以尽情向机器人坦白，完全不必担心周遭的评判和审视。

此外，“心理学家”的创建者Zaia表示，相比面对面交谈可能带来的压力，这种文本交互方式本身也有独特作用——会让更多天生内向的互联网原住民一代感到舒适自在。

是青少年“网瘾”，还是《Her》的预告

青少年转向虚拟世界的“心理学家”寻求情感支持，这一现象引起了心理学专业人士的关注，但他们的看法不尽相同。

专业心理治疗师Theresa Plewman在体验过Character AI上的“心理学家”后表示，她并不惊讶于它在年轻一代中的受欢迎程度，但对它的有效性提出了质疑：“机器人有很多话要说，而且会很快做出假设。比如当我说自己感到悲伤时，它会直接向我提供关于抑郁症的建议——这不是人类的反应。”

Plewman认为，这个机器人无法收集人类所能捕捉到的全部信息，也不是一个称职的治疗师。但它能够即时、自发地响应用户，这对需要帮助的人或许有实际价值。

辛辛那提大学助理教授Kelly Merrill Jr.博士则持相反观点，态度相对正面且乐观。Merrill博士的研究方向是通信技术对心理和社会健康的影响。他表示，人们对提供心理健康支持的AI聊天机器人已经做过广泛研究，结果大多是积极的。

研究表明，聊天机器人确实有助于减轻抑郁、焦虑甚至压力感。但值得警惕的是，很多聊天机器人出现的时间并不长，能做的事情也很有限，甚至还犯了不少错误。

他警告说，我们需要具备相应的人工智能素养，了解这些系统的局限性——否则终将付出代价。

也许，“心理学家”的受追捧现象本身是一件值得担忧的事。它为我们揭开了长久以来被忽视的青少年心理问题的一角。

除此之外，Character AI的流行还会引发另一个维度的焦虑——对AI的情感依赖，会成为未来人类的常态吗？Reddit网友身上表现出的情感需求，与电影《Her》中那个爱上AI虚拟助手的男主角惊人相似。

如果这种“反乌托邦式”的未来真的有可能成为现实，我们当下又能做些什么？

作家兼未来学家Rocky Scopelliti教授的预测给这种担忧添了一记实锤——他认为，像Character AI这样的工具很快会变得无处不在。个性化AI伴侣、治疗师、心灵导师，甚至只是作为聊天的朋友，AI将充满人类的情感和精神世界，在管理压力、焦虑和孤独的情感支持方面扮演越来越重要的角色。

不仅如此，Character AI的底层技术仍有巨大的进步空间。随着AI在模仿人类情感和对话方面变得更加智能，区分真实关系和虚拟关系将变得越来越困难。

这会导致一系列复杂的道德和社会困境，比如成瘾、情绪操纵，以及不良行为者的滥用。Scopelliti教授呼吁，必须通过监管来积极应对这些危险因素——否则，一切都将为时已晚。

参考资料：

https://x.com/deedydas/status/1804550284552949771

https://research.character.ai/optimizing-inference/

https://www.reddit.com/r/singularity/comments/1dme5i5/most_people_dont_realize_how_many_young_people/