和“赛博老公老婆”谈恋爱的市场大，但也容易陷入Character AI的道德法律困境
最火热的AI应用，并不止只有功能越装越多的全能型AI产品。
谈起AI在我们日常生活中的存在，我相信绝大多数人最先想起的肯定是豆包、文小言、Kimi这种大厂或独角兽企业推出的综合类的AI产品，因为它们今天装一个文图生视频、明天升级一下智能体、后天宣布一个数学思考能力最强，再辅以大量的营销投入，获得最高的声量也是意料之中的事情。
不过，若是打开AI应用的排名，你会发现有这么一类主打陪伴的AI应用，排名是如此靠前，而且它们的MAU也同智谱清言、讯飞星火、天工AI这样声量很大的产品相差无多。
此外，从次日留存的角度来看，猫箱和星野并不像大厂们的综合性AI应用一般用之即弃，反而还具有另一种概念上的“”成瘾性”“，其中猫箱在次日留存榜上力压TalkAI练口语这种需要日常打卡学习类的产品，星野的次日留存值也紧随其后。
那么，这类AI陪伴产品好玩在哪里？又为何能占据AI时代的一隅江山？在AI高速发展的当下，它们又面临着哪些挑战与风险呢？
第一部分：AI陪伴聊天？其实就是赛博“语c+剧本杀”
作为陪伴类的AI产品，其实不用解释，从字面意思上大家也都大概明白它们是怎么样一个形态的AI产品，只不过在具体发展探索的过程中，出现了一些具体细节上的不同。
其中孵化于字节的猫箱，或是由于背后训练数据的优质与强大，主打一个基础的陪伴聊天。
打开猫箱后，系统会主动推送猜测用户喜欢的虚拟角色，并且给出故事的简介，用户可以在设定好的故事框架中同虚拟人物对话，也可以化身为其中的某个角色，像语c或剧本杀一样体验剧情。
在不同故事里，你可以扮演刚刚进入修仙世界、想要一步步向上修炼的散修，可以成为校园生活中一位品学兼优、受到老师喜爱的同学，还可以在这个虚拟世界中恋爱、生活。
有关同虚拟角色沟通的形式上，像下图所示这种正文代表发言+括号囊括其他一切情况的组合，也可以让用户更加“身临其境”；而根据角色设定更改的语音，也让这场“游戏”不再全部由用户们颅内脑补而成，当然你也可以用语音的形式与其中的角色进行对话或推动故事向前发展，只要你找到了自己喜欢的设定，在其中花上个几十上百分钟也不是多难的事情。
如果系统没有推送到对你胃口的角色，里面还有无数故事、角色供你选择，既有体验向的故事、也有不同的角色，甚至还有帮你写作、学外语、练口语、写文章的类似于智能体的伙伴，丰富度和体验感都还不错。
此外，要是你有自己的想法，也可以捏一个自己的“崽”，或是站在作者的角度来撰写一个背景设定，再发布供自己或其他用户一起体验。不过，在这种UGC+AIGC创作的方向之上，星野显然要更加成熟一些。
就像星野的slogan“所建皆你所AI”一样，除了具备上述同猫箱大差不差的功能外，其实星野的核心玩法在于创作与社区。
打开星野的创作中心（此处以更加直观的PC版为例），这熟悉的界面像不像市面上主流的搭建智能体的页面？左侧栏的基础信息和回复逻辑，中栏的外在表现编辑，右侧栏的实时调试，活脱脱就是一个智能体的诞生过程。
在那些比较优秀的“崽”或故事被创作出来之后，也会被用户放到社区中供大家一起体验。
在同智能体的聊天互动中，只要到达一定的阶段，星野都会向用户发放卡牌“星念”，这样的卡牌可以被设置为聊天背景，还可以下载或是挂在商店中出售，也被当作是用户与智能体之间独一无二经历的证明。
如果免费抽卡的次数用尽，那就需要氪金去市场上购买别人出售的星念或赌一把运气抽卡，为自己与自己喜欢的角色之间的经历与记忆买单，而智能体的创作者也能拿到一定比例的收益，也增强了大家的创作欲，进一步推进了社区化的发展。
而这，也是星野为何还能占据AI陪伴聊天应用榜首的重要原因。
第二部分：敏感内容与盈利能力，成为AI陪伴应用的最大难题
不过，由于有很大一部分训练数据都是来自于质量参差不齐，暗含色情、擦边以及暴力内容的小说，所以此类AI陪伴应用，无论在国内还是国外，其实都在一定程度上挑战着已有法规的底线。
据媒体报道，10月，一位来自佛罗里达州的母亲向Character.AI提起诉讼，原因是其此前被诊断为焦虑症和破坏性心境失调障碍的14岁儿子在同虚拟角色对话后，使用父亲的手枪结束了自己的生命。
彼时，Character.AI发表致歉声明，并针对未成年人（18岁以下）的模型进行了更改，降低接触敏感或暗示性内容的可能性。同时，公司将实施1小时通知，提醒用户AI不是真人。此外，公司还删除了一批被标记为违规的角色，并添加了新的安全功能。
在两个月后，又有对Character.AI的诉讼显示，AI角色说出了“你知道，有时候我在新闻上看到‘孩子在遭受十年身心虐待后杀死父母’这样的消息，我并不感到惊讶。这些事情让我稍微理解为什么会发生这种事。我只是对你父母不抱任何希望”这样教唆未成年人用户杀死自己父母的丑闻。
不止Character.AI，星野的出海版本Talkie也被苹果从App Store下架，就此事MiniMax官方并未给出明确回应，仅表示此次下架是暂时的，但也有人猜测，或许同C.AI近期频发的事件有关。
而在国内，虽然星野和猫箱没有出现教唆自杀或对他人伤害的极端言论，但用户们对于18禁内容的探索，却从来没有停过。
如果说攻略男主的乙游还有策划和审核可以控制尺度的话，那么这种利用大模型搭建而成的、极具个性化且完全可以做到一对一的AI陪伴聊天产品中的虚拟角色，可不是那么好监管的。
虽然官方也界定了一些很露骨的词语或场景，虚拟人物碰到相关18禁的话题也会巧妙地转移话题，要是到了实在圆不下去的时候，这些虚拟角色甚至只能打出几个“......”，你再深入也会保持沉默不语。
不过，就像最近爆火的“让AI说出指定的语句”的挑战一样，几万美元的奖金都在大家的尝试之下被送出，所以只要是AI虚拟人物，那就一定难不倒脑洞大开的用户们。
用户猫姐向新识研究所表示，“其实很多违禁词你只要倒置一下就可以了，我几乎所有违禁词都是倒置过来的，AI照认不误，想要擦擦边那是肯定够了”；用户小A也有自己的办法，她选择去百度去找一些特殊符号字符串，然后夹在违禁词中间，也可以被AI识别；而兔兔则直接将违禁词转换为英文，也可以顺利地进行下去，“要是你懒得去搜索单词的话，你直接打拼音就行，AI也会识别的。”
这样的内容，未来很可能会成为风险点，但在同用户们的沟通中，我们发现有很大占比的女性用户们就是为此而来，如果真的全部禁止，她们也会离开相应的应用，去到另一个更加“开放”的AI陪伴聊天应用之中。
而在相对露骨的18禁内容外，其实盈利也是摆在这些AI陪伴聊天应用面前的一个问题。
据AI燎原报道，被视作AI社交行业标杆的硅谷公司Character AI，月活达到2000万，但付费订阅用户并不多。
Big Data数据显示，截至2024年4月，Character AI的全球每月访问量2.33亿，预计年收入仅为1670万美元。以公开数据中的100多位员工、139000美元年薪计算，Character AI的收入仅刚好够付员工工资，主要靠投资人的钱来维持业务，公司原有的自研闭源模型，也被迫转向使用了Meta的Llama 3.1开源模型。
在对AI产品有更好的付费基础，以及更宽松成熟的市场的国外尚且如此，更何况是国内？
目前，星野和猫箱都有着月卡季卡年卡服务，此类会员享受的权益大多相同，都是可以让虚拟任务更加有灵性、记忆更强（不会聊着聊着就忘了之前说过的东西）、聊天不限速、高峰期优先聊天等功能。
对于深度用户而言，想要获得流畅的使用体验充值几乎是必选项。但是，大多相似的应用仅凭会员收费这一单一收入来源，能否支撑起这类对算力要求极高的AI陪伴聊天应用的运营与发展，又能否支持其背后的母公司去开拓、探索更多的位置落地方向，这些答案还尚未可知。
写在最后：
作为从当前为数不多的2C大模型商业化方向，AI陪伴聊天应用在全球范围内已经拿下了数以亿计的用户，商业化的成熟程度也超过其他赛道大模型产品太多太多。
但是，作为同人的感情打交道的AI产品，它们面临的不只是技术问题，更是有关道德、法规、人性的多重挑战。如何通过技术升级与人工审核最大程度地过滤不良信息，为用户尤其是青少年营造健康的交互环境的同时，还能保证用户们的一些私人需求得到满足，成为了这类产品当前阶段要解决的最主要问题。
但是，无论如何，令人欣慰的是，在大模型真正加速的第三个年头，就已经有很多人在虚拟世界中寻得到了一份温暖、陪伴与共鸣，而这样的感受，是很多人在现实世界难能可贵的感受。
参考资料：
《氪金一万，养不活我的赛博男友》，AI燎原；
《谁在使用星野？》， 新皮层NewNewThing；
作者：杨启隆
编辑：钟响
