|
耘想公司正式推出了耘想Bot,文心一言等AI聊天功能。可以与AI单聊,也可以把AI机器人拉入群聊与多人一起聊天以增加趣味性。
耘想Bot对接的是MiniMAX出品的人工智能模型。MiniMAX是一家中国公司,目前并没有大规模开始宣传自己。文心一言大家应该都知道是百度推出的一个大模型。同时我们还对接了ChatGLM,SenseChat。未来还会对接更多AI模型。
这些AI大模型基本上都是按照用户消耗的Token来计费的。每1000个token(根据模型不同大约相当于500到1000汉字不等)收费大约2分钱人民币。
另外,在对接AI的编程接口(API)时,耘想这样的第三方合作商需要把用户与AI聊天的上下文回传给AI。于是用户的每一个问题都需要带着一连串以前的人机问答内容交付给AI的服务器进行语言分析。于是实际上在聊天过程中,服务器端可能会消耗几倍于用户实际看到的文字字数。
目前,我们提供给用户对于聊天上下文的设置。用户可以选择关闭上下文模式,弱上下文模式,强上下文模式。以便用户来控制聊天时的Token消耗速度。请参看以下帖子链接。但是本设置仅适用于用户与AI的单聊。在群聊中AI使用弱上下文模式与大家聊天,从而在与AI的聊天中获得一定的上下文连续感。
https://tilldream.com/forum.php?mod=viewthread&tid=349
|
|