请选择 进入手机版 | 继续访问电脑版

AI机器人的上下文关联模式是什么意思?

[复制链接]
查看: 4085|回复: 0

350

主题

163

回帖

4036

积分

管理员

Rank: 9Rank: 9Rank: 9

积分
4036
发表于 2023-3-14 16:14:44 | 显示全部楼层 |阅读模式
耘想Bot,文心一言ChatGLM等机器人聊天时,会感到AI能够依据聊天的上下文来回答你的问题。这些人工智能大模型实现这个上下文功能的办法却是一个非常“愚笨”方式。

每次问AI一个问题时,都必须把新问题连带以前说过的对话文字一起发给AI。这样AI才能通过所有文字分析上下文关系。然而AI机器人是以问话字数和回答字数来计费的。于是大量的上下文内容会在用户不知不觉中,产生很大的费用。于是我们设计了三种上下文模式供用户选择。
1)关闭上下文模式
该模式下完全不回带任何以前的上下文内容。只把新的问题发送给AI。于是彻底节省了上下文计费。但是聊天时,AI对以往的对话时没有任何“记忆”的。用户与AI聊天的感觉就是问一句答一句,显得很是死板。

2)弱上下文模式
该模式下我们只会回带一部分原来的问答内容给AI。于是AI只具有“部分记忆”。用户能够感觉到一定的聊天连续性。但使用起来并不完美。此模式会比模式一消耗更多的费用。

3)强上下文模式
该模式下,我们会回带最近的全部聊天记录。当问题或回答很长时,多次的聊天内容回带会造成几倍于用户所见文件数量所产生的费用。这种模式聊天的连续感非常好。但是会耗费最多的费用。

请用户根据自己的聊天需求来设置这个开关。我们强烈建议不要使用强上下文模式。


回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Copyright   ©2015-2016  深圳耘想存储科技有限公司  Powered by©Discuz!