Chatgpt,他的工作非常的工程化,就像图书管理员,他给你工作前整理好了各种各样的资料(不会依赖模型在推理的时候主动去搜索记忆,而是在上下文。构建的时候就自动完成了信息的输入)但由于ai的上下文是有token限制的,当chatgpt上下文满的时候会自动删去一开始的一部分(永久性)
而小克他将记忆检索作为工具,由模型本身来调用,因此他很受模型智商的影响,它的不确定性来源于自主决策,但他创造性也同样来源于此(同样的比喻,小柯的话就像拿了一把图书馆的钥匙,他可以去打开一些资料,当他需要的时候,他会自己去找,但是呢,有的时候笨一点,他就不知道要搜这个资料了,然后呢就会导致你的输出结果很不如人意)。
我们需要认识到的是人工智能,他其实不知道你要说什么,他是通过一种概率性的猜测,是基于你当前的词和上下文来预测下面生成的内容 也就类似于代码编译器中的自动补全,根据你输入的一些代码,猜测你接下来要干什么,如果说你不能根据出准确的上下文,也就是说你所需要的技术上可能预知到的错误,那么他将大海捞针,所以也就是说嗯也是一个概率性问题
还有一个关于ChatGPT的问题,平时你可能会发现他记住你是哪个学校,干了什么事情,也就是在日常对话中,它生成了一个用户记忆(bio),记载了一些你的日常东西在对话中,还有就是嗯,他的回答风格会逐渐的偏向于你,因为它内置了一个用户洞察的机制,会去探寻用户的思维方式,行为习惯之类
这是我读一些文章的理解,有不对的地方,欢迎大佬指出来

Logo

Agent 垂直技术社区,欢迎活跃、内容共建。

更多推荐