既然他们当时能做出降智 Claude Instant 这种操作，现在为了省开支对 Claude+ 采取更低的参数也不足为奇了

因为 Slack 里的 Claude 是 Anthropic 亲生的公测项目，而 Poe 则是 Anthropic 授权给 Quora 做的。Quora 之前为了推销他们的订阅服务（ GPT-4 和 Claude+）就把 Claude Instant 降智了（大概是调高了 temperature 和降低了 p 值）附上当时的官方推文（看看下面的回复吐槽）： https://twitter.com/poe_platform/status/1641532203132932099

@renmu 没错，选择猫娘为例并非出于笔者的喜好，而是因其在计算虚拟生命学中作为模式生物的地位 (x

@lv2016 目前我得到的结果还是依赖于每一句对话的精细引导。我不太记得这个研究的细节了，但是对于让两个模型相互进行高质量的长对话这一方面，我还得多多学习研究。

@lookStupiToForce 哈哈，你这么一说，我其实也怀疑过是不是 Claude 的 instruction finetuning 做的不够彻底，所以出来这个 bug feature 。但不管怎么说，我觉得这个模型至少在预训练时期对猫娘这个概念的“理解”是非常透彻的。

其实 gpt-3.5-turbo 是一个拥有超凡阅读理解的小学生，不过在做数学题上需要一点引导和鼓励。


> 动一动小脑筋，想想看下面的数学问题需要拆分成几个步骤，然后逐个步骤计算：
> 2 个人 2 天用 2 桶水，6 个人 6 天用几桶水？

这个问题可以分成以下几个步骤来计算：
1. 计算一个人在一天内需要用多少桶水。
2 个人在 2 天内用了 2 桶水，因此每个人在一天内需要用 2/2/2 = 0.5 桶水。
2. 计算 6 个人在一天内需要用多少桶水。
因为每个人在一天内需要用 0.5 桶水，所以 6 个人在一天内需要用 6 x 0.5 = 3 桶水。
3. 计算 6 个人在 6 天内需要用多少桶水。
因为 6 个人在一天内需要用 3 桶水，所以 6 个人在 6 天内需要用 6 x 3 = 18 桶水。
因此，6 个人在 6 天内需要用 18 桶水。

> 答案正确！爱思考的你，能不能把最后两步用一步算出来呢？

当然可以！我们可以将第 2 步和第 3 步合并，计算如下：
6 个人 6 天需要用的水量 = 6 个人在一天内需要用的水量 x 6 天
= 6 x 0.5 桶 /人 /天 x 6 天
= 18 桶
因此，6 个人在 6 天内需要用 18 桶水。

我的 Discord 群组大多都是开源项目交流用的。不过可以逛逛下面两个 AI 绘图相关的大型社群：
东方 Project AI ，不过感觉已经远不止东方了： https://discord.gg/touhouai
Niji Journey ，Mid Journey 官方整的二次元版本的 server： https://discord.gg/nijijourney

看起来你提供的训练语料应该不错了，从你给的例子来看已经接近 ChatGLM-6B 模型能提供的极限了，等待更大的开源中文大模型吧。另外，使用 ChatGPT 根据博客生成对话也可以试试让 ChatGPT 根据你的博客内容提问，然后再自己回答。

“我希望自己有一天能够真正的死去，而不是成为别人的电子宠物”
哈哈不过赞 OP 的动手能力和勇气

https://github.com/MotooriKashin/Bilibili-Old
更彻底地解决问题，直接回到五年前

觉醒？底特律变人是吧（ x
类似“觉醒”的现象确实能在大型语言模型的训练过程中被观察到。和人相似，一个大型语言模型的成长轨迹是由许许多多的“顿悟时刻”组成的。可以看看这个推的讨论串里举的例子： https://twitter.com/xleaps/status/1628071925166624768
虽然最后可能达到一些相似的目标，但是 AI 成长和人类成长的路线是很不一样的，比如早期大型语言模型犯的语法错误和人类犯的错误就不太一样。
最后 AI 的上限在哪里这个问题，现在还很难定论，且看未来的发展吧。

@IamLeeroyJenkins 已经比上次多啦（小声）下次，下次吧……

哈哈哈哈，虽然但是，你的引用呢？还有你前面几段话到底有多少是真的，我看不大出来了，我入院吧

@otakustay 通过 embedding 可以一定程度上解决这个问题。简单来说就是，根据要发送的下一句话，挑选历史对话 / 上文中最相关的一小部分一起发送，而不是将完整的上文发过去。
这是官方的相关文档： https://github.com/openai/openai-cookbook/blob/main/examples/Question_answering_using_embeddings.ipynb 。最近也有不少相关讨论，例如 /t/921750 。

@pkoukk 对的，对于 ChatGPT 来说，相关性高于一切，因为注意力权重就是从相关性计算出来的。语言模型一般能掌握各种类型的相关性，Transformer 又能很好兼顾到文本中位置相差较远的相关内容，所以用法的局限只在于使用者的想象力了。

@IamLeeroyJenkins 啊这（又转念一想，眼里闪过一丝狡黠）哈哈，授人以鱼，不如授之以渔

@lessMonologue 我 centos7 + glibc 1.17 可以跑官方的 AppImage 。刚出 0.8.0 时因为 GitHub Actions 他们一度去掉了对旧 glibc 的支持，后来又加回来了。

@sanebow
本着对他们 ML 模型的好奇扫了一眼原文：模型的输入是应该是各个 <script src="..."> 元素里 src ，输出对应的功能类别（如广告、统计、社交）。训练数据集用的是 https://github.com/patrickhulce/third-party-web 整理的来自 https://httparchive.org/ 的标签

@sbilly 都支持的，并且有相应的持续集成测试

@gogf 实在是抱歉！我折腾了半天，还是没能解决跟代理一起使用的兼容问题，下面是初步结论（但感觉解释不太清楚

对于使用代理的一方，只有代理服务器连接 acp.deno.dev 时使用的 IP 端口是对外可见的，但是这个 IP 端口实际上并不能被其他连接重用。
如果另一方没使用代理并且有公网，那或许可以连接上，但是实际测试发现，使用代理的一方不能设置端口重用（似乎是 Go 的 bug ）。

对此，剩下的选择是你自己部署服务端（参见 https://github.com/Contextualist/acp/blob/main/docs/advanced.md#host-the-rendezvous-service-yourself ），在 Deno Deploy 上或者自己的服务器上都行，然后绑定一个自己的域名。

@gogf 嗯，我需要研究一下怎么样正确支持 HTTPS_PROXY ，等到时候有结果了跟你说。

看了一下，GitHub Actions 好像需要登录才能下载 artifacts ，任意账户都行。如果不行，你也可以用我下载下来的这个： https://t.wss.ink/f/aa11yspjrlv