上面说的都太业余了，说点实际的。

首先，100 个人用≠100 并发，要结合你的业务场景去评估实际需要支持多少并发。比如：每个人是时时刻刻一直用？还是 5%的时间段在用？重合度多少？峰值可能是多少？
其次，现在并发数的成本很高，并不是一定要支持峰值的并发。当前业内通用的做法是只支持特定的并发，然后做一个队列进行并发控制。如果并发满了一定数量内的先队列等待，等待队列也满了就提示并发数超限稍后再试之类的。
然后，4090 就先不说并发了，70b 的模型都不一定能跑起来，可能得上 A100 。

实际并发数的计算得看单卡每秒 tokens ，然后根据业务场景预估单次请求可能的 tokens 大小，计算得到单卡并发。

你们的后端太懒了。就你说的这些情况，需要有一个专门的业务后台来做这些接口的整合，而不是客户端做这些事情。

置身事内
纳瓦尔宝典

新能源也能挂蓝牌的吧

不会

@KKLeon 断断续续的，投入度不够。有兴趣一起搞？

独立开发副业交流群求拉～

预算够直接 Herman Miller ，但是我预算也不够...
我买的京东京造 z9 smart ，坐起来也很舒服，对我而言没感觉比 Herman Miller 差太多，够用，带腰托脚托也很舒服～

当前这个时间点，大 A 。不用等太久，最晚春节后，至少会有一波行情，最好止盈就风险不大。

小红书的粉丝比抖音还多？是主要精力用于小红书运营了吗？

戴森吹风机，大大提高吹头发体验

请教下，你这个内容生成的服务器是部署在哪里的？为啥会是静态网站？

可以看看推荐系统，先了解下大家都是咋做的。
你说的这个太基础太浅了，都还到不了需要讨论的阶段，还是先以学习为主。

资生堂不老林，防不防脱不知道，去油效果还行。

不如买二手 pixel

建议换个女朋友

都玩烂了，现在进去就是交学费