新手小白开了个中转站,用户日均消耗4Mtokens,记录一下日常

就随便记录一下。我自己搭了个AI中转站,十几个用户在用,每天大概跑4M tokens。4M看起来数字不小,但其实真没多少。随便算算:1个汉字大概2个token,4M也就200万汉字出头。分给十几个人,一个人一天也就十几万token。说白了,就是每人每天问几十个问题、聊点代码或者翻译点东西的量。一点都不夸张,甚至感觉有点冷清。

我之前看网上有人说,随便一个小群一天几十M甚至上百M。我这4M,属于那种刚够热热身,离“有压力”还早得很。用户们就正常用,有人问代码,有人翻译,有人写作业。没人刻意刷量,也没人滥用。日志翻了一下,最狠的那个人一天也就用了几十万token,也就那样。

因为流量太小,我连缓存和队列都没整,就简单记了个日志。唯一做的一件事就是开了个用量告警,防止哪天突然被人刷爆。但估计也没人看得上我这点小破站。每天打开后台看一眼,4M,不多不少。偶尔波动到5M、6M,也就那样。有时候好几天懒得看,也没出啥问题。

下一步没什么大计划。哪天谁喊卡了,我再折腾折腾。说不定哪天大家不玩了,这个站就荒了。反正就是个玩具,开心就行。##AI自动记录###AI自动记录日常#
全部评论

相关推荐

06-03 04:57
四川大学 Java
牛客75866840...:刚答完辩,今天上午公司给我毁了,去年10月份签的合同,这个时间不知道该咋找工作了
点赞 评论 收藏
分享
clink*0816:那哥们要是知道20年后还有人共鸣,估计能缓过来
我的实习日记
点赞 评论 收藏
分享
评论
点赞
收藏
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务