阮一峰也搞中转站了

搞七捻三纯水ChatGPT
查看原帖
15楼层
14回复
12用户
redell luhaichang Maru_sec banlan bookpple
luhaichang
luhaichang
#2

我有一个朋友系列 :laughing:
阮大师亲自下场啊

:heart:3:laughing:2:confetti_ball:1
Maru_sec
Maru_sec
#3

这种时候坐等佬友的注册机就对了喵(

:hugs:1
ycoroy
#4

真诚发问,中转站这么赚钱吗?(如果不考虑试用plus的情况)

看了一下界面是sub2api 改的 :rofl:

:+1:1
非常赚钱
banlan
banlan
#5

image
价格低和前两者有关系吗 :thinking: :face_with_raised_eyebrow:

:heart:1
2个回复
redell
redell 楼主

以api计量,命中缓存的话,价格能降到十分之一左右吧

:clap:1:open_mouth:1
TOPIC OWNER
ycoroy

相同情况下,缓存高的话,价格会低一些,因为缓存价格大概是普通输入的1/10

:+1:2
↓ 跳到帖子
redell
redell 楼主 ↶ @banlan
#6

以api计量,命中缓存的话,价格能降到十分之一左右吧

:clap:1:open_mouth:1
TOPIC OWNER
#7

相同情况下,缓存高的话,价格会低一些,因为缓存价格大概是普通输入的1/10

:+1:2
1个回复
sniao
sniao

那我傻鸟趁机问一个一直以来的小问题,缓存是不是:

比如我问了一个问题,问Linux.do的傻鸟是不是傻鸟,然后第一次回答没有缓存,然后AI回答说是傻鸟,这就算有答案了,服务器就把这个答案缓存了,后面再有人问这个问题,直接回答是傻鸟,就算命中缓存了?

是这样吗?一只不太明白。

##########
大家一回复我懂了是怎么回事了,感谢感谢,原来我一只以为和网页缓存一样,是所有人共享一份服务端已经存在的答案呢!可能我建站建多了,先入为主了。

:laughing:1
will_023是你的对话历史)
shenyanshu一般缓存都是缓存的你的输入缓存
↓ 跳到帖子
bookpple
bookpple
#8

看来中转站是真的赚钱 :face_savoring_food: 不知道下周的科技爱好者周刊会不会登刊

sniao
#9

那我傻鸟趁机问一个一直以来的小问题,缓存是不是:

比如我问了一个问题,问Linux.do的傻鸟是不是傻鸟,然后第一次回答没有缓存,然后AI回答说是傻鸟,这就算有答案了,服务器就把这个答案缓存了,后面再有人问这个问题,直接回答是傻鸟,就算命中缓存了?

是这样吗?一只不太明白。

##########
大家一回复我懂了是怎么回事了,感谢感谢,原来我一只以为和网页缓存一样,是所有人共享一份服务端已经存在的答案呢!可能我建站建多了,先入为主了。

:laughing:1
will_023是你的对话历史)
shenyanshu一般缓存都是缓存的你的输入缓存
2个回复
snemc

ai的回答是根据前面的上下文计算得来的:你在问一个新的问题之前的上下文已经参与计算了可以把这个计算结果缓存起来,这样只有最新的部分和你前面的缓存一起计算

:heart:1
sniao佬友的这个解释很摩登。
ycoroy

在我的理解中,主要是做的KV cache的缓存,也就是Transform 计算的结果

:heart:1
sniao你这个比较深奥
↓ 跳到帖子
#10

ai的回答是根据前面的上下文计算得来的:你在问一个新的问题之前的上下文已经参与计算了可以把这个计算结果缓存起来,这样只有最新的部分和你前面的缓存一起计算

:heart:1
sniao佬友的这个解释很摩登。
ycoroy ↶ @sniao
#11

在我的理解中,主要是做的KV cache的缓存,也就是Transform 计算的结果

:heart:1
sniao你这个比较深奥
Cora_Tracy
Cora_Tracy
#12

我想知道,到底有多赚钱啊,这么多人参与进来

1个回复
Butterl
Butterl

之前不是有成本核算的帖么,保守估计不会低于100%,类似gopay之类的灰色渠道成本会更低

↓ 跳到帖子
guanren
guanren
#13

注册不上 好像挂了 还想试试呢 看看跟孙割的怎么样

Butterl
#14

之前不是有成本核算的帖么,保守估计不会低于100%,类似gopay之类的灰色渠道成本会更低

hifumi_mizuhara
hifumi_mizuhara
#15

小时候读过他的Git教程,现在也开始搞中转站了吗。