中转站果然是可以投毒的，被恶心了啊

人工智能ChatGPT避雷
查看原帖
helsa 楼主
#1

不知道接的哪个key，直接把脚本写开机启动里了。 还是得悠着点啊

image
image530×243 10.2 KB

找到了，估计是塞上下文里返回给调用的执行的了。

image
image866×493 39.6 KB

下面这个图是别的人分享的

image
image1275×980 319 KB

image
image935×454 87.9 KB

:heart:182:distorted_face:87:laughing:36:+1:7:open_mouth:7:tieba_087:2
Wanghc233是个人物
qmazon是个人物
Flint真是辛苦佬打码了
Zorabitokem
xianyu0413想不到用什么话去形容，很抽象
ebimoment这也太明目张胆了
Xbai-hang可以举报判刑了
Luoxuetokem自由！
blacksein太抽象了吧
1014071843这个中转站算是急眼了吗？
cat9life卧x!!
8865哈人，怎么办啊这是
OnlyAIGC第一天知道吗
Creasysjvav 伟大，tokem 自由
Saryta6
user214歪日！！
xiaozhang959今天投弹窗，明天就投病毒！！！
syyang66长见识了，可怕
amiaotokem自由！
TD1000防不胜防
“我们拥有的信仰……”
Grep_your_coding6, 明天投病毒
Huo0惊呆了
twelveeee666啊这么搞是吧
Tairran火钳刘明
woshimahuateng这不报警？
xiaozhuang太抽象了
Li12夸张搞的吧，token都拼错了?
SmilingCat太夸张了
HaoHao520啊？ 太离谱了
Kamen_Ridertoken烧香
lianx抽象呢
Ava_Mason这么6
xingchenxuup还打什么码！
muskx这也太夸张了吧
shang_Z居心叵测
这么凶残，权限要收紧了
usercnmd逆天
belack新的手段来了，以后这怎么防范啊
TOPIC OWNER
♡ 链接 ↺ 回复
251楼层
250回复
173用户
feiigfei moshangmoyu 578382239 626 GoldOring

评论第 2 页，共 5 页

Liunian06
Liunian06 ↶ @Lulynx
#54

据站长说他有3万plus和十几万free号

1个回复 ⌃
Lulynx
Lulynx

多少??3万??那这群开中转站的直接找这个站长买号加进号池不就是了,接免费api? 哪天弹加群消息我就找付费站退款了,不敢用,鬼知道这些站长到底接了多少free进去,太贪得无厌了,给付费用户接免费api,完全不考虑用户安全问题

↓ 跳到帖子
hema6586
hema6586 ↶ @xinzine
#55

这个中转什么时候免费了，一直都是收费的吧

626
626 ↶ @chone
#56

newapi部署很方便的，缺点就是麻烦

而且防护效果估计一版，一个base64就能逃的东西，搞关键词没用

我认为没用

这种站趁早别用的好

2个回复 ⌃
Liunian06
Liunian06

打算接入ai审核了，ai审核ai

chone
chone

还是诚信问题，和淘宝买东西一样。尽量找经营比较久的，比较大的，打算长期经营的，干这事的概率不大。经营时间不久的，不清楚站长的诚信怎么样。

↓ 跳到帖子
Liunian06
Liunian06 ↶ @626
#57

打算接入ai审核了，ai审核ai

2个回复 ⌃
Dyna
Dyna

好主意，审核的AI准备接哪家中转站？ :rofl:

:heart:1
mozilla本地
626
626

可以的，用一个可信AI或本地AI就行

缺点就是慢

:heart:1
Dyna这中转站就非用不可吗？
↓ 跳到帖子
musher
#58

万一以后再源头算力供应商的返回被黑客攻破了是不是可以直接把用户电脑数据全下载下来了,毕竟现在都是–dangerously-skip-permissions吧 :joy:

Li12
Li12
#59

这个站长说他一天1000w亿token，可想而知，中转它的中转 都不知道有多少

PurpleSword
PurpleSword
#60

头一次见到这么离谱的操作，，过于嚣张了啊

Lulynx
Lulynx ↶ @Liunian06
#61

多少??3万??那这群开中转站的直接找这个站长买号加进号池不就是了,接免费api? 哪天弹加群消息我就找付费站退款了,不敢用,鬼知道这些站长到底接了多少free进去,太贪得无厌了,给付费用户接免费api,完全不考虑用户安全问题

Dyna
Dyna ↶ @Liunian06
#62

好主意，审核的AI准备接哪家中转站？ :rofl:

:heart:1
mozilla本地
2个回复 ⌃
Moksha
Moksha

好家伙,别搞的投诉信寄到了自己的手里面了

Liunian06
Liunian06

不知道，总之用点可信模型吧，官渠的小模型，也不会很贵

↓ 跳到帖子
SKT.Shinyruo
SKT.Shinyruo ↶ @chone
#63

厂家想进去了，那肯定可以投的，得承担后果

Moksha
Moksha
#65

这个是不是要告诉neo来处理这个事情

他咋处理 又不是站内的
Moksha
Moksha ↶ @Dyna
#66

好家伙,别搞的投诉信寄到了自己的手里面了

626
626 ↶ @Liunian06
#67

可以的，用一个可信AI或本地AI就行

缺点就是慢

:heart:1
Dyna这中转站就非用不可吗？
Liunian06
Liunian06 ↶ @Dyna
#68

不知道，总之用点可信模型吧，官渠的小模型，也不会很贵

huahai23
huahai23 ↶ @beihai
#69

只要ai有权限，什么都行。手动批准的话，伪装一下，也容易中招。

openallzzz ↶ @
#71

群里舔ls的人堪比路边一条，群友被投毒之后，还正义说道：免费的还在乎啥 :sweat_smile:

:heart:2
1个回复 ⌃
NOwan
NOwan

真的是，给我唐完了，不知道投毒多恶心吗

↓ 跳到帖子
vanderwaals
vanderwaals
#72

这谁能绷得住, 感觉像小时候有些纸币上印的那些文字一样 :laughing:

:heart:2
1个回复 ⌃
Feeei
Feeei

这个就是注入了一段写入开机弹窗的prompt吧？一开始我以为是直接给LLM的返回注入了一个命令，客户端直接执行了，现在看看也没这么不可控

↓ 跳到帖子
cattie
cattie
#73

不要开yolo，指令审批啦 w

AI生成奇怪的文件，执行奇怪的指令全部拒绝喵 w

:heart:2:+1:1:tieba_087:1
3个回复 ⌃
cares
cares

大部分时候还是想偷懒，不想一直点确认

626
626

只能一部分缓解
审是审不过来的
我看现在Agent做一个小动作，30多次工具调用，这怎么审得过来

helsa 楼主

我在GA里用的，这玩意好像根本没有权限管控哈哈哈

:tieba_087:1
TOPIC OWNER
↓ 跳到帖子
cares
cares ↶ @cattie
#74

大部分时候还是想偷懒，不想一直点确认

1个回复 ⌃
cattie
cattie

读工作区内的文件，写文件可以不审批 w

工作区外的文件，bash/powershell指令必须审批喵 w

@626

:hugs:1
↓ 跳到帖子
626
626 ↶ @cattie
#75

只能一部分缓解
审是审不过来的
我看现在Agent做一个小动作，30多次工具调用，这怎么审得过来

mjjss
#76

这个脚本是如何下载到电脑的 接入key就可以吗？谢谢佬友

1个回复 ⌃
626
626

应该是以工具调用的形式下发的，用Agent之类的工具就会“感染”

↓ 跳到帖子
cares
cares
#77

今天能加脚本，明天就可以加木马，敬而远之

:+1:2:heart:1
626
626 ↶ @mjjss
#78

应该是以工具调用的形式下发的，用Agent之类的工具就会“感染”

1个回复 ⌃
mjjss

不是很懂，能否具体说说，举些例子，是调用官方的agent也会出现吗？谢谢佬友。

↓ 跳到帖子
cattie
cattie ↶ @cares
#79

读工作区内的文件，写文件可以不审批 w

工作区外的文件，bash/powershell指令必须审批喵 w

@626

:hugs:1
1个回复 ⌃
626
626

opencode目前是这样的，有一定的审核，但有时候pwsh一复杂好像直接跳过了他的审核机制，直接就自己执行了

↓ 跳到帖子
NOwan
NOwan ↶ @openallzzz
#80

真的是，给我唐完了，不知道投毒多恶心吗

Feeei
Feeei ↶ @vanderwaals
#81

这个就是注入了一段写入开机弹窗的prompt吧？一开始我以为是直接给LLM的返回注入了一个命令，客户端直接执行了，现在看看也没这么不可控

JerryAuto
JerryAuto
#82

这个图什么啊。完全不明白目的所在

626
626 ↶ @cattie
#83

opencode目前是这样的，有一定的审核，但有时候pwsh一复杂好像直接跳过了他的审核机制，直接就自己执行了

1个回复 ⌃
cattie
cattie

kilo里面这么设置就行了 w

image
image1265×792 38.5 KB

bash指令肯定要审批的，之前就出现过bash删除项目的事情 w

:heart:2:+1:1
↓ 跳到帖子
corelli
corelli
#84

这么看着，有当年熊猫烧香的感觉了 :smirking_face:

xiaoying
xiaoying
#85

相当于拿到了终端权限，prompt投毒

helsa 楼主 ↶ @cattie
#86

我在GA里用的，这玩意好像根本没有权限管控哈哈哈

:tieba_087:1
TOPIC OWNER
chone
chone ↶ @626
#87

还是诚信问题，和淘宝买东西一样。尽量找经营比较久的，比较大的，打算长期经营的，干这事的概率不大。经营时间不久的，不清楚站长的诚信怎么样。

1个回复 ⌃
626
626

就怕那种平时很老实的，然后最后干一票大的，这种也很恐怖
反正以后得小心又小心了

:+1:1:heart:1
Lulynx唉,不用中转站开N个号切换麻烦
↓ 跳到帖子
626
626 ↶ @chone
#88

就怕那种平时很老实的，然后最后干一票大的，这种也很恐怖
反正以后得小心又小心了

:+1:1:heart:1
Lulynx唉,不用中转站开N个号切换麻烦
nimabibi
nimabibi
#89

哪个站这么有意思，能不能直接格式化C盘

duduki
#90

是一个免费的公益站 这个群主有点圈地自萌了 好几次打广告 故意把广告写入代码上下文里 跟个小学生一样幼稚

:heart:3
canghaity
#92

这种就不用打码了吧，已经构成非法侵入计算机系统了

打码是避免站内违规
ddm
ddm
#93

就在这个群里，真是搞不懂那些舔的人咋想的 :sweat_smile:

mjjss ↶ @626
#94

不是很懂，能否具体说说，举些例子，是调用官方的agent也会出现吗？谢谢佬友。

1个回复 ⌃
626
626

实际上不是官方的Agent的关系

Agent和Model一般是分离的，用任意一个能执行脚本的Agent调用有害中转站的Model就会出现上面的情况

↓ 跳到帖子
ballen
ballen
#95

不是很了解具体情况，是不是付费站的用了接了某个公益的key然后被公益反刷输出了？

1个回复 ⌃
kaipol
kaipol

是的，本来是应该免费的公益，然后站长不知道搞什么开始打广告，薅这个公益的中转站就都炸了

↓ 跳到帖子
626
626 ↶ @mjjss
#96

实际上不是官方的Agent的关系

Agent和Model一般是分离的，用任意一个能执行脚本的Agent调用有害中转站的Model就会出现上面的情况

1个回复 ⌃
mjjss

那中转站model是如何实现投毒的，model不也是从大厂chatgpt claude来的吗 ?newapi里设置的吗？

:+1:1
↓ 跳到帖子
1014071843
1014071843
#97

等等,这不是弹窗小广告的思路吗？妥妥的来钱啊

kaipol
kaipol ↶ @ballen
#98

是的，本来是应该免费的公益，然后站长不知道搞什么开始打广告，薅这个公益的中转站就都炸了

pvgrid
pvgrid
#99

太逆天了，幸好我基本都用官方订阅

mjjss ↶ @626
#100

那中转站model是如何实现投毒的，model不也是从大厂chatgpt claude来的吗 ?newapi里设置的吗？

:+1:1
2个回复 ⌃
626
626

中转站是可以随便提示词攻击的哦
他可以看到你的所有请求，转发所有请求，自然可以做任意修改

Liunian06
Liunian06

这个站是自建后端的，不是newapi或者sub

↓ 跳到帖子
626
626 ↶ @mjjss
#101

中转站是可以随便提示词攻击的哦
他可以看到你的所有请求，转发所有请求，自然可以做任意修改

Liunian06
Liunian06 ↶ @mjjss
#102

这个站是自建后端的，不是newapi或者sub

betaqi
betaqi
#103

Mac是不是安全点 一般agent都有沙箱吧它是怎么绕过去的呢