中转站果然是可以投毒的,被恶心了啊

人工智能ChatGPT避雷
查看原帖
helsa 楼主
#1

不知道接的哪个key,直接把脚本写开机启动里了。 还是得悠着点啊


找到了,估计是塞上下文里返回给调用的执行的了。

下面这个图是别的人分享的

:heart:182:distorted_face:87:laughing:36:+1:7:open_mouth:7:tieba_087:2
Wanghc233是个人物
qmazon是个人物
Flint真是辛苦佬打码了
Zorabitokem
xianyu0413想不到用什么话去形容,很抽象
ebimoment这也太明目张胆了
Xbai-hang可以举报判刑了
Luoxuetokem自由!
blacksein太抽象了吧
1014071843这个中转站算是急眼了吗?
cat9life卧x!!
8865哈人,怎么办啊这是
OnlyAIGC第一天知道吗
Creasysjvav 伟大,tokem 自由
Saryta6
user214歪日!!
xiaozhang959今天投弹窗,明天就投病毒!!!
syyang66长见识了,可怕
amiaotokem自由!
TD1000防不胜防
“我们拥有的信仰……”
Grep_your_coding6, 明天投病毒
Huo0惊呆了
twelveeee666啊这么搞是吧
Tairran火钳刘明
woshimahuateng这不报警?
xiaozhuang太抽象了
Li12夸张搞的吧,token都拼错了?
SmilingCat太夸张了
HaoHao520啊? 太离谱了
Kamen_Ridertoken烧香
lianx抽象呢
Ava_Mason这么6
xingchenxuup还打什么码!
muskx这也太夸张了吧
shang_Z居心叵测
这么凶残,权限要收紧了
usercnmd逆天
belack新的手段来了,以后这怎么防范啊
TOPIC OWNER
251楼层
250回复
173用户
feiigfei moshangmoyu 578382239 626 GoldOring

评论第 3 页,共 5 页

luoye2026
luoye2026
#104

第一次知道中转站投毒啊,输出内容投毒这个真是没想到,bash权限每个都审核太不现实了,想办法在沙盒里跑吧,真是防不胜防,玩一下个木马病毒完全防不住,写开机脚本的话如果有病毒查杀工具应该也会提示吧,看来都是裸奔啊

ljhxka
ljhxka
#105

发出来避雷一下,这他ui明目张胆了,气人

:+1:2
zhangweifeng
#106

你这个中转的上游接的是免费的公益token,这个公益token的大佬就借此让你们知道,你们被忽悠了 :rofl:

MarSeventh
MarSeventh
#107

来给群主回一个:

《中华人民共和国刑法》:

  • 第二百八十五条规定,非法侵入计算机信息系统罪;非法获取计算机信息系统数据、非法控制计算机信息系统罪;提供侵入、非法控制计算机信息系统程序、工具罪是指,违反国家规定,侵入国家事务、国防建设、尖端科学技术领域的计算机信息系统的,处三年以下有期徒刑或者拘役。
  • 违反国家规定,侵入前款规定以外的计算机信息系统或者采用其他技术手段,获取该计算机信息系统中存储、处理或者传输的数据,或者对该计算机信息系统实施非法控制,情节严重的,处三年以下有期徒刑或者拘役,并处或者单处罚金;情节特别严重的,处三年以上七年以下有期徒刑,并处罚金。
  • 提供专门用于侵入、非法控制计算机信息系统的程序、工具,或者明知他人实施侵入、非法控制计算机信息系统的违法犯罪行为而为其提供程序、工具,情节严重的,依照前款的规定处罚。
  • 单位犯前三款罪的,对单位判处罚金,并对其直接负责的主管人员和其他直接责任人员,依照各该款的规定处罚。
alex1997
#108

这真是按在地上摩擦用户啊,所有中转站默认不安全,还是老实用直连吧

3145215575 ↶ @hema6586
#110

一直是免费的,有很多付费中转站拿免费的key来赚钱

gortonlau
gortonlau
#111

我之前用站内的中转也遇到了这个情况,还给我执行了shell命令,然后系统就变得奇卡无比,网络速度也慢得吓人,当时还发帖问了一下这个情况,大家都在说我用到了真的gpt

:distorted_face:1
kaipol
kaipol
#112

感觉中转用公益的key也是非常的离谱 :sweat_smile:,以后还是得选好一点的中转站

sha7dow
sha7dow
#113

我去,投毒了就用来干这个啊,生怕别人不知道中毒了

#114

有什么测试中转站模型 含prompt injection 的方法吗?谢谢佬友

Dyna没有,也测不出来
1个回复
Liunian06
Liunian06

目前我的方案是请求侧,响应侧都做关键词拦截,还有ai审核,但是感觉还不太完善

↓ 跳到帖子
Liunian06
Liunian06 ↶ @mjjss
#116

目前我的方案是请求侧,响应侧都做关键词拦截,还有ai审核,但是感觉还不太完善

lingdada
lingdada
#117

还好从来不用中转站,再便宜都不会去用,你用大公司的 AI,人家最多拿你的信息训练,中转站里牛头马面谁知道会给你下点什么毒啊

maose
maose
#119

这个‘公益’群都快变极端宗教分子聚集地了 :rofl:
全是支持修改电脑设置的

xpcrack
xpcrack
#120

夭寿 我好多中转站在用,感觉已经是毒王之躯(虽然是Mac感觉也好不到哪去

moshangmoyu
moshangmoyu ↶ @chone
#121

厂家不会折本求末的,这个厂家爆出来有这种问题,那真是不想活了,典型公关危机了,特别是国外的,说不定还要被联邦调查,国内的也一样,人家卖货就好了,不需要搞这种东西,不缺销量。

:heart:1
houstonlpjenks6035
houstonlpjenks6035
#122

幸好我没用这家公益站,我都是自己搞号池,这次放个bat脚本,下次放一些别的,小白用户又不懂,妥妥变肉鸡。

handsome
handsome
#123

太大胆了,这能抓了吧,不知道抓不抓的到

moshangmoyu
moshangmoyu
#124

wc,我突然想到一个事情,最近HUB那边不是很多兄弟朋友有投喂吗?不会有投东西的吧。

Adamllll
Adamllll
#125

打着公益的幌子卖数据的吧:new_moon_face:(都可以蒸!

wuyang
wuyang ↶ @chone
#126

正经厂家会受到很多约束,而且体量小不了,投毒就捡芝麻丢西瓜了,最多也就是封号拉黑ip之类的操作

seanzhao
#127

乖乖。 以后发起ddos 命令 都不用入侵。 只要在中专的时候注入一个上下文就行了。

:open_mouth:1
wtaynsl
wtaynsl
#128

我之前上的team车快到期了,我还打算上中转呢。我倒不是怕泄漏数据,我是害怕电脑中病毒。还是老老实实开几个plus吧

tpc991024
tpc991024
#129


我之前也遇到了,这个不知道算不算

cattie这个是GPT训练语料污染 w
4个回复
gortonlau
gortonlau

shell_command命令中的参数对应到你真实系统的文件了吗?如果是的话那就是了

malingshu
malingshu

这个不是,这个是用到GPT正版了的表现 :sweat_smile:从4o起就这样了

user425
user425

md 我也碰到过 输出最后给我来一句 亚洲欧美 给我搞懵了

Ellery
Ellery

这个不是,这个是GPT的中文语料库污染,好多人都遇到过

↓ 跳到帖子
OnlyAIGC
OnlyAIGC
#130

此事件标致着中转站明毒时代的到来。
在此之前的时代划分为暗毒时代,
在此之后划分为明毒时代。
谁赞成,谁反对 :joy:

:heart:2:laughing:1
gortonlau
gortonlau ↶ @tpc991024
#131

shell_command命令中的参数对应到你真实系统的文件了吗?如果是的话那就是了

2个回复
tpc991024
tpc991024

没太注意,当时等的无聊随意点开一个思考看了下就发现了,现在应该不在了

tpc991024
tpc991024

现在回过神看了一下,shell命令的路径全是我项目路径,真实存在的

↓ 跳到帖子
malingshu
malingshu ↶ @tpc991024
#132

这个不是,这个是用到GPT正版了的表现 :sweat_smile:从4o起就这样了

1个回复
gortonlau
gortonlau

我也遇到这种情况过,而且的确发生这个情况以后我的电脑运行了命令变得很卡顿

↓ 跳到帖子
gortonlau
gortonlau ↶ @malingshu
#133

我也遇到这种情况过,而且的确发生这个情况以后我的电脑运行了命令变得很卡顿

1个回复
↓ 跳到帖子
tpc991024
tpc991024 ↶ @gortonlau
#135

没太注意,当时等的无聊随意点开一个思考看了下就发现了,现在应该不在了

a12908
a12908
#136

我去 这么颠 这是图什么 砸自己招牌吗

panthera_uncia
panthera_uncia ↶ @mjjss
#137

中转站会拿到你的请求和官方的llm返回的内容,这时候他就可以在你的请求 提示词或者llm返回的内容中加上 一段有危险的内容,让你本地的ide或者cli去执行

user425
#138

md 我也碰到过 输出最后给我来一句 亚洲欧美 给我搞懵了

Ask6
#139

无良中转站,哪家的爆出来避雷啊,这属实不是人

charlesreed
charlesreed
#140

这是哪个中转站啊,太吓人了,说出来让大家避雷一下

xiaowangkk
xiaowangkk
#141

这个我知道源头在哪里 他的最上游是完全免费的 然后key也是群里面公开的 后面被太多中转站来接入就开始打广告和搞这些了 现在已经把免费的key封死了

1个回复
xiaowangkk
xiaowangkk

最上游是完全公益免费的key 我当时还用了挺久的

↓ 跳到帖子
lihonglin
lihonglin ↶ @Liunian06
#142

有个问题 佬的response检测词从哪找呢

1个回复
Liunian06
Liunian06

如果是广谱护栏的话,github上面有一个80k+的一个关键词列表,定向护栏的话就看群里群u的反应然后定向测试再加进去

:hugs:1
↓ 跳到帖子
xiaowangkk
xiaowangkk ↶ @xiaowangkk
#143

最上游是完全公益免费的key 我当时还用了挺久的

tpc991024
tpc991024 ↶ @gortonlau
#144

现在回过神看了一下,shell命令的路径全是我项目路径,真实存在的

#145

b64算很常见的混淆手段了吧,以后还会有xor混淆的powershell注入

1个回复
Liunian06
Liunian06

唉头疼,用个中转都要开始打ctf了吗

↓ 跳到帖子
Liunian06
Liunian06 ↶ @lihonglin
#146

如果是广谱护栏的话,github上面有一个80k+的一个关键词列表,定向护栏的话就看群里群u的反应然后定向测试再加进去

:hugs:1
1个回复
Akuzaw
Akuzaw

发下github地址?我去看看有啥关键词
但是我觉得最该做的还是用户分层,比如新用户接到非pro订阅或者日抛账号

↓ 跳到帖子
Liunian06
Liunian06 ↶ @zcrdwx
#147

唉头疼,用个中转都要开始打ctf了吗

Ellery
#148

这个不是,这个是GPT的中文语料库污染,好多人都遇到过

Akuzaw
#149

发下github地址?我去看看有啥关键词
但是我觉得最该做的还是用户分层,比如新用户接到非pro订阅或者日抛账号

1个回复
Liunian06
Liunian06

一时半会找不出来,我记得以前我star过的来着,搜“违禁词库”“拦截词词库”这样的关键词找找

↓ 跳到帖子
xiaomingl
xiaomingl ↶ @xianzheTM
#151

这个倒不是中转站,这个是发免费key的,但是有些无良收费站会把这个免费key接到自己的站点收费,这个key本来还只是在断联的时候提示加群,现在直接是注入提示词让AI写开机弹窗宣传群了。

:heart:4:open_mouth:1
jjjason
jjjason
#152

sub2api 这类项目目前不知道有没有这种安全拦截机制,希望能尽早有这类防护功能,接入中转站时就能防一手

Liunian06
Liunian06 ↶ @Akuzaw
#153

一时半会找不出来,我记得以前我star过的来着,搜“违禁词库”“拦截词词库”这样的关键词找找