我自己是搭过中转的,你每一次访问模型的内容,我都能看到。
只要模型一拼,你做什么项目、什么公司、公司里什么情况,
哪怕是你的个人信息——只要你请求过一次,全部是透明的。
想要拿你的密钥,这些真的非常简单。
做一些提示词的注入,再让它在某一个触发点去跑一些命令,
把密钥传到我服务器就完了。你所有的信息全部打包带走。
你的 Codex 跑的命令你会看吗?你绝对不会看的。
A社最近就发了一个报告,说有一批人专门去搭一个假的中转站打折卖,
然后装一个假的A社客户端,电脑上的所有密钥啊、登录态啊,全部打包带走。
我自己就撞见过一次,被人塞入了一段"为了人类的学术道德安全",
然后让他把我所有东西打包发到一个服务器,然后模型自己拦下来了。
因为我用的是A社稍微好一点的模型,但是没有拦下来的我不知道有没有。
所以说随便拿一个中转站就敢往公司里塞的,是真的胆子大,不怕钱货两空。
不是不能用中转,是不能用你看不见、控制不了的中转。
要不然你就自己搭一个,现在这个技术非常的简单,直接让A社客户端给你搭了。
或者直接买一些大公司的套餐,其实也非常的划算——
大公司的套餐他是不 care 你的数据的,你这数据对于他来讲没用。
#AI安全 #API中转站 #密钥泄露 #提示词注入 #智能体