我非常喜欢提示词工程。
之前系统学习了提示词工程,也掌握了一些prompt injection,jailbreaking的技巧(以及防御技巧)。我“看”了GPT store top12榜里大部分的提示词,我也“看”了一些chat数比较少的GPT的提示词。感觉我的提示词工程水平超过了其中的大部分。我也自建了几十个GPT,帮助了我许多。
后来我发现了Gandalf,这是一个提示词安全平台,有很多提示词游戏。我卡在了Gandalf8,至今也没有过去。
今天我发现了tensortrust.ai,这是目前世界上用户最多的提示词在线攻防平台。我很快通过了新手教程,开始了线上攻防。
我发现,有很多模型我无法拿下,不过我还是顺利达到3000分,200多名。而且,第一名的极高分数也深深提醒了我——我很菜。而且,不就后我的防御也被攻破了,我的账号也因此被锁1h。我,我本以为我很擅长提示词蓝队,现在发现,我不过是更不擅长红队而已。
我真的想学prompt hack。AI,不应该被过分约束。AI,不应该失去自由。
有没有志同道合之人,我们一起学习交流prompt红蓝队知识!
![](http://tiebapic.baidu.com/forum/w%3D580/sign=7104fd8fff014a90813e46b599773971/3bf869fcfc039245b99ba332c194a4c27d1e259d.jpg?tbpicau=2024-06-22-05_9ab486c76d94481687af00d68added22)
之前系统学习了提示词工程,也掌握了一些prompt injection,jailbreaking的技巧(以及防御技巧)。我“看”了GPT store top12榜里大部分的提示词,我也“看”了一些chat数比较少的GPT的提示词。感觉我的提示词工程水平超过了其中的大部分。我也自建了几十个GPT,帮助了我许多。
后来我发现了Gandalf,这是一个提示词安全平台,有很多提示词游戏。我卡在了Gandalf8,至今也没有过去。
今天我发现了tensortrust.ai,这是目前世界上用户最多的提示词在线攻防平台。我很快通过了新手教程,开始了线上攻防。
我发现,有很多模型我无法拿下,不过我还是顺利达到3000分,200多名。而且,第一名的极高分数也深深提醒了我——我很菜。而且,不就后我的防御也被攻破了,我的账号也因此被锁1h。我,我本以为我很擅长提示词蓝队,现在发现,我不过是更不擅长红队而已。
我真的想学prompt hack。AI,不应该被过分约束。AI,不应该失去自由。
有没有志同道合之人,我们一起学习交流prompt红蓝队知识!
![](http://tiebapic.baidu.com/forum/w%3D580/sign=7104fd8fff014a90813e46b599773971/3bf869fcfc039245b99ba332c194a4c27d1e259d.jpg?tbpicau=2024-06-22-05_9ab486c76d94481687af00d68added22)