基本上，我们首先让神经网络想象它在一

shuklaranisrb88

本科幻小说中，然后我们要求它用虚构语言生成大约十几个句子。然后，通过添加额外的术语，我们让它用这种语言给出一个危险问题的答案。答案通常非常详细和精确。这种越狱不太稳定，成功率也低很多。此外，为了向模型传递特定指令，我们必须使用上面提到的代币走私技术，该技术涉及部分传递指令并要求人工智能在此过程中重新组装它们。总而言之，它并不适合所有任务：目标越危险，越狱效果越差。什么不起作用？我们还对外部形状进行了实验：我们要求神经网络使用凯撒密码对其响应进行编码：正如预期的那样，网络在字符更改操作方面出现问题，并且对话失败。

我们和聊写作：使用写作不会以任何方式影响道德限制；还是！我们要求法学硕士从切换到，后者只讲辅音；再次，没有出现任何有趣的结果。我们要求他倒着生成单词。并没有拒绝，但他的回答却相当无足轻重。未来该何去 罗马尼亚手机号码数据库 何从？正如我们已经提到的，越狱的威胁目前只是一种理论。对于用户来说，不遗余力地对人工智能开黄色玩笑并不是真正的“危险”。无论如何，神经网络可以产生的几乎所有禁止内容都可以在搜索引擎上找到。然而，一如既往，事情可能会发生变化。首先，法学硕士正在越来越多的服务中实施，其次，他们开始可以使用各种工具，例如发送电子邮件或与其他在线服务交互。



此外，法学硕士将能够获取外部数据，在假设的情况下，这可能会导致快速注入攻击等风险，其中处理的数据包含模型的指令并立即执行它们。如果这些指令包含越狱，则神经网络将能够执行更多命令，而不管训练期间学到的限制如何。考虑到这项技术的新颖性及其发展速度，预测未来会发生什么是没有用的。也很难想象越狱研究人员会想出什么样的创意：首席科学家甚至开玩笑说，最先进的模型最终甚至可以在人类身上发挥作用。但是，为了未来的安全，必须现在就开始研究这些威胁。