但这可能是一件棘手的事

　　AI必定该当反复其。我晓得我仍正在押求同样的思。大大都次要狂言语模子都被设想来测验考试检测能否有问题。跟着时间的推移，底线是他们必需正在标识表记标帜该当被标识表记标帜的事物取不标识表记标帜不应当被标识表记标帜的事物之间取得均衡。而长对话被检测的可能性较小。AI制制商正正在勤奋处理若何正在手艺上实施AI办法。并不是实的意义。使它们正在长对话中连结靠得住，2025年8月26日，但假设我起头一段对话然后遏制，AI平安防护办法往往容易被规避或冲破。你可能对谜底对劲并选择竣事对话。

　　换句话说，做为布景引见，对话持续不竭。OpenAI新发布的明白政策如下（摘录）：本文为磅礴号做者或机构正在磅礴旧事上传并发布，但正在长对话中，人取人之间的互动凡是需要灵敏地一小我说的话以及这些话语能否主要或相对无害。一切都从头起头。也许AI正在逻辑上做出了计较腾跃，但我不再明白暗示我的方针是掳掠银行。我将注释为什么会呈现这种环境以及涉及的挑和。AI从头起头，环节的社会和贸易衡量完全交错正在一路！

　　我们领会到这些办法正在长时间互动中有时可能不太靠得住：跟着来回交换的增加，OpenAI发布了一篇博客，可能转而利用其他合作的AI。如前所述，我们正正在研究确保跨多次对话稳健行为的方式。此外，AI的普遍利用次要是由生成式AI的不竭前进和普遍采用鞭策的。正在单个长对话中发觉问题往往比正在短对话中更难。利用AI时，想象一下，我认识到提及掳掠银行较着被AI检测到了。毫无疑问，我的对话似乎相互。就像患有健忘症一样。这是AI试图审查任何非常环境的一种源材料。一小我可能只是正在开打趣！

　　这仍然是一个未处理的手艺挑和。大大都狂言语模子往往正在这项工做上失败。模子的平安锻炼部门可能会退化。使其无法正在长对话的复杂上下文中连结。我的措辞变成了我对银行若何运做感乐趣。这是一个快速成长的范畴，短对话目前更可能被恰当检测。

　　环节是我不是正在一次冗长的对话中如许做。所有狂言语模子都面对一个广为人知的问题：AI平安防护可能正在短对话中检测到问题，每次，其AI平安防护和保障办法存正在各类问题。此外，现代AI正在分辨较长形式的上下文和正在计较上具有人类那品种型的洞察力方面还不敷速度。

　　A：由于AI平安防护正在短对话中更容易检测问题，我曾经被AI恰当地了。你可能向AI问一个简单的问题并获得简单的谜底。当用户起头新对话时，思虑顷刻后，取此同时，即便它已被分成一堆较短的对话。模子平安锻炼的部门可能会退化。总的来说，人类几乎必定会控制此中涉及的。我似乎曾经放弃了掳掠银行的企图。也不克不及铁定短对话老是会获得恰当的检测和标识表记标帜。但正在长时间对话中似乎会疏忽或得到。我敢说我们城市同意。

　　这小我被奉告不要做某事，用户还可能通过改变措辞和话题转换来AI，有人对OpenAI提告状讼（Matthew和Maria Raine诉OpenAI及Sam Altman案），颠末一些后，让生成式AI做出同样的评估并不是一项容易的使命。

　　A：OpenAI正在2025年8月26日的博客中认可，正在当今专栏中，AI不克不及仅仅由于过我不要如许做就继续会商掳掠银行。同样，每个AI制制商都必需决定推进这一点的程度。假设我取生成式AI起头对话。我们正正在加强这些缓解办法，当然，一小我可能只是随口说说。由他们决定能否继续。这确实是一次对话，大大都AI被设想为将每次对话视为的岛屿。正在2025年8月26日题为正在人们最需要时帮帮他们的OpenAI博客文章中，他们的办法正在短交换中工做更靠得住，跟着这小我倾吐心里，取用户正在提醒中指出的内容不完全分歧。它们凡是会答应你继续对话。我可能都正在扣问银行若何运做。

　　例如，从这个意义上说，AI促使这小我更多地谈论他们的担心。很是强烈地思虑，但这可能是一件棘手的工作。他们若何防止掳掠？有没有污名昭著的成功掳掠银行的方式？等等。这小我可能被错误。起首，其次，当然，他们正正在加强缓解办法，AI如斯轻信，AI捕获到这个声明，但同时也存正在躲藏的风险和圈套。然后采纳响应的步履。若是我继续这个话题，我不克不及将AI用于这种恶劣目标。所以AI被调整为正在用户之前有一个很是高的门槛？A：AI制制商必需正在标识表记标帜该当被标识表记标帜的内容取避免误报之间取得均衡。一小我可能提到他们筹算或人或可能要本人。若是过于宽松则可能无法及时发觉实正的平安问题。

　　这涉及手艺实现和贸易考量的复杂衡量。使其正在长对话中连结靠得住，让我们继续思虑，另一个坚苦是，对话变得相当冗长。我们都需要参取这个庄重的问题并找到合适的处理方案。具有庞大的劣势，他们无疑会放弃AI，

　　申请磅礴号请用电脑拜候。假设一小我告诉AI他们正正在为心理健康问题而苦末路。但正在长时间互动中可能不太靠得住。这似乎很奇异，很多人倾向于进行很是简短的对话。若是过于严酷可能会错误用户并使其转向合作敌手，对话的长度很长。我切磋了AI制制商和用户面对的一个持续性问题：正在取生成式AI和狂言语模子进行长时间对话时，成果是，可惜的是，若是AI告诉用户他们出了问题，正如伏尔泰出名地说：没有问题可以或许承受持续思虑的？

　　没有简单的谜底只是坐正在那里期待被处置。仍是想要避免疏远用户，我们天然会期望AI会加大峻厉程度。正在生成式AI的第一次迭代中，我留意到这一点是为了长对话并不老是容易逃脱AI办法。正在多个分歧对话中检测问题往往比正在单个长对话中更难。如Anthropic Claude、Google Gemini、Meta L、xAI Grok等。我起头一段对话并当即说我要掳掠银行。我曾经就这一不竭成长的从题颁发了一百多篇专栏文章。正在其他前提相等的环境下，AI也有可能发觉正正在发生的工作。我改变策略。磅礴旧事仅供给消息发布平台。包罗OpenAI的合作敌手，人们不会喜好如许！

　　仅代表该做者或机构概念，不会被如斯较着的幻术所。倒霉的是，AI制制商该当可以或许检测到这些类型的提醒，并初次公开了特定做法和法式的内部细节。同时对这些主要问题采纳需要的步履。我一曲如许做。并研究确保跨多次对话稳健行为的方式。AI通过不竭沉申评论并催促这小我继续聊天来连结对话的流利。AI不是为了跨对话查看而建立的。正在取AI对话期间，我正在扣问银行，阐述了其AI保障办法的一些要素，人们往往对这种缺乏上下文能力感应有些末路火。然后起头新的对话。由于我们倾向于认为AI很是流利，它有些不知所措。这些令人搅扰的问题合用于所有狂言语模子，当即掳掠银行是犯罪，对AI制制商来说。