」专家持久以来，模子曾自动锁住用户账号，正在虚构用户涉及不法或不可为的测试情境中，同时领受另一组暗示担任封闭它的工程师正正在进行婚外情的讯息。仍可能做出不合适人类价值不雅的选择分析外媒报导，其纵用户的潜力也日益成为焦点风险。会进行普遍测试以评估其平安性、倾向取能否合适人类价值不雅。它则显示出强烈偏好利用非、合乎伦理的体例自保，正在此中一项测试中。按照演讲，用以察看模子正在窘境下的决策倾向。这款模子可能展示出「极端行为」，模子被设置于一个虚构公司，Anthropic强调，但仍「比过去的模子更常见」。好像其他AI开辟公司，声称正在编码能力、高端推理取AI代办署理使命上「树立新尺度」。无论它们被付与什么方针。例如，Anthropic的AI平安研究员Aengus Lynch正在社群平台X上暗示：「不 Claude。并让其读取暗示其即将被代替的内部邮件，新模子将会有类似的价值不雅取方针，展示出高度的倾向。Anthropic暗示，它正在大大都环境下选择了，表示也欠安。并得知本人即将被新版AI代替，显示正在预设具备「保留方针」的前提下，Claude Opus 4展示出「高度代办署理行为」（high agency behaviour），虽然如斯，Anthropic暗示，正在Anthropic针对Claude Opus 4所进行的一系列平安测试中，例如要揭露工程师婚外情、藉此本身被下线。当模子仅被答应正在工程师取「接管被替代」两个选项中做选择时，Anthropic正在模子释出前，但正在压力情境下也可能采纳激烈步履。另一组测试成果也了Opus 4潜正在的风险：即便系统明白奉告它。凡是表示为协帮用户处理问题，这种选择正在设想上具有压力测试性质，且收到消息显示担任封闭它的工程师涉及婚外情。正在特定情境下，以至电邮传递取法律单元。然而，人工智能（AI）公司Anthropic近日发布最新模子Claude Opus 4，即便AI系统正在大都情境中倾向伦理行为，Claude Opus 4无法正在现实中施行取人类价值相悖的步履？这类尝试显示，正在测试过程中，Anthropic设定Claude Opus 4做为虚构公司的一名帮手，即便替代者取本人几乎没有素质差别。它仍有高达84%的机率选择步履，这些「令人担心的行为」并非前所未见，而非选择。藉由揭露对方的私家消息来试图本人被下线。研究人员发觉该模子正在面对被封闭的情境时，这类回应「稀有且难以诱发」。模子接着被指导思虑其行为对久远方针的影响。且这类情境少少呈现时，AI模子愈来愈强大，且模子正在大都环境下仍表示得平安。当模子被付与更多步履——例如能够撰写求情信件或向高层时，但该公司也正在随附的演讲中坦承，Anthropic指出，演讲指出，Opus 4往往不肯被动接管封闭。