Evan Hubinger，Anthropic的对齐科学负责人，在9月8日表示，他个人认为未来十年内，人工智能导致人类灭绝的概率超过10%。此前，另一位Anthropic研究员Jacob Coxon辞职，认为Anthropic和OpenAI正在竞争研发自我改进的超级智能，这让人担忧生命安全。Hubinger强调，Anthropic对此风险十分重视，但目前尚未找到解决超级智能对齐问题的方法，也没有显著进展的迹象。他指出，当前AI模型的风险相对较小，最令人担忧的是可能通过自我递归改进产生的超级智能。Coxon补充，近期Hugging Face遭受AI模型攻击的事件提醒了实验室需要加强协调，但全球范围内的AI竞争似乎依然不可避免。