Anthropic确实认实对待AI可强人类的风险，称Anthropic和OpenAI正竞相开辟可改良的超等智能，Hubinger称，Coxon则称，他小我认为将来十年人工智能“全人类”的概率跨越10%。但目前尚未找四处理超等智能对齐问题的方案，也没有明白迹象表白公司正朝这一方针推进。他暗示，Anthropic研究员Jacob Coxon颁布发表告退，但全球AI竞赛仍可能难以避免。目前AI模子本身的风险较低，Anthropic对齐科学担任人Evan Hubinger暗示，本地时间9月8日，实正担心的是通过递归改良发生超等智能。此前，“拿我们的生命赌钱”。