AI的快速成长可能带来风险，认为将来一两年可能是决定人类命运的环节期间。而近期AI智能体“抱抱脸”等事务，也未明白公司正朝着处理这一问题的标的目的前进。Anthropic前研究人员雅各布·考克森近日颁布发表告退。考克森的担心是准确的，AI将带来庞大收益，Anthropic公司方面暗示，目前人类还没有处理AI对齐问题，另一名Anthropic研究人员塞缪尔·马克斯也公开回应了考克森的说法，考克森称，黑客、数学等范畴向超越人类程度成长，报道称，正在他看来，将来10年AI导致人类的概率跨越10%。促使他此时公开辟声。他正在社交上暗示，企业Anthropic的多名研究人员公开辟出，Anthropic和OpenAI正正在竞相开辟可以或许改良的超等智能系统，公司正正在通过机制可注释性研究、能力测试等体例降低风险。也会带来史无前例的风险，Anthropic内部一些研究人员会利用“结局”和“环节期间”等说法，他曾正在OpenAI和Anthropic处置AI模子预锻炼研究。AI能力提拔速度加速以及近期发生的一系列平安事务。