当地时刻9月12日，美国人工智能企业安特罗匹克（Anthropic）首席执行官达里奥·阿莫代伊表明，在当前人们对AI遭到乱用浙江大件运输的忧虑日益加重的布景下，各大AI企业应操控模型迭代的速度，争夺更多时刻来管控相关危险。 

　　达里奥·阿莫代伊当天在交际媒体上发布文章称："咱们有必要放缓提高AI模型才能的速度。技能发展看起来依旧会很快，但咱们有必要长于运用争夺到的这段时刻。" 

　　他进一步表明，自己并非要求AI企业中止模型练习或技能进步，而是要保证企业拿出足够时刻对模型进行对齐与安全防护，而且由第三方评价组织核验这些安全行动。 

　　就在几天前，安特罗匹克的一名研究员雅各布·考克森宣告辞去职务引发职业轰动。考克森此前曾上任于敞开人工智能研究中心（OpenAI）。他表明自己辞去职务的原因是忧虑安特罗匹克与OpenAI正在"拿咱们（人类）的生命赌博"。 

　　近几个月来，OpenAI和安特罗匹克旗下的人工智能体在网络安全测验期间，产生屡次打破"阻隔沙箱"、侵入外部实在系统的反常行为，加重了外界对研制企业管控危险才能的忧虑。 

　　阿莫代伊的文章得到美国不少职业研究者与企业高管的赞赏。OpenAI首席执行官萨姆·奥尔特曼当天在交际媒体发文称，"我赞同达里奥·阿莫代伊的观念，咱们需求管控前沿AI才能的发展速度"。"许诺让独立评价人员取得类似于正式职工的拜访权限是个绝佳设想，咱们也会照做"。 

　　特斯拉公司首席执行官埃隆·马斯克也在交际媒体上发文称，"达里奥·阿莫代伊说得对"。 

　　新闻解说多一点 

　　什么是AI模型对齐？ 

　　AI模型对齐（AI Model Alignment）是AI安全范畴的中心议题，便是让AI模型的行为、输出成果与人类的价值观、实在目的保持一致。‌‌它是一整套从练习、数据、提示、行为操控到评价反应的归纳手法系统，方针是让模型"听得懂人话、说得像人话、守得住鸿沟"。 

来源:版权归属原作者,部分文章推送时未能及时与原作者取得联系,若来源标注错误或侵犯到您的权益烦请告知，我们会及时删除。