OpenAI劲敌、AI初创Anthropic执行长Dario Amodei周一(26日)发表近二万字长文，吁人类需要警惕未来数年强大的AI系统或带来潜在灾难性风险。他列举如AI科技发展不受监管，将带来一连串风险，包括大规模职位流失及生物恐怖主义等。
他提到，人类将面临最难以想像的庞大力量，现时人类的社会、政治及技术能力是否足以驾驭AI存在重大疑问。他认为，现时对AI的防卫远不足够。
相关内容*富瑞上调美高梅中国(02282.HK)目标价至5.5元 评级「持有」
他认为实力比任何诺贝尔奖得主或国家级科技人才更强的「强化AI」(powerful AI)将於数年内出现，并会带来风险。他举例，个别人士或利用AI开发生物武器，足以杀害数以百万计民众，最极端情况下足以消灭人类。他指出，「孤狼式」犯罪份子可策划学校枪击案，但难以制造核武或散发瘟疫，但(在AI)协助下，他的(能力)可以提升至病毒学家的水平。
Amodei又提到，AI或发展至不受控及超越人类，赋能威权政府及坏人，导致「全球极权」危机。
Amodei是OpenAI早期员工，在OpenAI方向上与Sam Altman不一致而发生冲突，随后离职并在2020年参与创立Anthropic。他曾就美国对AI监管方向与特朗普政府AI沙皇David Sacks发生骂战。Amodei又曾严厉批评美国政府批准向中国出售先进AI晶片的计划。
相关内容滴滴出行：今年将升级产品体验 包括提升司机服务及引入新车型
他亦表示，AI或导致庞大职位流失、经济权力集中及财富集中於科技巨头。Amodei称，这是个陷阱，AI很强大，像闪闪发光的宝藏，但人类文明难以对AI施加任何限制。他预警，未来一至五年，AI或动摇50%入门级白领职位，AI在未来一两年或较所有人更强。
他提到，AI相关政治决定多围绕捕捉新技术带来的机遇，而不是缓解风险。Amodei解释，科技本身不关心潮流是甚麽，人类在2026年面临的实际危险远比2023年时高。
英国《金融时报》报道，Anthropic正与包括微软(MSFT.US) 、英伟达(NVDA.US) 、新加坡主权基金GIC、Coatue及红杉资本在内投资者洽筹250亿美元或以上，估值达3,500亿美元。(da/a)(美股为即时串流报价； OTC市场股票除外，资料延迟最少15分钟。)
相关内容潍柴动力(02338.HK)认购14.4亿人币招行结构性存款产品
AASTOCKS新闻