陈冲谈AI焦虑：现阶段要放缓AI发展 恐怕不容易

新世代金融基金会董事长陈冲在禧年经济伦理文教基金会以「AI是美梦？还是噩梦」为题发表专题演讲，并针对所谓的「AI焦虑」指出，人类渐渐欠缺理解与预测未来的能力，从而期待AI能够负责渐进的发展，在现阶段似不可能，包括三巨头在呼吁放缓AI后也没有落实。

陈冲认为，当踩不住AI发展的煞车，「失控」可能就会发生，就像《2001太空漫游》中，HAL9000居然指派太空人暗杀舰长，有了AI的叛变。人类希望AI可以和伦理达到alignment，但若希望AI有伦理道德，应在程式设计上让其学习，无奈巨头和政府皆不愿意花时间，只能悲观看待。如同两年前他的文章「AI焦虑症」，人类对AI的焦虑自58年前的电影至今，只有增加没有减少。

陈冲记得58年前（1968）人类还未登陆月球时，好莱坞就拍了部科幻电影《2001太空漫游》描述人类在木星的任务，他回忆在他大二的时候，与当时即颇有名气的影评人同学但汉章为筹措附中校友会刊物编辑的经费，找到电影公司表示愿意为电影撰写影评，赚取广告费用，生意侥幸成交，在陪同观赏影片时，听到人工智慧（Artificial Intelligence）一词，深感震撼，而这也是他第一次接触到AI的概念。

陈冲指出，当时大部分人关注的都是电影中逼真的特效，电影甚至获得奥斯卡最佳视觉效果奖，但华丽外表下，电影其实富含哲学寓意，电影中太空船上有一智慧超级电脑（AI），名为HAL 9000，HAL三个字母在英文字母排序中分别在I、B、M前头，IBM为当时股价最高的科技公司，故此命名其实隐含AI always one step ahead的意味。电影中，这AI在航太组员间挑拨，甚至自作主张，差点危害太空任务，后来还是人类智慧略胜一筹，圆满结束，但已充分显示人类对人工智慧的不安与疑虑。

2年前，陈冲曾撰文「从科幻电影与加州角力看AI立法」，文中的科幻电影即是刚才所提的《2001太空漫游》，对此他指出，当时即2024年加州议会已通过AI监管草案，表示人们已开始意识到AI若不管制，日后恐无法掌控，但州长在最后一刻否决，也显现商业利益在决策时的份量。

陈冲说，AI一词在1956年Dartmouth Workshop时被提出后名称并未改变，直到近日川普将其改称为SI（Super Intelligence）。他观察，相比AI，SI更有种「比人类更高级物种」的味道。

陈冲形容这种情绪指出，人类对AI是既期待又怕受伤害，害怕AI发展有天会超越人类，若AI只是取代人类双手还不可怕，毕竟自工业时代以来所有科技进步都是在取代人类的双手双脚，人类早有Innovation always cost your job 的认识，但他也反问，若有朝一日AI取代人类的脑袋或甚至是人类的存在，则又如何？

在他看来，如同58年前《2001太空漫游》中HAL always one step ahead of IBM，半世纪以来，这份人类心理底层的恐惧，似乎越来越趋于现实。近半年来，经济学人有9期的封面故事谈论AI相关议题，表示重要财经杂志也在大篇幅关注，AI的影响已不仅局限在脑袋中，而是人类真实的生活。

陈冲也提到，利他主义（Altruism）在近十年来经常出现，在AI的发展过程，也不时被讨论。有幅漫画中，左边有座矮屋center for finding cures，右边有座高楼center for turning the disease into long-term profitable treatments，前者指药厂开发出对疾病治疗非常有效的新药后，病患痊愈不再需要服用药物，第二年后的营业额自然呈悬崖式下降；但若药厂选择开发另一种药物，对病情有帮助但不会完全治愈，以确保自身长年的营收，不禁让人思考所谓利他主义是真正有效的利他？还是白宫所指有缺陷的利他？要开发对药厂有缺陷还是对病人有缺陷的药物？

从上述的例子，陈冲也进一步思考，人类对AI也有同样的矛盾心态，一方面期待AI的出现，但另一方面也怀疑如果真的有完全符合理想的AI，是否对自己就是真的好？

（

陈冲谈AI焦虑，指出现阶段要放缓AI发展恐怕不容易。联合报系资料照

本文转自：TNT时报