概要：RISC-V和生成式AI论坛在上海召开，聚焦未来AI和超级智能影响。专家预测超人工智能（ASI）影响包括失业、失序和失控，并提出应对策略。论坛还讨论了大型AI模型垄断及其影响，包括知识同质化和文化多样性挑战。此外，探讨了AI“幻觉”的利弊及应用场景。
2024年7月6日，上海世博中心沉浸在一场科技盛宴之中。当天下午，由上海开放处理器产业创新中心和芯原微电子（上海）股份有限公司联合主办的“RISC-V和生成式AI论坛”盛大开幕。而在这场论坛的高潮部分，一场星光熠熠、思维激荡的圆桌讨论，犹如一颗璀璨的明珠，照亮了整个会场。
此次圆桌讨论的主持人，是中国RISC-V产业联盟理事长，同时也是芯原创始人、董事长兼总裁戴伟民博士。围绕圆桌，坐满了业界的精英：RISC-V国际基金会理事长戴路、华东政法大学政治学研究院院长兼人工智能与大数据指数研究院院长高奇琦、知合计算CEO孟建熠博士、芯来智融半导体科技(上海)有限公司CEO彭剑英女士、乌镇智库理事长张晓东，他们共同为观众带来了一场思想的盛宴。
对于未来超级人工智能和超级大模型专制的局面，各位嘉宾纷纷发表了独到的见解。
超级智能的曙光，将如何重塑世界？
关于AI到AGI，再到ASI的演变之路，学界和工业界众说纷纭。预测具体时间，宛如探寻星辰大海的边际，充满未知与挑战。Aschenbrener在今年6月发布的《警世预言》中，提出了一个大胆的设想——2027年，或许将是ASI的元年。
ASI的降临，无疑将掀起一场深刻的社会变革。高奇琦院长从三个维度进行了深入剖析：“失业”问题、“失序”问题以及“失控”问题。每一个问题，都如同悬在头顶的达摩克利斯之剑，挑战着人类社会的稳定与繁荣。
针对这些挑战，高院长提出了应对策略。他强调，对于大型模型，必须建立严格的分级制度，如同核武器安全控制一般。同时，他提出了合理收取税费的构想，将税收用于解决人工智能引发的问题，并可能用于调节产业发展速度。
大模型专制的时代，世界将何去何从？
超级人工智能的实现，离不开超大规模的计算中心和大模型训练的支持。然而，这种资源和成本的集中，使得只有少数公司或主体能够负担得起，从而可能导致超级人工智能的资源分配不均。
张晓东在发言中，引用了谷歌前CEO的设想，提出了全球可能只存在几个超级巨大的AI模型的可能性。他强调，这种集中可能会带来经济和社会影响，同时也可能威胁到全球文化的多样性。
高奇琦院长则从全球治理的视角出发，分析了大型人工智能模型对全球文化的影响。他呼吁，在追求技术发展的同时，也要注重保持文化的独立性和多样性。
AI的“幻觉”：想象力的边界还是技术的挑战？
当谈到AI的“幻觉”时，高院长和张晓东都表示赞赏。他们认为，这种“幻觉”是AI想象力的一种表现，但同时也指出了在某些场景中需要限制这种能力的重要性。孟建熠也强调，在不同的场景中，AI的“智商”应有所侧重，以确保其安全可靠地服务于人类。
