中新人工智能前沿与治理研讨会上，中国、新加坡两国院士为何要给AI“泼冷水”？

2025-06-14 来源：AI图库吧

对此，同济大学校长、中国工程院院士郑庆华持同样观点，“我们在高度肯定大模型所取得的重大成就的同时，也要深刻意识到大模型存在一些固有缺陷。”郑庆华举例，首当其冲的表现就是过度消耗数据和算力。“总有一天，人类从互联网上的开源数据中挖掘出的有价值信息会遇到天花板，就像人类从矿产资源中挖掘稀有金属一样，有消耗殆尽的时候。”第二个固有缺陷表现为灾难性遗忘以及场景的牵引能力弱。郑庆华解释，大模型存在喜新厌旧，难以举一反三，往往是适应了A，就很难适应B，两者之间要找到一个平衡点并不容易。第三则是推理能力弱。大模型采用的是自回归训练算法，导致它无法形成人类所构建的基于因果推理的逻辑推理能力。自回归生成方式也难以应对需要回溯和试错的复杂推理任务，由此常常导致大模型通过学习错误的信息来解决任务的现象，这种现象被称为“聪明汉斯效应（Clever Hans effect）”。第四个固有缺陷则表现为大模型不知道自己错在何处，为何出错，更做不到知错就改。郑庆华直言，这些固有缺陷使得导致了大模型出现幻觉、可控性差等问题。“尤其是在工程应用等需要知其然知其所以然的场景中，大模型可以说无能为力。”新加坡工程院院士、南洋理工大学教授文勇刚认为，人类社会正在进入数字化、可持续化双重变革的时代。尤其是在数字化变革中，大量活动从线下变成线上，对计算资源、服务器的耗费相当大。有预测显示，到2030年新加坡数据中心的耗电量会达到社会总耗电量的12%。更值得警惕的是，AI的大量运用还会增加碳排放的体量，对环境产生破坏性影响。

引导AI向着正确的方向狂奔当AI一路闭眼狂奔，科技的开发者——人类如何把握好方向盘？会上，专家们也基于长期研究给出了可行性建议。邬江光从2013年起创建了内生安全和拟态防御理论。基于理论基础，团队在南京实验室构建了内生安全架构赋能智能驾驶系统。该系统有20多种应用场景、100多种差异化的应用个体，在对抗攻击、后门漏洞等AI共性问题上，综合识别成功率超过90%。郑庆华谈到，历史和经验证明，人类在脑科学方面每一次进步都对人工神经网络、机器智能的研究有借鉴、启发和指导作用。“今天的大模型只是对人脑最初步、最简单的借鉴，如果我们能够深度借鉴脑科学中，特别是人类所特有的记忆表征、激活、检索、编码回访等机制，有望破解今天大模型面临的种种固有缺陷。”由此，他提出：中国要有自己的机器智能模型。目前同济大学正在打通学科边界，推动计算机学科与脑科学学科融合，研究人脑记忆和机器记忆的关联性，探索以信息科学研究脑科学的新路径。

今天的人工智能已经打破传统意义上的学科边界，正在延伸至几乎所有学科。新加坡工程院院士、新加坡科技设计大学教授郭贵生也是AI-RAN协会的一员。据了解，AI-RAN指“人工智能（AI）-无线接入网（RAN）”，是一个旨在重振人工智能与无线通信融合、引领技术创新的行业协会组织。郭贵生介绍，大量有关AI的项目、量子计算项目正通过跨学科互联得以推进。在他看来，引导AI向善，不仅要学科破圈，还要积极联动全球智慧。他期待，未来能有更多中国高校的实验室、企业能够加入AI朋友圈，建立合作伙伴关系。记者了解到，新加坡作为世界著名的“人工智能之都”，是全球最早启动国家人工智能战略的国家之一，在人工智能治理上开展了大量开创性工作。现场，郑庆华也倡议，未来要想实现“人有人智，机有机智，各智其智，智智与共”的美好图景，需要中国、新加坡两国人工智能领域的专家共同携手，为这个世界创造更多贡献。

李科：以生成式AI为代表的人工智能技术是挑战也是机遇

最后一页