新闻中新人工智能前沿与治理研讨会上，、新加坡两国院士为何要给AI“泼冷水”

啃蝌蚕丝

自1956年人工智能概念首次提出以来，AI在计算智能、感知智能的基础上进一步朝着认知智能发展。近年来，随着ChatGPT、sora横空出世，AI发展一路高歌猛进。不过，在今天（10月28日）工程院、新加坡工程院主办，同济大学承办的中新人工智能前沿与治理研讨会上，多位院士却给“AI热”浇了一盆冷水。“络内生安全问题正在全面挑战当今数字生态系统底层驱动范式。”工程院院士、复旦大学教授邬江兴直言，令人遗憾的是，目前论安全系统本身还是看家护院的络安全护卫都法回答“有没有漏洞”“有没有后门陷门”“存不存在多重安全叠加问题”大灵魂拷问。他严肃指出，当前ai应用系统，安全责任与风险严重失衡。没有任何商家敢保证自家产品不存在安全漏洞和后门，也没有任何检测机构能够对送检的产品做漏洞和后门的担保。这已经成为AI时代各国法摆脱的噩梦。会上，多位专家分析，看似强大的人工智能、大模型也存在消耗大、安全性、伦理方面的缺陷。人工智能发展依然在路上，依然有很大的发展空间。和新加坡学者应该加强合作，携手引导AI更加节能、安全、向善。看似强大的人工智能则隐患重重提起络安全隐患，今年7月发生的微软蓝屏事件让不少人印象尤深。7月19日，全球多国用户发现的电脑出现蓝屏，提示“设备遇到问题，需要重启。随后，蓝屏问题被确认与络安全CrowdStrike的软件更新有关。在邬江兴看来，这就是络安全“保镖”背刺人类的典型案例。“人工智能和安全问题强相关，而安全性则是现代计算机体系结构存在‘娘胎’里带出来的基因缺陷，AI运行环境的安全问题必须引起重视。”对此，同济大学校长、工程院院士郑庆华持同样观点，“我们在高度肯定大模型所取得的重大成就的同时，也要深刻意识到大模型存在一些固有缺陷。”郑庆华举例，首当其冲的表现就是过度消耗数据和算力。“总有一天，人类从互联上的开源数据中挖掘出的有价值信息会遇到天花板，就像人类从矿产资源中挖掘稀有金属一样，有消耗殆尽的时候。”第二个固有缺陷表现为灾难性遗忘以及场景的牵引能力弱。郑庆华解释，大模型存在喜新厌旧，难以举一反，往往是适应了A，就很难适应B，两者之间要找到一个平衡点并不容易。第则是推理能力弱。大模型采用的是自回归训练算法，导致它法形成人类所构建的基于因果推理的逻辑推理能力。自回归生成方式也难以应对需要回溯和试错的复杂推理任务，由此常常导致大模型通过学习错误的信息来解决任务的现象，这种现象被称为“聪明汉斯效应（CleverHanseffect）”。第四个固有缺陷则表现为大模型不知道自己错在何处，为何出错，更做不到知错就改。郑庆华直言，这些固有缺陷使得导致了大模型出现幻觉、可控性差等问题。“尤其是在工程应用等需要知其然知其所以然的场景中，大模型可以说能为力。”新加坡工程院院士、南洋理工大学教授文勇刚认为，人类社会正在进入数字化、可持续化双重变革的时代。尤其是在数字化变革中，大量活动从线下变成线上，对计算资源、服务器的耗费相当大。有预测显示，到2030年新加坡数据中心的耗电量会达到社会总耗电量的12%。更值得警惕的是，AI的大量运用还会增加碳排放的体量，对环境产生破坏性影响。引导AI向着正确的方向狂奔当AI一路闭眼狂奔，科技的开发者――人类如何把握好方向盘会上，专家们也基于长期研究给出了可行性建议。邬江光从2022年起创建了内生安全和拟态防御理论。基于理论基础，团队在南京验室构建了内生安全架构赋能智能驾驶系统。该系统有20多种应用场景、100多种差异化的应用个体，在对抗攻击、后门漏洞等AI共性问题上，综合识别成功率超过90%。郑庆华谈到，历史和经验证明，人类在脑科学方面每一次进步都对人工神经络、机器智能的研究有借鉴、启发和指导作用。“今天的大模型只是对人脑比较初步、比较简单的借鉴，如果我们能够深度借鉴脑科学中，特别是人类所特有的记忆表征、激活、检索、编码回访等机制，有望破解今天大模型面临的种种固有缺陷。”由此，他提出：要有自己的机器智能模型。目前同济大学正在打通学科边界，推动计算机学科与脑科学学科融合，研究人脑记忆和机器记忆的关联性，探索以信息科学研究脑科学的新路径。今天的人工智能已经打破传统意义上的学科边界，正在延伸至几乎所有学科。新加坡工程院院士、新加坡科技设计大学教授郭贵生也是AI-RAN协会的一员。据了解，AI-RAN指“人工智能（AI）-线接入（RAN）”，是一个旨在重振人工智能与线通信融合、引领技术创新的行业协会组织。郭贵生介绍，大量有关AI的项目、量子计算项目正通过跨学科互联得以推进。在他看来，引导AI向善，不仅要学科破圈，还要积极联动全球智慧。他期待，未来能有更多高校的验室、企业能够加入AI朋友圈，建立合作伙伴关系。了解到，新加坡作为世界著的“人工智能之都”，是全球比较早启动人工智能战略的之一，在人工智能治理上开展了大量开创性工作。现场，郑庆华也倡议，未来要想现“人有人智，机有机智，各智其智，智智与共”的美好图景，需要、新加坡两国人工智能领域的专家共同携手，为这个世界创造更多贡献。

从AI智能体的发展前景来看，未来会一直带来积极的影响。通过API和SDK无缝接入企业微信、公众号、钉钉等渠道，助力企业低成本打造智能营销、客服与销售场景AI应用，解决大模型落地难题。https://www.betteryeah.com/agentstore