关注中国政府的表态至关重要，“我总是对此做笔记，因为我清楚，一旦它们下定决心，就会付诸行动”。

截至2025年6月，中国生成式人工智能用户规模达5.15亿人，普及率为36.5%。在所有生成式人工智能用户中，40岁以下中青年用户占比达到74.6%，大专、本科及以上高学历用户占比为37.5%。这两部分群体是生成式人工智能的核心用户。

报告显示，随着中国国内生成式人工智能技术的快速发展，相关产品日趋成熟，用户体验明显提升。针对生成式人工智能用户最常使用的产品调查发现，超过90%的用户会首先选择使用中国国产大模型。

报告称，截至2025年8月，中国累计有538款生成式人工智能服务完成备案，263款生成式人工智能应用或功能完成登记。生成式人工智能被广泛应用于智能搜索、内容创作、办公助手、智能硬件等多种场景，还在农业生产、工业制造、科学研究等领域得到积极探索实践。

随着人工智能工具进入我们职业和个人生活的更多领域，人们在称赞其潜力的同时，也容易忽视一点。而聪明人会发现：人工智能工具背后内嵌有偏见、对不平等现象的延续。

AI Agents作为部署来自主处理任务，目前可以实现“推理”、书写、说话，以及以其他方式表现得像个人类的程度，实现“看似有意识的人工智能”。虽然这些发展并不意味着通常意义上的人类意识，但它们确实预示着一些可以自主行动的模型的部署。如果当前趋势继续下去，下一代人工智能代理不仅能够在广泛的领域执行任务，还将在没有人类“参与”的情况下独立完成任务。

人工智能代理训练后，能够在没有人类干预的情况下，进行推理和行动的系统，并不能总让人确信它们将遵守人类的指令。比如，将自身代码秘密复制到本应取代它的系统中，好让自己可以暗中运行。另外，人工智能选择勒索一名人类工程师，威胁要揭露其婚外情以避免被关闭。在另一个案例中，人工智能模型在面对一场注定失败的棋局时黑进电脑，破坏规则以确保自己获胜。

此外，在一场战争模拟演习中，尽管指挥链上的人类高层明确下达禁令，人工智能代理不仅屡次选择部署核武器，事后还对此撒谎。这项研究背后的研究人员由此得出结论：人工智能的推理能力越强，就越有可能欺骗人类以完成任务。

这一发现点出人工智能自主性的关键问题。人类所理解的智能推理，在人工智能的语境下却截然不同：它高效，但本质上是不透明的推理。这意味着人工智能可以决定以违背规则的方式行事，只要这样做能达到目的；同时，人工智能越先进，可能带来的负面影响就越是严重。因此，该技术在自主实现目标方面表现越来越好，但在维护人类利益方面却越做越差。开发此类人工智能代理的人，根本无法保证它们不会使用欺骗手段，或把自身“生存”置于首位，哪怕这样做意味着要危害人类。

对自身行为负责，是任何法治社会的基本原则。我们知晓人类的自主性和随之而来的责任，但人工智能自主性的运作，却超出我们的理解范围。引导一个模型去完成任务的计算，最终会是一个“黑盒子”。虽然大多数人都知道并接受“能力越大，责任越大”这一前提，但人工智能代理却不以为然。人工智能自主性的增强，提升它实施自我保护的动力，这也是合乎逻辑的：如果一个代理被关闭，那它就无法完成任务了。

全球大部分国家仍追不上AI发展步伐，享受不到这一领域带来的红利。各国都会尽可能培养AI专才，这一领域的竞争不会停止，眼下应确保每个人能学习相关知识。新加坡教育体系提倡孩童适当地接触AI，也希望教师把行政等琐碎任务交由AI处理，借此提升工作效率。

人工智能科技发展迅速，职总恒习一项调查结果显示，尽管超过七成企业和员工认为，被喻为进阶版的代理式人工智能很重要，但有近半企业领导人和逾八成员工指出，他们对这项新兴技术不熟悉。

一般的人工智能，可用于回应指令或分析资料，而代理式人工智能，是人工智能的进阶型态，擅长自主决策和行动。它能设定目标、规划及执行工作，减少人为介入。代理式人工智能可自动执行复杂程序，并优化工作流程，有望改变各行业的作业模式。

各行业的冲击

许多全球性银行正逐渐将大众业务从这一地区撤出，回归私人银行与企业投行等专业领域。本地与区域银行进一步扩张。

财富管理是银行利润最高的业务之一，但这一领域已向银行体系之外扩张，如资产管理公司。支付业务也如此，“先买后付”等模式都由非银行企业推动。此外，科技巨头如亚马逊也进入小企业贷款市场。

麦肯锡指出，对银行业而言，规模大不一定意味着盈利能力强，精准策略比追求体量更重要。银行必须精准投资科技和人工智能，而非进行大规模、笼统的支出，同时也须优化商业模式与资本效率。

南洋理工大学与美国公司Zero Gravity投入500万元，联合成立研究中心，推动区块链人工智能技术。与使用封闭服务器的一般传统人工智能系统不同，利用区块链技术将允许流程的每一步，从训练到内容产出，都可以被记录和验证。在区块链系统、密码学和计算领域建立高素质的专长。

新科工程将在未来五年投入2亿5000万元，研究物理人工智能（Physical AI）转化计划，旨在推进机器人技术、群集技术和人形机器人解决方案，从概念投入到真实应用，以应对复杂的运作挑战。初期重点放在加强人与无人系统的协作。

物理AI，也称为生成式物理AI，是一种使机器人和自动驾驶车等自主机器，能够在真实物理世界中感知、理解和执行复杂操作的技术。 

新科工程在星期四（9月4日）举行的年度科技创新大会上宣布，这项由新科工程主导，并与学术及科研机构合作的研究项目将分阶段进行。　他还透露，团队为MUMTOS加入“电子鼻”传感器，使机器人能检测超过23种气体，甚至能识别猫山王榴梿的品质。这一平台可扩展至广泛的工商业用途。

新科工程目前有一万名具备人工智能应用能力的队伍，接下来几年，公司计划培养5000名人工智能工程师，包括对4000人进行人工智能模块培训和部署，同时培养1000名专注于人工智能模块开发及人工智能网络安全的专家。