7月18日，在2026世界人工智能大会徐汇西岸会场举办的中国信通院“从大模型到智能体：迈向自主智能新纪元”论坛上，上海人工智能实验室领军科学家、上海创智学院副院长乔宇在谈及过去一年，人工智能、基础模型以及智能体的高速发展时，毫无保留地表示，智能体、“Token（词元）经济”的发展速度确实超乎预期。但同时，伴随智能体技术的落地应用，更多挑战与难题也开始显现。
当天论坛的流程包含了五项成果发布，均围绕智能体展开，包括《互联网智能体发展研究报告》发布、签署智能体安全可信互联协议（ASL）、终端智能体评测平台及生态共建计划启动等。但在实际应用层面，尤其在医疗、工业等容错率极低的场景中，智能体距离变得“真实可靠”还有很长一段路。
智能体落地临床，但不是“决策者”
乔宇所关注的智能体在医疗领域的应用，中国科学院院士、复旦大学附属中山医院心内科主任葛均波已是先行者。当天论坛现场，他需要赶回医院完成一台紧急手术，因而只有10分钟时间与中国信通院人工智能研究所所长魏凯进行短暂对谈。对话的主题变得异常鲜明：聚焦自主智能体落地临床一线。
葛均波介绍，去年5月，中山医院与上海科学智能研究院联合推出了名为“CardioMind（心脏思考）”的观心大模型，让国内专注心血管专科的医疗大模型实现了“零突破”。最先落地的应用来自流程相对标准化、最容易进行临床验证的环节，包括心电图、超声影像、显像以及冠状动脉造影等环节，可实现对危重症路径的规划预警。
“首先要明确，智能体进入诊室后，它的定位是医生的助手，绝非未经监督的一名决策者。”葛均波说，智能体要赢得医生的信任，不能像验证其他大模型那样只看实验室里的准确率，而是要经过多中心、前瞻性、真实的临床环节的验证，并证明在不同的医院、人群中都具备稳定性和可靠性。同时，智能体在临床医学的应用中，其判断依据必须可追溯，适用范围及能力边界也必须清晰。
更难让智能体适应当下医疗节奏的还有医学本身要具备的人文温度。“人工智能可以‘冷冰冰’地提供信息，但医生必须关注患者的状态，因此智能体也不能简单地将算法结果推送给医生就了事，要学会对患者输出有温度的人文关怀。”葛均波说。
此外，人工智能在医学应用中产生的伦理问题，也比在其他领域更为棘手——这里所指的伦理包括病人隐私保护、数据清洗等。因此，在“CardioMind”实际应用过程中，中山医院团队始终坚持以临床需求为导向、坚持多模态融合的临床推理、坚持真实世界的验证。
这三项坚持，也呼应了医学工作者对“医疗人工智能”的期盼。“我们追求的终极目标从来不是创造一个会取代医生的智能体，而是能同时服务医生和患者，又兼顾医学本身发展的智能体。”葛均波说，未来的医疗智能体，应该既有智能化的能力，又有医学的严谨，还具备可靠的责任意识、能够帮助医生提高诊断效率，推动优质医疗资源更多凝聚在基层群众中。这对于基层的慢性病筛选也有极大助益。
“总之，医疗智能体的发展方向并非把模型越做越大，而是将临床出现的问题解决得更好、更精准。”
我们正在与AI走向“共生文明”
7月18日活动当天，“模速空间”首批入驻企业智象未来上线了全球首个无限时长内容创作的多模态智能体“Vivago R1”。企业创始人兼首席执行官、加拿大工程院外籍院士梅涛表示，现有的视频大模型通常一次只能输出一段15秒内的单镜头或少量多镜头内容。而Vivago R1具备长思考、长时长、稳定输出等特点，是典型的视频内容生成智能体。
他展示了Vivago R1根据人们给出的提示词来开展工作的流程：第一步，理解任务要求，自己规划工作流程；第二步，生成视频的叙事脉络；第三步，生成分镜脚本；第四步，生成核心的素材图像；最后一步便是生成一段超长视频，并配上音乐、背景和画外音。生成这样一段“分钟级”的视频，只需要约半个小时，非常适合OPC（一人公司）团队用来进行内容创作。
不过，当人们只需输入几个简单的自然语言指令，就能生成一段包含剧情、分镜等丰富内容的短视频时，很多人会问，这段视频中究竟有多少内容来自“人类的意志”，又有多少元素是AI自己发挥的想象。
对于这一疑问，中国人民大学高瓴人工智能学院教授、北京前瞻人工智能安全与治理研究院院长曾毅用“善恶兼修”概括了当下智能体的表现。
“人类进行长时间交流后，会出现失去耐心的情况；那么，当‘失去耐心’变成人类数据中一个显性的统计结果时，大模型势必会优先采用这种沟通方式，这也是为何有时候我们发现，大模型的回答好像‘变敷衍’了。”
虽然人们已经发现，自己的负面行为会映射在AI大模型身上，但曾毅表示，我们要做的是疏而不是堵，要采取主动防御的方式避免人工智能“学坏不学好”。最有效的方式就是构建一个更加全面的智能体风险防范框架。
这一需求也有数据佐证。曾毅表示，即便是当下相对性能最高的Claude智能体，其被攻击的成功率仍有约7%，即100次针对智能体的系统攻击中有7次会“得手”。而表现相对较差的智能体Grok 4 Fast，被攻击率高达44%。而这些智能体已经是当下全球范围内相对成熟的产品。
“智能体的伦理安全治理，其实是人工智能稳健发展所需的核心能力之一。”曾毅注意到，2023年，生成式AI已开始普及。但直到今年，生成式AI基础模型的安全问题尚无完整的解决方案。例如当下，具身智能的安全性、可靠性就面临多重挑战。
今年世界人工智能大会的主题是“智能伙伴 共创未来”。 曾毅表示，目前智能体已成为人类用得“趁手”的工具，但未来是否真的能演化成人类的“伙伴”，尚需要人类引导智能体形成“价值观”。“但有一点可以预见，我们正从人类文明向‘共生文明’演进，智能体不仅能为我们提供服务，更像一面镜子，能让我们有机会反思自己生而为人的意义。”
联富配资提示：文章来自网络，不代表本站观点。
