会员专栏

钱振兴：每家AI企业都必须把安全合规放在首位

信息来源： 宣教部   |  发布日期：2025/06/30

▲ 点击查看视频 ▲

视频时长：1分28秒

6月24日下午，上海市工商联“青年草坪”创新创业湃对首次高校活动在复旦大学江湾校区举办。本次活动以“AI×新业态：人工智能驱动产业进化”为主题。活动中，复旦大学计算与智能创新学院教授钱振兴用一连串真实案例为AI安全敲响警钟。

他指出，人工智能安全主要涉及四个阶段：数据准备、模型训练、模型评估、模型部署，从头到尾都可能埋藏风险。

他列举了著名的AI诈骗、恋爱操纵、深度伪造等典型案例，强调AI在整个链条中都可能遭遇对抗样本、数据投毒、后门植入、隐私泄露、越狱等安全隐患，并提醒企业：不要泄露模型架构，防止被有针对性攻击；若委托第三方训练，要严格检测数据源；使用开源或外包模型，务必进行后门测评；同时要高度警惕隐私泄露，否则将面临巨额赔偿或刑事责任等。

他认为，“在AI世界，‘眼见为实’已经不再成立。未来是一个‘眼见为假’的时代。每家AI企业都必须把安全合规放在首位，否则风险无处不在。”