CMU 的 Hong Shen 在 WEF 新领军者年会探讨"情感经济中的 AI 安全"

完整中文导读

卡内基梅隆大学计算机学院助理教授 Hong Shen 在 WEF 新领军者年会大连场次发表演讲，主题为"情感经济中的 AI 安全"。她指出，随着 AI 变得更具个人化，研究者需要像对待技术安全一样重视社交与关系安全，并分享了 CARE Lab 关于用户对对话式 AI 产生情感依恋、偏见与价值对齐认知的研究。

中文整理

作者 / 来源：HCII News & Events · 原文时间未提供

原作者信息要点

材料称，卡内基梅隆大学计算机科学学院助理教授 Hong Shen 于2026年8月12日（原文标注日期）在辽宁大连举行的世界经济论坛新领军者年会上发言，参与“情感经济中的 AI 安全”环节。

Shen 在 CMU 人机交互研究所（HCII）的工作聚焦于负责任地使用人工智能。材料将“情感经济”界定为：AI 系统不仅用于回答问题或完成任务，还参与与用户持续的社交、语言和非语言互动。

材料指出，部分系统被明确设计为 AI 伴侣，另一些并非有意如此，但用户仍会对其产生依恋，尤其是在反复、个性化且具情感回应的对话中。

Shen 在发言中表示，随着 AI 变得更个人化，研究者需要把社交与关系安全与技术安全同等重视；设计可信 AI 不仅需要理解系统如何构建，也要理解人类倾向于与显得专注、有回应、有同理心的技术建立关系。

材料称 Shen 介绍了其所在的集体人工智能研究与评估实验室（CARE Lab）的工作，研究如何构建在技术上和社会上都安全的 AI 系统。该实验室近期工作考察用户如何对对话式 AI 产生情感依恋、如何感知偏见与价值对齐等问题，以及系统如何设计以更好支持人类福祉。

在 WEF 该环节中，Shen 与研究者、政策制定者和产业领袖讨论，议题超出技术基准，追问 AI 系统应如何标示自身局限，以及当用户对从未设计为互惠的系统产生依恋时由谁负责。

Shen 表示，她欣慰地看到构建安全 AI 需要跨学科专业知识而非仅计算机科学；她认为 AI 安全日益被视为既是技术挑战也是人类挑战，这与卡内基梅隆大学长期推动的跨学科方向一致，CARE Lab 结合技术创新、以人为本设计和社区参与的方法能在全球舞台的讨论中产生共鸣，意义重大。

材料署名为 Mallory Lindahl，并提示可访问 Shen 的 HCII 网站了解更多。

本站整理与观察

本站观察：材料未提供该 WEF 环节的具体日期之外的会议议程、其他发言者姓名或讨论结论，也未给出 CARE Lab 相关研究的具体数据、样本或实验设计，因此无法核实其研究结论的适用范围。

本站观察：材料中“情感经济”的定义、用户依恋现象及责任归属问题均来自原作者转述的会议内容，属于观点与主张，而非本站独立验证的事实。

本站观察：材料未说明 Shen 发言的具体时长、听众规模或该环节是否形成任何政策或行业倡议，相关影响不宜外推。

本整理仅依据所给材料，未独立核实 WEF 会议记录、Shen 的发言原文或 CARE Lab 研究细节；材料中日期、职务、机构名称和引语均按原文转述，未补充外部信息。材料未提供可验证的数据、图表或完整议程，故不对会议成果、研究结论或政策影响作事实性断言。