AI 与硬件
RoboTIPS 项目:为数字经济开发负责任机器人,提出“伦理黑匣子”方案

完整中文导读
牛津大学计算机系 RoboTIPS 项目提出为机器人配备类似航空飞行数据记录器的“伦理黑匣子”,持续记录传感器与内部状态数据,并可扩展到记录 AI 决策过程与事故前环境因素,为事故归因和改进提供证据。该项目由 EPSRC 资助、为期 5 年,由 Marina Jirotka 教授主持,并与西英格兰大学机器人伦理教授 Alan Winfield 合作,目标是让负责任创新落地到技术开发者实践中。
中文整理
作者 / 来源:Oxford HCC · 以人为中心计算项目 · 原文时间未提供
原作者信息要点
RoboTIPS项目旨在为可信和安全技术开发负责任创新(RI)的新方法,主要挑战是将负责任创新嵌入技术开发者的实践,并创造RI在行动中的正面案例。
该项目是EPSRC授予Marina Jirotka教授的五年期既定职业数字经济奖学金项目,与西英格兰大学机器人伦理学教授Alan Winfield合作。
Marina和Alan长期合作发展“伦理黑匣子”概念,主张机器人应配备类似航空飞行数据记录器的黑匣子,持续记录传感器和相关内部状态数据,并可扩展范围以捕获不利事件前的AI决策过程和环境因素。
该数据可在机器人事故或不利事件后提供关键证据,帮助理解机器人行为原因,并提出更改建议以防止类似事件或限制潜在损害。伦理黑匣子因此提供了提高安全性和公众对机器人信任的途径。
项目团队包括Helena Webb博士,她与Marina在牛津大学以人为中心的计算主题下密切合作。
在五年内,Marina及其团队将开发:针对数字经济技术的基于实践的RI方法;自主系统开发者设计可问责技术的实用方法;适用于人类和机器人代理集体的新问责模式和新责任概念;通过负责任创新方法开发的数字经济技术的首个具体示例。
本站整理与观察
本站观察:材料显示RoboTIPS项目将伦理黑匣子作为核心概念,强调数据记录对事故调查和预防的作用,但未提供具体技术实现细节或已完成的实验数据。
本站观察:项目目标包括开发可问责技术设计方法和新责任概念,但材料未说明这些方法将如何验证或评估。
本站观察:材料提及项目为期五年,但未给出具体起止时间或当前进展阶段。
材料未提供项目具体起止日期、已发表成果、实验数据或伦理黑匣子的技术规格;作者观点与已验证事实的区分基于材料本身,未引入外部信息。
本文为来源内容的中文摘要与整理,不代表原文全文翻译。完整信息请查阅来源原文。