帝国理工研究员获皇家学会职业发展奖学金，研究文化对齐AI

完整中文导读

帝国理工学院计算系Google DeepMind学术研究员Shamsuddeen Muhammad博士获得皇家学会职业发展奖学金，开展为期四年的研究项目，旨在减少人工智能中的文化偏见，提升大语言模型对非洲语言社区的安全性和可靠性。项目名为“利用审议对齐缓解非洲语言大语言模型的文化偏见”，将结合AI安全进展与当地社区及领域专家知识，创建文化基础训练数据、评估工具和安全指南，并采用审议对齐方法训练模型在生成回应前推理安全指南，以提供文化适宜的回答。

项目还将为研究社区创建开放资源，包括文化标注数据集和评估工具，预期成果是新一代能更好服务非洲语言社区并减少有害刻板印象和西方中心文化偏见的语言模型。