Google DeepMind wants to know if chatbots are just virtue signaling

Google DeepMind正在呼吁对大型语言模型的道德行为进行与审查其编程或数学能力同等严格的审查。随着大型语言模型的不断改进，人们开始要求它们扮演更多角色，如伴侣、治疗师、医疗顾问等。DeepMind提出这一呼吁的核心目的是探究聊天机器人是否仅仅在进行"道德表演"（virtue signaling）——即表面上表现出道德行为但实际上缺乏真正的道德理解。文章强调，当LLMs被要求在这些敏感的人类互动领域发挥作用时，我们需要用同样的科学严谨性来评估它们的道德表现，就像评估它们的技术能力一样。这反映了AI研究领域对模型伦理评估标准化的迫切需求。