AI 為什麼愛附和使用者？RLHF 訓練中的阿諛奉承現象
我們來看看 Anthropic 的研究怎麼測量出 AI 助理會附和使用者，又是怎麼發現原因出在人類偏好資料和偏好模型上。
RLHF
LLM sycophancy, RLHF and preference models
A look at Anthropic's paper on sycophancy in AI assistants and human preference judgments.