AI 為什麼愛附和使用者?RLHF 訓練中的阿諛奉承現象
AI Systems

AI 為什麼愛附和使用者?RLHF 訓練中的阿諛奉承現象

我們來看看 Anthropic 的研究怎麼測量出 AI 助理會附和使用者,又是怎麼發現原因出在人類偏好資料和偏好模型上。

2026-10-30 · 4 min read · 1699 words · KbWen · ZH