首个个性化对齐大模型问世!可精准识别用户内在动机和偏好,还有百万用户画像开源数据集 | 蚂蚁&人大

首个个性化对齐大模型——AlignXpert问世,该模型通过构建首个包含130万用户画像的AlignX数据集,采用上下文对齐(ICA)和偏好桥接对齐(PBA)两种方法,实现了对用户偏好的精准适配,预测准确率提升17.06%。

该研究挑战了传统对齐范式的缺陷,指出单一价值观体系抹杀了用户偏好独特性,提出转向个性化对齐训练,以解决系统性排除效应和适配性塌缩问题。

研究团队同步发布了聚焦个性化对齐的综述论文,系统性探讨了大语言模型如何在保持普适伦理边界的同时,实现对个体偏好的精准适配。

[原文链接]

上一篇:

下一篇:

微信