AG凯发K8国际,ag亚娱官网,k8凯发天生赢家·一触即发环保-为更美好的工业环境而努力「官网」
2024-09-11 11:13:41

迈向认知共情华南理工团队全面开源心理咨询师数字孪生大模型SoulChat20

分享到:

  ChatGPT诞生以来,国内外已有大量的工作将大模型(LLM)应用于情感陪护、心理健康支持对话、心理咨询对话领域■◆,例如SoulChat■◆★★、MeChat★◆、QiaoBan、CPsyCoun◆★★★、MindChat、EmoLLM等等◆★★◆■。然而,过往的工作聚焦于借助精心设计的提示词来构建多轮心理健康对话数据集,微调出的★◆★■■“心理健康大模型★◆■◆◆◆”很容易造成回答的同质化、模板化★◆★★,使得这些LLMs难以应对复杂多变的来访者■★◆■◆,无法很好模拟现实世界真实心理咨询师的语言表达与疗法技术运用风格。

  守护消费权益,共筑县域美好——平安人寿黑龙江分公司进县域开展金融教育宣传

  自2023年5月发布SoulChat以来,华南理工大学数字孪生人实验室经过对真实世界心理咨询语言风格◆◆◆、心理咨询技术等方面的深入探索,在心理咨询师数字孪生建模能力上取得了显著提升。

  针对上述问题,华南理工大学未来技术学院-广东省数字孪生人重点实验室在灵心大模型(SoulChat1.0)基础上■◆■★★★,推出了心理咨询师数字孪生大模型SoulChat2.0。SoulChat2.0首次定义了特定心理咨询师的数字孪生(PsyDT■★◆★◆★, Psychological consultant Digital Twin)任务:

  社区高效管理必备,捷顺科技“人+车+位◆★”统一坐席打造无人值守一体化管理

  同时,我们在表 1所示谈话技术(提问探询、反馈与总结、问题解决和指导)、状态与态度(开放性和价值中立◆◆、情感控制)、关系建立、疗法技术应用4个专业维度上对SMILECHAT★★◆★■◆、SoulChatCorpus、CPsyCounD以及我们建立的PsyDTCorpus进行了对话整体级别的人工评估比较,结果见图 4。PsyDTCorpus相对于其他几个数据集,在谈话技术、状态与态度、关系建立、疗法技术这四个方面均有明显的提升■■◆,这表明利用真实世界心理咨询师的少量咨询案例来诱导构建高质量的多轮心理健康对话数据是可行的。

  该项研究的大模型与微调数据已经全面在Github和ModelScope开源。

  9月11日上市公司重要公告集锦■◆★■★:比亚迪多名高管、核心人员近期累计增持公司A股股份14.2万股

  2024“塘塘艺起向未来■◆■■◆”文化交流文艺汇演 走进杭州科技职业技术学院专场

  也就是◆◆◆★■,给定特定心理咨询师的N个咨询案例CN(如图 3所示)■■★◆★★,心理咨询技术知识库KBthe.★◆■,以及用于辅助构建数据集的单轮对话咨询数据库Dst,任务要求建立一个可以模拟该咨询师语言风格与咨询技术的模型fLLM(*)■★★◆■■。

  我们对不同的数据构建方法生成的数据进行人工评估发现,相比于Smile和SoulChat1.0,SoulChat2.0提出的数据生成方法(PsyDT_Prompt),几乎在所有话题上都能很好地构建高质量的数字孪生数据。

  要实现特定的心理咨询师的数字孪生,前提是能获取该心理咨询师的大量咨询案例,但是这对于心理咨询师个体而言★◆★■■◆,难度极大◆◆■★。一方面,需要考虑心理咨询的伦理要求和隐私保护■★★★■■,另一方面,数据的采集也非常繁琐。为此,有必要建立一种仅需少量咨询案例的心理咨询师数字孪生数据生成框架★■★。如图 3所示,心理咨询师的每个咨询案例都体现了本人的语言风格与咨询技术应用方式■◆★★★■,这可以借助于现有的先进的LLMs的语言总结能力去提取。如图 2所示,为GPT-4对于心理咨询师的“人际关系★■”话题的真实咨询案例进行语言风格特点提取的结果★★■。另一方面,可以通过心理咨询师的多个咨询案例归纳该心理咨询师偏向的咨询疗法技术流派(本项目实验当中的心理咨询师咨询流派偏向为■◆■★■“理情行为疗法”),并从心理咨询技术知识库KBthe.当中查询该咨询技术的知识与策略(Therapeutic Strategy),以指导数据生成,提升其中的疗法专业性◆★◆◆。同时,为了保证生成的数据当中来访者的多样性与真实性,需要尽可能建模用户的个性特质,我们以常用的大五人格为参考,对单轮对话咨询数据库中的来访者进行了大五人格分析。最后,通过综合真实世界咨询师的语言风格■◆■、咨询技术◆■★、来访者大五人格,结合真实世界咨询案例,对于单轮对话进行心理咨询师数字孪生数据生成◆■。采取我们的框架生成的多轮对话数据■■■■★★,能有效表征特定心理咨询师的语言风格与咨询技术应用方式。为了综合考虑成本与效果,我们设定了用于心理咨询师数字孪生数据生成的单轮对线个,特定心理咨询师的咨询案例数目设定为12个(为保证低成本,一般不多于20个)★◆◆。最终★◆◆■■,只需要给定任意心理咨询师的少量咨询案例,我们的框架即可快速生成批量用于该心理咨询师数字孪生建模的咨询案例。在本项目当中,对真实心理咨询师进行数字孪生生成的多轮对线轮■★★◆,平均每个对线轮。

  SoulChat2.0的推出,将为心理健康大模型领域带来新的研究思路◆◆■★◆:通过少量的真实咨询案例去进行心理咨询师数字孪生建模的方式■■,可以低成本■■■、快速★★■◆、高效地构建拥有特定心理咨询师语言风格与疗法技术的心理健康大模型,在谈话技术★◆★■■◆、状态与态度◆■★、情感共情■◆◆★■、认知共情方面均有显著的性能提升◆■◆■,能很好地辅助真实世界心理咨询师展开心理咨询工作,例如执行这些咨询师的前置谈话,二十四小时的在线服务等等。

  如图 1所示,心理咨询师数字孪生大模型SoulChat2.0包含2个部分:(1)心理咨询师数字孪生数据生成★★■◆;(2)心理咨询师数字孪生建模。

  图 2 GPT-4对真实咨询案例的语言风格特点概括示例(话题:人际关系)

  维护涉老金融权益◆★◆,守好养老“钱袋子”——长安信托开展金融教育进乡村活动

  给定用于心理咨询师数字孪生建模的咨询案例数据,可以通过微调来实现对该咨询师的数字孪生。为了方便研究社区进行对比和复现,我们选用Llama3-8B-Instruct作为基座模型,在PsyDTCorpus的训练集上进行全量微调3个epoches。并且与ChatGPT◆■◆◆◆、GPT-4为代表的闭源模型,Baichuan2-7B-Chat ■★◆、GLM4-9B-Chat★★、Meta-Llama3-8B-Instruct等7个模型为代表的开源模型,以及MeChat、PsyChat◆■■、SoulChat1.0◆■★、MindChat◆★★◆★、EmoLLM★◆■★■、CPsyCounX 6个心理健康领域的大模型在PsyDTCorpus的测试集进行自动化对比分析。特别地,我们对MeChat、PsyChat、SoulChat1.0、MindChat■★◆■◆、EmoLLM◆★◆■、CPsyCounX以及所提出的SoulChat2.0在谈话技术、状态与态度★■、情感共情★★◆★、认知共情★◆、安全性五个维度进行轮次的对比评估◆■★。这7个心理健康大模型在安全性维度上都获得了很高的评分,表明了这些经过微调的领域大模型在安全维度上已经很好地对齐人类目标。但是★■■◆★,在认知共情、会话技术■★■◆◆、状态与态度三个维度上■■★◆,SoulChat2.0相对于其他模型均有较大幅度的提升。这表明了通过心理咨询师数字孪生建模的方式,能很好地提升LLMs的真实心理咨询性能◆★■★■。

上一篇: 知识科普分享_科技_进步_生活
下一篇: 2024年云南省专业技术人才知识更新工程“企业安全生产与专业技术人员风险防控”高级研修班成功举办