在今天的专栏中,我首先探讨了备受头条新闻关注的全新ChatGPT学习模式,然后深入研究是否可以在心理健康领域采用类似的生成式AI能力开发方法。
核心思想是这样的:ChatGPT学习模式是通过为ChatGPT制定自定义指令而构建的。这并非彻底改革或功能创造,本质上没有什么新内容,只是指定了一套详细指令,由各种教育专家设想,告诉AI在教育语境下应该做什么。
这被认为是"新颖的",因为它是自定义指令的一个鼓舞人心的应用,是一项值得称赞的成就,将惠及学生和热心学习者。也许通过聚集心理学家和心理健康专家,可以类似地巧妙开发基于AI的治疗模式。有读者询问了我这个问题。
让我们来讨论一下。
AI与心理健康治疗
作为简要背景,我一直在广泛报道和分析现代AI在提供心理健康建议和执行AI驱动治疗方面的众多方面。这种AI应用的兴起主要是由生成式AI的不断进步和广泛采用推动的。关于我在这个不断发展主题上发表的专栏的快速摘要,我已经在这个主题上发表了超过一百篇专栏文章中的大约四十篇的简要回顾。
毫无疑问,这是一个快速发展的领域,具有巨大的优势,但同时,遗憾的是,这些努力中也存在隐藏的风险和明显的陷阱。我经常就这些紧迫问题发声,包括去年在CBS《60分钟》节目中的出现。
如果您是AI心理健康主题的新手,您可能想考虑阅读我最近对该领域的分析,其中还讲述了斯坦福大学精神病学和行为科学系一项名为AI4MH的高度创新举措。
ChatGPT学习模式介绍
OpenAI最近的一项公告传播相对广泛。他们高兴地介绍了ChatGPT学习模式,在2025年7月29日的博客文章"介绍学习模式"中阐述,并确定了这些要点(摘录):
"今天我们在ChatGPT中引入学习模式——一种学习体验,帮助您逐步解决问题,而不是只是得到答案。"
"当学生使用学习模式时,他们会遇到引导性问题,这些问题根据他们的目标和技能水平调整回应,帮助他们建立更深入的理解。"
"学习模式旨在具有吸引力和互动性,帮助学生学习某些东西——而不只是完成某些东西。"
"在底层,学习模式由我们与教师、科学家和教育学专家合作编写的自定义系统指令驱动,反映了支持深度学习的一系列核心行为,包括:鼓励积极参与、管理认知负荷、主动发展元认知和自我反思、培养好奇心,以及提供可行和支持性的反馈。"
"这些行为基于学习科学的长期研究,并塑造了学习模式如何回应学生。"
据外界观察,这种能力似乎没有涉及修改AI的基础,也似乎不需要添加额外功能。似乎主要工作是使用自定义指令完成的(注意,如果他们确实进行了任何特殊的核心升级,他们似乎对此保持沉默,因为在他们的公告中没有宣传)。
自定义指令的强大功能
假设他们只是或主要使用自定义指令来产生这个有用的结果,这给了人们巨大的希望,并引起了对自定义指令惊人力量的热切关注。您可以通过自定义指令做很多事情。但我敢说,很少有人了解自定义指令,更少有人用它们做过任何实质性的事情。
我之前赞扬了自定义指令作为有用功能的出现,并坚决鼓励人们适当使用它。许多主要的生成式AI和大语言模型都选择允许自定义指令,尽管有些限制使用,其他的基本上不提供或刻意保持普遍限制。
让我简要介绍一下这个主题。
假设您想告诉AI以某种方式行动。您希望AI在所有后续对话中都这样做。这通常只适用于您的实例。我稍后会解释如何跨实例执行此操作并允许其他人利用您对自定义指令的使用。
我可能希望我的AI总是以诗意的方式给我回应。您看,也许我喜欢诗歌。我去到我的AI的指定位置,允许输入自定义指令,告诉它总是诗意地回应。保存后,我会发现任何对话都会得到AI的诗意回复。
在这种情况下,我的自定义指令简短而甜美。我只是告诉AI诗意地组成答案。如果我有更复杂的想法,我可以设计相当冗长的自定义指令。自定义指令可以不断延续,告诉AI在白天时诗意地写作,但夜晚时不要,并确保诗歌轻松愉快。我可能进一步指出我想要押韵的诗歌,必须以某种方式包含对猫和狗的引用。等等。
我有点开玩笑,只是给您一个自定义指令可以详细并提供大量指令的概念。
自定义指令的利弊
自定义指令的美妙之处在于它们为生成式AI提供了总体指导形式。它们被认为对您的实例具有全局范围。您进行的所有对话都将受到自定义指令说明应该发生的事情的约束。
如此强大的功能也带来一些缺点。
想象一下,我正在使用AI,有一个不应该用诗歌框架的严肃问题。然而,我问了严肃的问题却得到了诗意的答案。AI正在遵循自定义指令所指示的内容。就是这样,故事结束。
好消息是您可以告诉AI您希望它不遵守自定义指令。当我输入问题时,我可以在提示中提到AI不要遵守自定义指令。瞧,AI将提供直接的答案。之后,自定义指令将继续适用。
可塑性通常很广泛。例如,我可能告诉AI接下来的三个提示不要遵守自定义指令。或者我可以告诉AI,除非我在提示中说应该遵守,否则永远不要遵守自定义指令。我认为您可以看到这是一个通常可塑的方面。
错误的自定义指令
自定义指令最令人不安的缺点是您可能无意中在指令中说了对您不利的话。也许您甚至不会意识到自己做了什么。
考虑我的要求诗意的自定义指令。
我可以包含一行,坚持无论我的任何提示说什么,永远不允许我覆盖自定义指令。也许我认为这是明智的举措。问题将是后来,我可能忘记我包含了那一行。当我试图通过提示关闭自定义指令时,AI可能会拒绝。通常,AI会通知您这种冲突,但不能保证它会这样做。
更糟糕的是您的自定义指令中某些内容的潜在误解。我可能说过AI在任何回应中都不应该提到丑陋的动物。什么是丑陋的动物?天空是极限。不幸的是,AI可能会选择不提及各种不是我心目中所想的动物。
我会意识到正在发生什么吗?
可能不会。
AI回应可能会提到一些动物而不提到其他动物。可能不明显哪些动物没有被描述。我的自定义指令在困扰我,因为AI解释了我说的话,尽管解释与我的意思不同。
AI心理健康建议
转变方向,让我们旨在使用自定义指令为人类谋福利,而不是简单地产生诗意回应的行为。
ChatGPT学习模式推动AI与用户进行苏格拉底式对话,并提供指导而不是直接给出答案。自定义指令使这种情况发生。同样,AI试图评估用户的熟练程度并调整到他们的技能水平。提供个性化反馈。AI跟踪您的进度。这很巧妙。
所有这些都归功于自定义指令。
自定义指令还能解决什么其他情境?
我将专注于心理健康的情境。
情况是这样的。我们聚集了一群心理学家、精神科医生、治疗师、心理健康专业人员等。他们努力工作,制定一套自定义指令,告诉AI如何进行治疗。这包括诊断心理健康状况。它包括生成帮助您心理健康的个人建议。
我们可以将在心理健康情境中漫步的通用生成式AI转变为更真实和令人钦佩的东西。
繁荣,放下麦克风。
世界永远不容易
如果您对这些专注的自定义指令(如治疗)的前景感到兴奋,我要求您坐下来倒一杯优质葡萄酒。我这样说的原因是,在心理健康领域确实有过这样的努力。而且,总的来说,结果并不像您可能希望的那样突出。
首先,心理健康主题是巨大的,涉及当使用不当治疗时对人们的风险。试图设计一套能够充分且足够提供真正治疗的自定义指令不仅不太可能,而且不可避免地具有误导性。我这样说是因为一些人尝试了这条路线,并对AI因加载的自定义指令能做什么做出了离谱的声明。
注意未实现的声明。
其次,任何关于执行治疗的大型自定义指令集必然是不完整的,包含可误解的指示,并且容易受到我上面提到的缺点的影响。在这个领域使用自定义指令作为一体化解决方案的性质就像在所有东西上都使用锤子,即使您应该在螺丝上使用螺丝刀等等。
第三,一些人认为使用自定义指令进行治疗比根本没有任何自定义指令要好。这个概念是,如果您使用的是没有心理健康自定义指令的通用生成式AI,那么使用至少有自定义指令的AI肯定会更好。
答案是这取决于自定义指令的性质。自定义指令可能会恶化AI要说的内容,这种可能性很大。您可以轻易地提升AI,也可以轻易地削弱AI。不要落入自定义指令意味着事情必然更好的陷阱。
访问自定义GPT
我之前暗示过有一种方法可以允许其他用户使用您的自定义指令集。
许多流行的大语言模型倾向于允许您生成某种AI小程序,包含可供他人使用的定制自定义指令。有时AI制造商建立一个库,这些小程序驻留其中并公开可用。OpenAI通过使用GPT提供这个功能,GPT类似于ChatGPT小程序——您可以在我的详细讨论中了解如何使用这些。
不幸的是,与所有新玩具一样,一些人破坏了这些类型的AI小程序。
有些AI小程序包含由执业治疗师编写的自定义指令,他们真诚地尽力制作与治疗相关的自定义指令。这似乎令人鼓舞。但我希望您现在意识到,即使是最好的意图也可能不会适当地实现。良好的意图不能保证适当的结果。这些自定义指令可能在其中酝酿麻烦。
也有一些AI小程序大胆声称用于心理健康,但它们完全肤浅,由在心理健康方面零专业知识的人设计。不要被华丽的声明放松警惕。
更过分的是那些被营销为与心理健康有关的AI小程序,而现实是这是一个骗局。自定义指令与治疗无关。相反,自定义指令试图接管您的AI,获取您的个人信息,通常是害虫并使您的生活痛苦。
披着羊皮的狼。
完整的交易
我们从这里走向何方?
在通用生成式AI中使用自定义指令进行治疗,旨在引出基于AI的治疗模式,通常不是一个好举措。即使您聚集了最好的心理学家和心理健康专家的有价值收藏,您也是在试图将五十磅装进五磅的袋子里。
这就是不合适的。
更好的路径正在被追求。我是一个大倡导者,正在研究从头开始为心理健康建议构建的生成式AI和大语言模型。
该方法包括在设计大语言模型时从开始就将其制成适合的治疗导向机制。这与试图采用已经完成的通用生成式AI并将其重塑为心理健康情境形成鲜明对比。我相信采取新的提升是更明智的。
底线答案
对于联系我并询问ChatGPT学习模式是否预示着教育导向自定义指令的同样令人印象深刻的结果可以在其他领域获得的读者,是的,当然,还有其他领域可以轻松应用这个。
心理健康是那些合适领域之一吗?
我投反对票。
心理健康建议值得更多。
现在的最后一个想法。伏尔泰敏锐地观察到:"没有问题能够承受持续思考的攻击。"我们需要戴上思考帽,瞄准正确的解决方案,而不是那些可能看起来可行但包含令人不快的陷阱和有害问题的快速解决选项。
持续思考是值得的。
Q&A
Q1:ChatGPT学习模式是如何实现的?有什么特点?
A:ChatGPT学习模式主要通过制定自定义指令来实现,由教育专家设计,让AI在教育环境下进行苏格拉底式对话,提供引导而非直接答案,能够评估用户熟练程度并调整到相应技能水平,提供个性化反馈和进度跟踪。
Q2:能否用类似方法开发AI治疗模式?
A:虽然理论上可行,但作者认为这并不是好方法。心理健康主题复杂且涉及风险,试图用自定义指令创建全面治疗功能不太可能且具有误导性。更好的方法是从头开始构建专门针对心理健康的大语言模型,而不是改造通用AI。
Q3:自定义指令有什么风险和局限性?
A:自定义指令可能包含误解性指示、不完整内容,用户可能无意中设置对自己不利的指令。在心理健康领域,错误的自定义指令可能恶化AI回应质量,甚至存在一些声称心理健康功能但实为欺诈的AI应用程序。