Anthropic 公开 Claude AI 模型的系统提示词

IT之家 8 月 27 日消息,科技媒体 Techcrunch 昨日(8 月 26 日)报道,Anthropic 公司公开了 Claude AI 模型的“系统提示词”(system prompts)。

系统提示词(System prompt)

为了让 AI 模型更好地理解人类指令,提示词(Prompt)工程实际上包含 2 层核心内容,用户提示词(User prompt)和系统提示词(System prompt):

用户提示词:用户输入的提示词,然后 AI 模型基于用户提示词生成答案。

系统提示词:这是由系统生成的提示,通常用于设定对话的背景、提供指导或规定规则。

IT之家注:通常情况下,系统提示词会让模型了解自己的基本素质,以及应该做什么、不应该做什么。

业内常规做法

从 OpenAI 到 Anthropic,每一家生成式人工智能厂商都会使用系统提示来防止(或至少试图防止)模型出现不良行为,并引导模型回复的总体语气和情绪。

例如,系统提示词可能会告诉模型,它应该礼貌但绝不能道歉,或者坦诚地承认它不可能知道所有事情。

但厂商可能是出于竞争等方面原因,以及避免不良用户在了解这些信息后绕过安全防护,通常保密这些系统提示词。

Anthropic 选择公开系统提示词

不过,Anthropic 一直在努力将自己描绘成一家更道德、更透明的人工智能供应商,它已在 Claude iOS 和 Android 应用程序以及网络上公布了其最新模型(Claude 3.5 Opus、Sonnet 和 Haiku)的系统提示。

Anthropic 开发者关系负责人亚历克斯・艾伯特(Alex Albert)在 X 上发表的一篇文章中说,Anthropic 计划在更新和微调系统提示的过程中,定期公布此类信息。

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

Leave a Reply