[OpenAI] 如何让 RAG 产品不像直接调了大模型 API？

[小天管理]

一直有一种声音，说 ai 开发就是调接口，或者就是调接口的人说自己在做 ai 开发。 这个我是无可奈何。

这阵子，花了很大时间去玩 rag ，采集数据，技术调研，先 dify ，后 llamaindex 。 昨天终于出了结果。然后我好奇，直接去原版大模型 web 问了一样的问题。立马诞生一个奇怪的念头：rag 的效果跟直接调了大模型 api 有什么分别？？

如果 rag 隐藏在产品逻辑中，界面上直接看不出来，还好。小白会觉得技术很牛逼。 如果也有一个聊天窗口，完了，小白会说：这不就是调了 ChatGPT 吗？我分分钟搞定。

所以，有什么好办法，让 rag 的输出，明显不同于直接调接口？要是小白一眼就看出不同的那种。