Vercel 刚刚上线 AI SDK。
现在,您可以使用流式传输构建 AI 驱动的应用程序 – 从一个简单的命令开始:“npm i ai”
以下是一些示例 👇
但首先,为什么要流式传输?
下面是 2 个示例 – 第一个使用阻塞 UI,而第二个使用流式处理 UI。
如您所见,流式处理 UI 能够比阻止 UI 更快地开始显示响应。
亲自尝试一下: https://vercel.fyi/Gb6nMzv
示例#1:聊天界面
使用“useChat”钩子,您只需几行代码即可构建一个简单而漂亮的聊天界面,并带有流式传输。
作为参考,我使用此钩子在 <10 分钟内构建了以下示例。
链接到“使用聊天”文档: https://vercel.fyi/PfxcThx
示例 #2:完成
使用“useCompletion”钩子,您可以快速设计提示,并使用它们通过 AI 和 GPT 的强大功能为您的产品增压。
◆ “使用完成”文档: https://vercel.fyi/Wcc6RWb
◆ 了解有关提示工程的更多信息: https://vercel.fyi/Ble1L5w
众所周知,流式传输很难实现 – 从处理背压和取消到管理生产中的碎片流
使用 AI SDK,所有这些问题都可以使用 SWR 驱动的钩子进行开箱即用的管理。
自己尝试一下↓
@Vercel AI SDK是完全开源的,它支持所有您喜欢的LLM提供商:
◆ @OpenAI → https://vercel.fyi/I5IT0Gf
◆ @huggingface → https://vercel.fyi/lwMVnkg
◆ @AnthropicAI → https://vercel.fyi/QieE5Ta
◆ @LangchainAI → https://vercel.fyi/YLatObk
是时候构建 💪 了
开源地址:https://github.com/vercel-labs/ai
暂无评论内容