红杉资本6月14日发布最新文章《The New Language Model Stack》 访谈了投资Portfolio里的33家小到种子轮，大到已经上市的公司后总结出来的

红杉资本6月14日发布最新文章《The New Language Model Stack》

访谈了投资Portfolio里的33家小到种子轮，大到已经上市的公司后总结出来的。

全文总共有8点分析，干货非常多。很多内容对AI创业者应该会有不少帮助

1.几乎所有公司都在产品中用到语言模型

几乎每一家公司都在将语言模型构建到他们的产品中

– 从代码和数据科学副驾驶，到为客户、开发者、员工和纯娱乐提供的聊天机器人。

许多公司正在用AI优先的视角重新设想整个工作流程。

这些只是几个例子，而且只是个开始。

2.这些应用主要基于API、检索和编排，但开源使用也在增长

-65%的公司已经将应用投入生产
-94%的公司正在使用基础模型API
-88%的公司认为检索技术
-38%的公司对像LangChain的框架感兴趣
-15%的公司从头开始或使用开源资源构建了自定义的语言模型

与每一位实践者交谈的结果显示，AI的发展速度太快，以至于很难对最终的技术栈有高度的信心，

但大家一致认为，LLM API将继续作为一个关键支柱，

其次是检索机制和像LangChain这样的开发框架。

开源和自定义模型的训练和调整似乎也在增长。

语言模型技术栈的其他领域也很重要，但成熟度较低。

3.公司希望根据自己的上下文来定制语言模型

目前，有三种主要的方式来定制语言模型：
从头开始训练自定义模型，难度最高。

微调基础模型，难度中等。

使用预训练模型并检索相关上下文，难度最低。

4.如今API调用和训练模型是相互独立的，但未来两者将慢慢融合在一起

我们可能会觉得我们面临着两种技术栈的选择：

一种是利用LLM API的技术栈

另一种是训练自定义语言模型的技术栈

越来越多的公司对训练和微调自己的模型产生了兴趣。随着时间的推移，LLM API技术栈和自定义模型技术栈会越来越融合

5.技术栈正在变得越来越易于开发者使用

LangChain通过抽象化常见问题，帮助开发者构建LLM应用：

-将模型组合成更高级的系统，
-将多个模型调用链接在一起，
-将模型连接到工具和数据源，
-构建能够操作这些工具的代理，
-以及通过简化语言模型切换的过程，帮助避免对供应商的依赖。

6.语言模型需要变得更可靠（输出质量、数据隐私和安全性）

许多公司希望有更好的工具来处理数据隐私、隔离、安全、版权和监控模型输出。

来自金融科技到医疗保健的受监管行业的公司特别关注这一点

随着政策的明确和更多的安全措施到位，语言模型将得到更好的信任

7.语言模型应用将变得越来越多模态

8.目前还仅仅只是初期阶段

AI刚刚开始渗透到技术的每一个角落，只有65%的受访者今天已经开始尝试，而且其中很多都是相对简单的应用。

基础设施层（我理解就是中间层的意思）将在未来几年内快速发展