面向大模子的新编程范式-微软

认知预备：43页

《面向大模子的新编程范式》先容了大模子带来的应用设备新机遇、设备运营阵势、联系设备平台与用具以及最好实践。

智能应用的新机遇

1. 生成式AI调动应用设备

- 展示了生成式AI在不同应用场景的示例，如GPT - 4、ChatGPT等在文本生成和问答方面的才智。

2. 中枢时代特质

- 大型言语模子（LLM）具有大限制预覆按、多层编码、言语生成、对话系统、可扩张性等时代特质，以及邻接对话才智和对用户意图的灵验捕捉。

3. 模子才智比较

- 通过与其他模子对比，如GPT - 4o和Gemini Ultra等，先容了GPT - 4在概括言语和解、学问性问答、数学问题等多个Benchmark贪图上的推崇及贪图含义。

设备运营阵势

1. 新应用阵势与传统对比

- LLM引颈新的应用阵势，与传统智能对话应用设备比较，如Azure的设备经过复杂，而Copilot Studio利用生成式AI，无需托管基础设施，可快速设备智能对话应用。

2. LLMOps经过

- 包括数据管制、实验、评估、考证和部署、推理、监控以及反映和数据收罗等要领，体现了从MLOps到LLMOps的范式转动，以及在贪图评估、分享财富等方面的变化。

3. 在线监控和可不雅测性

- 强调对LLM系统的执续追踪和监控，以处治如数据源问题、乌有辅导、幻觉等问题，确保适合端正条款。

设备平台与用具

1. Copilot Stack框架

- 先容了诈欺Copilot Stack框架设备智能应用的联系责任，包括建造订阅、集成知识索引和API、设备自界说责任流等。

2. Azure AI Studio

- 展示了其在企业级聊天、语音分析等多个使用场景，以及引入企业自己数据的神色。

3. 其他用具

- 先容了PromptFlow在UI与代码之间无缝切换的特质，以及Copilot Studio基于无代码构建智能应用的功能，包括创建、管制、发布和扩张Copilot等操作。

设备最好实践

1. 主要时代神色

- 先容了应用大模子的三种主要时代神色：辅导（Prompting）、镶嵌（Embedding）、微调/覆按/定制（Fine - Tuning），并分离讲解了其旨趣和应用场景。

2. 应用想象阵势

- 先容了RAG微调覆按、大模子动手FunctionCall、Agent阵势、LangChain Expression Language等多种应用结束的新想象阵势很是责任旨趣。

以下为认知节选本体

Azure阵势模子Stack智能发布于：北京市声明：该文不雅点仅代表作家本东谈主，搜狐号系信息发布平台，搜狐仅提供信息存储空间职业。