分享
06-创建文本生成应用
输入“/”快速插入内容
🕒
06-创建文本生成应用
2024年8月19日修改
✏️
到目前为止,您已经通过本系列课程看到了如提示之类的核心概念,甚至是称为“提示工程”的整个学科。 您可以与通过使用如 ChatGPT、Office 365、Microsoft Power Platform 等工具结合提示来完成某些工作任务。
为了将这样的体验添加到应用程序中,您需要了解提示、补全等概念并选择要使用的相关库。 这正是您将在本章中学到的内容。
本章概述
在本章中,您将学习到:
•
了解 openai 库及其核心概念。
•
使用 openai 构建文本生成应用程序。
•
了解如何使用提示、temperature 和 tokens 等概念来构建文本生成应用程序。
学习目标
在完成本章的学习,您将能够:
•
解释什么是文本生成应用程序。
•
使用 openai 构建文本生成应用程序。
•
配置您的应用程序以使用更多或更少的 tokens,并更改 temperature,以获得不同的输出。
什么是文本生成应用
一般来说当您构建应用程序时,它具有某种界面,如下所示:
•
基于命令。 控制台应用程序是典型的应用程序,您可以在其中键入命令并执行任务。 例如,“git”是一个基于命令的应用程序。
•
用户界面(UI)。 某些应用程序具有图形用户界面 (GUI),您可以在其中单击按钮、输入文本、选择选项等。
传统控制台和 UI 应用程序的局限性
将其与输入命令的传统应用程序进行比较:
•
存在局限性。 您不能输入任意命令,只能键入该应用程序支持的命令。
•
特定于某种语言。 某些应用程序支持多种语言,但默认情况下,即使可以添加更多语言支持,该应用程序也是针对有限的语言构建的。
文本生成应用程序的优势
文本生成应用程序有何不同呢?
在文本生成应用程序中,您拥有更大的灵活性,不再局限于一组特定的命令或特定的输入语言。 相反,您可以使用自然语言与应用程序交互。 另一个好处是,因为您已经在与经过大量信息库训练的数据源进行交互,而传统应用程序可能仅限于在数据库中存储的有限内容。
使用文本生成应用程序构建什么?
您可以创建很多东西。 例如:
•
聊天机器人 回答有关您的公司及其产品等主题的问题的聊天机器人可能是一个不错的选择。
•
协同助手 LLMs 擅长总结文本、从文本中获取见解、生成简历等文本等。
•
代码助手 根据您使用的编程语言模型,您可以构建一个代码助手来帮助您编写代码。 例如,您可以使用 GitHub Copilot 和 ChatGPT 等产品来帮助您编写代码。
如何入门?
您需要找到一种与 LLMs 结合的方法,通常使用以下两种方法:
•
使用 API,您将根据提示构建 Web 请求并返回生成的文本。
•
使用库,库有助于封装 API 调用,使其更易于使用。
Libraries/SDKs
有一些比较通用的与 LLMs 整合的 librarys,例如:
•
openai,这个 librarys 可以轻松连接到您的模型并发送提示。
还有一些在更高级别的框架运行的 librarys,例如:
•
Langchain。 Langchain 支持 Python 比较通用的 library
•
Semantic Kernel。 Semantic Kernel 是 Microsoft 提供的一个 library,支持 C#、Python 和 Java 语言。
人生中第一个 openai 应用
让我们看看如何构建人生中第一个 openai 应用,我们需要哪些 libraries,需要多少技能等等。
安装 openai
有许多库可用于与 OpenAI 或 Azure OpenAI 交互。 还可以使用不同的编程语言,如 C#、Python、JavaScript、Java 等。 我们选择
使用
openai
Python 库,通过
pip
来安装它。
代码块
Python
pip install openai
创建资源
您需要执行以下步骤:
•
在 Azure
https://azure.microsoft.com/free/
上创建帐户。
•
访问 Azure Open AI。 进入到
https://learn.microsoft.com/azure/ai-services/openai/overview#how-do-i-get-access-to-azure-openai
并请求访问权限。