大模型（LLM） API的使用，免费获取试用API方法，付费API计费方式 原创

​API（应用程序编程接口，Application Programming Interface）是一组定义和协议，用于构建和集成应用程序软件。API允许不同的软件系统之间进行通信和数据交换。大模型API是大模型应用开发的基础。API的使用不需要很高的算力，CPU就能跑。

1.API作用及优势

大模型API（如GPT-4、BERT等）提供了强大的自然语言处理（NLP）能力，可以应用于各种任务。以下是大模型API的主要功能和用途：

1. 自然语言理解和生成：

   - 理解和生成自然语言文本，如撰写文章、生成对话、回答问题等。

2. 对话系统：

   - 创建智能聊天机器人，用于客户服务、技术支持等。

3. 文本分析：

   - 分析情感、分类文本、提取关键词、总结文章等。

4. 翻译：

   - 提供高质量的多语言翻译服务。

5. 内容生成：

   - 生成创意文案、写作辅助、代码生成等。

6. 搜索和推荐：

   - 提供上下文相关的搜索结果和个性化推荐。

7. 教育和培训：

   - 提供个性化的学习辅助，生成练习题、解释复杂概念等。

优势    

1. 提高效率：

   - 自动化许多需要大量时间和精力的任务，如文案撰写、客户服务等。

2. 增强创造力：

   - 提供灵感和辅助创作，帮助人们突破创作瓶颈。

3. 个性化服务：

   - 根据用户需求提供定制化的响应和服务，提高用户满意度。

4. 扩展能力：

   - 将先进的NLP能力集成到现有系统中，提升整体功能和用户体验。

本文以chatgpt 的api为例进行说明。大家也可以试用其他大模型的API，在官网都可以购买到API。这个是API汇总的网站：

​​https://www.aigc.cn/api​​​

正常API都是要花钱购买的，计费按照token算。后面会有API的计费说明。这里提供几个免费获取API的渠道，供大家参考。（网络系统可能随时变化，这些渠道后续也可能不能使用）

2.免费获取试用 API 及API使用示例

一个叫做GPT-API-free，下面是它的网页。

​​https://github.com/chatanywhere/GPT_API_free​​

Github授权成功后，获得免费使用的API，但是数量有限。

Host地址

下面看看如何使用，使用API调用大模型进行对话：

先要安装必要的模块：

pip install openai

from openai import OpenAI
       
# 假设您的 OpenAI API 密钥是 "sk-yourapikey"


client = OpenAI(


    api_key="sk-****************************",


    base_url="https://api.chatanywhere.tech/v1"


)
         
# 发送请求


response = client.chat.completions.create(


    model="gpt-3.5-turbo",


    messages=[


        {"role":"user", "content":"四大文明古国分别有哪些？"}


    ]


)


# 打印响应内容


print(response.choices[0].message.content)

得到的回复：

四大文明古国指的是古埃及、古巴比伦、古印度和古中国，它们被认为是世界上拥有最悠久历史和文明的四个国家。           

保管好自己的API key很重要，因此把KEY放到环境中，在调用的时候就可以不显示key了。

编辑 ~/.bashrc 文件，把key加入环境变量

vim ~/.bashrc

在~/.bashrc 文件末尾加上key

保存退出后，要在当前终端会话中立即应用 ~/.bashrc 文件中的更改，可以使用以下命令：

source ~/.bashrc

创建模型实例的代码可以是这样：

client = OpenAI(


    api_key="",


    base_url="https://api.chatanywhere.tech/v1"


)

3.免费获取OpenAI API key二

ChatGPT API 水龙头，每24小时可领取一个 $1.00 令牌用于开发测试 AI 产品.

​​https://faucet.openkey.cloud/​​

4.免费获取OpenAI API key三

刷新页面后

5.API的计费

使用AI模型的API一个很有必要了解的知识点是，它们都是咋收费的？简短的答案是，绝大部分大模型API的计费是基于token数量的。那么，什么是token呢？token可以被理解为是文本的一个基本单位，取决于不同的token化方法。短单词可能每个词是一个token。长单词可能被拆分成多个token，而中文的话所占的token数量会相对更多，有些字要用一个甚至更多token表示。

你可以去openai的这个网站，它有一个交互式分词器，能展示任意文本如何被映射为不同的token。

​​https://platform.openai.com/tokenizer​​    

如果你输入中文，可以看到很多单独的字，本身就是一个token，而常用词可能一个词是一个token。而有些不常见的字，可能会被映射成多个token，以至于网页无法展示出拆分的半个字，就是图上的？。

计费时看的是的total token，即提示和回应加一起的token数。

OpenAI API KEY的计费可以在下面网站查询，现在已经比之前优惠很多了。

​​https://openai.com/api/pricing​​

​

本文转载自公众号AIRoobt ，作者：AIRoobt

原文链接:​​​​https://mp.weixin.qq.com/s/BQQeZjbZ9dUEeF11T9zDhg​​​