安装 MarsCode
配置一个大模型
- 访问:https://sourl.cn/azHNDf
- 打开火山引擎官网(免费赠送每个模型50万tokens推理额度!)
API Key 管理
— 创建 API Key
- 访问:https://sourl.cn/7fLrC9
- 设置接入点
在线推理
— 创建推理接入点
搭建一个简单 AI 助手
1,配置 Python 环境
pip install 'volcengine-python-sdk[ark]'
2,编写测试环境如下所示
import os
from volcenginesdkarkruntime import Ark
client = Ark(api_key="you_key")
print("----- standard request -----")
completion = client.chat.completions.create(
model="you_moder",
messages=[
{"role": "system", "content": "你是豆包,是由字节跳动开发的 AI 人工智能助手"},
{"role": "user", "content": "常见的十字花科植物有哪些?"},
],
)
print(completion.choices[0].message.content)
搭建一个网页 AI 助手
1,配置 Python 环境
pip install streamlit
2,编写测试环境如下所示
import streamlit as st
import os
from volcenginesdkarkruntime import Ark
api_key = "34c9a2aa-287e-49ef-be66-f94c11778c35"
client = Ark(api_key=api_key)
st.title("豆包 AI 助手")
user_input = st.text_input("请输入你的问题:")
if user_input:
st.write("正在思考中...")
completion = client.chat.completions.create(
model="ep-20241129134505-fbb2z",
messages=[
{"role": "system", "content": "你是豆包,是由字节跳动开发的AI助手"},
{"role": "user", "content": user_input},
],
)
response = completion.choices[0].message.content
st.write("豆包的回答:", response)
3,输入问题
— 进行思考
— 输出解答
搭建一个完整 AI 助手
引用开源项目如下
项目首页 - 最牛AI助手:MarsCode 课程项目——用AI搭建AI助手 - GitCode
1,拉取代码
git clone https://gitcode.com/langgptai/aichat.git
2,在 aichat/app.py
文件中填写自己的 MARSCODE_API_KEY
和 MARSCODE_MODEL_EP
3,聊天测试