目录

1、进入官网火山引擎-云上增长新动力 (volcengine.com),注册一个自己的账号,并完成实名认证:

2、申请一个属于自己的API Key:

3、进入控制台火山方舟管理控制台 (volcengine.com)挑选想要调用的大模型:

4、回到控制台火山方舟管理控制台 (volcengine.com) ,进入在线推理板块,点击创建推理接入点:


        大模型已成为推动各行各业创新的关键力量,在本篇博客中,我将以火山引擎的云服务,特别是其大模型服务,来增强我们的项目并实现业务的增长,帮助你快速上手并实现大模型的调用。


1、进入官网火山引擎-云上增长新动力 (volcengine.com),注册一个自己的账号,并完成实名认证:

2、申请一个属于自己的API Key:

3、进入控制台火山方舟管理控制台 (volcengine.com)挑选想要调用的大模型:

进入开通管理,这里以 doubao-pro-4k这个模型为例,点击开通服务:

 点击立即开通:

4、回到控制台火山方舟管理控制台 (volcengine.com) ,进入在线推理板块,点击创建推理接入点

根据自己的需求,填写好下面的信息,添加好对应的模型:

创建好之后:

也可以查看这里的API调用文档:
 
里面有很多参考示例:

(在这一个页面你还可以找到对应的URL,这里忘记截图了。。。)

按照你的需求,结合示例代码,即可将大模型接入自己的项目中了。


PS:其他:

1、环境配置:

pip install --upgrade 'volcengine-python-sdk[ark]'

 2、示例代码:
 

from volcenginesdkarkruntime import Ark

client = Ark(
    base_url="https://ark.cn-beijing.volces.com/api/v3",
)

# Non-streaming:
print("----- standard request -----")
completion = client.chat.completions.create(
    model="ep-xxxxxxxxxxx",
    messages = [
        {"role": "system", "content": "你是豆包,是由字节跳动开发的 AI 人工智能助手"},
        {"role": "user", "content": "常见的十字花科植物有哪些?"},
    ],
)
print(completion.choices[0].message.content)

# Streaming:
print("----- streaming request -----")
stream = client.chat.completions.create(
    model="ep-xxxxxxxxxx",
    messages = [
        {"role": "system", "content": "你是豆包,是由字节跳动开发的 AI 人工智能助手"},
        {"role": "user", "content": "常见的十字花科植物有哪些?"},
    ],
    stream=True
)
for chunk in stream:
    if not chunk.choices:
        continue
    print(chunk.choices[0].delta.content, end="")
print()

Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐