文心黑板报|3分钟掌握文心多模态模型API调用方法

《文心黑板报》是您了解文心大模型的第一站。在这里,我们将第一时间解读文心系列模型的核心功能与落地场景,同步其前沿的技术突破与研发进展,并提供从零开始的实用入门教程。

欢迎大家来到文心黑板报第一期!

11月11日,百度文心4.5多模态思考模型正式开源,仅3B 激活参数,效果媲美顶级大模型,在文档与图表理解能力、理科与文科综合推理、通用视觉推理等任务中表现优异。

基于社区开发者对调用 API 进行测试和使用的需求,目前我们已在星河社区 AI Studio、PH8大模型 MaaS 平台以及 Novita 平台完成了该模型的部署上线。本期,文心黑板报为大家带来
ERNIE-4.5-VL-28B-A3B-Thinking 实战篇,通过模型 API 调用指南教大家快速上手体验
ERNIE-4.5-VL-28B-A3B-Thinking 多模态思考模型能力,实现餐饮结算单识别、数学题解答等任务。

更多模型能力欢迎查看:

仅3B 激活参数,更强的多模态理解与推理能力,
ERNIE-4.5-VL-28B-A3B-Thinking 正式开源!

01

在星河社区 AI Studio 调用文心大模型

学习实训,高效开发

飞桨星河社区是面向 AI 学习者的人工智能学习与实训社区。飞桨星河社区以文心大模型和飞桨为核心,集开放数据、开源算法、云端 GPU 算力及大模型开发工具于一体,在大模型范式下,为开发者提供模型与应用的高效开发环境。

▎快速开始

  • 进入模型体验场:AI Studio Playground 支持选择不同版本的文心大模型,自定义调整参数信息和系统提示词。

模型体验场:

https://aistudio.baidu.com/playground

文心黑板报|3分钟掌握文心多模态模型API调用方法

  • 使用 WEB-UI 体验:通过选择当前模型,点击立即体验模型效果,即可快速上手使用。

选取一张即将用于报销流程的餐饮结算单作为测试样本,测试了 ERNIE-4.5-VL-28B-Thinking 模型的效果,结果显示,该模型在文档解析任务识别准确,其解析效果值得称赞。

文心黑板报|3分钟掌握文心多模态模型API调用方法

  • 使用高性能 API 调用:获取统一的 API-key,根据文档中的调用说明提示进行配置,该方式支持用户学习实训及项目开发,兼容 openai 接口。
          from openai import OpenAI
  client = OpenAI(  
    api_key="###########################",  # Access Token属于个人账户的重大隐私信息,请谨慎管理,切忌随意对外公开,  
    base_url="https://aistudio.baidu.com/llm/lmapi/v3",  # aistudio 大模型 api 服务域名
  )
  chat_completion = client.chat.completions.create(  
    model="ernie-4.5-vl-28b-a3b-thinking",  
    messages=[  
    { 
         "role": "user", 
         "content": "在这里输入你的问题" 
     }
  ],
      stream=True, 
     extra_body={ 
         "penalty_score": 1
      }, 
     max_completion_tokens=128000, 
     temperature=0.6, 
     top_p=0.95, 
     frequency_penalty=0, 
     presence_penalty=0
  )
  for chunk in chat_completion:
      ifnot chunk.choices orlen(chunk.choices) == 0: 
         continue   ifhasattr(chunk.choices[0].delta, "reasoning_content") and chunk.choices[0].delta.reasoning_content: 
         print(chunk.choices[0].delta.reasoning_content, end="", flush=True) 
     else: 
         print(chunk.choices[0].delta.content, end="", flush=True)
      

02

在 PH8大模型 MaaS 平台调用文心大模型

企业级服务保障,7×24小时稳定运行

PH8大模型 MaaS 平台作为文心大模型合作伙伴,为企业及开发者提供
ERNIE-4.5-VL-28B-A3B-Thinking API 调用能力
;除该模型之外,也在第一时间支持了文心 A47B、A3B 参数的文本模型和多模态模型,先来看看文心多模态思考模型的数学解题任务效果。

PH8大模型 MaaS 平台:

https://ph8.co/home

文心黑板报|3分钟掌握文心多模态模型API调用方法

文心黑板报|3分钟掌握文心多模态模型API调用方法

▎快速开始

  • 进入模型广场:在模型广场找到 ERNIE-4.5-VL-28B-A3B-Thinking 模型。

文心黑板报|3分钟掌握文心多模态模型API调用方法

  • 使用高性能 API 调用:获取统一的 API-key,根据文档中的调用说明提示进行配置,该方式支持用户高并发调用,兼容 openai 接口。
        from openai import OpenAI
import os
base_url = os.environ.get("OPENAI_BASE_URL", "https://ph8.co/openai/v1")
api_key = "sk-xxx"
########################### ###########################
client = OpenAI(base_url=base_url, api_key=api_key)
########################### 基础模式 ###########################
response = client.chat.completions.create( 
   model="ernie-4.5-vl-28b-a3b-thinking", 
   messages=[
        {"role": "user", "content": "What are some fun things to do in New York?"}],                max_tokens=10240, 
    temperature=0.0,
    stream=True,
)
for chunk in response: 
   print(chunk.choices[0].delta.content or"", end="", flush=True)
print()
      

▎更多学习与实践指南

自文心大模型开源以来,文心团队深度拆解文心系列开源模型的技术亮点与多场景实战效果,倾力打造精彩课程内容!诚邀各位小伙伴们回看学习,进一步夯实技能;更期待大家踊跃动手实测,直观感受文心大模型的最新强劲能力!

课程回放:

  • 文心大模型开源系列公开课:

https://aistudio.baidu.com/course/introduce/35258

  • 从大模型服务调用到应用实战:

https://aistudio.baidu.com/course/introduce/33550

星河社区:

https://aistudio.baidu.com/playground

实测反馈:欢迎大家添加小助手积极反馈模型的“超神时刻”(good case)和“翻车现场”(bad case)。您的意见一旦被采纳,将获得精美礼品1份~

文心黑板报|3分钟掌握文心多模态模型API调用方法

© 版权声明
THE END
如果内容对您有所帮助,就支持一下吧!
点赞0 分享
评论 抢沙发

请登录后发表评论

    暂无评论内容