中国站
温馨提示×

您好,登录后才能下订单哦!

  • 密码登录
  • 手机登录
×
其他方式登录

Llama 3 大语言模型

Llama 3 是一款由Meta AI在2024年4月开源的LLM模型包含AI模型、UI界面、GPU算力

联系购买 演示体验
产品套餐
算力方案
适用场景
显存
算力
CPU
内存
存储空间
带宽
每月公网流量包
抢先价
基础型 推理 16 GB 8+ TFlops SP 8 核 32 GB
系统盘30 GB
数据盘50 GB
5 Mbps 500 GB
1599 元/月
进阶型 推理、训练 32 GB 15+ TFlops SP 8~10 核 40 GB
系统盘30 GB
数据盘50 GB
5 Mbps 500 GB
1999 元/月

存储空间、带宽、IP均可扩展购买,环境配置:Ubuntu 22.04.4, Pyhton 3.10.12, CUDA 12.4, pytorch 2.2.1

丝滑应用
丰富功能

模型加载

只需将下载的模型放入指定目录下
即可加载主流基于transformers框架的模型
已预装Llama 3模型

模型推理

支持大语言模型的多轮对话与文本生成、多人同时使用

推理参数修改

支持修改大语言模型推理时控制结果走向的参数
如:temperature, top_k, top_p

模型微调

支持基于基础大模型和私有数据,微调训练自己的小模型

官方交流群

学习交流 服务保障

官方客服

7*24小时全天候服务

http://www.vxiaotou.com