BLOOM 大模型：開源語言模型BLOOM 期待開啟AI的「 Android」 時代
開源語言模型BLOOM 期待開啟AI的「 Android」 時代
【自然语言处理】【大模型】BLOOM模型结构源码解析(张量 ...
https://zhuanlan.zhihu.com
BLOOM采用Megatron-DeepSpeed框架进行训练，其张量并行采用的是1D张量。本文基于BigScience开源的代码仓库Megatron-DeepSpeed，介绍张量并行版BLOOM的原理和结构。
【自然语言处理】【大模型】BLOOM：一个176B参数且可开放 ...
https://zhuanlan.zhihu.com
BLOOM: A 176B-Parameter Open-Access Multilingual Language Model》 论文地址： https://arxiv.org/pdf/2211.05100.pdf一、简介预训练语言模型已经成为了现代自然 ...
【自然语言处理】【大模型】大语言模型BLOOM推理工具测试
https://zhuanlan.zhihu.com
BLOOM是由HuggingFace推出的大模型，其参数量达到176B(GPT-3是175B)。目前超过100B参数量且能够支持中文的开源大模型只有BLOOM和GLM-130B。由于HuggingFace是著名开源工具 ...
人人都能用的多语种大模型来了！支持59种语言，参数1760亿
https://www.qbitai.com
它的名字叫BLOOM，参数1760亿，不光支持英文或者中文，连西班牙语、法语等59种语言都支持，是目前最大的多语言开源语言模型。
全球首款「繁體中文」AI 大型語言模型登場！聯發科攜手中研院 ...
https://3c.ltn.com.tw
聯發科表示，聯發創新基地的AI研究團隊，於今年成功開發的首個繁體中文「BLOOM-zh」大型語言模型，主要運用兩大關鍵技術，其一，就是使用能理解包括 ...
具備1760億個參數的語言模型BLOOM開源了
https://www.ithome.com.tw
BLOOM模型可理解46種語言及13種程式語言，包含法文、西班牙文、越南文、中文或多種印度及非洲語言，大約只有超過30%的訓練資料為英文，因此，現在使用者 ...
千亿参数开源大模型BLOOM 背后的技术
https://101.dev
概述 · GPU: 384 张NVIDIA A100 80GB GPU (48 个节点) + 32 张备用GPU · 每个节点8 张GPU，4 条NVLink 卡间互联，4 条OmniPath 链路 · CPU: AMD EPYC 7543 32 ...
深度全解析开放开源大模型之BLOOM
https://zhuanlan.zhihu.com
BLOOM 本身是变换器网络Transformer解码器（Decoder-Only）模型，在一个称之为ROOTS的语料库上训练出来的176B参数规模【和GPT-3一样的规模】的自回归语言 ...