スパコン「富岳」で訓練した大規模言語モデルが無償公開

アスキー ニュース

スパコン「富岳」で訓練した大規模言語モデルが無償公開
ASCIIASCII.Jp角川アスキー総合研究所
  • 📰 asciijpeditors
  • ⏱ Reading Time:
  • 14 sec. here
  • 5 min. at publisher
  • 📊 Quality Score:
  • News: 19%
  • Publisher: 51%

東京工業大学、東北大学、富士通、理化学研究所、名古屋大学、サイバーエージェント、コトバテクノロジーズの共同研究チームは、理化学研究所のスーパーコンピュータ「富岳」を用いて訓練した日本語能力に優れた大規模言語モデル「Fugaku-LLM」を公開した。研究者は、オープンソースソフトの公開に使われているプラットフォームである「ギットハブ(GitHub)」や「ハギングフェイズ(Hugging Face)」を通じて、研究および商業目的で利用できる。

は、理化学研究所のスーパーコンピュータ「富岳」を用いて訓練した日本語能力に優れた大規模言語モデル「Fugaku-LLM」を公開した。研究者は、オープンソースソフトの公開に使われているプラットフォームである「ギットハブ(GitHub)」や「ハギングフェイズ(Hugging Face)」を通じて、研究および商業目的で利用できる。...

MT-Bench」で最高性能を達成。特に人文社会系のタスクでは高い性能を発揮し、敬語など日本語の特徴を踏まえた自然な対話をすることなどが期待されるとしている。 研究チームは今回、深層学習フレームワークを富岳に移植し、トランスフォーマーの性能を富岳上で最適化するとともに、並列分散学習手法を開発し適用することで、富岳で大規模言語モデルの訓練をする際の演算速度を従来の6倍に高速化。さらに、集団通信を最適化して通信速度を3倍高速化することで、富岳のCPUを用いて現実的な時間内で大規模言語モデルを訓練することを可能にした。...

このニュースをすぐに読めるように要約しました。ニュースに興味がある場合は、ここで全文を読むことができます。 続きを読む:

asciijpeditors /  🏆 98. in JP

ASCII ASCII.Jp 角川アスキー総合研究所

日本 最新ニュース, 日本 見出し

Similar News:他のニュース ソースから収集した、これに似たニュース記事を読むこともできます。

スパコン「富岳」で作るLLM研究の現状 富士通は生成AIビジネスをどう戦うのか(1/2 ページ)スパコン「富岳」で作るLLM研究の現状 富士通は生成AIビジネスをどう戦うのか(1/2 ページ)生成AIブームの今、注目のキーワードが「基盤モデル」だ。各AIベンダーたちの間で基盤モデルの開発競争が激化する中、それぞれの開発状況や強みを探っていく。今回は、富士通に話を聞いた。
続きを読む »

国産生成AI、スパコン「富岳」で開発加速 東工大などの研究チームが中核技術を公開国産生成AI、スパコン「富岳」で開発加速 東工大などの研究チームが中核技術を公開東京工業大や東北大、富士通などの研究チームは10日、理化学研究所が運用するスーパーコンピューター「富岳」(神戸市)で生成人工知能(AI)の中核技術である「大規…
続きを読む »

“純粋な国産AI”誕生 ハードもデータも全部日本製 スパコン「富岳」で開発“純粋な国産AI”誕生 ハードもデータも全部日本製 スパコン「富岳」で開発スーパーコンピュータ「富岳」で学習をした日本語特化の大規模言語モデルを開発した──東京工業大学と東北大学、富士通、理化学研究所、名古屋大学、サイバーエージェント、Kotoba Technologiesの合同研究チームは、そんな発表をした。
続きを読む »

スパコン「富岳」で学習した日本語特化大規模言語モデル「Fugaku-LLM」が公開されるスパコン「富岳」で学習した日本語特化大規模言語モデル「Fugaku-LLM」が公開されるスーパーコンピューター「富岳」を用いて学習した130億パラメータの大規模言語モデル「Fugaku-LLM」が2024年5月10日(金)に公開されました。Fugaku-LLMは既存の大規模言語モデルに頼らず独自の学習データを用いて学習しており、既存の日本語特化大規模言語モデルと比べて高い性能を発揮することがアピールされています。
続きを読む »

スーパーコンピュータ「富岳」の世界ランキング結果についてスーパーコンピュータ「富岳」の世界ランキング結果についてスーパーコンピュータ「富岳」の世界ランキング結果について 富士通株式会社のプレスリリース
続きを読む »

理研、IBMの次世代量子システムをスーパーコンピュータ「富岳」に連携理研、IBMの次世代量子システムをスーパーコンピュータ「富岳」に連携理研、IBMの次世代量子システムをスーパーコンピュータ「富岳」に連携 日本アイ・ビー・エム株式会社のプレスリリース
続きを読む »



Render Time: 2025-02-24 18:58:11