Snowflake Cortex AI、Metaとの協力により新たなフラッグシップモデルファミリーホスト・最適化 Snowflake合同会社のプレスリリース
非常に大きなモデル規模やメモリに関する要件の存在は、リアルタイムのユースケースにおける低遅延の推論、費用対効果の高い高スループット、さまざまなエンタープライズ級の生成AIユースケースを対象とした長尺コンテキストのサポートを実現することを目指すユーザーにとってはかなりの難題となります。モデルや起動状態を格納するメモリの要件もまた、ファインチューニングを非常に困難なものにしています。トレーニング用のモデル状態を適合させるために必要となる大規模GPUクラスターは、データサイエンティストには手が届かないことが珍しくありません。
Snowflakeの大規模なLLM推論およびファインチューニングシステム最適化スタックは、こうした課題に対処するものです。Snowflakeは高度並列処理技術とメモリ最適化を使用することで、高速かつ効率的なAI処理を、複雑で高価なインフラストラクチャを必要とすることなく実現します。SnowflakeのシステムスタックはLlama 3.1 405Bについて、単一のGPUノードのみでリアルタイムかつ高スループットの性能を実現すると同時に、マルチノード環境全体で12万8000トークンものばく大なコンテキストウィンドウをサポートします。このような柔軟性は次世代ハードウェアとレガシーハードウェアの双方にもたらされるため、利用できる企業の幅がより広がります。またデータサイエンティストは、わずかな数のGPUで精密技術を組み合わせて使うことでLlama 3.
このプレスリリースには、明示または黙示を問わず、（i）Snowflakeの事業戦略、（ii）開発中または一般に提供されていないSnowflakeの製品、サービス、テクノロジー、（iii）市場の拡大、トレンド、競争状況に関する考察、（iv）Snowflake製品とサードパーティプラットフォームの統合およびサードパーティプラットフォーム上でのSnowflake製品の相互運用性と可用性についての言及など、将来の見通しに関する記述が含まれています。これらの将来の見通しに関する記述は、さまざまなリスク、不確実性、前提に左右されます。これには、Snowflakeが証券取引委員会に提出するForm 10-Q（四半期レポート）やForm 10-K（年次レポート）内の「リスク要因」などのセグメントに記載されているリスク、不確実性、前提が含まれます。これらのリスク、不確実性、前提を考慮すると、将来の見通しに関する記述において予想または暗示されている結果と比較して、実際には大きく異なる結果や反対の結果に至る可能性があります。...
© 2024 Snowflake Inc All rights reserved. Snowflake、Snowflakeのロゴ、および本書に記載されているその他すべてのSnowflakeの製品、機能、サービス名は、米国およびその他の国におけるSnowflake Inc.の登録商標または商標です。 本書で言及または使用されているその他すべてのブランド名またはロゴは、識別目的でのみ使用されており、各所有者の商標である可能性があります。 Snowflakeが、必ずしもかかる商標所有者と関係を持ち、または出資や支援を受けているわけではありません。
プレスリリース ニュースリリース 配信 サイト サービス 方法 代行 PR TIMES
日本 最新ニュース, 日本 見出し
Similar News:他のニュース ソースから収集した、これに似たニュース記事を読むこともできます。
SNOWFLAKE WORLD TOUR TOKYO 2024開催決定SNOWFLAKE WORLD TOUR TOKYO 2024開催決定 Snowflake合同会社のプレスリリース
続きを読む »
AMDのZen 5採用最新AI PC向けチップ「Ryzen AI 9 HX 370」のベンチマーク結果まとめ2024年6月、AMDは次世代CPUマイクロアーキテクチャの「Zen 5」および、Zen 5を採用したAI PC向けのチップとなるRyzen AI 300シリーズを発表しました。その後、Zen 5やRyzen AI 300シリーズの詳細が明らかになり、Ryzen AI 300シリーズの上位モデルとして「Ryzen AI 9 HX 370」も発表されています。この「Ryzen AI 9 HX 370」のレビューがさっそく公開されていたので、どんな評価になっているのかまとめてみました。
続きを読む »
顔を覚えづらい「相貌失認」は意外に多い？ 最大5%も伝説の霊長類学者ジェーン・グドール氏、俳優のブラッド・ピット氏、そして『妻と帽子をまちがえた男』の著者として知られる神経学者の故オリバー・サックス氏の共通点は何か？ 答えは親しい人や有名人の顔を覚えられなかったり、見分けがつかなかったりする「相貌失認（そうぼうしつにん）」だ。長年、相貌失認はまれな障害とされてきたが、2023年に学術誌「Cortex」に掲載された論文によれば、相貌失認の人はこれ
続きを読む »
NVIDIA AI Foundry が世界中の企業向けにカスタム Llama 3.1 生成 AI モデルを構築NVIDIA AI Foundry が世界中の企業向けにカスタム Llama 3.1 生成 AI モデルを構築
続きを読む »
NVIDIA AI Foundry が世界中の企業向けにカスタム Llama 3.1 生成 AI モデルを構築NVIDIA AI Foundry が世界中の企業向けにカスタム Llama 3.1 生成 AI モデルを構築 NVIDIAのプレスリリース
続きを読む »
トレンドマイクロがAIを活用した新たなセキュリティ戦略を発表 複数機能を追加：セキュリティニュースアラートトレンドマイクロはAIを活用した新たなセキュリティ戦略として「Security for AI」と「AI for Security」を発表した。2つのコンセプトに沿って複数の新機能を追加している。
続きを読む »