Fastly、新たな AI アクセラレータで開発者のより優れたインターネット構築を支援 Fastly株式会社のプレスリリース
ソフトウェア開発業界を対象とした米国の調査会社 RedMonk の主席アナリストである Stephen O’Grady 氏は次のように述べています。「AI テクノロジー全般、特に LLM は目覚ましい勢いでテクノロジー業界に革新をもたらしており、開発者を含む世界中の何百万人もの人々の日々の働き方に影響を与えています。最大規模のモデルに多くの注目が集まる一方で、多くの開発者や企業が、中規模および小規模のモデルにも目を向けています。コスト削減、トレーニングサイクルの短縮、より限定されたハードウェアプロファイルでの実行など理由はさまざまですが、中小規模のモデルが重要な選択肢となりつつあります。」
一般的な AI アプリケーションは、毎日何十万件もの API コールや質問を処理することが可能です。ユーザーによる質問の多くは非常に類似しており、過去に質問されている可能性があります。セマンティックキャッシュを使用しない場合、LLM を呼び出すたびにプロバイダーに戻って情報を取得する必要があり、コストとレイテンシーが増大しかねません。Fastly AI Accelerator のセマンティックキャッシュ機能は、繰り返されるクエリに対して、AI プロバイダーに戻らず、Fastly の高性能エッジプラットフォームから直接キャッシュされたレスポンスを提供するため、コストを抑えながらパフォーマンスを向上させることができ、より優れたエクスペリエンスを提供することが可能になります。
プレスリリース ニュースリリース 配信 サイト サービス 方法 代行 PR TIMES
日本 最新ニュース, 日本 見出し
Similar News:他のニュース ソースから収集した、これに似たニュース記事を読むこともできます。
Fastly、Web アプリケーションを保護する Fastly Managed Security Service を強化Fastly、Web アプリケーションを保護する Fastly Managed Security Service を強化 Fastly株式会社のプレスリリース
続きを読む »
ウェルビーイングの第一人者 矢野和男が講師を務めるウェルビーイング・リーダー育成プログラム「Happiness Planet Juku」の第１期生募集開始！株式会社ハピネスプラネット|img src='https://prcdn.freetls.fastly.net/release_image/138235/6/138235-6-56238c4310238da31386c325af…
続きを読む »
現役声優・ナレーターのイヲリ講師をゲストに迎えVoice Planet（ボイスプラネット）が即興形式のイベントを名古屋で開催株式会社アプラ|img src='https://prcdn.freetls.fastly.net/release_image/44989/82/44989-82-1dd0197783ab7ce960c2bfcb55b6f80b-2048x…
続きを読む »
AIやロボット制御のロングセラー学習教材 Raspberry Pi Mouse V3を価格引き下げ株式会社アールティロボットエンジニア不足解消の一助として|img src='https://prcdn.freetls.fastly.net/release_image/69918/5…
続きを読む »
国連が動画「未来の天気予報」公開国連開発計画「今なら予報を変えられる」と気候危機訴え|img src='https://prcdn.freetls.fastly.net/release_image/75432/54/75…
続きを読む »
大岡愛、座間市議会の義援金寄付に協力株式会社RAINBOW台湾と日本の間に架ける橋となることを目指しています|img src='https://prcdn.freetls.fastly.net/release_imag…
続きを読む »