AIの新時代をリードするGroqの挑戦

2024.02.23

WorkWonders

AI分野で注目を集めるGroqは、人工知能言語モデルを高速で動作させるための専用ハードウェアを開発しています。

Groqの目標は、AIのレスポンス速度を人間のタイピング速度の75倍にまで高めることです。

会話形式のAIチャットボットを使う時や、メール作成の支援を求める時など、AIを使った作業の高速化は非常に重要です。

現実的な時間で情報を得たい、迅速に結果を出して次の作業に移りたいというニーズに応えるため、Groqは従来の計算手法とは異なるハードウェアを採用しています。

特に、大規模言語モデル(LLM)を扱うのに最適化された「言語処理ユニット(LPU)」を開発。

これにより、同社は既存のGPUを用いた方法よりも最大10倍の速さでLLMを動かすことができるとしています。

Groqは、現在Llama 2やMixtral-8x7b、Mistral 7Bなどを稼働しており、誰もが無料で、ソフトウェアのインストールなしでこの高速なAIエンジンとAPIを試すことができます。

今後、オープンソースモデルの提供に力を入れていくとしているGroqの動向から目が離せません。

出典 : https://www.tomsguide.com/ai/forget-chatgpt-groq-is-the-new-ai-model-to-beat-with-blistering-computation-speed

【このニュース記事はAIを利用して書かれています】

著者名 :