スマホ内蔵AIでプライバシー保護!NECの革新技術「コトミ」とは?

2024.03.03

WorkWonders

NECのCTO西原基夫氏は、大規模言語モデル(LLM)をスマートフォンで動かすための技術について発表しました。
こちらは、Qualcommの半導体を利用し、インターネットを経由せずに端末内で完結するシステムです。
これにより、ユーザーのプライバシーをより守りやすくなり、カスタマイズされたAIチャットの提供が可能になります。
特に注目すべきは、NECが展開する予定のLLM「cotomi(コトミ)」で、OpenAIの「GPT-3」よりもパラメータ数が少なく、高速で動作します。
この「小さいLLM」は賢さを保ちながら、データを選りすぐることで効率的に動作するとされています。
NECの研究では、この技術を用いて事故の原因をAIが言語で解説するなど、実用的な応用も進行中です。

出典 : https://xtech.nikkei.com/atcl/nxt/column/18/02754/022900009/

【このニュース記事はAIを利用して書かれています】

著者名 :