生成ＡＩは久々に登場したＩＴ業界のイノベーションとして、米国では大型の投資案件として、日本ではコンサル案件として、大いに盛り上がっているようです。正確な議事録が瞬時に作られる、提案書作成が自動化されて営業が効率化する、ソフト開発が自動化されて開発コストが激減する、などのメリットが期待されています。
一方で生成ＡＩ活用に伴うデメリットも徐々に見えてきました。生成ＡＩに求める内容が複雑化したりユーザー側がプロンプトに高度な要求をしたりすると、回答が戻ってくるまでに相当な時間を待たされることがあります。公衆無線ＬＡＮで作業しようとすると、タイムアウトになることもあります。さらに大きな問題は、社内議事録の内容やコンサルを受けた内容が、外部のサーバーにすべて送られることです。
かつて大手自動車会社の孫請けをしていた中小企業は、受注した試作品の個数や納期が書かれたホワイトボードがバックに写り込んだ写真をＳＮＳにアップしたことで、取引停止になった事例がありました。工程会議などの議事録を生成ＡＩで作成すると、受注に関する情報が外部に漏洩する可能性があります。この状況は近いうちに問題化するかもしれません。
そこで、生成ＡＩの活用で本命となりそうなのがＡＩ搭載パソコンです。生成ＡＩに必要な機能を持つＮＰＵ（Neural Processing Unit：ニューラルネットワークプロセッサ）を備えたパソコンです。このパソコンでは、ＡＩの推論処理をローカルで完結するので、先にあげた3点の問題点が解消します。
生成ＡＩ搭載パソコンはすでに商品化されています。価格は一般向けパソコンの1.5倍程度となりますが、セキュリティ保護が重要な企業における利用には相応なコストとも言えます。
今年の生成ＡＩ活用はサーバー処理からローカル処理に、急速に変化するものと予想されます。