Appleが最近公開した研究論文により、同社のAI開発戦略に関する興味深い詳細が明らかになりました。業界リーダーであるNVIDIAのGPUを避け、代わりにGoogleのTPU(Tensor Processing Unit)チップを採用するという驚くべき選択をしたのです。この決定は、AIの世界に大きな影響を与える可能性があります。
AppleのAI基盤:Apple Foundation Model (AFM)
Appleの AI 戦略の中心にあるのが、Apple Foundation Model (AFM) です。この モデルは、デバイス上とクラウド上の両方のAI機能を支えています。AFMは、27億3000万のパラメータを持つ大規模なモデルで、GoogleのTPUクラウドクラスターを使用してトレーニングされています。
クラウドAI機能のためのサーバーAFM
Apple Cloud Computeと呼ばれるクラウドAI機能のために、Appleは6.3兆トークンの巨大なAIモデルを開発しました。このモデルは、8,192個のTPUv4チップを使用して「ゼロから」トレーニングされています。これは、Googleが提供する4,096チップで構成されるTPUv4ポッドを2つ使用していることを意味します。
デバイス上のAI機能
デバイス上のAI機能(文章作成や画像選択など)には、64億パラメータのモデルが使用されています。このモデルもAFMサーバーモデルと同じ方法でトレーニングされていますが、より新しい2,048個のTPU v5pチップを使用しています。v5pは、Googleの最新のAIハイパーコンピューターの一部で、v4の2倍のFLOPS(浮動小数点演算)と3倍のメモリを提供し、モデルのトレーニング速度を約3倍に向上させています。
AppleのAIモデルの性能評価
Appleは、その AIモデルを有害な応答、センシティブなトピック、事実の正確性、数学的性能、そして出力に対する人間の満足度などの観点から評価しました。結果は印象的でした。
AFMサーバーモデルの有害出力違反率は6.3%で、OpenAIのGPT-4の28.8%を大きく下回りました。同様に、デバイス上のAFMモデルの違反率は7.5%で、MetaのLlama-3-8Bモデルの21.8%よりもはるかに低い結果となりました。
さらに、メール、メッセージ、通知の要約に関するユーザー満足度も高く、それぞれ71.3%、63%、74.9%を記録しました。これらの数値は、Llama、Gemma、Phi-3などの他のモデルを上回っています。
まとめ
Appleの最新の研究論文は、同社がAI開発において独自の道を歩んでいることを明確に示しています。NVIDIAのGPUに依存せず、GoogleのTPUチップを採用することで、AppleはAI業界に新しい風を吹き込んでいます。
この戦略は、有害な出力の抑制やユーザー満足度の向上など、すでに目に見える成果を上げています。AppleのAIモデルは、性能面で業界をリードしており、今後のAI機能の展開に大きな期待が寄せられています。
Appleの革新的なアプローチは、AI技術の未来に大きな影響を与える可能性があり、業界全体にとって重要な転換点となるかもしれません。今後のAppleのAI戦略の展開に、世界中が注目しています。