DIME MAGAZINE
NVIDIAから新しい小型の生成 AI スーパーコンピューター、NVIDIA Jetson Orin Nano Super 開発者キットが発表された。
この新しい NVIDIA Jetson Orin Nano Super 開発者キットは手のひらに収まるほどのサイズで、商用 AI の開発者からホビイスト、学生まで、あらゆる人が生成 AI の機能と性能を得られるという。さらに、価格が499ドルから249ドルに改定され、より身近になった。
性能に関しては、生成 AI 推論性能が1.7倍に向上した他、性能が70%アップして67 INT8 TOPSになり、メモリ帯域幅が前のモデルより50%増の102GB/sとなっている。
検索拡張機能 (RAG) をベースにしたLLMチャットボットの作成やビジュアルAIエージェントの構築、あるいはAIベースのロボットの展開など、Jetson Orin Nano Super は、さまざまな用途に見合った理想的なソリューションとなる。
ギフトに最適な、進化し続けるプラットフォーム
新しいJetson Orin Nano Super向けのソフトウェア アップデートにより、Jetson Orin Nano開発者キットをすでに所有している人も、生成 AI 性能を高められるようになる。
Jetson Orin Nano Super は、生成AI、ロボティクスあるいはコンピューター ビジョンのスキル開発に興味を持っている人に適している。AIの世界がタスク中心のモデルから基盤モデルへと向かっている中、Jetson Orin Nano Superは、アイデアを現実に変換するためのプラットフォームにもなりうる。
■Superが生成AIにもたらすパワフルな性能
Jetson Orin Nano Superで強化された機能は、あらゆる主要な生成AIモデルとTransformerベースのコンピューター ビジョンで活用が可能だ。
開発者キットは、Jetson Orin Nano 8GB システムオンモジュール (SoM) とリファレンス キャリアボードで構成され、エッジ AI アプリケーションのプロトタイプ作成に最適なプラットフォームとなっている。
SoM には、Tensorコア搭載のNVIDIA AmpereアーキテクチャGPUと6基の Arm CPUが実装されており、複数かつ並列的なAIアプリケーションのパイプラインと高性能な推論を可能にする。
また、最大4つのカメラに対応しているため、以前のバージョンより高い解像度とフレームレートを実現している。
■広範な生成AIソフトウェアのエコシステムとコミュニティ
生成 AIは、急速な進化を遂げている。NVIDIA Jetson AIラボ は、オープンソースコミュニティのこれら最先端モデルに即応しており、使いやすいチュートリアルを提供している。
開発者は、より広範なJetsonコミュニティからの支援を得られる他、開発者たちが構築したプロジェクトからもインスピレーションを得られる。
Jetson では、ロボティクス向けのNVIDIA Isaac、ビジョンAI向けのNVIDIA Metropolis、およびセンサー処理向けのNVIDIA Holoscan などのソフトウェアが実行できる。
合成データ生成のための NVIDIA Omniverse Replicator、およびNGCカタログにある、事前トレーニング済みの AI モデルをファインチューンするための NVIDIA TAO ツールキットを使えば、開発時間の短縮が可能になる。
Jetson のエコシステム パートナーは、AIとシステムのための追加のソフトウェア、開発者ツール、およびカスタムのソフトウェア開発を提供している。
これらパートナーからは、カメラや他のセンサーとともに、製品ソリューションのためのキャリアボードとデザイン サービスも提供される。
■Super モードによりJetson Orinの性能を強化
生成AIの性能を1.7倍向上させるソフトウェア アップデートは、Jetson Orin NX と Orin Nano シリーズのシステムオンモジュールでも利用できる。
Jetson Orin Nano 開発者キットの既存ユーザーは、JetPack SDK をアップグレードすれば、今すぐ強化された性能を活用できるようになる。
Jetson Orin Nano Super開発者キットは日本国内においては、販売パートナーである菱洋エレクトロとマクニカから2024年12月18日より販売が開始された。
関連情報
https://www.nvidia.com/ja-jp/
構成／清水眞希
最新号
