2026年2月6日 記
Orange Pi 5 Plus について
昨年、Orange Piにちょっと興味を持ちまして Orange Pi 5 Plus を購入し、
10月末以降くらいからずっと動作させています。
割と最近になって「いつの間にか止まることもなく」動作するようになりました。
この Orange Pi に興味を持ったのは割と小さな基板に割と強力なハードウェアを搭載していることでした。
私としては、8コアのCPUとPCIe x4 M.2 スロットが付いているのが大きな魅力でしたが
実際に使ってみるとソフトウェア（特にOS）が充実していないので魅力が大きく半減してしまいました。
ChatGPTに聞きながらUSBカメラを使って
OpenCV用の画像認識AIを動かしてみましたが、そんな程度で終わってしまいました。
私が子供のころから「パソコンはソフトが無ければタダの箱」と言われてましたが、
いくらハードウェアが強力でもそれを動かすためのソフトウェア（特にOS）が整備されていないと遊んでみる気もすぐに失せてしまいます。
Orange Pi 5 Plusの主力OSはLinuxですがLinuxにも色々ありまして、使えるコマンドも全然違ってしまいます。
自分が使い慣れているディストリビューションやGUIが対応していないとか、
不具合が多いとかだと他の人も使う気にならないのではないかと思います。
もちろんそれら（自分が使い慣れたOS・GUIなど）をすべて捨てても使いたい･･･と、
言わせる程の強力なハードウェアであれば例外でしょうが、
私にとってこの Orange Pi 5 Plusは残念ながらそこまでの魅力はありませんでした･･･ということになります。
ChatGPTにOrange Pi 5 Plus（NPU）について聞いてみたところ、回答（の一部）は以下のような内容でした。
Orange Pi 5 Plus の RK3588 には 6TOPS※クラスのNPU が付いていて、AI専用ハードです。 Rockchip 提供の RKNN Toolkit を使えば、学習済みモデル（猫犬判定とか物体検出とか）を変換して高速に実行できます。
メリット：CPUより数倍～数十倍速い。SBCでも「リアルタイム物体検出」とかできる。
※ 実際にこの回答を得たときは「3TOPS」となっていましたが、そのあとの表示では「6TOPS」となっていましたので訂正してあります。 改めて調べてみたら「6TOPS」が正解なようです。
演算速度が「6TOPS」クラスのNPUということなので、 お試し画像認識AIを動かす程度なら問題ないでしょうが、本格的なAIを動かすにはまったくの不十分です。 Orange Piには他にもAI専用のボードもあるようですが、 コスト的なことも考えると最近出た Raspberry Pi用の 40TOPS AI HATの方がずっと魅力的ですね。 こっちは8GBのメモリも搭載しているのでCPU（Raspberry Pi本体）のメモリも圧迫しないようです。 こっちの方がおそらく低価格で遊べると思います。 ちなみに今現在までのところ、Raspberry Pi用の 26TOPS 以下のAIボードには8GBのメモリは非搭載です。ご注意くださいね。
参考までに･･･なんですが、インターネットで調べてみたらNVIDIAのGPUだと、
RTX4090で 41.3TOPS、RTX5090で 104.8TOPS（INT32性能）･･･と、出てきました。
RTX4090で 82.6TFLOPS、RTX5090で 104.8FLOPS（FP32/FP16/BF16性能）
RTX4090で 1321AI TOPS、RTX5090で 3352AI TOPS（混合精度）
※注意：いずれもピーク性能です。
RTX5090だと「Tensorコア」というものを使ってアクセラレートすると 3352AI TOPS の演算が可能なようです。 しかも演算精度は「混合」なようです。 とんでもないスペックですね。 値段が桁違いなのも分かります。
ちなみに性能単位のTOPSとTFLOPSの違いは「整数演算」を表すときにTOPSを、 「浮動小数点演算」を表すときにTFLOPSが使われているようです。 どちらも「演算回数」を表す単位で1TOPS、1TFLOPSの両方とも同じ1兆回／秒の演算回数を表しますが、 先に書いた通り「演算精度」がそれぞれで違います。
もし（コスト無視で）本格的にAIを始めるのであればPCと強力なGPU上で始めた方が良さそうです （もちろんOSはLinuxです。Windowsでも出来なくはないようですが結局Linuxを使うようになるようです）。 ･･･そっちで色々やってからSBCに移った方が色々と早そうですね。 なお、PCのグラフィックカード以外の更に高性能なAI専用のGPUとか開発環境とか色々あるようですので、 興味がありましたらメーカーのホームページをご覧くださいね。