ACRi ルームへようこそ! › フォーラム › ACRiルームについての質問・コメント › Vitis-AIの環境について
- 投稿者投稿
- 2021-02-01 10:48#797
「Alveoの利用方法」にしたがって、as004にてVitis-AIのサンプルを試そうとしたところビルドに失敗しました。
昨年10月に試用した際には問題なかったのですが、設定の変更などあったのでしょうか?また、Vitis-AIの最新版は既に1.3なのですがバージョンアップの予定などはないのでしょうか?
2021-02-26 11:21#806ando参加者返信が遅くなり申し訳ありません。
昨年10月以降はVitis AIに関して変更は行っていません。こちらでご紹介しているVitis AIの実行方法は今でも問題なく動作しています。
https://gw.acri.c.titech.ac.jp/wp/manual/alveo-server#toc4バージョンアップの予定は今のところありませんが、ご要望があれば可能な範囲で対応したいと思います。
as004(U50)については、Vitis AIがターゲットとするプラットフォームの開発用パッケージが一般に公開されていないためバージョンアップは難しいと考えています。2021-10-05 18:03#966u_nak01参加者Kria KV260 ビジョン AI スターター キットを購入し、納入待ちなのですが、Vitis AIの対応がv1.4となっていました。
Kria向けVitis AIのVersionUp対応等計画にはないでしょうか?2021-12-16 14:29#1071ando参加者返信が遅くなり申し訳ありません。
Kria向けにVitis AIの環境を用意する計画はありません。
Alveo向けのVitis AI環境は、U200、U250向けに更新したいと考えています。2022-09-26 19:03#1215u_takac参加者Vitis-AIに関連して,以下の2点について確認させて頂ければと存じます.
(1)
AlveoならびにVCK5000が搭載されたサーバ (ag001,as00{1,2,3,4,5}) での,Vitis-AIのセットアップ状況を確認させていただけますでしょうか.as004 (U50搭載機) にはバージョン2.5がインストールされており,動作することは確認いたしましたが,それ以外のサーバに関しても確認させて頂ければと存じます.
また当方の希望としては,上記の全てのサーバで最新のバージョン (2.5) が動作することが望ましいのですが,そのようなアップデートの予定はございますでしょうか?
(2)
as004 の上で Vitis-AI のプロファイラ (vaitrace) を動かしたところ,下記のような警告が出ており,CPU側の動作はプロファイリングできないようでした.WARNING:root:No such file or directory: ‘/sys/kernel/debug/tracing/trace_clock’
WARNING:root:CPU function tracing feature is disabled
WARNING:root:This tool need run as ‘root’
WARNING:root:without ‘root’ permission, CPU function profiling feature is invalidvaitraceコマンドだけでもsudoで実行出来れば解決できる問題なのか定かではないのですが,この問題を回避する手段はございますでしょうか?
2022-09-27 12:06#1216ando参加者現在はas004、as005(サービス停止中)にVitis AI 2.5がインストールされています。他のサーバーにはインストールされていません。U200とU250もVitis AIのサポート対象ですが、ACRiルームのU200とU250はプラットフォームが古いためインストールできていません。U200、U250のプラットフォームの更新は予定していましたが特に要望がなかったため後回しになっています。
すべてのサーバーでVitis AIを動かしたいのには何か理由がありますでしょうか。U200とU250で動くDPU IPは同じですので、セットアップやメンテナンスの作業量を考えると、U250だけにインストールするのが現実的かと考えています。またU280-ES1でVitis AIを動かすことはできません。
vaitraceにつきましては、少なくとも、Dockerコンテナにホストのdebugfsへのアクセスを許可することと、Dockerコンテナ内の一般ユーザーにsudoでvaitraceを実行する権限を与えることが必要になりそうです。リスクがないことが分かれば対応できますが、他の作業もあり、確認に時間を要しそうです。
2022-09-27 12:14#1217ando参加者vaitraceは引数にユーザープログラムを渡して実行しますが、sudoでvaitraceを実行するとユーザープログラムはroot権限で実行されてしまうように思います。そうであれば対応は難しそうです。
2022-09-27 13:05#1218u_takac参加者vaitraceにつきましては了解しました.大人数で共有するシステムである以上,やむを得ないことと思います.
Vitis AIのセットアップにつきましては,できるだけ多くのサーバにセットアップされていたほうが,当該サーバを別の方が使用している場合でも作業ができるという,単純に利便性の観点からのものでした.
ご指摘のとおり,多数のサーバへの導入はセットアップやメンテナンスのコストも大きくなると思います.ご提案のとおり,U250へのインストールをご検討頂けますと幸いです.
2022-09-27 17:30#1219ando参加者ご要望について正確に理解したいのですが、どのサーバーでも良いということは、U200やU250などの実機でVitis AIを動かしたいというよりは、実機は不要でVitis AIのコマンド(コンパイラ等)を使える環境があれば良いのでしょうか。
2022-09-27 19:50#1220u_takac参加者実機でVitis AI (DPU) を動かすことを希望しています.分かりにくくて申し訳ありません.
ハイエンドボードでDPUベースのアプリケーションを動かした時の,スループットやディレイなどの評価が出来ればと考えています.私の知る限りでは,DPUはシミュレーションモデルが提供されていないため,実機で動かして計測するしか手段が無いという認識です.U50サーバでの実機評価を進めているのですが,先の利便性に加え,ボードやDPUの違いによる性能差も見られればと考えて,要望を出した次第です.
VCK5000サーバのサービスが再開されるかたちでもこの要望は達成されるようにも思いますが,ACRiルーム全体のメンテナンス等の優先順位のもとで,ご検討頂ければと思います.
2022-09-28 10:57#1221ando参加者ご説明いただきありがとうございます。なるべくご希望に沿うようにしたいと思いますがお待たせしてしまうかもしれません。
ちなみにVitis AI 2.5は公式にはACRiルームのU50、VCK5000(gen4x8)をサポートしていません(カードやプラットフォームが異なるため)。このため独自にDPUをビルドして使用しています。実装されているPE数や動作周波数が公式のものとは異なりますので、スループットやレイテンシを評価される際はご留意ください。U250では公式のDPUを使用できる見込みです。
公式
U50LV : DPUCAHX8H, 10PE(batch=5), 275MHz
VCK5000 : DPUCVDX8H, 8PE(batch=8), 350MHz
ACRiルーム
U50 : DPUCAHX8H, 2PE(batch=1), 300MHz
VCK5000 : DPUCVDX8H, 8PE(batch=8), 328MHz2022-09-29 09:14#1222u_takac参加者了解いたしました.お手数をおかけしますが,よろしくお願いいたします.
DPUの情報につきましても,ありがとうございます.参考にさせていただきます.
- 投稿者投稿
- このトピックに返信するにはログインが必要です。