Vitis-AIの環境について

  • このトピックには11件の返信、4人の参加者があり、最後にu_takacにより1年、 8ヶ月前に更新されました。
12件の投稿を表示中 - 1 - 12件目 (全12件中)
  • 投稿者
    投稿
  • #797

    「Alveoの利用方法」にしたがって、as004にてVitis-AIのサンプルを試そうとしたところビルドに失敗しました。
    昨年10月に試用した際には問題なかったのですが、設定の変更などあったのでしょうか?

    また、Vitis-AIの最新版は既に1.3なのですがバージョンアップの予定などはないのでしょうか?

    #806
    ando
    参加者

    返信が遅くなり申し訳ありません。
    昨年10月以降はVitis AIに関して変更は行っていません。

    こちらでご紹介しているVitis AIの実行方法は今でも問題なく動作しています。
    https://gw.acri.c.titech.ac.jp/wp/manual/alveo-server#toc4

    バージョンアップの予定は今のところありませんが、ご要望があれば可能な範囲で対応したいと思います。
    as004(U50)については、Vitis AIがターゲットとするプラットフォームの開発用パッケージが一般に公開されていないためバージョンアップは難しいと考えています。

    #966
    u_nak01
    参加者

    Kria KV260 ビジョン AI スターター キットを購入し、納入待ちなのですが、Vitis AIの対応がv1.4となっていました。
    Kria向けVitis AIのVersionUp対応等計画にはないでしょうか?

    #1071
    ando
    参加者

    返信が遅くなり申し訳ありません。
    Kria向けにVitis AIの環境を用意する計画はありません。
    Alveo向けのVitis AI環境は、U200、U250向けに更新したいと考えています。

    #1215
    u_takac
    参加者

    Vitis-AIに関連して,以下の2点について確認させて頂ければと存じます.

    (1)
    AlveoならびにVCK5000が搭載されたサーバ (ag001,as00{1,2,3,4,5}) での,Vitis-AIのセットアップ状況を確認させていただけますでしょうか.

    as004 (U50搭載機) にはバージョン2.5がインストールされており,動作することは確認いたしましたが,それ以外のサーバに関しても確認させて頂ければと存じます.

    また当方の希望としては,上記の全てのサーバで最新のバージョン (2.5) が動作することが望ましいのですが,そのようなアップデートの予定はございますでしょうか?

    (2)
    as004 の上で Vitis-AI のプロファイラ (vaitrace) を動かしたところ,下記のような警告が出ており,CPU側の動作はプロファイリングできないようでした.

    WARNING:root:No such file or directory: ‘/sys/kernel/debug/tracing/trace_clock’
    WARNING:root:CPU function tracing feature is disabled
    WARNING:root:This tool need run as ‘root’
    WARNING:root:without ‘root’ permission, CPU function profiling feature is invalid

    vaitraceコマンドだけでもsudoで実行出来れば解決できる問題なのか定かではないのですが,この問題を回避する手段はございますでしょうか?

    #1216
    ando
    参加者

    現在はas004、as005(サービス停止中)にVitis AI 2.5がインストールされています。他のサーバーにはインストールされていません。U200とU250もVitis AIのサポート対象ですが、ACRiルームのU200とU250はプラットフォームが古いためインストールできていません。U200、U250のプラットフォームの更新は予定していましたが特に要望がなかったため後回しになっています。

    すべてのサーバーでVitis AIを動かしたいのには何か理由がありますでしょうか。U200とU250で動くDPU IPは同じですので、セットアップやメンテナンスの作業量を考えると、U250だけにインストールするのが現実的かと考えています。またU280-ES1でVitis AIを動かすことはできません。

    vaitraceにつきましては、少なくとも、Dockerコンテナにホストのdebugfsへのアクセスを許可することと、Dockerコンテナ内の一般ユーザーにsudoでvaitraceを実行する権限を与えることが必要になりそうです。リスクがないことが分かれば対応できますが、他の作業もあり、確認に時間を要しそうです。

    #1217
    ando
    参加者

    vaitraceは引数にユーザープログラムを渡して実行しますが、sudoでvaitraceを実行するとユーザープログラムはroot権限で実行されてしまうように思います。そうであれば対応は難しそうです。

    #1218
    u_takac
    参加者

    vaitraceにつきましては了解しました.大人数で共有するシステムである以上,やむを得ないことと思います.

    Vitis AIのセットアップにつきましては,できるだけ多くのサーバにセットアップされていたほうが,当該サーバを別の方が使用している場合でも作業ができるという,単純に利便性の観点からのものでした.

    ご指摘のとおり,多数のサーバへの導入はセットアップやメンテナンスのコストも大きくなると思います.ご提案のとおり,U250へのインストールをご検討頂けますと幸いです.

    #1219
    ando
    参加者

    ご要望について正確に理解したいのですが、どのサーバーでも良いということは、U200やU250などの実機でVitis AIを動かしたいというよりは、実機は不要でVitis AIのコマンド(コンパイラ等)を使える環境があれば良いのでしょうか。

    #1220
    u_takac
    参加者

    実機でVitis AI (DPU) を動かすことを希望しています.分かりにくくて申し訳ありません.

    ハイエンドボードでDPUベースのアプリケーションを動かした時の,スループットやディレイなどの評価が出来ればと考えています.私の知る限りでは,DPUはシミュレーションモデルが提供されていないため,実機で動かして計測するしか手段が無いという認識です.U50サーバでの実機評価を進めているのですが,先の利便性に加え,ボードやDPUの違いによる性能差も見られればと考えて,要望を出した次第です.

    VCK5000サーバのサービスが再開されるかたちでもこの要望は達成されるようにも思いますが,ACRiルーム全体のメンテナンス等の優先順位のもとで,ご検討頂ければと思います.

    #1221
    ando
    参加者

    ご説明いただきありがとうございます。なるべくご希望に沿うようにしたいと思いますがお待たせしてしまうかもしれません。

    ちなみにVitis AI 2.5は公式にはACRiルームのU50、VCK5000(gen4x8)をサポートしていません(カードやプラットフォームが異なるため)。このため独自にDPUをビルドして使用しています。実装されているPE数や動作周波数が公式のものとは異なりますので、スループットやレイテンシを評価される際はご留意ください。U250では公式のDPUを使用できる見込みです。

    公式
    U50LV : DPUCAHX8H, 10PE(batch=5), 275MHz
    VCK5000 : DPUCVDX8H, 8PE(batch=8), 350MHz
    ACRiルーム
    U50 : DPUCAHX8H, 2PE(batch=1), 300MHz
    VCK5000 : DPUCVDX8H, 8PE(batch=8), 328MHz

    #1222
    u_takac
    参加者

    了解いたしました.お手数をおかけしますが,よろしくお願いいたします.

    DPUの情報につきましても,ありがとうございます.参考にさせていただきます.

12件の投稿を表示中 - 1 - 12件目 (全12件中)
  • このトピックに返信するにはログインが必要です。
タイトルとURLをコピーしました