プロンプトとコンテキスト
同一プロセス内の2つのデータランタイムが、ホスト・デバイス間のコピーを最小限に抑えながら、GPU上でArrowレコードバッチを交換する必要があります。Arrow C Device Data Interfaceに基づいて、エクスポート、同期、ライフタイム、デバイス互換性、および障害処理を設計してください。
Arrow C Device Interfaceは、C Data Interfaceを拡張してデバイスタイプ、デバイス識別子、および同期イベントを追加し、GPUまたはFPGAのメモリをデバイス上に維持できるようにします。この仕様は現在、実験的（experimental）とマークされています。これはプロセス内ランタイムの相互運用性を対象としており、マシン間の転送や永続化を対象としたものではありません。
面接官が評価するポイント
面接官は、スキーマ、配列、レコードバッチ、デバイスバッファの明確な区別、ArrowDeviceArrayの正しい使用、CUDA、ROCm、Metal、その他のデバイスの処理、解放コールバック、読み取り専用共有、イベントのライフタイム、ABI互換性、および安全なCPUフォールバックを評価します。
明確化のための質問
交換の境界
プロデューサーとコンシューマーが同一プロセスおよび同一デバイスコンテキストを共有しているか、プロセス間またはマシン間の転送が必要か、そしてコンシューマーがArrow C Device Interfaceを実装しているかを確認します。
パフォーマンスと正確性の目標
ホスト・デバイス間コピーの削減、デバイス間コピーの削減、またはカーネル待機の削減のいずれが目標かを明確にし、同期の正確性、フォールバックのコスト、およびバッチサイズを定義します。
デバイスとメモリのタイプ
CUDA、ROCm、Metal、Vulkan、またはその他のデバイスタイプを特定し、デバイスIDの解決方法を定義し、Unified Memory、ピン留めされたホストメモリ（pinned host memory）、または通常のCPUバッファが許可されるかどうかを決定します。
30秒の回答
「私ならArrow C Data Interfaceのスキーマと配列を維持し、デバイスタイプ、デバイスID、同期イベントを保持するArrowDeviceArrayを追加します。プロデューサーは、イベントによってコンシューマーの読み取りが許可されるまでデバイスバッファを有効に維持します。双方がエクスポートされたデータを不変として扱い、解放コールバックを使用して所有権を定義します。コンシューマーはデバイスコンテキストとABIバージョンを検証します。サポートされていないデバイスやイベントは、CPUのArrowArrayまたは明示的なコピーにフォールバックします。このインターフェースは実験的であるため、リリーステストでは同期、クリーンアップ、デバイス喪失、およびコピーのデグレをカバーする必要があります。」
ステップバイステップの解決策
ステップ1：スキーマをデータから分離する
ArrowSchemaは、カラムの型、フィールド、およびメタデータを記述します。ArrowArrayは、長さ、オフセット、NULLビットマップ、データバッファ、および子要素を記述します。デバイスインターフェースはこれらの構造を維持し、トップレベルの配列をデバイス情報でラップします。GPUバッファであってもスキーマの必要性がなくなるわけではありません。
ステップ2：デバイスを記述する
プロデューサーは、コンシューマーが正しいコンテキストを特定できるようにデバイスタイプとデバイスIDを設定します。仕様では、CPU、CUDA、ROCm、Metal、Vulkan、およびその他のデバイス用のマクロが定義されています。数値マクロ値を未交渉のビジネスプロトコルに変換するのではなく、機能と合意されたデバイスタイプを確認してください。
ステップ3：同期イベントを定義する
sync_eventは、デバイスメモリを安全に読み取れるタイミングをコンシューマーに伝えます。プロデューサーは、イベントのセマンティクスが成立するまでバッファを有効に維持します。コンシューマーはカーネルを起動する前に、同等のイベントを待機またはインポートします。イベントの所有権、スレッドセーフ性、コンテキストの関連付け、および破棄は、文書化されていないポインタの慣例ではなく、規約に含める必要があります。
ステップ4：ゼロコピー共有を不変にする
ゼロコピーとは、ホストポインタを渡してランタイムがコピーを回避することを期待するのではなく、デバイスバッファを直接共有することを意味します。プロデューサーとコンシューマーは、エクスポートされたデータを不変として扱う必要があります。コンシューマーが書き込みを行う必要がある場合は、所有するストレージにコピーするか、明示的な排他書き込みリースを取得します。
ステップ5：ライフタイムを管理する
コンシューマーの処理が完了した後に配列、子要素、スキーマ、およびデバイスリソースを解放するには、C Data Interfaceの解放コールバックを使用します。プロデューサーはコールバックの前にバッファを再利用または解放してはならず、コンシューマーはそれを2回呼び出してはなりません。キャンセル、クラッシュ、およびデバイスのリセットには、観測可能なクリーンアップパスが必要です。
ステップ6：ABIと実装の境界を定める
このインターフェースは、C/C++以外のランタイムがFFIを介して公開できる小さなC定義を目指しています。これは実験的なものであるため、サポートされるバージョン、構造体サイズ、予約フィールドの初期化、およびポインタの有効性を固定します。小さなABIであっても、実験的なステータスと実装の違いは依然として運用上のリスクとなります。
ステップ7：フォールバックと検証
デバイスタイプ、コンテキスト、イベントのインポート、またはライフタイムの保証がサポートされていない場合は、CPUのArrowArrayまたは明示的なコピーにフォールバックし、その理由を記録します。デバイス、空のバッチ、ネストされたカラム、NULLビットマップ、解放順序、イベントのタイムアウト、デバイス喪失、およびホスト/デバイス間コピーのベースラインをテストします。
模範解答
まず両方のランタイムがプロセスとデバイスエコシステムを共有していることを確認し、スキーマ、配列、デバイスバッファの規約を定義します。プロデューサーは、デバイスタイプ、デバイスID、同期イベントを含むArrowDeviceArrayをエクスポートします。コンシューマーはそのコンテキストを検証し、イベントを待機して、不変データを読み取ります。解放コールバックが配列、子要素、デバイスリソースを所有し、解放前にバッファを再利用することはできません。このインターフェースは実験的であるため、デプロイ時には実装バージョンを固定し、予約フィールドを初期化します。サポートされていないデバイスやイベントにはCPUのArrowArrayまたは明示的なコピーを使用し、テレメトリによって同期待機、コピーされたバイト数、解放エラー、およびデバイス喪失を測定します。
よくある間違い
- 間違い: デバイスポインタをプロセス間またはマシン間のプロトコルとして扱う。 → 失敗の理由: C Device Interfaceはプロセス内交換を対象としており、アドレス空間や永続性のセマンティクスを提供しません。 → 対策: 境界を越える場合はIPCまたはトランスポート形式を使用するか、明示的にコピーします。
- 間違い: デバイスタイプのみを渡し、同期を無視する。 → 失敗の理由: プロデューサーがまだ書き込みを行っている間にコンシューマーが読み取ってしまう可能性があります。 → 対策: イベント、コンテキスト、待機、破棄の所有権を定義します。
- 間違い: 双方がゼロコピーバッファを変更することを許可する。 → 失敗の理由: 共有された可変バッファは競合状態と不整合なカラムを引き起こします。 → 対策: デフォルトで読み取り専用データとし、書き込みには所有するストレージを使用します。
- 間違い: 解放コールバックが確認でき次第、すぐにリソースを解放する。 → 失敗の理由: コールバックの前にコンシューマーがまだデバイスメモリを使用している可能性があります。 → 対策: 完了後に所有者が一度だけ解放するようにし、キャンセルやエラーもカバーします。
フォローアップ質問と回答
なぜArrowSchemaが依然として必要なのですか？
デバイスインターフェースはメモリの位置と同期を記述するものであり、カラムの型を記述するものではありません。コンシューマーは、フォーマット文字列、子要素、NULLビットマップ、フィールドメタデータのためにスキーマを依然として必要とします。
同じデバイスIDであれば共有が保証されますか？
いいえ。ランタイム、コンテキスト、アロケータ、イベントの互換性も重要です。デバイスIDはリソースの場所を特定するものであり、機能ネゴシエーションの代わりにはなりません。
明示的にコピーすべきなのはどのような場合ですか？
コンシューマーがデバイスをサポートしていない場合、イベントをインポートできない場合、ライフタイムを証明できない場合、またはプロセス境界を越える場合にコピーします。より深い相互運用性レイヤーに価値があるかどうかを判断する前に、コピーのコストを測定してください。
ゼロコピーが実際に行われていることをどのように証明しますか？
CPUバッファおよび明示的なコピーのベースラインに対して、ホストからデバイス、デバイスからホストへのバイト数、同期待機、カーネル起動レイテンシ、およびエンドツーエンドのスループットを測定します。合計経過時間だけでは、隠れたコピーが存在しないことを証明できません。