<div dir="ltr"><div><div><div>Hello,<br><br></div>I am using code, based on <a href="https://github.com/FFmpeg/FFmpeg/blob/master/doc/examples/hw_decode.c">https://github.com/FFmpeg/FFmpeg/blob/master/doc/examples/hw_decode.c</a>, but I am not transferring the decoded data to the host, I keep it on the device for later use with cuda code (my goal will be to use RGB 8-12 bits per channel data).<br></div><br></div><div>I could not find a way to get the data format ((AVPixelFormat)frame->format translates to: "HW acceleration through CUDA. data[i] contain CUdeviceptr pointers exactly as for system memory frames.")<br><br></div><div>I understand that I have two arrays: frame->data[0] and frame->data[1].<br><br></div><div>I would like to translate the data into a cuda native structure like:<br><br>                     cudaPitchedPtr CUdeviceptr{};<br>                 CUdeviceptr.ptr = frame->data[0];<br>                  CUdeviceptr.ysize = frame->height;<br>                 CUdeviceptr.xsize = frame->width;<br><br></div><div>Which is probably wrong, since
width==1920 
height==1080 and should have colors or YUV data.<br><br></div><div>How to get to know the data format (RGB, BGR, YUV, 8/10/12bits per channel etc) and the size of the array ?<br></div><div>If it is not RGB8 (or 10-12), can I get that through some ffmpeg implementation, maybe with an nvdec based function ?<br></div><div>What is the correct cuda-native data ? 
cudaPitchedPtr or something else ?<br>
frame->data[0] is uint8_t, but the array is probably something else in the general case; so what is it (as redundancy or extension of "what is the data format") ?<br></div><div><br></div><div>Am I posting at the right place, or should I go on SO ?<br></div><div><br></div><div>Many thanks + regards<br></div><div>Soleil<br></div><div><br></div></div>