<div dir="ltr"><div dir="ltr"><div dir="auto">hi,<div dir="auto"><br></div><div dir="auto">i think you are trying to encode the sw frame instead of transfering the data buffer to hw frame and then encoding the hw frame. </div><div dir="auto"><br></div><div dir="auto">i believe the vaapi example works fine for the other hw encoders too (nvenc, qsv, amf)</div><div dir="auto"><br></div><div>best regards</div><div><br></div><div>attila</div></div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Thu, 10 Oct 2019, 12:20 freefalcon, <<a href="mailto:freefalcon@foxmail.com" target="_blank">freefalcon@foxmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div>Hi,</div><div><br></div><div>I am writing an h264 encoder, and the video frame data is from Nvidia GPU. </div><div><br></div><div>If the video frame was transferred from GPU memory to system memory, the encoder worked fine. </div><div><br></div><div>But I want to encode the HW frame directly to avoid performance loss. When I called <i>avcodec_send_frame</i>, I got an error :</div><div><br></div><blockquote style="margin:0.8em 0px 0.8em 2em;padding:0px 0px 0px 0.7em;border-left:2px solid rgb(221,221,221)">Error registering an input resource: resource register failed (23)<br>Could not register an input HW frame</blockquote><div><br></div><div>The error was triggered by <i>nvEncRegisterResource </i>function.</div><div><br></div><div>I'd like to know what I should do if I want to use HW frame directly, expecially on how to set AVHWFramesContext. </div><div><br></div><div>Is there any example about this? Now, I just referred to vaapi_encode.c  (<a href="https://www.ffmpeg.org/doxygen/4.0/vaapi_encode_8c-example.html" rel="noreferrer" target="_blank">https://www.ffmpeg.org/doxygen/4.0/vaapi_encode_8c-example.html</a>).</div><div><br></div><div>Thanks for your help.</div>_______________________________________________<br>
Libav-user mailing list<br>
<a href="mailto:Libav-user@ffmpeg.org" rel="noreferrer" target="_blank">Libav-user@ffmpeg.org</a><br>
<a href="https://ffmpeg.org/mailman/listinfo/libav-user" rel="noreferrer noreferrer" target="_blank">https://ffmpeg.org/mailman/listinfo/libav-user</a><br>
<br>
To unsubscribe, visit link above, or email<br>
<a href="mailto:libav-user-request@ffmpeg.org" rel="noreferrer" target="_blank">libav-user-request@ffmpeg.org</a> with subject "unsubscribe".</blockquote></div>
</div>