Como usar decodificação por software com encoding H.264 por hardware na AMD Radeon com FFmpeg

Quando você tenta transcodificar um codec de entrada antigo ou exótico diretamente com h264_vaapi numa AMD Radeon, o FFmpeg pode tentar usar a GPU para decodificá-lo também. Se o driver VAAPI não suporta o codec de entrada, o filter graph falha e nada é escrito. Este post mostra como manter a decodificação na CPU enquanto ainda usa a GPU para o encoding H.264.

O problema

Um comando como este falha para uma entrada MPEG-4:

h264_vaapi_fail.sh
LIBVA_DRIVER_NAME=radeonsi ffmpeg \
  -hwaccel vaapi -hwaccel_device /dev/dri/renderD129 -hwaccel_output_format vaapi \
  -i input.avi \
  -c:v h264_vaapi -rc_mode CQP -global_quality:v 24 \
  -c:a copy \
  output-h264.mp4

A saída de erro se parece com:

h264_vaapi_error.txt
[mpeg4 @ 0x5a0c496f8a00] No support for codec mpeg4 profile -99.
[mpeg4 @ 0x5a0c496f8a00] Failed setup for format vaapi: hwaccel initialisation returned error.
[mpeg4 @ 0x5a0c496fb800] Video uses a non-standard and wasteful way to store B-frames ('packed B-frames'). Consider using the mpeg4_unpack_bframes bitstream filter without encoding but stream copy to fix it.
Impossible to convert between the formats supported by the filter 'Parsed_null_0' and the filter 'auto_scale_0'
Link 'Parsed_null_0.default' -> 'auto_scale_0.default':
  src: yuv420p
  dst: yuv420p
[vf#0:0 @ 0x5a0c494a8780] Error reinitializing filters!
[vf#0:0 @ 0x5a0c494a8780] Task finished with error code: -38 (Function not implemented)
[vf#0:0 @ 0x5a0c494a8780] Terminating thread with return code -38 (Function not implemented)
[vost#0:0/h264_vaapi @ 0x5a0c494a7f80] [enc:h264_vaapi @ 0x5a0c494a8340] Could not open encoder before EOF
[vost#0:0/h264_vaapi @ 0x5a0c494a7f80] Task finished with error code: -22 (Invalid argument)
[vost#0:0/h264_vaapi @ 0x5a0c494a7f80] Terminating thread with return code -22 (Invalid argument)
[out#0/mp4 @ 0x5a0c49504640] Nothing was written into output file, because at least one of its streams received no packets.

O sinal é No support for codec mpeg4 profile ... e Failed setup for format vaapi: hwaccel initialisation returned error. O decoder não pode ser acelerado por hardware, então o pipeline inteiro colapsa.

A solução: decode por software, depois upload para o VAAPI

Remova -hwaccel, crie o device VAAPI explicitamente, decodifique em software, converta os frames para nv12 e suba-os para a GPU antes do h264_vaapi assumir:

h264_software_decode_hw_encode.sh
export RENDER_DEVICE=/dev/dri/renderD128

LIBVA_DRIVER_NAME=radeonsi ffmpeg \
  -init_hw_device vaapi=va:"$RENDER_DEVICE" \
  -filter_hw_device va \
  -i input.avi \
  -vf 'format=nv12,hwupload' \
  -c:v h264_vaapi -rc_mode CQP -global_quality:v 15 \
  -c:a copy \
  output-h264.mp4

O que as flags fazem

  • -init_hw_device vaapi=va:/dev/dri/renderD128 cria um device VAAPI nomeado va no render node da Radeon.
  • -filter_hw_device va diz ao filter graph para usar aquele device para filtros de hardware e o encoder.
  • -i input.avi agora é decodificado pela CPU, porque nenhum -hwaccel está definido.
  • -vf '"'"'format=nv12,hwupload'"'"' converte os frames yuv420p de software para o formato nv12 compatível com VAAPI e os sobe para a memória da GPU.
  • -c:v h264_vaapi encoda os frames subidos em hardware.
  • -rc_mode CQP -global_quality:v 15 usa CQP e um valor de qualidade baixo porque o h264_vaapi já tem que carregar o overhead do upload; para este caso de uso o resultado é geralmente de alta qualidade.
  • -c:a copy copia o áudio sem re-encodar.

Script wrapper

Salve como transcode-h264-software-decode-radeon.sh e rode com qualquer entrada. Ele escreve output-h264.mp4 no diretório atual:

transcode-h264-software-decode-radeon.sh
#!/bin/bash
set -euo pipefail

RENDER_DEVICE="${RENDER_DEVICE:-/dev/dri/renderD128}"

if [ $# -ne 2 ]; then
    echo "Usage: $0 <input video> <output-h264.mp4>" >&2
    exit 1
fi

input="$1"
output="$2"

LIBVA_DRIVER_NAME=radeonsi ffmpeg \
  -init_hw_device vaapi=va:"$RENDER_DEVICE" \
  -filter_hw_device va \
  -i "$input" \
  -vf 'format=nv12,hwupload' \
  -c:v h264_vaapi -rc_mode CQP -global_quality:v 15 \
  -c:a copy \
  "$output"

Exemplo:

example_usage_software_decode.sh
chmod +x transcode-h264-software-decode-radeon.sh
RENDER_DEVICE=/dev/dri/renderD129 ./transcode-h264-software-decode-radeon.sh input.avi output-h264.mp4

Verificação neste computador

O comando que falha para um AVI MPEG-4 produziu:

h264_vaapi_fail_output.txt
[mpeg4 @ ...] No support for codec mpeg4 profile 0.
[mpeg4 @ ...] Failed setup for format vaapi: hwaccel initialisation returned error.
...
[out#0/mp4 @ ...] Nothing was written into output file, because at least one of its streams received no packets.
Conversion failed!

O comando decode-software / encode-hardware completou com sucesso:

h264_software_decode_output.txt
Stream mapping:
  Stream #0:0 -> #0:0 (mpeg4 (native) -> h264 (h264_vaapi))
  Stream #0:1 -> #0:1 (copy)
Output #0, mp4, to 'testsrc_mpeg4_h264.mp4':
  Stream #0:0: Video: h264 (High) (avc1 / 0x31637661), vaapi(tv, progressive), 1920x1080, q=2-31, 30 fps
  Stream #0:1: Audio: aac (LC), 44100 Hz, mono, fltp, 69 kb/s
[out#0/mp4] video:590KiB audio:43KiB ... bitrate= 1046.8kbits/s speed=7.75x

ffprobe na saída confirmou codec_name=h264 e profile=High, produzido por h264_vaapi.

Neste PC em particular a placa Radeon é na verdade /dev/dri/renderD129 porque /dev/dri/renderD128 pertence à GPU Intel integrada. Sempre use o device que o vainfo reporta como sua placa Radeon.

Posts relacionados


Check out similar posts by category: Vídeo Linux