Intel QSV · NVIDIA NVENC · AMD AMF 트랜스코딩 완전 가이드 — FFmpeg 심화 + AI 오류 진단

# 4K H.265 → 1080p H.264 (QSV 하드웨어 디코딩 + 인코딩)
ffmpeg \
  -hwaccel qsv \
  -hwaccel_output_format qsv \
  -c:v hevc_qsv \
  -i input_4k.mkv \
  -vf "scale_qsv=1920:1080" \
  -c:v h264_qsv \
  -preset medium \
  -global_quality 23 \
  -look_ahead 1 \
  -look_ahead_depth 40 \
  -profile:v high \
  -level 4.1 \
  -c:a copy \
  output_1080p.mp4

# 옵션 설명:
# -global_quality 23    : CQP 방식 품질 제어 (낮을수록 고품질, 범위 1-51)
# -look_ahead 1         : 전향 분석으로 품질 향상
# -look_ahead_depth 40  : 40프레임 선행 분석 (0~100, 높을수록 고품질·느림)
# -profile:v high       : H.264 High Profile (호환성 최대)
# -level 4.1            : 1080p@30fps 표준 레벨

# CBR — 네트워크 스트리밍용 고정 비트레이트
ffmpeg -hwaccel qsv -c:v hevc_qsv -i input.mkv \
  -c:v h264_qsv \
  -b:v 4M -maxrate 4M -bufsize 8M \
  output_cbr.mp4

# VBR — 화질 우선 가변 비트레이트
ffmpeg -hwaccel qsv -c:v hevc_qsv -i input.mkv \
  -c:v hevc_qsv \
  -b:v 6M -maxrate 10M \
  output_vbr.mkv

# ICQ — 지능형 품질 제어 (Jellyfin 추천)
ffmpeg -hwaccel qsv -c:v hevc_qsv -i input.mkv \
  -c:v h264_qsv \
  -global_quality 23 -look_ahead 1 \
  output_icq.mp4

# AV1 QSV — 최고 압축 효율
ffmpeg -hwaccel qsv -c:v hevc_qsv -i input_4k.mkv \
  -vf "scale_qsv=3840:2160" \
  -c:v av1_qsv \
  -global_quality 28 \
  -preset medium \
  output_av1.mp4

# NVENC H.264 — CUDA 하드웨어 디코딩 포함
ffmpeg \
  -hwaccel cuda \
  -hwaccel_output_format cuda \
  -c:v hevc_cuvid \
  -i input_4k.mkv \
  -vf "scale_cuda=1920:1080,hwdownload,format=nv12" \
  -c:v h264_nvenc \
  -preset p5 \
  -tune hq \
  -rc vbr \
  -b:v 4M -maxrate 6M -bufsize 12M \
  -profile:v high \
  -c:a copy \
  output_nvenc.mp4

# NVENC H.265 (HEVC) — 고압축
ffmpeg -hwaccel cuda -c:v hevc_cuvid -i input.mkv \
  -c:v hevc_nvenc \
  -preset p6 \
  -rc constqp -qp 26 \
  -profile:v main10 \
  output_hevc_nvenc.mkv

# NVENC AV1 (RTX 3000 이상 필요)
ffmpeg -hwaccel cuda -c:v hevc_cuvid -i input.mkv \
  -c:v av1_nvenc \
  -preset p4 \
  -rc vbr -b:v 3M \
  output_av1_nvenc.mp4

# 옵션 설명:
# -preset p5~p7         : p1(빠름/저품질) ~ p7(느림/고품질)
# -tune hq              : 고화질 튜닝 (hq, ll, ull, lossless)
# -rc vbr               : 가변 비트레이트 모드
# -rc constqp -qp 26    : 고정 양자화 파라미터

# AMF H.264
ffmpeg \
  -hwaccel vaapi \
  -hwaccel_device /dev/dri/renderD128 \
  -hwaccel_output_format vaapi \
  -i input.mkv \
  -vf "scale_vaapi=1920:1080" \
  -c:v h264_amf \
  -quality balanced \
  -rc vbr_peak -b:v 4M -maxrate 6M \
  -profile:v high \
  output_amf.mp4

# AMF HEVC
ffmpeg -hwaccel vaapi -i input.mkv \
  -vf "scale_vaapi=w=1920:h=1080" \
  -c:v hevc_amf \
  -quality quality \
  -rc cbr -b:v 5M \
  output_hevc_amf.mkv

# AMF AV1 (RX 7000 시리즈 이상 필요)
ffmpeg -hwaccel vaapi -i input.mkv \
  -c:v av1_amf \
  -quality balanced \
  -rc vbr -b:v 3M \
  output_av1_amf.mp4

# 옵션 설명:
# -quality speed/balanced/quality : 속도-품질 균형
# -rc cbr/vbr/vbr_peak/cqp        : 비트레이트 제어 모드

# QSV 디코딩 → 소프트웨어 자막 합성 → QSV 인코딩
ffmpeg \
  -hwaccel qsv \
  -hwaccel_output_format qsv \
  -c:v hevc_qsv \
  -i input.mkv \
  -vf "hwdownload,format=nv12,subtitles=subtitle.srt,hwupload=extra_hw_frames=64,scale_qsv=1920:1080" \
  -c:v h264_qsv \
  -global_quality 23 \
  -c:a aac -b:a 192k \
  output_with_sub.mp4

# CUDA 디코딩 → 소프트웨어 필터 → NVENC 인코딩
# (yadif 디인터레이스 + 노이즈 제거)
ffmpeg \
  -hwaccel cuda \
  -hwaccel_output_format cuda \
  -c:v h264_cuvid \
  -i interlaced_input.ts \
  -vf "hwdownload,format=nv12,yadif=mode=1,hqdn3d=4.0:3.0:6.0:4.5,hwupload_cuda" \
  -c:v h264_nvenc \
  -preset p5 -rc vbr -b:v 3M \
  output_deinterlaced.mp4

# 4K HDR → SDR 톤매핑 (QSV OpenCL 필터)
ffmpeg \
  -hwaccel qsv \
  -hwaccel_output_format qsv \
  -c:v hevc_qsv \
  -i hdr_4k.mkv \
  -vf "hwdownload,format=p010,zscale=t=linear:npl=100,format=gbrpf32le,\
zscale=p=bt709,tonemap=hable:desat=0,zscale=t=bt709:m=bt709:r=tv,format=yuv420p,\
hwupload=extra_hw_frames=64,scale_qsv=1920:1080" \
  -c:v h264_qsv -global_quality 23 \
  -c:a copy \
  output_sdr.mp4

# 진행률을 파일로 출력 (파싱 용이)
ffmpeg -i input.mkv -c:v h264_qsv -global_quality 23 \
  -progress /tmp/ffmpeg_progress.txt \
  -stats \
  output.mp4

# 진행률 파일 실시간 모니터링 (다른 터미널에서)
watch -n 1 "grep -E 'out_time=|fps=|speed=' /tmp/ffmpeg_progress.txt | tail -5"

# 퍼센트 계산하는 단순 래퍼 함수 (bash)
ffmpeg_with_progress() {
  local input="$1"
  local output="$2"
  shift 2
  local opts=("$@")

  # 소스 길이(초) 구하기
  local duration
  duration=$(ffprobe -v quiet -show_entries format=duration \
    -of default=noprint_wrappers=1:nokey=1 "$input")

  # 소수점 처리
  duration=${duration%.*}

  ffmpeg -i "$input" "${opts[@]}" \
    -progress pipe:1 "$output" 2>/dev/null | \
  while IFS= read -r line; do
    if [[ "$line" =~ ^out_time_ms=([0-9]+) ]]; then
      local ms="${BASH_REMATCH[1]}"
      local pct=$(( ms / 1000 / duration ))
      printf "\r진행: %d%%" "$pct"
    fi
  done
  echo ""
}

# 사용 예
ffmpeg_with_progress input.mkv output.mp4 \
  -hwaccel qsv -c:v h264_qsv -global_quality 23

#!/bin/bash
# batch_transcode.sh — QSV 배치 변환 스크립트
# 사용법: bash batch_transcode.sh /path/to/source /path/to/output

set -euo pipefail

SOURCE_DIR="${1:-.}"
OUTPUT_DIR="${2:-./transcoded}"
LOG_FILE="/tmp/batch_transcode_$(date +%Y%m%d_%H%M%S).log"
QUALITY=23           # ICQ 품질 (낮을수록 고품질)
PRESET="medium"      # QSV 프리셋
EXTENSIONS=("mkv" "avi" "mov" "mp4" "ts" "m2ts")

mkdir -p "$OUTPUT_DIR"

echo "=======================================" | tee -a "$LOG_FILE"
echo "배치 트랜스코딩 시작: $(date)" | tee -a "$LOG_FILE"
echo "소스 디렉토리: $SOURCE_DIR" | tee -a "$LOG_FILE"
echo "출력 디렉토리: $OUTPUT_DIR" | tee -a "$LOG_FILE"
echo "=======================================" | tee -a "$LOG_FILE"

# 처리할 파일 목록 수집 (한글·특수문자 파일명 안전 처리)
mapfile -d '' file_list < <(
  for ext in "${EXTENSIONS[@]}"; do
    find "$SOURCE_DIR" -maxdepth 2 -iname "*.${ext}" -print0
  done
)

total=${#file_list[@]}
echo "총 파일 수: $total" | tee -a "$LOG_FILE"

success=0
fail=0

for i in "${!file_list[@]}"; do
  input="${file_list[$i]}"
  basename_noext=$(basename "${input%.*}")
  output="${OUTPUT_DIR}/${basename_noext}_h264qsv.mp4"

  echo "" | tee -a "$LOG_FILE"
  echo "[${i+1}/${total}] 처리 중: $(basename "$input")" | tee -a "$LOG_FILE"

  if [[ -f "$output" ]]; then
    echo "  → 이미 존재, 건너뜀" | tee -a "$LOG_FILE"
    continue
  fi

  # 임시 파일로 변환 (변환 실패 시 불완전 파일 방지)
  tmp_output="${output}.tmp.mp4"

  if ffmpeg -y \
    -hwaccel qsv \
    -hwaccel_output_format qsv \
    -i "$input" \
    -vf "scale_qsv=trunc(iw/2)*2:trunc(ih/2)*2" \
    -c:v h264_qsv \
    -preset "$PRESET" \
    -global_quality "$QUALITY" \
    -look_ahead 1 \
    -profile:v high \
    -level 4.1 \
    -c:a aac -b:a 192k \
    -movflags +faststart \
    "$tmp_output" \
    >> "$LOG_FILE" 2>&1; then

    mv "$tmp_output" "$output"

    # 크기 비교 및 로그
    src_size=$(du -sh "$input" | cut -f1)
    dst_size=$(du -sh "$output" | cut -f1)
    echo "  → 성공: $src_size → $dst_size" | tee -a "$LOG_FILE"
    ((success++))
  else
    rm -f "$tmp_output"
    echo "  → 실패: FFmpeg 오류 발생" | tee -a "$LOG_FILE"
    ((fail++))
  fi
done

echo "" | tee -a "$LOG_FILE"
echo "=======================================" | tee -a "$LOG_FILE"
echo "완료: 성공 $success / 실패 $fail / 전체 $total" | tee -a "$LOG_FILE"
echo "로그 파일: $LOG_FILE"

# Antigravity 설치
pip install antigravity  # 또는 해당 배포 방식에 따라 설치

# 폴더 내 파일명 일괄 정규화 (한글 → 로마자 변환, 특수문자 제거)
antigravity rename /mnt/nas/movies --pattern "safe_ascii" --dry-run
# --dry-run 으로 먼저 미리보기 확인

antigravity rename /mnt/nas/movies --pattern "safe_ascii"

# 직접 bash로도 가능: 공백 → 언더스코어, 특수문자 제거
find /mnt/nas/movies -name "*.mkv" | while IFS= read -r f; do
  dir=$(dirname "$f")
  base=$(basename "$f")
  # 공백·괄호·특수문자 치환
  newbase=$(echo "$base" | tr ' ' '_' | sed 's/[^a-zA-Z0-9._가-힣-]//g')
  if [[ "$base" != "$newbase" ]]; then
    mv -v "$f" "$dir/$newbase"
  fi
done

# Intel media-driver 설치 (Ubuntu 24.04)
sudo apt update
sudo apt install -y intel-media-va-driver-non-free vainfo \
  intel-gpu-tools i965-va-driver-shaders

# 드라이버 인식 확인
vainfo
# 정상 출력 예시:
# vainfo: VA-API version: 1.20 (libva 2.20.0)
# vainfo: Driver version: Intel iHD driver for Intel(R) Gen Graphics - 24.1.0
# vainfo: Supported profile and entrypoints
#      VAProfileH264Main               : VAEntrypointVLD
#      VAProfileH264High               : VAEntrypointVLD
#      VAProfileH264High               : VAEntrypointEncSlice
#      VAProfileHEVCMain               : VAEntrypointVLD
#      VAProfileHEVCMain               : VAEntrypointEncSlice
#      VAProfileAV1Profile0            : VAEntrypointVLD
#      VAProfileAV1Profile0            : VAEntrypointEncSlice

# DRI 장치 권한 확인
ls -la /dev/dri/
# crw-rw---- 1 root render 226, 128 renderD128 ← render 그룹 필요

# 현재 유저를 render, video 그룹에 추가
sudo usermod -aG render,video $USER

# 그룹 적용 (재로그인 없이)
newgrp render

services:
  jellyfin:
    image: jellyfin/jellyfin:latest
    container_name: jellyfin
    network_mode: host
    user: "1000:1000"
    volumes:
      - ./config:/config
      - ./cache:/cache
      - /mnt/nas/media:/media:ro
    devices:
      - /dev/dri:/dev/dri          # Intel QSV / VAAPI GPU 노출 (필수)
    group_add:
      - "render"                    # /dev/dri/renderD128 접근 (GID 확인 필요)
      - "video"                     # /dev/dri/card0 접근
    environment:
      - JELLYFIN_PublishedServerUrl=http://192.168.1.100:8096
      - DOTNET_SYSTEM_GLOBALIZATION_INVARIANT=1
    restart: unless-stopped
    healthcheck:
      test: ["CMD", "curl", "-f", "http://localhost:8096/health"]
      interval: 30s
      timeout: 10s
      retries: 3

  # NVENC 사용 시 (nvidia-docker2 설치 필요)
  jellyfin-nvidia:
    image: jellyfin/jellyfin:latest
    container_name: jellyfin-nvidia
    runtime: nvidia
    environment:
      - NVIDIA_VISIBLE_DEVICES=all
      - NVIDIA_DRIVER_CAPABILITIES=all
    # ... 나머지 동일

# vainfo 오류 발생 시 — 출력 전체를 Claude Code에 전달
vainfo 2>&1 | tee /tmp/vainfo_output.txt

# Claude Code로 분석 요청
claude "다음 vainfo 오류를 분석해줘. Intel Core Ultra 125H에서
intel-media-va-driver-non-free 설치했는데 계속 실패해.

$(cat /tmp/vainfo_output.txt)"

# 흔한 vainfo 오류 패턴:
# 1. "error: failed to initialize display"
#    → /dev/dri/renderD128 권한 문제 (render 그룹 미가입)
#    → sudo chmod 660 /dev/dri/renderD128 임시 해결 가능

# 2. "libva error: /usr/lib/x86_64-linux-gnu/dri/iHD_drv_video.so init failed"
#    → intel-media-va-driver-non-free 미설치 또는 버전 불일치

# 3. "vaInitialize failed with error code -1"
#    → 커널 드라이버(i915/xe) 로드 실패
#    → dmesg | grep -i i915 로 커널 오류 확인 필요

# FFmpeg 상세 로그로 QSV 초기화 과정 추적
ffmpeg -loglevel debug \
  -hwaccel qsv \
  -c:v hevc_qsv \
  -i test.mkv \
  -c:v h264_qsv -frames:v 1 /dev/null 2>&1 | tee /tmp/ffmpeg_debug.txt

# Claude Code로 드라이버 문제 진단
claude "FFmpeg QSV 초기화가 실패하고 있어. 다음은 -loglevel debug 출력이야.
Ubuntu 24.04, Intel Core Ultra 5 125H 환경이고 vainfo는 정상인데
FFmpeg에서만 qsv 초기화가 안 돼.

$(cat /tmp/ffmpeg_debug.txt)"

# 흔한 FFmpeg QSV 오류:
# "Error creating a MFX session"
#   → libmfx 또는 libvpl 라이브러리 미설치
#   → sudo apt install libvpl2 libvpl-dev intel-mediasdk

# "Device creation failed for device type 'qsv'"
#   → MFX_IMPL_AUTO_ANY 초기화 실패
#   → LIBVA_DRIVER_NAME=iHD 환경변수로 강제 지정
#   → export LIBVA_DRIVER_NAME=iHD 후 재시도

# Plex 트랜스코딩 로그 위치 (Docker)
docker exec plex cat /config/Library/Application\ Support/Plex\ Media\ Server/Logs/Plex\ Transcoder.log | tail -100

# 로그를 Claude Code로 분석
docker exec plex tail -200 \
  "/config/Library/Application Support/Plex Media Server/Logs/Plex Transcoder.log" \
  > /tmp/plex_transcode.log

claude "Plex 트랜스코딩이 계속 실패해. 하드웨어 가속을 켰는데 CPU 트랜스코딩으로 폴백되고 있어.
서버: Intel Core Ultra 5 125H, Ubuntu 24.04, Plex Docker (plexinc/pms-docker).
로그:

$(cat /tmp/plex_transcode.log)"

# Jellyfin 트랜스코딩 로그 (Docker)
docker logs jellyfin 2>&1 | grep -i "transcode\|hwaccel\|qsv\|vaapi" | tail -50 \
  | xargs -I{} echo "{}" | tee /tmp/jellyfin_transcode.log

claude "Jellyfin 하드웨어 가속 설정 문제 분석해줘: $(cat /tmp/jellyfin_transcode.log)"

#!/bin/bash
# verify_and_cleanup.sh — 변환본 검증 후 원본 정리

SOURCE_DIR="$1"
OUTPUT_DIR="$2"
DRY_RUN="${3:-true}"   # true = 삭제 안 함, false = 실제 삭제

get_duration() {
  ffprobe -v quiet -show_entries format=duration \
    -of default=noprint_wrappers=1:nokey=1 "$1" 2>/dev/null
}

get_video_codec() {
  ffprobe -v quiet -select_streams v:0 -show_entries stream=codec_name \
    -of default=noprint_wrappers=1:nokey=1 "$1" 2>/dev/null
}

deleted=0
skipped=0

find "$OUTPUT_DIR" -name "*_h264qsv.mp4" | while IFS= read -r output; do
  # 원본 파일명 추론 (확장자 다를 수 있으므로 이름으로 검색)
  base=$(basename "${output%_h264qsv.mp4}")
  source=$(find "$SOURCE_DIR" -maxdepth 2 -name "${base}.*" | head -1)

  if [[ -z "$source" ]]; then
    echo "경고: 원본 없음 → $output"
    continue
  fi

  src_dur=$(get_duration "$source")
  dst_dur=$(get_duration "$output")
  dst_codec=$(get_video_codec "$output")

  # 재생 시간 차이 1초 이내인지 확인
  dur_diff=$(awk "BEGIN{d=$src_dur - $dst_dur; print (d<0)?-d:d}")
  dur_ok=$(awk "BEGIN{print ($dur_diff < 1.0) ? 1 : 0}")

  # 코덱 확인
  codec_ok=0
  [[ "$dst_codec" == "h264" ]] && codec_ok=1

  # 파일 크기 확인 (0바이트 방지)
  size=$(stat -c%s "$output" 2>/dev/null || echo 0)
  size_ok=0
  [[ "$size" -gt 1000000 ]] && size_ok=1   # 최소 1MB

  if [[ "$dur_ok" == "1" && "$codec_ok" == "1" && "$size_ok" == "1" ]]; then
    echo "검증 통과: $(basename "$source") → $(basename "$output")"
    if [[ "$DRY_RUN" == "false" ]]; then
      rm -v "$source"
      ((deleted++))
    else
      echo "  [DRY RUN] 삭제 예정: $source"
    fi
  else
    echo "검증 실패 (dur_ok=$dur_ok codec_ok=$codec_ok size_ok=$size_ok): $(basename "$output")"
    ((skipped++))
  fi
done

echo "완료: 삭제 $deleted, 건너뜀 $skipped"

# .tmp.mp4 임시 파일 정리 (변환 중단 시 남은 파일)
find /mnt/nas -name "*.tmp.mp4" -mmin +60 -delete
# 60분 이상 된 .tmp.mp4만 삭제 (진행 중 파일 방지)

# Jellyfin 트랜스코딩 캐시 정리 (Docker)
docker exec jellyfin find /cache/transcodes -name "*.ts" -mmin +30 -delete
docker exec jellyfin find /cache/transcodes -name "*.m3u8" -mmin +30 -delete

# cron으로 매시간 자동 정리 등록
(crontab -l 2>/dev/null; echo "0 * * * * find /mnt/nas -name '*.tmp.mp4' -mmin +60 -delete") | crontab -
(crontab -l 2>/dev/null; echo "*/30 * * * * docker exec jellyfin find /cache/transcodes -mmin +30 -name '*.ts' -delete 2>/dev/null") | crontab -

# 큐 파일 기반 트랜스코딩 (우선순위 지원)
# 큐에 파일 추가
echo "/mnt/nas/movies/movie_a.mkv" >> /tmp/transcode_queue.txt
echo "/mnt/nas/movies/movie_b.mkv" >> /tmp/transcode_queue.txt

# 큐 처리 데몬 (백그라운드 실행)
while IFS= read -r input; do
  [[ -z "$input" || ! -f "$input" ]] && continue
  output="${input%.*}_h264.mp4"
  echo "[큐] 처리 시작: $input"
  nice -n 10 ffmpeg -y \
    -hwaccel qsv \
    -i "$input" \
    -c:v h264_qsv -global_quality 23 \
    -c:a aac -b:a 192k \
    "$output" && echo "[큐] 완료: $output"
done < /tmp/transcode_queue.txt

# 동시 트랜스코딩 제한 (GNU parallel 사용)
# 최대 2개 동시 처리 (QSV 세션 한계 고려)
cat /tmp/transcode_queue.txt | parallel --jobs 2 \
  'ffmpeg -hwaccel qsv -i {} -c:v h264_qsv -global_quality 23 {.}_h264.mp4'