Это деинтерлейс. Он либо есть на изначальном видео, либо включен нижний в настройках экспорта (об этом кстати свидетельствует надпись Lower у вас на скрине). Ищите настройку деинтерлейса, меняйте её, смотрите результат. Также обратите внимание, что у вас софтверное декодирование включено, которое раз в 5 медленнее, чем аппаратное.
