Завершившаяся в США крупнейшая выставка автомобилей оказалась сгенерированой ИИ

На первый взгляд это обычный репортаж с автовыставки в США: новейшие модели автомобилей, толпы посетителей, журналисты берут интервью у представителей компаний. Однако в действительности ни одного реального автомобиля, человека или даже помещения не существует - всё, от изображений до фонового шума, было сгенерировано нейросетью Veo 3 на основе простого текстового запроса.

Технология достигла уровня, когда отличить сгенерированное видео от реального почти невозможно. В ближайшие годы такие гиперреалистичные генерации могут заполнить интернет, что создаст серьёзные вызовы для медиапространства.

728 0 850 3
25
2025-05-26
Ну как оптимисты? Все нормально, никаких проблем нет? :-) А если представить, что это репортаж не про выставку, а про какие-то действия способный начать войну или погромы?

И заметьте это вообще никто не контролирует и нет возможности отличить от реальности (в ближайшем будущем точно + те кто будут разносить все вокруг точно не будут задумываться о генерации и врядли будут способны выговорить такое слово).

Это ведь очень серьезно, сейчас наступил тот момент, когда больше нельзя доверять ничему что ты видишь или слышишь по телевизору или в интернете, вообще ничему нигде, только если ты видел это глазами. Вдумайтесь...
2025-05-26
Если присмотреться получше в толпу на заднем плане, то там исчезают люди в момент когда одна фигура проходит позади другой.
2025-05-26
Качество конечно начинает пугать…
2025-05-26
FeodorЕсли присмотреться получше в толпу на заднем плане, то там исчезают люди в момент когда одна фигура проходит позади другой.

Проблема в том, что далеко не каждый будет присматриваться
2025-05-26
Мне кажется чем дальше, тем человек будет быстрее выкупать ии. Допустим этот уже кадр с первого взгляда видно. С год назад покажи, я бы не понял даже что это генератор.
2025-05-26
пальцы поправили, теперь давайте зубы)
2025-05-26
FeodorЕсли присмотреться получше в толпу на заднем плане, то там исчезают люди в момент когда одна фигура проходит позади другой.

Тут дело даже не в том, то этого не увидят 99,9%, проблема в том, что этой проблемы не будет уже через несколько месяцев или чуть больше.
2025-05-26
Мятный Дворецкий
Тут дело даже не в том, то этого не увидят 99,9%, проблема в том, что этой проблемы не будет уже через несколько месяцев или чуть больше.
Это скорее надежда, а не прогноз, что ИИ упрётся в определённый потолок качества, который будет сложно преодолеть, как с 3D. Ведь много времени прошло, а 3D так и не смогло достичь тотального, абсолютного фотореализма, да, есть фотореалистичные работы, которые видны только натренированному глазу, или когда скажешь, что это 3D, но ведь видно же? То есть у 3D есть свой стиль и почерк, и я надеюсь, что у ИИ тоже он будет, который всегда будет давать о себе понять, хоть пусть это будет видно для специалистов.
А то, что не специалисты не поймут, это не беда, не специалисты они на то и не специалисты, чтобы не разбираться, они и сейчас многие картинку из Анрил видят как фотореалистичную. Так что вопрос в другом, сможет ли ИИ победить реальность?
2025-05-26
FeodorЕсли присмотреться получше в толпу на заднем плане, то там исчезают люди в момент когда одна фигура проходит позади другой.
Некоторые глюки пока есть. Но в целом. Вы посмотрите как поведение людей в целом обыграно. Даже де кто на заднем плане просто ходит. У каждого свой стиль походки. Каждый уже не просто набор пикселей, а начинает приобретать индивидуальность. Это все потому, что теперь каждый объект в пространстве начинает маркироваться метаданным, в которых хранится разная информация, от цвета, стиля, формы, до характера, цвета кожи, возраста. У кого нормальная рука, а у кого там на руке татухи (и какие) и одного пальца не хватает. И эти метаданные будут дальше только детализироваться. И в ближайшем будущем, возможно в следующей версии Veo детализация будет настолько подробной, что можно будет взять любой объект или персонаж заднего плана и поменять описание или что-то добавить. Уровень "вот тот мужик путь будет чернокожий и хромой бомж в длинном коричневом вязаном свитере". Сейчас такое пока доступно только для объектов переднего плана, но информационная емкость состояний, которые модели могут сохранять удваивается каждый год. Можете считать это "разрешением". Было 360 линий (мутно и непонятно), теперь приближается к 720 линий (уже можно смотреть, приятно визуально), скоро будет 1080 линий (все четко и не "рассыпается на одельные квадраты в динамиечких сцена") и т.п. И вы уже перестанете отличать.

Возмьмите ролики сделанные в Veo разных версий (1, 2, 3) и заметьте какой между ними прогресс, заметьте сколько времени прошло между выпуском разны версий и представьте что будет дальше. Пока никаких ограничений, ни технических, ни концептуальных не предвидится. Наоборот, только что, буквально месяцы назад появились мультимодальные агентные сети, которые общаются друг с другом по своему протоколу и каждый агент в этой сети может бысть обучен так, чтобы быть специалистом в своей отдельной области, например генеририровать стиль (на уровне хорошего художника), или композицию и динамика кадра (на уровне хорошего оператора), общий сценарий (на уровне хорошего сценариста). Даже можно запилить отдельную модель которая генерирует крутые тачки по описаниям и отдает результат дальше, для вставки в кадр. Пока эти технологии только-только начинают внедрятся. Потенциал там на ближайшие 10 лет не исчерпается, это 100%, даже не все еще попробовали.
2025-05-26
Алексей ВоронинМне кажется чем дальше, тем человек будет быстрее выкупать ии. Допустим этот уже кадр с первого взгляда видно. С год назад покажи, я бы не понял даже что это генератор.
Примерно года два назад я перестал однозначно отличать арты нарисованные художниками от удачных артов ИИ. Сегодня, если не видеть серию одинаковых изображений а взять просто одну, случайную - то каждый вторую уже сложно отличить.

Если в модель не подавать никаких стилистических указаний в промте, то она понятно будет делать это в "своем родном стиле", и большинство пользовтелей не заморачиваются. А вот попробуйте в запрос добавить что-то типа "немного абстрактных форм, очень четкие края объектов, почти линии, то что на заднем фоне должно быть не в фокусе но подсвечено разноцетным светом, и чуть-чуть стиля из фантастических фильмов 80-х, но не очень много" и вот пожалуйста уже совершенно другой резульатат. Просто никто не заморачивается. Тыкают один запрос и хотят какой-то уникальности.

Но вот если все делать правильно, то уже на глаз сложно отличить, особенно если это новая модель.
2025-05-26
FeodorА то, что не специалисты не поймут, это не беда, не специалисты они на то и не специалисты, чтобы не разбираться, они и сейчас многие картинку из Анрил видят как фотореалистичную. Так что вопрос в другом, сможет ли ИИ победить реальность?

Ну он уже победил. Проблема как раз в не специалистах. Понимаете, если группа людей увидит, что какой-то известный человек на видео оскорбляет их идеалы (допустим веру), они не будут разбираться, они просто уничтожат этого человека. Так можно спровоцировать волнения, панику, обвал рынка, что угодно, раньше такого инструмента не было. Уже сейчас новости предупреждают, что через 6 мес. людям нужно быть готовыми к волне дипфейков от мошенников, неотличимых от реальных людей, говорящих реальными голосами родственников и т.д.

Вот тут проблемка приплывает, допустим человек чего-то не говорил, а его обвинили по нейросъемке, причем по закону ему лет 15 дадут, а доказать возможности нет. Хотя видео с ним ущемило сотни тысячь людей и они будут требовать крови. Вот где оно вылезет, а не не на рынке игр или CG.
2025-05-26
[club8938191|Render.ru — компьютерная графика CG и анимация], возможно стоит создать профсоюз который будет выкупать эти вещи на гос.уровне и бороться с фейками ?
2025-05-26
Мятный ДворецкийТак можно спровоцировать волнения, панику, обвал рынка, что угодно
Я несколько лет назад тут писал что нужна блокчейн технология встроенная в камеры которая в процессе съёмки каждый кадр связывала бы с остальными и такие видео можно было бы проверить на то что они реально сняты с физического устройства. И такую технологи недавно кто-то анонсировал. Но опять же, можно изловчиться и просто снять экран с видео от проектора кинотеатра для большей достоверности с фейковым видео.

В общем кроме как ограничивать подобные технологии я иного выхода не вижу, что скорее всего и будут делать. Но фейки будут появляться скорее всего и без того...
2025-05-26
Скоро будем по запросу фильмы генерить какие захотим). Спрашивал у чата GPT что стоит учить и развивать. Сказал, качать визуальную библиотеку, сторителлинг и композицию. Матрица все ближе.
2025-05-26
Вообще это очень опасная тенденция для всего человечества. Не то что ИИ заберёт у нас работу, а то что с помощью правильно подобранных фейков и подконтрольных сми, можно свергать политиков и устраивать гражданские войны в неугодных странах. Как такое опровергать то вообще!
2025-05-27
Алексей, у тебя какое то реверсивное мышление. УЖЕ. В том то и прикол что год назад любую генерацию за километр видно было. И как раз чем дальше, тем сложнее различать.
2025-05-28
Целый ролик подсознательных клеше.Даже ИИ в США не сам думает.Как бы запрос воссоздал структуру общества по типу СНН новостей
2025-05-28
фейки уже не победишь, если у каждого на компе эта фигня будет.
2025-05-28
Артём, да, однажды российские киноделы будут совсем никому не нужны :)
2025-05-28
лучше бы вкладывали силы на разработку лекарств, а не вот это вот всё...
2025-05-29
Anaida Kosyanлучше бы вкладывали силы на разработку лекарств, а не вот это вот всё...

Ну вообще, они и вкладываются. Разработка почти всех современных лекарств идет при помощи ИИ. А на этом просто отрабатывают технологии, за счет массовости.
2025-05-29
Алексей УстиновАртём, да, однажды российские киноделы будут совсем никому не нужны :)
А они сейчас кому-то нужны? С грустью смотрю на потребителей современного российского кинца..
2025-05-30
Anaida, а вы какие силы вкладываете на разработку лекарств?
2025-05-30
Евгений, а вы?
2025-05-30
Anaida, мне это не интересно, а вы написали про то, что вам не безразлично. Думал, что вы серьезно относитесь к тому, к чему не безразличны.
RENDER.RU