ИИ-дайджест недели

Anthropic призывает ИИ-индустрию сбавить темп

Глава Anthropic Дарио Амодей призвал разработчиков передовых моделей замедлить темпы развития ИИ. В опубликованном эссе он заявил, что современные системы развиваются настолько быстро, что меры безопасности могут не успевать за ростом их возможностей. Особое внимание Амодей уделил ИИ-агентам, способным самостоятельно выполнять сложные последовательности действий. По его оценке, уже через 6–12 месяцев рой подобных агентов теоретически может получить возможность сформировать устойчивый ботнет и нанести интернету ущерб на сотни миллиардов долларов. При этом руководитель Anthropic не предлагает останавливать исследования или прекращать обучение новых моделей. Вместо этого он выступает за более осторожный темп, независимые проверки и единые стандарты безопасности. Anthropic уже заявила о готовности предоставить сторонним оценщикам доступ к своим системам на уровне сотрудников. При этом специалисты по кибербезопасности указывают, что сценарий полного захвата интернета остаётся гипотетическим.

Локальная Qwen создала шутер за пять часов

Локальная языковая модель Qwen3.8-27B помогла разработчику собрать работающий трёхмерный шутер от первого лица примерно за пять часов. Эксперимент проводился на одной разогнанной GeForce RTX 3090, без использования облачных сервисов. Для работы применялась 4-битная версия модели Q4KM размером около 16,8 ГБ, а общий объём необходимой памяти составлял примерно 32 ГБ. Пользователь не писал код игры вручную: Qwen использовалась вместе с двумя инструментами на базе ИИ-агентов, которые генерировали программный код и исправляли возникающие ошибки. После первых итераций проект сталкивался с проблемами столкновений объектов, управления персонажем, освещения и другими багами, однако последовательные запросы позволили постепенно довести его до играбельного состояния. В итоге получился небольшой 3D-шутер про зомби с интерактивным окружением и размером около 190 МБ. Графика, конечно, находится примерно на уровне игр 1990-х, однако сам эксперимент показывает, насколько доступнее становится создание программ с помощью локальных моделей.

Сбер научил нейросеть лучше чувствовать время в видео

Исследователи Сбера разработали специальный Time Adapter, позволяющий генеративным моделям точнее учитывать течение времени при создании видео. Проблема современных видеонейросетей заключается не только в качестве отдельных кадров: система может правильно нарисовать сцену, но ошибиться с динамикой происходящего. Например, движение человека получается слишком быстрым или медленным, падающий предмет меняет скорость неестественным образом, а волны и другие процессы выглядят механически. Новый адаптер позволяет отдельно контролировать временную составляющую генерации и подключать её к уже существующим моделям. Исследователи обучали систему на десятках тысяч видеороликов с различной скоростью движения — от ходьбы и танцев до природных процессов. Разработка представлена на конференции ICML, а код опубликован в открытом доступе на Hugging Face. По данным Сбера, использование технологии улучшает естественность движения и соответствие результата текстовому описанию. Такой подход может оказаться особенно полезным для дальнейшего развития генерации реалистичных видео, где физика и последовательность событий становятся не менее важными, чем детализация изображения.

OpenAI, Anthropic и Google обсуждают общие правила безопасности

OpenAI, Anthropic и Google DeepMind несколько недель обсуждают возможность совместной работы над безопасностью передовых ИИ-моделей. Об этом сообщила OpenAI, подтвердив ранее появившуюся информацию о контактах между конкурентами. Компании рассматривают вопросы независимой оценки систем, обмена подходами к тестированию и возможных общих стандартов безопасности. Особенность ситуации заключается в том, что речь идёт о трёх крупнейших разработчиках современных ИИ-моделей, которые одновременно конкурируют за пользователей, специалистов и вычислительные ресурсы. Теперь они пытаются договориться хотя бы по части вопросов, связанных с потенциально опасными возможностями систем. Обсуждения проходят на фоне недавних предупреждений Дарио Амодея о слишком быстром развитии ИИ и роста внимания к автономным агентам. Пока конкретной общей организации или обязательного набора правил не создано, поэтому речь идёт именно о переговорах и поиске формата сотрудничества. При этом сама координация конкурирующих лабораторий показывает, насколько важной частью развития ИИ становятся оценка рисков и контроль возможностей новых моделей.

Apple запускает новое поколение Siri AI

Apple объявила о запуске нового поколения Siri AI, которое становится значительно более тесно связано с возможностями Apple Intelligence. Обновлённый ассистент должен лучше понимать естественные запросы пользователей и работать с контекстом происходящего на устройстве. В отличие от классической Siri, новая версия ориентирована не только на выполнение отдельных голосовых команд, но и на более сложное взаимодействие с приложениями и пользовательскими данными. Apple позиционирует Siri AI как следующий этап развития персонального ассистента, который должен помогать пользователю выполнять повседневные задачи непосредственно внутри экосистемы компании. Запуск происходит на фоне общего перехода производителей смартфонов от простых голосовых помощников к ИИ-агентам, способным понимать намерение пользователя и выполнять несколько действий последовательно. Таким образом, Apple пытается перенести генеративный ИИ из экспериментальных чат-ботов непосредственно в повседневные функции смартфона. Новый Siri AI становится ещё одним примером того, как крупные компании превращают нейросети в интерфейс для взаимодействия с операционной системой и приложениями.