ИИ-дайджест недели

 Даже минимальное использование ИИ может мешать развитию мышления

Использование нейросетей для решения повседневных задач может снижать способность человека самостоятельно анализировать информацию и справляться с трудностями. Исследователи предупреждают, что готовые ответы постепенно приучают пользователей делегировать алгоритмам даже те задачи, которые они способны решить сами. Особенно заметен риск в образовании: если нейросеть сразу выдаёт решение, у человека становится меньше возможностей самостоятельно искать информацию, проверять гипотезы и исправлять ошибки. В результате краткосрочный рост продуктивности может сопровождаться ослаблением навыков критического мышления и самостоятельной работы.
При этом речь не идёт о том, что ИИ обязательно вреден. Многое зависит от способа его применения: нейросеть может выступать наставником, задавать наводящие вопросы и помогать разобраться в сложной теме, а может полностью выполнять работу вместо человека. Поэтому авторы исследования призывают использовать ИИ так, чтобы он дополнял самостоятельное мышление, а не подменял его. 

Нейросеть научилась обнаруживать спрятанные пистолеты по сигналам Wi-Fi

Исследователи Шведского агентства оборонных исследований разработали WiFireNet — систему, способную обнаруживать скрытое огнестрельное оружие по искажениям сигналов Wi-Fi. Комплекс использует передатчик, приёмник и нейросеть, которая анализирует изменения радиоволн при прохождении через предметы. Для обучения исследователи использовали изображения и измерения, полученные при тестировании настоящих и пластиковых пистолетов, металлической бутылки и смартфона. В контролируемых испытаниях система обнаруживала оружие с точностью 72,5%. Однако определить точное место, где пистолет спрятан на теле человека, оказалось сложнее: здесь показатель снизился до 53,8%.
Алгоритм также хуже работает в незнакомых помещениях. Пока технология остаётся экспериментальной и основана на модифицированном стандарте Wi-Fi 802.11a. В будущем разработчики планируют испытать более современные Wi-Fi 7 и Wi-Fi 8. Исследование демонстрирует, как нейросети могут использовать привычные беспроводные сигналы для обнаружения объектов без традиционных камер. 

США запретили государственным ведомствам использовать DeepSeek

Министерство внутренней безопасности США распорядилось ограничить использование китайской нейросети DeepSeek в федеральных учреждениях. Ведомство сослалось на риски для конфиденциальности и национальной безопасности, связанные с возможным сбором персональных данных и передачей информации за пределы страны. Американские власти также выразили опасения относительно потенциально вредоносного кода в моделях. Решение стало очередным эпизодом технологического противостояния США и Китая. DeepSeek привлекла внимание рынка благодаря моделям, демонстрирующим конкурентоспособные результаты при сравнительно небольших затратах на разработку.
Американские компании также высказывали претензии по поводу возможного использования дистилляции — метода обучения моделей на ответах более мощных систем. При этом заявления о рисках сами по себе не являются независимым доказательством наличия вредоносного кода. Ограничения отражают стремление американского правительства контролировать использование иностранных ИИ-сервисов в государственной инфраструктуре и снижать потенциальные угрозы для служебных данных. 

ИИ-агент может автоматизировать масштабные кибератаки

Исследователи Symantec обнаружили ИИ-агента, предназначенного для автоматизации большого количества вредоносных операций. Согласно анализу его инструкций, система могла искать уязвимые устройства, эксплуатировать ошибки программного обеспечения, красть учётные данные и устанавливать криптомайнеры. В описании также предусматривалось повторное заражение уже скомпрометированных систем. Для работы агент использовал доступ к чужим ИИ-моделям — подобную схему называют LLMjacking, то есть незаконным использованием вычислительных ресурсов и языковых моделей. Исследователи выявили активность с помощью ловушки, имитировавшей незащищённый сетевой сервис.
При этом они изучили инструкции агента, но не наблюдали полноценного выполнения всей предполагаемой атаки. Этот случай показывает, как ИИ может снижать порог входа в киберпреступность: вместо ручного выполнения отдельных операций злоумышленник получает возможность поручить алгоритму целую цепочку действий. Специалисты отмечают, что распространение автономных агентов делает особенно важными контроль доступа, защиту учётных записей и мониторинг сетевой активности.

Anthropic направит часть акций на общественные проекты

Anthropic объявила о планах передать 5% своих акций специальному фонду, который будет финансировать общественно значимые инициативы. По оценке The Guardian, на момент публикации стоимость пакета могла достигать 48 млрд долларов, хотя фактическая сумма зависит от оценки компании и реализации плана. Фонд предполагается использовать для поддержки некоммерческих организаций и проектов, связанных с социальными последствиями развития искусственного интеллекта. Среди потенциальных направлений — помощь людям, чьи профессии могут измениться или исчезнуть из-за автоматизации.
В Anthropic считают, что быстрый прогресс ИИ потребует новых механизмов распределения экономических выгод и поддержки общества. Инициатива появилась на фоне активного роста компании и дискуссий о том, кто должен получать выгоду от развития мощных нейросетей. При этом конкретные условия работы фонда и порядок распределения средств ещё предстоит определить. Если план будет реализован, он станет одним из наиболее масштабных примеров участия разработчика ИИ в финансировании общественных программ за счёт корпоративного капитала.