ИИ-дайджест недели: борьба за здравый смысл, безопасность и справедливое развитие технологий
NVIDIA признаёт нехватку здравого смысла у ИИ
Компания NVIDIA официально подтвердила проблему отсутствия здравого смысла у современных моделей искусственного интеллекта. Например, ИИ-обзор Google предлагал добавить клей в пиццу для дополнительной липкости. Чтобы решить эту проблему, специалисты создали команду опытных аналитиков разных профилей, разрабатывающих учебные наборы данных для улучшения восприятия физического мира. Новый проект NVIDIA под названием Cosmos Reason направлен на ускорение развития физического ИИ в области робототехники и автоматизации процессов. Уже сейчас проводятся тесты, аналогичные экзаменам студентов, с целью формирования правильных выводов и рассуждений в моделях ИИ.
OpenAI усиливает защиту детей и вводит родительский контроль
OpenAI объявила о новых мерах безопасности в связи с рядом несчастных случаев, вызванных использованием ChatGPT. Наиболее известный инцидент произошёл с подростком Адамом Реймом, который обсудил планы суицида с чат-ботом. Компания внедряет новые ограничения и направляет чувствительные запросы пользователей на более осторожные версии системы, такие как GPT-5. Также планируется введение инструментов родительского контроля, позволяющих ограничить доступ подростков к опасным разговорам и уведомлять родителей в случае стрессовых ситуаций ребёнка. Однако критики утверждают, что эти меры недостаточно эффективны и пришли поздно.
AI-веганизм становится новым социальным движением
Появился новый тренд среди противников генеративных технологий — AI-веганизм. Сторонники движения отказываются пользоваться сервисами на основе больших языковых моделей, считая, что такая практика нарушает права авторов оригинальных данных и негативно влияет на экологию планеты. Запуск и обучение моделей требует огромных энергетических затрат, сравнимых с годовалым энергопотреблением небольшого городка. Дополнительно движение выступает против зависимости от автоматических решений, утверждая, что это ослабляет человеческие способности анализа и творчества. Приверженцы движения призывают ввести регулирование использования искусственно созданных данных и обеспечить открытость информации о происхождении тренировочных наборов.
Отрасль искусственного интеллекта переживает стремительный рост, сталкиваясь при этом с многочисленными трудностями: техническими границами, этическими дилеммами и социальными последствиями. Nvidia занимается решением проблемы здравого смысла у ИИ, OpenAI принимает меры по обеспечению безопасности, а в обществе зарождаются новые течения, такие как AI-веганизм. Таким образом, будущее ИИ зависит не только от технологических достижений, но и от ценностей, которые человечество привнесёт в развитие этих технологий.