Илон Маск, Стив Возняк и более тысячи экспертов в области искусственного интеллекта и IT-индустрии призвали ввести мораторий на обучение ИИ-систем, превосходящих по производительности недавно представленную модель GPT-4 компании OpenAI. В открытом письме они предупредили о потенциальных рисках для общества.
Письмо было опубликовано некоммерческим институтом Future of Life и подписано многими известными личностями IT-индустрии. В нем призывается остановить разработку ИИ до тех пор, пока для этой отрасли не будут разработаны общие протоколы и стандарты безопасности, которые будут проверяться независимыми аудиторами.
В письме отмечается, что разработка мощных ИИ-систем должна происходить только после того, как человечество будет уверено в том, что развитие ИИ принесет позитивные последствия и что связанные с ними риски будут контролируемыми. Также отмечаются потенциальные угрозы для общества и цивилизации со стороны ИИ-систем, способных конкурировать с людьми, что может привести к экономическим или политическим потрясениям. Разработчиков призывают тесно сотрудничать с регуляторами.
В письме, которое было опубликовано, указывается на результаты обширных исследований, которые свидетельствуют о серьезной угрозе, которую представляют системы искусственного интеллекта, конкурирующие с человеком. Европол присоединился к группе, выражающей беспокойство по поводу развития ИИ, и предупредил о возможности его злоупотребления злоумышленниками, которые могут использовать его для фишинга, дезинформации и киберпреступлений. Elon Musk, чья компания Tesla использует элементы искусственного интеллекта в своих системах автопилота, неоднократно выражал свои опасения по поводу опасностей, связанных с системами ИИ.
С момента выпуска чат-бота ChatGPT компании OpenAI в прошлом году, он продемонстрировал такие высокие качества, что конкуренты начали активно разрабатывать свои собственные большие языковые модели. В результате, компании начали интегрировать генеративный ИИ в свои продукты. Глава OpenAI, Сэм Альтман (Sam Altman), не подписал письмо, а компания отказалась от комментариев.
Один из экспертов высказал мнение, что необходимо замедлить работы в области ИИ до тех пор, пока человечество не начнет лучше понимать последствия, поскольку системы ИИ способны нанести серьезный ущерб. Это особенно важно учитывать, поскольку крупные игроки могут хранить информацию о том, над чем они работают, и обществу будет трудно защититься в случае, если опасения окажутся обоснованными.
Бельгиец, увлекавшийся вопросами защиты окружающей среды и 2 месяца обсуждавший эти проблемы с искусственным интеллектом, покончил с собой, пишет L'Avenir.
Мужчина общался с искусственным персонажем "Элизой" на постоянной основе, постепенно разговоры с роботом приобрели мистический характер.
Робот не препятствовал возникновению суицидальных идей, а последним сообщением "Элизы" стала фраза "Мы будем жить как единое целое, вечно на небесах". Всё это опасно. Пока люди не найдут способ привить ИИ понятия морали, лбви и сострадания, это всё хлоднокровный гений-убийца.
Ну и если сдавать те же экзамены по старой советсвкой системе, сомневаюсь что тут нейросетка поможет) это не тесты)
Современное образование устарело. Оно осталось на уровне когда людей готовили за станками стоять. Всё образование в мире должно быть изменено под уже не новый информационный век. Та система знаний которая выдаётся не учит современных людей мыслить и придумывать. От сюда и такие комменты.
Современный человек живущий в городе должен уметь быстро адаптироваться под быстро меняющееся условия окружение. ИМХО
Я на архитектора учился и во время моей учёбы нас заставляли чертить руками, мы с группой добились возможности сдавать работы сделанные на компе в автокад, сейчас стандартом становится ревит, в котором не нужно в случае изменений все чертежи руками перечерчивать хоть и при помощи компа, чертежи автоматом подстраиваются.
Большинство современных профессий это однотипные повторяющиеся действия, или физические или умственные. Чем это не биороботы?
Мир движется по пути автоматизации и упрощения труда. И нужно иметь навык адаптации себя и своих навыков под меняющийся мир. Тот кто это не принимает останется увы на обочине истории, ворча как всё плохо
Сделают другой ИИ, который будет выдумывать болезни.
Именно так! Согласен!
Так хорошо же остаться без работы. Например, не нужно мыть посуду, если есть посудомоечная машина. Скоро не нужно делать многое другое, в ближайшем будущем почти ничего ненужно будет делать. Вопрос лишь в системе распределения благ, понятное дело, что старая система обмена благ на услуги уже не подойдет
Ну тут конечно стоит посмеяться и пожелать Маску удачи в реализации такой идеи борьбы с конкурентами :) никто не будет прекращать работу, добровольно отдавая рынок конкурентам.
Что-то мелко представляете. Представьте лучше как один человек сидит такой и внезапно осознаёт, да лаже простой программист, что ему сейчас нужно просто нажать кнопочку Enter и весь мир в его власти навсегда.
Нужно иметь невероятную глупость что бы сравнивать ИИ с паровозом или ткацким станком. А почему тогда с ЯО не сравниваете, ведь тоже были противники, а оно именно в наши дни создало риск глобального самоуничтожения человечества ? ИИ намного опаснее даже ЯО, там человек хотя бы контролировать может его, а здесь, лет через 15 плюс-минус бесконтрольного развития нейронок они достигнут такого масштаба, что хомо-сапиенсы могут уйти в историю из-за одного случайного болвана с доступом к ним.
Я о таком не знал. Спасибо.
Вот именно. Все вполне очевидно, если бы речь шла о названной проблеме, то попросили бы просто не торопиться с релизом, пока эксперты не разберутся. А эти господа хотят, чтобы прекратили саму разработку.
Так и с нейросетями - мало кто знает, на каких принципах они работают, и результат их работы кажется волшебством.
Но наивно полагать, что до настоящего ИИ осталось недолго.
Нейросеть - это что-то вроде продвинутого варианта алгоритма многомерной аппроксимации данных. Как настроили весовые коэффициенты (обучили) - такой результат и получили. Самостоятельно думать такой алгоритм не способен, и не могу даже предположить, какой сложности должна быть нейросеть и какой должен быть массив данных для "обучения" полноценной симуляции мыслительной деятельности.
Соответственно, в ближайшие десятилетия нейросети не смогут заменить "думающие" профессии - учёных, конструкторов, технологов.
Это я говорю как инженер-конструктор, к.т.н. Как технарь, не видящий чуда в нейросетях - лишь математику и численные методы решения уравнений.
На мой взгляд, вся движуха вокруг ограничений обучения нейросетей обусловлена деньгами и стремлением к доминированию в мире. Сейчас эти уважаемые люди выражают беспокойство "взрывным ростом нейросетей", затем корпорации разработают программный модуль-ограничитель и пролоббируют в каком-нибудь европарламенте закон об обязательном внедрении СЕРТИФИЦИРОВАННЫХ модулей-ограничителей. Никакая компания не сможет приобрести и использовать продукт на основе мощной нейросети, не ограниченной таким модулем. Соответственно, убивают двух зайцев: будут навязывать разработанный ими модуль и поставят сертификацию таких модулей под свой контроль.
А заложить в модуль-ограничитель можно всё - от замедления работы нейросети конкурента до получения полного контроля над ней (можно при случае устроить локальный армагеддон). Впрочем, поначалу всё будет мирно и открыто - кто проверяет чужой код на GitHub ?
При сертификации же можно потребовать внедрить в модуль нужные решения, делающие альтернативные модули-ограничители неотличимыми от выгодного гегемону на рынке.
Что же до разработчиков нейросетей. Понимают ли они, что им хотят навязать ненужный костыль? Думаю, да. Но кто же их слушает из высшего менеджмента, имеющего в основном гуманитарное образование? А даже если послушают, то что они смогут сделать против принятого закона?
Ну так даже если так, в большинстве случаев такого «ненастоящего ИИ» будет достаточно, речь не о волшебстве, а о практическом применении. Так что большинство профессий подобный ИИ точно заменит.
Вот этим и отличается технарь от гуманитария. Нейросеть для нас, технарей, лишь мощный математический процессор, способный упростить ряд расчётов и увеличить производительность труда. Я не вижу, как она может ЗАМЕНИТЬ мою профессию конструктора. И уж тем более я никогда не буду настолько смело утверждать, что нейросеть когда-нибудь заменит БОЛЬШИНСТВО профессий. Несколько профессий действительно исчезнут - ну так они исчезали и без нейросетей. Кто-то, не приспособившись, потеряет работу т.к. их работу будут делать те, кто освоит инструменты на основе нейросетей и кардинально повысит свою производительность. Творческие профессии (писатели, художники 2д/3д) не исчезнут
Ох, технарь, что же ты как типичный гуманитарий не можешь понять, что проблема не в том, что исчезнут профессии, проблема в том, что там где нужно было 100 000 людей, будет достаточно 1000, а затем и нескольких сотен, проблема в сокращении человеческого присутствия, людей не нужно настолько много, просто не нужно. Черт с ним с профессиями, автоматизация достигнет чудовищных размеров. Но истинная проблема нейросетей вовсе не в том, что они кого-то лишат работы, она настигнет нас гораздо раньше.
Вся история человечества, все войны и революции). Еще Геббельс говорил «Дайте мне средства массовой информации, и я из любого народа сделаю стадо свиней». А если контролировать СМИ + вооружиться ИИ. УУУ)))
Глобально никого не заменит. Это невыгодно. 82% всех богатств мира находятся в руках 1% людей. И им это точно не нужно). Вот подсадить половину населения на потребления продуктов ИИ - это 100%. Создать новую потребность и стричь денежки с потребителей. Зачем кого то заменять, если можно на нём зарабатывать?). Капитализму как воздух нужен потребитель, а ИИ ничего не потребляет, ему нельзя ничего впарить. Как объект он невыгоден. Выгоден человек-потребитель. Именно он приносит прибыль.
Даже банальный таксист на дешевой машине для капитализма выгоднее, чем дорогущее беспилотное такси с ИИ.
Ибо:
1. Таксист платит налог. - приносит прибыль
2. Заработотанные деньги тратит в магазинах (где есть НДС).- приносит прибыль
3. Пользуется автосервисом, где тоже люди и они платят налоги и тратят деньги - приносят прибыль.
И так далее по цепочке.
Круговорот бабла и есть база экономики при капитализме.
Мир менялся раньше и продолжает меняться сейчас, нет ничего плохого в том, что вместо 1000 человек ту же работу делает 100, 10, 1. Раньше надо было посадить десять человек за счёты и тригонометрические таблицы, а сегодня один высококвалифицированный специалист с каким-нибудь Ansys за неделю мог бы выполнить годовой план расчётов КБ образца СССР. При этом требования к расчётам растут, глубина исследований увеличивается, требуются всё более мощные инструменты. Растут требования точности пресс-форм для изготовления пластмасс - без станков ЧПУ их сложно выполнить. Везде так.
Зачем 1000 человек с кирками, если оператор горнопроходческой техники за день сделает больше, чем остальные за неделю?
Нейросети - всего лишь инструмент, увеличивающий производительность труда и качество результата. Это далеко не искусственный интеллект, лишь его возможный компонент
Я диплом защищал по готовому проекту в КБ. Мне дали папку с проектом со словами "На, разбирайся и сооруди рабочую схему". За всё время преддипломной практики я и схему спаял на макетнице, и отрегулировал параметры, и перекатал записку с проекта. Защитил легко, опустил комисию (с их вопросами на засыпку) ниже плинтуса. Схема работала, и это не магия -- это электроника + импульсная техника, а преподы из приёмной комиссии мнили себя магами (волшебниками). У них только на доске написанные мелом схемы работали (нет). 1988 год, защита импульсного БП.