Midjourney закрыл доступ к бесплатной версии из-за скандальных фейков
Компания Midjourney закрыла бесплатный доступ к своей нейросети, которая позволяет создавать изображения по текстовому описанию, из-за злоупотреблений пользователей в создании дипфейков с участием знаменитостей. Основатель компании Дэвид Хольц объявил в официальном канале Discord, что компания прекращает программу бесплатного пробного периода из-за чрезвычайного спроса и злоупотреблений.
Хольц также отметил, что новые правила безопасности не смогли предотвратить неправильное использование нейросети во время пробного периода. Теперь пользователи Midjourney должны будут платить $10 в месяц за доступ к технологии. Насколько серьезным будет барьер в 10$ для злоумышленников пока непонятно, но полагаем, что уже в ближайшее время ситуация прояснится.
Недавно Midjourney стала объектом нежелательного внимания, так как пользователи использовали её для создания фейковых изображений с участием бывшего президента США Дональда Трампа и Папы римского Франциска, разгуливающего в модном пуховике. Хотя эти изображения быстро были опознаны как фейки, злоумышленники могут использовать генеративные нейросети вроде Midjourney, DALL-E от OpenAI и аналогичные для распространения дезинформации в Сети.
Фейковые изображения.
Компания Midjourney признала, что её правила использования искусственного интеллекта для создания изображений нуждаются в улучшении. В 2022 году основатель и исполнительный директор компании Дэвид Хольц запретил использование Midjourney для создания дипфейков с китайским лидером Си Цзиньпином, объясняя это тем, что доступ на китайский рынок является более важным для компании, чем возможность создавать сатирический контент.
Фейковые изображения.
В последнее время Хольц сообщил пользователям в Discord, что формирование политики в отношении создания контента с помощью искусственного интеллекта ещё более усложнилось, так как ИИ теперь способен создавать ещё более реалистичные изображения. Тем не менее, компания продолжит улучшать модерацию контента, создаваемого с помощью ИИ, и выявлять случаи злоупотребления.
Фейковые изображения.
Некоторые разработчики нейросетей для генерации изображений уже ввели более строгие правила, связанные с их использованием. К примеру, компания OpenAI запретила создание любых изображений, которые могут быть связаны с текущими политическими событиями, политиками и теориями заговоров, а также контент, связанный с ненавистью, насилием и сексом. В то время как другие компании пока придерживаются более свободных правил. Компания Stability AI не позволяет нейросети Stable Diffusion копировать стили или создавать "не безопасные для работы" изображения, однако в целом не диктует пользователям, какие изображения можно или нельзя создавать.
59708505
67
2023-03-31
"из-за злоупотреблений пользователей в создании дипфейков" - чего и следовало ожидать, 😀 а далее ещё похлеще будет - Джин из бутылки уже выпущен. Не исключён эффект домино / снежного кома. Всвязи с чем более актуальна эта статья...
2023-03-31
Пожалуй, это единственный случай, когда я рада платным подпискам.
2023-03-31
Ураа
2023-03-31
Интересное обоснование. То есть, если заплатил 10$, то можешь делать фейки, а если нет, то нельзя. Прикольно. Никакого желания монетизировать, только альтруистические мотивы
2023-03-31
Игорь, вот-вот) Если уж делать серию скандальных фейков, то за подписку) Так вопросов не будет😄
2023-03-31
Игорь, это хоть какой-то барьер. Назовите чем ещё можно было потенциальных шутников огородить от технологии?
2023-03-31
Игорь, просто не давать ее.
2023-03-31
Игорь, первое что в голову пришло и что технически наверное невыполнимо, это ограничение выгрузки или сохранения изображения каким-то фильтром. Загенерил папу римского, похихикал и все на этом. Приложуха, зная, что ты накуролесил, не даст ни скачать, ни заскринить сие творение. Но это я утопию какую-то придумала)
2023-03-31
Анастасия, стандартные приложения windows "Экранные ножницы", "набросок на фрагменте экрана" передают вам горячий привет :)
2023-03-31
Как теперь жить?... 🤦♂️ (на всякий случай: это риторический вопрос)
2023-03-31
Игорь, здесь дело-то не в благородном желании отсечь "злостных фейкометов", а в банальном нежелании упускать прибыль, видя как массово народ ушел в творческий отрыв) Само оправдание звучит забавно. Гипотетически, злостному шутнику ничего особо не мешает заплатить эти 10 баксов и дальше жечь напалмом, видимо, в таком случае, все отлично и все вопросы к нему сразу отпадают)
2023-03-31
Разве была бесплатная версия? О_о
2023-03-31
Игорь, уже да, поздоровалась с ними))
2023-03-31
Даже самих разрабов за***и эти вездесущие мусорные картинки
2023-03-31
Но ясен пень что теперь они просто решили нормально рубить бабки
2023-03-31
Игорь ВасильевИнтересное обоснование. То есть, если заплатил 10$, то можешь делать фейки, а если нет, то нельзя. Прикольно. Никакого желания монетизировать, только альтруистические мотивы
Конечно! Всё понарошку, кроме денег (с)
2023-03-31
Надо байкотировать и всем отписатся
2023-03-31
Так они давно говорили что будут подписки
2023-03-31
Владимир, чтобы что
2023-03-31
Наложить вотермак? Нееее
Сделать подписку? Дааа
2023-03-31
наконец-то аудиовизуальная культура, культура картинки и клипа, достигшая пика в 80-х - 90-х, посыплется. Если картинка ничего не значит, то и ценности не имеет.
2023-03-31
"А чё бы и нет?" - думали разработчики, давая продукт бесплатно "А как же мы?" - кричали художники, создающие картиночки за деньги "Псс...парень, у нас есть выход" - прошептал капитализм
2023-03-31
Игорь, вы действительно считаете, что 10 у.е. заставят человека, у которого есть цель создать что-то остроумное (по его мнению), отказаться от задуманного?😁
Да и не факт, что под создателями фейков подразумевали "шутников".
Стандартный меркантильный ход под ширмой благих намерений
2023-03-31
Игорь, Нет не считаю. Если у человека есть цель создать фейк (например, это его работа), то его не остановит даже цена в 10 долларов за одну генерацию.
Порог в 10 долларов ограничит от пользования сетью школьниками, например, или людей, кто решил что-то сгенерить "по приколу" и разослать знакомым.
А теперь вы мне скажите, на подписке в 600р\мес много ли можно заработать?
2023-03-31
Сергей, так я про это и написал😁
2023-03-31
Анастасия, Ну почему нет? зачем вообще что то давать пользователю смотреть? при попытки генерить того же папу, выводить просто "ам соу сори вы не можете дуит это" заблокировано фильтром. Фильтр подобный я думаю в контексте подобной штуки больших проблем написать не составит. Должно быть не совсем сложно, но просто подписка лучше.
2023-03-31
Игорь, я знаю) Я другому Игорю в комментарии под написал)
2023-03-31
Игорь,
А теперь вы мне скажите, на подписке в 600р\мес много ли можно заработать?
да много, и намного больше чем, при бесплатном использовании сервиса.
2023-03-31
Владимир, и будет также всем пофиг
2023-03-31
Правильно! За 100 бачей еще и порно разблочил. Или лучше за 300. Просто когда порно генерят бесплатно это очень тревожная ситуация, а вот когда за 300 - сразу как то у Хольца на душе спокойнее становится. Притная теплота как от вязанного свитерочка. За 500 сделал бы возможным порно с Си Цзинь Пинем. За 1000 можно подумать и о детях. Пользователи СД один фиг не чураются ничего. Шольц как то долго мнется.
2023-03-31
Sir, за такие технологии это недорого
2023-03-31
Шизоиды как верили в плоскую Землю без нейросетей, так и будут верить во всю дичь. Развите нейросетей и создание фейков вызовет не веру фейковые новости, а недоверие общества ко всем новостям в целом, везде будет сквозить мысль в стиле - сейчас ничему вообще верить нельзя. Так мне кажется, а там посмотрим.
2023-03-31
Игорь, когда ты делаешь оплату, то становишься открытым для системы правосудия и тебя можно засудить. А аноним, он и есть аноним.
2023-03-31
Я думаю, суть в том, что когда чел платит деньги, его можно отследить. Ну т.е установить личность того, кто этот фейк сделал и запустил. А бесплатно мог сделать любой аноним. И для того, чтобы этого анонима вычислить, нужны запросы в гос.структуры. Короче, целое дело. А тут все как на ладони.
2023-03-31
Татьяна, ага, особенно криптокошельки хорошо отслеживаются😁
2023-03-31
Михаил, боюсь у нас с вами немного разные представления о юридической стороне в вопросе компьютерных преступлений. Даже если с вашего домашнего компьютера кто-то выйдет в сеть и что-то сделает, ещё надо умудриться доказать, что это были именно вы. И тут связь того, кто оплатил и того, кто использует ваш аккаунт ещё более туманна
2023-03-31
Игорь, вот это и расскажешь, товарищу майору 🤣
2023-03-31
Да, перестало работать. Зашёл по гостевой ссылке - не генерирует. Жаль. Наверное Трамп обиделся и наехал. Чувак сурьёзный.))
2023-03-31
Блин, хочу такой пуховик теперь.
2023-03-31
Теперь все что находится в цифровом пространстве неофициально можно признать работой ИИ.
2023-03-31
Михаил, за какие?) стейбл дифужон лучше и гибче и бесплатный)
2023-03-31
Марат, вотемарка любая убирается другой нейронкой за 3сек
2023-03-31
а даркнет, а он? как то сложно отслеживается. там чего крутится. мало кто отследит. там не фейков море, похлеще мидджорне
2023-03-31
Мне кажется, это связано с тем что каждый второй блогер и не только рассказывали как обойти лимит запросов, что привело к сильному их увеличению, что в свою очередь усилило нагрузку на сервера, а денег стало меньше, потому как многие перестали покупать подписку, и как следствие отключение бесплатного периода
2023-03-31
Андрей ЕсьманМне кажется, это связано с тем что каждый второй блогер и не только рассказывали как обойти лимит запросов, что привело к сильному их увеличению, что в свою очередь усилило нагрузку на сервера, а денег стало меньше, потому как многие перестали покупать подписку, и как следствие отключение бесплатного периода
Да, там всякую ерунду начали генерить все кому не лень. Если они использовали сгенерированные картинки для обучения и совершенствования сети, то им только мешает куча хлама, который генерируют случайные пользователи. Ну и выборы скоро в США, а тут любой школьник может Трампа в стрингах изобразить. Скандал.))
2023-03-31
Я несколько лет назад говорил что в фотографии придётся встраивать криптозащиту которая подтверждала бы что фотография сделана на реальном фотоаппарате. Если картинка не проходит верификацию, то её можно считать фейковой.
2023-03-31
Игорь, криптой нельзя оплатить вроде. А по поводу того, что кто-то должен доказать, что это вы пользовались компьютером, а так же, что аккаунт используете вы... у вас нет никакого представления о юридической стороне вопроса (без обид, просто констатирую факт) ибо на всем нашем голубом шарике в таком случае именно обвиняемый доказывает, что он не конь. Если в вашей квартире будет обнаружен покойный именно вам придется доказывать, что не вы его привели в горизонтальное положение.
2023-03-31
Ну одели Папу в пуховик и что? Как это взлетело, не понимаю.
2023-03-31
Andrew Feoktistov (fruit_cake)Я несколько лет назад говорил что в фотографии придётся встраивать криптозащиту которая подтверждала бы что фотография сделана на реальном фотоаппарате. Если картинка не проходит верификацию, то её можно считать фейковой.
как вариант, но не в фотографии, а в фотоаппараты
2023-04-01
Max Vic как вариант, но не в фотографии, а в фотоаппараты
Так фотоаппарат должен внедрять в картинку что-то для последующей верификации, я не специалист, но как другими способами подтверждать подлинность непонятно. Или внедрять подобные технологии, или интернет заполонят фейками всех мастей.
2023-04-01
Kirill noneНу одели Папу в пуховик и что? Как это взлетело, не понимаю.
Смысл в том, что это сделала нейронка, так то и человек мог зафотошопить, но тут другой случай.
2023-04-01
Виктор, надеюсь вы без юридического диплома, ибо грустно за ваш ВУЗ. Ознакомьтесь с 49 статьей Конституции РФ.
В случае обнаружения покойника в вашей квартире, вы становитесь подозреваемым. В случае, если есть какие-то доказательства, указывающие на вашу причастность, тогда вас переведут в статус обвиняемого.
Наличие трупа в квартире образуют объективную сторону преступления, но также необходима субъективная сторона. Как раз к ней и относится ваше (либо ещё чье-то) отношение к произошедшему.
2023-04-01
Игорь, хе... нет, не юрист. С терминологией у меня всегда беда, но мне без разницы. Мысль вы поняли? Это вам придется доказывать каким-либо способом, что вы не имеете к чему либо отношения, если использовалась ваша собственность. А не кому-то доказывать, что вы в этом случае виноваты. Ему придется искать лишь, кто кроме вас мог это быть... если возникнет такое желание.
П.С.
Перечитайте свой комментарий, на который я ответил в первый раз и погрустите-_-
П.П.С.
Есть конечно вариант заявить об утрате заранее, но... в этом случае будут доказывать, что виноваты вы.
2023-04-01
Виктор, статью 49 Конституции РФ так и не смогли найти?
2023-04-01
Игорь, не искал и не собираюсь. А вы не пробовали прочитать то, что откуда то скопировали в прошлое сообщение не вникнув? Ибо там написано ровно то, что я написал вам ранее, а в двух сообщениях.
2023-04-01
Виктор, я вам написал сведения из теории юриспруденции, которые вам трудно понять, раз вы свою чушь продолжаете нести. И, как это обычно бывает, человек, который не может аргументировать свою позицию, переходит к оскорблениям. Удачи
2023-04-01
Игорь, вы написали теорию, которую не понимаете. Повторю - в ней написано ровно то, что я вам писал ранее. Уточните, что в ней подразумевается под "субъективным".И пожалуй да, закончим на этом. Все равно вы не понимаете ни того, что пишите сами, ни того, что пишут вам люди.
2023-04-01
Shackal, кому как,для меня midjourney лучшая нейросетка
2023-04-01
Михаил, я могу выдать такой же результат на стейбл и плюс можно и лучше)
2023-04-02
Сергей Фёдорова в банальном нежелании упускать прибыль
Так конечно. Раскрутка прошла успешно, теперь всё, ребята платите. И это пока 10 долларов). Со временем цена станет как у полноценного софта, в тысячи долларов за годовую подписку. Создатели зря что старались? Удивительно, что так долго тянули, видимо набирали потенциальную аудиторию, подсаживали народ.
2023-04-03
simon310 Так конечно. Раскрутка прошла успешно, теперь всё, ребята платите. И это пока 10 долларов). Со временем цена станет как у полноценного софта, в тысячи долларов за годовую подписку. Создатели зря что старались? Удивительно, что так долго тянули, видимо набирали потенциальную аудиторию, подсаживали народ.
Конкурентов немало, в том числе и бесплатная SD, которая немногим хуже, так что взвинтить цены не получится. Тем более, 30 долларов за безлимитку - это разумно вполне
2023-04-03
Игорь ВидлацкийИгорь, Нет не считаю. Если у человека есть цель создать фейк (например, это его работа), то его не остановит даже цена в 10 долларов за одну генерацию.
Порог в 10 долларов ограничит от пользования сетью школьниками, например, или людей, кто решил что-то сгенерить "по приколу" и разослать знакомым.
А теперь вы мне скажите, на подписке в 600р\мес много ли можно заработать?
777 сегодня курс
2023-04-03
simon310 Так конечно. Раскрутка прошла успешно, теперь всё, ребята платите. И это пока 10 долларов). Со временем цена станет как у полноценного софта, в тысячи долларов за годовую подписку. Создатели зря что старались? Удивительно, что так долго тянули, видимо набирали потенциальную аудиторию, подсаживали народ.
Скорее не раскрутка, а бесплатное тестирование (бесплатно тестишь ты, разрабы бесплатно получают логи/баги). Работает? Ну ФСЁ - релиз... 10 бакинских рублей - это начало, будет больше, когда наладят монетизацию.
2023-04-03
Да можно подумать, что до появления нейросетей с помощью Фотошопа и других доступных программ никто фейки не делал.
2023-04-03
Александр Шипков (ShipRozy)Да можно подумать, что до появления нейросетей с помощью Фотошопа и других доступных программ никто фейки не делал.
Конечно никто не делал, с такой легкостью, доступностью, быстротой и реализмом, это требовало денег и умений, а те кто умели просто не занимались такой херней в таком масштабе, а тут любой школьник может сделать что угодно в 2 клика...
2023-04-04
Людям дали инструмент, показывающий степень их аморальности. Все нормально!
2023-04-12
Serge PetrovЛюдям дали инструмент, показывающий степень их аморальности. Все нормально!
