Проблематика ИИ контента в современном мире
Данный пост уже давно напрашивался и его публикация должна была быть еще в декабре 2025 года, но я затянул с ним. Не смотря на то, что я сам использую нейронные сети и данный блог посвящен им, я все чаще и чаще начинаю видеть так называемое "зло" данной технологии. Пометка, мы тут говорим именно о генеративных нейронках, а не о математических или тех, которые используются в более сложных отраслях.
Думаю в моменте всех уже задолбал так называемый нейрослоп, которым ИИ заполнил нашу сеть. Тысячи роликов как коты моют посуду и подметают пол. "Да, *** именно для этого технология была создана" - мои мысли каждый раз когда я это вижу.
Основная проблема такого контента, как я говорил год назад, это его посредственность. Если раньше сеть была заполнена танцующими девушками из ИИ, то сейчас вам и коты и хентай на rule34 (да, поверьте там он есть и у него соответствующий тег).
К большому сожалению сделав доступ к генеративным нейронкам для всех мы получили столько шлака, который перекрывает реально годные проекты. Я знаю несколько авторов, которые так же как и я два года назад работал над первыми короткометражками по ИИ. Тогда данная технология и методы создания были сложны, но возможны если ты знал что делать. Сейчас это два клика и вот у вас подписка на higgsfield и то *** там люди делаю полную ху*ню.
Я не буду раздувать тему того как и сколько еще жрет ресурсов планеты. На это уже высказались ребята с канала NetStalkers.
Еще одной проблемой ИИ является ее быстро прогрессирующая реалистичность и проблематика дипфейка. Весь 2025 год параллельно проекту Code Of Conviction я посвящал проблеме дипфейков. Хочу тут вставить цитату из моей ПЗ:
"Реалистичность генерации контента является “злой шуткой”, в которую мы сами сыграли. Исходя из данной проблематики и ранее сказанной проблемы роста уровня ИИ контента формируется так называемый парадокс реальности. Это состояние, когда обыденный человек с трудом может отличить реальный контент от сгенерированного и считает реальный фейковым и фейковый реальным"
Думаю в моменте всех уже задолбал так называемый нейрослоп, которым ИИ заполнил нашу сеть. Тысячи роликов как коты моют посуду и подметают пол. "Да, *** именно для этого технология была создана" - мои мысли каждый раз когда я это вижу.
Основная проблема такого контента, как я говорил год назад, это его посредственность. Если раньше сеть была заполнена танцующими девушками из ИИ, то сейчас вам и коты и хентай на rule34 (да, поверьте там он есть и у него соответствующий тег).
К большому сожалению сделав доступ к генеративным нейронкам для всех мы получили столько шлака, который перекрывает реально годные проекты. Я знаю несколько авторов, которые так же как и я два года назад работал над первыми короткометражками по ИИ. Тогда данная технология и методы создания были сложны, но возможны если ты знал что делать. Сейчас это два клика и вот у вас подписка на higgsfield и то *** там люди делаю полную ху*ню.
Я не буду раздувать тему того как и сколько еще жрет ресурсов планеты. На это уже высказались ребята с канала NetStalkers.
Еще одной проблемой ИИ является ее быстро прогрессирующая реалистичность и проблематика дипфейка. Весь 2025 год параллельно проекту Code Of Conviction я посвящал проблеме дипфейков. Хочу тут вставить цитату из моей ПЗ:
"Реалистичность генерации контента является “злой шуткой”, в которую мы сами сыграли. Исходя из данной проблематики и ранее сказанной проблемы роста уровня ИИ контента формируется так называемый парадокс реальности. Это состояние, когда обыденный человек с трудом может отличить реальный контент от сгенерированного и считает реальный фейковым и фейковый реальным"
Когда я начал погружаться в проблему детектирования такого контента я понял одно, что нет таких нормальных инструментов. Точнее они есть, но только используются у компаний, которые продают это как продукт другим компаниям (даже так это все еще сыре продукты).
Все что вы видите в сети с подписями "Deepfake detector" - полная ху*ня. Есть такая вещь как состязательные атаки на нейронные сети. Если говорить просто то они делают подмену некоторых параметров фото таким образом, что нейронная есть ошибается в верификации фотографии. Тут советую почитать статью на habr https://habr.com/ru/companies/sberbank/articles/918702/
Если кому интересно как я решил данный вопрос по детекции, то к данному посту я приложу мою ПЗ, которую все могут почитать и ознакомиться с материалом.
И вот сижу я сейчас и понимаю, что в целом эпоха уникальности и новизны нейронок уже прошла. Ты уже не удивишь никого танцующим котиком или классно сгенерированной картинкой.
Тут уже нужно играть по-крупному, то есть создавать то, что будет выделяться среди всего шлака. Можно сказать что такое я уже создал в Code of conviction и как я ранее писал есть мысли и наработки того как это продолжить, возможно что даже с постами о закадровых съемках.
Думаю пост получился таким, более рассудительным. Однако, почему бы его и не разместить, тем более что кому-то может будет полезен мой взгляд на проблемы deepfake.
Все что вы видите в сети с подписями "Deepfake detector" - полная ху*ня. Есть такая вещь как состязательные атаки на нейронные сети. Если говорить просто то они делают подмену некоторых параметров фото таким образом, что нейронная есть ошибается в верификации фотографии. Тут советую почитать статью на habr https://habr.com/ru/companies/sberbank/articles/918702/
Если кому интересно как я решил данный вопрос по детекции, то к данному посту я приложу мою ПЗ, которую все могут почитать и ознакомиться с материалом.
И вот сижу я сейчас и понимаю, что в целом эпоха уникальности и новизны нейронок уже прошла. Ты уже не удивишь никого танцующим котиком или классно сгенерированной картинкой.
Тут уже нужно играть по-крупному, то есть создавать то, что будет выделяться среди всего шлака. Можно сказать что такое я уже создал в Code of conviction и как я ранее писал есть мысли и наработки того как это продолжить, возможно что даже с постами о закадровых съемках.
Думаю пост получился таким, более рассудительным. Однако, почему бы его и не разместить, тем более что кому-то может будет полезен мой взгляд на проблемы deepfake.
мысливслух