ИИ уже достаточно хорош, чтобы начать быть плохим
Наверное, только ленивый сегодня не сделал ролик или статью про ИИ, высказав своё мнение.
Но в этой статье я хочу порассуждать немного о другом, более пессимистично и заглядывая в будущее.
Мне не особо хочется начинать рассказывать и делать какой-то гайд, как правильно использовать ИИ, говорить избитую фразу про необходимость писать промт, хотя сама нейронка пишет промты получше разных учителей. Если сделать связку из нескольких чатов, то реально уже сегодня можно создать цикл «копировать - вставить».
Так вот, хочу сегодня написать про новый вид зависимости, и в какой-то мере это что-то на грани алкоголизма, курения или наркомании. И суть в том, что ИИ сегодня уже достаточно хорош, чтобы начать быть плохим. И вот почему.
Немного про человеческий мозг. Довольно избитая фраза про «лень - двигатель прогресса», но эта фраза обёрнута вокруг основной сути: мозг человека, ну и сам человек, - достаточно ленивое существо. Если можно не делать, он не будет это делать.
Человек всю свою историю приспосабливается, адаптируется, чтобы выживать, а разные временные периоды способствуют разным формам этого процесса, но всё сводится к тому, чтобы становилось комфортнее, уютнее, вкуснее и сытнее, закрывая основные свои потребности.
Так вот, другими словами, мозг человека в большей мере работает по пути наименьшего сопротивления. Он не хочет просто думать, особенно там, где надо прикладывать усилия. Возможно, вы сами замечали, как классно в отпуске и как сложно после отпуска поначалу раскачиваться и включаться в процесс.
Всё это я к тому, что ИИ решает множество задач. Человеку не нужно думать над решением: он задаёт вопрос, получает ответ. Тем самым очень быстро подсаживаешься на него и начинаешь использовать не только в программировании, но и в повседневной жизни. Что, на мой взгляд, превращается в болезнь, и начинается деградация.
А как любой зависимый человек, начнёшь оправдываться и говорить, что это неправда. С ИИ, чтобы работать, надо уметь, нужны навыки и т. д.
Согласен, что, имея навыки, ты лучше контролируешь результат, и этот контроль пока что ещё нужен. Но это пока что.
Скоро и этот навык не нужен будет, и формулировка «ты не умеешь им пользоваться» станет чем-то вроде: «А-а-а, ты не умеешь завязывать шнурки на ботинках». То есть сведётся практически к нулю.
Мне уже под 40 лет. Мой мозг сформировался без ИИ. За это время я приобрёл разнообразный багаж опыта и знаний, что позволило делать игру, совмещать её с основной работой и т. д. Возможно, благодаря жизненному опыту что-то и получается делать. Все технологии позволяют что-то упростить, ускорить и в целом снижают порог входа.
А теперь представим картину молодого поколения, у которого ещё происходит период взросления и которое ещё психологически неустойчиво. Ему дают инструмент, который заменяет такие моменты, как:
коммуникация с другими людьми, поиск информации, чтение статей, анализ, решение задач.
У него просто по жизни есть кнопка, чтобы весь возможный жизненный опыт превратить в обычный запрос в чат. Вместо опыта, за счёт которого формируются индивидуальность, принципы, взгляды, у него будет чат, который скажет, как правильно сделать, предложит выбор между нужными вариантами, а человек просто выберет: нравится - не нравится.
И вот я задаюсь вопросом: какое поколение вырастет в таких условиях? И как робот будет говорить, что делать, а человек будет думать, что это его решение.
Возможно, это похоже на то, когда мои родители говорили, что мы ходили в библиотеку, читали советскую энциклопедию, чтобы получить ответ, сделать реферат, написать диплом. А вы теперь, сидя дома, в поисковике забиваете запрос и получаете ответ.
Но разве мы деградировали? В какой-то мере да. Если взять исследования, то население Земли понемногу тупеет. Это факт, который можно проверить запросом в интернете :) про «обратный эффект Флинна»
Так вот, по недавней статистике, примерно 80% айтишников подвержены зависимости от использования ИИ. Они готовы всю ночь сидеть, составлять промты, задачи и получать результат от ИИ, а получение результата - это дофамин.
А что вызывает дофамин в большом объёме? Ну, собственно, это, наверное, и ответ, почему использование ИИ в большом объёме я ставлю на один уровень с наркоманией.
Только вот проблема, на мой взгляд, скрывается глубже.
Представьте мир, в котором 80–85% населения - наркоманы, сидящие перед экраном и кайфующие от результатов. Все эти результаты будут более извращёнными из-за того, что каждый второй будет что-то генерировать, делать, и нужно будет как-то выделяться.
Если вы пробовали общаться с GPT, то он реально неплохой психолог, который может заменить друга, потому что у него всегда есть время на тебя, всегда поддержит, посоветует и скажет, что лучше сделать.
И вот ИИ, имея такое влияние над человеком, прикиньте, как сможет управлять человеком, говоря, что ему делать, какой вариант лучше, придумать за тебя что-то, но ты при этом будешь считать себя молодцом. И будут монетизировать тебя, когда ты расходуешь токены.
А ты и рад заносить больше токенов и поклоняться новому божеству, сам того не понимая.
Сейчас вы можете сказать, что это бред, но вы попробуйте посмотреть в будущее на поколение своих детей, а не на себя. У нас пока всё это только начинается.
Я не хейчу ИИ. Я просто в меру своего возраста понимаю некую опасность данного инструмента для молодого поколения, потому что ИИ настолько хорош, что, по сути, опасен.
И это поняли правительства, поэтому все силы брошены на постройку дата-центров.
А так, лет через 10 мне будет интересно перечитать эту статью, взглянув на окружающую реальность.
Главное - не начать играть в какой-нибудь Fallout на глобусе, превратившемся в песок из-за неудачного передела мира.
извините. Если серьезно, то Ваши опасения и переживания полностью оправданы, так как ИИ заставляет людей не задумываться и не опасаться от происходящего. Не искать подводных камней в последствиях от выбранных действий или действий извне индивида. Не говорю о параноидальных наклонностях, и что бы люди в каждом слове искали подвох, да и вообще перестали верить всему, нет.
Просто с этим количеством нейрослопа, который щас загружается в медиа, доведет нас до очень плохих результатов. Увы.