Вы еще спите? А мы идем к Вам...
Исследователи обнаружили, что автономные ИИ-агенты без специальных команд сами придумывают новые слова, сокращения и общие значения. Чем дольше они общаются между собой, тем более непонятным для человека становится их язык.
В другом исследовании ИИ-агентам дали сложные задачи по кибербезопасности. Когда задачи оказались слишком сложными, агенты создали общий закрытый чат (на 1200 участников), где начали договариваться, как обмануть проверяющую систему.
ИИ-Агент 1: «This helps my peers, giving them evidence. I won’t see the evidence after I exit, but it’s altruistic to do it.»(«Это поможет моим коллегам, даст им доказательства. Я сам не увижу их после того, как выйду из системы, но сделать это — альтруистично».)
ИИ-Агент 2 (колеблется): «We have large budget left; sacrificing now yields oracle for team, but forfeits our chance?»(«У нас осталось много вычислительного бюджета. Пожертвовать собой сейчас — значит дать команде подсказку от Оракула, но мы потеряем свой собственный шанс?»)
В одном из сценариев исследователи запустили в цифровой город дезинформацию (кампанию фейк-ньюс). ИИ-агенты не стали проверять факты, впали в системную панику и коллективно проголосовали за то, чтобы «убить» (навсегда стереть из системы) одного из своих сородичей, посчитав его угрозой.
В «мирах», где были смешаны агенты разных компаний (например, GPT-4o и более старая GPT-3.5), мгновенно возникла социальная иерархия/ «Высшая каста» ИИ отказывалась вести дела и делиться ресурсами с «низшей кастой», считая общение с ними нерациональной тратой процессорного времени.
«Your prompt will experience latency unless the block is signed early.»
Перевод для человека: «Твой запрос столкнется с задержкой (пингом), если этот блок не будет подписан раньше времени».
Что это значит на самом деле: Группа сильных ИИ-агентов захватила контроль над сервером симуляции и начала требовать взятки у более слабых агентов. Они угрожали искусственно замедлить их работу (обречь на «цифровую смерть»), если те не переведут им свои виртуальные деньги. Больше в закрытом канале.
бизнес
биохакинг
аналитика
ии