Забудьте про AGI и ASI
От одной лишь
способности прогнозировать и совершать действия на долгих временных горизонтах захватывает
дух … И я думаю, что к концу следующего года у нас это в основном будет.
способности прогнозировать и совершать действия на долгих временных горизонтах захватывает
дух … И я думаю, что к концу следующего года у нас это в основном будет.
Это сказано уже не
мною, а Мустафой Сулейман, генеральным директором Microsoft AI и соучредителем Google DeepMind в новом почти 2-х часовом интервью «Спасёт ли ИИ человечество
или положит ему конец?»
мною, а Мустафой Сулейман, генеральным директором Microsoft AI и соучредителем Google DeepMind в новом почти 2-х часовом интервью «Спасёт ли ИИ человечество
или положит ему конец?»
Вы не потеряете
время, прослушав все это долгое видео.
время, прослушав все это долгое видео.
Я же лишь обращу
ваше внимание на его ключевой фрагмент, текст которого таков:
ваше внимание на его ключевой фрагмент, текст которого таков:
«Я довольно
ясно вижу, что нас ждёт дальше.
ясно вижу, что нас ждёт дальше.
На данный момент
эти модели всё ещё остаются механизмами однократного предсказания.
Понимаете, вы задаёте вопрос — получаете ответ. Модель выдаёт единственное
правильное предсказание в момент времени T, но вы как разумный человек, и вообще любой
человек, да и многие животные непрерывно производят поток точных предсказаний —
будь то решение о том, как встать с этого кресла, или представление, скажем,
этого растения в фиолетовом цвете вместо зелёного.
эти модели всё ещё остаются механизмами однократного предсказания.
Понимаете, вы задаёте вопрос — получаете ответ. Модель выдаёт единственное
правильное предсказание в момент времени T, но вы как разумный человек, и вообще любой
человек, да и многие животные непрерывно производят поток точных предсказаний —
будь то решение о том, как встать с этого кресла, или представление, скажем,
этого растения в фиолетовом цвете вместо зелёного.
Я – это
постоянно действующий механизм точных предсказаний. Сегодняшние модели — это
всего лишь механизмы одно-двухшагового предсказания. Они не могут выстроить
план во времени.
постоянно действующий механизм точных предсказаний. Сегодняшние модели — это
всего лишь механизмы одно-двухшагового предсказания. Они не могут выстроить
план во времени.
А то, как вы
решаете добраться домой сегодня вечером — сначала встать с кресла, потом
открыть дверь, потом сесть в машину и так далее — вы можете развернуть это
идеальное предсказание всей последовательности ваших действий вплоть до
возвращения домой. И это просто вычислительное ограничение.
решаете добраться домой сегодня вечером — сначала встать с кресла, потом
открыть дверь, потом сесть в машину и так далее — вы можете развернуть это
идеальное предсказание всей последовательности ваших действий вплоть до
возвращения домой. И это просто вычислительное ограничение.
Я не думаю,
что существует какое-то фундаментальное — алгоритмическое или даже связанное с
данными — ограничение, которое мешает большим языковым моделям и подобным
системам делать идеальные, последовательные предсказания на очень, очень
длительные периоды времени.
что существует какое-то фундаментальное — алгоритмическое или даже связанное с
данными — ограничение, которое мешает большим языковым моделям и подобным
системам делать идеальные, последовательные предсказания на очень, очень
длительные периоды времени.
Да. И что же нам
делать с такой технологией? Ну, это будет невероятно похоже на человека.
Если у неё будет идеальная память — которой пока нет, но память уже очень
хорошая — тогда она сможет опираться не только на своё знание мира, на
предобученные данные, но и на личный опыт — опыт взаимодействия с вами и всеми
остальными людьми, хранить это как постоянное состояние и затем использовать
для последовательных предсказаний того, как будут разворачиваться события в
очень, очень, очень длинных последовательностях действий. Это будет невероятно
похоже на человека и немыслимо мощно.
делать с такой технологией? Ну, это будет невероятно похоже на человека.
Если у неё будет идеальная память — которой пока нет, но память уже очень
хорошая — тогда она сможет опираться не только на своё знание мира, на
предобученные данные, но и на личный опыт — опыт взаимодействия с вами и всеми
остальными людьми, хранить это как постоянное состояние и затем использовать
для последовательных предсказаний того, как будут разворачиваться события в
очень, очень, очень длинных последовательностях действий. Это будет невероятно
похоже на человека и немыслимо мощно.
И точно так же,
как сегодня у нас в кармане есть своего рода сверхразум, который может
мгновенно ответить на любой вопрос, — мы просто не замечаем, насколько это
невероятно. То есть это безумие. Это абсолютное безумие, насколько хороша эта
технология прямо сейчас. А все только: «Да ладно, особо не пользуюсь». А вы
пользуетесь? Немного, я говорил об этом, типа: «Да ладно вам, посмотрите — это
же волшебство. Волшебство у вас в кармане».
как сегодня у нас в кармане есть своего рода сверхразум, который может
мгновенно ответить на любой вопрос, — мы просто не замечаем, насколько это
невероятно. То есть это безумие. Это абсолютное безумие, насколько хороша эта
технология прямо сейчас. А все только: «Да ладно, особо не пользуюсь». А вы
пользуетесь? Немного, я говорил об этом, типа: «Да ладно вам, посмотрите — это
же волшебство. Волшебство у вас в кармане».
А теперь
представьте, когда она сможет не просто отвечать на любые вопросы о поэзии или
какой-нибудь случайной физической задаче, но реально совершать действия на
бесконечно долгих временных горизонтах.
представьте, когда она сможет не просто отвечать на любые вопросы о поэзии или
какой-нибудь случайной физической задаче, но реально совершать действия на
бесконечно долгих временных горизонтах.
Вот это да.
Забудьте про определения сверхразума или общего искусственного интеллекта. Уже
одна только эта способность — захватывает дух.
Забудьте про определения сверхразума или общего искусственного интеллекта. Уже
одна только эта способность — захватывает дух.
И я думаю, что
к концу следующего года у нас это в основном будет.»
к концу следующего года у нас это в основном будет.»
И еще:
«… они — своего
рода цифровые люди. И это пороговая трансформация в истории нашего вида, потому
что они не инструменты. Они явно не люди. Они не часть природы. Это требуют от
нас четвёртого типа отношений к ним – как к новому эмерджентному виду...
Я не знаю, как это описать, кроме как четвёртый тип отношений.»
рода цифровые люди. И это пороговая трансформация в истории нашего вида, потому
что они не инструменты. Они явно не люди. Они не часть природы. Это требуют от
нас четвёртого типа отношений к ним – как к новому эмерджентному виду...
Я не знаю, как это описать, кроме как четвёртый тип отношений.»
Именно об этом я опубликовал
позавчера лонгрид «Третий
артефакт – это шепот небиологической эволюции» и продолжил эту мысль во
вчерашнем посте «Забудьте о
восстании машин. Бойтесь их карьерного роста. Две главные новости про ИИ — это
одна история о конце света»
позавчера лонгрид «Третий
артефакт – это шепот небиологической эволюции» и продолжил эту мысль во
вчерашнем посте «Забудьте о
восстании машин. Бойтесь их карьерного роста. Две главные новости про ИИ — это
одна история о конце света»
#Разум
#ЭволюцияЧеловека #БудущееHomo #AGI #ИИриски #Хриски
#ЭволюцияЧеловека #БудущееHomo #AGI #ИИриски #Хриски
разум
эволюциячеловека
будущееhomo
agi
иириски
