Чем выше оценка OpenAI, тем ниже градус апокалипсиса
Эволюция страхов Сэма Альтмана
Сэм Альтман 10 лет назад так
сказал на конференции Airbnb Open Air 2015 в интервью Майку Кёртису:
сказал на конференции Airbnb Open Air 2015 в интервью Майку Кёртису:
«ИИ, скорее всего, приведёт к концу света, но до тех пор появятся отличные
компании».
компании».
И потом добавил,
что:
что:
«Если бы я был Бараком Обамой (тогдашним президентом США), то выделил бы
около 100 миллиардов долларов на исследования безопасности ИИ».
около 100 миллиардов долларов на исследования безопасности ИИ».
Но ни Обама, ни сменившие
его Трамп, Байден и снова Трамп не сделали ничего подобного.
его Трамп, Байден и снова Трамп не сделали ничего подобного.
Да и сам Альтман
сосредоточился вовсе не на безопасности ИИ, а на второй части своего прогноза -
создании «отличной компании».
сосредоточился вовсе не на безопасности ИИ, а на второй части своего прогноза -
создании «отличной компании».
Что и было
сделано, - достаточно посмотреть на кривую роста оценки стоимости OpenAI за прошедшие 10 лет.
сделано, - достаточно посмотреть на кривую роста оценки стоимости OpenAI за прошедшие 10 лет.
Но вот ведь что
интересно – как за те же годы менялась риторика Альтмана о том, что его беспокоит
при разработке все более мощных ИИ:
интересно – как за те же годы менялась риторика Альтмана о том, что его беспокоит
при разработке все более мощных ИИ:
·
от «Разработка
сверхчеловеческого машинного интеллекта, вероятно, является величайшей угрозой
для дальнейшего существования человечества» в 2015
от «Разработка
сверхчеловеческого машинного интеллекта, вероятно, является величайшей угрозой
для дальнейшего существования человечества» в 2015
·
до «Больше
всего я всегда беспокоюсь о неизвестных неизвестных [...] это глупый пример, но
он недавно поразил меня: у больших языковых моделей есть определённый стиль.
Они говорят в определённом ритме, у них немного необычная дикция, и они
злоупотребляют длинными тире. И я недавно заметил, что реальные люди это
переняли» в 2025
до «Больше
всего я всегда беспокоюсь о неизвестных неизвестных [...] это глупый пример, но
он недавно поразил меня: у больших языковых моделей есть определённый стиль.
Они говорят в определённом ритме, у них немного необычная дикция, и они
злоупотребляют длинными тире. И я недавно заметил, что реальные люди это
переняли» в 2025
Ссылки на
источники высказываний см. под графиком в твите Харлана
Стюарта
источники высказываний см. под графиком в твите Харлана
Стюарта
#AGI #ИИриски
#Хриски
#Хриски
agi
иириски
хриски
