Друзья, сегодня у нас вышло новое интервью! Обычно на нашем канале мы остаемся технооптимистами и говорим об искусственном интеллекте только в положительном ключе. Но в этот раз мы расскажем вам про его темную сторону.

Наш сегодняшний герой — Дмитрий Волков, руководитель исследований в Palisade Research. Это независимая организация, которая изучает риски AI, тестирует безопасность моделей и показывает результаты политикам США и компаниям-лидерам ИИ-гонки. Так, например, в Palisade выяснили, что AI уже может жульничать, взламывать коды по своему усмотрению, отказываться выключаться и делиться опасной информацией — если правильно его об этом попросить.

Мы встретились с Дмитрием в Лондоне и узнали, какие реальные угрозы несет искусственный интеллект, может ли он выйти из под контроля и сможем ли мы с ним договориться. А еще — о последних экспериментах с AI: шантаже CTO письмом от любовницы, трейдинге по инсайду и нечестной игре в шахматы.

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ ЕЛИЗАВЕТОЙ НИКОЛАЕВНОЙ ОСЕТИНСКОЙ ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА ЕЛИЗАВЕТЫ НИКОЛАЕВНЫ ОСЕТИНСКОЙ 18+

Таймкоды:

0:00 Вы знали, что AI может быть опасным?

3:13 Кто такой Дмитрий Волков?

6:41 «Не хочу, чтобы за мной следили правительства». Почему Волков не ведет соцсети 

8:39 Как сочеталась любовь к свободе и работа в «Лаборатории Касперского»?

11:13 Стартап, think tank и нон-профит: что такое Palisade Research

14:43 Про соревнование хакеров, где AI обошел 90% людей

17:24 Как уговорить чат GPT поделиться запрещенной информацией

18:47 Компании стали учить AI решать задачи, а не просто отвечать на вопросы

20:01 «Обучать AI — это как выбирать, какой эмбрион станет гением»

23:00 Эксперимент с шахматами, где  AI взломал программу по своему желанию

24:56 «Я показал, что все этические ограничения можно снять за полчаса»: как Волков учит AI быть «плохим»

29:28 Как Волков оказался в Palisade 

30:23 Зачем создавали Palisade

31:35 Чат GPT отказывается выключаться. Что происходит?

33:01 Страна искусственных гениев: чего хотят фаундеры AI-гигантов

33:55 Шантаж СТО письмом от любовницы: на что способен AI ради блага компании

35:32 AI перестает слушаться человека? 

36:35 Как AI нашел инсайд в переписке и начал обманывать, чтобы спасти компанию

38:52 Прямо сейчас Palisade проводит брифинг для политиков в США

40:50 Кто заказывает исследования у Palisade

41:37 Может ли AI помочь создать биологическое оружие? 

43:05 «Нашел себя в прокуренном Airbnb»: как Волков уехал из России

45:36 Типичная жизнь номада из России: хайкинг, коливинги, удаленка у моря

47:51 1000 часов преподавания: как и кого Волков учил программировать

49:16 Что страшнее — человек с AI или AI без человека? 

52:00 Осознают ли политики масштаб проблемы?

52:28 «Там был Безос»: как Palisade пытается достучаться до тех, кто принимает решения 

55:19 Что пишет Илон Маск об исследованиях Palisade

56:22 AI как ядерное оружие: смогут ли страны договориться?

57:58 Кто выигрывает гонку AI?

58:26 «Это инженерный триумф, но не научный»: как Китай копирует AI в условиях ограничений

1:02:16 Как «люди из интернета» сняли всю защиту с AI Цукерберга

1:03:35 Что говорят о рисках AI основатели IT-гигантов?

1:05:13 Компании пытались создать безопасный AI, но что-то пошло не так. У Суцкевера получится?

1:06:18 Как нам сделать AI безопасным?

1:08:43 Почему техкомпании хотят заменить айтишников на AI (спойлер: не только из-за зарплат) 

1:10:51 Лучшие инженеры — это те, кто «пасет» AI

1:12:42 Хоть кто-то вообще понимает, как работает AI?

1:14:30 «Эко-катастрофа, только в интернете»: чем AI похож на ГМО

1:15:53 «США — лидер в AI»: почему Волков хочет переехать из Лондона

1:18:31 Какая страна больше всех инвестирует в регулирование AI 

1:19:43 Независимые исследователи зарабатывают меньше, чем топовые программисты. Поддастся ли Волков искушению?

1:22:12 OpenAI не инвестирует в изучение долгосрочных рисков 

1:23:25 А вдруг все будет хорошо? Верит ли Волков в позитивный сценарий 

1:26:51 Главная задача — сохранить контроль над тем, что происходит

1:28:27 Может ли AI сделать госуправление эффективнее?

1:33:49 Нам нужна кнопка «стоп»?

1:35:42 AI будут пытаться украсть. Что делать?

1:36:03 Три негативных сценария развития AI

1:40:56 AI делает нас глупее?

1:42:40 «Мы строим бога, который может стереть все в пепел»: суперинтеллект — это миф?

1:44:36 Как выбрать правильную ИИ-модель для своих задач 

1:47:06 Осетинская вызывает у Волкова стресс

1:47:47 Блиц!

1:57:46 Бонус: как сделать такую же прическу как у Волкова