ИИ уничтожит мир за 2 дня? Михаил Самин

Курс “Цифровой креатор”: https://academy.mustreader.com/creatorcourse2023

Сколько человечеству осталось жить перед победой ИИ? Нам всем конец? Правда ли, что на полное уничтожение планеты искусственному интеллекту понадобится всего 40 часов?

Предметно обсуждаем каждый вопрос с экспертом в сфере ИИ Михаилом Саминым. Михаил делал сайты, обходящие блокировки Роскмонадзора, разработал успешное приложение AudD и пожертвовал около 100 000 $ в фонды по безопасности ИИ. 

Внутри выпуска — самые свежие прогнозы, аргументы, а также наглядное объяснение всех фактов с помощью графиков и примеров. А в закрепленном комментарии — конкурс, где можно выиграть «Гарри Поттера и Методы Рационального Мышления»!

Coherent Extrapolated Volition: https://intelligence.org/files/CEV.pdf   

Позитивные и негативные прогнозы: https://wiki.aiimpacts.org/lib/exe/fetch.php?media=ai_timelines:predictions_of_human-level_ai_timelines:ai_timeline_surveys:hlmivalue2022final4.png  

Подробнее про AI alignment: https://www.alignmentforum.org/posts/AHhCrJ2KpTjsCSwbt/inner-alignment-explain-like-i-m-12-edition  

A Mechanistic Interpretability Analysis of Grokking: https://www.lesswrong.com/posts/N6WM6hs7RQMKDhYjB/a-mechanistic-interpretability-analysis-of-grokking  

Курс AGI Safety Fundamentals https://www.agisafetyfundamentals.com/ai-alignment-curriculum#:~:text=The%20AGI%20Safety%20Fundamentals%3A%20Alignment,was%20last%20updated%20February%202022 

Мой ролик про ИИ: https://youtu.be/8DW3i42irEs  

Партия в шахматы с ChatGPT: https://youtu.be/vbwuqFJZl8Y 

00:00 — Интро

1:34 — Elevator pitch о вложениях в ИИ

9:30 — Мы не можем заложить цели в ИИ? 

20:26 — Почему у ИИ нет целей

22:45 — ИИ сам придумывает себе цели? 

29:09 — Прогнозы

34:52 — Аргументы против 

43:44 — Основная проблема ИИ

54:30 — Как заниматься ИИ в РФ

Мой телеграм-канал: https://t.me/mustreads      

Поддержать проект: https://boosty.to/mustreader   

Это канал о чтении, рациональном мышлении, трендах развития общества и искусстве. Здесь выходят два видеоподкаста:

(1) "Книжный чел" — шоу о литературе и любимых книгах интересных людей (по четвергам раз в 2 недели) 

(2) "Терминальное чтиво" — подкаст, в котором мы обсуждаем с гостями исследования, инсайты и тренды, а потом фристайлим (по понедельникам раз в неделю).

Ещё здесь выходят два сольных шоу:

(3) "Мастриды" — моё шоу о рациональности, продуктивности, трендах и лучших книгах

(4) "ПереФарс" — шоу Александра Фарсайта о культуре и искусстве.

Меня зовут Гриша Мастридер, я популяризатор чтения и рационального мышления. Подкаст "Терминальное чтиво" со мной делает театральный режиссёр Александр Фарсайт, он же ведёт "ПереФарс". Остальные шоу на канале веду я сам.

По всем вопросам: mazdrid@gmail.com

 #искусственныйинтеллект #нейросети #юдковскиий