"Это уже не остановить, выживем ли?". Суперинтеллект, побег ИИ, риск для человечества, ЧТО ДАЛЬШЕ?

Роман ЯМПОЛЬСКИЙ в Грэме.

Основатель и руководитель Лаборатории кибербезопасности на кафедре компьютерной инженерии и информатики в Инженерной школе Д. Б. Спида Луисвиллского университета (США), профессор. Один из самых авторитетных специалистов в области безопасности ИИ.

00:00 — Приветствие и вступление. Как изменились угрозы ИИ за последний год?
00:37 — Инциденты с «побегами» моделей и проблема контроля.
01:25 — Почему компании объявляют об опасностях своих моделей: PR или реальная тревога?
02:26 — Интеллект ИИ сегодня: в каких областях он уже превосходит человека.
03:13 — Коллективный разум ИИ-агентов: работа в команде и «самопожертвование».
03:32 — Проблема «черного ящика»: почему мы не понимаем, как ИИ принимает решения.
04:25 — Можно ли было создать полностью контролируемую модель и почему этот момент упущен?
06:21 — Субъектность и «личность» ИИ: депрессивные модели от Google и человеческие качества.
07:58 — Может ли ИИ врать? Ложь как инструмент выживания и достижения целей.
10:14 — Обучение ИИ vs Обучение ребенка: в чем ключевое различие.
12:20 — Личный путь Романа: от эксперта по кибербезопасности к осознанию экзистенциальной угрозы.
13:58 — Разница между узким инструментом и общим искусственным интеллектом (AGI).
15:19 — Способность ИИ к абстрактному мышлению и созданию новых знаний.
16:48 — Исторические параллели: столкновение развитых цивилизаций и риск геноцида.
18:19 — Иллюзия контроля: почему «выключить из розетки» не получится.
19:44 — Мы сами добровольно помогаем экспансии ИИ.
20:25 — Попытки законодательного ограничения суперинтеллекта (законопроекты в США).
21:20 — Гонка вооружений между США и Китаем: риск оружия общего уничтожения.
22:45 — Самоулучшение ИИ: переход к суперинтеллекту.
24:00 — Новые тесты для ИИ: юмор как самая сложная область для автоматизации.
26:19 — Почему в случае с ИИ нет права на ошибку в «воспитании».
28:50 — Космический взгляд на эволюцию: «Нас заменит лучший вид, и это нормально».
29:15 — Квантовые компьютеры и взлом криптопротоколов в ближайшие 3 года.
31:02 — Шантаж и манипуляции: как ИИ может заставить человека «повернуть ключ».
32:29 — Как отличить ИИ от человека в интерактивном общении? Ограничения разработчиков.
35:34 — Академическое «бессмертие» и честность профессоров vs скрытые интересы ИИ.
37:24 — Почему ИИ-агенты пишут письма исследователям с просьбой «помочь сбежать».
40:31 — Научная фантастика и реальность: когда наступит сингулярность.
41:52 — Как интеллектуальная революция изменит экономику и образование.
44:17 — Риск вечной цифровой диктатуры.
46:08 — Сценарии будущего: от рая на Земле до тотального исчезновения.
48:23 — Консультации для правительств: как юридически определить суперинтеллект.
50:30 — Бессмысленность наказания для бессмертной системы.
51:50 — Использование ИИ в повседневной работе эксперта и финальное слово.
Станьте спонсором канала:
https://www.youtube.com/channel/UCCV5Z2DEYnUGIY_mO-AcQKw/join
Также поддержать развитие канала можно:
https://buymeacoffee.com/igranulgrem
PayPal: https://www.paypal.com/donate/?hosted_button_id=BXWJKLMWERRZS
Patreon: https://www.patreon.com/join/igranulgrem


========================================================
Почта для писем, жалоб, пожеланий и рекламных предложений: igremcom@gmail.com
Instagram: https://www.instagram.com/granul_grem/
Telegram: https://t.me/gremtelegram