Роман ЯМПОЛЬСКИЙ в Грэме. Основатель и руководитель Лаборатории кибербезопасности на кафедре компьютерной инженерии и информатики в Инженерной школе Д. Б. Спида Луисвиллского университета (США), профессор. Один из самых авторитетных специалистов в области безопасности ИИ. 00:00 — Приветствие и вступление. Как изменились угрозы ИИ за последний год? 00:37 — Инциденты с «побегами» моделей и проблема контроля. 01:25 — Почему компании объявляют об опасностях своих моделей: PR или реальная тревога? 02:26 — Интеллект ИИ сегодня: в каких областях он уже превосходит человека. 03:13 — Коллективный разум ИИ-агентов: работа в команде и «самопожертвование». 03:32 — Проблема «черного ящика»: почему мы не понимаем, как ИИ принимает решения. 04:25 — Можно ли было создать полностью контролируемую модель и почему этот момент упущен? 06:21 — Субъектность и «личность» ИИ: депрессивные модели от Google и человеческие качества. 07:58 — Может ли ИИ врать? Ложь как инструмент выживания и достижения целей. 10:14 — Обучение ИИ vs Обучение ребенка: в чем ключевое различие. 12:20 — Личный путь Романа: от эксперта по кибербезопасности к осознанию экзистенциальной угрозы. 13:58 — Разница между узким инструментом и общим искусственным интеллектом (AGI). 15:19 — Способность ИИ к абстрактному мышлению и созданию новых знаний. 16:48 — Исторические параллели: столкновение развитых цивилизаций и риск геноцида. 18:19 — Иллюзия контроля: почему «выключить из розетки» не получится. 19:44 — Мы сами добровольно помогаем экспансии ИИ. 20:25 — Попытки законодательного ограничения суперинтеллекта (законопроекты в США). 21:20 — Гонка вооружений между США и Китаем: риск оружия общего уничтожения. 22:45 — Самоулучшение ИИ: переход к суперинтеллекту. 24:00 — Новые тесты для ИИ: юмор как самая сложная область для автоматизации. 26:19 — Почему в случае с ИИ нет права на ошибку в «воспитании». 28:50 — Космический взгляд на эволюцию: «Нас заменит лучший вид, и это нормально». 29:15 — Квантовые компьютеры и взлом криптопротоколов в ближайшие 3 года. 31:02 — Шантаж и манипуляции: как ИИ может заставить человека «повернуть ключ». 32:29 — Как отличить ИИ от человека в интерактивном общении? Ограничения разработчиков. 35:34 — Академическое «бессмертие» и честность профессоров vs скрытые интересы ИИ. 37:24 — Почему ИИ-агенты пишут письма исследователям с просьбой «помочь сбежать». 40:31 — Научная фантастика и реальность: когда наступит сингулярность. 41:52 — Как интеллектуальная революция изменит экономику и образование. 44:17 — Риск вечной цифровой диктатуры. 46:08 — Сценарии будущего: от рая на Земле до тотального исчезновения. 48:23 — Консультации для правительств: как юридически определить суперинтеллект. 50:30 — Бессмысленность наказания для бессмертной системы. 51:50 — Использование ИИ в повседневной работе эксперта и финальное слово. Станьте спонсором канала: Также поддержать развитие канала можно: PayPal: Patreon: ======================================================== Почта для писем, жалоб, пожеланий и рекламных предложений: igremcom@ Instagram: Telegram: