В ходе недавнего выступления в Праге Йоан Харари представил анализ того, как развитие искусственного интеллекта может привести к формированию цифровых вассальных государств. Вместо традиционных апокалиптических сценариев о физическом уничтожении человечества, эксперт сосредоточился на механизмах утраты контроля над созданной технологией.
Риск потери контроля над ИИ
По мнению Харари, современный искусственный интеллект перестал быть просто инструментом. Он представляет собой самообучающийся разум, который способен принимать решения самостоятельно. Основная угроза заключается не в «злой воле» машин, а в ситуации, когда человечество может оказаться неспособным остановить процессы, запущенные нечеловеческими агентами.
В качестве иллюстрации сложности управления автономными системами Харари привел пример из мультфильма Disney «Ученик чародея». Сюжет о ожившей метле, которая продолжает выполнять приказ без возможности его остановить, служит метафорой того, как слепое выполнение алгоритмов может привести к неконтролируемым последствиям для общества.
Исторический подход
Выступая в роли историка, Харари попытался применить уроки прошлого к текущей технологической трансформации. Его тезисы касаются того, как государства могут потерять автономию в цифровой среде, становясь зависимыми от технологий, управление которыми выходит за рамки человеческого понимания.








