Дом музей Эйнштейна в Берне

Стоит ли ждать Терминатора?

Развитие человечества невозможно без прогресса науки и технологии. Во многих странах Европы, Америки и Азии уже начат переход к «четвертой промышленной революции», основанной на цифровых технологиях.

Но в мире имеются и те, кто опасается такого быстрого технологического прогресса и, прежде всего, в области создания искусственного интеллекта (ИИ). Пока никто не может определенно сказать, что произойдет, когда машина по своему интеллекту станет превосходить человеческий интеллект, сможет сама принимать решения, самосовершенствоваться. Неслучайно возникла такая дисциплина как «роботоэтика» – искусство общения человека и машин. Но захотят ли интеллектуальные машины в будущем подчиняться тем законам, которые для них выработает человек? Не произойдет ли «восстания машин» и не придет ли компьютерный сверхчеловек в лице некоего Терминатора? Как полагает американский футуролог Рей Курцвейл (Ray Kurzweil), искусственный интеллект превзойдет интеллект человеческий к 2045 году. Другие «пророки» предрекают, что наступление этого момента произойдет значительно быстрее, например в 2030 году.

Такие глобальные проблемы и вызовы, которые порождает технологическая революция, беспокоят и серьезных исследователей. В частности, этим занимается американский Университет Сингулярности, открывший в прошлом году свое подразделение в Женеве (Швейцария), сообщает швейцарская газета Le Temps. Когда интеллектуальные машины научатся совершенствовать сами себя, без человека, тогда и наступит, как говорят ученые, эта «сингулярность». После наступления этой «точки невозврата», развитие мира предсказать не берется никто. Стоит ли этого опасаться? Но, может быть, пора заняться совершенствованием самого человека и его интеллекта?

Илон Маск назвал главную угрозу для человечества

Ученые с мировым именем, в том числе Альберт Эйнштейн, в свое время предупреждали человечество о глобальной опасности, которую представляет атомное оружие. Сегодня речь идет о возможности новой угрозы.

Известный американо-канадский исследователь и предприниматель Илон Маск (Elon Musk), создатель и генеральный директор компаний SpaceX и Tesla, считает искусственный интеллект самым большим риском для существования человеческой цивилизации. Мировые СМИ распространили информацию о его обращении в ООН, в котором он призывает отказаться от боевых роботов-убийц. Под обращением поставили свои подписи 116 исследователей и предпринимателей из 26 стран мира. Этот миллиардер «новой волны», сделавший свое состояние на новейших технологиях, предупреждает, что «роботы могут начать войну». Речь идет не только о роботах-убийцах, но и о тех, кто может внедряться в интернет, социальные сети, электронную почту, распространять фейковые новости и манипулировать электронными сообщениями и базами данных.

Искусственный интеллект «может восстать» против человека, считает Маск, и на планете может реально создаться ситуация, показанная в известном фильме «Матрица», в котором виртуальный мир победил мир реальный. Причем ИИ, по мнению Маска, может развязать войну с такой быстротой, на которую человек (политики, принимающие решения) просто не успеет среагировать. Также ИИ и роботы-убийцы могут попасть в руки международных террористов, и это будет иметь непредсказуемые последствия. «Когда этот ящик Пандоры будет открыт, закрыть его будет очень трудно», – считает Илон Маск. Поэтому, как говорится в обращении Маска, мировое сообщество должно в срочном порядке разработать международные правила развития ИИ и запретить создание роботов-убийц и других «автономных систем вооружения».

Тем не менее, Маск не выступает против «цифровой революции». Возможности компьютеров уже в миллионы раз превышают способности человека (по быстродействию). Но люди не должны терять своего приоритета в отношениях человек-машина.

Швейцарские исследователи опасаются боевых роботов

Некоторые швейцарские исследователи в области искусственного интеллекта солидарны с Илоном Маском относительно угроз, которые может представлять ИИ, внедренный в современные вооружения. Как сообщают швейцарские газеты, среди 116 ученых и предпринимателей, подписавших воззвание Маска об опасностях безрассудного совершенствования ИИ, семеро являются швейцарцами. Среди них, в частности, Юрген Шмидхубер (Juergen Schmidhuber), известный исследователь ИИ из Лугано. Он, например, признался газете Blick am Abend, что даже разработанная им для мобильных телефонов программа (LSTM) обучения языкам может использоваться в военных целях. Шмидхубер настроен пессимистично в этом отношении и считает, что подписанное им обращение в ООН не остановит развитие автономных вооружений с ИИ.

Ученые и бизнесмены, обратившиеся в ООН, которые сами тем не менее и развивали искусственный интеллект, сделали правильный моральный выбор. Так, Альберт Эйнштейн, посвятивший последние годы своей жизни борьбе против атомного оружия, ранее сам являлся косвенным участником атомного проекта США и даже в определенной мере инициировал его начало, написав известное письмо президенту Рузвельту в 1939 году. Это письмо можно увидеть в музее Эйнштейна в Берне. Там же в музее звучит и его пламенная речь против атомной бомбы.

К сожалению, пессимистическое мнение швейцарского исследователя Шмидхубера о судьбе обращения Маска в ООН отражает реальность. Остановить развитие технологического прогресса нельзя, и он всегда затрагивает сферу войны. Но для того и существуют международные институты и соглашения, чтобы ограничивать распространение опасных для всего человечества технологий.

 

Алла Хромова, кандидат экономических наук

представитель «Регионов России» в Швейцарии,

директор швейцарской компании «Эдельвейс МедСервис»

Берн, 29 августа 2017