Отменить восстание машин. Чего боятся Маск и Хокинг
Основатель таких гигантов, как SpaceX и Tesla, Илон Маск на встрече Национальной ассоциации губернаторов США снова поднял вопрос гонки создания искусственного интеллекта. Бизнесмен, который своей стезей избрал технологии и все, что с ними связано, входит в число людей, верящих в угрозу ИИ для человечества. Даже больше, Маск, чьи Falcon 9 уже садятся на морские платформы, считает его "самым большом риском, с которым мы сталкиваемся как цивилизация".
Он призывает всерьез заняться упредительными, защитными мерами. Иначе будет поздно. По словам предпринимателя, очень вероятно, что пока все не увидят, как роботы идут по улице, убивая людей, никто даже шевелиться не будет. Но не оставляет надежды и который год пытается достучаться и до научного сообщества, и до правительств, и до общества. И он не является волком-одиночкой в этом вопросе.
Казалось бы, Маск - представитель той горстки мечтателей, которые ускоряют прогресс на Земле, молится на колонизацию Марса и потчует человечество сногсшибательными инновациями наряду с Google, Apple и др. Не лицемерие ли так бояться ИИ? Отнюдь. Как раз именно потому, что основатель SpaceX говорит об этом как персона, принадлежащая к "кругу посвященных", следует принять его мнение во внимание. Маск - не паникер, не религиозный фанатик, а человек с рациональным складом ума и широкими взглядами. Как и британский физик-теоретик Стивен Хокинг, как и сооснователь Apple Стив Возняк, и многие другие светлые умы планеты.
Было бы глупо отрицать, что постиндустриальная эпоха (по крайней мере в странах Запада) уже подошла к концу, сменившись цифровой и подготовившись к трансгуманизму. Также нет смысла опровергать вклад мечтателей и предсказателей, в число которых входят и писатели-футурологи, и Маск, и многие ученые. К слову, о последней категории. Одним из наиболее известных "нострадамусов" является выходец из Квинса Реймонд Курцвейл, который сейчас является техдиректором программ искусственного интеллекта Google. Он дал определение технической сингулярности - невероятно быстрому развитию науки и техники на базе мощного ИИ. И за свою жизнь озвучил немало предсказаний, которые сбываются. Причем продолжает составлять "план будущего".
Так, он говорил, что уже в 2019 г. человек будет взаимодействовать с компьютерами не с помощью клавиатуры, а с помощью речи и жестов. И это со временем сотрет различия между человеком и компьютером. Очевидно, что его прогноз уже сбывается. И такое "общение" является заделом к дальнейшей интеграции ИИ в жизнь человека на гораздо более высоких уровнях. Опять же Курцвейл в 2005-м выразил мнение, что уже в 2099 г. человечество изучит мозг вдоль и поперек и процесс мышления человека и машины не будет иметь отличий. Соответственно, это приведет к равным правам ИИ и людей. Дальше - больше: ученый верит, что систем искусственного интеллекта станет больше, чем собственно людей на планете, а мы начнем общаться с ними по, так сказать, внутреннему каналу - посредством имплантатов в мозгу. Однако Курцвейл также считает, что ИИ будет уважать прародителей, несмотря на все недостатки.
Но до этого времени еще много воды утечет. Это раз. Два - риски в процессе становления. Переходной период между различными состояниями, как правило, без должного регулирования и контроля нестабилен. И сегодня очень многие в научном мире не разделяют обеспокоенности тех же Маска и Хокинга. Они считают, что основатель Tesla якобы слишком увлекается научной фантастикой. То есть большинство зацикливается на SiFi-составляющей вопроса, на банальном восстании машин. Однако британский физик-теоретик или "отец" Tesla акцентируют в первую очередь внимание, например, на более приземленных вещах - доступности вооружений, базирующихся на ИИ.
Их тревоги разделяют и в ООН. В докладе 2016 г. по результатам встречи в Женеве 2015 г. говорится об опасности использования террористами современных технологий, а точнее, автономных летальных вооружений. Эксперты указывали на боевых дронов, без которых уже трудно представить современные конфликты. И они справедливо полагают, что террористы не будут придерживаться правил, впрочем, как и некоторые страны. А это свидетельствует в пользу жесткого контроля над такими системами со стороны человека. В ООН также указали, что разработкой автономного оружия сегодня активно занимаются США, Китай, Израиль, Южная Корея, Россия и Великобритания.
В 2015 г. больше тысячи ученых в сфере робототехники и технологий предупреждали в письме, что такое оружие будет широко использоваться в ближайшие несколько лет, а не десятилетий. Исследователи констатировали новую гонку вооружений, которая может превратить автономное оружие в автомат Калашникова. Одним из них был, к примеру, Стив Возняк. Однако он также считает, что сам по себе ИИ как отдельное существо или что-то вроде того не представляет угрозы. Иными словами, один из создателей Apple, опираясь на закон Мура, не верит в создание ИИ, способного мыслить как человек. Но это вопрос развития искусственного интеллекта в будущем.
А на первых порах опасность таится не сколько в собственных потенциальных возможностях ИИ, но в уязвимости таких систем к действиям второй стороны и использованию их в тех или иных целях. Вмешательство россиян в президентские выборы США и волна последующих кибератак явственно показали новый уровень ведения войн различных уровней и направлений. То есть это не только гибридная война Кремля, но и промышленный и экономический шпионаж, например. Фактически защитные механизмы не поспевают за всеобщим цифровым прогрессом.
"Роботы могут начать войну, выпуская фейковые новости и пресс-релизы, подделывая учетные записи электронной почты и манипулируя информацией. Перо сильнее меча", - резонно заметил Маск, призвав присутствующих поверить ему, ведь бизнесмен имеет доступ к самому передовому искусственному интеллекту. "ИИ - тот редкий случай, когда нам необходимо быть активным в вопросах регулирования", подчеркнул он.
По сути ИИ - медаль, имеющая две оборотные стороны, должна иметь широкое ребро, чтобы в случае необходимости сохранить баланс для внесения определенных корректировок. Именно к этому призывает Маск. Да и Хокинг тоже постоянно об этом твердит. В частности, в интервью The Times, физик говорил о необходимости государственного контроля над технологиями, чтобы предотвратить уничтожение человеческой расы. "С зарождения цивилизации агрессия была полезной, поскольку она имеет определенные преимущества для выживания", - отметил он, подчеркнув, что ныне эта агрессия может привести к ядерной или биологической войне. И потому, по его мнению, нужно создать "некоторую форму мирового правительства". Хокинг допускает, что такое правительство может превратиться в тиранию, но и верит, что человек с вызовом справится. А вот с ИИ, который будет руководствоваться более прямолинейными жизненными правилами, разобраться будет сложнее.
Итак. Сегодня сторонники контроля ИИ говорят не об остановке прогресса, а призывают притормозить, чтобы создать защиту - своеобразные четыре закона робототехники Айзека Азимова (их не три: в конце жизни писатель создал еще один, более глобальный). Во-вторых, речь идет также не о воплощении в жизнь сценария популярной серии фильмов "Терминатор", а о том, как один человек может обратить ИИ против другого, а также о том, чтобы нивелировать всевозможные ошибки. Без этого, кто знает, может на самом деле футурологический пессимизм вроде романа Роберта Хайнлайна "Луна - суровая хозяйка" станет объективной реальностью лет через 50-100.
