Интеллект в законе. К чему приведет закон ЕС о синтезе природного и рукотворного разумов

Европейский Союз принял первый в мире комплексный закон по регулированию разработок и использования искусственного интеллекта (ИИ).

Суть нового закона довольна проста:

• В ближайшей перспективе он должен защитить человека от манипулирования со стороны ИИ. В частности, закон запрещает использование технологий ИИ полицией, работодателями или торговыми заведениями для слежки за людьми в реальном времени, включая эмоциональное распознавание. Единственное исключение сделано для полиции в случае экстренных ситуаций, а также для расследования особо тяжких преступлений.
• В дальнейшем, по мере совершенствования ИИ, он должен обеспечить конструктивное взаимодействие искусственного и человеческого интеллектов, вплоть до гармоничного синтеза, при максимальном избегании их соперничества.
• Кроме того, закон устанавливает минимальные параметры устойчивости ИИ в сложных ситуациях при его применении на транспорте, в медицине и в опасных производствах. Он также конкретизирует стандарты рисков, связывая их с количеством компьютерных операций, необходимых для обучения ИИ.

При всей очевидности этих задач в целом, разработка такого закона, происходившая на стыке юриспруденции, психологии, технологий IT в широком смысле, и ИИ в частности, а также сфер деятельности, где эти технологии применяются, была сопряжена с огромными трудностями. В этом плане закон действительно новаторский и прорывный. Он должен был охватить чрезвычайно широкий спектр человеческой деятельности: от производства технологий ИИ до соцсетей, систем слежения, работы кадровых агентств и систем регулирования движения. Закон также учитывает опыт применения ИИ в тоталитарном Китае, рассматривая его как сугубо отрицательный пример, который не должен воспроизводиться в демократических странах.

Между тем, использование технологий ИИ для ограничения гражданских свобод, вплоть до полного закабаления людей, становится в тоталитарных странах всё более изощренным. Это создаёт отдельный набор проблем, поскольку тоталитарный и либеральный миры соприкасаются и взаимодействуют через Всемирную сеть. Как следствие, тоталитарные технологии подчинения человека и манипулирования им с помощью ИИ неизбежно будут попадать в свободный оборот, использоваться тоталитарными режимами для агрессии в виртуальном пространстве, а также сознательно передаваться в распоряжение преступных и террористических организаций, используемых для дестабилизации либеральных демократий. Эта проблема, по словам разработчиков закона, уже сейчас стала во весь рост, а ущерб причиняемый тоталитарными странами, действующими через киберпреступные группировки, измеряется десятками миллиардов долларов. Широкое использование ИИ обещает значительное усугубление этих проблем.

Надо признать, что именно в части защиты от попыток криминального использования ИИ, новый закон выглядит, как минимум, недостаточно проработанным. Впрочем, дело тут, вероятно, в слабой проработке самой проблематики борьбы с киберпреступлениями и отставании разработки инструментов для их выявления и противодействия им от реальных потребностей в них. Создание таких инструментов, использующих технологии ИИ, а также разработка стратегий их применения, уже в ближайшие годы станет, по-видимому, одной из важнейших сфер деятельности разработчиков.

Общая идеология закона исходит из того, что, с учетом сравнительной способности к многофакторному анализу, которой обладают ИИ, становящиеся всё более мощными, и обычный человек, последний оказывается в крайне уязвимом положении. Независимо от силы своего интеллекта и других личных качеств, любой человек беззащитен перед манипуляций со стороны человека, или группы людей, использующих ИИ для достижения своих целей. Очевидно и то, что сами по себе запреты являются лишь частичным решением вопроса. Настоящим его решением может стать только превращение ИИ в общедоступную технологию, повсеместно используемую всеми людьми. Иными словами, взаимодействие с ИИ, в том числе через прямые интерфейсы мозг-ИИ, в обозримом будущем станет таким же рутинным процессом, каким на наших глазах стало использование смартфонов. В этом также нет ничего необычного – такова судьба любых инноваций, вызывающих очередную НТР. Массовое использование ИИ как раз и станет новой НТР, многократно увеличивающей возможности человеческого интеллекта.

Но всякое увеличение возможностей человека, начиная от замены каменного орудия — бронзовым, и до широкого применения ИИ в быту, может быть использовано как во благо, так и для совершения противоправных действий. В частности, разработчики закона отмечают, что одной из самых горячих угроз, связанных с ИИ, в сочетании с возможностями современных биотехнологий, может стать легкость в создании новых патогенов. "Вы можете вырастить своего собственного маленького монстра у себя на кухне", — сказал по этому поводу один из разработчиков закона. Впрочем, это означает и упрощение создания защиты от таких угроз.

Иными словами, мир на наших глазах в очередной раз усложняется, обретая ещё одно измерение. Это не сулит каких-либо неизбежных катастроф, но лишь при том условии, что новые технологии не выйдут из-под контроля, и разработка механизмов их регулирования будет успевать за их развитием.