Учиться, учиться и учиться. Зачем Google нейронные сети-малыши

Несколько столетий, со времен первой промышленной революции, на Земле стремительно росло производство и потребление энергии. В последние десятилетия этот рост замедляется, к радости экологов. Но человечество не остановилось в технологическом развитии, а "переключилось" на рост производства и потребления информационной продукции — от цифровых кинофильмов и телепередач до всевозможных онлайн-ресурсов, включая научные и статистические базы данных.

У этого роста, обеспечиваемого миниатюризацией элементов микросхем, тоже уже нащупывается предел. Чтобы преодолеть его, нужны совершенно новые технологии типа квантовых компьютеров. Но пока физики работают над их созданием, человечество, похоже, уже "переключается" на новое направление роста — под названием искусственный интеллект.

Даже если энергетика, компьютеры, интернет вообще прекратят рост и успокоятся на достигнутом, ИИ-технологии будут свободно развиваться, причем взрывными темпами. Секрет этого — в машинном обучении. Нет, машины не научатся любить, ненавидеть, сочувствовать и раскаиваться, как люди. Однако они учатся друг у друга делать выводы из информации — той самой, которую мы производим во все более грандиозных объемах, но не умеем толком переваривать и усваивать.

Пока что этот взрывной рост не очень заметен для нас, ибо машины еще слишком глупы. В основном они только подбираются к тому, что умеем мы. Но уже сейчас в некоторых сферах они начинают нас обгонять. За примерами далеко ходить не надо — достаточно взглянуть на всем хорошо знакомый Google.

AutoML будет доступна каждому

Компания Google объявила об очередном большом шаге в разработке искусственного интеллекта, рассказав о новом подходе к машинному обучению, с помощью которого нейронные сети можно будет использовать для создания еще более эффективных нейронных сетей. По сути, речь идет об обучении машины создавать себе подобных.

Искусственные нейронные сети разрабатываются с учетом имитации процесса обучения мозга, и, согласно Google, ее новая технология, получившая название AutoML, способна сделать эти сети еще мощнее, эффективнее и проще в использовании.

Генеральный директор Google Сундар Пичаи показал пример работы AutoML, выступая на конференции Google I/O 2017 — ежегодном мероприятии для разработчиков программного и аппаратного обеспечения, где обычно компания представляет свои новые продукты.

"Работает это так: мы берем набор кандидатов в нейронные сети, — назовем их нейронными сетями-малышами, — и многократно прогоняем через них на предмет поиска ошибок уже готовую нейронную сеть до тех пор, пока не получим еще более эффективную нейронную сеть", — сказал Пичаи.

Этот процесс называется стимулированным обучением: если изменение свободных параметров сети улучшает ее результаты (повышает ее способность находить ошибки), это изменение закрепляется, после чего начинается поиск еще более удачных вариантов. По тому же принципу, например, обучают новым трюкам собак. Разумеется, в случае компьютеров здесь требуется наличие огромной вычислительной мощности, однако мощность оборудования Google вышла уже на такой уровень, что одна нейронная сеть может без труда анализировать работу другой нейронной сети.

Для создания нейронной сети требуется настоящая команда из экспертов в компьютерной инженерии и огромное количество времени, однако благодаря AutoML в будущем практически любой пользователь сможет построить свою собственную ИИ-систему и запрограммировать ее на выполнение самых разных задач.

"Сегодня проектирование нейронных сетей чрезвычайно трудоемко и требует опыта, что недоступно для небольших сообществ ученых и инженеров. Вот почему мы создали подход под названием AutoML, благодаря которому нейронные сети могут создавать нейронные сети. Мы надеемся, что AutoML будет обладать способностями нескольких докторов наук и позволит через три-пять лет сотням тысяч разработчиков создавать новые нейронные сети для своих конкретных потребностей", — написал Пичаи в официальном блоге.

Машинное обучение пытается наделить компьютер способностью делать свои собственные выводы на базе имеющейся информации. Оно включает два важных аспекта: процесс обучения и способность самостоятельно делать выводы на его базе. С обучением все более-менее понятно. Покажи компьютеру сотню тысяч картинок с котиками и собачками, и он в итоге поймет, какая комбинация пикселей составляет каждое из этих животных. Со второй частью несколько сложнее. Ведь именно здесь от машины требуется показать, чему она научилась, и на основе этого обучения самостоятельно прийти к логической догадке. Сделать вывод.

А теперь замените кошечек и собачек на нейронные сети, и вы получите представление о том, как работает AutoML, которая вместо распознавания животных распознает, какая из представленных систем является наиболее умной. Если верить Google, даже сейчас уровень AutoML уже таков, что она может быть эффективнее экспертов-людей в вопросе поиска лучших подходов для решения конкретных проблем. В перспективе это позволит существенно упростить процесс создания новых ИИ-систем, так как, по сути, их будут создавать себе же подобные.

На данный момент AutoML по-прежнему находится на раннем этапе своего развития, говорит Google, однако ИИ, машинное обучение и глубинное машинное обучение (продвинутые методы обучения машин, основывающиеся на имитации работы нейронов мозга человека) — все они так или иначе уже находят свое применение в тех приложениях и сферах, которые мы используем и в которых мы находимся ежедневно.

В рамках демонстрации на сцене конференции I/O инженеры Google показали, как их технология машинного обучения способна существенно осветлить очень темные изображения или, например, убрать с них различные шумы. И все эти действия машина способна выполнять, только полагаясь на информацию, полученную в рамках анализа миллионов других четких образцов снимков. В Google отмечают, что их суперкомпьютеры теперь стали эффективнее человека в процессе распознавания того, что находится на фото. На базе этой технологии в скором времени выйдет пользовательское приложение Google Lens, способное эффективно определять, какой цветок (или цветы) находится сейчас перед вами (или на снимках), через камеру смартфона.

С помощью технологии AutoML ИИ-платформы станут быстрее обучаться и будут гораздо умнее. "Мы думаем, что эта технология приведет к появлению новых нейронных сетей и открытию возможностей, когда даже не эксперты смогут создавать свои личные нейронные сети для своих определенных нужд. Это, в свою очередь, увеличит способность технологий машинного обучения оказывать влияние на нас всех", — считают научные специалисты Google Куок Ле и Баррет Зоф.

GoogleTranslate сплетает все языки в один

Примером успешности глубинного машинного обучения может служить онлайн-переводчик Google Translate. Лет пять назад это был глюканутый переводчик с потешными переводами, который годился разве что для забавы. Но постепенно он стал показывать все более качественные результаты.

Особенно заметные и быстрые улучшения стали наблюдаться после того, как в сентябре 2016 г. к системе Google Translate подключили нейронную сеть Google Neural Machine Translation (GNMT) на основе искусственного интеллекта для ускорения процессов перевода на несколько самых распространенных языков. А вскоре машинный переводчик научился распознавать и те языки, которые не были заложены в него изначально. Это стало возможным из-за того, что искусственный разум самостоятельно создал "промежуточное" наречие, которое используется для перевода с одного языка на другой.

Google Translate, в отличие от других онлайн-переводчиков, переводит предложение целиком, не разбивая его на отдельные слова. Конечно, качество все еще далеко от идеала, но оно постоянно улучшается. Из-за грамматической разницы между языками для перевода фраз и предложений необходимо использовать разные языковые модули, которые свои для каждого языка. Нейронная сеть GNMT, систематизировав информацию этих модулей, создала собственный "средний" вариант, который и используется для перевода.

Таким образом, сначала система переводит язык на этот "средний" выдуманный, а уже с него способна произвести перевод на любой другой. К примеру, изначально систему обучили переводу между английским и японским языками, а также английским и корейским. Далее система сама научилась делать перевод с японского на корейский, минуя английский язык.

Многие специалисты видят в данной системе большой потенциал. К примеру, специалист по семантике из Нью-Йоркского университета Кьюнгхун Чо утверждает: "Реализованный специалистами компании Google метод перевода является более сложным методом, нежели любой другой. Но, тем не менее, данное направление развивается очень быстрыми темпами, и в ближайшем времени такие системы станут основным средством автоматического перевода. Я не сомневаюсь, что мы создадим и обучим систему автоматического перевода на базе единой нейронной сети, которая овладеет более чем сотней различных языков одновременно".

После запуска проекта инженеры Google постоянно увеличивали пул языков нейросети GNMT. 20 апреля 2017 г. компания объявила, что Google Translate теперь будет использовать нейронный перевод для перевода между украинским и английским языками. "В следующий раз, когда вы будете использовать Google Translate, вы, возможно, заметите, что перевод стал более точным и простым для понимания. Это потому, что слова и предложения, которые вы переводите между английским и украинским языками, теперь используют нашу передовую технологию нейронного перевода", — говорится в сообщении.

Преимуществом использования машинного обучения считается сам подход к обработке текста. Если обычные онлайн-переводчики обрабатывают каждое слово по отдельности, то нейросеть GNMT переводит предложения целиком с учетом контекста и множественных смыслов, при этом сверяясь с грамматикой. Технология все еще далека от идеальной, но повышение качества машинного перевода Google Translate на украинский можно будет ощутить уже в ближайшее время. У нейросети нет нехватки в данных для обработки и обучения. По статистике поискового гиганта, через Google Translate ежедневно переводится до 140 млрд слов на 103 языках.

GoogLeNet поможет медикам

Подобные сверхмощные алгоритмы на базе глубинного обучения в будущем наверняка найдут применение и в медицине. Системы, работающие на их базе, будут определять на снимках признаки злокачественных образований и в большинстве случаев делать это гораздо эффективнее профессиональных хирургов.

Как известно, диагностика заболевания имеет не меньшее значение, чем его лечение. Но зачастую в силу разных причин она может быть затруднена. Между тем заболевания вроде онкологии нуждаются в как можно более быстрой диагностике. И специалисты Google уже предлагают использовать алгоритмы машинного обучения для улучшения выявляемости заболеваний.

Прийти на помощь медикам сотрудники компании Google решили ввиду того, что, согласно статистике, в вопросах наличия у пациентов некоторых форм рака молочной и предстательной желез мнения врачей могут не совпадать в половине случаев или даже чаще. Чтобы разрешить данную проблему, и было предложено использовать помощь ИИ. Для создания программы исследователи использовали снимки органов, пораженных онкологией, предоставленные медицинским центром университета Неймегена. Для этих целей неплохо подошел уже существующий алгоритм под названием Inception, или GoogLeNet.

В ходе обучения системе "скормили" большое количество тепловых карт, то есть снимков, показывающих, какие части тканей могут быть поражены. После некоторой модификации алгоритма подготовленные при его помощи тепловые карты были усовершенствованы настолько, что их точность достигла 89% в сравнении с изначальными снимками, содержащими большое количество "шумов". Далее было решено сравнить результаты работы и выводы Inception с заключениями, которые давали бы врачи. В итоге после анализа 130 снимков выяснилось, что Inception на 16% эффективнее человека определяет участки поражения.

Несмотря на хорошие результаты, авторы алгоритма утверждают, что модель все еще далека от совершенства. Она не обращает внимания на наличие сопутствующих патологий, которые могут косвенно говорить о наличии заболевания. Но если дополнить программой-диагностом работу человека, это может значительно увеличить количество выявленных заболеваний, которые раньше могли быть упущены.

Google Brain учится улучшать качество изображений

Помните, как в фильме "Бегущий по лезвию" Рик Декард, попивая бренди из массивного бокала, голосовыми командами увеличивал и уменьшал различные зоны изображения на экране своего компьютера в поисках улик? Качество картинки ничуть не страдало от этого: не было видно ни нагромождений пикселей, ни артефактов. Разумеется, до такого наука пока не дошла, зато искусственный интеллект, созданный инженерами Google, вполне может заметно улучшить качество растрового изображения благодаря хитрым алгоритмам.

Команда специалистов Google Brain создала систему на базе двух нейронных сетей, которая способна ощутимо обогатить деталями изображения низкого разрешения. Первая нейронная сеть сопоставляет изображение низкого разрешения со схожими картинками высокого разрешения, чтобы понять, как примерно оно должно или может выглядеть в итоге. Вторая нейронная сеть моделирует более четкое изображение на основе полученных первой сетью данных, стараясь при этом достичь наиболее правдоподобного результата.

Пока что результаты подобных улучшений все еще далеки от идеала. Но в некоторых случаях у ИИ получается очень близко приблизиться к оригиналу изображения. На совершенно непонятном, на первый взгляд, фото 8 на 8 пикселей система способна распознать лицо человека и даже попытается восстановить его максимально точно со своей точки зрения. Подобные системы обладают огромным потенциалом, так как если исследователям все же удастся научить их работать с высокой точностью, этой технологией могут заинтересоваться военные, спецслужбы и полиция, которые постоянно имеют дело с распознаванием лиц на видеозаписях и фотографиях низкого качества.