Конечно, Prisma уже далеко не единственные, и с тех пор у них появилось множество конкурентов. Facebook купили приложение MSQRD , которое добавляет анимированные «маски» к вашим видео. В отличие от Призмы здесь ставка сделана на распознавание лиц и наложение фильтров на них.
SwiftKey и другие клавиатуры
Большинство современных клавиатур для мобильников уже давно не используют пользовательские словари, такие как T9. Если вы набираете какую-то фразу, то наверняка здесь замешана нейросеть. Некоторые разработчики идут дальше. SwiftKey выпустили бета-версию клавиатуры, которая полностью основана на работе нейросети. Благодаря чему клавиатура не просто подставляет наиболее часто набираемые фразы, а основывается на контексте.
Новая технология пока доступна для ограниченного количества языков и находится на стадии бета-версии. Но и публичная версия SwiftKey основывается на Больших данных. Например, пользовательские словари доступны всем, кто установил клавиатуру. Конечно, за исключением персональных данных.
Snapchat и его фильтры - ещё одно из самых известных применений нейросетей. Если упростить сложное, то приложение использует компьютерное распознавание лиц для идентификации мимики и точек движения мускулов. А уже потом применяет к ним свои фильтры.
Shazam и SoundHound
Эти два популярных приложения распознают музыку, которая играет рядом с нами, а затем сверяет этот фрагмент со слепком в своей «библиотеке». Звучит достаточно просто, но для этого приложение использует нейросети. Здесь приходится решить несколько сложных задач, и даже ни сколько по поиску совпадений, а по очистке лишнего шума при распознавании.
Google Ассистент и Siri
Говорить только про Google Ассистент или Siri будет не совсем правильно. Представить современные сервисы Google и Apple невозможно без Big Data и нейросетей. Любая разработка от этих двух компаний, так или иначе, задействует нейросети. Автоподсказки при поиске, показ рекламы, очистка почты от спама и многое другое. И всё-таки самое явное для нас применение - это голосовые ассистенты. Смартфон распознаёт наш запрос и выполняет поставленную задачу в зависимости не только от контекста фразы, но и нашего местоположения.
Carat
Некоторые приложения, наоборот, нацелены на выполнение лишь одной задачи. Например, Carat на основе данных о вашем использовании смартфона (анализе расхода батареи) укажет на те приложения, которые больше всего расходуют заряд. Вы можете удалить или ограничить использование таких программ и помочь телефону «дожить» до розетки.
Netflix, YouTube, Apple и Google Музыка... Все эти сервисы предлагают музыку и видео на основе ваших предпочтений. За последние пару лет этот тренд пошёл немного дальше и теперь нам предлагаются целые смарт-листы, которые подойдут под наш род занятий или время дня.
Big Data и нейросети могут не только продавать нам рекламу, лечить наши болезни или управлять нашим разумом. Большинство разработок мы замечаем только тогда, когда они подаются нам в развлекательном формате или улучшают наши самые простые ежедневные задачи. Из-за чего мы часто забываем, что нейросеть - это не только моська котёнка у нас в телефоне.
С момента описания первого искусственного нейрона Уорреном Мак-Каллоком и Уолтером Питтсом прошло более пятидесяти лет. С тех пор многое изменилось, и сегодня нейросетевые алгоритмы применяются повсеместно. И хотя нейронные сети способны на многое, исследователи при работе с ними сталкиваются с рядом трудностей: от переобучения до проблемы «черного ящика».
Если термины «катастрофическая забывчивость» и «регуляризация весов» вам пока ни о чем не говорят, читайте дальше: попробуем разобраться во всем по порядку.
За что мы любим нейросети
Основное преимущество нейронных сетей перед другими методами машинного обучения состоит в том, что они могут распознавать более глубокие, иногда неожиданные закономерности в данных. В процессе обучения нейроны способны реагировать на полученную информацию в соответствии с принципами генерализации, тем самым решая поставленную перед ними задачу.К областям, где сети находят практическое применение уже сейчас, можно отнести медицину (например, очистка показаний приборов от шумов, анализ эффективности проведённого лечения), интернет (ассоциативный поиск информации), экономику (прогнозирование курсов валют, автоматический трейдинг), игры (например, го) и другие. Нейросети могут использоваться практически для чего угодно в силу своей универсальности. Однако волшебной таблеткой они не являются, и чтобы они начали функционировать должным образом, требуется проделать много предварительной работы.
Обучение нейросетей 101
Одним из ключевых элементов нейронной сети является способность обучаться. Нейронная сеть - это адаптивная система, умеющая изменять свою внутреннюю структуру на базе поступающей информации. Обычно такой эффект достигается с помощью корректировки значений весов .Связи между нейронами на соседних слоях нейросети - это числа, описывающие значимость сигнала между двумя нейронами. Если обученная нейронная сеть верно реагирует на входную информацию, то настраивать веса нет необходимости, а в противном случае с помощью какого-либо алгоритма обучения нужно изменить веса, улучшив результат.
Как правило, это делают с помощью метода обратного распространения ошибки : для каждого из обучающих примеров веса корректируются так, чтобы уменьшить ошибку. Считается, что при правильно подобранной архитектуре и достаточном наборе обучающих данных сеть рано или поздно обучится.
Существует несколько принципиально отличающихся подходов к обучению, в привязке к поставленной задаче. Первый - обучение с учителем . В этом случае входные данные представляют собой пары: объект и его характеристику. Такой подход применяется, например, в распознавании изображений: обучение проводится по размеченной базе из картинок и расставленных вручную меток того, что на них нарисовано.
Самой известной из таких баз является ImageNet . При такой постановке задачи обучение мало чем отличается от, например, распознавания эмоций, которым занимается Neurodata Lab . Сети демонстрируются примеры, она делает предположение, и, в зависимости от его правильности, корректируются веса. Процесс повторяется до тех пор, пока точность не увеличивается до искомых величин.
Второй вариант - обучение без учителя . Типичными задачами для него считаются кластеризация и некоторые постановки задачи поиска аномалий. При таком раскладе истинные метки обучающих данных нам недоступны, но есть необходимость в поиске закономерностей. Иногда схожий подход для предобучения сети в задаче обучения с учителем. Идея состоит в том, чтобы начальным приближением для весов было не случайное решение, а уже умеющее находить закономерности в данных.
Ну и третий вариант - обучение с подкреплением - стратегия, построенная на наблюдениях. Представьте себе мышь, бегущую по лабиринту. Если она повернет налево, то получит кусочек сыра, а если направо - удар током. Со временем мышь учится поворачивать только налево. Нейронная сеть действует точно так же, подстраивая веса, если итоговый результат - «болезненный». Обучение с подкреплением активно применяется в робототехнике: «ударился ли робот в стену или остался невредим?». Все задачи, имеющие отношение к играм, в том числе самая известная из них - AlphaGo, основаны именно на обучении с подкреплением.
Переобучение: в чем проблема и как ее решить
Главная проблема нейросетей - переобучение. Оно заключается в том, что сеть «запоминает» ответы вместо того, чтобы улавливать закономерности в данных. Наука поспособствовала появлению на свет нескольких методов борьбы с переобучением: сюда относятся, например, регуляризация, нормализация батчей, наращивание данных и другие. Иногда переобученная модель характеризуется большими абсолютными значениями весов.Механизм этого явления примерно такой: исходные данные нередко сильно многомерны (одна точка из обучающей выборки изображается большим набором чисел), и вероятность того, что наугад взятая точка окажется неотличимой от выброса, будет тем больше, чем больше размерность. Вместо того, чтобы «вписывать» новую точку в имеющуюся модель, корректируя веса, нейросеть как будто придумывает сама себе исключение: эту точку мы классифицируем по одним правилам, а другие - по другим. И таких точек обычно много.
Очевидный способ борьбы с такого рода переобучением – регуляризация весов . Она состоит либо в искусственном ограничении на значения весов, либо в добавлении штрафа в меру ошибки на этапе обучения. Такой подход не решает проблему полностью, но чаще всего улучшает результат.
Второй способ основан на ограничении выходного сигнала, а не значений весов, - речь о нормализации батчей . На этапе обучения данные подаются нейросети пачками - батчами. Выходные значения для них могут быть какими угодно, и тем их абсолютные значения больше, чем выше значения весов. Если из каждого из них мы вычтем какое-то одно значение и поделим результат на другое, одинаково для всего батча, то мы сохраним качественные соотношения (максимальное, например, все равно останется максимальным), но выход будет более удобным для обработки его следующим слоем.
Третий подход работает не всегда. Как уже говорилось, переобученная нейросеть воспринимает многие точки как аномальные, которые хочется обрабатывать отдельно. Идея состоит в наращивании обучающей выборки , чтобы точки были как будто той же природы, что и исходная выборка, но сгенерированы искусственно. Однако тут сразу рождается большое число сопутствующих проблем: подбор параметров для наращивания выборки, критическое увеличение времени обучения и прочие.
Эффект от удаления аномального значения из тренировочного свода данных ()
В обособленную проблему выделяется поиск настоящих аномалий в обучающей выборке. Иногда это даже рассматривают как отдельную задачу. Изображение выше демонстрирует эффект исключения аномального значения из набора. В случае нейронных сетей ситуация будет аналогичной. Правда, поиск и исключение таких значений - нетривиальная задача. Для этого применяются специальные техники - подробнее о них вы можете прочитать по ссылкам ( и ).
Одна сеть – одна задача или «проблема катастрофической забывчивости»
Работа в динамически изменяющихся средах (например, в финансовых) сложна для нейронных сетей. Даже если вам удалось успешно натренировать сеть, нет гарантий, что она не перестанет работать в будущем. Финансовые рынки постоянно трансформируются, поэтому то, что работало вчера, может с тем же успехом «сломаться» сегодня.Здесь исследователям или приходится тестировать разнообразные архитектуры сетей и выбирать из них лучшую, или использовать динамические нейронные сети. Последние «следят» за изменениями среды и подстраивают свою архитектуру в соответствии с ними. Одним из используемых в этом случае алгоритмов является метод MSO (multi-swarm optimization).
Более того, нейросети обладают определенной особенностью, которую называют катастрофической забывчивостью (catastrophic forgetting). Она сводится к тому, что нейросеть нельзя последовательно обучить нескольким задачам - на каждой новой обучающей выборке все веса нейронов будут переписаны, и прошлый опыт будет «забыт».
Безусловно, ученые трудятся над решением и этой проблемы. Разработчики из DeepMind недавно предложили способ борьбы с катастрофической забывчивостью, который заключается в том, что наиболее важные веса в нейронной сети при выполнении некой задачи А искусственно делаются более устойчивыми к изменению в процессе обучения на задаче Б.
Новый подход получил название Elastic Weight Consolidation (упругое закрепление весов ) из-за аналогии с упругой пружинкой. Технически он реализуется следующим образом: каждому весу в нейронной сети присваивается параметр F, который определяет его значимость только в рамках определенной задачи. Чем больше F для конкретного нейрона, тем сложнее будет изменить его вес при обучении новой задаче. Это позволяет сети «запоминать» ключевые навыки. Технология уступила «узкоспециализированным» сетям в отдельных задачах, но показала себя с лучшей стороны по сумме всех этапов.
Армированный черный ящик
Еще одна сложность работы с нейронными сетями состоит в том, что ИНС фактически являются черными ящиками. Строго говоря, кроме результата, из нейросети не вытащишь ничего, даже статистические данные. При этом сложно понять, как сеть принимает решения. Единственный пример, где это не так - сверточные нейронные сети в задачах распознавания. В этом случае некоторые промежуточные слои имеют смысл карт признаков (одна связь показывает то, встретился ли какой-то простой шаблон в исходной картинке), поэтому возбуждение различных нейронов можно отследить.Разумеется, указанный нюанс делает достаточно сложным использование нейронных сетей в приложениях, когда ошибки критичны. Например, менеджеры фондов не могут понять, как нейронная сеть принимает решения. Это приводит к тому, что невозможно корректно оценить риски торговых стратегий. Аналогично банки, прибегающие к нейронным сетям для моделирования кредитных рисков, не смогут сказать, почему этот самый клиент имеет сейчас именно такой кредитный рейтинг.
Поэтому разработчики нейросетей ищут способы обойти это ограничение. Например, работа ведется над так называемыми алгоритмами изъятия правил (), чтобы повысить прозрачность архитектур. Эти алгоритмы извлекают информацию из нейросетей либо в виде математических выражений и символьной логики, либо в виде деревьев решений.
Нейронные сети - это лишь инструмент
Само собой, искусственные нейронные сети активно помогают осваивать новые технологии и развивать существующие. Сегодня на пике популярности находится программирование беспилотных автомобилей, в которых нейросети в режиме реального времени анализируют окружающую обстановку. IBM Watson из года в год открывает для себя всё новые прикладные области, включая медицину . В Google существует целое подразделение , которое занимается непосредственно искусственным интеллектом.Вместе с тем порой нейронная есть - не лучший способ решить задачу. Например, сети «отстают » по таким направлениям, как создание изображений высокого разрешения, генерация человеческой речи и глубокий анализ видеопотоков. Работа с символами и рекурсивными структурами также даётся нейросистемам нелегко. Верно это и для вопросно-ответных систем.
Изначально идея нейронных сетей заключалась в копировании и даже воссоздании механизмов функционирования мозга. Однако человечеству по-прежнему нужно разрешить проблему скорости работы нейронных сетей, разработать новые алгоритмы логического вывода. Существующие алгоритмы по меньшей мере в 10 раз уступают возможностям мозга, что неудовлетворительно во многих ситуациях.
При этом ученые до сих пор не до конца определились , в каком направлении следует развивать нейросети. Индустрия старается как максимально приблизить нейросети к модели человеческого мозга, так и генерировать технологии и концептуальные схемы, абстрагируясь ото всех «аспектов человеческой природы». На сегодняшний день - это что-то вроде «открытого произведения» (если воспользоваться термином Умберто Эко), где практически любые опыты допустимы, а фантазии – приемлемы.
Деятельность ученых и разработчиков, занимающихся нейросетями, требует глубокой подготовки, обширных знаний, использования нестандартных методик, поскольку нейросеть сама по себе - это не «серебряная пуля», способная решить любые проблемы и задачи без участия человека. Это комплексный инструмент, который в умелых руках может делать удивительные вещи. И у него еще всё впереди.
Теги:
- neurodata lab
- нейронные сети
- нейросети
Знакомый ранее только по фантастическим книгам термин нейросеть в последние годы постепенно и незаметно вошел в общественную жизнь как неотъемлемая часть новейших научных разработок. Конечно, уже довольно давно люди, задействованные в индустрии игростроения, знали, что это - нейросеть. Но в наши дни термин встречается всем, его знают и понимают широкие массы. Несомненно, это свидетельствует о том, что наука стала ближе к реальной жизни, а в будущем нас ждут новые прорывы. И все же, что это - нейросеть? Попробуем разобраться со значением слова.
Настоящее и будущее
В прежние времена нейросеть, Хорт и попаданцы в космос были тесно связанными понятиями, ведь встретиться с искусственным интеллектом, обладающим способностями, значительно превосходящими простую машину, можно было только в фантастическом мире, возникающем в фантазии некоторых авторов. И все же тенденции таковы, что в последнее время вокруг обычного человека в реальности появляется все больше тех предметов, которые раньше упоминались только в фантастической литературе. Это позволяет говорить о том, что даже самый бурный полет фантазии, возможно, рано или поздно найдет себе эквивалент в реальности. Книги о попаданцах, нейросетях уже сейчас имеют больше общего с реальностью, чем лет десять тому назад, и кто знает, что будет еще через десятилетие?
Нейросеть в современных реалиях - это технология, позволяющая опознавать людей, имея в своем распоряжении лишь фотографию. Искусственный интеллект вполне способен управлять машиной, может сыграть и выиграть партию в покер. Более того, нейросети - это новые пути для совершения научных открытий, позволяющие прибегать к ранее невозможным вычислительным возможностям. Это дает уникальные шансы для познания мира уже сегодня. Впрочем, только из новостных сводок, оповещающих о новейших открытиях, редко понятно нейросеть - это что такое. Считать ли этот термин применимым к программе, машине или же комплексу серверов?
Общее представление
Как видно из самого термина "нейросеть" (фото, представленные в этой статье, также позволяют это понять) - это такая структура, которую конструировали по аналогии с логикой работы человеческого мозга. Конечно, скопировать полностью биологическое строение столь высокого уровня сложности в настоящий момент не представляется реальным, но ученые уже смогли ощутимо приблизиться к решению поставленной задачи. Скажем, довольно эффективны созданные в последнее время нейросети. Хорт и другие писатели, издававшие фантастические сочинения, вряд ли на момент написания своих произведений знали, что наука сможет уже к нынешнему году шагнуть так далеко вперед.
Особенность человеческого мозга в том, что это структура из многочисленных элементов, между которыми постоянно передается информация через нейроны. Фактически новые нейросети - это тоже подобные структуры, где электрические импульсы обеспечивают обмен актуальными данными. Словом, прямо как в мозге человека. И все же непонятно: если ли отличие от обычного компьютера? Ведь машина, как известно, тоже создана из деталей, данные между которыми переходят посредством электрического тока. В нейросетях все обычно выглядит феерично - огромные или крохотные машины, при одном взгляде на которые герои понимают, с чем имеют дело. А вот в реальности пока ситуация складывается иначе.
Как это строится?
Как видно из научных работ, посвященных нейросетям («Попаданцы в космос», к сожалению, к этой категории не относятся, какими бы увлекательными они ни были), идея в наиболее прогрессивной структуре в области искусственного интеллекта, в создании сложной структуры, отдельные части которой очень просты. Фактически, проводя параллель с человеком, можно найти сходство: скажем, только один участок мозга млекопитающего не обладает большими способностями, возможностями, не может обеспечивать разумное поведение. А вот когда речь идет о человеке в целом, то такое существо спокойно проходит тест на уровень интеллекта без особенных проблем.
Несмотря на указанное сходство, аналогичный подход к еще несколько лет тому назад подвергался остракизму. Это видно и из научных работ, и из фантастических книг про нейросеть («Попаданцы в космос», упомянутые выше, к примеру). Между прочим, в некоторой степени даже высказывания Цицерона можно связать с современной идеей нейросетей: он в свое время довольно едко предложил обезьянкам кидать в воздух написанные на жетонах буквы, дабы рано или поздно из них сложился осмысленный текст. И только 21 столетие показало, что подобное ехидство было совершенно неоправданным. Нейросеть и фантастика разошлись разными путями: если армии обезьянок дать множество жетонов, они не только создадут богатый смыслом текст, но и власть над миром получат.
Сила - в единстве, брат
Как удалось узнать из многочисленных экспериментов, обучение нейросети тогда приводит к успеху, когда сам объект включает в себя огромное количество элементов. Как шутят ученые, фактически нейронную сеть можно собрать из чего угодно, хоть из коробков со спичками, так как основная идея - комплекс правил, которым подчиняется полученное сообщество. Обычно правила довольно простые, но позволяют контролировать процесс обработки данных. В такой ситуации нейроном (правда, искусственным) будет вовсе не прибор, не сложная структура или непонятая система, а арифметические действия, довольно простые, реализуемые с минимальной затратой энергии. Официально в науке искусственные нейроны получили наименование «перцептроны». Нейросети («Попаданцы в космос» хорошо это иллюстрируют) в представлении некоторых авторов научных произведений должны быть гораздо сложнее, но современная наука показывает, что простота тоже дает превосходный результат.
Работа искусственного нейрона проста: на вход подаются числа, вычисляется ценность для каждого информационного блока, результаты складываются, на выходе формируется единица или значение «-1». Хотелось ли читателю хоть раз оказаться среди попаданцев? Нейросети в реальности работают совершенно иначе, по крайней мере в настоящий момент времени, поэтому, представляя себя в фантастическом произведении, не стоит забывать об этом. Фактически современный человек может работать с искусственным интеллектом, к примеру, так: можно показать картинку, и электронная система будет отвечать на вопрос «или - или». Предположим, что человек задает системе координаты одной точки и спрашивает, что изображено - земля или, скажем, небо. Проанализировав информацию, система выдает ответ - вполне возможно, неверный (зависит от совершенства ИИ).
Пальцем в небо
Как видно из логики работы современной нейросети, каждый элемент ее занимается тем, что пытается угадать правильный ответ на заданный системе вопрос. Точности в этом случае мало, результат сравним с итогом подбрасывания монеты. Но реальная научная работа начинается, когда приходит время обучения нейросети. Космос, освоение новых миров, проникновение в суть физических законов нашей вселенной (на что рассчитывают современные ученые, применяя нейросети) станет открытым именно в тот момент, когда искусственный интеллект будет обучаться с гораздо большей эффективностью и результативностью, нежели человек.
Дело в том, что человек, который задает системе вопрос, знает правильный ответ на него. Значит, можно записать его в информационные блоки программы. Перцептрон, давший правильный ответ, приобретает ценность, а вот ответивший неверно - теряет ее, получая штраф. Каждый новый цикл запуска программы имеет отличия от предыдущего из-за изменения в уровне ценности. Возвращаясь к предыдущему примеру: рано или поздно программа научится четко различать, где земля, где космос. Нейросети учатся тем эффективнее, чем корректнее составлена программа изучения - а ее формирование стоит современным ученым немалых усилий. В рамках поставленной ранее задачи: если нейросети предоставить на анализ другую фотографию, вероятно, она не сразу сможет обработать ее точно, но, на основании полученных в ходе обучения ранее данных, точно сообразит, где земля, а где - облака, космос или что-то еще.
Применение идеи в реальности
Конечно, в реальности нейросети гораздо сложнее, нежели описаны выше, хотя сам принцип сохраняется. Основная задача элементов, из которых сформирована нейронная сеть - систематизировать числовую информацию. При сочетании обилия элементов задача усложняется, поскольку входная информация может быть не извне, а от перцептрона, уже выполнившего свою работу по систематизации.
Если вернуться к задаче выше, то внутри нейросети можно придумать такие процессы: один нейрон отличает синие пиксели от других, другой обрабатывает координаты, третий анализирует полученные первыми двумя данные, на основании чего принимает решение о том, земля или небо в заданной точке. Причем сортировку на синие и прочие пиксели можно доверить одновременно нескольким нейронам, а полученную ими информацию суммировать. Те перцептроны, которые дадут лучший и более точный результат, получат по итогам премию в виде большей ценности, и их результаты при повторной обработке любой задачи будут приоритетными. Конечно, нейронная сеть получается исключительно объемная, а информация, обрабатываемая в ней, будет и вовсе неподъемной горой, зато удастся учесть и проанализировать ошибки и предупредить их в будущем. Во многом основанные на нейросети импланты, присутствующие во многих фантастических книгах, работают по такому принципу (если, конечно, авторы утруждают себя размышлениями над принципом работы).
Исторические вехи
Это может удивить неспециалиста, но первые нейронные сети появились еще в 1958 году. Это обусловлено тем, что устройство искусственных нейронов сходно с другими компьютерными элементами, между которыми информация передается в формате двоичной системы счисления. Под конец шестидесятых была изобретена машина, получившая наименование «Марк I Перцептрон», в которой были реализованы принципы нейросетей. Это означает, что первая нейронная сеть появилась всего через десятилетие после конструирования первого компьютера.
Первые нейроны первой нейросети состояли из резисторов, радиоламп (в тот период еще не было разработано такого кода, которым могут пользоваться современные ученые). Работа с нейросетью была задачей Френка Розенблатта, создавшего двухслойную сеть. Для передачи внешних данных в сеть использовался экран разрешением 400 точек. Машина вскоре смогла опознавать геометрические фигуры. Уже это позволило предположить, что, при совершенствовании технических решений, нейросети могут научиться читать буквы. И кто знает, чему еще?
Первая нейросеть
Как видно из истории, Розенблатт буквально горел своим делом, ориентировался в нем на отлично, был специалистом в нейрофизиологии. Он был автором увлекательного и пользовавшегося популярностью университетского курса, в рамках которого всякий желающий мог понять, каким образом реализовать человеческий мозг в техническом воплощении. Уже тогда ученое сообщество надеялось, что в скором времени будут реальные возможности формировать разумных роботов, способных передвигаться, говорить, формировать аналогичные себе системы. Кто знает, может эти роботы отправились бы на колонизацию иных планет?
Розентблатт был энтузиастом, и его можно понять. Ученые считали, что искусственный интеллект можно реализовать, если полностью воплотить в машине математическую логику. В этот момент уже существовал Азимов популяризовал идею роботехники. Научное сообщество было убеждено, что освоение Вселенной - вопрос времени.
Скептицизм оправдался
Уже в шестидесятых находились такие ученые, которые спорили и с Розенблаттом, и с другими великими умами, работавшими над искусственным интеллектом. Довольно точное представление об их логике измышлений можно получить из публикаций Марвина Минского, известного в своей области. К слову сказать, известно, что о способностях Минского высоко отзывались Стенли Кубрик (Минский помогал ему в работе над «Космической одиссеей»). Минский не был против создания нейронных сетей, о чем свидетельствует и фильм Кубрика, да и в рамках своей научной карьеры он занимался обучением машин еще в пятидесятых. Тем не менее Минский категорично относился к ошибочным мнениям, критиковал надежды, для которых в тот момент еще не было прочного основания. К слову сказать, Марвин из книг назван именно в честь Минского.
Критика нейросетей и подхода того времени систематизирована в издании «Перцептрон», датированном 1969 годом. Именно эта книга у многих буквально на корню убила интерес к нейронным сетям, ведь ученый с отличной репутацией наглядно показал, что «Марк Первый» имеет ряд изъянов. Во-первых, наличие всего лишь двух слоев было явно недостаточным, и машина умела слишком мало, несмотря на свои гигантские размеры и огромный расход энергии. Второй пункт критики был посвящен алгоритмам, разработанным Розенблаттом для обучения сети. По мнению Минского, с высокой вероятностью терялась информация об ошибках, и нужный слой просто не получал полного объема данных для корректного анализа ситуации.
Дело встало
Несмотря на то что основной идеей Минского было указать коллегам на ошибки, чтобы стимулировать их на усовершенствование разработки, ситуация сложилась иначе. Розенблатт умер в 1971 году, и продолжать его дело оказалось некому. В этот период началась эпоха компьютеров, и эта сфера техники шла вперед огромными шагами. Лучшие умы в области математики и информатики были задействованы в этом секторе, а искусственный интеллект казался неразумным разбрасыванием сил и средств.
Нейросети не привлекали внимание научного сообщества больше десятилетия. Перелом произошел, когда в моду вошел киберпанк. Удалось обнаружить формулы, по которым можно с высокой точностью считать ошибки. В 1986 году проблема, сформулированная Минским, нашла уже третье решение (все три были разработаны независимыми друг от друга группами ученых), и именно его обнаружение подтолкнуло энтузиастов на освоение нового поля: работа над нейросетями снова активизировалась. Впрочем, термин перцептроны незаметно подменили на когнитивные вычисления, избавились от экспериментальных приборов, стали пользоваться кодированием, применяя самые эффективные методики программирования. Всего несколько лет, и нейроны уже собраны в сложные структуры, способные справляться с довольно серьезными задачами. Со временем удалось, к примеру, создать программы для чтения человеческого почерка. Появились первые сети, способные к самообучению, то есть самостоятельно находившие правильные ответы, без подсказки от управляющего компьютером человека. Нейросети нашли себе применение на практике. Например, именно на них построены опознающие на чеках числа программы, применяемые в банковских структурах в Америке.
Вперед семимильными шагами
В 90-х годах стало ясно, что ключевая особенность нейросетей, требующая особенного внимания ученых, это способность исследовать заданную область в поисках правильного решения без подсказки со стороны человека. Программа применяет метод проб, ошибок, на основании которых создаёт поведенческие правила.
Этот период ознаменовался всплеском интереса общественности к самодельным роботам. Конструкторы-энтузиасты из разных уголков планеты начали активно конструировать собственных роботов, способных к обучению. В 1997 году это показало первый действительно серьезный успех на мировом уровне: компьютер впервые обыграл самого лучшего шахматиста мира - Гарри Каспарова. Впрочем, к концу девяностых ученые пришли ко мнению, что достигли потолка, и искусственный интеллект дальше расти не может. Более того, хорошо оптимизированный алгоритм гораздо эффективнее любой нейронной сети решает те же задачи. Некоторые функции остались за нейросетями, например, опознавание архивных текстов, но ничего сложнее доступно не было. В основном, как говорят современные ученые, не хватало технических возможностей.
Наше время
Нейросети в наши дни - это способ решения самых сложных задач методом «решение найдется само». Фактически это не связано с какой-то научной революцией, просто современные ученые, светила мира программирования, имеют доступ к мощной технике, позволяющей реализовывать на практике то, что человек раньше мог только лишь вообразить себе в общих чертах. Возвращаясь к фразе Цицерона про обезьянок и жетоны: если к животным приставить того, кто будет давать им награду за правильную фразу, они не просто осмысленный текст создадут, но напишут новую «Войну и мир», причем не хуже.
Нейросети наших дней стоят на вооружении крупнейших компаний, работающих в области информационных технологий. Это многослойные нейронные сети, реализованные посредством мощных серверов, пользующиеся возможностями всемирной паутины, массивами информации, накопленными за последние десятилетия.
Нейронные сети произвели фурор в IT, и интерес к ним не угасает. Эта подборка видеолекций внесёт ясность в понимание процессов нейросети.
Нейронные сети. Введение
Сравнительно недавно появилась возможность создавать искусственные нейронные сети. Существуют программы, позволяющие моделировать и создавать нейросети. Стало понятно, что применение этой технологии полезно в большинстве отраслей: математика, медицина, компьютерные науки и т. д. Об этом и пойдёт разговор на первой лекции курса. вы также найдете немного теории на тему нейронных сетей.
Немного биологии
В этом видеоуроке речь пойдет о том, как работают нейроны и как они передают сигнал, основываясь на биологических процессах. Мозг, как у животного, так и у человека, похож на нейронную сеть, которая состоит из нейронов, что в свою очередь состоят из дендритов, аксонов и прочих отростков. Задача этих элементов – принимать сигналы извне и отправлять обработанную информацию соседним клеткам.
В целом об искусственной нейронной сети
Автор курса в этом видео подробно рассказывает о строении нейросети с примерами и картинками. Настоящая биологическая нейронная сеть имеет трёхмерную структуру. Это значит, что отследить, как соединены между собой клетки, почти невозможно. Поэтому зачастую нейросети создаются плоскими, чтобы можно было с ними работать, не имея огромных компьютерных мощностей. Также условились, что сеть состоит из трёх слоев искусственных нейронов: входного, скрытого и выходного.
Искусственный нейрон
В этом видеотуториале речь пойдет о строении нейрона. В общем случае нейрон имеет такое строение: входной сигнал > блок, объединяющий синаптические веса, блок суммирования и блок нелинейного преобразования > выходной сигнал. Как только входной сигнал попал в нейрон, он умножается на соответствующий вес. После этого умноженные данные проходят агрегацию и подаются на выход или попадают под действие функции активации.
Структура нейронной сети
Очень грубо и обобщённо работу нейросети можно разбить на несколько этапов. Сначала входящий сигнал подаётся на входной слой сети. Далее нейроны входного слоя передают информацию нейронам скрытого слоя, где и происходит решение поставленной задачи. Потом нейроны скрытого слоя транслируют обработанный сигнал на выходной слой, где формируется результат и выдается ответ.
Нюансы работы нейронной сети
Автор рассматривает важные темы работы нейронной сети, которые касаются входного и выходного слоя. Нормализация и масштабирование, метод “Один из N”, вопросы организации сетей и наличие нескольких скрытых слоев – вот некоторые из тем, рассматриваемых в этой видеолекции.
Далее следуют 3 очень важные видеолекции по обучению нейросети, к которым нужно подойти со всей серьезностью.
Обучение сети
В этом уроке речь пойдет о том, как работают нейросети, и как добиться того, чтобы они решали поставленные задачи, т. е. что нужно сделать с сетью, чтобы она работала правильно. Любая сеть обладает двумя уровнями жизненного цикла: обучение и функционирование. В свою очередь обучение делится на: обучение с учителем и без него.
Технология обучения сети. Часть 1
Технологий обучения сети очень много, т. к. каждый специалист в этом направлении старается привнести что-то новое, имея свои правила и принципы. Одной из основных технологий является “Метод наискорейшего спуска”. Этот метод имеет следующие характеристики: используется только при обучении с учителем, важны знания по высшей математике, от погрешности и силы входного сигнала зависит вес.
Технология обучения сети. Часть 2
Этот видеоурок автор начинает с объяснения темы обучения скрытых слоев. Ранее в курсе рассматривались сети, которые имели только входной и выходной слои. В таких сетях всё просто – меняются веса нейронов, и операция повторяется. Но когда есть скрытые нейроны, всегда непонятно, за что они отвечают, и как у них менять веса. На помощь приходит метод обратного распространения ошибки.
Работа одного нейрона
В этом уроке мы переходим непосредственно к практике. Весь материал рассчитан на людей, которые не знакомы с языками программирования, поэтому обзор происходит на готовых примитивных программах, написанных на C#. В начале урока автор производит подготовительные мероприятия и устанавливает необходимый софт. Практическая часть основана на рассмотрении характеристик и принципов работы одного нейрона.
