2 HitNet: переосмысление DigitCaps и не только

HitNet, по сути, представляет новый уровень, слой «Попади или промахи», это достаточно универсально для использования во многих различных сетях. HitNet как представлено ниже, является, таким образом, примером неглубокой сети, которая размещает этот уровень HoM и иллюстрирует его потенциал.

2.1 Представляем попадания, промахи, центростремительный подход и хит-или-промах слой

В случае CapsNet большие активированные значения ожидаются от капсула DigitCaps, соответствующая истинному классу данного image, аналогично обычным сетям. С геометрической точки зрения в пространстве функций получается капсула, которую можно рассматривать как точка, которую сеть обучена отодвигать далеко от центра гиперсфера агрегата, в которую он попадает благодаря сжатию функция активации.Мы квалифицируем такой подход как «центробежный». В этом случае первая возможная проблема заключается в том, что никто не может контролировать часть (-ы) сферы, на которую будет нацелена CapsNet, и во-вторых, капсулы двух изображений одного класса могут располагаться далеко друг от друга (

Чтобы решить эти проблемы, мы предполагаем, что все изображения данного class разделяют некоторые особенности класса, и это предположение также должны проявляться через соответствующие капсулы.Следовательно, учитывая входное изображение, мы предполагаем, что HitNet нацелен на центр пространство функций, к которому принадлежит капсула истинного класса, так что это соответствует тому, что мы называем попаданием . Капсулы относящиеся к другим классам должны быть отправлены далеко от центра соответствующих пространств функций, что соответствует тому, что мы называем пропустить . Таким образом, наша точка зрения противоположна Sabour и др. ; вместо этого у нас есть центростремительный подход по отношению к настоящий класс.

Функция активации сдавливания вызывает зависимость между особенности капсулы DigitCaps в том смысле, что их значения обусловлены общей длиной капсулы. Если одна функция капсулы имеет большое значение, тогда сдавливание предотвращает другой особенности этой капсулы также принимать большие значения; альтернативно, если сеть желает активировать множество функций в капсуле, тогда ни один из них не сможет иметь большую ценность. Ни один из этих двух случаи подходят с точки зрения обеспечения сильной активации для несколько характерных особенностей по желанию в Sabour и др. .Помимо, ориентация капсул, сохраненная с активацией раздавливания, не используется явно для классификации; сохранение ориентации таким образом, может быть излишним ограничением.

Поэтому мы заменяем эту активацию сжатия на BatchNormalization (BN, [8] ) с последующим условным функция активации сигмовидной кишки применяется поэлементно. Получаем слой также состоит из капсул, которые мы называем Hit-or-Miss (HoM) Layer, который является аналогом DigitCaps в HitNet.Как следствие, все функции, полученные в капсулах HoM, могут охватывать [0,1] диапазон и они могут достигать любого значения в этом интервале независимо других функций. Особенности пространств, в которых капсулы Таким образом, HoM являются единичными гиперкубами.

Определение центростремительных потерь

С учетом использования поэлементной активации сигмовидной кишки центры видоизмененных целевых пространств являются для каждого из них центральных капсулы C: (0,5,…, 0,5). K-й компонент вектора прогноза ypred HitNet, обозначается ypred, k, задается Евклидово расстояние между k-й капсулой HoM и К:

Придать послушную форму понятиям попаданий, промахов, центростремительности. подход, описанный выше и оправдывающий название HoM, мы разрабатываем индивидуальный функция центростремительных потерь со следующими требованиями:

1. Убыток, производимый каждой капсулой HoM, не должен зависеть от другие капсулы. Таким образом, мы избавляемся от любого вероятностного понятия во время тренировка.

2. Капсула истинного класса не приносит потерь при попадании в близкую изотропную окрестность C, которая определяет зона попадания .За пределами этого района это приносит убытки возрастает с расстоянием до C. Капсулы, связанные с к остальным классам приводят к убыткам, уменьшающимся с их расстоянием в C внутри широкой окрестности C и не приносят никаких убытков за пределами этого района, что является пропустить зону . Эти зоны без потерь введены, чтобы прекратить наказание капсулы, которые уже находятся достаточно близко (если они связаны с истинный класс) или далеко (если он связан с другими классами) от C в их соответствующем пространстве функций.

3. Градиент потерь по ypred, k не может стремиться к нулю, когда соответствующая капсула приближается к без потерь зоны, определенные в требовании 2. Чтобы гарантировать такое поведение, мы вводим постоянный градиент вокруг этих зон. Это навязано, чтобы помочь сеть делает попадания и промахи.

4. Для согласования с требованием 3 накладываем кусочно постоянные градиенты по ypred, k, который, таким образом, определяет естественные ячейки вокруг C, так как кольца мишеней для стрельбы из лука, в которых градиент постоянный.

Все эти элементы способствуют определению потерь, которые являются кусочными линейная функция прогнозов и которая составляет центростремительных относительно истинного капсюля класса . Поэтому мы называем это нашим центростремительная потеря . Его производная по ypred, k лестничная функция, которая поднимается вверх, когда k является индексом истинного класса (см. рисунок (а) а) и идет вниз в противном случае (см. рисунок (b) b). Общий аналитический формула функции переменной x, производной которой является возрастающая лестничная функция, где ступени имеют длину l и высоту h и исчезают на [0, m] математически определяется выражением:

, где H {.} Обозначает ступенчатую функцию Хевисайда, а f = ⌊x − ml⌋ (⌊.⌋ — функция пола). Следовательно потеря, порождаемая капсулой истинного класса, равна Ll, h, m (ypred, k), где k — индекс истинного класса. Убыток от капсулы других классов могут быть получены непосредственно из уравнения 2 как Ll ′, h ′, √n / 2 − m ′ (√n / 2 − ypred, k ′) (для любого индекса k ′ остальных классов), если шаги имеют длину l ′, высота h ′, обращаются в нуль после m ′ и если в капсулах n составные части.Использование √n / 2 связано с тем, что максимальное расстояние между капсулой HoM и C задается как √n / 2, поэтому элементы ypred всегда будет в интервале [0, √n / 2]. Следовательно, центростремительная потеря данного тренировочного образа определяется как

где K — количество классов, ytrue, k обозначает k-ю компоненту вектора ytrue, а λ — понижающий весовой коэффициент, равный 0.5 как в [22] . Потеря, связанная с капсулой истинного класса и потеря связанные с другими капсулами, представлены на рисунке 2. в случае n = 2.

Архитектура HitNet

По сути, HitNet включает в себя уровень HoM, основанный на функции карты и используются в паре с центростремительными потерями. В наших экспериментах мы приняли неглубокую структуру, чтобы получить эти карты функций для подчеркните преимущества слоя HoM.Полная архитектура HitNet показан на рисунке 1. Он состоит из из следующих элементов:

1. Два сверточных слоя 9 × 9

   (с шагом (1,1), затем (2,2)) с 256 каналами и активациями ReLU для получения карт характеристик.

2. Полностью связанный слой с K × n матрица, за которой следует BN и поэлементная активация сигмоида, которая производит HoM, состоящий из K капсул размером п.

3. Евклидово расстояние с центральной капсулой C: (0.5,…, 0,5) вычисляется для каждой капсулы HoM, что дает вектор прогноза тип модели.

4. Все капсулы HoM замаскированы (установлен на 0), кроме одной связанной к истинному классу (к предсказанному классу во время тестирования), то они объединяются и отправляются в декодер, который производит выходное изображение Xrec, целью которого является реконструкция исходное изображение. Декодер состоит из двух полностью связанных слоев. размером 512 и 1024 с активациями ReLU и один полностью подключенный слой в матрицу с теми же размерами, что и входное изображение, с сигмовидная активация (это тот же декодер, что и в [22] ).

Если X — исходное изображение, а ytrue

— его этикетка с горячим кодированием, затем

. Гиперпараметры участвующие в

2.2 За пределами HitNet: прототипы, генерация данных и гибрид увеличение данных

Прототипы

Одновременное использование HoM и декодера открывает новые возможности с точки зрения обработки изображений. Важно подчеркнуть, что в наш центростремительный подход, мы гарантируем, что все изображения данного класс будет иметь все компоненты своей капсулы этого класса близко к 0,5. Другими словами, мы перегруппируем эти капсулы в выпуклый пространство вокруг C.Эта центральная капсула C обозначает фиксированную точку отсчета, следовательно, отличную от центроида, от которого измеряем расстояние до капсул ХоМ; от с точки зрения сети, C означает капсулу ссылка, по которой мы измеряем деформации. Следовательно, мы может использовать C вместо капсулы класса HoM, обнулить другие капсулы и передать результат в декодер: восстановленное изображение будет соответствовать изображению, которое сеть рассматривается как канонический образ ссылки для того класса, который мы называем его прототипом .

Создание данных

После сборки прототипов можно немного деформировать их, чтобы вызывать изменения в реконструкции, не зависящие от любой обучающий образ, просто заполнив декодер обнуленным HoM плюс одна капсула в районе C. Это позволяет чтобы определить, что представляют собой функции HoM. С той же целью Sabour и др.

. необходимо полагаться на тренировочный образ, потому что центробежный подход не позволяет напрямую создавать прототипы.В нашем случае можно даже вычислить приблизительный диапазон, в котором компоненты можно настроить. Если доступно достаточное количество обучающих данных, можно ожидать индивидуальные особенности капсул истинного классы должны быть приблизительно распределены по Гауссу со средним значением

и стандартным отклонением

Гибридное увеличение данных

Капсулы HoM отражают только важные функции, которые позволяют сеть для определения класса изображений и выполнения приблизительная реконструкция через декодер. Это означает, что изображения, созданные декодером, недостаточно детализированы, чтобы выглядеть реалистично. Детали теряются в процессе; вернуть их обратно сложно.Проще использовать уже существующие детали, , т.е. . те из изображений обучающего набора. Таким образом, мы можем создать гибридную функциональную и процесс увеличения данных на основе данных:

• Возьмите обучающий образ X и передайте его обученному HitNet сеть.

• Извлеките его HoM и измените капсулу в соответствии с классом. из X.

• Восстановить изображение, полученное из исходной капсулы Xrec, а из модифицированного — Xmod.

• Подробная информация о X содержится в X − Xrec. Таким образом, новое (подробное) изображение — Xmod + X − Xrec. Обрежьте значения, чтобы гарантировать, что результирующее изображение имеет значения в соответствующий диапазон (, например, . [0,1]).

2.3 За пределами HitNet: капсулы Ghost

Одним из главных достоинств HitNet является гибкость в использовании слоя HoM. Его можно легко использовать для выполнения различных задачи, отличные от классификации. Чтобы показать дополнительную возможность HitNet, мы развиваем понятие ghost капсул,

, которые могут быть интегрированы в сеть.Использование призрачных капсул позволяет сети для каждой обучающей выборки обнулить потерю связан с капсулой, относящейся к классу, который сеть считает как разумное предсказание, которое отличается от истинного класса. Этот процесс может принести пользу в нескольких ситуациях. Например, это может использоваться для оценки качества обучающего набора через обнаружение потенциально неправильно маркированных изображений в этом наборе. Обнаружение это важный аспект, так как неправильно маркированные данные обучения загрязняют все обучение, заставляя сеть изучать неестественные особенности, или даже ошибки; это заставляет сеть запоминать выбросы в выделенных нейронах.

Определение понятия «капсула-призрак»

Для того, чтобы дать сети возможность использовать альтернативный на этикетках мы вводим понятие «капсула-призрак», который связан с каждым изображением обучающего набора. Ключ Идея следующая: на этапе обучения для каждого изображения вместо того, чтобы заставлять сеть производить одну капсулу, которая делает попадание и капсулы К-1, которые делают промахи, мы требуем одно попадание для капсулы истинного класса и К − 2 пропускает столько же капсул других классов; оставшаяся капсула это так называемая «капсула-призрак» , далее обозначаемая как GC.Под «капсулой истинного класса» изображения мы понимаем капсулу. ассоциированный с классом, соответствующим метке, предоставленной аннотатор с изображением. GC — это капсула слоя HoM, которая является ближайшим к C среди K − 1 капсулы, не соответствующие истинному классу. Связанная потеря с GC обнуляется, следовательно, GC не вынужден делать удар ни промаха, и он не участвует в обновлении весов из от одной партии к другой; это практически незаметно для потери в обратное распространение, отсюда и его название.

С точки зрения реализации, обучение HitNet с GC на изображение аналогично обучению без GC; только центростремительный убыток необходимо скорректировать. Учитывая обучающий образ, его горячая кодировка метка ytrue и выходной вектор сети ypred, центростремительные потери, изначально определенные уравнением 3 формально становится

где ~ ytrue, k = 1 если k — истинный индекс класса или индекс класса GC, и ~ ytrue, в противном случае k = 0.

Таким образом, с GC связаны две важные характеристики: его класс, который всегда является одним из классов K − 1, не соответствующий истинному классу образца, и его расстояние с C. Класс GC изображения получается детерминированным Кстати, это не бросивший школу ( [25] ) и не образованный Вариант выпадения (как , например, . [13]

). Кроме того, этот класс вероятно будет меняться от одной эпохи к другой на ранних стадиях обучения, пока сеть не решит, какой вариант лучше.В идеале сборщик мусора будет иметь успех, если его класс является приемлемой альтернативой. к истинному классу или если изображение заслуживает дополнительной метки, и будет иначе пропустите. Развитие GC во время обучения продиктовано общей эволюцией сети.

Впоследствии, в ситуациях, описанных выше, в конце обучающие, неправильно маркированные или запутанные изображения должны фактически отображать два попаданий: одно попадание для капсулы, соответствующей истинному классу, поскольку сеть была вынуждена нанести этот удар, и один удар по капсуле соответствующий другому правдоподобному классу, поскольку сеть не была было приказано подтолкнуть капсулу к зоне промаха, и поскольку изображение отображает функции, необходимые для идентификации этого альтернативного класса.Смотрящий на изображениях с ГХ в зоне попадания в конце тренировки позволяет обнаруживать изображения, для которых сеть подозревает ошибку в этикетке, или какие изображения, возможно, заслуживают двух этикеток.

3 Эксперименты и результаты

В этом разделе мы представляем некоторые эксперименты и полученные результаты. с HitNet. Структура раздела повторяет структуру раздела 2, т.е. . он разделен на три части, которые напрямую соответствуют три части Раздела 2: (1) общие производительности HitNet, (2) использование декодера и (3) использование капсул-призраков.

3.1 Результаты классификации HitNet

Далее мы сообщаем о результатах, полученных с HitNet. Первый, сравниваем характеристики HitNet по классификации MNIST задача с базовыми моделями, чтобы показать, что HitNet производит многократно рядом с ультрасовременными спектаклями. Затем мы сравниваем выступления HitNet с воспроизведением экспериментов с CapsNet на нескольких наборы данных.

Описание сетей, использованных для сравнения

Мы сравниваем производительность HitNet с тремя другими сетями. для задачи классификации цифр MNIST.Ради справедливого сравнения, структура, подобная HitNet, максимально используется для эти сети. Во-первых, они сделаны из двух сверточных слои с 256 каналами (с шагом (1,1), затем (2,2)) и ReLU активации как для HitNet. Тогда первая сеть — N1:

• N1 (базовая модель, обычная CNN) имеет полностью связанный слой к вектору размерности 10, затем активация BN и Softmax, и оценивается с обычной категориальной кросс-энтропийной потерей.Без декодера используется.

Две другие сети, отмеченные N2 и N2b, имеют полностью связанный уровень в матрицу 10 × 16, за которой следует слой BN как N1 и HitNet, затем

• N2 (модель типа CapsNet) имеет активацию раздавливания. Евклидов расстояние с O: (0,…, 0) вычисляется для каждой капсулы, который дает выходной вектор модели ypred. Используется маржинальная потеря (центробежная) [22] ;

• N2b имеет сигмовидную активацию.Евклидово расстояние с C: (0,5,…, 0,5) вычисляется для каждой капсулы, что дает выходной вектор модель yпред. Потери маржи (центробежные) [22] используется.

Напомним, что HitNet по сравнению с N2 и N2b имеет сигмовидную активация, которая производит капсулы HoM. Расстояние L2 с C: (0,5,…, 0,5) вычисляется для каждой капсулы, который дает выходной вектор модели ypred, а центростремительные потери, определяемые уравнением 3, равны использовал. Сеть N2b протестирована, чтобы показать преимущества центростремительной подход HitNet к центробежному, независимо от раздавливание или сигмовидная активация.Также на этапе обучения декодер, используемый в HitNet, также используется с N2 и N2b.

Результаты классификации по MNIST

Каждая сеть обучается 20 раз в течение 250 эпох с Оптимизатор Adam с постоянной скоростью обучения 0,001, с пакетами 128 изображений. Изображения партии случайным образом смещаются вверх до 2

пикселей в каждом направлении (влево, вправо, вверх, вниз) с нулем заполнение как в

Результаты по эпохам представлены на рисунке 3. Коэффициенты ошибок четырех моделей представлены в таблице 1. и, как также видно на рисунке 3, они ясно указывают на то, что центростремительный подход HitNet лучше подходит, чем центробежный подход, независимо от активации использовал.Это наблюдение подтверждается, если используется функция сжатия. в HitNet, и в этом случае частота ошибок теста около 0,40% получается.

В таблице 1 столбец «Стандартное отклонение (Std) »представляет изменчивость, полученную в ошибке рейтинг среди 20 прогонов данной сети. Колонка «Неравномерность» относится к среднему (по 20 запускам) стандартного отклонения из последних 100 коэффициентов ошибок, зарегистрированных для каждого прогона. Низкая неравномерность представляет собой более «естественную» конвергенцию серий данного сети, поскольку она измеряет изменчивость частоты ошибок в пределах пробежка.Этот показатель имеет смысл в контексте постоянного обучения. скорость и отсутствие переоснащения, как наблюдалось с HitNet.

Оба эти показателя указывают на превосходную производительность при использовании HitNet, в том смысле, что существует лучшая естественная конвергенция связаны с центростремительным подходом (более низкая неравномерность) и более согласованные результаты между прогонами одной и той же модели (более низкий стандарт отклонение). Отметим, что все прогоны HitNet сходились и переобучения не наблюдается.Вопрос о сходимости не изучен в [22] и сеть остановлена до этого наблюдается расхождение в [17] .

Затем мы проводим те же эксперименты, но с уменьшающейся скоростью обучения, чтобы увидеть, как на результаты повлияет насильственная конвергенция. Скорость обучения умножается на коэффициент 0,95 в конце каждую эпоху. В результате сети легче стабилизируются вокруг локальный минимум функции потерь, улучшающий их общие характеристики.Можно отметить, что HitNet менее подвержен влиянию, что указывает на что HitNet сходится к аналогичным состояниям с уменьшением или без скорость обучения. Выводы такие же, как и ранее: HitNet работает лучше. Отметим, что в этом случае нерегулярность больше не полезно. Мы заменяем его лучшим полученным коэффициентом ошибок для конвергентной сети каждого типа.

Сравнение с отчетными результатами CapsNet по нескольким наборам данных

Что касается MNIST, лучшая частота ошибок теста указана в [22] составляет 0,25%, что получается при динамической маршрутизации и является средним всего 3 трассы.Однако, насколько нам известно, этот результат еще не быть подтвержденным, так как лучшие предварительные репродукции достигают ошибок которые сравниваются с нашими результатами, как показано в таблице 2. Отметим, что в [27] авторы сообщают коэффициент ошибок теста 0,21%, что является лучшим опубликованным показателем так далеко. Тем не менее, этот результат достигается с помощью комиссии для голосования. пяти сетей, которые были обучены случайным культурам, севообороту и масштабирование как процессы увеличения данных. Они достигают 0,63% без комитет и эти методы; если разрешены только случайные культуры (как здесь со смещением до 2 пикселей), они достигают 0.39%. Важно подчеркнуть, что такие реализации сообщают чрезмерно длительное время обучения, в основном из-за части динамической маршрутизации. Например, реализация [5] , похоже, посвящена В 13 раз медленнее, чем HitNet, при сопоставимой производительности. Таким образом, HitNet дает результаты, соответствующие текущему состоянию. художественные методы на MNIST, будучи простыми, легкими и быстрыми.

Результаты, полученные с помощью HitNet и полученные с помощью CapsNet. в разных источниках на Fashion-MNIST, CIFAR10, SVHN, affNIST есть также сравнивается в таблице 2.Для справедливого сравнения архитектура HitNet описана в разделе 2.1 остается нетронутым. Представленные результаты получены с постоянным скорость обучения и средняя частота ошибок на 20 запусках, как и раньше. Некоторые комментарии об этих экспериментах приведены ниже:

1. Fashion-MNIST: HitNet превосходит репродукции CapsNet, за исключением для [5] , но этот результат получается с горизонтальное переворачивание как дополнительный процесс увеличения данных.

2. CIFAR10: HitNet превосходит репродукции CapsNet.В результат, представленный в [22] получается с ансамблем 7 моделей. Однако отдельные выступления HitNet и репродукции не предполагают, что их объединение приводят к этому результату, как также предлагается в [31] , который достигает от 28% до 32% ошибок тестирования.

3. SVHN: HitNet превосходит CapsNet из [17] , который является единственным источником, использующим CapsNet с этим набором данных.

4. affNIST: HitNet превосходит результаты, представленные в [24] и даже в Sabour и др. .с комфортным запасом. Мы выполнили тот же эксперимент, что и описанный в [22] . Каждое изображение набора поездов MNIST размещается случайным образом (один раз и на все) на черном фоне 40 × 40 пикселей, что составляет обучающая выборка эксперимента. Изображения партий больше не смещается случайным образом на 2 пикселя в каждом направлении. После обучения модели тестируются на тестовом наборе affNIST, который состоит из в аффинных преобразованиях тестового набора MNIST. Отметим, что тест частота ошибок всего 2.7% получается, если изображения партий случайным образом сдвигаются на 2 пикселя в каждом направлении, как для предыдущие эксперименты.

3.2 Использование декодера для визуализации и гибридного увеличения данных

В этом разделе мы представляем некоторые результаты, относящиеся к разделу 2.2 об использовании декодера для создания прототипов, для обработки данных генерация и увеличение данных.

Создание прототипов, интерпретация функций и генерация данных

Как упоминалось в разделе 2.2, центростремительный подход придает особую роль центральной капсуле C: (0,5, …, 0,5) в том смысле, что его можно использовать для генерировать прототипы разных классов. Полученные прототипы из экземпляра HitNet, обученного MNIST, отображаются в Рисунок 4.

Тогда особенно легко визуализировать, что представляет каждый компонент. путем настройки компонентов C примерно на 0,5; там нет необходимости искажать реальные изображения, как в [22] . Кроме того, в нашем случае, как упоминалось в разделе 2.2, диапазон [0,5–2 м / √n, 0,5 + 2 м / √n] подходит для настройки параметры, в то время как эти диапазоны непредсказуемы с CapsNet и может варьироваться от одной функции к другой, как можно заключить из [23, 32] где капсулы класса не обязательно близки друг к другу.Диапазон рассматриваемый [0,5−2m / √n, 0,5 + 2m / √n] фактически подтвержден глядя на распределение отдельных воплощенных функций в капсулах. На MNIST HitNet фиксирует некоторые функции, которые позиционные характеристики, другие могут быть связаны с шириной шрифта или некоторых местных особенностей цифр, как в [22] . Отбор случайных капсул, близких к C для данного класса таким образом генерирует новые изображения, характеристики которых являются комбинацией характеристики обучающих образов.Таким образом, имеет смысл охватывают все капсулы обучающих образов этого класса выпуклым пространство, как это сделано с HitNet, чтобы обеспечить согласованность изображения создаются, в то время как CapsNet не гарантирует такое поведение ( [23, 32] ).

Отметим, что, как подчеркнуто в [17] , реконструкции полученный для Fashion-MNIST не хватает деталей, а также CIFAR10 и SVHN — это как-то размытый фон; это также относится к прототипы. Мы считаем, что как минимум три фактора могут обеспечить объяснение: декодер слишком мелкий, размер капсул слишком коротка, и тот факт, что декодер должен восстановить изображение целиком, включая фон, что контрпродуктивно.

Гибридное увеличение данных

Качество данных, сгенерированных, как описано выше, зависит от нескольких факторы, такие как количество извлеченных функций и качество декодера. Учитывая ограниченный объем информации, то есть капсулы размером

Классификационные характеристики могут быть незначительно увеличены с этим процесс увеличения данных, поскольку выяснилось, что сети обучались из царапины на таких данных (постоянно генерируемые на лету) выполняются незначительно лучше, чем при обучении на исходных данных. По MNIST средний частота ошибок на 20 моделях снизилась до 0,33% при постоянном скорость обучения и до 0.30% при снижении скорости обучения. В В наших экспериментах 3 из этих моделей сходились к 0,26%, одна сошлась до 0,24%. Некоторые прогоны достигли 0,20%

частота ошибок теста в некоторые эпохи. Если повезет, слепой отбор одного обученного Таким образом, сеть может привести к новому уровню техники, даже если она известно, что результаты классификации цифр MNIST, вероятно, не будут достичь лучших результатов из-за несоответствий в наборе тестов. Средняя частота ошибок теста на Fashion-MNIST снижается на

3.3 Анализ обучающей выборки и обнаружение изображений с неправильной маркировкой с капсулами-призраками

В этом разделе мы проиллюстрируем использование капсул-призраков, описанных в разделе 2.3 для анализа обучающей выборки MNIST и обнаруживать потенциально ошибочные метки. Обучаем HitNet 20 раз с помощью GC, что дает нам 20 моделей, и мы исследуем 20 GC связаны с каждым изображением этих моделей.

Соглашение между моделями

Сначала исследуем соответствие моделей о 20 GC. классы, выбранные для каждого изображения.Для этого исследуем распределение количества различных классов Nc отдано 20 GC каждого изображения. Похоже, что 20 моделей все согласны (Nc = 1) на один и тот же класс GC для 28% обучающих образов, что составляет 16.859 изображений.

Чтобы уточнить наш анализ, мы сосредоточимся на 16,859 изображений, которые все их GC находятся в одном классе (Nc = 1) и которые потенциально могут сделать несколько хитов. У этих изображений есть пара (истинный класс, класс GC) и их распределение предполагает, что некоторые пары с большей вероятностью встречаются, например, (3,5) для 2333 изображений, (4,9) для 2580 изображений, (7,2) для 1360 изображений, (9,4) для 2380 изображений, что дает проблеск классов, которые могут быть перепутаны модели.Путаница могут возникнуть из-за ошибок в истинных этикетках, но поскольку эти цифры получены на основании договоренности 20 моделей, обученных из одной сетевой структуры, это может также указать ограничения самой сетевой структуры в ее способность определять разные классы. Однако более глубокий анализ необходимо, чтобы определить, указывают ли эти числа на реальную путаницу или нет, то есть какие из них бьют, а какие нет.

На данный момент мы знаем, что для этих 16.859 изображений, 20 моделей договориться об одном классе GC (Nc = 1). Мы можем проверить, если 20 моделей согласны с их расстоянием от C для их класс. Для этого для каждого изображения мы вычисляем среднее значение и стандартное отклонение его 20 GC расстояний от C. Интересное наблюдение: когда среднее расстояние становится ближе к порогу зоны поражения (m = 0,1), то стандартное отклонение уменьшается, что указывает на стремление всех моделей к согласию Дело в том, что хит нужен. Это особенно интересно в случай неправильно маркированных изображений (примеры приведены ниже, на рисунке 6).Действительно, если изображение «4» помечено как «5» (путаница), не только 20 моделей могут обеспечить 20 GC с один и тот же класс (здесь «4»), но все они также добьются успеха в этом класс «4» и таким образом идентифицировать его как весьма сомнительное изображение.

Обозначение недостоверных изображений

Теперь мы можем сузить анализ до изображений, которые наиболее могут быть неправильно маркированы, то есть те, у которых среднее расстояние меньше чем м; осталось всего 71 такое изображение. Связанные пары (истинный класс, класс GC) приведены в таблице 4.Из ожидаемых недоразумений, упомянутых выше (3,5), (4,9), (7,2), (9,4), мы видим, что (7,2) на самом деле не так много представлено в данном случае, в то время как пары (1,7) и (7,1) существовали в большей пропорции, и что пары (4,9) и (9,4) учитывают для почти половины интересующих изображений.

Последнее уточнение, которое мы делаем, — это взгляд на количество совпадений среди 20 GC из этих 71 изображения.Мы знаем, что их среднее расстояние от C меньше m, но это не означает расстояние и стандартное отклонение четко указывают, сколько из 20 моделей на самом деле являются хитом для 71 изображения. Кажется что все эти изображения имеют не менее 55% (11/20) их GC в зоне попадания и что более 75% (55/71) изображений имеют успех не менее 75% (15/20) моделей, что означает что когда среднее расстояние меньше м, это результат сильного согласия между моделями.Наконец, 71 изображение, отсортированные по количеству совпадений, представлены на рисунке 6. Указаны истинная метка, класс GC и количество совпадений. для каждого изображения. Некоторые из этих изображений явно неправильно маркированы, а некоторые ужасно сбивают с толку, выглядя почти одинаково, но с разными метки, объясняющие выбранный класс GC и количество обращений полученный. Преследуя другую цель, метод DropMax использованный в [13] позволил авторам идентифицировать «жесткие случаев »обучающей выборки, которые входят в число представленных 71 изображений. на рисунке 6.

Следуя тому же процессу, что и выше, мы используем капсулы-призраки с SVHN. Опять же, мы можем обнаруживать изображения с явно неверной маркировкой, например показано на рисунке 6. Кроме того, в этом случае использование капсул-призраков позволяет нам обнаруживать изображения, которые заслуживают несколько этикеток, так как на изображениях присутствует несколько цифр, как показано на рисунке 6.

Капсулы Ghost могут использоваться в других контекстах. Например, мы могли бы представьте, что человек-аннотатор колеблется между двумя классами в процесс маркировки, потому что изображение сбивает с толку.Аннотатор выбирает один класс и призрачная капсула устраняет путаницу, потенциально выбор другого класса без ущерба для сети. В другой сценария, несколько аннотаторов могут дать две разные метки для тот же образ. Мы могли бы справиться с этим потенциальным конфликтом с помощью капсул-призраков, сначала присвоив изображению одну из меток, предложенных аннотаторы ( например, . наиболее рекомендуемый), затем обучение сети и наконец, проверка, связана ли призрачная капсула этого изображения с другим предложенным ярлыком и, если да, то будет ли он популярным или нет.

4 Заключение

Мы представляем HitNet

, сеть глубокого обучения, характеризующуюся использование слоя Hit-or-Miss, состоящего из капсул, которые сравниваются к центральным капсулам через новую центростремительную потерю. Идея в том, что капсула, соответствующая истинному классу, должна попасть в свой целевое пространство, а другие капсулы должны промахнуться. Новинки находятся в переосмыслении и использовании слоя HoM, который дает новое понимание того, как использовать капсулы в нейронных сетях.Помимо, мы представляем две дополнительные возможности использования

В наших экспериментах мы демонстрируем, что HitNet может достижение самых современных показателей по классификации MNIST задача с мелкой архитектурой, и HitNet превосходит результаты воспроизведены с помощью CapsNet на нескольких наборах данных, при этом как минимум в 10 раз быстрее. Конвергенция HitNet делает не нужно заставлять механизм снижения скорости обучения для достижения хорошие выступления. HitNet, похоже, не страдает от переобучения, и обеспечивает небольшую вариативность результатов, полученных из нескольких бежит.Мы также показываем, как можно построить прототипы как представители класса. и мы проиллюстрируем гибридный процесс увеличения данных для создания новые реалистичные данные. Этот процесс также можно использовать для незначительного увеличения классификационные характеристики. Наконец, мы рассмотрим, как капсулы-призраки помогают выявить подозрительные метки в обучающем наборе, что позволяет для точного определения изображений, которые следует внимательно рассматривать во время обучения процесс.

Будущие работы

Что касается классификационных характеристик, одна из Основные преимущества уровня HoM в том, что он может быть включен в любая другая сеть.Это означает, что часть HitNet используется для расчета карт функций, которые полностью подключены к HoM, могут быть заменены более сложными сетями для повышения производительности по более сложным задачам.

Аналогичным образом были выполнены прототипы и все реконструкции. декодером можно улучшить, используя более продвинутый декодер подсеть и капсулы с большим количеством компонентов. В реальных случаях таких как CIFAR10 и SVHN, также может быть полезно различать между интересующим объектом и фоном.Например, особенности предназначен только для воссоздания фона. Если сегментация есть маски, можно также использовать капсулы для реконструкции интересующий объект на сегментированном изображении, или просто сегментация маска. Можно также вообразить, как добавить разный вес к функциям захвачены капсулами, так что те, которые не пригодны для классификации используются только при реконструкции. Гибкость HoM позволяет легко реализовать такие идеи.

Что касается капсул-призраков, они могут использоваться для выполнения встроенных топ-k классификации, используя k призрачных капсул в тренировке процесс.В задаче бинарной классификации их можно было использовать только после заданного количества эпох, что имеет больше смысла, чем использование их в начале обучения. Капсула-призрак также могла генерировать некоторый убыток, но с заданной вероятностью учитывать тот факт, что он не соответствует истинному классу, и что должны быть как-то наказаны.

Сравнение результатов с другими наборами контрольных данных поможет продвинуть HitNet в ближайшем будущем.

Благодарности

Мы благодарны М.Брахаму за знакомство с работой Sabour et al. и за все плодотворные обсуждения.

Это исследование поддержано валлонским проектом DeepSport. регион, Бельгия. А. Чоппа имеет грант, финансируемый FRIA, Бельгия. Также благодарим NVIDIA за поддержку.

Глубокая морфологическая нейронная сеть с методом случайного преобразования

Аннотация

Нейронные сети продемонстрировали прорывные результаты во многих областях применения. Хотя большинство архитектур построено на предпосылке свертки, альтернативные основы, такие как морфология, исследуются по таким причинам, как интерпретируемость и ее связь с анализом и обработкой геометрических структур.Здесь мы исследуем новые глубокие сети, основанные на морфологическом преобразовании «ударил или промахнулся». При измерении пригодности целевой формы на изображении учитывается как передний, так и задний план. Мы выявляем ограничения текущих определений типа «случайный или неудачный» и формулируем задачу оптимизации, чтобы изучить преобразование. Наш анализ показывает, что свертка, по сути, действует как преобразование попадания через семантическую интерпретацию различий в фильтрах. По аналогии с обобщенным преобразованием по методу «попадал или промах» мы также вводим расширение свертки и показываем, что оно превосходит обычную свертку на наборах данных тестов.Мы провели эксперименты на синтетических и контрольных наборах данных и показали, что прямое кодирование по принципу «попадал или промах» обеспечивает лучшую интерпретируемость выученных форм, согласующихся с объектами, тогда как наша морфологическая обобщенная свертка дает более высокую точность классификации.

Глубокое обучение, морфология, случайное преобразование, свертка, сверточная нейронная сеть

Введение

Глубокое обучение продемонстрировало высокую точность прогнозирования в широком спектре приложений.Примечательно, что он достиг, а в некоторых случаях превзошел производительность человеческого уровня во многих когнитивных задачах, например, в классификации, обнаружении и распознавании объектов, семантической сегментации и сегментации экземпляров, а также в прогнозировании глубины. Частично этот успех можно отнести к способности нейронной сети (NN) создавать произвольные и очень сложные функции путем композиции простых функций, что делает ее мощным инструментом машинного обучения.

На сегодняшний день современные алгоритмы глубокого обучения в основном использовать свертку в качестве основной операции, отсюда и название сверточной нейронной сети (CNN).Свертка имеет богатую и достойную историю обработки сигналов / изображений, например, извлечение низкоуровневых функций, таких как края, фильтрация шума (фильтры нижних / верхних частот), частотно-ориентированная фильтрация с помощью Габора и т. Д. В непрерывном пространстве это определяется как интеграл двух функций — изображения и фильтра в контексте обработки изображений — после того, как одна из них перевернута и сдвинута, тогда как в дискретном пространстве интеграл реализуется посредством суммирования. CNN постепенно изучают более сложные функции в более глубоких слоях с функциями низкого уровня, такими как края в более ранних слоях и более сложные формы в более поздних слоях, которые состоят из элементов в предыдущем слое.Одним из сильных аргументов против свертки является то, что ее фильтр не поддается интерпретируемой целевой форме. Поскольку свертка является корреляцией с фильтром, обращенным во времени / пространстве, веса фильтра не обязательно указывают абсолютные интенсивности / уровни в форме. Вместо этого они означают относительную важность. В последнее время некоторые исследования, такие как управляемое обратное распространение [26] и отображение значимости [23] , направлены на объяснение CNN. Однако их объяснения зависят от входного изображения и изученных фильтров.Сами по себе фильтры не объясняют изученную модель.

В отличие от свертки, операции, основанные на морфологии, поддаются интерпретации, хотя они были лишь слегка изучены и исследованы в контексте глубоких нейронных сетей [17, 7, 32, 31, 34, 27, 12, 22, 4, 10 , 14, 29, 19] . Морфология основана на теории множеств, теории решеток, топологии и случайных функциях и использовалась для анализа и обработки геометрических структур [21, 2, 28, 1, 11, 33, 30, 20, 8, 25] .Самыми фундаментальными морфологическими операциями являются эрозия и расширение, которые можно комбинировать для создания более сложных операций, таких как открытие, закрытие, морфологический градиент и преобразование «ударил или промахнулся». Эрозия и расширение оттенков серого используются для нахождения минимального смещения, с которым передний план и фон целевого рисунка вписываются в изображение, таким образом обеспечивая абсолютную меру соответствия в отличие от относительной меры сверткой и облегчая изучение интерпретируемых SE.

Недавно было предложено несколько глубоких нейронных сетей, основанных на морфологических операциях, таких как расширение, эрозия, открытие и закрытие [17, 18] .В [17] , Mellouli et al. исследовали псевдорасширение и псевдоэрозию, определенные в терминах взвешенного противогармонического среднего, которое может быть выполнено как отношение двух операций свертки. Однако их сеть — это не сквозная морфологическая сеть, а скорее гибрид традиционной свертки и псевдоморфологических операций. В [18] , Nogueira et al. предложили нейронную сеть, основанную на бинарном структурном элементе (SE), состоящем из единиц и нулей, указывающих, какие пиксели соответствуют целевому шаблону.Предлагаемая ими реализация для реализации этого двоичного SE требует большого количества параметров, в частности, s2 двоичных фильтров размера s × s только для представления одного s × s SE; что делает этот метод дорогим с точки зрения хранения и вычислений и не подходит для глубокого обучения. Кроме того, они не проводили никаких экспериментов и не предоставляли результаты для популярных наборов данных тестов компьютерного зрения (например, MNIST или Cifar). Что еще более важно, ни один из этих алгоритмов одновременно не применяет расширение и эрозию к изображению, чтобы учесть как передний, так и задний план.В морфологическом сообществе для этого существует хорошо известная операция, называемая преобразованием попаданий.

После успеха нейронных сетей с общим весом на основе свертки в задачах распознавания рукописных цифр в 1990 году, Gader et al. представила обобщенную сеть преобразования по принципу «попадал или промах», называемую сетью алгебры изображений [5] . Позже при обнаружении цели [31] было применено стандартное преобразование попадания или промаха. Во всех этих методах использовались два SE, одна для попадания, чтобы найти «соответствие» изображения относительно целевого переднего плана, а другая для промаха, чтобы найти «соответствие» относительно целевого фона.Однако существующие определения не включают условие, что пересечение SE попаданий и промахов должно быть пустым. Несоблюдение этого условия может привести к семантически несовместимым и неинтерпретируемым SE. Чтобы справиться с этой проблемой, мы выдвинули задачу оптимизации, обеспечивающую выполнение условия непересечения.

Однако рассмотрение только переднего плана и фона недостаточно для описания целевой формы. Нам также требуется «Без забот» (DNC), который обозначает области SE, которые не имеют отношения к обнаружению целевого паттерна.Хотя двоичная морфология рассматривает нули как DNC и игнорирует их во время вычислений, расширение шкалы серого, к сожалению, учитывает все элементы, включая нули. Поэтому мы предлагаем новое расширение для преобразования «попадал или промах», которое позволяет ему описывать форму в градациях серого в терминах релевантных и нерелевантных элементов (например, DNC). Кроме того, мы предоставляем условия, которые заставят элементы в соответствии с обычным определением «попадание или промах» действовать как DNC, и мы показываем, что допустимые диапазоны для целевых и DNC-элементов являются прерывистыми.Это ограничение создает проблему для обучения на основе данных с использованием градиентного спуска, который требует, чтобы переменные находились в (ограниченном или неограниченном) непрерывном пространстве. В результате мы предлагаем преобразования типа «ударил или пропустил», которые неявно обеспечивают выполнение условия непересечения и обращаются к DNC.

Наконец, хотя свертка может действовать как преобразование типа «ударил или промахнулся» — когда ее «положительные веса фильтра» соответствуют переднему плану, «отрицательные веса» — фону, а нули для DNC — она ​​отличается в некоторых важных аспектах.Например, элементы в SE типа «хит-или-промах» указывают абсолютные уровни интенсивности в целевой форме, тогда как веса в фильтре свертки указывают относительные уровни / важность. Другое отличие состоит в том, что операция суммирования придает одинаковую важность всем операндам по сравнению с max (или min) в преобразовании «попадание или промах». Мотивированные введением обобщенного метода совпадения или промаха, мы предлагаем расширения свертки, называемые далее обобщенной сверткой, путем замены суммы обобщенным средним.Использование параметрического обобщенного среднего позволяет выбрать, как значения в локальной окрестности вносят вклад в результат; например, все вносят одинаковый вклад (как в случае среднего) или только один приводит к результату (как в max), или что-то среднее. При соответствующем выборе этого параметра производительность может быть значительно улучшена, как показали наши эксперименты.

Хотя свертка, так же как и преобразование типа «попадание или промах», учитывает передний план, фон и DNC, они различаются способом оценки пригодности.Например, свертка использует относительную меру, в то время как случайная ошибка — абсолютная. Естественно возникает вопрос: как эта разница влияет на производительность по двум аспектам усвоенной модели: объяснимости и точности. Наш анализ показывает, что морфология обеспечивает лучшую интерпретируемость за счет использования абсолютной меры, в то время как свертка дает более высокую точность, поскольку относительная мера более надежна.

Наша статья вносит следующие вклады.

• Мы выявляем ограничения в текущем определении случайного совпадения оттенков серого и формулируем оптимизацию для правильного изучения преобразования в нейронной сети.

• В свете этой оптимизации мы предлагаем алгоритм для изучения преобразования «попадал или промах», а также его обобщение.

• Мы расширяем «обычную свертку», используемую в большинстве нейронных сетей, заменяя операцию суммирования параметрическим обобщенным средним.

• Наборы синтетических и эталонных данных используются для демонстрации поведения и эффективности предложенных теорий в количественном и качественном отношении.

Остальная часть статьи организована следующим образом. В разделе II мы даем обозначения и определения морфологических операций бинарных и полутоновых изображений. Раздел III знакомит с проблемой оптимизации, алгоритмом обучения, нашим обобщением преобразования «ударил или промахнулся» и нашим расширением свертки, а также с экспериментами и результатами в разделе IV.

Ii Двоичная морфология и морфология в градациях серого

Во-первых, мы кратко рассмотрим определения, относящиеся к бинарной морфологии, чтобы понять основы морфологических операций и их семантическое значение, относящееся к обработке изображений.Самыми основными из морфологических операций являются растяжение и эрозия, которые в сочетании с алгебраическими операциями (например, сумма) могут создавать более сложные морфологические операции, такие как открытие, закрытие, преобразование по принципу «ударил или промахнулся», цилиндр, истончение, утолщение и скелет , назвать несколько.

Ii-a Бинарная морфология

Бинарная морфология основана на теории множеств. Пусть Z — набор целых чисел.

Определение 1.

(Расширение) Пусть A изображение, B SE и A, B∈Z2.B — это отражение B относительно его начала координат, а (B) z — перенос B на z [6, 3] .

Как показано в приведенном выше определении, операция расширения включает в себя отражение B и последующее смещение отраженного B на z. Расширение A на B — это набор всех перемещений z, таких что B и A перекрываются хотя бы одним элементом. Множество B часто называют структурирующим элементом (SE).

Определение 2.

(Эрозия) Пусть A изображение, B SE и A, B∈Z2.Тогда размытие A через B, обозначенное A⊖B, равно

, где (B) z — перевод B на z [6, 3] .

Приведенное выше уравнение показывает, что A⊖B — это набор всех точек, таких что B, переведенный на z, содержится в A.

SE могут быть «неплоскими», если грузы неоднородны, или плоскими, если грузы однородные. С «плоскими» SE, особенно когда элементы являются нулями, расширение — это максимальное значение пикселей изображения в окне, эрозия — это минимум в окне.Таким образом, расширение и эрозия становятся статистикой порядка с элементами плоской структуры.

Это хорошо известный факт, что расширение и эрозия двойственны друг другу в отношении дополнения и отражения.

, где Ac является дополнением к A. Аналогично,

Морфологическое преобразование типа «попадал или промах» — это метод обнаружения формы, который одновременно сопоставляет формы переднего и заднего плана изображения.

Определение 3.

(бинарный хит или промах) Бинарное преобразование попадания или промаха w.r.t. SE H и M, удовлетворяющие H∩M =, равно

где H — это набор, связанный с передним планом или объектом, а M — это набор элементов, связанных с соответствующим фоном.

Таким образом, A⊙ (H, M) находит все точки (истоки переведенных структурных элементов), в которых одновременно H нашел совпадение («совпадение») в A, а M нашел совпадение в Ac. Используя двойную взаимосвязь между эрозией и расширением, уравнение преобразования «попадал или промахнулся» в качестве альтернативы можно записать как

где ∖ — операция задания разности (A ∖ B = A∩Bc).

Хотя очевидно из Def. 3, мы подчеркиваем, что пересечение множеств, которые определяют передний план (он же попадание) и фон (он же промах), должно быть нулевым или пустым, то есть как H (x, y), так и M (x, y) в заданном месте ( x, y) не может быть 1. Это связано с тем, что элемент в целевой структуре может рассматриваться как передний план, фон или DNC (элемент не является частью целевой структуры и определяется нулями как в SE, так и в SE), но он не могут быть одновременно передним и фоном. Проиллюстрируем все эти случаи (например,g., непересекающиеся и пересекающиеся SE) с примерами на рис. (1). Таблица I показывает комбинацию значений попаданий для бинарной морфологии.

Ii-B Морфология оттенков серого

Пусть f — изображение в градациях серого, b — элемент структурирования, а f (x, y) — интенсивность оттенков серого в местоположении (x, y).

Определение 4.

(Расширение оттенков серого) Расширение оттенков серого для f посредством b, обозначаемого как f⊕b, составляет [6]

где Df и Db — области f и b соответственно.

Кстати, есть параллель между двумерной сверткой и растяжением, когда сумма заменяет произведение, а максимальное — сумму.

Определение 5.

(Эрозия в градациях серого) Размытие в градациях серого для f на b, обозначенное как f⊖b, определяется как

где Df и Db — это домены f и b, соответственно [6] .

С другой стороны, существует параллель между двумерной корреляцией и эрозией, когда сумма заменяет произведение, а когда min заменяет сумму.

Как отмечено в [3, 5] , преобразование тени обеспечивает теоретическую основу для расширения шкалы серого для морфологических операций, предоставляя механизм для выражения операций шкалы серого в терминах бинарных операций. Заинтересованные читатели могут обратиться к [3, 5] для теории и доказательства расширения.

Основное различие между бинарной морфологией и морфологией в градациях серого заключается в том, что в отличие от бинарных морфологических операций, в морфологии в градациях серого нет явных условий DNC, т.е.е. все элементы, включая элементы с нулями, вносят вклад в результаты. Таким образом, необходимо создать механизм, позволяющий различать целевые пиксели и DNC. В идеале элементы DNC могут быть указаны с помощью −∞, что приведет к максимальному значению эрозии и минимальному значению для расширения и, таким образом, никогда не повлияет на результат. Несмотря на то, что он подходит для ручного проектирования SE, может оказаться невозможным изучать элементы с −∞-значениями в контексте обучения, управляемого данными, если не наложены некоторые ограничения.Вместо этого SE могут быть спроектированы таким образом, что некоторые из элементов могут действовать как DNC, устанавливая для этих элементов очень низкое значение по сравнению с элементами соседства, чтобы разница всегда была высокой и, как таковая, никогда не переносилась на результат. Таким образом, фильтры могут быть спроектированы так, чтобы DNC автоматически применялся с помощью соответствующего выбора значений. В качестве альтернативы уравнение эрозии можно переписать, чтобы учитывать только элементы переднего плана, как в бинарной морфологии.

Затем мы находим условие, при котором элемент в SE эрозии действует как DNC.Пусть I — изображение в интервале [lbI, ubI]. Кроме того, пусть h будет SE эрозии с элементами переднего плана в интервале [lbhf, ubhf] и элементами DNC в интервале [lbhd, ubhd]. Тогда максимально возможное значение для переднего плана будет vmax = ubI − lbhf. Мы хотим, чтобы DNC производил больше, чем vmax для самого низкого значения изображения, lbI. Это дает нам lbI − d≥vmax или d≤lbI − ubI + lbhf, где d — элемент DNC. Следовательно, ubhd = lbI − ubI + lbhf и lbhd = −∞. Поскольку lbI-ubI <0 для изображения в оттенках серого, ubhd

Преобразование попадания или промаха для оттенков серого определено в литературе в терминах уравнения. (1), заменяя операцию набора разностей операцией арифметического вычитания.

Определение 6.

(Преобразование «Попадание или промах» в оттенках серого) Преобразование «попадание или промах» в оттенках серого равно

где mr — отражение m, то есть mr (x, y) = m (−x, −y), что дает

где (x + a), (y + b) ∈Df, а Df, Dh и Dm — области значений f, h и m, соответственно [6] .

Пусть h и m — SE с неотрицательными весами. SE попаданий и промахов вместе определяют целевой шаблон с попаданием, указывающим на передний план, и SE промаха, указывающим на фон. Например, если h (x, y)> m (x, y) в местоположении (x, y) — то этот пиксель обрабатывается больше как передний план, чем как фон, и наоборот.

Как и в двоичном случае, фильтры должны быть непересекающимися, т.е. удовлетворять следующим ограничениям:

где hc и mc являются дополнением к h и m соответственно. Это условие предотвращает противоречие между SE попаданий и промахов.Согласно этому условию, если h (x, y) = 0,9, то m (x, y) должно быть меньше 1-0,9 или 0,1 для изображения с единичным интервалом.

Ii-C Свойства морфологических операций

Как эрозия в градациях серого, так и расширение, а также преобразование типа «попадал или промах» инвариантны к трансляции, т.е.

, где c — произвольное значение. Обратите внимание, что эти операции, как видно из формул. (2) и (3) не масштабно инвариантны. Напротив, свертка инвариантна к масштабу, но не инвариантна к трансляции.

IV эксперименты

Чтобы сравнить предлагаемые нами алгоритмы со стандартными аналогами, мы рассматриваем как синтетические, так и реальные наборы данных.Синтетический набор данных состоит из простой задачи классификации с двумя объектами фиксированной формы, при этом все методы могут правильно классифицировать все объекты на одном уровне, что позволяет нам визуализировать и интерпретировать изученные SE и пролить свет на внутреннюю работу этих алгоритмов.

Мы оцениваем производительность предложенных нами алгоритмов с точки зрения точности классификации на двух тестовых наборах данных с различным контекстом, формой и размером — от объектов приблизительно фиксированного размера и жесткой формы с постоянным фоном в Fashion-MNIST до сложного фона, различного размера. , а фигурные предметы в Цифар-10.

Поскольку наша цель — сравнение различных операций изучения функций, а не других аспектов глубокого обучения, таких как архитектура или алгоритмы оптимизации, мы выбираем небольшой VGG-подобная архитектура [24] с 4 уровнями, называемая mini-VGG (см. Ее архитектуру в таблице IV). Эта небольшая сеть NN также позволяет нам иметь одну и ту же настройку (например, гиперпараметры и алгоритм оптимизации) для всех экспериментов, включая свертку и стандартный метод совпадений. Во-первых, мы проводим анализ различных стратегий инициализации, а затем экспериментируем с преобразованием по принципу «попадал или промах», сверткой и их расширениями.Мини-ВГГ (4 слоя NN)

• HMC обозначает базовую операцию, специфичную для конкретной сети, например свертку в CNN и совпадение или промах в морфологической NN;

IV-a Синтетический набор данных

Этот набор данных состоит из двух объектов, сплошного круга и кольцевого кольца с полостью в центре, на сетке 28 × 28, как показано в крайнем левом столбце на рис. 3. Двести изображений из каждого класса были сгенерированы возмущением эти изображения с гауссовым шумом со стандартным отклонением 0.03. Однослойная NN с двумя фильтрами преобразования / свертки 28 × 28 без заполнения была оптимизирована пакетно с использованием градиентного спуска со скоростью обучения 0,01 и импульсом 0,9 для 1000 эпох. Сеть была инициализирована с фиксированным значением 0,01 для преобразований типа «попадание или промах» DF; и -0,01 и 0,01 для свертки и преобразования SF по совпадению. В качестве функции потерь мы использовали средний квадрат ошибки.

На рис. 3 показаны изученные фильтры / SE. Поскольку свертка сама по себе является линейной операцией, мы также включили свертку + ReLU, чтобы сделать ее нелинейной и, таким образом, сравнимой с нелинейными преобразованиями типа «попадание или промах».Как мы видим, свертка + ReLU изучает форму только одного класса, кольцевого кольца, с формой переднего плана, полым кольцом для попадания и сплошным кругом того же размера, что и отверстие в кольце для промаха. Фильтры для класса сплошной окружности прямо противоположны фильтрам для кольцевого кольца. Фактически, свертка принимает решение на основе того, присутствует ли кольцо во входном изображении или отсутствует, действуя как относительная мера, а не находя меру сходства с соответствующей формой объекта. Сравните эти фильтры с этими SE для стандартного преобразования типа «пробил или промахнулся».Выученные формы теперь соответствуют объектам класса, например, круг и перевернутый круг для попадания и промаха для объекта сплошного круга; и кольцо и перевернутое кольцо для кольцевого кольцевого объекта. Выполнение условия непересечения помогает лучше изучить сплошную окружность, а кольцевую — хуже. Добавление DNC делает фильтры разреженными. Преобразование «попадание или промах» в SF дает очень редкие SE, например, SE для сплошного круга включают в себя несколько точек, близких к центру в ударе и на внешней стороне в случае промаха, и их достаточно для обнаружения сплошного круга.Обратите внимание, что из-за дискриминационного характера обучения точное соответствие не требуется для получения максимальной точности классификации. Следовательно, крапинки внутри SE / фильтра могут иметь значение и могут быть устойчивыми к шуму и несовершенствам входного изображения.

Наборы данных IV-B Benchmark

Сначала мы даем краткое описание наборов данных, используемых в этом эксперименте.

Fashion-MNIST Этот набор данных состоит из изображений модных товаров 10 классов; футболка / топ, брюки, пуловер, платье, пальто, сандалии, рубашка, кроссовки, сумка и ботильоны.Этот набор данных похож на MNIST с точки зрения количества примеров, размера изображения, раздела обучающего теста и количества классов.

Cifar-10 Этот набор данных состоит из 60000 цветных изображений 32 × 32 в 10 классах, по 6000 экземпляров на класс. Набор данных разделен на обучение и тестирование с 50 000 и 10 000 примеров соответственно.

Влияние инициализации

Мы рассматриваем три распределения: равномерное, нормальное и полунормальное с разными параметрами.Мы оптимизируем miniVGG со стандартным преобразованием «попадал или промах» для 70 эпох, используя оптимизацию Адама [15] со скоростью обучения 0,001 и размером пакета 64. Наилучшая точность классификации тестов для каждого эксперимента приведена в таблице III.

Как видно из Таблицы III, инициализация может иметь большое значение. Например, использование нормального распределения вместо равномерного увеличивает точность на 20% для набора данных Cifar-10. Полунормальное распределение увеличивает производительность еще на 3.61%. Это улучшение можно объяснить тем фактом, что нормальное распределение имеет высокую плотность около средней точки. Напротив, полунормальный имеет высокую плотность на нижнем конце, что способствует разреженной оптимизации, поскольку меньшее количество элементов будет способствовать ошибке. Принятие условия инициализации, изложенного в Приложении -B, дает лучший результат.

случайное преобразование и свертка

Схема эксперимента такая же, за исключением того, что используется 150 эпох по сравнению с 70 в предыдущих экспериментах.Мы использовали инициализацию Kaimiing [9] для свертки. Для DNC мы использовали порог th = 0,0.

Как видно из Таблицы IV, попадание на переднем плане является лучшим предиктором (точность 56% на Cifar-10), чем промах на заднем плане (53,1%). Стандартное преобразование «попадал или промах» еще больше повышает производительность на 16,16%, демонстрируя важность как переднего, так и заднего плана в обнаружении объектов. Однако точность остается более или менее такой же для предлагаемого метода после включения условия непересечения и DNC.Несколько факторов влияют на производительность: (i) добавление условия непересечения делает задачу оптимизации более ограниченной, что ослабляет ее аппроксимирующую способность для изучения произвольной функции, и (ii) пространство DNC является прерывистым, когда во время оптимизации не происходит обновление, что ограничивает его способность изучать правильные SE.

В то время как преобразование «попадание или промах» позволяет изучать интерпретируемую SE, свертка превосходит все варианты преобразования «попадание или промах». Этот выигрыш в производительности за счет свертки частично объясняется его превосходной способностью аппроксимировать произвольную функцию, как указано в универсальной аппроксимационной теореме.Таким образом, можно найти компромисс между интерпретируемостью и точностью и выбрать соответствующую операцию, подходящую для задачи.

SHM и GC

В Таблице V представлены результаты для расширений преобразования по типу «попадал или промах» и свертки. Ослабление максимальных / минимальных значений в преобразовании «попадал или промах» с помощью более мягкого оператора усреднения увеличивает производительность SHM, хотя по-прежнему отстает от стандартной свертки. Результаты GC1 находятся на том же уровне, что и свертка.GC2 лидирует в таблице с точностью 94,66 для Fashion-MNIST и 88,29 для Cifar-10. Эти результаты показывают, что расширения в целом улучшают результаты, которые достигают максимума где-то между α = 0 и ± ∞.

Все эти эксперименты имеют общую историю, заключающуюся в том, что свертка и преобразование типа «пробил или пропустил» очень близки по точности для более простых задач классификации (Fashion-MNIST), но разрыв становится шире для сложных задач со сложными объектами (Cifar-10) . Этот разрыв в производительности обусловлен множеством факторов, однако основные причины можно отнести к (i) лежащей в основе теории измерения абсолютной пригодности, которая позволяет изучать объяснимые фильтры, но работает как препятствие для достижения максимальной производительности, и (ii) сложности оптимизация с DNC.

V Заключение и дальнейшая работа

В этой статье мы представили углубленный анализ теории морфологии оттенков серого, пролив критический взгляд на ее ограничения и сильные стороны. Мы также исследовали применение морфологической операции, а именно преобразование «попадал или промах», который учитывает как передний, так и задний план при измерении соответствия целевого шаблона на изображении. В отличие от бинарной морфологии, обычные морфологические операции с градациями серого учитывают все пиксели, независимо от их соответствия целевой форме.Более того, SE для попаданий и промахов не должны пересекаться, но не учитываются в стандартном определении. Таким образом, мы предлагаем улучшить учет этих свойств методом случайного преобразования.

Мы обрисовали в общих чертах проблему оптимизации для надлежащего изучения семантически значимых и интерпретируемых SE. Следуя этой формулировке, мы предоставили два алгоритма для преобразования типа «попадание или промах» с одной и двумя SE. Поскольку максимальные и минимальные значения в уравнении случайного совпадения слишком ограничительны и чрезмерно чувствительны к вариациям и флуктуациям входных данных, мы ослабили эти операторы параметрическим обобщенным средним значением, получив гибкое и более мощное преобразование, которое приводит к большей точности классификации.В том же духе мы также расширяем свертку, которая превосходит стандартную свертку на тестовых наборах данных.

Наш анализ и экспериментальные результаты показывают, что как преобразование «попадал или промах», так и свертка учитывают как фон, так и передний план, однако они различаются в том отношении, что первое обеспечивает абсолютную меру, а вторая — относительную. Эти различия влияют на их возможности с точки зрения интерпретируемости и надежности. Поскольку лучшая интерпретируемость зависит от абсолютного измерения, морфология в этом отношении ведет к свертке.С другой стороны, относительные меры более грубые, поэтому свертка превосходит морфологию по точности классификации.

Мы ограничиваем фокус данной статьи на применении морфологической операции в глубоком обучении. В будущем мы изучим, как объяснить морфологическую нейронную сеть исключительно на основе SEs, использующих изученные ими формы. Кроме того, мы изучим, как лучше справиться с нарушением непрерывности DNC. В частности, мы рассмотрим другие методы оптимизации, такие как генетические алгоритмы (не основанные на стохастическом градиентном спуске) с улучшенным механизмом обработки ограничений, который сможет обновлять элементы двунаправленным образом в разрозненных пространствах.Наконец, разработанные здесь критерии инициализации были основаны на подборе кривой и упрощенном анализе. В будущем направление исследований может быть направлено на проведение строгого математического анализа для нахождения точных уравнений в замкнутой форме для дисперсий и ковариаций, включающих обобщенное среднее значение, для дальнейшего повышения производительности.

-a Gc2

Рассмотрим слой NN, состоящий из GC2,

с последующей функцией активации реле

Пусть σ2f и σ2w — дисперсии f и w соответственно.Игнорируя ковариацию между двумя членами, дисперсия вывода y будет приблизительно равна

Если мы используем симметричные функции soft-max и soft-min, то α1 = α2 = α и σ2ssmax, α1 = σ2ssmax, α2 = σ2sα. Это дает

Поскольку σ2z = 0,5σ2y, как показано в [9] для симметричного распределения y, В результате

Выходная дисперсия σ2z будет такой же, как и σ2f, если

, который дает нам дисперсию для инициализации весов фильтра. GC1 также инициализируется с той же самой дисперсией, которая, как мы обнаружили, дает лучшие результаты.

-B Мягкое преобразование типа «попадание или промах»

Рассмотрим слой NN, состоящий из более мягкого расширения стандартного преобразования попаданий и промахов,

с последующей функцией активации реле

Пусть σh = σm.Тогда σ2z≈σ′2s, α (σ2f + σ2h). Условие равенства σ2z и σ2f:

Если инициализировано с полунормальным распределением, то дисперсия будет

где σhn — отношение полунормальной дисперсии к нормальной, σ2hn = (1-2 / π).

Мы используем эту дисперсию для инициализации как стандартных, так и предлагаемых преобразований типа «попадал или промах».Для | α | <∞ дисперсия, полученная с помощью этого уравнения, очень высока, вызывая взрывной градиент. Чтобы облегчить это, мы масштабируем уравнение преобразования «попадал или промах» с помощью σs, ∞ / σs, α и инициализируем SE дисперсию для α = ± ∞.

утверждает, что эти 11 астероидов могут врезаться в Землю

Группа исследователей из Лейденского университета в Нидерландах разработала нейронную сеть под названием «Идентификатор опасных объектов», которая, по их словам, может предсказать, находится ли астероид на курсе столкновения с Землей.

Их новый ИИ выделил 11 астероидов, которые ранее не были классифицированы НАСА как опасные, и которые были больше 100 метров в диаметре — достаточно большие, чтобы взорваться с силой сотен ядерных зарядов, если они столкнутся с Землей, потенциально сровняв с землей целые города. . Они также сосредоточились на космических камнях, которые могут находиться в пределах 4,7 миллиона миль от Земли, как подробно описано в статье, опубликованной в журнале Astronomy & Astrophysics ранее в этом месяце.

Однако ни один из них не представляет собой неминуемой угрозы: не только их шансы когда-либо поразить Землю астрономически малы, но они совершают свой пролет между 2131 и 2923 годами, то есть через сотни лет.

Используя суперкомпьютер, исследователи быстро перешли к моделированию орбитальных движений планет Солнечной системы за 10 000 лет. Затем команда полностью изменила моделирование, смоделировав будущие столкновения с Землей астероидов, отбросив их от Земли и отслеживая их точное местоположение и орбиты.

«Если вы перемотаете часы, вы увидите, как хорошо известные астероиды снова приземляются на Землю», — говорится в заявлении соавтора и астронома Саймона Портегиса Цварта из Лейденского университета.«Таким образом вы можете создать библиотеку орбит астероидов, приземлившихся на Землю».

Это моделирование послужило тренировочной площадкой для их нейронной сети, которая затем искала закономерности в данных, общих для моделируемых астероидов, которые в конечном итоге могут столкнуться с Землей.

Чтобы определить, действительно ли их ИИ способен замечать астероиды, падающие на Землю, команда проверила его на известных данных о 2000 астероидах, перечисленных НАСА. Нейронная сеть с точностью 90,99% определяла, какие из них были опасными, а какие нет.

Сейчас команда работает над тем, чтобы сделать свою нейронную сеть еще более точной.

«Теперь мы знаем, что наш метод работает, но мы, безусловно, хотели бы глубже изучить исследование с помощью более совершенной нейронной сети и большего количества входных данных», — сказал Цварт. «Сложность заключается в том, что небольшие сбои в расчетах орбиты могут привести к серьезным изменениям в выводах».

Обучение навыкам робота в латентном пространстве нейронной сети глубокого автоэнкодера

Рок Пахич получил оценку M.Sc. степень в области машиностроения Университета Марибора, Словения. В 2016 году защитил докторскую диссертацию. учится в международной аспирантуре Йожефа Стефана и работает на кафедре автоматики, биокибернетики и робототехники Института Йожефа Стефана, Любляна, Словения. Его исследовательская работа сосредоточена в основном на глубоком обучении в робототехнике.

Звездан Лончаревич получил степень бакалавра наук. степень в области мехатроники на факультете технических наук Университета Нови-Сада, Сербия в 2017 году и M.В 2019 году получил степень доктора наук в области информационных и коммуникационных технологий в Международной аспирантуре Йожефа Стефана, Любляна, Словения. В 2019 году он начал свою докторскую степень. учится в Международной аспирантуре им. Йожефа Стефана и работает на кафедре автоматики, биокибернетики и робототехники Института Йожефа Стефана, Любляна, Словения. Его исследовательская работа сосредоточена в основном на создании роботизированных траекторий посредством оптимизации и обучения с подкреплением.

Андрей Гамс в настоящее время является старшим научным сотрудником Департамента.доктор автоматики, биокибернетики и робототехники в Институте Йожефа Стефана и доцент Международной школы последипломного образования Йожефа Стефана. Он получил диплом и докторскую степень. по робототехнике Университета Любляны, Словения. Он был научным сотрудником со стипендией SCIEX NMS-CH в лаборатории биороботики, EPFL, Швейцария, и приглашенным исследователем в лабораториях вычислительной неврологии ATR в Японии. Его исследовательские интересы находятся на пересечении гуманоидной и прикладной промышленной робототехники, в частности обучения путем имитации, обучения манипулированию, соответствия и адаптации движения робота.

Алеш Удэ получил диплом по прикладной математике в Университете Любляны, Словения, в 1990 году и докторскую степень. получил диплом факультета информатики Университета Карлсруэ, Германия, в 1995 году. В настоящее время он является научным советником Института Йожефа Стефана в Любляне, Словения, где он возглавляет кафедру автоматики, биокибернетики и робототехники. Он также является приглашенным исследователем в Лаборатории вычислительной нейробиологии ATR, Киото, Япония. Его исследовательские интересы включают обучение роботов, гуманоидную робототехнику и реконфигурируемые робототехнические системы.

© 2020 Автор (ы). Опубликовано Elsevier B.V.

Этот сайт использует файлы cookie для повышения производительности. Если ваш браузер не принимает файлы cookie, вы не можете просматривать этот сайт.

Настройка вашего браузера для приема файлов cookie

Существует множество причин, по которым cookie не может быть установлен правильно. Ниже приведены наиболее частые причины:

• В вашем браузере отключены файлы cookie. Вам необходимо сбросить настройки своего браузера, чтобы он принимал файлы cookie, или чтобы спросить вас, хотите ли вы принимать файлы cookie.
• Ваш браузер спрашивает вас, хотите ли вы принимать файлы cookie, и вы отказались. Чтобы принять файлы cookie с этого сайта, используйте кнопку «Назад» и примите файлы cookie.
• Ваш браузер не поддерживает файлы cookie. Если вы подозреваете это, попробуйте другой браузер.
• Дата на вашем компьютере в прошлом. Если часы вашего компьютера показывают дату до 1 января 1970 г., браузер автоматически забудет файл cookie. Чтобы исправить это, установите правильное время и дату на своем компьютере.
• Вы установили приложение, которое отслеживает или блокирует установку файлов cookie. Вы должны отключить приложение при входе в систему или уточнить у системного администратора.

Почему этому сайту требуются файлы cookie?

Этот сайт использует файлы cookie для повышения производительности, запоминая, что вы вошли в систему, когда переходите со страницы на страницу. Чтобы предоставить доступ без файлов cookie потребует от сайта создания нового сеанса для каждой посещаемой страницы, что замедляет работу системы до неприемлемого уровня.

Что сохраняется в файле cookie?

Этот сайт не хранит ничего, кроме автоматически сгенерированного идентификатора сеанса в cookie; никакая другая информация не фиксируется.

Как правило, в файле cookie может храниться только информация, которую вы предоставляете, или выбор, который вы делаете при посещении веб-сайта. Например, сайт не может определить ваше имя электронной почты, пока вы не введете его. Разрешение веб-сайту создавать файлы cookie не дает этому или любому другому сайту доступа к остальной части вашего компьютера, и только сайт, который создал файл cookie, может его прочитать.

angelowilliams / space-cadet-nn: нейронная сеть, играющая в Space Cadet Pinball

Все мы можем вспомнить былые дни скуки после того, как у вас отключился коммутируемый доступ в Интернет. К счастью, пинбол Space Cadet всегда был рядом, чтобы спасти нас. Цель этого проекта — создать нейронную сеть, которая может играть в пинбол Space Cadet.

Обзор

1. Получение данных
2. Обучение нейронной сети
3. Результаты
4. Дальнейшая работа

Получение данных из программы космических кадетов

Нейронным сетям требуются входные данные.Обычно для проектов, связанных с обучением нейронной сети тому, как играть в видеоигры, игра или эмулятор выводит некоторые данные о состоянии игры, которые могут быть переданы в сеть. Однако в случае этого проекта пинбол Space Cadet не запускается в эмуляторе и не является открытым исходным кодом. Следовательно, должен быть какой-то сценарий-оболочка для извлечения данных из программы.

Для этого использовался OpenCV на Python. Открывается игра в пинбол, затем инициализируется сценарий. Он делает снимки экрана с игровым окном, используя MSS, со скоростью 30 снимков экрана в секунду.Затем снимок экрана с игровым окном предварительно обрабатывается различными способами. Во-первых, снимок экрана имеет пороговое значение, так что остаются только значения серого. Затем это изображение сравнивается с последним кадром, содержащим только серый цвет, с использованием scikit-image.measure.compare_ssim , который вычисляет среднее структурное сходство между двумя изображениями. Проще говоря, все, что нужно сделать на этом этапе, — это определить, где находится мяч и с какой скоростью он движется. Ниже представлена ​​демонстрация технологии отслеживания мяча.

Этот вывод можно упростить, как показано справа внизу.

Теперь мы можем использовать это как ввод в нейронную сеть и в конечном итоге увидеть результаты. Однако на временной шкале этого проекта такого количества вычислительной мощности и времени не было. Таким образом, этот вывод был еще более упрощен за счет извлечения положений мяча по x и y, а также расчета горизонтальной и вертикальной скорости мяча, глядя на расстояние, пройденное от последнего положения.

Обучение нейронной сети

Обычно нейронная сеть обучается с использованием обратного распространения с градиентным спуском.Однако наша модель имеет два выхода: один переворачивает левый флиппер, а другой — правый. Эти выходные данные не имеют ожидаемого значения, что является требованием для градиентного спуска. В этом случае мы должны использовать обучение с подкреплением. Обучение с подкреплением — это процесс обучения компьютера совершенствованию действия, вознаграждая его за правильные действия и наказывая его, когда он терпит неудачу. В частности, генетический алгоритм использовался для выбора нейронных сетей, которые лучше всего играли в пинбол.Генетические алгоритмы пытаются скорректировать веса нейронных сетей с помощью биологических теорий эволюции и естественного отбора.

Архитектура каждой нейронной сети была согласованной. Каждая модель принимает 4 входа: x-позицию, y-позицию, x-скорость и y-скорость. Каждая модель имеет 3 скрытых слоя по 8 нейронов в каждом и функцию активации relu . Есть 2 выхода, использующие функцию активации сигмоида .

Для начала было сгенерировано 20 нейронных сетей с указанной выше архитектурой и полностью случайными весами.Каждая из этих нейронных сетей играет по одной игре в пинбол и рассчитывает их физическую форму. Фитнес модели измеряет, насколько хорошо она работает. Уравнение пригодности для этого проекта изначально было просто счетом в игре, однако быстро было обнаружено, что плохие модели могут набрать много очков благодаря чистой удаче. Вместо этого уравнение: (2 * frameCount) - inputCount . frameCount — это общее количество прошедших кадров. inputCount — это количество входных данных, отправленных нейронной сетью.Минимальная оценка, которую может получить модель — 0, если она вводит два переворота на каждый кадр.

Для разведения выбираются три лучшие модели с этого начального этапа, а остальные отбрасываются. 20 детских моделей создаются путем взятия случайных гирь из трех лучших, при этом у более подготовленных моделей больше шансов передать свой вес. Кроме того, каждый вес имеет 10% шанс случайного изменения значения, что называется мутацией. Затем каждая из сетей следующего поколения играет в пинбол, получает оценку пригодности, и три лучших создают потомство.Этот процесс повторяется столько, сколько хочет пользователь.

Результаты

Первое поколение нейронных сетей началось с понятия, как играть в пинбол. Он случайным образом попадал в ласты и имел довольно плохую производительность. Ниже представлено видео Ball one на лучшую модель первого поколения.

Однако модели начали быстро учиться. Ниже приведен график, показывающий среднюю пригодность для 20 моделей каждого поколения.

Некоторые поколения показали худшие результаты, чем их предки, но в целом средняя физическая подготовка имеет тенденцию к увеличению с течением времени из поколения в поколение.Ниже приведен график, показывающий пригодность лучшей модели каждого поколения.

Модели стагнируют в течение примерно 15 поколений от десяти до двадцати пяти, но в конце тренировки лучшая физическая форма начинает стремительно расти. Ниже представлен отрывок из игры лучшей модели.

Дальнейшая работа

Прямо сейчас, из-за характера захвата экрана, эти скрипты требуют, чтобы окно игры в пинбол располагалось в очень определенном месте. Это можно улучшить, чтобы автоматически находить окно пинбола и соответствующим образом обновлять значения.Затем генетический алгоритм можно улучшить, играя в 3 игры на модель или больше, чтобы уменьшить вероятность того, что плохая модель получит удачный хороший результат или плохая модель будет отвергнута неудачным отскоком. Вместо использования заданной архитектуры для нейронных сетей ими также можно было управлять с помощью генетического алгоритма. Кроме того, в сеть можно ввести больше атрибутов игрового поля, например, какие огни включены.