PHYSICAL INTERPRETATION OF NEURON TRAINING IN FUZZY CLUSTERING NETWORKS WHEN USING MICROTOMOGRAPHY IN MEDICAL AND BIOLOGICAL RESEARCH


Cite item

Full Text

Abstract

The physical bases and interpretation of the procedure for training neurons in the fuzzy cellular neural networks of Kohonen have been investigated. Based on them, the method of automatic calibration of digital X-ray microtomographs has been described. This method involves neural-fuzzy segmentation of a distorted image into a finite number of clusters. The method is of great practical importance for the use of microtomography in biomedical research.

Full Text

X-ray microtomographs, detectors, images, calibration, neuro-fuzzy networks. Компьютерная микротомография - неразрушающий метод визуализации трехмерной внутренней микроструктуры объектов с использованием рентгеновского излучения. На сегодняшний день томографы можно условно разделить на 4 группы: рентгеновская микротомография, рентгеновская нанотомография, микротомография in vivo, система объемного элементного картирования. Метод микротомографии является достаточно новым и универсальным методом, применяемым в медико-биологических исследованиях в России и за рубежом. В литературе описаны перспективные области его применения: морфометрия органов и тканей лабораторных животных in vivo, лазерная микротомография эмбрионов [7], метод трехмерной реконструкции применительно к зародышу мыши в доимплантационный период [8], исследование кальцинатов коронарных артерий с целью изучения их морфологии и фазового состава [4] и др. Кроме того, показано [6, 10], что микротомография позволяет производить неразрушающие исследования внутренней трехмерной структуры наноструктурированного титана на примере зубных имплантатов, отличающихся высокой прочностью и хорошей биологической совместимостью с костной тканью человека, без их предварительной обработки и подготовки. Вместе с тем, одна из проблем, с которыми сталкиваются рентгеновские микротомографы, связана с различными видами искажений [9], так как различная плотность тканей и органов приводит к неоднородности рентгеновского пучка. Другая причина может быть связана с неисправностями оптически-электронной системы. Эти искажения фиксируются на захватываемом изображении в виде геометрически искаженной квадратной сетки, с усилением от центра [19, 20]. Двумерный рентгеновский детектор, предназначенный для регистрации рентгеновских изображений, устроен на базе матрицы, включающей в себя m кристаллов, чувствительных к гамма-лучам. Поэтому встает вопрос о необходимости соответствующей калибровки. По существу, калибровка стремится связать каждый пиксел выходного радиографического изображения с кристаллом, влияющим на этот пиксел [13, 16]. *Работа выполнена по программе повышения конкурентоспособности Национального исследовательского Томского государственного университета, при финансовой поддержке РФФИ (грант № 16-29-12858). 36 Выпуск 3 (63). 2017 В литературе описаны способы автоматизированной калибровки рентгеновских микротомографов, например, метод калибровки, основанный на преобразовании водораздела в [11], но они обычно рассчитаны на интерактивное исправление результатов пользователем и не учитывают ситуации, когда один и тот же пиксел с разными уровнями принадлежности (вероятности, возможности) может принадлежать сразу нескольким классам (кристаллам). ЦЕЛЬ РАБОТЫ Разработка автоматизированного метода калибровки рентгеновского микротомографа при использовании в медико-биологических исследованиях, на основе нейро-нечеткой кластеризующей сети, дающего возможность нечеткого разделения областей влияния кристаллов как пересекающихся кластеров. Исследование физических основ процедуры обучения нейронов в процессе калибровки. МЕТОДИКА ИССЛЕДОВАНИЯ Процесс калибровки производится на изображении, получаемым путем освещения детектора однородным пучком гамма-лучей на время, достаточное, чтобы получить изображение с высоким разрешением [15]. Уровень интенсивности получаемого изображения пропорционален числу гамма-лучей, которые поражают соответствующий кристалл, поэтому идентификация области влияния каждого кристалла может быть получена поиском пиков интенсивностей по изображению. Автором разработан автоматизированный метод калибровки на основе новой гибридной архитектуры (рис. 1) - нечеткой клеточной нейронной сети Кохоне-на (FCNN-SOM). х; -О- Xj -О- X» -о- Рис. 1. Архитектура нечеткой клеточной нейронной сети Кохонена Клеточные нейронные сети (CNN) были введены Чуа и Янг [17, 18] и стали эффективно использоваться в вычислительных моделях обработки изображений. В работе [1] доказана возможность обучения ИНС Ко хонена клеточным автоматом (КА), позволяющим существенно улучшить качество и скорость самообучения, однако не решены вопросы разделяющих свойств сети в случае пересекающихся кластеров. Предложенная автором архитектура нечеткой клеточной нейронной сети Кохонена (FCNN-SOM) содержит 3 слоя: 1)входной (рецепторный)слой; 2) слой нейронов Кохонена [5] с латеральными связями, обучаемых КА для определения центроидов пиков интенсивностей изображения в виде пересекающихся кластеров; 3) дополнительный (выходной) слой нечеткой кластеризации (рис.1), вычисляющий уровни принадлежности текущего вектора изображения каждому кластеру. Рассмотрим работу FCNN-SOM поэтапно. Алгоритм обучения FCNN-SOM Наборы входных пикселов x(k) = (x1(k), xn(k)), (здесь k = 1,..., N имеет смысл номера изображения в обучающей выборке) с рецепторного (нулевого) слоя последовательно подаются на нейроны слоя Кохонена N (j = 1,m), имеющего топологию кристаллической решетки матрицы рентгеновского детектора. Настраиваемые синаптические веса w(k) (j = 1, ..., m;I = 1,n)определяют центроиды mпересекающихся кластеров w(k) = (wß(k), ..., w(k), ..., wjk)), соответствующие m «лучшим» пикам интенсивности по изображению, где m - количество кристаллов на матрице детектора. Этап 1. Предварительная обработка данных. Входные данные центрируются и стандартизируются [14] по всем ординатам так, чтобы все наблюдения принадлежали гиперкубу [-1;1]n. Этап 2. Инициализация начального состояния нейронов сети, обеспечивающая самостоятельное адаптивное саморазворачивание нейронов сети с образованием упорядоченной самоорганизующейся карты Кохонена. Главная идея этого способа заключается в постепенном втягивании активными нейронами неактивных нейронов в нормированный гиперкуб пространства учебных образцов [1]. Для этого при инициализации сети все нейроны исходно помещаются в произвольную точку на гиперсфере достаточно большого радиуса R, центр которой совпадает с центром пространства учебных образцов. Радиус R гиперсферы выбирается таким образом, чтобы находящиеся на гиперсфере нейроны никогда не могли победить и «втягивались» бы в гиперкуб учебных образцов только благодаря своим связям с ранее победившими нейронами, а не за счет собственных побед. Этап 3 (модифицированный). Обучение слоя Кохонена клеточным автоматом Мура. Поскольку задача состояла в восстановлении структуры сетки матрицы кристаллов, данный метод определяет центры кластеров и соединяет эти центры согласно фиксированной топологии карты Кохонена. Нейроны в обученной карте должны располагаться Выпуск 3 (63). 2017 37 ІШторСз в довольно однородном пространстве, последовательно, с геометрическими искажениями, существующими по выходному изображению и независимо от различий в уровнях интенсивности, связанных с пиками. Поэтому этап 3 можно назвать этапом упорядочения сетки, во время которого процедура обучения будет пытаться на входных векторах строить сетку нейронов таким образом, чтобы в большой степени учитывалась информация, которая отражает ожидаемую структуру сети. Для этого вводится более специфичное понятие окрестности, которое принимает во внимание геометрическую природу нейронной сети, и соответственно обновление весов нейрона-победите-ля и нейронов-соседей происходит в пределах определенного расстояния от нейрона-победителя, в направлении X и Y сетки. Этот выбор будет давать более высокий вес такой топологии сетки, которая первоначально связалась бы с центрами пиков интенсивности излучения. Этап 3 калибровки реализуется обучением сети Кохонена клеточным автоматом с конфигурацией фон Неймана, предполагающей наличие только горизонтальных и вертикальных связей между соседними ячейками КА (нейронами SOM). Ячейкой КА является нейрон слоя Кохонена, топологически связанный в окружении фон Неймана с 4 (на границе - с 2 или 3) соседними нейронами двумерной самоорганизующейся карты Кохонена (рис. 2). обучения. Любой k-й нейрон карты Кохонена в итерациях эпохи может изменить свой многомерный вектор состояния в двух случаях: 1) нейрон стал победителем; 2) нейрон является соседом другого победившего нейрона. Тогда среднее суммарное приращение /-ой компоненты вектора состояния k-го нейрона с окружением фон Неймана за одну эпоху будет равно: ЕЕ( ~wki ) m j=1 wki = Л Е> (і) где q - скорость обучения; k - номер нейрона-победителя; m= k-L, k+1, k+L, k-1 - номера нейронов из окружения k-го нейрона; L - ширина прямоугольной самоорганизующейся карты Кохонена; nm - число учебных образцов, попавших в окрестность Вороного m-го нейрона; Xmi) - i-я координата у-го учебного образца из ок- Рис. 2. Топология клеточной карты Кохонена в окружении фон Неймана В соответствии с принципом «ближайшего соседа» нейроны сети являются центрами многомерных окрестностей Вороного, на которые, подобно мозаике, делится все пространство учебных примеров в итерациях рестности Вороного m-го нейрона; wl/i - /-я координата k-го нейрона. k+4 Обозначим S = Е nm , тогда выражение (1) m=k можно переписать в виде: = Л S Е nm (X™ - W) (2), ^ m где Xmi - /-я координата центра тяжести окрестности Вороного m-го нейрона. Физический смысл выражения (2) состоит в том, что в каждой эпохе обучения k-й нейрон смещается на относительную величину q в направлении центра тяжести области пространства учебных образцов, образованной объединением окрестностей Вороного k-го нейрона-победителя и его ближайших соседей в окружении фон Неймана. В частности, при q = 1 нейрон смещается точно в центр тяжести этой объединенной области. Этап 4. Тонкая настройка, во время которой окрестность каждого нейрона включает только самого себя: практически, каждый входной вектор вызывает обновление только весов нейрона-победителя, при этом используется медленное уменьшение скорости обучения, без изменения упорядоченной структуры сетки, достигнутой на предыдущем этапе. Этап 5 (дополнительный). Обучение сети алгоритмом нечеткой кластеризации Бездека [12] вместо алгоритма WTA, при отключенных латеральных связях в слое Кохонена. При отсутствии четко выраженной границы между соседними кластерами к слою Кохонена добавлен выходной слой нечеткой кластеризации (рис. 1), нейроны которого N вычисляют уровни принадлежности m 38 Выпуск 3 (63). 2017 u(k) = (u1(k), ..., um(k))текущего вектора изображения к j-му кластеру (кристаллу), j = 1,..., m. РЕЗУЛЬТАТЫ ИССЛЕДОВАНИЯ И ИХ ОБСУЖДЕНИЕ Таким образом, для создания нейро-нечеткой системы калибровки изображений, регистрируемых двумерным рентгеновским детектором микротомографа, метод определяет на выходном изображении пиксельные кластеры влияния каждого кристалла, для чего находятся центроиды пиков интенсивности рентгеновского излучения, которые соединяются согласно топологии обученной нейронной сети Кохонена. Для разделения пересекающихся кластеров и повышения точности калибровки для каждого входного вектора изображения рассчитывается нечеткая степень принадлежности к соответствующему кристаллу. Все вышесказанное позволяет использовать предложенный метод в медико-биологических исследованиях. Следует отметить, что выходной слой подключается к уже обученной нейронной сети Кохонена и используется непосредственно в обработке входных пикселов. Таким образом, предложенная FCNN-SOM может работать в режиме как четкой, так и нечеткой кластеризации - в зависимости от характера обрабатываемых данных [2, 3]. ЗАКЛЮЧЕНИЕ В статье представлена новая, основанная на ней-ро-нечетких технологиях, методика для автоматической калибровки цифровых рентгеновских микротомографов, использующихся в медико-биологических исследованиях. Процедура калибровки сводится к разбиению искаженного радиографического изображения на конечное число кластеров так, что каждый пиксел изображения связывается с определенной степенью принадлежности с соответствующим кристаллом, который был фактически поражен гамма-лучом. Для повышения точности калибровки разработана новая гибридная архитектура - нечеткие клеточные нейронные сети Кохонена, при этом используется модифицированное понятие окрестности и дополнительный специфичный этап обучения. Дана оригинальная физическая интерпретация процедуре обучения нейронов как процессу смещения на относительную величину в направлении центра тяжести области пространства учебных образцов, образованной объединением окрестностей Вороного нейрона-победителя и его ближайших соседей. Описанный метод позволяет эффективно решать сложные задачи обработки информации, когда классы, подлежащие разделению, имеют произвольную форму и пересекаются между собой, отличается высокой точностью и эффективностью для решения задач кластеризации данных в условиях неопределенности, в том числе на границах изображения, низким временем обучения, надежностью против шума, пространственных искажений и большой изменчивости в степенях интенсивности пикселов. Перспектива практического использования метода связана с повышением оперативности и качества микротомографии в медико-биологических исследованиях, а также с развитием средств нанотомографии. ЛИТЕРАТУРА
×

About the authors

S. V. Gorbachev

National research Tomsk state University

Email: spp03@sibmail.com

L. S. Bykhalov

Volgograd State Medical University; Volgograd medical research center

N. N. Gorbacheva

National research Tomsk state University

References

  1. Аникин В.И. Обучение искусственной нейронной сети Кохонена клеточным автоматом / В.И. Аникин, А.А. Карманова // Информационные технологии. - 2014. - № 11. -С. 73-80.
  2. Борисов В.В., Круглов В.В., Федулов А.С. Нечеткие модели и сети. - 2-е изд., М.: Горячая линия - Телеком, 2012. - 284 с.
  3. Горбачев С.В., Сырямкин В.И. Нейро-нечеткие методы в интеллектуальных системах обработки и анализа многомерной информации. - Томск: Изд-во Томского государственного университета, 2014. - 510 с.
  4. Евдокимов Ф.А. Кальцинаты в коронарных артериях: исследование морфоструктуры методом рентгеновской микротомографии / Мат. I всероссийской научной конференции «Практическая микротомография» 28-30 ноября 2012г., г. Казань.
  5. Кохонен Т. Самоорганизующиеся карты. - М., БИНОМ. Лаборатория знаний, 2008. - 655 с.
  6. Пихур О.Л., Плоткина Ю.В., Франк-Каменецкая О.В., Павлов М.Р Компьютерная микротомография при исследовании твердых тканей зубов // Альманах клинической медицины. - 2008. - № 17. - С. 236-237
  7. Погорелов А.Г., Погорелова В.Н. Количественная микротомография раннего эмбриона млекопитающих посредством лазерной сканирующей микроскопии // Бюллетень экспериментальной биологии и медицины. - 2009. - № 10. -С. 478-480
  8. Погорелов А.Г., Кантор Г.М., Сахарова Н.Ю., Смирнов А.А., Аксиров А.М., Чайлахян Л.М. 3-D реконструкция эмбриона мыши на ранних стадиях предимплантационного развития // Цитология. -2005. - Т. 47, № 8. - С. 686-691.
  9. Сырямкин В.И., Горбачев С.В., Сунцов С.Б. Адаптивные нейросетевые алгоритмы диагностики материалов, оборудования и радиоэлектронной аппаратуры. LAMBERT Academic Publishing, Saarbrucken, 2013. - 269 с.
  10. Шаркеев Ю.П., Белявская О.А., Ерошенко А.Ю., Капранов Б.И., Белкин Д.С., Клименов В.А. Исследование имплантантов из наноструктурированногоскофии // Контроль. Диагностика. - 2011. - № 11. - С. 28-32.
  11. Mao A. Positron emission tomograph detector module calibration through morphological algorithms and interactive correction, Society for Technical Communication, Washington, DC, International Student Technical Writing Competition (ISTWC), Winners, 1999-2000.
  12. Bezdek, J. C. Pattern Recognition with Fuzzy Objective Function Algorithms / Bezdek J. C. - N. Y: Plenum Press, 1981. -272 p.
  13. Solorzano C.O., E. Garcia Rodriguez, A. Jones, D. Pinkel, J.W. Gray, D. Sudar, S.J. Lockett, Segmentation of Confocal Microscope Images of Cell Nuclei in Thick Tissue Sections, Journal of Microscopy, vol. 3, 1999. - pp. 212-226
  14. Dvoretzky A. On stochastic approximation / A. Dvoretzky // Proc. 3-rd Berkley Symp. Math. Statistics and Probability. - 1956. -Vol. 1. - pp. 39-55.
  15. Sorenson J.A., Phelps M.E. Physics in Nuclear Medicine. W.B. Saunders Company, 1987. - 312 p.
  16. Vaquero J.J., Seidel J., Siegel S., Gandler W.R., Green M.V. Performance Characteristics of a Compact Position-Sensitive LSO Detector Module, IEEE Transactions on Medical Imaging, vol. 17 (no. 6), December 1998. - pp.432-448.
  17. Chua L.O., Yang L. Cellular neural networks. Theory, IEEE Transactions on Circuits and Systems CAS-35 (10), 1988. -pp.1257-1272.
  18. Chua L.O., Yang L. Cellular neural networks. Applications, IEEE Transactions on Circuits and Systems CAS-35 (10), 1988. -pp.1273- 290.
  19. Gonzalez R.C., Woods R.E. Digital Image Processing. AddisonWesley Publishing Company, 1992. - 289 p.
  20. Yu X. Performance of Computer-Aided Lesion Detection by Multidimensional Linear Feature Mapping in Positron Emission Tomograph: A Clinical Study, Whitaker Foundation Biomedical Engineering Research Grants, April 1997. - 183 p.

Supplementary files

Supplementary Files
Action
1. JATS XML

Copyright (c) 2017 Gorbachev S.V., Bykhalov L.S., Gorbacheva N.N.

Creative Commons License
This work is licensed under a Creative Commons Attribution 4.0 International License.

СМИ зарегистрировано Федеральной службой по надзору в сфере связи, информационных технологий и массовых коммуникаций (Роскомнадзор).
Регистрационный номер и дата принятия решения о регистрации СМИ: серия ПИ № ФС 77 - 79562 от 27.11.2020 г.

This website uses cookies

You consent to our cookies if you continue to use our website.

About Cookies