Методы удаления нежелательных объектов с изображений аэрофотосъемки с использованием итерационного подхода

Обложка

Цитировать

Полный текст

Аннотация

Удаление объектов с изображений относится как к задачам, позволяющим улучшить качество изображения, например, в области восстановления поврежденных фотографий, так и к задачам повышения безопасности при удалении людей или автомобилей при обработке изображений аэрофотосъемки. При этом методы удаления нежелательных объектов обычно включают в себя два этапа: выделение объектов для удаления и восстановление текстуры на участках изображения. Первый этап может выполняться вручную пользователями, если необходимо выделить конкретные объекты, либо автоматически путем обучения модели на различных классах объектов. Задача восстановления изображения в процессе исследований решалась различными методами, основной из которых включает использование значений соседних пикселов для отрисовки в удаленных областях. В последние годы хорошие результаты показывают методы с применением глубокого обучения на основе сверточных и генеративных нейронных сетей. Целью работы является разработка метода удаления объектов с изображений аэрофотосъемки с выделением объектов вручную и отрисовкой текстуры в обрабатываемой области. В работе выполнен обзор современных методов восстановления изображений, среди которых наиболее перспективным является использование сетей глубокого обучения, а также анализ текстуры в восстанавливаемой области. Предложенный алгоритм основан на итерационном подходе при анализе соседних областей и постепенном закрашивании восстанавливаемой области текстурой с соседних пикселов с учетом веса и контуров границ. В статье выполнена оценка эффективности предложенного метода с использованием базы видеопоследовательностей, полученных с квадрокоптеров и содержащих людей и природные объекты. При этом проводилась как экспертная оценка, которая показала хорошие визуальные результаты, так и сравнение качества работы алгоритма с известными подходами по метрике PSNR, которая показала лучшие результаты при наличии сложной текстуры в сцене.

Об авторах

Ольга Анатольевна Строй

Сибирский государственный университет науки и технологий имени академика М. Ф. Решетнева

Автор, ответственный за переписку.
Email: story_oa@sibsau.ru

студент группы МПИ20-01

Россия, 660037, г. Красноярск, просп. им. газ. «Красноярский рабочий», 31

Владимир Викторович Буряченко

Сибирский государственный университет науки и технологий имени академика М. Ф. Решетнева

Email: buryachenko@sibsau.ru

кандидат технических наук, доцент

Россия, 660037, г. Красноярск, просп. им. газ. «Красноярский рабочий», 31

Список литературы

  1. Дистанционное зондирование Земли – Госкорпорация «Роскосмос» [Электронный ресурс]. URL: https://www.roscosmos.ru/24707/ (дата обращения: 10.09.2020).
  2. Исследование метода синтеза текстур изображений поверхности земли на основе нейронной сети / Ибадов Р. Р., Федосов В. П., Воронин В. В. и др. // Известия ЮФУ. Технические науки. 2019. № 5 (207). [Электронный ресурс]. URL: https://cyberleninka.ru/article/n/issledovanie-metoda-sinteza-tekstur-izobrazheniy-poverhnosti-zemli-na-osnove-neyronnoy-seti (дата обращения: 11.09.2020).
  3. Cornell University [Электронный ресурс]. URL: https://arxiv.org/abs/1512.03385 (дата обращения: 16.09.2020).
  4. Архитектуры нейросетей / Блог компании NIX / Хабр [Электронный ресурс]. URL: https://habr.com/ru/company/nix/blog/430524 (дата обращения: 12.09.2020).
  5. Cloudremoval in Sentinel-2 imagery using a deep residual neural network and SAR-optical data fusion / Meraner A., Ebel P., Xiang Zhu X. et al. // ISPRS Journal of Photogrammetry and Remote Sensing. 2020. Vol. 166. P. 333–346 [Электронный ресурс]. URL: https://www.sciencedirect.com/ science/article/pii/S0924271620301398 (дата обращения: 10.09.2020).
  6. Girshick R. et al. Rich Feature Hierarchies for Accurate Object Detection and Semantic Segmentation. 2014 IEEE Conference on Computer Vision and Pattern Recognition, 2014. Р. 580–587.
  7. Selective Search for Object Recognition / Uijlings J. R. R. et al. // International Journal of Computer Vision. 2013. No. 104.2. P. 154–171.
  8. Getreuer P. Linear methods for image interpolation // Image Process Line. 2011. Vol. 1. P. 238–259.
  9. Charles Burlin, Yoann Le Calonnec and Louis Duperier. Deep Image Inpainting [Электронный ресурс]. URL: http://cs231n.stanford.edu/reports/2017/pdfs/328.pdf (Дата обраще-ния 05.03.2021).
  10. Semantic image inpainting with perceptual and contextual losses. Computer Vision and Pattern Recognition arXiv: 1607.07539 / Yeh R., Chen C., Lim T. Y. et al. 2016.
  11. Image Inpainting for Irregular Holes Using Partial Convolutions. Computer Vision and Pattern Recognition arXiv preprint arXiv: 1804.07723 / Liu G., Reda F. A., Shih K. J. et. al. 2018.
  12. Image Inpainting Based on Generative Adversarial Networks / Y. Jiang, J. Xu, B. Yang, Junwu Zhu // IEEE Access. 2020. Vol. 8. P. 22884–22892.
  13. Telea A. An Image Inpainting Technique Based on the Fast Marching Method // Journal of Graphics Tools. 2004. Vol. 9. P. 23–34.
  14. Bertalmio M., Bertozzi A., Sapiro G. Navier-Stokes, fluid dynamics, and image and video inpainting // Proc. IEEE Computer Society Conference on Computer Vision and Pattern Recognition. 2001. Vol. 1. P. 355–362.
  15. Drone Videos DJI Mavic Pro Footage in Switzerland [Электронный ресурс]. URL: https://www.kaggle.com/kmader/drone-videos (дата обращения 05.05.2021).
  16. Almansa A. Echantillonnage, interpolation et detection: applications en imagerie satellitaire (Doctoral dissertation, Cachan, Ecole normale superieure). 2002.
  17. Bertalmio M. Processing of flat and non-flat image information on arbitrary manifolds using partial differential equations. PhD Thesis, 2001.

Дополнительные файлы

Доп. файлы
Действие
1. JATS XML

© Строй О.А., Буряченко В.В., 2021

Creative Commons License
Эта статья доступна по лицензии Creative Commons Attribution 4.0 International License.

Данный сайт использует cookie-файлы

Продолжая использовать наш сайт, вы даете согласие на обработку файлов cookie, которые обеспечивают правильную работу сайта.

О куки-файлах