Разработка
NTA

Как найти дубликаты изображений с использованием Computer Vision?

В данной статье мы расскажем, как можно выявить FRAUD сотрудников, проведя анализ полученных изображений документов, приложенных к авансовым отчетам, с помощью Computer Vision.

В нашем случае FRAUDом является прикрепление одного и того же проездного билета к разным авансовым отчетам и, соответственно, необоснованное получение повторной оплаты компенсации за проезд. Задача состоит в том, чтобы найти идентичные изображения среди 6,6 тыс. файлов.

Для начала импортируем необходимые модули.

import cv2 import pdf2image import os from tqdm import tqdm import pandas as pd

Для сравнения изображений используем хэширование с помощью нижеприведенной функции вычисления хэша. Так как в обрабатываемом массиве встречаются файлы в формате pdf, мы использовали конвертацию в формат png с помощью библиотеки poppler

#Функция вычисления хэша class ImageHash(): PATH_TO_POPPLER = 'prog\\poppler-0.68.0\\bin' @classmethod def make_hash(self, threshold_image, img_size): #Рассчитаем хэш _hash="" for x in range(img_size): for y in range(img_size): val=threshold_image[x,y] if val==255: _hash=_hash+"1" else: _hash=_hash+"0" return _hash @classmethod def calc_image_hash(self, FileName, img_size=800): if FileName[-3:].lower() == 'pdf': #Обработчик для pdf файлов image_pdf = pdf2image.convert_from_path(FileName, poppler_path=self.PATH_TO_POPPLER, fmt='png', dpi=200, output_folder='temp', output_file='temp')[0] image = cv2.imread(image_pdf.filename) #Прочитаем картинку image_pdf.close() else: image = cv2.imread(FileName) #Прочитаем картинку resized = cv2.resize(image, (img_size, img_size), interpolation = cv2.INTER_AREA) #Изменяем размер gray_image = cv2.cvtColor(resized, cv2.COLOR_BGR2GRAY) #Переведем в черно-белый формат avg=gray_image.mean() #Среднее значение пикселя ret, threshold_image = cv2.threshold(gray_image, avg, 255, 0) #Бинаризация по порогу return self.make_hash(threshold_image=threshold_image, img_size=img_size)

Далее используем функцию для определения точности совпадения изображений, насколько они похожи.

@classmethod def compare_hash(self, hash1, hash2): l=len(hash1) i=0 count=0 while i<l: if hash1[i]!=hash2[i]: count=count+1 i=i+1 return count

Рассмотрим работу кода на примере. Возьмем 4 файла с изображениями билетов.

Рис.1 Файл Bilet 1 в формате pdf
Рис.2 Файл Bilet 2 в формате pdf.
Рис.3 Файл Bilet 3 в формате png.
Рис.4 Файл Bilet 4 в формате jpg

Считываем файлы и рассчитываем хэш для каждого изображения, а также задаем единый размер 800х800 пикселей.

%%time if __name__ == '__main__': file_hash = dict() for file in tqdm(Read_Files.read_files('img2019')): if file not in list(file_hash.keys()): try: file_hash[file] = ImageHash.calc_image_hash(FileName="img2019/" + file, img_size=800) except: file_hash[file] = 'error'

Сравниваем полученный хэш каждого изображения и рассчитываем процент совпадения с первым изображением.

hash1 = df['hash'][0] df['compare_hash'] = '' for ix in tqdm(df.index): hash2 = df['hash'][ix] df['compare_hash'][ix] = 100-100*ImageHash.compare_hash(hash1,hash2)/(800*800)

В данном случае объем обрабатываемых изображений небольшой, поэтому для наглядности нам достаточно сравнить все рассчитанные хэши с хэшем первого изображения («hash1»). Таким образом, мы получаем следующий результат:

Из полученных данных видно, что хэши файлов «Bilet 1» и «Bilet 2» абсолютно одинаковы – совпадение 100%. Хэш файла «Bilet 3» не совпадает всего на 0,32%, что говорит о том, что изображение совсем немного отличается, что и мы видим визуально на картинке. Хэш файла «Bilet 4» отличается на 30,5%, то есть разница существенна, поэтому мы можем сделать вывод, что изображения не идентичны. Таким образом, с помощью рассчитанных hash можно распознать идентичные изображения.

Применение Machine Learning и Computer Vision позволяет сократить обработку большого количества электронных документов в сжатые сроки. В результате выполнения данного кода были получены номера авансовых отчетов, к которым в качестве подтверждающих документов сотрудники приложили идентичные сканы документов.

10 показов
304 открытия
0
Комментарии
Написать комментарий...
-3 комментариев
Раскрывать всегда