当前位置 博文首页 > OpenCV图像修复cv2.inpaint()的使用

    OpenCV图像修复cv2.inpaint()的使用

    作者:程序媛一枚~ 时间:2021-09-18 18:38

    目录
    • 1. 效果图
    • 2. 原理
    • 3. 源码

    这篇博客将介绍如何通过OpenCV中图像修复的技术——cv2.inpaint() 去除旧照片中的小噪音、笔划等。并提供一个可交互式的程序,利用OpenCV的快速行进和流体力学俩种修复算法对自己的图片进行修复。

    大多数人家里都会有一些旧的老化照片,上面有一些黑点、笔划等。如何复原呢?


    在绘制工具中擦除:将简单地用无用的白色结构替换黑色结构,效果并不理想。OpenCV中图像修复的技术——基本思想很简单:用相邻像素替换这些坏标记,使其看起来像邻居。

    • cv2.INPAINT_TELEA(Fast Marching Method 快速行进算法)
    • cv2.INPAINT_NS(Fluid Dynamics Method 流体力学算法)
    • OpenCV未实现的:Content-Aware Fill 内容感知填充算法,这是Adobe Photoshop中使用的一种高级修复技术。

    cv2.inpaint() 优点:修复效果更加自然;
    缺点:修复时需要提供原图以及mask图(与原图一致只有被污染的像素区域有值);

    1. 效果图

    官方原始图 VS mask图 VS 快速行进算法修复效果 VS 流体力学修复效果 如下:

    在这里插入图片描述

    接下来用可交互的例子实现自己的图片修复;

    原始图 VS Mask图 VS 快速行进算法修复效果图如下:
    原始图随意用鼠标左键移动绘制点、线,右键移动绘制矩形来随机增加一些被污染的区域;
    并根据原始图生成mask图,mask图是与原始图具有相同大小,并且只有被污染的区域是白色像素的图。可以看到修复效果还是挺好的~

    在这里插入图片描述

    原始图 VS Mask图 VS 流体力学算法修复效果图如下:
    原始图随意用鼠标左键移动绘制点、线,右键移动绘制矩形来随机增加一些被污染的区域;
    mask图是与原始图具有相同大小,并且只有被污染的区域是白色像素的图。可以看到修复效果还是挺好的~

    在这里插入图片描述

    快速行进算法与流体力学算法修复的效果图差别不太大;

    2. 原理

    • cv2.INPAINT_TELEA (Fast Marching Method 快速行进算法),对位于点附近、边界法线附近和边界轮廓上的像素赋予更多权重。一旦一个像素被修复,它将使用快速行进的方法移动到下一个最近的像素。
    • cv2.INPAINT_NS(Fluid Dynamics Method 流体力学算法),使用了流体力学的一些方法,基本原则是启发式的。首先沿着边从已知区域移动到未知区域(因为边是连续的)。它在匹配修复区域边界处的渐变向量的同时,继续等高线(连接具有相同强度的点的线,就像等高线连接具有相同高程的点一样)。
    • OpenCV未实现的:Content-Aware Fill 内容感知填充算法,这是Adobe Photoshop中使用的一种高级修复技术。

    3. 源码

    # 图像修复交互式案例——通过水流填充算法来修复被破坏的图像区域;
    # 使用俩种方法进行修复
    # cv2.INPAINT_TELEA (Fast Marching Method 快速行进算法),对位于点附近、边界法线附近和边界轮廓上的像素赋予更多权重。一旦一个像素被修复,它将使用快速行进的方法移动到下一个最近的像素。
    # cv2.INPAINT_NS 流体力学算法,使用了流体力学的一些方法,基本原则是启发式的,首先沿着边从已知区域移动到未知区域(因为边是连续的)。它在匹配修复区域边界处的渐变向量的同时,继续等高线(连接具有相同强度的点的线,就像等高线连接具有相同高程的点一样)。
    
    # USAGE 
    # python inpaint.py D:/deepLearning/py-demo/20210808/images/ml.jpg
    
    # 按下鼠标左键,添加点、线,按下鼠标右键,添加矩形框,以制作被污染的需要修复图像
    # 按下空格键:执行修复功能
    # 按下r键:重置待修复的mask
    # 按下esc键,退出
    import cv2
    import numpy as np
    
    
    class Sketcher:
        def __init__(self, windowname, dests, colors_func):
            self.prev_pt = None  # 线起始点
            self.drag_start = None  # 矩形起点
            self.drag_rect = None  # 矩形(左上角,右下角)坐标
            self.windowname = windowname
            self.dests = dests
            self.colors_func = colors_func
            self.dirty = False
            self.drawing = False
            self.mode = False
            self.show()
            cv2.setMouseCallback(self.windowname, self.on_mouse)
    
        def show(self):
            cv2.imshow(self.windowname, self.dests[0])
    
        def on_mouse(self, event, x, y, flags, param):
            pt = (x, y)
            if event == cv2.EVENT_LBUTTONDOWN:
                self.prev_pt = pt
                self.drawing = True
            elif event == cv2.EVENT_RBUTTONDOWN:
                # 第一次初始化时设定pt,往后保留上一个点作为矩形起点
                if self.drag_start == None:
                    self.drag_start = pt
    
            if self.prev_pt and flags & cv2.EVENT_FLAG_LBUTTON:
                for dst, color in zip(self.dests, self.colors_func()):
                    cv2.line(dst, self.prev_pt, pt, color, 5)
                self.dirty = True
                self.prev_pt = pt
                self.show()
    
            if self.drag_start and flags & cv2.EVENT_FLAG_RBUTTON:
                xo, yo = self.drag_start
                x0, y0 = np.minimum([xo, yo], [x, y])
                x1, y1 = np.maximum([xo, yo], [x, y])
                self.drag_rect = None
                if x1 - x0 > 0 and y1 - y0 > 0:
                    self.drag_rect = (x0, y0, x1, y1)
                    for dst, color in zip(self.dests, self.colors_func()):
                        cv2.rectangle(dst, (x0, y0), (x1, y1), color, -1)
                    self.dirty = True
                    self.drag_start = None
                    self.drag_rect = None
                    self.show()
                else:
                    self.drag_start = pt
    
        @property
        def dragging(self):
            return self.drag_rect is not None
    
    
    def main():
        import sys
        try:
            fn = sys.argv[1]
        except:
            fn = 'images/ml_.jpg'
    
        img = cv2.imread(fn)
        if img is None:
            print('Failed to load image file:', fn)
            sys.exit(1)
    
        img_mark = img.copy()
        mark = np.zeros(img.shape[:2], np.uint8)
        sketch = Sketcher('img', [img_mark, mark], lambda: ((255, 255, 255), 255))
    
        while True:
            ch = cv2.waitKey()
            if ch == 27:
                break
            if ch == ord(' '):
                cv2.imshow('mask', mark)
                fmmres = cv2.inpaint(img_mark, mark, 3, cv2.INPAINT_TELEA)
                nsres = cv2.inpaint(img_mark, mark, 3, cv2.INPAINT_NS)
                cv2.imshow('inpaint fmm res', fmmres)
                cv2.imshow('inpaint ns res', nsres)
            if ch == ord('r'):
                img_mark[:] = img
                mark[:] = 0
                sketch.show()
    
        print('Done')
    
    
    if __name__ == '__main__':
        main()
        cv2.destroyAllWindows()
    

    参考 https://docs.opencv.org/3.0-beta/doc/py_tutorials/py_photo/py_inpainting/py_inpainting.html#inpainting

    jsjbwy