COLMAP简明教程 重建 转化深度图 导出相机参数 导入相机参数 命令行

COLMAP简明教程 导入指定参数 命令行 导出深度图

COLMAP是经典的3D重建、SfM、深度估计开源工作,配置和安装按下不表,本文主要从命令行的角度,对COLMAP的基本用法做教程,并备收藏和笔记。

对指定图像进行重建和深度估计

准备好一些多视角图像,放入一个文件夹中,如下所示:

├── images/
    ├── 0.png
    ├── 1.png
    ......
    ├── 12.png

如果图像是针孔相机拍摄的,就在根目录下执行以下命令:

colmap feature_extractor --database_path database.db --image_path images --ImageReader.camera_model PINHOLE
colmap exhaustive_matcher --database_path database.db
mkdir sparse
colmap mapper --database_path database.db --image_path images --output_path sparse
mkdir dense
colmap image_undistorter --image_path images --input_path sparse/0 --output_path dense --output_type COLMAP
colmap patch_match_stereo --workspace_path dense --workspace_format COLMAP --PatchMatchStereo.geom_consistency true
colmap stereo_fusion --workspace_path dense --workspace_format COLMAP --input_type geometric --output_path dense/fused.ply
colmap poisson_mesher --input_path dense/fused.ply --output_path dense/meshed-poisson.ply
colmap delaunay_mesher --input_path dense --output_path dense/meshed-delaunay.ply

这些命令分别用于提取图片特征、特征匹配、稀疏重建、去畸变、稠密重建、点云构建、mesh文件构建。如果图像不是针孔相机拍摄的,请自行更改colmap feature_extractor命令。
在执行完这些命令后,可以得到如下目录结构:

├── dense/
	├── images/
	├── sparse/
	├── stereo/
├── images/
├── sparse/
	├── 0/

其中在dense文件夹下还有几个.ply文件,是COLMAP得到的mesh场景重建结果,可以用MeshLab等软件打开观看重建结果。

转化深度图格式

densestereodepth_maps文件夹下有很多.bin文件,这些文件是COLMAP得到的深度图,COLMAP官方代码库提供了多种方式将其转化为彩色的可视的深度图,如这份代码
基于此代码,我提供一份代码,用于将.bin文件转化为灰度的单通道图像,符合大家一般对深度图的认知:

import argparse
import numpy as np
import os
import struct
from PIL import Image
import warnings
import os

warnings.filterwarnings('ignore') # 屏蔽nan与min_depth比较时产生的警告

camnum = 12
fB = 32504;
min_depth_percentile = 2
max_depth_percentile = 98
depthmapsdir = '.\dense\stereo\depth_maps\'
outputdir = '.\dense\stereo\depth_maps\'

def read_array(path):
    with open(path, "rb") as fid:
        width, height, channels = np.genfromtxt(fid, delimiter="&", max_rows=1,
                                                usecols=(0, 1, 2), dtype=int)
        fid.seek(0)
        num_delimiter = 0
        byte = fid.read(1)
        while True:
            if byte == b"&":
                num_delimiter += 1
                if num_delimiter >= 3:
                    break
            byte = fid.read(1)
        array = np.fromfile(fid, np.float32)
    array = array.reshape((width, height, channels), order="F")
    return np.transpose(array, (1, 0, 2)).squeeze()

def bin2depth(i, depth_map, depthdir):
    # depth_map = '0.png.geometric.bin'
    # print(depthdir)
    # if min_depth_percentile > max_depth_percentile:
    #     raise ValueError("min_depth_percentile should be less than or equal "
    #                      "to the max_depth_perceintile.")

    # Read depth and normal maps corresponding to the same image.
    if not os.path.exists(depth_map):
        raise fileNotFoundError("file not found: {}".format(depth_map))

    depth_map = read_array(depth_map)

    min_depth, max_depth = np.percentile(depth_map[depth_map>0], [min_depth_percentile, max_depth_percentile])
    depth_map[depth_map <= 0] = np.nan # 把0和负数都设置为nan,防止被min_depth取代
    depth_map[depth_map < min_depth] = min_depth
    depth_map[depth_map > max_depth] = max_depth

    maxdisp = fB / min_depth;
    mindisp = fB / max_depth;
    depth_map = (fB/depth_map - mindisp) * 255 / (maxdisp - mindisp);
    depth_map = np.nan_to_num(depth_map) # nan全都变为0
    depth_map = depth_map.astype(int)

    image = Image.fromarray(depth_map).convert('L')
    # image = image.resize((1920, 1080), Image.ANTIALIAS) # 保证resize为1920*1080
    image.save(depthdir + str(i) + '.png')

for j in range(camnum):
	binjdir = depthmapsdir + str(j) + '.png.' + 'geometric' + '.bin'
	# binjdir = depthmapsdir + str(j) + '.png.' + 'photometric' + '.bin'
	if os.path.exists(binjdir):
		read_write_dense.bin2depth(j, binjdir, outputdir)

这份代码可以把depthmapsdir .bin文件转化成.png图片并保存到outputdir,具体参数大家可以自行调整。
注意在代码中,depth_map其实就已经把.bin文件变成COLMAP估计得的距离了,这份代码和官方代码思路一样,都是把估计得的距离值的2百分位数至98百分位数范围内的值保存下来,其他值替换掉。
在得到depth_map后,大家可以自定义自己喜欢和需要的可视化方法。我这里是用fB可视化为视差图了,大家根据需要自己更改代码,这里仅作参考。

导出估计得的相机参数

在根目录下运行命令:

colmap model_converter --input_path dense/sparse --output_path dense/sparse --output_type TXT

即可把dense/sparse文件夹中的.bin格式的文件转化为.txt格式的文件。
其中cameras.txt文件中保存的是内参,形如:

# Camera list with one line of data per camera:
#   CAMERA_ID, MODEL, WIDTH, HEIGHT, PARAMS[]
# Number of cameras: 30
1 PINHOLE 1920 1080 1987.52 2254.34 960 540
2 PINHOLE 1920 1080 2039.08 2320.3 960 540
...

这里的MODEL是跟之提取特征时选的相机模型一致的。每行的6个数字中,除了图像长宽之外分别是图像对应的相机内参矩阵中的fx,fy,cx,cy,具体含义参见这里
另一个文件images.txt保存的是外参,形如:

# Image list with two lines of data per image:
#   IMAGE_ID, QW, QX, QY, QZ, TX, TY, TZ, CAMERA_ID, NAME
#   POINTS2D[] as (X, Y, POINT3D_ID)
# Number of images: 30, mean observations per image: 86.566666666666663
1 0.927395 0.0306001 -0.367019 -0.065565 5.03061 -0.487973 2.93529 1 0.png
1617.59 4.99193 -1 1831.38 5.76693 -1 1527.2 9.43552 -1 1490.19 10.4907 -1 367.424 11.5043 -1 775.228 11.182 637 1653.98 11.5989 -1 1896.38 11.4442 -1 30.5403 16.7052 -1 52.5616 18.6398 -1 7.04345 21.7672 1467 7.04345 21.7672 -1 43.2921 23.8136 -1 133.284 24.7492 -1 1249.04 24.1695 -1 3.80868 26.8114 -1 157.906 26.5587 75 173.966 27.2299 -1 22.0715 28.2147 -1 72.7796 29.7689 -1 278.952 29.9326 841 81.3182 30.1362 -1 1242.21 30.9173 -1 1242.21 30.9173 -1 1608.52 30.874 -1 110.63 32.399 -1 110.63 32.399 -1 178.573 32.1621 -1 178.573 32.1621 639 852.426 33.4657 76 201.459 34.3237 640 201.459 34.3237 -1 44.155 35.6634 -1 44.155 35.6634 -1 65.9694 37.3953 -1 65.9694 37.3953 -1 92.186 37.6702 -1 92.186 37.6702 -1 489.638 37.2811 -1 1014.71 37.6817 -1 165.665 40.7318 -1 80.8138 43.304 -1 200.238 43.746 -1 401.959 44.322 -1 473.235 44.9557 -1 473.235 44.9557 -1 5.5055 46.3413 -1 26.7574 47.175 1453 506.037 47.7838 -1 506.037 47.7838 -1 628.451 47.4269 -1 148.813 51.3945 -1 308.002 52.2475 642 71.4106 53.5389 -1
...

每张图像有两行,第一行是对应相机外参,七个浮点数中的QW,QX,QY,QZ是四元数的形式,可以转换为旋转矩阵或者其他形式,转化办法可参考这里,注意几个参数调用顺序,与COLMAP给的顺序是不同的。
TX,TY,TZ可直接构成外参中的t矩阵。
注意,COLMAP提供的相机参数的含义与这里定义的相同。

导入相机参数进行重建和深度估计

有时候用COLMAP做批量重建和深度估计,需要使用统一的相机参数,这个时候就需要统一导入相同的一组相机参数。这里介绍使用导入的相机参数的方法,和使用导入的参数重建、深度估计的方法。
准备一个cameras.txt,很容易,在得到上一步的cameras.txt的基础上,只需要把最前面的三行删掉就好了:

1 PINHOLE 1920 1080 1987.52 2254.34 960 540
2 PINHOLE 1920 1080 2039.08 2320.3 960 540
...

再准备一个images.txt,也容易,在得到上一步的images.txt之后,最前面的三行删掉,并且只保留每台相机的第一行:

1 0.927395 0.0306001 -0.367019 -0.065565 5.03061 -0.487973 2.93529 1 0.png

2 0.938886 0.0294343 -0.338403 -0.0557617 4.86882 -0.403504 2.77603 2 1.png

...

每台相机后面都要空一行,注意。
然后准备一个完全空的points3D.txt,将cameras.txtimages.txtpoints3D.txt放入新建的createdsparse文件夹中,形成如下目录:

├── created/
  	├── sparse/
   		├── cameras.txt
   		├── images.txt
   		├── points3D.txt
├── images/
    ├── 0.png
    ├── 1.png
    ......
    ├── 12.png

然后在根目录下运行以下命令:

colmap feature_extractor --database_path database.db --image_path images
colmap exhaustive_matcher --database database.db
mkdir triangulated/sparse
colmap point_triangulator --database_path database.db --image_path images --input_path created/sparse --output_path triangulated/sparse
mkdir dense
colmap image_undistorter --image_path images --input_path triangulated/sparse --output_path dense
colmap patch_match_stereo --workspace_path dense --workspace_format COLMAP --PatchMatchStereo.geom_consistency true
colmap stereo_fusion --workspace_path dense --output_path dense/fused.ply
colmap model_converter --input_path dense/sparse --output_path dense/sparse --output_type TXT

即可完成重建。然后参考前面的步骤进行深度图转换即可。
如果你的相机参数不是从COLMAP得到的,就需要自己转换参数形式了,其实也容易,参考上面的几个文件的解读即可。