[논문]효율적인 개방형 어휘 3차원 개체 분할을 위한 클래스-독립적인 3차원 마스크 제안과 2차원-3차원 시각적 특징 앙상블

송성호; 박경민; 김인철

doi:10.3745/tkips.2024.13.7.335

[국내논문] 효율적인 개방형 어휘 3차원 개체 분할을 위한 클래스-독립적인 3차원 마스크 제안과 2차원-3차원 시각적 특징 앙상블
Class-Agnostic 3D Mask Proposal and 2D-3D Visual Feature Ensemble for Efficient Open-Vocabulary 3D Instance Segmentation

The Transactions of the Korea Information Processing Society, v.13 no.7, 2024년, pp.335 - 347

송성호 (경기대학교 컴퓨터과학과) , 박경민 (경기대학교 컴퓨터과학과) , 김인철 (경기대학교 AI컴퓨터공학부)

초록
AI-Helper

개방형 어휘 3차원 포인트 클라우드 개체 분할은 3차원 장면 포인트 클라우드를 훈련단계에서 등장하였던 기본 클래스의 개체들뿐만 아니라 새로운 신규 클래스의 개체들로도 분할해야 하는 어려운 시각적 작업이다. 본 논문에서는 중요한 모델 설계 이슈별 기존 모델들의 한계점들을 극복하기 위해, 새로운 개방형 어휘 3차원 개체 분할 모델인 Open3DME를 제안한다. 첫째, 제안 모델은 클래스-독립적인 3차원 마스크의 품질을 향상시키기 위해, 새로운 트랜스포머 기반 3차원 포인트 클라우드 개체 분할 모델인 T3DIS[6]를 마스크 제안 모듈로 채용한다. 둘째, 제안 모델은 각 포인트 세그먼트별로 텍스트와 의미적으로 정렬된 시각적 특징을 얻기 위해, 사전 학습된 OpenScene 인코더와 CLIP 인코더를 적용하여 포인트 클라우드와 멀티-뷰 RGB 영상들로부터 각각 3차원 및 2차원 특징들을 추출한다. 마지막으로, 제안 모델은 개방형 어휘 레이블 할당 과정동안 각 포인트 클라우드 세그먼트별로 추출한 2차원 시각적 특징과 3차원 시각적 특징을 상호 보완적으로 함께 이용하기 위해, 특징 앙상블 기법을 적용한다. 본 논문에서는 ScanNet-V2 벤치마크 데이터 집합을 이용한 다양한 정량적, 정성적 실험들을 통해, 제안 모델의 성능 우수성을 입증한다.

Abstract ▼ AI-Helper

Open-vocabulary 3D point cloud instance segmentation (OV-3DIS) is a challenging visual task to segment a 3D scene point cloud into object instances of both base and novel classes. In this paper, we propose a novel model Open3DME for OV-3DIS to address important design issues and overcome limitations of the existing approaches. First, in order to improve the quality of class-agnostic 3D masks, our model makes use of T3DIS, an advanced Transformer-based 3D point cloud instance segmentation model, as mask proposal module. Second, in order to obtain semantically text-aligned visual features of each point cloud segment, our model extracts both 2D and 3D features from the point cloud and the corresponding multi-view RGB images by using pretrained CLIP and OpenSeg encoders respectively. Last, to effectively make use of both 2D and 3D visual features of each point cloud segment during label assignment, our model adopts a unique feature ensemble method. To validate our model, we conducted both quantitative and qualitative experiments on ScanNet-V2 benchmark dataset, demonstrating significant performance gains.

주제어

표/그림 (10)

그림 Fig. 1. Architecture of the Proposed Model
그림 Fig. 2. Class-Agnostic 3D Mask Proposal
그림 Fig. 3. 3D Visual Feature Enocoding with OpenScene
그림 Fig. 4. 2D Visual Feature Encoding with CLIP
그림 Fig. 5. Class Label Assignment
표 Table 1. Performance Comparison with Different 3D Mask Proposal Methods
표 Table 2. Performance Comparison with Different 3D Visual Feature Encoding Methods
표 Table 3. Performance Comparison with Different 2D-3D Ensemble Methods
표 Table 4. Performance Comparison with Other Models
그림 Fig. 6. Qualitative Evaluation of Open-Vocabulary 3D Instance Segmentation Results

참고문헌 (23)

B. Yang, J. Wang, R. Clark, Q. Hu, S. Wang, A. Markham, and N. Trigoni, "Learning object bounding boxes for 3D instance segmentation on point clouds," In Proceedings of the Nueral Information Processing Systems (NeurlPS), 2019.？
S. Liu, S. Yu, S. Wu, H. Chen, and T. Liu, "Learning gaussian instance segmentation in point clouds," arXiv preprint arXiv:2007.09860, 2020.？
T. Vu, K. Kim, T. Luu, T. Nguyen, and C. D. Yoo, "SoftGroup for 3D instance segmentation on point clouds," In Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR), 2022.？
Z. Liang, Z. Li, S. Xu, M. Tan, and K. Jia, "Instance segmentation in 3D Scenes using semantic superpoint tree networks," In Proceedings of the IEEE/CVF International Conference on Computer Vision (ICCV), 2021.？
J. Schult, F. Engelmann, A. Hermans, O. Litany, S. Tang, and B. Leibe, "Mask3D: Mask transformer for 3D semantic instance segmentation," In Proceedings of the International Conference on Robotics and Automation (ICRA), 2023.？
S. Song and I. Kim, "T3DIS: Transformer-based 3D instance segmentation with auxiliary denoising learning," In Proceedings of the Journal of Institue of Control, Robotics and Systems(J Inst Contr Robot Syst), Vol.29, No.12, pp, 954-965, 2023.？
A. Takmaz, E. Fedele, R. Sumner, M. Pollefeys, F. Tombari, and F. Engelmann, "OpenMask3D: Open-vocabulary 3D instance segmentation," In Proceedings of the Nueral Information Processing Systems (NeurlPS), 2023.？
Z. Huang, X. Wu, X. Chen, H. Zhao, L. Zhu, and J. Lasenby, "OpenIns3D: Snap and Lookup for 3D Open-vocabulary Instance Segmentation," preprint arXiv:2309.00616, 2023.？
S. Lu, H. Chang, E. Jing, A. Boularias, and K. Bekris, "OVIR-3D: Open-vocabulary 3D instance retrieval without training on 3D data," In Proceedings of the Conference on Robot Learning(CoRL), 2023.？
R. Ding, J. Yang,, C. Xue, W. Zhang, S. Bai and X. Qi, "Lowis3D: Language-Driven Open-World Instance-Level 3D Scene Understanding," preprint arXiv:2308.00353, 2023.？
A. Radford et al., "Learning transferable visual models from natural language supervision," preprint arXiv:2103.00020, 2021.？
C. Jia et al., "Scaling Up Visual and Vision-Language Representation Learning With Noisy Text Supervision," In Proceedings of the International Conference on Machine Learning(ICML), 2021.？
G. Ghiasi, X. Gu, Y. Cui, and T. Lin, "Scaling Open-vocabulary image segmentation with image-level labels," In Proceedings of the roceedings of the European Conference on Computer Vision (ECCV), 2022.？
J. Ding, N. Xue, G. Xia, and D. Dai, "Decoupling zero-shot semantic segmentation," In Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR), 2022.？
F. Liang, B. Wu, X. Dai, K. Li, Y. Zhao, H. Zhang, P. Zhang, P. Vajda, and D. Marculescu, "Open-vocabulary semantic segmentation with mask-adapted CLIP," In Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR), 2023.？
J. Qin et al., "FreeSeg: Unified, universal and open-vocabulary image segmentation," In Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR), 2023.？
Y. Yang, X. Wu, T. He, H. Zhao, and X. Liu, "SAM3D: Segment anything in 3D scenes," arXiv preprint arXiv:2306.03908.？
A. Kirillov et al., "Segment Anything," In Proceedings of the IEEE/CVF International Conference on Computer Vision (ICCV), 2023.？
R. Chen et al., "CLIP2Scene: Towards label-efficient 3D scene understanding by CLIP," In Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR), 2023.？
S. Peng, K. Genova, C. Jiang, A. Tagliasacchi, M. Pollefeys, and T. Funkhouser, "OpenScene: 3D Scene understanding with open vocabularies," In Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR), 2023.？
X. Zhou, R. Girdhar, A. Joulin, P. Krahenbuhl, and I. Misra, "Detecting twenty-thousand classes using image-level supervision," In Proceedings of the roceedings of the European Conference on Computer Vision (ECCV), 2022.？
C. Choy, J. Gwak, and S. Savarese "4D Spatio-Temporal ConvNets: Minkowski convolutional neural networks," In Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR), 2019.？
X. Wu, Y. Lao, L. Jiang, X. Liu, and H. Zhao, "Point Transformer V2: Grouped vector attention and partition-based pooling," In Proceedings of the Nueral Information Processing Systems (NeurlPS), 2022.

저자의 다른 논문 :

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증