성균관대학교 스마트팩토리융합학과

기업수요 기반 프로젝트 팀 모집

📌 2026학년도 2학기

모집마감스마트팩토리캡스톤디자인Digital TwinVision AIObject DetectionSynthetic DataChange Detection

3D 디지털트윈 최신화를 위한 비전 AI 기반 설비 변경 탐지 연구

Vision AI-Based Equipment Change Detection for Maintaining Up-to-Date 3D Digital Twins

팀장 이세웅(스마트팩토리융합학과)

지도교수 정종필

연계기업 빅베넷(이세웅 · AI 사업부)홈페이지

stpnlsw0416@gmail.com

010-6563-2876

모집 3 · 지원 4마감 2026.09.07(마감)선발: 기타 · 기타: 가벼운 면담

1. 프로젝트 개요

프로젝트 요약

본 프로젝트는 고정 카메라 영상에서 비전 AI로 설비의 존재와 공간 점유 상태를 추정하고, 그 결과를 3D 디지털트윈에 즉시 반영할지, 기존 상태를 유지할지, 판단을 보류할지 결정하는 상태 동기화 시스템을 개발합니다. 설비 가림이나 조명 변화처럼 관측 조건이 불충분한 상황에서는 AI의 판단을 그대로 반영할 경우 실제 설비 상태와 디지털트윈이 달라질 수 있습니다. 이를 줄이기 위해 3D 합성데이터로 관측 조건을 통제하고, 즉시 반영 / Update·Keep / Update·Keep·Defer 세 가지 상태 갱신 방식을 비교하여 판단 근거가 부족할 때 갱신을 보류하는 방식의 효과를 분석합니다. 최종적으로 설비 상태 추정 → 디지털트윈 비교 → 갱신 의사결정 → 사용자 검토 → 3D 시각화까지 연결된 Web Demo를 구현하고, 잘못된 공간 상태가 경로 판단에 미치는 영향을 함께 보여줍니다. 핵심 키워드 디지털트윈 · 비전AI · 3D 공간정보 · 합성데이터 · 상태동기화 · 불확실성 · Human-in-the-loop

핵심 키워드

Digital TwinVision AIObject DetectionSynthetic DataChange Detection

2. 프로젝트 목표 및 내용

배경 및 필요성

디지털트윈은 실제 설비와 공간의 상태를 가상환경에 반영해 상태 확인, 운영 점검, 시뮬레이션, 공간 분석을 수행하는 기술입니다. 그러나 구축 이후에도 현장에서는 설비 이동, 신규 설치, 철거, 배치 변경이 계속 발생하고, 이 변화가 반영되지 않으면 현실과 가상환경의 불일치가 쌓입니다.

공장에 이미 설치된 고정 카메라와 비전 AI를 쓰면 LiDAR나 3D Scanner 없이도 설비 변화를 관측할 수 있습니다. 하지만 CCTV 영상이 항상 충분한 정보를 주지는 않습니다. 설비가 작업자나 자재에 가려지고, 조명이나 카메라 위치가 달라지고, 탐지 모델이 일시적으로 객체를 놓치거나 위치를 잘못 잡습니다.

이때 비전 AI의 결과를 그대로 자동 반영하면 두 방향의 문제가 생깁니다.

잘못된 갱신 — 실제로는 변화가 없는데 잘못된 관측을 반영해 디지털트윈 자체가 틀린 상태가 됨 변화 미반영 — 실제 변화가 있었는데 놓쳐서 디지털트윈이 옛 상태에 머무름

그래서 본 프로젝트는 탐지 성능을 높이는 것이 아니라, 현재의 관측을 디지털트윈 갱신에 사용해도 되는지 판단하는 과정에 초점을 둡니다. 비전 AI가 추정한 설비 상태와 영상의 관측 근거를 함께 보고 다음 세 가지 갱신 행동을 정의합니다.

Update — 관측 결과를 신뢰하여 디지털트윈 상태를 갱신 Keep — 기존 상태가 유지되고 있다고 판단 Defer — 현재 관측만으로는 근거가 부족하여 자동 결정을 보류하고 검토 대상으로 전환

이를 통해 어떤 관측 조건에서 자동 갱신이 오히려 정확성을 떨어뜨리는지, Defer가 잘못된 갱신과 변화 미반영 사이의 균형을 어떻게 바꾸는지 분석합니다. 또 잘못된 공간 상태가 단순한 3D 표시 오류로 끝나지 않고 경로 가능 여부나 충돌 판단 같은 후속 의사결정에 어떤 영향을 주는지도 확인합니다.

프로젝트 목표

  1. Top-down 고정 카메라 환경의 3D 합성데이터와 정답 점유 상태 데이터를 생성한다
  2. 설비 탐지 모델을 확보해 고정하고, 관측 근거의 충분성을 나타내는 별도 신호를 설계한다
  3. 세 가지 상태 갱신 방식을 구현하고 관측 조건별로 비교한다
  4. 잘못된 갱신, 변화 미반영, 오류 지속시간을 시간축에서 측정한다
  5. 잘못된 공간 상태가 경로·충돌 판단을 바꾸는 사례를 Demo로 확인한다

최종 결과물 형태

프로토타입

3. 시연 계획

이 프로젝트는 최종 발표에서 실물 또는 조작 가능한 형태의 라이브 시연을 수행합니다. 화면 출력만으로 끝나는 결과물이 아니라, 실제로 만들어 동작시키는 것을 목표로 하는 팀을 모집합니다.

실물 시연 형태

기타 실물 시연사용자 참여형 실물 테스트

최종 시연 시나리오

사용자가 설비 이동·신규 설치·철거·가림 등이 포함된 합성 장면 조건을 선택하면, 비전 AI가 화면 속 설비를 탐지하고 기존 3D 디지털트윈의 공간 점유 상태와 비교합니다. 시스템은 각 관측에 대해 `Update / Keep / Defer` 중 하나를 제안합니다. Defer일 때는 가림 추정치, 탐지 결과, 이전 프레임과의 일관성 등 판단 근거를 함께 보여주고, 사용자가 직접 갱신 여부를 검토할 수 있게 구성합니다. WebGL 3D 화면에서는 현재 디지털트윈 상태와 관측된 후보 상태를 나란히 표시해 자동 갱신 결과를 눈으로 확인할 수 있게 합니다. 여기에 공간 점유 상태를 이용한 간단한 경로 탐색 결과를 덧붙여, 잘못된 설비 상태가 경로 가능 여부나 충돌 판단을 어떻게 바꾸는지 보여줍니다. 또한 가림이나 미탐지 등 판단 근거가 부족한 경우에는 변경을 강제로 확정하지 않고 보류 대상으로 제시하며, 사용자가 변경 후보를 확인하여 승인 또는 보류할 수 있도록 구성합니다. 최종 시연에서는 변경 이미지 입력부터 비전 AI 추론, DT 객체 매칭, 변경 후보 생성 및 사용자 검토까지의 전체 과정을 실시간으로 동작시킵니다.

시연 장소 / 필요 장비·재료

실내 공간, 노트북/PC 1대

중간 점검 시연 시점

합성데이터 기반 설비 변화·가림 시나리오에서 `Update / Keep / Defer` 판정부터 3D 디지털트윈 반영까지 전체 파이프라인의 동작을 중간 점검합니다.

4. 학부생 팀원 모집 공고

모집 분야/역할

비전 AI 및 관측 분석 1~2명 사전학습 탐지 모델 적용 및 합성데이터를 이용한 최소 Fine-tuning, 가림·미탐지 상황 분석, 탐지 신뢰도 및 관측 근거 신호 설계 3D·디지털트윈 구현 1~2명 WebGL 기반 3D 환경 구성, 디지털트윈 공간 점유 상태 관리, 상태 갱신 반영, 3D 시각화 데이터·실험·Demo 개발 1~2명 합성데이터 및 관측 조건 시나리오 생성, 상태 갱신 방식 비교 실험, 결과 분석, 경로 판단 Demo 및 Web 화면 구현 ※ 세부 역할은 참여 학생의 관심 분야와 경험에 따라 조정하며, 주요 기능은 팀원 간 협업하여 개발합니다.

필요 역량/선수과목

Python

우대 사항

Python을 활용한 프로젝트 경험이 있는 학생 컴퓨터비전, 3D 그래픽스, 데이터 분석에 관심 있는 학생 PyTorch, WebGL/Three.js, Web 개발 경험이 있으면 도움이 되지만 필수는 아닙니다 관련 경험이 없어도 스마트팩토리, 디지털트윈, 컴퓨터비전, 3D 기술에 관심이 있고 프로젝트에 꾸준히 참여할 수 있다면 지원 가능합니다.

참여 시 혜택

- 데이터 생성부터 모델 적용, 실험 설계, 상태 동기화, Demo 개발까지 이어지는 End-to-End 연구개발 경험 - 클라우드 GPU 및 AI 개발 도구 활용 지원 - 연구 성과 및 기여도에 따라 소프트웨어 저작권 등록 및 논문 공저자 참여 기회 - AI·컴퓨터비전·스마트팩토리 분야 대학원 진학 및 취업에 활용 가능한 연구 포트폴리오 확보

지원 방법/문의

본 플랫폼 지원, 문자, 이메일

5. 학기별 추진 계획

기간단계주요 활동
1~2주팀 빌딩 & 주제 구체화역할 분담, 개발환경 및 Git 저장소 구축, 선행연구 검토, 설비 점유 상태와 `Update / Keep / Defer` 정의, 평가 지표 확정
3~5주문헌조사 & 데이터 준비WebGL 기반 Top-down 3D 환경 구성, 이동 시나리오 1건과 가림 조건 생성, 탐지 모델 확보, 점유 상태 비교, 갱신 판단 최소 구현 및 3D 반영 → 4주차 중간 확인
6~9주설계 및 1차 구현 (중간발표)신규 설치·철거 시나리오 추가, 탐지 모델 고정, 가림 정도를 단계별로 변화시키며 관측 근거 신호가 실제 오류를 구분할 수 있는지 검증
10~13주개선 및 실험/검증관측 조건별 잘못된 갱신·변화 미반영 정량 분석, 즉시 반영 / `Update·Keep` / `Update·Keep·Defer` 세 방식 비교, 오류 지속시간 측정
14~16주결과 정리 & 발표 (최종발표)사용자 검토 화면 구현, 경로 탐색 연결, WebGL 기반 Web Demo 통합/ 관측 조건별 경계, Defer 효과, 오류 지속시간 정리, 최종 Demo·보고서·발표자료 작성 및 라이브 시연

정기 미팅 계획

주 1회 온·오프라인 미팅을 진행하며, 개발 단계에서는 Git 기반 Issue로 작업 현황을 관리합니다.

역할 분담 방식

조율 후 진행

6. 기대 효과 및 활용 계획

학습 효과

비전 AI, 합성데이터, 3D 공간정보, 디지털트윈 상태 동기화를 하나로 묶어, 실제 산업 환경에서 발생하는 디지털트윈 최신화 문제를 연구개발 형태로 다뤄볼 수 있습니다. 단순히 탐지 모델을 구현하는 데서 그치지 않고, AI의 판단을 실제 상태에 반영할 때 생기는 오류와 불확실성을 분석하고 이를 완화하는 의사결정 로직까지 만들어 봅니다. 3D 공간 구성, 합성데이터 생성, 비전 AI 적용, 상태 관리, 실험 설계, 결과 분석, Web Demo 구현이 하나의 시스템으로 연결되므로 AI와 디지털트윈을 통합하는 전 과정을 경험할 수 있습니다.

향후 활용 계획

프로젝트 결과는 제조 현장에서 CCTV·고정 카메라로 설비 이동, 신규 설치, 철거 같은 구조적 변화를 확인하고, 잘못된 자동 갱신을 줄이면서 디지털트윈 최신화를 지원하는 기술로 확장할 수 있습니다. 후속 연구에서 검토할 내용: 설비의 정밀 위치·방향 상태까지 확장 원근 카메라 및 카메라 정합 오차 환경으로 확장 실제 산업현장 CCTV 영상 기반 검증 다중 카메라 및 자유 촬영 환경으로 확장 사람 검토 결과를 활용한 갱신 정책 개선 경로·물류·품질·공간 최적화 등 다양한 디지털트윈 활용으로 확장 프로젝트에서 만든 합성데이터 생성 환경, 비전 AI 적용 파이프라인, 상태 동기화 로직, 3D Web Demo 및 실험 결과는 연구 성과에 따라 논문, SW 등록, 개인 포트폴리오로 활용할 수 있습니다.

조회수 369 수정하기 지원자 관리