기기 안에서 바로 판단하는 AI.

온디바이스 실시간 추론

Edge AI는 모든 데이터를 서버로 보내지 않고, 사용자의 기기와 현장 장비 안에서 바로 인식하고 판단하는 AI 구조입니다.

AX Lab은 온디바이스 디텍션, 실시간 추론, 경량화 모델을 스마트시티, 공간 데이터, AR 인터페이스와 연결하는 가능성을 연구합니다.

On-DeviceReal-TimeQuantization

— Section 1

세 가지 조건이 핵심입니다.

01 On-Device Object Detection
카메라와 센서가 수집한 장면에서 사람, 사물, 표지, 위험 요소를 기기 내부에서 탐지합니다. 네트워크가 불안정해도 기본 판단이 가능해야 하는 현장형 AI의 출발점입니다.
02 Real-Time Edge Inference
사용자가 움직이는 순간, 화면이 바뀌는 순간, 차량이나 장비가 이동하는 순간에 지연 없이 판단해야 합니다. 엣지 추론은 반응 속도가 곧 사용성과 안전성입니다.
03 Quantization
제한된 연산 환경에서도 모델이 작동하도록 경량화하고 최적화합니다. 모델 크기, 정확도, 속도, 배터리 사용량 사이의 균형을 설계하는 기술입니다.

— Section 2

01 도시 데이터 플랫폼과 엣지 AI 연동
도시 데이터, AR, 온디바이스 AI를 결합해 현장에서 감지한 정보를 서비스 데이터와 연결하는 연구입니다. 가능성: 교통, 시설, 안전, 환경 데이터를 현장에서 빠르게 판단하고 도시 운영 대시보드와 연결하는 스마트시티 인프라로 발전할 수 있습니다.
02 AR HUD / Smart-Glass 정보 인식
카메라 기반 인식 결과를 사용자의 시야 위에 올리는 인터페이스 구조입니다. 인식과 표시가 동시에 이뤄질 때 엣지 AI의 가치가 분명해집니다.
03 온디바이스 콘텐츠 검수
이미지나 영상이 생성·촬영되는 순간 기기에서 기본 품질, 오브젝트, 규칙 위반 여부를 검토하는 구조입니다. 가능성: 크리에이티브 제작, 현장 촬영, 제품 등록 업무에서 서버 업로드 전 1차 검수를 자동화해 운영 비용을 줄일 수 있습니다.

— Section 3

On-Device
서버 왕복 없이 기기 안에서 판단. 온디바이스 콘텐츠 검수와 현장형 디텍션은 네트워크 지연이나 개인정보 전송 부담을 줄이기 위해 기기 내부에서 1차 판단을 수행합니다. 관련 프로젝트: 온디바이스 콘텐츠 검수, 현장 객체 감지
Real-Time
사용자 행동과 현장 상황에 즉시 반응. AR HUD/Smart-Glass 인터페이스는 안내 정보가 늦게 뜨면 경험이 깨집니다. Real-Time 추론은 위치, 방향, 객체 정보를 즉시 반영하는 핵심 조건입니다. 관련 프로젝트: AR HUD/Smart-Glass, 실시간 도시 안내
Quantization
작은 기기에서도 돌 수 있게 모델을 경량화. 모바일, 키오스크, 글래스 환경에서는 모델 크기와 전력 효율이 중요합니다. Quantization은 정확도와 속도 사이의 균형을 맞추는 배포 기술입니다. 관련 프로젝트: 온디바이스 추론 최적화, 엣지 배포 파이프라인

— Timeline