인공지능 AI 생성 사진과 실물 사진 판별 기술 분석
1. 딥페이크 및 가상 생성 이미지의 증가와 판별의 중요성
Midjourney, DALL-E, Stable Diffusion 등 생성형 AI의 급성장으로 사실적이고 정교한 고품질 사진이 손쉽게 쏟아지고 있습니다. 이로 인해 가짜 뉴스의 확산이나 딥페이크 악용 위험성 또한 증대되었습니다. 온라인상에 유통되는 시각 자료의 신뢰도를 판가름하는 안목과 자동화 탐지 도구의 중요성이 날로 부각되는 시대입니다.
2. 이진 레벨 메타데이터 추적과 AI 서명 검출
AI 이미지 판독 프로세스는 1단계로 파일 헤더에 숨겨진 구조 정보를 분석합니다. 카메라의 고유한 조리개 값, 촬영 일자 등이 기록되는 EXIF 데이터가 존재하는지 확인하거나, 생성형 AI 도구가 남기는 고유한 메타데이터 규격(C2PA, JUMBF 프로토콜 등)을 이진 배열 스캔하여 인공지능 저작 여부를 즉각 색출해 냅니다.
3. 딥러닝 ONNX 모델을 통한 진위 감별 보강
메타데이터가 유실된 스크린샷은 ONNX Community 이미지 분류 모델로 픽셀 패턴을 추가 분석합니다. 선택한 원본 이미지는 외부 편집 서버에 업로드되거나 저장되지 않으며, 판독 결과는 참고 정보로 활용할 수 있습니다.
4. 생성 AI의 손가락 기형과 텍스처 오류 판별
자동화된 탐지 도구뿐만 아니라 육안으로도 AI 사진을 의심할 수 있는 포인트들이 있습니다. AI 모델은 인체의 구조적 이해가 부족하여 손가락 갯수가 6개이거나 관절이 비틀린 경우가 잦으며, 배경의 글씨들이 외계어처럼 무의미한 문양으로 뭉개지는 특성이 있습니다.
5. 다봄랩 판독기의 활용과 미래
딥페이크 악용 범죄가 늘어나는 상황에서, 뉴스 팩트체커나 커뮤니티 관리자들은 이미지를 배포하기 전 AI 판독기를 통해 필터링하는 절차를 도입하고 있습니다. 다봄랩의 판독기는 안전한에서 안전하게 작동하므로 프라이버시 침해 없이 진위 여부를 일차적으로 가려내는 훌륭한 필터망이 됩니다.