혼자 만든 아이폰용 딥페이크 판별 앱의 실전 교훈

아이폰에서 사진이나 영상을 검사해 실제 촬영물인지, 인공지능으로 만든 이미지인지, 딥페이크인지 판단하는 앱이 공개됐다. 사진첩이나 카메라의 파일을 분석하거나 사회관계망 링크를 붙여 넣으면, 앱이 신뢰 점수와 판단 근거를 보여준다. 핵심 특징은 모든 분석이 기기 안에서 끝난다는 점이다.

파일을 서버로 올리지 않고, 클라우드 처리도 없으며, 계정 가입이나 추적도 없다. 개발자는 CoreML 모델을 직접 훈련해 실제 사진과 인공지능 생성 이미지를 구분하게 만들었다. 가장 어려운 부분은 실제 사진을 가짜로 잘못 판단하지 않게 하는 일이었고, 별도로 남겨 둔 시험 데이터에서 오탐률을 약 1.6%까지 낮췄다.

이 앱은 단순히 진짜나 가짜로만 답하지 않고, 출처와 메타데이터, 인공지능 생성 흔적, 주파수 분석, 영상의 시간 흐름 일관성 같은 여러 신호를 따로 살핀 뒤 점수로 합친다. 신호가 약하면 무리하게 결론을 내리지 않고 불확실하다고 표시한다.