AI기술 발전으로 인한 명과 암이 뚜렷하게 나타나고 있다. 챗GPT 등 삶과 생활에 도움이 되는 서비스도 늘고 있는 반면, AI를 악용한 범죄도 점차 더 다양해지는 추세다. 최근 논란이 되는 텔레그램발 딥페이크 범죄도 AI 기술 발전의 어두운 면으로 볼 수 있다.
이외에도 딥페이크·딥보이스 기술을 악용해 가족이나 지인 등의 얼굴이나 목소리로 위장해 돈을 요구하는 AI피싱이 활개를 치고 있어 주의가 당부되는 가운데 통신사가 대응에 나섰다.
경찰청은 최근 딥보이스나 딥페이크 등 AI 기술이 보이스피싱 등 금융 사기범죄에 악용되면서 새로운 범죄유형이 생겨나고 이에 따른 피해자도 급증하고 있다고 밝혔다.
AI 피싱은 우리나라만의 일이 아니다. 아랍 에미리트의 한 대기업 임원은 딥보이스 범죄에 속아 3500만 달러(약 468억원)을 송금했고, 캐나다에서는 가짜 아들 목소리에 속은 부모가 2만1000캐나다달러(약 2083만원)의 피해를 입었다.
다수의 전문가에 따르면 딥보이스 합성은 기술적으로 어려운 일이 아니다. 몇 분짜리 목소리 녹음파일과 프로그램만 있다면 일반인도 당사자와 구분이 어려운 정도의 음성을 만들 수 있다는 것이다.
실제로 유튜브에는 프레디 머큐리가 부르는 아이유의 노래 ‘내 손을 잡아’, 개그맨 박명수가 부르는 피프티피프티의 노래 ‘큐피드’ 등 팬들이 AI로 만든 커버곡이 다수 올라와 있다. 한 유튜버가 올린 ‘내 목소리로 AI 커버 만드는 방법’이란 제목의 동영상은 조회수 21만회를 기록하기도 했다.
AI 피싱, AI 기술로 막는다
각계각층에서 AI 악용 범죄를 막기 위한 노력이 이어지는 가운데 국내 이동통신사들은 딥페이크·딥보이스 피싱 범죄 대응을 위한 AI 기술 개발에 박차를 가하고 있다.
SK텔레콤은 통화 중 실시간으로 악성문자, 보이스피싱 등을 탐지하는 서비스를 개발한다. 이 서비스는 통화 문맥을 토대로 보이스피싱 의심 여부를 실시간으로 판별해 보인이나 가족에게 알림을 주는 것이 핵심이다.
보이스피싱에 사용되는 주요 키워드와 패턴을 탐지하는 것은 물론, 통화 문맥의 특성에 대한 분석을 통해 수사기관을 사칭하거나 금융거래를 이유로 개인정보를 요구하는 행위 등 다양한 보이스피싱 상황을 즉각 인지하고 의심통화로 분류한다.
온디바이스 AI 기술을 적용, 서버로 전송되지 않고 단말기에서 처리하도록 해 더욱 빠른 대응이 가능하다는 점이 특징이다.
LG유플러스는 자체 AI 기술 ‘익시(ixi)를 활용해 개발한 ‘화자음성인식(목소리 식별 기술)’을 활용한 보이스피싱 피해 예방에 나선다는 계획이다. 화자음성인식은 발화자가 5~10개 문장을 녹음해 목소리를 시스템에 등록하면, AI가 음성의 특징을 분석해 본인인지 여부를 가려낸다.
보이스피싱 조직이 딥보이스를 활용해 가족의 음성으로 전화를 걸더라도 기존에 등록된 가족의 목소리와 비교해 진위를 판별할 수 있어 피해를 예방할 수 있다는 것이다.
AI는 화자의 목소리를 주파수 대역으로 변환, 음의 높낮이와 속도 등 발화 특성을 딥러닝 네트워크를 활용해 분석한다. 기존에 등록된 발화값과 새롭게 들어오는 발화값의 통계 유사성을 비교해 화자의 성별과 연령대 등도 파악할 수 있다.
KT는 국민건강보험공단 고객센터에 ‘목소리 인증’ 서비스를 제공 중이다. 고객이 사전에 목소리 정보를 저장, 등록하면 이후 고객센터와 통화시 목소리만으로 인증이 가능하도록 한 것이다.
아울러 딥보이스로 타인을 사칭하는 경우 이를 탐지할 수 있는 기술도 적용해 보안성을 높였다. KT는 딥보이스에 대응을 위해 앞으로도 지속적으로 목소리 인증의 품질을 개선하고 고도화한다는 계획이다.
