AI까지 붙으면 어떻게 될까요

이미 정교한 사기가 더 고도화되는 이유

 

현재 수준의 인스타그램 불륜 서사 사기도 충분히 정교해요 

 

그런데 앞으로 여기에 AI 기술이 결합되면 어떻게 될까요 

 

이미 딥페이크 기술은 실제 인물의 얼굴과 목소리를 흉내 낼 수 있는 수준에 도달해 있어요 

 

현재는 도용된 사진을 그대로 쓰는 방식이지만 앞으로는 피해자의 얼굴을 활용해 실시간 영상 통화까지 가능해질 수 있어요 

 

사기꾼이 피해자의 얼굴로 화상 통화를 걸어서 투자를 권유하는 상황이 오면 의심하기가 지금보다 훨씬 어려워지겠죠 

 

기술이 발전할수록 사기도 함께 진화한다는 건 이미 역사가 증명하고 있어요

 

AI 챗봇이 감정 상담사 역할을 하는 미래

 

지금은 사기꾼이 직접 DM을 보내거나 게시물을 올려요 

 

그런데 AI 챗봇이 결합되면 24시간 맞춤형 감정 대화가 가능해져요 

 

피해자가 힘들다고 하면 위로하고 복수하고 싶다고 하면 방법을 제안하는 방식으로요 

 

심지어 피해자의 말투나 관심사를 분석해서 가장 효과적인 감정 자극 포인트를 찾아내는 것도 가능해지죠 

 

이미 일부 사기 조직은 AI 챗봇을 활용해 로맨스 스캠을 벌이고 있다는 보고가 나오고 있어요 

 

감정적으로 완전히 연결됐다고 느끼는 상대가 사실은 AI였다는 상황 앞으로 충분히 현실이 될 수 있어요

 

 

타깃팅이 더 정밀해지는 방향

 

현재 사기 계정들은 불특정 다수를 대상으로 해요 팔로워가 많은 계정을 해킹해서 최대한 많은 사람에게 노출시키는 방식이죠 

 

그런데 앞으로는 개인 데이터를 활용한 정밀 타깃팅이 가능해질 거예요 

 

SNS에서 수집된 데이터를 분석해 이혼 가능성이 높은 사람 최근 가족 갈등을 겪은 사람 투자에 관심 있는 사람을 골라낼 수 있어요 

 

그 사람의 상황에 맞는 맞춤형 서사를 설계하면 공감도와 몰입도가 훨씬 높아지겠죠 

 

불특정 다수를 대상으로 하는 지금보다 개인 맞춤형 사기가 훨씬 더 위험할 수 있어요

 

 

플랫폼 탐지 기술과의 숨바꼭질

 

메타나 구글 같은 플랫폼들도 사기 계정을 탐지하는 AI를 고도화하고 있어요 

 

그러면 사기꾼들도 탐지를 피하는 방법을 고도화하겠죠 

 

이미 지금도 사기 계정이 삭제되면 새 계정으로 이동하는 방식으로 탐지를 피하고 있어요 

 

앞으로는 탐지 알고리즘의 허점을 역이용하는 방식이 더 정교해질 거예요 

 

예를 들어 처음 일정 기간은 완전히 정상적인 콘텐츠만 올려서 신뢰도를 쌓은 뒤 갑자기 사기 모드로 전환하는 방식이에요 

 

플랫폼이 한 발 앞서 나가려 해도 사기꾼들이 그 뒤를 바짝 쫓는 구조는 당분간 계속될 거예요

 

 

피해자 심리 연구를 역이용하는 가능성

 

사기 피해자를 보호하기 위한 심리학 연구들이 많이 나오고 있어요 

 

어떤 사람이 어떤 상황에서 사기에 취약한지를 분석한 연구들이죠 

 

그런데 이런 연구 결과가 공개되면 사기꾼들도 그 내용을 역이용할 수 있어요 

 

피해자가 의심하기 시작하는 시점을 예측해서 그 직전에 더 강한 신뢰 신호를 보내는 방식으로요 

 

수익 인증글이나 다른 피해자의 성공 사례처럼 보이는 콘텐츠가 더 정교해질 수 있죠 

 

사기 예방 정보가 오히려 사기꾼의 교재가 되는 역설적인 상황이 앞으로 더 심해질 수 있어요

 

 

법과 수사 역량이 따라갈 수 있을까

 

기술이 빠르게 발전하는 만큼 사기 범죄도 빠르게 진화하고 있어요 

 

그런데 법과 수사 역량은 그 속도를 따라가지 못하고 있죠 

 

현행법으로 딥페이크 사기를 처벌하는 규정이 명확하지 않은 경우도 있고 국제 사기 조직을 추적할 수 있는 공조 체계도 충분하지 않아요 

 

피해자가 신고해도 돈을 못 받을 수 있다는 말을 변호사에게 듣는 현실이 이걸 보여주죠 

 

앞으로 AI 기반 사기가 본격화되기 전에 법적 제도적 기반을 강화하지 않으면 피해 규모는 지금보다 훨씬 커질 거예요

 

 

그래도 우리가 할 수 있는 것들

 

 

기술이 진화하고 사기가 고도화돼도 우리가 할 수 있는 것들은 있어요 

 

SNS 계정 보안을 강화하고 의심스러운 링크는 누르지 않으며 낯선 계정과의 금전 거래를 절대 하지 않는 기본 원칙은 미래에도 유효해요 

 

여기에 더해 AI 생성 콘텐츠를 식별하는 능력을 키우는 디지털 리터러시 교육이 필요해요 

 

딥페이크를 구별하는 방법 AI 챗봇과 실제 사람을 구분하는 방법을 알아두는 것도 중요해지고 있죠 

 

피해를 당했을 때 빠르게 신고하고 증거를 보존하는 방법을 미리 알아두는 것도 필수예요 

 

사기꾼보다 한 발 앞서 나가려면 우리도 계속 배워야 해요