뉴스.22 “내 모든 정보를 바탕으로 AI로 만든 캐리커처”, 디지털 사기 위험에 노출될 수 있어

기사 요약:

최근 소셜 미디어에서 AI를 활용하여 자신의 직업, 가족, 일상을 반영하는 캐리커처를 만드는 트렌드가 확산되고 있는 중이며, 이는 사이버 범죄자에게 사기를 칠 수 있는 도구를 제공하는 것과 다름 없다. 특히 AI 도입률이 높은 아시아태평양 지역에서 이러한 위험이 두드러지고 있다.

 

1. 최근 인스타그램, 틱톡 등 SNS에서 AI로 자신의 삶을 묘사한 일러스트를 만드는 것이 유행하고 있으며, 개인 정보 노출과 대규모 맞춤형 사기의 원인이 된다. 정확한 이미지를 얻기 위해 가족 정보, 일상 루틴 등 구체적인 정보를 AI 프롬프트에 입력하면서 상세한 내용이 범죄자에게 노출될 위험이 상승한다.

 

2. 노출된 데이터를 바탕으로 피해자의 상황을 정확히 파악한 것처럼 행동하여 피해자가 민감 정보 또는 금전을 제공할 가능성이 높아진다. 이러한 노출된 데이터들은 AI학습 및 서비스 개선을 위해 예상보다 오래 저장될 수도 있다는 문제점을 가진다.

 

3. 이를 예방하기 위해서는 프롬프트에 민감한 개인정보를 넣지 말아야 하면, 로고나 위치가 드러나는 사진들을 업로드 하는 것도 금지해야 한다.

 

개인 의견:

많은 사람들이 흔히 쓰는 AI에 본인의 정보를 자연스럽게 노출하게 되는 상황이 빈번하게 발생하고 있는 와중에 이러한 점을 노린 사회공학적 기법, 피싱 등이 앞으로 여러 문제 상황을 야기할 것으로 보인다. 이를 예방하기 위해 본인의 정보를 쓰지 말라고 하지만, 이용하다 보면 자연스럽게 입력을 하게 되는 상황이 생긴다. 따라서 사용자의 주의에만 의존하기보다는, AI 서비스 설계 단계에서부터 민감 정보를 식별해 차단하는 기술적 보호 장치가 병행될 필요가 있다고 본다.

 

<용어 정리>

• 사회공학(Social Engineering) 공격: 기술적인 해킹 수단보다는 사람의 심리나 신뢰 관계를 이용해 비밀 정보를 얻어내는 공격 방식입니다. 예를 들어, 아는 지인이나 직장 동료인 척 접근하여 송금을 유도하는 행위가 이에 해당합니다.
• 프롬프트(Prompt): AI 모델에게 어떠한 결과물을 만들어달라고 명령하거나 질문하는 입력창, 혹은 그 입력 문장을 뜻합니다.
• 피싱(Phishing): 개인정보(Private data)와 낚시(Fishing)의 합성어로, 신뢰할 수 있는 기관이나 사람을 사칭해 이메일, 메시지 등으로 금융 정보나 비밀번호를 탈취하는 수법입니다.
• 캐리커쳐: 사용자의 개인적인 맥락이 담긴 디지털 복제본

 

뉴스 링크: https://www.dailysecu.com/news/articleView.html?idxno=206216