AI가 만든 가짜뉴스, 우리 동네도 예외가 아니다
AI 기술이 발전할수록 부작용도 커지고 있다. 가장 큰 위협 중 하나는 가짜 정보의 확산이다. AI는 그럴듯한 뉴스 기사, 사진, 영상을 쉽게 만들어낼 수 있다. 지역에서도 조작된 재난 사진, 허위 행정 공지, 가짜 맛집 리뷰, 존재하지 않는 이벤트 홍보 등이 퍼질 수 있다.
특히 지역 커뮤니티나 단체 카카오톡 채팅방에서는 출처 확인 없이 정보가 빠르게 공유되는 경향이 있어, AI 생성 허위 정보에 더 취약할 수 있다.
부모님 목소리까지 흉내 내는 보이스피싱
딥페이크 기술은 영상뿐 아니라 음성에도 적용된다. 가족의 목소리를 AI로 복제해 전화를 걸어 돈을 요구하는 보이스피싱이 이미 현실이 됐다. 한 보안 보고서에 따르면 2024년 딥페이크 관련 사기는 전년 대비 1,300% 이상 급증했으며, 2025년에도 딥페이크 통화가 155%, 딥페이크 사기가 162% 증가할 것으로 예측되었다.
출처: Pindrop 2025년 음성 지능 및 보안 보고서
어르신들이 특히 취약하다. 자녀나 손주의 목소리와 비슷한 전화를 받으면 의심 없이 응할 수 있다. 금전 요구, 인증번호 요구, 개인정보 요구가 있으면 반드시 끊고 본인에게 직접 전화로 재확인해야 한다.
딥페이크 성범죄, 10·20대가 전체 피해의 78%
딥페이크의 가장 심각한 피해는 성범죄 분야에서 나타나고 있다. 여성가족부와 한국여성인권진흥원에 따르면, 2024년 딥페이크 기술을 활용한 합성·편집 피해 건수는 1,384건으로 전년(423건) 대비 227% 급증했다. 피해자의 78.7%가 10대와 20대였다.
출처: 여성가족부·한국여성인권진흥원 ‘2024 디지털성범죄 피해자 지원 보고서’
편리한 AI 행정, 개인정보 보호가 먼저다
지자체가 AI를 행정에 도입할 때 가장 먼저 고려해야 할 것은 주민의 개인정보 보호다. 민원 데이터, 복지 수급자 정보, 건강 기록, 위치 정보 등이 AI 학습에 활용될 경우 유출이나 오용 위험이 있다.
AI 기본법은 이 문제에 대해 명확한 기준을 제시하고 있다. 생성형 AI 사업자는 AI가 만든 콘텐츠에 대해 생성물 표시 의무를 지며, 고영향 AI 사업자는 투명성과 안전성 확보 의무를 진다. 과태료 계도기간이 최소 1년 이상 운영되지만, 법적 의무 자체는 2026년 1월 22일부터 발효되었다.
출처: 과학기술정보통신부, AI 기본법 시행령
AI시대의 새 상식: 의심하고 확인하라
*. 이 특별기획기사는 본 기자와 함께 "chatGPT, Claude, Gemini" 등 AI를 활용 해서 구성, 자료조사, 이미지 생성, 기사 작성을 했습니다.
