[정책제안]

디지털 약자와의 동행, 이제는 AI 안전교육이다

AI 음성사기 시대, 이제는 시민 AI 안전교육을 시작해야 한다

얼마 전 다소 이상한 전화를 받았다. 상대방은 오랫동안 알고 지낸 사람처럼 자연스럽게 말을 건넸다. 감기에 걸려 병원에 다녀왔고 목이 많이 아프다는 이야기를 반복했다. 이동 중이라 익숙한 목소리처럼 들려 대화를 이어갔지만 통화를 마친 뒤 아무리 생각해도 누구인지 떠오르지 않았다.

​

문자를 남겼지만 답이 없었고 다시 전화를 걸어도 받지 않았다. 예전 같으면 단순한 해프닝으로 지나갔을 일이다. 그러나 AI 기술이 일상에 깊숙이 들어온 지금은 다르게 생각해야 한다.

​

최근 인공지능 기술은 짧은 음성 데이터만으로도 실제 사람과 유사한 음성을 생성할 수 있는 수준까지 발전했다. 불과 몇 년 전만 해도 영화 속 이야기로 여겨졌던 음성복제 기술이 이제는 스마트폰 하나로 구현되는 시대가 된 것이다.

​

문제는 기술의 발전 속도에 비해 시민들의 대비가 충분하지 않다는 점이다. 과거 보이스피싱 범죄는 금융기관이나 수사기관을 사칭하는 방식이 주를 이루었다. 하지만 앞으로는 가족, 지인, 직장동료, 공공기관 담당자 등 실제 아는 사람의 목소리를 흉내 내는 형태로 진화할 가능성이 높다.

​

특히, 어르신들은 익숙한 목소리에 대한 신뢰가 높아 피해 위험이 크다. 청소년 역시 AI 기술에 익숙하다고 해서 안전한 것은 아니다. 디지털 환경에 노출된 시간이 길수록 오히려 새로운 유형의 범죄에 노출될 가능성도 커진다.

​

서울시는 디지털 약자와의 동행을 주요 정책 가치로 추진하고 있다. 이제는 그 범위를 한 단계 확대할 필요가 있다.

​

AI 활용 교육과 함께 AI 범죄 예방 교육을 병행해야 한다. 동주민센터, 복지관, 평생학습관, 도서관, 학교 등을 활용해 시민 누구나 쉽게 참여할 수 있는 \'생활형 AI 안전교육\' 체계를 구축해야 한다. 교육 내용도 실질적이어야 한다.

​

▲첫째, AI 음성복제 및 딥페이크 사례 교육 ▲둘째, 개인정보 보호와 음성정보 관리 방법 ▲셋째, 가족 간 비상연락 암호 설정 등 피해예방 수칙 ▲넷째, 신종 금융사기 및 온라인 사기 대응 교육 ▲다섯째, 아동·청소년·노인 대상 맞춤형 디지털 안전교육이다.

​

AI는 미래를 이끌 핵심 기술이다. 그러나 기술의 혜택은 시민의 안전이 보장될 때 비로소 완성된다. 우리는 이미 보이스피싱으로 값비싼 사회적 비용을 치렀다. AI 범죄에 대해서는 같은 실수를 반복해서는 안 된다.

​

기술을 두려워할 필요는 없다. 다만 기술을 이해하고 대비하는 사회적 준비는 반드시 필요하다. AI 시대의 경쟁력은 기술 보유 여부가 아니라 기술을 안전하게 활용하는 시민 역량에서 결정된다.

​

이제 AI 교육은 선택이 아닌 생활안전 정책의 영역이다. 서울이 진정한 AI 선도도시가 되기 위해서는 시민을 보호하는 AI 안전교육 체계 구축부터 시작해야 한다.

​

​

​