최근들어 AI에 대한 관심이 많아지면서 이를 악용하는 사례가 늘고 있습니다.
악용하는 사례로는 딥페이크 영상을 입혀 실제 유명인이 한 것처럼 포장을 해 물건을 판매한다든지
실제 유명인이 범죄를 행한것처럼 보여져 당사자의 명예를 훼손하는 일도 비일비재하게 되었습니다.
이에 대해 정부는 AI 생성물에 대한 대응 일환으로 AI생성물에 워터마크를 표시하는 것을 의무화하기로 했다고 합니다.
새로운 디지털 질서 정립: AI 생성물 워터마크 의무화 및 디지털 안전 강화
최근 정부는 딥페이크 가짜뉴스에 대응하기 위한 혁신적인 정책을 발표했습니다. AI가 생성한 콘텐츠에는 반드시 워터마크를 표시하도록 의무화하는 한편, 관련 법령의 제·개정을 추진하여 법적 기반을 마련할 예정이라고 합니다.이 조치는 디지털 환경에서의 신뢰를 구축하고 가짜뉴스의 확산을 방지하기 위한 하나의 중요한 첫걸음이라고 생각합니다.
AI 안전성을 위한 전담조직 및 디지털서비스 안전법 제정
AI 기술의 안전성을 검증하고 연구하는 전담조직도 설치된다고 하는데요, 이를 통해 대한민국은 아시아 태평양 지역의 AI 안전허브로 자리매김할 것으로 보여집니다. 더불어 디지털 위협에 대비하기 위해 '디지털서비스 안전법'을 제정하여, 피싱이나 디지털 성범죄와 같은 사이버 범죄에 대한 국가 대응체계를 강화한다고 하네요.
디지털 권리장전의 구체적 실현: 20대 정책과제
이번 계획은 윤석열 대통령의 ‘디지털 권리장전’을 구체적인 정책으로 구현하기 위한 범부처 차원의 노력입니다. 디지털 시대의 새로운 질서를 확립하고 신속히 쟁점을 해결하기 위해 52개의 주요 쟁점을 해소하기 위한 20대 정책과제를 포함하고 있습니다.
주요 정책과제: AI 저작권, 디지털 위협 대응, 디지털 포용서비스, 비대면 진료
AI 저작권법을 정비하고 디지털 위협에 철저히 대응하며, 디지털 포용서비스를 강화하는 등의 정책이 포함됩니다. 특히 비대면 진료를 본격적으로 제도화하여, 의료법 개정을 통해 비대면 진료의 법적 근거를 마련하고 관련 서비스와 기술을 연계할 방침입니다. 이와 함께, 개인 건강정보 보호와 처방전 위·변조 방지 등 관리체계를 개선하기 위해 노력하고 있습니다.
디지털 권리 향상: 연결되지 않을 권리와 잊힐 권리
디지털 심화 시대에 더욱 중요해질 '연결되지 않을 권리'와 '잊힐 권리'도 본격적으로 추진하는데 노·사·정 논의를 통해 공론화를 시작하고, 디지털 기업을 대상으로 자발적인 인식 개선을 유도할 계획이라고 하네요. 특히, 디지털 네이티브인 아동·청소년의 개인정보 보호를 위해 잊힐 권리를 제도화하고, 지우개 서비스를 확대하여 실질적인 보호를 제공할 것입니다.
이를 통해 정부의 노력이 과연 앞으로 다가올 AI 생성물에 대한 피해를 막을 수 있을지 앞으로가 더 궁금해지는 소식이네요.