(24_5호)이슈페이퍼_AI 안전성과 신뢰성, 딥페이크 가짜뉴스 대응 쟁점은?

1쪽

2024.5호

발행일 | 2024. 05. 28

KOFAC

이슈 페이퍼

AI 안전성과 신뢰성, 딥페이크 가짜뉴스 대응 쟁점은?

‘새로운 디지털 질서 정립 추진계획’ 사회적 공론화 추진

Creativity

작성자 | 장미경 선임연구원 | 정책기획실 | 한국과학창의재단

편집

Science

Issue

발행

Research

2쪽

AI 안전성과 신뢰성, 딥페이크 가짜뉴스 대응 쟁점은?

‘새로운 디지털 질서 정립 추진계획’ 사회적 공론화 추진

8대 핵심과제를 통한 디지털 질서 정립

전 세계 빅테크 기업을 중심으로 생성형 인공지능의 놀라운 진화와 신모델 출시가 급속도로 진행되는 가운데, 우리 정부가 관계부처 합동으로 최근 글로벌 화두로 논의되는 인공지능 의제 관련 ‘새로운 디지털 질서 정립 추진계획’을 마련하고 2024년 5월 21일 공개했다.

추진계획을 살펴보면, 그동안 논란이 되어왔던 인공지능 생성 콘텐츠에 대한 워터마크 표시 의무화, 딥페이크 탐지와 식별 기술 개발을 통한 가짜뉴스 대응, AI 저작물에 대한 대가 산정 방안 등 저작권 제도 정비, 비대면 진료 제도화 등을 포함하고 있다. 이와 함께 디지털 심화 시대에 일할 권리와 쉴 권리의 균형을 보장하는 ‘연결되지 않을 권리’와 ‘디지털 디톡스 캠페인’, 디지털 공간에서 개인의 과거를 지울 수 있도록 지원하는 ‘잊힐 권리’ 등에 대해서도 본격적인 공론화가 추진될 전망이다.

정부는 이번 계획에 대해 “2023년 9월 디지털 신질서 정립 제안 형식으로 발표된 ‘디지털 권리장전’을 정책으로 구체화했다는 차원에서 의미가 있다”면서, “20개의 정책과제 중 소관 부처를 중심으로 12대 정책과제를 추진하되, 시급성과 파급성이 높은 정책과제 8개를 핵심과제로 선정해 집중적으로 관리할 계획”이라고 밝혔다. 기존의 디지털 권리장전에 내포된 AI 안전성, AI 저작권 법·제도 정비 관련 철학과 5대 원칙(자유, 공정, 안전, 혁신, 연대)을 토대로 AI와 디지털 정책 추진 관련, 52개 세부 쟁점 사항을 해소하기 위한 과제를 담고 있다는 설명이다.

정부가 발표한 8대 핵심과제는 㝌 AI 기술의 안전성과 신뢰·윤리 확보 㝌 딥페이크를 활용한 가짜뉴스 대응 㝌 AI 개발·활용 관련 저작권 제도 정비 㝌 디지털 재난 및 사이버 위협·범죄 대응 㝌 디지털 접근성 제고·대체 수단 확보 㝌 비대면 진료의 안정적 시행 㝌 연결되지 않을 권리 보호 㝌 잊힐 권리 보장이다.

장미경 선임연구원

3쪽

AI 안전성 확보를 위한 ‘AI 기본법’ 제정

한국 주도의 AI 규범과 거버넌스 논의 목표

몇 가지 주요 과제에 대한 세부 내용을 좀 더 구체적으로 살펴보자. 먼저 ‘AI 안전성 확보’와 관련해서는 ‘AI 기본법 제정’을 통해 안전하고 신뢰할 수 있는 인공지능을 위한 법체계 확립을 주요 골자로 한다. 법안 내 총 9개 분야를 ‘고위험영역 AI’로 정의하고, 사업자의 안전성 확보 조치 의무화, 생성형 AI 산출물 표시 의무 등의 내용을 포함하고 있다.

정부는 2024년 12월까지 AI법의 세부 지침으로 고위험 영역에 속하는 AI 사업자의 위험 관리에 관한 구체적인 가이드라인을 마련할 예정이라고 밝혔다. 또한 2024년 하반기까지 의료 인공지능 및 지율주행차 사고 등의 책임 주체와 입증 책임 등 미래의 법적 쟁점을 발굴하는 AI 사고 관련 책임 연구를 수행하고, 2026년 이를 바탕으로 손해배상체계 등 법률 개정을 검토할 예정이다.

이와 함께 2024년 5월 ‘AI 서울 정상회의’ 에서 세계 주요국 정상과 빅테크기업 CEO 등이 참여해 AI의 안전성 보장, 혁신 촉진, 포용적 미래에 대한 논의를 추진한 바와 같이 AI 규범과 AI 거버넌스 관련 글로벌 논의를 우리나라 주도로 추진할 계획이다. 아울러 2023년 6월 디지털 윤리규범의 기본 원칙 제시 및 UN 산하 국제기구 설립을 제안한 ‘파리 이니셔티브’의 후속 조치로, AI 디지털 규범을 논의할 상설 회의체인 OECD ‘디지털 사회 이니셔티브’를 5월 19일 출범하고, 세부 진행 사항에 대한 구체화 작업에 착수했다.

디지털 사회 이니셔티브는 OECD 회원국 간 디지털 규범 관련 상설 협력 네트워크를 구축해 인공지능,…

앞부분 일부를 원문에서 글자로 옮긴 것입니다. 표·그림과 전체 내용은 이북에서 확인하세요.

전체 텍스트 보기 →