AI 생성 글에 표시가 필요한 이유: 표현 규제가 아니라 소비자 판단권의 문제

온라인에서 읽는 한 문장이 사람의 취재·검토를 거친 글인지, 생성형 AI가 만든 초안인지, 아니면 사람이 AI 초안을 고쳐 책임지고 낸 글인지 우리는 겉모습만 보고는 알기 어렵습니다. 이 차이는 글을 읽을지 말지의 문제가 아니라, 어떤 근거를 더 확인할지 결정하는 문제입니다. 그래서 AI 생성 사실을 알리는 표시는 ‘AI 글은 믿지 말라’는 낙인이 아니라, 독자에게 판단 재료를 한 장 더 주는 장치가 될 수 있습니다.

예를 들어 식품 포장지의 성분표를 생각해 볼 수 있습니다. 성분표가 있다고 음식이 나쁘다는 뜻은 아닙니다. 알레르기나 식단처럼 자기 상황에 맞는 선택을 하도록 필요한 정보를 알려 주는 것입니다. AI 표시도 비슷합니다. 독자는 표시를 보고 “사람이 사실을 다시 확인했는가?”, “실제 경험담처럼 보이는 글인가?”, “누가 최종 책임을 지는가?”를 더 정확히 물을 수 있습니다.

다만 여기서 중요한 점이 있습니다. AI가 맞춤법을 고쳐 준 경우와, 사람의 검토 없이 공익 사안을 설명하는 글 전체를 만든 경우는 같지 않습니다. 표시 제도는 이 차이를 지우기보다 AI가 맡은 역할과 사람의 검토·책임이 어디까지인지 드러낼 때 가장 쓸모가 있습니다.

먼저 구분하자: ‘AI 사용’과 ‘AI가 글의 출처가 된 것’은 다르다

생성형 AI는 질문에 맞춰 문장·이미지·소리를 새로 만들어 내는 프로그램입니다. 반면 맞춤법 검사, 밝기 조정, 잘라내기처럼 원래 내용을 크게 바꾸지 않는 보조 기능도 있습니다. 둘 다 넓게 보면 AI를 쓸 수 있지만, 독자가 알아야 할 정보의 양은 다를 수 있습니다.

가령 기자가 직접 취재하고 공식 자료를 확인한 뒤 AI로 긴 문장을 짧게 다듬었다면, 글의 근거와 편집 책임은 여전히 기자와 편집자에게 있습니다. 반대로 실제 사용 경험이 없는 사람이 AI로 ‘써 본 사람의 후기’처럼 보이는 글을 대량으로 만들면 이야기가 달라집니다. 독자는 누구의 경험인지, 그 경험이 실제인지 알 수 없고 구매·가입·투표 같은 판단을 잘못할 수 있습니다.

미국 연방거래위원회(FTC)는 2024년 가짜 리뷰·후기 금지 규칙을 발표하면서, 존재하지 않는 사람이 쓴 것처럼 꾸민 리뷰나 실제 경험을 잘못 나타낸 리뷰를 금지 대상에 포함했고 AI 생성 가짜 리뷰를 예로 들었습니다. FTC의 최종 규칙 발표는 여기서 문제 되는 것이 ‘AI라는 단어’ 자체가 아니라, 독자가 실제 소비자 경험이라고 오인할 수 있다는 점임을 보여 줍니다.

이 사례는 표시가 왜 필요한지 이해하는 좋은 출발점입니다. 단순히 화면 구석에 ‘AI’라고 찍는다고 모든 문제가 해결되지는 않습니다. 독자가 글의 생산 경로와 책임 구조를 오해하지 않도록 알려 주어야 한다는 뜻입니다.

한국 법은 무엇을 요구하나: 생성 사실을 알리고, 알아보기 쉽게 보여 주기

우리나라 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」은 2026년 1월 22일부터 시행됐습니다. 법 제31조는 생성형 AI 또는 이를 이용한 제품·서비스를 제공할 때 결과물이 생성형 AI에 의해 생성됐다는 사실을 표시하도록 정합니다. 실제와 구분하기 어려운 가상의 음향·이미지·영상은 이용자가 명확히 알아차릴 수 있는 방식으로 고지하거나 표시해야 한다고도 규정합니다. 다만 예술·창의 표현물은 전시나 감상을 방해하지 않는 방식으로 표시할 수 있게 했습니다. 국가법령정보센터의 인공지능기본법 제31조를 보면, 법의 구조가 모든 표현을 막는 방식이라기보다 이용자가 생성 사실을 인지하도록 하는 방식에 가깝다는 점을 확인할 수 있습니다.

그렇다면 ‘표시했다’는 것은 무엇일까요? 2026년 7월 21일 시행된 시행령 제23조는 사람이 알아볼 수 있는 방식 또는 기계가 판독할 수 있는 방식으로 표시할 수 있다고 정합니다. 다만 기계만 읽을 수 있는 표시를 쓴다면, 사람에게도 생성형 AI가 만들었다는 사실을 안내 문구·음성 등으로 적어도 한 번 제공해야 합니다. 화면·소프트웨어 등을 통해 쉽게 확인할 수 있어야 하고, 주된 이용자의 나이와 신체적·사회적 조건도 고려해야 합니다. 인공지능기본법 시행령 제23조가 말하는 핵심은 ‘숨겨진 메타데이터 하나’가 아니라 사람도 실제로 알아차릴 수 있는 안내입니다.

하지만 시행령에는 중요한 예외도 있습니다. 제품명·화면·결과물만 보아도 생성형 AI 활용 사실이 명백한 경우, 또는 내부 업무 용도로만 쓰는 경우 등에는 전부 또는 일부 예외가 가능하다고 정합니다. 그래서 개인이 AI에게 문장 교정을 받았다는 사실부터 모든 경우가 같은 강도로 표시된다고 단정하면 안 됩니다. 서비스의 성격, 결과물의 내용, 이용자가 오인할 가능성을 함께 살펴야 합니다.

유럽연합이 글까지 따로 본 이유: ‘공익 정보’와 편집 책임의 차이

유럽연합(EU)의 AI Act 제50조 투명성 규칙은 2026년 8월 2일부터 적용됩니다. 유럽위원회는 제공자가 AI 생성·조작 콘텐츠를 기계가 읽을 수 있는 방식으로 표시하고 탐지 가능하게 설계해야 한다고 설명합니다. 또 공익 사안에 관해 대중에게 정보를 제공하려는 목적으로 공개한 AI 생성·조작 텍스트는, 사람의 검토나 편집 통제 없이 공개될 경우 이를 알리도록 합니다. 유럽위원회의 투명성 의무 가이드라인은 이 의무가 정보 생태계의 신뢰와 무결성을 높여 사람들이 신뢰 수준을 조절하고 오인·기만을 피하도록 돕는다고 설명합니다.

여기서 핵심은 ‘AI가 글쓰기에 조금이라도 도움을 줬으면 무조건 같은 딱지를 붙인다’가 아닙니다. EU의 제50조는 사람의 검토나 편집 통제가 있었고 자연인 또는 법인이 편집 책임을 지는 경우, 공익 사안의 AI 생성 텍스트 고지 의무에 예외를 둡니다. 즉 독자에게 필요한 것은 단순한 제작 도구의 이름보다, 사람이 최종 검토를 했는지와 누가 책임을 지는지입니다. EU AI Act Service Desk의 제50조 원문 안내도 정보가 첫 상호작용 또는 첫 노출 시점까지 명확하고 구별 가능하게 제공돼야 한다고 설명합니다.

이 구분은 뉴스·정책·건강·금융처럼 독자의 판단 결과가 커질 수 있는 글에서 특히 중요합니다. 예를 들어 실제 통계표를 확인하고 기자가 맥락을 설명한 글과, 출처 검증 없이 AI가 여러 글을 섞어 만든 글은 똑같은 문장 길이와 말투를 가질 수 있습니다. 그렇지만 독자가 자료를 확인하는 방법과 책임을 물을 대상은 달라집니다.

앞서 다룬 AI 투자 지출이 실제 고용·매출로 이어지는지 확인하는 법에서도 큰 투자액 하나만으로 결과를 단정하면 안 된다고 설명했습니다. AI가 쓴 글을 읽을 때도 마찬가지입니다. ‘AI를 썼다’는 한 정보만 보고 결론내리기보다, 출처·사람의 검토·편집 책임을 함께 봐야 합니다.

독자에게 도움이 되는 표시는 어떤 모습일까

좋은 표시는 겁을 주는 빨간 경고문이 아니라, 독자가 다음 행동을 정할 수 있는 짧고 구체적인 설명입니다. 예를 들어 “이 글은 생성형 AI가 초안을 만들었고, 편집자가 아래의 공식 자료를 대조·수정했으며 최종 편집 책임은 ○○에게 있습니다”라는 안내는 AI가 맡은 범위와 사람이 맡은 범위를 함께 알려 줍니다. 반대로 “AI 활용”이라는 말만 있고 어느 부분에 어떻게 썼는지 알 수 없다면, 독자는 실제로 무엇을 신뢰하고 무엇을 더 확인해야 하는지 알기 어렵습니다.

아래 표는 법률 자문이 아니라, 독자가 글을 읽을 때 생산 경로를 구분하는 데 쓸 수 있는 간단한 판단 틀입니다. 같은 ‘AI 사용’이라도 사람의 검토와 실제 경험의 유무에 따라 표시가 전달해야 할 메시지가 달라진다는 점을 보여 줍니다.

첫째, 표시는 처음 보이는 곳에서 확인할 수 있어야 합니다. 글을 다 읽은 뒤 맨 아래 작은 글씨에서야 알 수 있다면, 독자가 처음에 만든 신뢰 판단을 고치기 어렵습니다. EU가 첫 상호작용 또는 첫 노출까지 명확하고 구별 가능한 정보를 요구하는 이유도 여기에 있습니다.

둘째, 표시는 AI가 어느 정도 일을 했는지를 말해야 합니다. ‘문장 다듬기’, ‘번역 보조’, ‘초안 전체 생성’, ‘이미지 재현’은 독자가 확인해야 할 위험이 서로 다릅니다. 실제 인물의 말이나 현장 사진처럼 보일 수 있는 콘텐츠라면 그 차이를 더 명확히 알려야 합니다.

셋째, 사람의 검토가 있었다면 무엇을 검토했는지도 밝혀야 합니다. “사람이 확인함”보다 “통계는 원문과 대조했고, 인용문은 출처 링크를 붙였으며, 최종 편집 책임자는 누구다”라고 쓰는 편이 독자에게 훨씬 유용합니다. 표시가 책임을 지우는 면책문이 아니라, 확인 경로를 알려 주는 안내문이 되기 때문입니다.

넷째, 표시가 있어도 출처 확인은 여전히 필요합니다. AI 생성 여부는 글의 정확성을 자동으로 판정해 주지 않습니다. 사람이 쓴 글도 틀릴 수 있고, AI가 보조한 글도 공식 원문을 제대로 대조했다면 더 나은 설명이 될 수 있습니다. 표시가 주는 가장 큰 가치는 ‘믿어라’ 또는 ‘믿지 마라’의 답을 대신하는 것이 아니라, 독자가 다음 질문을 할 수 있게 만드는 것입니다.

이 점은 실업률 4.1%만으로는 보이지 않는 미국 고용 신호를 읽는 방법과도 닮았습니다. 하나의 수치만으로 노동시장을 판단할 수 없듯, ‘AI 사용’이라는 한 단어만으로 글의 신뢰도를 결정할 수는 없습니다. 생산 과정, 원문 출처, 검토 수준, 책임자를 함께 확인해야 합니다.

한 줄로 정리하면

AI 생성 표시의 목표는 표현을 막는 데 있지 않습니다. 독자가 ‘누가 만들었고, 누가 검증했으며, 무엇을 더 확인해야 하는지’를 알고 스스로 판단할 수 있게 하는 데 있습니다.

참고자료

[1] 국가법령정보센터, 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제31조, 2026-08-17 열람.

[2] 국가법령정보센터, 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 시행령」 제23조, 2026-08-17 열람.

[3] European Commission, Guidelines on transparency obligations for providers and deployers of certain AI systems, 2026-08-06.

[4] European Commission AI Act Service Desk, Article 50: Transparency obligations, 2026-08-17 열람.

[5] U.S. Federal Trade Commission, Federal Trade Commission Announces Final Rule Banning Fake Reviews and Testimonials, 2024-08-14.

[6] U.S. Federal Trade Commission, FTC Announces Crackdown on Deceptive AI Claims and Schemes, 2024-09-25.