책임 있는 AI 원칙, AI 결과물 저작권, 인공지능기본법: AI를 만들고 쓸 때 지킬 것
지난 글에서는 LLM을 노리는 공격과 막는 자리를 정리했어요. 이번 글은 공격이 없어도 생기는 문제를 다뤄요. AI가 불공정하거나 설명할 수 없을 때는 어떤 원칙이 깨진 걸까요? AI가 만든 결과물은 누구 것이고, 한국 법은 누구에게 무엇을 요구할까요? Microsoft의 책임 있는 AI 원칙, 미국 저작권청의 AI 결과물 저작권 판단, 인공지능기본법의 투명성 의무와 과태료를 다루고, 고영향 AI의 세부 의무, 한국의 저작권 기준, 다른 나라 규제는 다루지 않아요. 연습 문제는 다 맞혀서, 이번 글에도 놓친 부분이 없어요.
1. 책임 있는 AI 6원칙
여러 회사와 기관이 AI를 어떻게 만들고 써야 하는지 원칙을 냈는데, 자주 인용되는 건 Microsoft의 여섯 가지예요. 원칙 이름만 외우면 헷갈려서, 무엇이 잘못됐을 때 어느 원칙이 깨진 건지로 묶어 봤어요. 오른쪽 열은 설명하려고 만든 예시예요.
| 원칙 | Microsoft의 한 줄 | 깨지면 이런 모습이에요 |
|---|---|---|
| 공정성 (Fairness) | 모든 사람을 공정하게 대해야 해요 | 채용 심사 AI가 특정 지역 출신 지원자를 계속 낮게 평가해요. 편향된 학습 데이터가 원인일 때가 많아요. |
| 신뢰성과 안전 (Reliability and safety) | 믿을 수 있고 안전하게 동작해야 해요 | 공정 레시피가 바뀐 뒤 이상 탐지 모델이 조용히 틀리기 시작해요. |
| 개인정보와 보안 (Privacy and security) | 안전하고 개인정보를 존중해야 해요 | 상담 챗봇이 다른 고객의 정보를 답에 섞어요. |
| 포용성 (Inclusiveness) | 배경과 상관없이 모든 사람이 쓸 수 있어야 해요 | 음성 안내가 표준어 발음만 알아들어서 일부 작업자는 쓸 수 없어요. |
| 투명성 (Transparency) | 이해할 수 있어야 해요 | 모델이 왜 이 웨이퍼를 불량으로 봤는지 엔지니어가 알 수 없어요. AI가 쓴 글인지 사람이 쓴 글인지 알 수 없어요. |
| 책임성 (Accountability) | AI 시스템에는 책임지는 사람이 있어야 해요 | AI 판단으로 라인이 멈췄는데 "AI가 그랬다"며 책임질 사람이 없어요. |
헷갈리기 쉬운 짝이 둘 있어요.
- 공정성과 포용성: 공정성은 AI가 사람마다 다르게 판단하는 문제이고, 포용성은 일부 사람이 아예 쓸 수 없는 문제예요.
- 투명성과 책임성: 투명성은 "왜 그렇게 판단했는지 알 수 있나", 책임성은 "잘못되면 누가 책임지나"예요.
상황을 보고 원칙을 고를 때는 무엇이 잘못됐는지를 먼저 한 문장으로 말해 보고, 위 표의 오른쪽 열과 맞춰 보면 돼요.
2. AI 결과물의 저작권
미국 저작권청은 2025년 1월 AI 보고서 Part 2에서 AI 결과물의 저작권을 이렇게 정리했어요.
- 프롬프트를 준 것만으로는 저작권 보호를 받을 수 없어요. 아무리 자세히 써도 마찬가지예요.
- 사람이 직접 만든 표현이 결과물에 알아볼 수 있게 남아 있으면 그 부분은 보호될 수 있어요.
- 사람이 결과물을 창작적으로 배치하거나 고친 부분도 보호될 수 있어요.
- AI를 창작 과정의 보조로 쓰거나, AI가 만든 부분을 사람이 만든 더 큰 작품에 넣었다고 해서 전체가 보호에서 빠지지는 않아요.
- 기존 저작권 원칙으로 충분하고, AI 결과물만을 위한 새 보호는 필요하다고 보지 않았어요.
사람이 한 일에 따라 결과물의 어느 부분이 보호될 수 있는지 나눠 보면 이래요.
| 결과물의 부분 | 보호 |
|---|---|
| 아주 자세히 쓴 프롬프트 문장 | 프롬프트 제공만으로는 보호되지 않아요 |
| 내가 직접 써서 입력으로 넣었고, 결과물에 그대로 남은 문장 | 보호될 수 있어요 |
| AI가 만든 여러 결과를 골라 배치한 방식, 직접 고친 문장 | 보호될 수 있어요 |
| AI가 만든 나머지 부분 | 보호되지 않아요 |
보호되는 건 사람이 기여한 부분뿐이고, AI가 만든 부분이 섞였다고 해서 사람의 부분까지 보호에서 빠지지는 않아요. 이건 미국 기준이에요. 한국의 기준은 이번에 확인하지 않았어요.
3. 인공지능기본법
정식 이름은 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」이고, 2026년 1월 22일부터 시행됐어요(정책브리핑). 이 글에서는 투명성 의무(제31조)와 과태료(제43조)만 봐요.
의무를 지는 쪽은 인공지능사업자예요. 법률 해설에 따르면 AI를 개발해서 제공하는 개발사업자와, 그 AI를 이용해 제품이나 서비스를 제공하는 이용사업자로 나뉘어요(태평양 해설). 회사가 외부 LLM을 붙여 서비스를 내놓으면 그 회사는 이용사업자예요. 서비스를 쓰기만 하는 개인 이용자에게 지운 고지·표시 의무는 없어요.
제31조는 세 가지를 요구해요.
| 제31조 | 언제 | 무엇을 |
|---|---|---|
| 1항 사전 고지 | 고영향 AI나 생성형 AI로 제품·서비스를 제공할 때 | AI로 운용된다는 사실을 이용자에게 미리 알려요 |
| 2항 결과물 표시 | 생성형 AI의 결과물을 내놓을 때 | 생성형 AI가 만들었다는 사실을 표시해요 |
| 3항 가상 결과물 | 실제와 구분하기 어려운 가상의 소리·이미지·영상을 제공할 때 | 이용자가 명확히 알 수 있게 고지하거나 표시해요. 예술적·창의적 표현물이면 감상을 해치지 않는 방식으로 할 수 있어요 |
- 3항의 예외는 면제가 아니에요. 표시는 하되 방식을 조정할 수 있다는 뜻이에요. 조문에는 "딥페이크"라는 말 대신 "실제와 구분하기 어려운 가상의" 결과물이라고 적혀 있어요.
- 구체적인 표시 방법은 시행령이 정해요. 정부 발표에 따르면 애니메이션이나 웹툰 같은 결과물은 눈에 보이는 표시, 보이지 않는 디지털 워터마크, 안내 문구 중에서 고를 수 있어요.
- 고영향 AI는 사람의 생명·신체 안전이나 기본권에 큰 영향을 줄 수 있는 영역에서 쓰는 AI예요. 정부 발표에 따르면 사람이 최종 결정을 내리는 시스템은 통제할 수 있다고 보고 고영향에서 빠져요.
제43조의 과태료는 3천만 원 이하예요. 대상은 1항의 사전 고지를 하지 않은 경우, 국내대리인을 지정하지 않은 경우, 중지·시정 명령을 따르지 않은 경우예요. 2항의 결과물 표시 위반은 이 목록에 없어요. 정부는 시행 후 최소 1년 동안 과태료 계도기간을 두겠다고 했어요.
4. 법이 없어도 쓰는 사람에게 남는 책임
법의 의무는 사업자에게 있지만, AI를 쓰는 사람의 판단도 따로 남아요. Anthropic의 AI Fluency 4D 프레임워크에서 Diligence는 AI와 책임 있게 상호작용하는 것이고(Anthropic Academy), 프로그래머스 AI 역량평가의 채점 기준에도 민감 자료 입력이나 비윤리적 지시를 피하는 책임 있는 사용이 들어가 있어요(벤처스퀘어). 지금까지 정리한 글들에서 나오는 행동으로 묶으면 이래요.
| 행동 | 근거가 된 글 |
|---|---|
| 회사가 승인한 도구만 쓰고, 기밀과 개인정보는 지우고 넣어요 | 데이터 글의 프롬프트로 나가는 데이터, 보안 글의 민감정보 유출 |
| AI 결과를 그대로 내지 않고 근거와 숫자를 확인해요 | LLM 한계 글의 환각, 평가 글 |
| 결과물이 특정 집단에 불리하지 않은지 봐요 | 데이터 글의 편향, 이 글 1절의 공정성 |
| 결과에 대한 책임은 AI가 아니라 쓴 사람에게 있어요 | 이 글 1절의 책임성 |
| AI 도움을 받은 부분을 밝히라는 규칙이 있으면 따라요 | 이 글 1절의 투명성 |
원칙과 규칙 고르기 연습
- 채용 서류 심사 AI가 특정 지역 출신 지원자를 계속 낮게 평가해요. 가장 직접 깨진 원칙은?
정답
공정성이에요. 사람마다 다르게 판단하는 문제예요. 포용성은 일부 사람이 아예 쓸 수 없는 문제예요.
- 설비 이상 탐지 AI가 왜 이 웨이퍼를 불량으로 봤는지 엔지니어가 알 수 없어요. 가장 관련 있는 원칙은?
정답
투명성이에요. "왜 그렇게 판단했나"를 알 수 없는 문제예요.
- AI 판단 때문에 생산 라인이 멈췄는데, 모두 "AI가 그렇게 판단했다"고만 하고 책임지는 사람이 없어요. 깨진 원칙은?
정답
책임성이에요. AI 시스템에는 책임지는 사람이 있어야 해요.
- 미국 저작권청 기준으로, 프롬프트만 아주 자세히 써서 받은 이미지는 보호될까요?
정답
보호되지 않아요. 프롬프트 제공만으로는 충분하지 않다고 봤어요. 결과물의 표현을 사람이 정한 게 아니기 때문이에요.
- AI가 쓴 초안을 사람이 크게 고치고, 직접 쓴 글과 함께 배치해서 보고서를 만들었어요. 맞는 설명은?
정답
사람이 고치고 배치한 부분과 직접 쓴 부분은 보호될 수 있어요. AI가 만든 부분 자체는 보호되지 않아요.
- 인공지능기본법 제31조의 사전 고지와 결과물 표시 의무를 지는 쪽은?
정답
인공지능사업자예요. 개인 이용자에게 지운 고지·표시 의무는 없어요.
- 인공지능기본법이 시행된 날은?
정답
2026년 1월 22일이에요. 과태료는 최소 1년 계도기간을 두겠다고 했어요.
- 영상 생성 서비스가 실제와 구분하기 어려운 가상의 영상을 제공해요. 법이 요구하는 것은?
정답
이용자가 명확히 알 수 있게 고지하거나 표시해요. 예술적 표현물이면 감상을 해치지 않는 방식으로 할 수 있지만, 표시 의무가 면제되지는 않아요.
다시 정리하면
- Microsoft의 책임 있는 AI 원칙은 공정성, 신뢰성과 안전, 개인정보와 보안, 포용성, 투명성, 책임성이에요.
- 공정성은 사람마다 다르게 판단하는 문제, 포용성은 일부가 아예 못 쓰는 문제예요. 투명성은 "왜", 책임성은 "누가"예요.
- 미국 저작권청 기준으로 프롬프트만으로는 보호되지 않고, 사람이 넣은 표현과 창작적 배치·수정만 보호될 수 있어요.
- 인공지능기본법은 2026년 1월 22일 시행이고, 고지·표시 의무는 인공지능사업자에게 있어요. 이용자에게는 없어요.
- 제31조는 사전 고지, 결과물 표시, 실제와 구분하기 어려운 결과물의 명확한 고지·표시를 요구해요. 과태료는 3천만 원 이하이고, 사전 고지를 하지 않은 경우가 대상이에요.
- 법과 별개로, 쓰는 사람에게는 승인된 도구 사용, 민감정보 제거, 결과 검증, 결과에 대한 책임이 남아요.
