1.개인정보: 넣는 순간 내 손을 떠난다
대화형 AI에 입력한 내용은 서비스 제공자의 서버로 전송되어 처리됩니다. 서비스와 설정에 따라 대화 기록이 저장되거나, 품질 개선을 위해 사람이 검토하거나, 학습에 쓰일 수도 있습니다. 어떻게 처리되는지는 서비스마다 다르고 정책도 바뀝니다. 그러니 '이 정보가 다른 사람에게 보여도 괜찮은가'를 기준으로 입력할지 판단하는 것이 안전합니다.
특히 주민등록번호, 여권·운전면허 번호, 계좌·카드 번호, 비밀번호와 인증 코드, 건강 정보, 정확한 주소와 연락처는 넣지 않습니다. 나의 정보뿐 아니라 가족, 고객, 동료의 정보도 마찬가지입니다. 다른 사람의 개인정보를 동의 없이 넣는 것은 그 사람의 권리를 침해할 수 있고, 업무라면 법적 문제로 이어질 수 있습니다.
- 넣지 않는다: 주민등록번호, 계좌·카드 번호, 비밀번호, 인증 코드, 건강 정보, 정확한 주소·연락처
- 바꿔서 넣는다: 이름은 A·B로, 회사는 '한 제조업체'로, 숫자는 필요한 만큼만
- 회사 자료는: 회사가 허용한 서비스와 규칙을 먼저 확인한다
- 설정을 확인한다: 대화 기록 저장·학습 활용 여부를 끌 수 있는지 서비스의 설정과 정책을 본다
- 틀림: 홍길동(010-1234-5678, 서울 ○○구) 고객이 보낸 항의 메일에 답장 써 줘.바름: A 고객이 '배송이 일주일 늦었다'고 항의했어. 사과하고 다음 주 화요일까지 다시 보내겠다는 내용으로 정중한 답장을 써 줘.답장을 쓰는 데 이름과 전화번호는 필요 없습니다. 작업에 꼭 필요한 정보만 남기고 나머지는 지우거나 바꿉니다.
2.저작권: 만들 수 있다고 써도 되는 것은 아니다
AI는 학습한 수많은 글과 그림의 패턴으로 새 결과물을 만듭니다. 이때 두 가지 질문이 생깁니다. 하나는 AI가 만든 결과물이 남의 작품과 지나치게 비슷하지 않은가, 다른 하나는 AI가 만든 결과물에 누가 어떤 권리를 갖는가입니다. 두 질문 모두 나라마다 법과 판단이 다르고, 지금도 논의와 소송이 이어지는 영역입니다.
그래서 실천할 수 있는 원칙은 보수적으로 잡는 것이 좋습니다. 특정 작품의 문장이나 특정 캐릭터를 그대로 베끼듯 재현해 달라는 요청, 노래 가사나 책의 긴 본문을 그대로 출력해 달라는 요청은 피합니다. AI의 결과물을 상업적으로 쓰거나 공개할 때는 이용하는 서비스의 약관이 그 용도를 허용하는지 확인합니다.
AI가 만든 부분이 많은 결과물은 사람이 창작한 저작물로 보호받지 못할 수 있다는 점도 알아 두어야 합니다. 많은 나라에서 저작권은 사람의 창작적 표현을 보호하는 것으로 보고 있습니다. 중요한 창작물이라면 내가 직접 기획하고 고친 부분을 기록해 두고, 필요하면 전문가와 상의합니다.
3.편향: 데이터의 치우침이 답의 치우침이 된다
2강에서 본 것처럼 학습 기반 AI는 데이터에서 배웁니다. 데이터에 사회의 고정관념이나 특정 집단에 대한 치우침이 들어 있으면 AI도 그것을 배웁니다. 예를 들어 직업을 묘사하게 하면 성별이나 나이를 한쪽으로만 그리거나, 특정 지역이나 언어에 대해 덜 정확한 답을 내는 일이 생길 수 있습니다.
편향은 눈에 잘 띄지 않아서 더 조심해야 합니다. 채용, 대출, 평가처럼 사람에게 영향을 주는 결정에 AI를 쓴다면, 결과가 특정 집단에 불리하게 치우치지 않는지 따로 점검해야 합니다. 일상에서도 'AI가 그렇게 말했다'가 공정함의 근거가 되지는 않습니다.
- 결과에 고정관념이 반영된 편향이 있음을 알아차립니다.
- 프롬프트에 조건을 더합니다: '성별·나이·직급을 고르게 섞고 고정관념에 기대지 말 것'.
- 다시 받은 결과를 같은 기준으로 한 번 더 점검합니다.
- 최종 자료는 실제 팀 구성과 당사자의 의견을 반영해 사람이 확정합니다.
4.책임: 내보내는 사람이 책임진다
AI는 도구이고, 결과를 쓰기로 결정하는 것은 사람입니다. AI가 쓴 보고서에 틀린 숫자가 있으면 그 보고서를 낸 사람이 책임을 집니다. AI가 만든 글이 누군가의 명예를 훼손하거나 저작권을 침해하면, 그 글을 게시한 사람이 책임을 질 수 있습니다. 'AI가 그렇게 써 줬다'는 변명이 되지 않습니다.
그래서 내 이름으로 나가는 결과물에는 세 가지를 확인합니다. 사실과 숫자가 맞는가(7강), 남의 권리를 침해하지 않는가, 읽는 사람에게 해를 주거나 오해를 일으키지 않는가입니다. AI를 썼다는 사실을 밝힐지도 상황에 맞게 판단합니다. 독자가 알아야 판단할 수 있는 내용이라면 밝히는 것이 신뢰를 지키는 길입니다.
AI를 악용하는 일도 경계해야 합니다. 실제 사람의 목소리나 얼굴을 흉내 낸 가짜 영상·음성, 그럴듯한 사기 문자는 AI 덕분에 더 만들기 쉬워졌습니다. 갑자기 돈이나 개인정보를 요구하는 연락은 목소리나 문체가 익숙해도 다른 경로로 반드시 확인합니다.
5.AI를 쓰기 전과 후의 점검표
점검표는 길어 보이지만 습관이 되면 몇 초면 끝납니다. 처음에는 중요한 일에만 적용하고, 익숙해지면 일상으로 넓혀 가세요.
| 언제 | 확인할 것 |
|---|---|
| 입력 전 | 개인정보·비밀번호·기밀이 들어 있지 않은가? 꼭 필요한 정보만 남겼는가? |
| 입력 전 | 회사나 학교가 이 서비스와 이 용도를 허용하는가? |
| 결과를 받은 뒤 | 사실·숫자·출처를 1차 자료로 확인했는가? |
| 결과를 받은 뒤 | 특정 집단에 대한 고정관념이나 치우침은 없는가? |
| 내보내기 전 | 남의 작품을 지나치게 닮지 않았는가? 서비스 약관이 이 용도를 허용하는가? |
| 내보내기 전 | AI 사용을 밝혀야 하는 상황인가? 최종 책임을 질 준비가 되었는가? |
6.점검표를 실제 상황에 적용해 보기
점검표는 직접 한 번 적용해 봐야 몸에 붙습니다. 아래는 일상에서 흔히 생길 만한 상황 하나를 입력 전, 결과를 받은 뒤, 내보내기 전의 순서로 따라가 본 예입니다. 상황은 설명을 위해 만든 것입니다.
- 입력 전 ①: 학생 이름과 점수는 개인정보입니다. 이름을 학생 A~E로 바꾸고, 문자에 필요한 정보(점수 변화, 잘한 점, 보완할 점)만 남깁니다.
- 입력 전 ②: 일하는 곳이 이런 용도로 AI 사용을 허용하는지, 허용된 서비스가 따로 있는지 확인합니다.
- 결과를 받은 뒤: 점수와 내용이 학생별로 뒤섞이지 않았는지 원래 표와 한 줄씩 대조합니다. 특정 학생을 깎아내리거나 성별·배경에 기댄 표현은 없는지도 봅니다.
- 내보내기 전: A~E를 실제 이름으로 되돌리는 일은 AI 밖에서 사람이 합니다. 보내는 사람은 강사 본인이므로 마지막으로 한 번 더 읽고 보냅니다.
📌 핵심 정리
- 입력한 정보는 서버로 전송된다 — 다른 사람에게 보여도 괜찮은 정보만 넣는다
- 이름·연락처 등은 지우거나 A·B로 바꾸고, 회사 자료는 허용 규칙부터 확인한다
- 저작권은 나라마다 판단이 다르고 논의 중이다 — 흉내·대량 복제를 피하고 약관을 확인한다
- 데이터의 치우침은 답의 편향이 된다 — 사람에게 영향을 주는 결정일수록 따로 점검한다
- 결과에 대한 책임은 그것을 내보내는 사람에게 있다
🤖 AI에게 이렇게 물어보세요
복사해서 [ ] 부분을 내 상황으로 바꿔 쓰세요. 답을 그대로 믿지 말고 본문과 비교해 확인하세요.
개인정보를 지우는 기준을 연습하고 싶을 때
아래는 가짜 이름과 번호로 만든 연습용 글이야. 이 글에서 개인을 알아볼 수 있는 정보(이름, 연락처, 주소, 번호, 날짜와 결합된 특이 정보 등)를 모두 찾아 목록으로 보여 주고, 각각을 [이름1], [연락처1]처럼 바꾼 글을 만들어 줘. 실제 자료를 내가 직접 지울 때 놓치기 쉬운 항목도 알려 줘. [가짜 정보로 만든 연습용 글]
내가 만든 결과물의 편향을 점검하고 싶을 때
아래 글에서 성별, 나이, 지역, 직업, 장애 등에 대한 고정관념이나 한쪽으로 치우친 표현이 있는지 찾아 줘. 각 표현마다 왜 문제가 될 수 있는지와 더 중립적인 표현을 제안해 줘. [글]
- 「개인정보 보호법」의 일반 원칙(최소 수집·목적 외 이용 제한)
- 한국저작권위원회 등 공공기관의 생성형 AI 저작권 안내의 일반적 내용
학습 목표를 모두 이뤘다면 완료를 눌러 진도에 기록하세요.
이 브라우저에서는 저장할 수 없어 이 화면에서만 표시됩니다.