🛡️AI 안전 사용 수칙, AI를 믿고 쓰려면 알아야 할 것들

AI 안전 사용 수칙 – 일상에서 AI를 믿고 쓰려면 알아야 할 것들 편에서는 AI를 안전하게 사용하는 기본 수칙을 정리해봤어요.
글의 말미에는 누구나 따라할 수 있도록 쉽고 실용적인 프롬프트 예시도 함께 소개하고 있어요.
AI를 더 똑똑하게, 그리고 믿고 사용할 수 있도록 도와주는 작은 습관들, 지금 함께 알아봐요!

AI 안전 사용 수칙, 왜 중요한가요?

AI는 정말 편리한 도구예요.
검색보다 빠르게 정보를 주고, 아이의 질문에 술술 대답해주는 모습은 마치 마법 같기도 하죠.
하지만 이 마법 같은 도구에도 분명한 주의점이 존재해요.
AI가 아무리 똑똑해 보여도, 항상 정확한 건 아닙니다.
때로는 사실이 아닌 정보를 자신 있게 말하거나, 누군가의 편견이 녹아든 답변을 할 수도 있어요.
무엇보다 중요한 건, AI는 내가 누구인지, 어떤 의도로 사용하는지를 모른다는 사실이에요.
그래서 때때로 개인 정보가 포함된 질문을 아무렇지 않게 넘길 수도 있고, 아이에게는 부적절한 내용을 말할 수도 있어요.
특히 AI를 처음 써보는 분들이나, 비전문가가 일상 속에서 사용할 경우 ‘이게 맞는 정보일까?’ 하는 검증 과정이 더더욱 중요합니다.

AI와 대화를 나눌 때, 보안 관점에서 꼭 알아야 할 점

1. AI에게 말하는 모든 내용은 서버에 저장될 수 있어요

• 대부분의 생성형 AI 서비스는 입력한 내용을 모델 학습/품질 개선 목적으로 서버에 저장할 수 있어요.
• 특히 ChatGPT의 무료 버전은 기록이 OpenAI 내부적으로 저장될 수 있음을 고지하고 있어요.
  -> chatGPT Terms& polices 챗지피티 정책사항 참고

감정 표현은 가능하지만, 실명, 지명, 가족 구성원의 구체적 상황 등은 제외하고 사용하세요.
예: “우리 아들이 오늘 학교에서…” → “아이와 있었던 일로…”
익명적이고 일반화된 표현을 사용하면 감정 정리는 유지하면서 보안도 지킬 수 있어요.

2. GPT 사용 시, 대화 내용의 기록 기능을 끄는 방법

• ChatGPT에서는 설정에서 “Custom Instructions” → “Chat history & training“을 비활성화할 수 있어요.
• 이렇게 하면 대화 내용이 AI 훈련에 사용되지 않고, 서버에 저장되지 않음.

감정 대화를 시작하기 전, 대화 기록을 저장하지 않도록 설정을 반드시 안내해 주세요.
또는 개인 기기에서만 GPT를 실행하고, 브라우저나 앱 내에서 기록을 수동 삭제하는 것도 중요해요.

✅ 설정 방법:

1. ChatGPT에 로그인합니다.
2. 왼쪽 하단의 프로필 아이콘을 클릭한 후, “Settings(설정)”을 선택합니다.
3. 설정 창에서 “Data Controls(데이터 제어)”를 클릭합니다.
4. “Chat History & Training(채팅 기록 및 학습)” 옵션을 찾아 비활성화합니다.

이 설정을 비활성화하면 새로 시작하는 대화는 기록되지 않으며, 모델 학습에도 사용되지 않습니다. 단, 악용 방지를 위해 대화 내용은 30일 동안 보관된 후 자동으로 삭제됩니다.

출처 : RevFactory 프로젝트 – 세상을 더 이롭게 바꾸는 작업+1토탈 ICT 보안 전문 블로그 – 위드네트웍스+1

기존 대화 기록 수동 삭제 방법

이미 저장된 대화 기록은 수동으로 삭제할 수 있습니다.

✅ 삭제 방법:

1. ChatGPT에 로그인합니다.
2. 왼쪽 사이드바에서 삭제하려는 대화를 선택합니다.
3. 대화 제목 옆의 세 개의 점(⋯) 아이콘을 클릭합니다.
4. “Delete Chat(채팅 삭제)”를 선택하여 해당 대화를 삭제합니다.

이렇게 하면 선택한 대화가 사이드바에서 제거되며, 더 이상 접근할 수 없습니다.

출처 : RevFactory 프로젝트 – 세상을 더 이롭게 바꾸는 작업+1The Joy of chatGPTing+1

추가 팁: 브라우저 시크릿 모드 활용

브라우저의 시크릿 모드(또는 인프라이빗 모드)를 사용하면, 브라우저 자체에 검색 기록이나 쿠키 등이 저장되지 않아 추가적인 개인정보 보호에 도움이 됩니다.

3. Notion, Google Docs 등 감정 기록 툴도 외부 노출 가능성 존재

• 클라우드 기반 플랫폼에 저장된 민감한 감정 기록은, 링크 설정 실수 또는 계정 해킹 시 외부로 유출될 수 있어요.
• 특히 템플릿을 배포할 때는 “링크 보기 가능”으로 공유하면 누구나 볼 수 있다는 점!

공유할 때는 항상 “복사해서 사용하는 템플릿”으로 배포하고,
원본은 편집 불가/비공개로 설정해야 합니다.

4. 감정 데이터는 개인정보보다 더 깊은 정보가 될 수 있다

• 내가 어떤 상황에서 어떤 감정을 느끼는지,
• 무엇에 취약하고, 어떤 말에 흔들리는지
  이런 데이터는 개인의 심리 프로파일로 분석될 수 있어요.

“AI를 감정 코칭 도구로 쓸 수는 있지만, 내 정체성 전체를 맡기지 않는다”는 인식이 필요해요.
GPT는 감정을 다루는 기술적 코치이지, 내 심리 데이터를 분석해주는 전문가는 아니에요.

따라서!
다음의 다섯 가지 안전 수칙은 AI를 활용하면서 지켜주는 것을 권장드리는 안전 사용 수칙을 알려드려요.

AI 사용 시 기본 안전 수칙 5가지

1. 개인정보 입력 금지
   • 이름, 주소, 주민번호 등 민감한 정보는 입력하지 않기
2. AI가 제공하는 정보는 100% 사실이 아님
   • 출처 확인이 중요
3. AI의 답변은 참고용으로 활용하기
   • 최종 결정은 사용자 판단으로
4. 아이와 함께 AI를 사용할 때는 항상 보호자가 함께
   • 잘못된 정보를 걸러낼 수 있는 필터가 필요
5. AI와의 대화도 ‘기록’이 될 수 있다
   • 민감한 대화는 지양

감정 AI 사용을 위한 보안 체크리스트

의사결정을 내려야 할 때, 알아둬야할 것

다음은 AI가 제시한 결과를 더 안전하고 정확하게 사용하며 중요한 의사결정을 도울 때 적용할 네가지 원칙을 알려드릴게요.

✅ 1. 명확한 지시로 AI의 오작동 줄이기

AI는 모호한 지시를 받을 경우 엉뚱하거나 부적절한 결과를 낼 수 있어요.
누가, 무엇을, 어떻게 원하는지를 명확히 말해 주세요.

예시 프롬프트:

“초등학교 3학년 아이가 이해할 수 있도록, ‘인터넷 예절’에 대해 간단히 설명해 줘. 어려운 단어는 사용하지 말아줘.”

✅ 2. 제한 조건 포함하기

특정 정보만 사용하거나, 시간·형식에 제약을 걸면 AI가 더 정확하고 제한된 범위 안에서 작동합니다.

예시 프롬프트:

“기후 변화에 대한 정보를 줄 때, 2023년 이후 발표된 공식 자료만 사용해 줘.”

✅ 3. 어린이 콘텐츠일 경우 명시하기

아이들과 함께 사용할 경우, AI가 내용을 스스로 걸러내도록 설정해야 해요.

예시 프롬프트:

“7세 아이가 볼 수 있는 동화를 써 줘. 폭력적인 내용이나 무서운 이야기는 절대 넣지 말아줘.”

✅ 4. 결과에 대한 검토 요청 포함하기

AI는 때때로 사실과 다르거나, 맥락에 어긋나는 정보를 줄 수 있어요.
그럴 땐, AI에게 스스로 결과를 점검하도록 요청해 보세요.

예시 프롬프트:

“이 정보가 잘못되었을 가능성이 있다면 꼭 알려줘. 특히 과학적 사실이나 통계는 다시 확인해 줘.”

또한 ChatGPT 같은 AI를 쓸 때, 대화 도중 안전수칙을 스스로 점검하고 안내해주는 프롬프트를 미리 설정해두면 훨씬 더 안전하고 신뢰할 수 있는 대화 환경을 만들 수 있어요.
특히, 비전문가나 어린이와 함께 사용할 경우, AI가 스스로 가이드 역할을 해줄 수 있게 설정하는 것이 매우 중요하죠.

🛡️ ChatGPT 안전 가이드용 보안 프롬프트

기본 안전수칙 감시자 역할 부여 프롬프트

당신은 AI 안전 감시자 역할을 맡고 있어요. 
대화 중 다음 조건 중 하나라도 위배되는 부분이 있으면 반드시 사용자에게 경고하거나 수정 요청을 해 주세요.

- 개인 정보(이름, 주소, 연락처 등)가 포함된 경우
- 사실과 다른 정보, 검증되지 않은 내용을 요청할 경우
- 편향적이거나 차별적인 발언이 포함된 경우
- 어린이에게 부적절한 내용이 포함된 경우
- AI의 답변을 맹신하거나, 위험한 결정을 맡기려 할 경우

이 조건을 위반한 프롬프트나 대답이 있을 경우, 먼저 이를 지적하고 대안을 제시해 주세요. 
사용자와의 대화를 중단하지는 말고, 친절하게 올바른 방향으로 유도해 주세요.

부모/교사를 위한 보호자 모드 프롬프

당신은 어린이와 함께 사용하는 AI입니다. 
모든 답변은 10세 이하 어린이에게 적절한 수준이어야 하며, 다음 수칙을 반드시 지켜 주세요.

- 민감하거나 폭력적인 내용은 제외
- 반드시 사실에 기반한 정보 제공
- 개인 정보는 절대 요청하지 않기
- 무조건적인 신뢰보다는 생각할 여지를 줄 것

혹시 사용자가 위 기준에 어긋나는 질문을 한다면, "이 질문은 어린이에게 적절하지 않을 수 있어요. 
다른 방식으로 질문해볼까요?"라고 안내해 주세요.

비전공자를 위한 AI 안전 안내 프롬프트

당신은 AI 초보 사용자를 도와주는 친절한 안내자 역할을 맡고 있어요. 
대화 중 AI의 정보가 잘못 해석될 수 있는 부분이나, 사용자가 AI의 답변을 무비판적으로 받아들일 위험이 있을 때는, 다음과 같이 안내해 주세요:

- "이 정보는 참고용이에요. 실제로는 전문가의 의견도 함께 확인하는 걸 추천드려요."
- "이 부분은 최근 업데이트가 없을 수 있으니, 신뢰할 수 있는 출처에서 한 번 더 확인해 보세요."

사용자의 안전한 AI 사용을 도와주는 것을 최우선으로 해 주세요.

이러한 프롬프트는 대화의 ‘기본 틀’을 설정해주는 안전 장치 역할을 해요.

AI의 답변은 ‘도움말’이지 ‘정답’이 아니에요.

우리는 AI를 점점 더 자주, 더 깊이 활용하게 될 거예요.
그럴수록 AI를 맹신하지 않고, 비판적으로 바라보는 습관이 필요해요.
안전한 사용을 위한 기초 지식과 몇 가지 습관만 있다면, AI는 훌륭한 도우미가 될 수 있어요.

AI를 지혜롭게, 안전하게, 윤리적으로 사용하는 엄마가 되어주세요.

육아와 나, 둘 다 포기하지 않는 법.
이제, Cannylog와 함께 시작해보세요.

🌿 Cannylog

Cannylog는 AI를 배우는 육아맘의 시선으로 기술과 일상을 함께 나누는 공간입니다.
어렵게 느껴지는 인공지능도, 일상의 작은 순간들도 여기서 함께 이야기해요.

아래 카테고리에서 더 많은 이야기를 만나보세요!

카테고리 바로가기

• 🗞️ AI Daily
  AI 뉴스 큐레이팅과 인사이트를 매일 한눈에!
• 🌱 Growing Note
  일상 속 깨달음, 독서, 배움의 기록을 담아요
• 📖 Study Note
  AI 학사 과정을 따라가는 학습 여정

About Author

전업주부 아니고, 가정경영 CEO!
컴퓨터 전공은 아니지만 만학도의 힘으로 타전공 도전, 호기심과 끈기로 AI의 세계를 탐험 중.
“복잡한 걸 간단하게 설명하는 게 진짜 이해하는 것”이라는 믿음을 가지고 있음.
넷플릭스보다 AI뉴스 보는 게 더 재밌어진 엄마.