알맞은 맥락 주기

이번에 배울 내용

• 넣어야 할 컨텍스트: 배경, 자료, 이미 아는 것, 피할 것
• 컨텍스트 윈도우가 무엇이고, 긴 채팅에서 세부 사항이 빠질 수 있는 이유
• 자료를 공유하기 전에 민감한 데이터를 지우는 방법

핵심 개념

AI는 대화에 있는 내용과 학습 중에 익힌 일반적인 패턴만 알아요. 내가 말하지 않으면 우리 회사, 우리 반, 예전 초안, 내 취향을 몰라요. 컨텍스트는 AI가 평균적인 상황이 아니라 내 실제 상황에 맞춰 일하도록 덧붙이는 정보예요.

쓸모 있는 컨텍스트는 네 가지로 나뉘어요. 배경: 상황, 관련된 사람, 이 작업이 필요한 이유. 자료: 답의 바탕이 되어야 하는 글, 메모, 데이터로, 붙여 넣거나 업로드해요. 이미 아는 것: AI가 기초를 설명하거나 내가 이미 해 본 것을 되풀이하지 않도록 알려 줘요. 피할 것: 원하지 않는 주제, 단어, 출처, 접근 방식.

AI가 한 번에 받아들일 수 있는 양에는 한계가 있어요. 컨텍스트 윈도우는 모델이 한 번에 고려할 수 있는 텍스트의 양으로, 내 메시지, 첨부한 파일, AI 자신의 답까지 포함해요. 단위는 단어를 잘게 나눈 조각인 토큰이에요. 채팅이나 문서가 이 한계를 넘으면 앞부분이나 넘친 부분이 빠지거나 덜 꼼꼼하게 처리될 수 있고, 분명한 경고가 없을 때도 있어요. 긴 자료는 나눠서 보내거나, 부분마다 요약을 요청하거나, 짧은 요약과 함께 새 채팅을 시작하세요.

개인정보가 끼어드는 곳도 컨텍스트예요. 붙여 넣기 전에 이름, 연락처, 신분증 번호, 비밀번호, 고객 데이터, 그리고 회사나 학교에서 외부 도구에 넣지 못하게 하는 내용은 지우거나 바꾸세요. 채팅을 저장할지, 서비스 개선에 쓸지를 정하는 옵션인 개인정보 설정도 살펴보세요.

예시

한 팀장이 프로젝트가 끝난 뒤 피드백을 쓰는 데 도움을 받고 싶어 해요. 다음은 첫 시도예요.

프로젝트에 대해 우리 팀에 줄 피드백을 써 주세요.

결과는 어느 팀, 어느 프로젝트에나 들어맞을 수 있어요. 같은 요청에 컨텍스트를 더하면 이렇게 돼요.

지난주에 끝난 웹사이트 리디자인 프로젝트에 대해 우리 팀에 줄 피드백을
쓰도록 도와주세요.

배경: 네 명, 8주, 일정대로 출시. 가장 큰 문제는 디자인 변경이 계속 늦게
들어온 것이었어요.
이미 아는 것: 테스트 작업에 대해 팀에 고마움을 전하고, 다음에는 디자인
변경 마감일을 정하자고 제안하고 싶어요.
피할 것: 개인 이름 언급, 누군가를 탓하는 말, 딱딱한 회사 용어.

메모:
- 테스트에서 출시 전에 대부분의 버그를 찾음
- 디자인 변경이 출시 이틀 전까지 들어옴
- 마지막 주에 팀이 늦게까지 일함

첫 번째 프롬프트로는 일반적인 피드백밖에 나올 수 없어요. 두 번째 프롬프트는 AI에게 사실, 자료, 넘지 말아야 할 선을 줘요. 메모에 이름이 없으니 개인적인 정보가 팀 밖으로 나가지 않아요.

직접 해 보기

1. 메시지 답장이나 메모 요약처럼 내 상황에 따라 답이 달라지는 실제 작업을 하나 고르세요.
2. 쓸 자료를 먼저 일반 텍스트 문서에 복사하세요.
3. 이름, 연락처, 그 밖의 개인정보를 사람 A, 고객 B 같은 호칭으로 바꾸세요.
4. 배경, 이미 아는 것, 피할 것을 각각 한 줄씩 쓰세요.
5. 아래 템플릿으로 보낸 다음, 답을 원래 자료와 비교하세요.

마지막에는 내 상황에 맞춘 답과, 다시 쓸 수 있게 정리한 자료가 남아 있어야 해요.

이 템플릿 복사하기

이 작업을 도와주세요: [작업].

배경: [상황, 관련된 사람, 이 일이 중요한 이유].
이미 아는 것: [제가 해 본 것, 또는 설명이 필요 없는 것].
피할 것: [빼야 할 주제, 단어, 출처, 접근 방식].

아래 자료만 사용해 주세요. 필요한 내용이 빠져 있으면 짐작하지 말고
저에게 물어봐 주세요. 확실하지 않은 내용은 표시해 주세요.

자료:
[여기에 자료를 붙여 넣기, 이름과 개인정보는 지운 상태로]

AI에게 불확실한 부분을 표시해 달라고 해도 답이 정확해지는 것은 아니에요. 중요한 부분은 계속 확인하세요.

결과 확인하기

• 답이 내 자료를 썼나요, 아니면 누구에게나 들어맞을 일반적인 말을 했나요?
• “피할 것” 목록을 지켰나요?
• 이미 안다고 말한 기초 설명은 건너뛰었나요?
• 자료가 길었다면 앞부분이나 끝부분의 세부 사항을 놓치지 않았나요? 원본과 비교하세요.
• 결과물에 들어가면 안 되는 개인정보가 들어가 있지 않나요?

자주 하는 실수

• AI가 예전 채팅을 기억한다고 생각하기. 채팅 사이에 메모리를 유지하는 도구도 있고 그렇지 않은 도구도 있어요. 핵심 컨텍스트를 다시 말하거나, 내 도구가 메모리를 어떻게 다루는지 확인하세요.
• 가진 것을 전부 붙여 넣기. 자료가 너무 많으면 중요한 내용이 묻히고 컨텍스트 윈도우를 다 써 버릴 수 있어요. 작업에 필요한 부분만 고르세요.
• 붙여 넣은 자료에 개인정보 남기기. 한번 보내면 되돌리지 못할 수도 있어요. 먼저 정리하고, 회사나 학교 규정을 따르세요.
• 피할 것을 말하지 않기. AI는 빈 곳을 흔한 선택으로 채워요. 금지된 것이 있으면 말하세요.