AI가 해 줄 수 있는 것과 없는 것

이번에 배울 내용

• 생성형 AI 도구가 잘하는 일과 약한 부분
• AI 도구가 확신에 찬 말투로도 틀릴 수 있는 이유
• 이런 도구의 작동 방식에 맞는 첫 작업을 고르는 방법

핵심 개념

대부분의 사람이 처음 쓰는 AI 채팅 도구는 생성형 AI예요. 요청을 받아 새로운 글, 이미지 등의 콘텐츠를 만들어 낸다는 뜻이에요. 대부분의 텍스트 도구 밑바탕에는 대규모 언어 모델이 있어요. 아주 많은 양의 텍스트로 학습해서 다음에 올 가능성이 높은 단어를 예측하는 시스템이에요. 이 모델은 참고서처럼 무언가를 “알고” 있는 것이 아니에요. 질문의 패턴에 맞는 답을 만들어 낼 뿐이에요.

이런 설계 덕분에, 정확한 사실보다 괜찮은 초안이 더 중요할 때 이 도구가 쓸모 있어요. 이메일 초안 쓰기, 개념을 더 쉬운 말로 설명하기, 붙여 넣은 긴 글 요약하기, 이름이나 관점에 대한 아이디어 내기, 어지러운 메모를 표나 목록으로 다시 정리하기 같은 일이요.

같은 설계 때문에 약점도 생겨요. 정확한 사실, 이름, 가격, 날짜가 자신 있는 말투로 틀리게 나올 수 있어요. 최근 일은 빠져 있을 수 있어요. 모델의 지식은 지식 컷오프, 즉 그 이후의 새로운 정보로는 학습하지 않은 시점에서 멈추기 때문이에요. 계산도 틀릴 수 있으니 중요한 숫자는 모두 확인하세요. 그리고 내가 말하지 않은 내 상황에 대해서는 아무것도 알 수 없어요.

어떤 도구는 웹을 검색하거나 업로드한 파일을 읽을 수 있어요. 그러면 더 새롭거나 더 구체적인 정보를 다룰 수 있지만, 찾은 내용을 잘못 읽거나 잘못 전할 수도 있어요. 검색은 AI가 볼 수 있는 범위를 바꿀 뿐, 확인할 필요를 없애 주지는 않아요.

예시

한 학생이 과제를 늦게 낸 일로 교수님께 이메일을 보내야 해요. 다음은 AI를 잘못 쓰는 예예요.

우리 대학교의 과제 지각 제출 규정은 무엇인가요?

도구가 검색해서 맞는 페이지를 찾지 않는 한, 그 대학교의 규정을 알 방법이 없어요. 그러면 진짜처럼 들리지만 사실이 아닌 규정을 써낼 수도 있어요. 규정은 직접 찾고 AI는 글쓰기에 쓰는 식으로 나누는 편이 더 나아요.

교수님께 보낼 짧고 정중한 이메일을 쓰도록 도와주세요. 아파서 에세이
마감을 이틀 넘겼어요. 진단서가 있어요. 이번 주 안에 아직 제출할 수
있는지 여쭤보고 싶어요. 120단어 이내로 써 주세요.

두 번째 요청은 도구가 잘하는 일, 즉 초안 쓰기와 어조, 구성을 활용해요. 날짜, 진단서, 요청 내용 같은 사실은 학생이 직접 제공했어요.

직접 해 보기

1. 쓸 수 있는 AI 채팅 도구를 아무거나 여세요. 아직 없다면 선택 도우미에서 시작점을 추천받을 수 있어요.
2. 이미 잘 아는 주제를 짧은 문단 세 개로 설명해 달라고 하세요.
3. 답을 읽고 문장마다 맞음, 일부 맞음, 틀림으로 표시하세요.
4. 같은 도구에 최근 며칠 사이에 일어난 일에 대해 질문하세요.
5. 두 답을 비교하세요. 어디에서 쓸모 있었고, 어디에서 짐작했거나 모른다고 했는지 적어 두세요.

마지막에는 이 도구가 잘한 일을 정리한 짧은 목록과, 틀렸거나 알 수 없었던 것이 적어도 하나 남아 있어야 해요.

이 템플릿 복사하기

이런 작업을 도와주세요: [작업, 예: 초안 쓰기, 설명하기, 요약하기,
아이디어 내기, 다시 정리하기].

알아야 할 내용은 이래요: [제가 드리는 사실과 세부 사항].

이런 형식으로 주세요: [원하는 형식, 예: 짧은 이메일, 글머리 기호
다섯 개, 표].

답 중에 제가 드리지 않은 사실에 기대는 부분이 있으면, 그 부분을 따로
목록으로 정리하고 확실하지 않다고 말해 주세요.

AI에게 불확실한 부분을 표시해 달라고 해도 답이 정확해지는 것은 아니에요. 중요한 부분은 계속 확인하세요.

결과 확인하기

• 내가 준 사실만 썼나요, 아니면 새로운 사실을 덧붙였나요?
• 이름, 숫자, 날짜, 인용문을 다른 곳에서 확인할 수 있나요?
• 도구가 모를 수 있는 최근 일에 기대는 내용이 있나요?
• 계산을 했다면 결과를 직접 확인했나요?
• 결과가 내 작업에 실제로 쓸모 있나요, 아니면 매끄럽게 읽히기만 하나요?

자주 하는 실수

• 정확한 사실을 찾는 검색 엔진처럼 AI 쓰기. 유창한 답이 확인된 답은 아니에요. 사실은 믿을 만한 출처에서 찾고, AI는 그 사실을 둘러싼 글쓰기와 생각 정리에 쓰세요.
• AI가 나를 안다고 생각하기. AI는 대화에 있는 내용만 알아요. 필요한 세부 정보는 주되, 신분증 번호, 비밀번호, 다른 사람의 개인정보 같은 민감한 데이터는 빼세요.
• 숫자가 정확해 보여서 믿기. 정확해 보이는 수치도 틀릴 수 있어요. 기댈 숫자는 모두 다시 계산하세요.
• 답 하나가 별로라고 포기하기. 모호한 요청에는 모호한 결과가 나와요. 첫 질문하기에서 보여 준 것처럼 더 명확한 작업으로 다시 시도하세요.