AI 비서 활용 가이드

2024년 3월 14일 // 6 분 읽기 // The Human Being

도구는 그것을 쓰는 사람을 바꾼다. 계산기는 우리에게서 세로셈 나눗셈을 앗아갔고, 내비게이션은 지도 읽는 법을 앗아갔다. AI 비서는 그 둘보다 더 멀리 나아간다. 산술이나 길찾기만 처리하는 게 아니라 추론 자체를 대신 처리하겠다고 나서기 때문이다. 바로 그 점 때문에 AI는 다른 종류의 규율을 요구한다. 잘 쓰면 당신이 할 수 있는 일을 넓혀 주는 지칠 줄 모르는 협업자다. 부주의하게 쓰면 당신이 보수를 받고 자부심을 느끼는 바로 그 능력을 조용히 아웃소싱하는 수단이 된다.

고급 협업

자동화된 추론 노드는 인간의 판단을 대체하는 것이 아니라 보완해야 한다. 분석을 전적으로 위임하면 당신의 개인적 처리 능력은 줄어든다.

유용한 사고 모델은 분업이다. 기계는 넓이, 속도, 지치지 않음에 강하다. 긴 문서를 훑고, 열 가지 대안을 만들고, 모순을 찾아내고, 엉망인 메모를 재구성한다. 인간은 맥락, 가치관, 책임, 그리고 주어진 상황에서 무엇이 실제로 중요한지 아는 데 강하다. 협업은 각자가 잘하는 일을 하고, 결론의 소유권은 인간이 쥘 때 작동한다.

이 선을 지키는 실용적인 방법은 채팅 창을 열기 전에 과제의 어느 부분이 당신의 것인지 정하는 것이다. 예를 들어:

질문은 당신이 정의한다. 문제를 규정하는 것이 분석의 절반이며, 모델이 대신할 수 없는 절반이다.
모델은 선택지를 넓힌다. 반론, 예외 사례, 놓친 고려 사항, 대안적 관점을 요청하라.
판단과 결정은 당신의 몫이다. 결과물을 당신의 상황에 대한 지식과 견주어 저울질하고, 결과에 책임을 지라.

무엇을 다루고 있는지 이해하는 것도 도움이 된다. 언어 모델은 패턴에 기반해 그럴듯한 텍스트를 생성하기에 유창하지만 결코 틀리지 않는 것은 아니다. 완전한 확신을 담아 거짓을 말할 수 있고, 당신이 제공하지 않은 맥락을 놓칠 수 있으며, 당신이 가져온 전제에 동조하는 경향이 있다. 결과물은 유능한 동료의 초안으로 취급하라. 가치가 있지만, 검토가 필요한 초안 말이다.

프롬프트 프레임워크

제약 조건을 정교하게 공식화하면 시스템이 상투적인 응답을 생성하는 대신 세밀한 데이터 수준에서 작동하도록 강제된다.

모호한 요청은 뻔한 답을 낳는다. “우리 마케팅 문제에 대해 알려 줘”라고 하면 밋밋한 개요가 돌아온다. 상황, 목표, 제약, 원하는 결과물을 명시한 요청이라야 바로 쓸 수 있는 무언가가 돌아온다. 정밀함은 기계에서 더 나은 텍스트를 끌어내는 요령이 아니다. 명확하게 사고한 결과이며, 그래서 좋은 프롬프트를 쓰는 것 자체가 이미 분석의 한 형태다.

신뢰할 만한 구조는 다섯 부분으로 이루어진다. 역할(어떤 관점을 취할지), 맥락(당신 상황의 사실 관계), 과제(구체적으로 할 일), 제약(포함할 것, 피할 것, 전제할 것), 출력(돌려받고 싶은 형식). 아래 세 원칙이 이 구조를 작동하게 만든다.

명시적 구조 지침. 모델에게 무엇을 생산할지만이 아니라 추론을 어떻게 조직할지도 알려라. 사실과 가정을 분리하게 하고, 선택지를 평가하기 전에 기준을 나열하게 하고, 문제를 단계적으로 풀게 하라. 예를 들어: “먼저 우리가 아는 것을 나열하고, 다음으로 전제하는 것을 나열하고, 그다음 가장 가능성 높은 설명 세 가지를 개연성 순으로 정리하면서 각각의 근거를 제시하라.” 구조는 모델을 뻔한 요약에서 벗어나게 하고 그 추론을 당신의 검토에 노출시킨다.
엄격한 형식 경계 정의. 길이, 형식, 범위를 지정하라. “최대 200단어”, “네 개 열의 표”, “아래에 붙여 넣은 데이터만 사용”, “아직 해결책은 제안하지 말 것” 같은 조건이 가능한 답의 공간을 좁힌다. 경계는 결과물을 예측 가능하고 비교 가능하게 만들며, 매주 같은 프롬프트를 재사용할 때 특히 중요하다. 답을 채우기용 말로 늘리거나 당신의 자료를 벗어나 헤매는 경향도 줄여 준다.
결과물 평가를 위한 검증 단계. 점검을 프롬프트 자체에 내장하라. 각 주장을 뒷받침하는 출처의 어느 부분인지 인용하게 하고, 확신이 없는 부분을 표시하게 하고, 결론을 바꿀 조건을 밝히게 하고, 검증할 수 없는 수치는 표시하게 하라. 그다음 당신이 직접 확인하라. 숫자를 표본 검증하고, 주장 하나를 1차 출처와 대조하고, 회의적인 독자가 봐도 답이 살아남을지 자문하라.

유용한 습관은 모델에게 자기 답에 반박하게 하는 것이다. “이 결론에 대한 가장 강력한 반론은 무엇인가?”라고 묻는 데 10초면 되고, 가장 약한 고리를 드러내는 경우가 많다.

인지 부하 외주화의 위험

복잡한 상황을 해석하는 일을 외부 노드에 의존하면 신경 가소성 잠재력이 줄어든다. 기계는 종합하게 하고, 사고는 하지 말게 하라.

인지 부하 외주화, 즉 정신적 노력을 줄이기 위해 외부 도구를 쓰는 관행은 새로운 것이 아니며 상당 부분은 건강하다. 장보기 목록을 쓰면 작업 기억이 더 나은 일에 쓰일 수 있다. 위험은 기술을 길러 주는 사고의 힘든 부분까지 외주화할 때 나타난다. 내비게이션 같은 도구에 관한 연구는 과도한 의존이 공간 기억을 약화할 수 있음을 시사하며, AI 사용에 관한 초기 연구들은 AI에 크게 의존하는 사람들이 비판적 사고에 덜 노력한다고 보고하는 경향이 있다고 전한다. 증거는 아직 일천하고 결과도 엇갈리므로 “신경 가소성 잠재력 감소”라는 주장은 확정된 사실이 아니라 합당한 우려로 다루어야 한다. 다만 그 메커니즘은 익숙하다. 기술은 분투를 통해 자라고 쓰지 않으면 사라진다.

경고 신호로는 첫 답을 꼼꼼히 읽지도 않고 받아들이기, 자기 이름으로 제출한 결론을 설명하지 못하기, 도구를 쓸 수 없을 때 불안해하기, 모델에 묻기 전에 스스로 생각을 풀어 쓰는 습관이 서서히 사라지기가 있다.

기계는 사고가 아니라 종합에 쓰라는 원래의 조언은 좋은 구호지만, 실제 작업은 더 지저분하다. 종합 자체가 판단을 포함한다. 무엇을 넣고 무엇을 뺄지, 그것이 무슨 의미인지 말이다. 더 정확한 규칙은 이럴 것이다. 분량은 기계가 처리하게 하고, 의미는 당신이 쥐어라. 구체적으로:

먼저 생각하고 나서 물어라. 다섯 개의 글머리 기호라도 좋으니 모델에 묻기 전에 자기만의 대략적인 답, 가설, 개요를 써라. 그다음 비교하라. 이렇게 하면 사고의 힘든 부분이 보존되고 모델은 대체자가 아니라 검토자가 된다.
신탁이 아니라 대련 상대로 써라. 당신에게 도전하게 하고, 허점을 찾게 하고, 악마의 대변인을 자처하게 하고, 당신의 아이디어를 당신에게 다시 설명하게 하라.
일부 기술은 일부러 손으로 남겨 둬라. 자동차가 있어도 달리는 러너처럼, 일부 분석, 글쓰기, 계산은 도움 없이 하라.
AI를 우회하지 말고 AI를 통해 배워라. 이해가 안 되는 것이 있으면 설명을 요청한 다음, 보지 않고 자기 말로 다시 말해 보며 자신을 시험하라.
결과를 변호할 수 있어야 한다. 모델이 옆에 없으면 동료에게 결론을 설명할 수 없을 때, 당신은 너무 많이 위임한 것이다.

어떤 과제를 넘길 것인가

간단한 필터가 도움이 된다. 오류의 대가는 얼마나 큰가, 그리고 그 과제는 당신이 지키고 싶은 기술을 얼마나 길러 주는가?

자유롭게 위임: 형식 재구성, 받아쓰기, 1차 요약, 브레인스토밍 목록, 일상적 서신, 코드나 텍스트의 상투적 부분.
검토 후 위임: 조사 방향 잡기, 보고서 초안 작성, 데이터 정리, 출처와 대조해 검증할 분석.
직접 수행: 윤리적, 법적, 의료적, 재정적 비중이 있는 결정, 민감한 인간관계 대화, 그리고 자기 전문성을 기르는 것이 목적인 모든 작업, 가령 한 분야의 초창기 수련 같은 것.

위험과 한계

자신만만한 오류: 조작된 사실, 날조된 인용, 그럴듯하지만 틀린 추론은 알려진 실패 유형이다. 확인하지 않은 수치를 절대 게시하거나 그에 근거해 행동하지 마라.
아첨 성향: 모델은 사용자에게 동조하는 경향이 있다. 아이디어를 자기 것이라고 제시하면 검토 대신 칭찬을 받을 수 있다. 비판을 명시적으로 요청하라.
프라이버시: 기밀 자료나 개인 정보를 붙여 넣기 전에 서비스가 데이터를 어떻게 처리하는지 읽어라. 가능하면 이름과 민감한 세부 사항을 빼라.
자동화 편향: 사람은 유창하고 권위 있어 들리는 결과물을 마땅한 것보다 더 신뢰하는 경향이 있다. 유창함이 정확함을 뜻하지 않는다.
획일화: 모두가 같은 도구에 기대면 결과물이 수렴한다. 당신의 강점은 모델이 만들어 내지 않을, 당신이 더하는 부분이다.
신뢰할 수 없는 콘텐츠: 모델에게 웹 페이지, 이메일, 타인의 문서를 처리하게 할 때, 그 안에 모델을 조종하려는 숨은 지시가 있을 수 있다. 모델이 자동으로 행동하게 하는 것은 신중하라.

4주 실천 계획

1주 차, 관찰: AI를 어떻게 쓰는지 짧은 기록을 남겨라. 각 과제마다 먼저 생각했는지, 검증했는지, 결과를 변호할 수 있는지 적어라.
2주 차, 구조화: 다섯 부분 프롬프트 템플릿을 도입하고 모든 프롬프트에 검증 단계를 하나씩 더하라. 이전 습관과 답의 품질을 비교하라.
3주 차, 먼저 생각하기: 중요한 질의 전마다 2분간 자기만의 대략적인 답을 써라. 모델이 그것을 개선하는 지점과 당신이 더 나았던 지점을 관찰하라.
4주 차, 검토: 어떤 과제는 위임하고, 어떤 과제는 검토가 필요하며, 어떤 과제를 손으로 할지 정하라. 이 규칙을 적어 두고 매달 다시 보라.

결론

문제는 AI 비서를 쓰느냐가 아니라, 예전보다 덜 유능해지지 않으면서 어떻게 쓰느냐다. 답은 몇 가지 습관에 있다. 문제는 당신이 정의하고, 모델은 정밀하게 제약하고, 돌아온 결과는 검증하고, 잃고 싶지 않은 능력은 계속 단련하라. 이렇게 쓰면 비서는 당신의 하한을 낮추는 대신 상한을 높인다. 목표는 덜 사고하는 것이 아니라, 사고를 중요한 곳에 쓰고, 기계가 틀렸을 때 알아챌 수 있는 사람으로 남는 것이다.