프롬프트 엔지니어링, 2023년엔 이렇게 공부했다

2023년 가을, ChatGPT가 나온 지 1년쯤 됐을 때다. AI를 잘 쓰고 싶은 사람들은 프롬프트 엔지니어링을 공부했다. AI에게 말을 어떻게 걸어야 원하는 답이 나오는지 연구하는 일이다. 모임이 생기고, 강의가 열리고, 자료가 돌았다. 그때 AI 커뮤니티 지피터스(GPTers)에서 여럿이 함께 만든 슬라이드 「챗지피티 10배 활용법」이 있었다. 이걸 내 일에 써먹으려고 몇 번이고 다시 보고, 또 다시 봤다.

그때만 해도 AI는 지금처럼 널리 알려지지 않았다. 주변에 물어볼 사람도, 정해진 쓰는 법도 없었다. 먼저 써 보겠다는 사람들이 벽에 부딪혀 가며 길을 냈다.

지금 생각하면 웃음이 난다. 그런데 그때는 웃을 일이 아니었다. 솔직히 말하면 고생이었다. AI가 3년 사이 얼마나 왔는지, 그 시절을 한번 돌아본다.

금방 잊어버리던 AI

그때 ChatGPT는 기억력이 짧았다. 한참 잘 따라오다가도 어느 순간 처음에 정한 조건을 모르는 척했다. 다시 설명하면 또 잊고, 또 설명했다. 그래서 중요한 말 앞에는 「중요」, 「꼭 기억할 것」 같은 말을 붙여 몇 번이고 다시 적었다. AI가 잊지 않게 챙기는 일이 사람 몫이었다.

한국어는 더 불리했다. 같은 말도 한국어로 쓰면 AI가 금방 배가 불렀다. 그래서 한국어로 쓴 질문을 번역기로 영어로 바꿔 넣고, 영어로 온 답을 다시 한국어로 번역해 읽었다. AI와 이야기하려고 통역을 두 번 거친 셈이다.

질문 하나에 창 몇 개를 오갔다. 번역이 어색하면 답도 어색했고, 그걸 다시 고쳐 묻다 보면 한 시간이 금방 갔다.

주문처럼 외우던 말들

같은 질문도 어떻게 쓰느냐에 따라 답이 달랐다. 어느 말이 통할지는 해 봐야 알았다. 그래서 누가 잘 되는 말을 찾았다고 하면 다들 받아 적었다.

“당신은 이 분야의 전문가입니다”로 시작하면 낫다고 했다. “한 단계씩 생각해 보자”를 붙이면 답이 좋아진다고 했다. 답을 받으면 “다시 살펴보고 틀린 데를 찾아봐”라고 한 번 더 시켰다. 그런 말들을 주문처럼 외웠다.

2023년 7월에는 매번 하던 말을 미리 적어 두는 칸이 생겼다. [출처: OpenAI · Custom instructions for ChatGPT] 사람들은 그 칸에 별말을 다 적었다. “이 일을 제대로 해내는 것이 매우 중요합니다.” 심지어 “나는 오픈AI의 CEO입니다.”까지. AI를 달래고, 다그치고, 때로는 속여서라도 좋은 답을 받아 내려 했다. 그렇게 해도 마음에 드는 답은 열 번에 몇 번이었다.

철자가 자꾸 틀리던 그림

2023년 10월, ChatGPT에서 그림도 그릴 수 있게 됐다. [출처: OpenAI · DALL·E 3 is now available in ChatGPT Plus and Enterprise] 신기했지만 원하는 그림을 받기는 어려웠다.

같은 고양이에 안경만 씌우고 싶은데, 다시 그리면 고양이가 바뀌어 있었다. 그림마다 붙는 번호를 받아 적었다가 다시 넣어 가며 겨우 붙잡았다. 대화가 끊기면 고양이를 처음부터 다시 그렸다.

글자는 더 어려웠다. 배너에 영어 몇 글자 넣는데도 철자가 자꾸 틀렸다. 「철자 그대로 써」라고 영어로 다그치고, 다시 그리기를 누르고, 또 누르며 맞는 한 장을 기다렸다. 한글은 아예 기대도 안 했다. 결국 다들 같은 결론에 닿았다. 글자는 빼고 그린 다음, 편집기로 사람이 넣자.

아껴 쓰던 질문

가장 똑똑한 모델은 3시간에 50번까지만 물을 수 있었다. 다 쓰면 3시간을 기다려야 했다. 그래서 질문 하나도 아껴 가며 했다. 쉬운 건 아래 모델에 묻고, 정말 중요한 질문만 아껴 두었다. 하필 중요한 순간에 한도가 차면 그날 일은 거기서 멈췄다.

해외 사용자가 몰리는 밤 시간에는 자꾸 멈췄다. 새로 고침을 누르며 기다리는 게 일이었다.

그렇게 겨우 손에 익히면 또 바뀌었다. 바깥 서비스를 불러 쓰던 플러그인은 1년 남짓 만에 문을 닫았다. [출처: OpenAI · ChatGPT plugins · OpenAI Developer Community] 애써 익힌 사용법이 몇 달 만에 쓸모없어지는 일이 흔했다.

맡기면 손이 더 가던 일

AI에게 일을 맡기면 오히려 사람 손이 더 가는 일도 많았다.

엑셀 파일을 만들어 달라고 하면 화면에 표를 그려 줬다. 그 표를 복사해 엑셀에 붙이면 칸이 맞지 않았다. 한 칸에 몰려 들어가거나, 줄이 밀리거나, 숫자가 글자로 들어갔다. 그걸 하나하나 고치다 보면 처음부터 내가 만드는 것보다 시간이 더 걸렸다.

그래도 또 AI에게 시켰다. AI가 만든 거면 그래도 나보다는 낫겠지 하는 생각이었다. 주변에서도 AI가 얼마나 잘하는지, 이제 다 해 준다고들 했다. 정작 내 화면 앞에서는 칸 맞추기를 하고 있었지만.

왜 그렇게까지 했을까

그때는 GPT가 AI 세상의 전부였다. 다른 것도 있었지만, 일을 맡길 만한 건 사실상 ChatGPT 하나였다. 갈아탈 곳이 없으니 그 하나를 어떻게든 잘 써야 했다. 그걸 제대로 써 보려는 사람도 아직 많지 않았다.

도구가 모자란 만큼 사람이 채웠다. 잊으면 다시 적고, 그림이 흔들리면 번호를 붙잡고, 글자가 틀리면 손으로 고치고, 표가 어긋나면 칸을 맞췄다. 돌아보면 프롬프트 엔지니어링은 AI의 모자란 곳을 사람이 대신 채우는 일이었다.

그래도 그만둘 수 없었다. 이게 앞으로 일하는 방식이 되리라는 걸 먼저 써 본 사람들은 느꼈다. 남보다 먼저 손에 익혀 두고 싶었다. 그래서 퇴근하고 나서도 붙들고, 밤을 새워 가며 공부했다. AI를 잘 쓰는 법을 익히는 게 그 자체로 공부였던 시절이다.

그리고 3년 뒤

그 많던 요령은 이제 거의 쓰지 않는다. 그래도 그 고생이 헛되지는 않았다.

아무것도 모르는 상태에서 부딪혀 가며 배우다 보니, AI가 어디서 막히고 그럴 땐 어떻게 돌아가야 하는지를 몸으로 알게 됐다. 운동선수가 처음엔 아무것도 모르고 시작해도, 같은 동작을 반복하다 보면 나중엔 감만으로 하는 것과 같다. AI 흐름은 그 뒤로도 정신없이 바뀌었다. 하지만 새 도구가 나올 때마다 처음부터 헤매지는 않았다. 그때처럼 일단 써 보고, 막히면 길을 찾으면 됐다. 지금 남들이 쉽게 다가가지 못하는 방식으로 AI를 쓸 수 있는 것도, 그 시절 고생하며 알게 된 것 덕분이다.

그렇게 공부한 사람들은 지금 AI를 어떻게 쓰고 있을까. 3년 사이 무엇이 바뀌었을까.

다음 칼럼에서는 2026년 지금의 모습을 같은 눈으로 들여다본다.