저는 chatGPT를 유료로 사용하고 있는 유저로, 사용경험과 얼마전 알게된 chatGPT 의 '환각현상' 이라는 단어의 의미, 그리고 문제점에 대해 정리해보려고 합니다.
ChatGPT란?
ChatGPT는 OpenAI에서 개발한 대화형 인공지능 언어 모델로, GPT(Generative Pre-trained Transformer) 시리즈의 한 버전입니다. 주로 사람과 자연스럽게 대화를 나누거나, 다양한 주제에 대한 정보를 제공하고 질문에 답변하는 등의 기능을 수행합니다.
ChatGPT는 방대한 양의 텍스트 데이터를 학습하여 인간이 작성한 것처럼 자연스럽고 이해하기 쉬운 문장을 생성할 수 있으며, 언어 이해와 생성 능력을 바탕으로 다양한 작업을 수행할 수 있는데요. 예를들어, 질문에 대한 답변 제공, 글쓰기 지원, 코딩 문제 해결, 번역, 요약, 창작 등 여러가지 역할을 수행합니다.
-- 주요 특징 --
- 자연어 처리 : ChatGPT는 사람과의 대화에서 발생하는 맥락을 이해하고 이에 적합한 답변을 생성할 수 있습니다.
- 다양한 활용 가능성 : 고객 서비스 챗봇, 교육도우미, 글쓰기보조, 코딩문제해결 등 다양한 분야에서 활용될 수 있습니다.
- 대화형 인공지능 : 사용자의 명령이나 질문을 이해하고 이에 맞는 대화를 이어갈 수 있어서 마치 실제 사람과 대화하는 듯한 경험을 제공합니다.
ChatGPT는 주로 인터넷에서 수집한 텍스트 데이터를 기반으로 학습되었으며, 특정 주제에 대해 명확하게 답변하거나 유용한 정보를 제공할 수 있도록 설계되었습니다.
ChatGPT의 "환각 현상" 이란?
사실이 아닌 정보를 생성하거나, 질문에 대한 답변을 완전히 잘못된 방향으로 제공하는 현상을 말합니다.
예를 들어, 존재하지 않는 사실을 제공하거나, 질문의 맥락에 맞지 않는 답변을 하는 경우가 이에 해당합니다.
이 현상은 대규모 언어 모델의 고유한 한계 중 하나로, 모델이 학습한 데이터에 기반하여 새로운 문장을 만들어낼 때, 그 내용이 반드시 사실에 부합하지 않을 수 있습니다.
제가 경험한 바로는
1. A에 대한 지식을 요구했는데 AI입장에서 더 낫다고 생각한 B에 대한 지식을 제공하는 경우. (엉뚱한 답변)
2. 결과물을 만들어낼 능력이 되지 않는데도 일단 답변을 던진 뒤 "동일하게" 결과를 냈다고 말하는 경우.
3. 어떤 이론이나 개념에 대한 질문을 했을 때, 검증된 레퍼런스를 참조하여 대답하지 않고 AI의 생각(AI의 뇌피셜..)을 말하며, 마치 검증된 지식인양 표현하는 경우.
이때, 제공된 답변의 출처를 물어보면 현재 존재하지 않는 404페이지 주소를 알려주거나, 심지어 답변과 반대로 주장하는 레퍼런스의 링크를 주기도 합니다.
그래서 꼭.. 이론,개념에 대한 질문을 했다면, 반드시 출처를 물어보고 재확인하는 검증 작업이 필수라고 생각합니다.
예를 들어보겠습니다.
저는 UI개발자로 일하고 있어서 테스트로 "CSS로 폭죽모양을 그려줘"라고 지시를 했지만, 폭죽이 터지는 효과만 소개해주는 것을 볼 수 있었습니다.
질문이 조금 더 구체적이면 어떨까해서, 아이콘을 직접 파일로 전달해준 후 비슷하게 css로 모양을 그려달라고 지시하였습니다.
그려준 결과
제가 생각하는 문제는 이미지의 모양대로 그려내지 못했다는 점이 아닙니다.
결과 이미지처럼 방향조차 반대로 그려놓고, "최대한 동일하게 표현하도록 했다"라고 표현한 점입니다.
chatGPT의 버전이 발전하면서 이러한 환각문제를 개선하기 위한 여러 조치가 취해졌다고 하지만, 크게 체감되는 정도는 아닌 것 같습니다.
영국 글래스고우대학(University of Glasgow)의 연구진들은 이런 chatGPT의 근거없는 답변을 "환각(hallucinations)"이라고 표현하는 것 자체가 과대평가라며, "환각"이라는 단어를 헛소리(bullshit)" 단어로 바꾸고 "헛소리"의 개념으로 이해해야한다고 논문을 통해서 주장하기도 했습니다. 🤣🤣 물론 철저한 검증을 통해 chatGPT를 이용한 어떤 산출물을 내는 것은 빠르고 효율적이고, 하나부터 열까지 직접하는 것보다 나은 결과를 얻을 수도 있습니다.😄 그러나 chatGPT가 준 답변을 검증없이 맹신하며, 내가 알고있는 지식인양 말하는 것은.. 낯뜨거운 상황을 만들 수 있으니 주의하시는게 좋을 것 같습니다. ㅎㅎ 🤣🤣