생성형 AI가 쏟아내는 결과물을 100% 믿을 수 있을까?
여전히 우리는 ‘AI가 그럴듯한 거짓말을 하지 않을까‘라는 불안함에서 벗어나지 못하고 있다.
귀찮은 일을 위임하기 위해 AI를 쓰지만, 정작 결과물을 검토하는 데 더 많은 시간을 쏟고 있지는 않은가?
자신감 있게 틀리는 생성형 AI
생성형 AI는 기본적으로 ‘다음에 올 확률이 높은 단어’를 예측하는 모델이다. 즉, 팩트의 정확도보다는 사용자가 만족할 만한 ‘맥락’을 완성하는 데 최적화되어 있다.
이 때문에 1%의 오류 가능성이 존재한다면, AI는 이를 무시하고 마치 사실인 것처럼 답변한다. 사람이 직접 검증해야 하는 ‘쓰레기 데이터’가 섞여 들어가는 이유다. AI는 인간의 시간을 90% 아껴주지만, 나머지 10%의 검증 과정을 건너뛰면 치명적인 결과로 돌아온다.
온톨로지- 현실의 맥락을 AI에게 주입하기
온톨로지(Ontology)는 AI에게 ‘세상의 규칙’을 명확히 정의해 주는 방식이다. 단순히 방대한 데이터를 학습시키는 것을 넘어, 특정 도메인 내에서의 관계와 개념을 구조화해서 입력한다.
“강남 분위기 좋은 카페 찾아줘”라는 모호한 질문을 받았다고 가정해보자.
기존 AI는 일반적인 검색 결과에 의존하지만, 온톨로지가 적용된 AI는 ‘강남’이라는 지역의 지리적 데이터, ‘분위기’에 대한 구체적인 평점 데이터, ‘카페’의 영업시간 데이터 간의 관계를 정확히 파악하여 답변한다.
즉, AI에게 생각의 ‘지도’를 그려주는 것과 같다.
하네스 엔지니어링- AI에 안전벨트 채우기
하네스(Harness)는 말 그대로 ‘마구’나 ‘안전벨트’를 의미한다.
AI가 답변을 생성할 때 일정한 가이드라인을 벗어나지 못하도록 제약을 거는 기술적 장치를 말한다.
AI가 창의적으로 답변하는 영역을 기술적으로 강제하여, 비즈니스 목적에 맞지 않는 엉뚱한 답변을 차단한다.
- 입력 제약: 사용자의 질문이 의도한 범위를 벗어나지 않는지 필터링.
- 출력 검증: 생성된 답변이 정해진 형식이나 사실 관계에 부합하는지 2차 체크.
- 피드백 루프: 틀린 답변을 감지하면 즉시 수정하도록 강제하는 에이전트 시스템.
이 과정을 통해 AI는 확률 기반의 ‘생성’을 넘어, 신뢰할 수 있는 도구에 가까워진다.
한눈에 정리해본 AI 신뢰성 확보 전략
| 구분 | 온톨로지 (Ontology) | 하네스 엔지니어링 (Harness) |
| 핵심 목적 | 정보의 맥락과 관계 정의 | 답변의 범위를 제한하고 제어 |
| 작동 방식 | 지식 그래프를 통한 데이터 구조화 | 제약 조건(Constraints)을 통한 출력 통제 |
| 장점 | 높은 답변 정확도와 전문성 | 환각(Hallucination) 방지 및 안전성 |
| 주요 활용 | 도메인 특화 챗봇, 지식 관리 시스템 | 기업용 AI 솔루션, 금융·의료 서비스 |
자주 묻는 질문 (Q&A)
Q. 온톨로지 구축은 개인이 하기에는 너무 어렵지 않을까?
사실 그렇다. 방대한 데이터를 구조화하는 것은 상당한 공수가 드는 문제다. 작은 규모의 데이터부터 시도하며 쌓아나가야 할 부분이 아닐까 싶다. 물론 이때도 생성형 AI의 도움을 받아 데이터를 구조화한 초안을 생성하도록 하고, 사람은 검토를 하며 온톨로지를 구축해나가는 방법도 활용할 수 있다.
Q. 하네스 엔지니어링을 적용하면 AI의 창의성이 사라지지 않을까?
AI에게 너무 강한 제약을 걸면 딱딱한 답변만 내놓을 수 있다. 중요한 건 AI에게 요청을 하는 사람의 ‘의도’다. 창의적인 글쓰기가 목적이라면 자유도를 높이고, 코드 작성이나 데이터 처리가 목적이라면 하네스를 타이트하게 잡는 ‘균형’이 핵심으로 보인다.
Q. 온톨로지와 RAG(검색 증강 생성)는 어떻게 다른가?
RAG는 관련 문서를 찾아 답변의 근거를 마련하는 기술이다. 반면, 온톨로지는 그 근거들 사이의 관계를 더 명확하게 정의하는 기술이다. 둘을 결합하면 훨씬 더 정교한 답변을 얻을 수 있다.
여기서 RAG와 온톨로지에 대한 이해를 그림으로 그려보았다.
도구로서의 AI를 대하는 자세
요즘 SNS를 보면 AI로 수많은 성과를 냈다는 소식이 매일 들려온다. 나 역시 그런 소식을 볼 때마다 가끔은 뒤처지는 것 같은 FOMO를 느끼기도 한다.
하지만 온톨로지와 하네스 엔지니어링을 공부하며 한 가지 확실해진 점이 있다. AI는 결국 ‘도구’라는 점이다.
개발자로서 ‘코드를 어떻게 짤까’ 고민하던 시간을 ‘어떤 맥락을 AI에게 주입해 더 완벽한 결과물을 만들까’라는 고민으로 바꿨을 뿐이다. AI가 쓰레기를 뱉어낼까 걱정하기보다, 우리가 어떤 지도를 그려주고 어떤 안전벨트를 채워줄지 고민하는 것. 그것이 지금 시대에 AI를 활용하는 진짜 생산성이 아닐까 싶다.
