커뮤니티
교수동정
- 국립 부경대학교 교수님들의 자랑스러운 소식입니다.
| 할루시네이션을 줄이려면 | |||
| 작성자 | 대외홍보센터 | 작성일 | 2025-10-16 |
| 조회수 | 246 | ||
| 할루시네이션을 줄이려면 | |||||
 |
대외홍보센터 |  |
2025-10-16 |  |
246 |
‘인공지능은 왜 거짓말을 하는가’
- 송하주 교수, <부산일보> 칼럼 게재
국립부경대학교 송하주 교수(컴퓨터·인공지능공학부)의 칼럼 ‘인공지능은 왜 거짓말을 하는가’가 10월 15일 <부산일보> 23면에 실렸다.
송하주 교수는 이 칼럼에서 “할루시네이션은 원래 정신의학에서 환각을 뜻하지만, 인공지능 분야에서는 근거 없는 내용을 사실처럼 생산하거나, 존재하지 않는 인물·문서·사건을 실제처럼 진술하는 현상을 일컫는다.”라며, “왜 이런 일이 벌어질까?”라는 질문을 던졌다.
송하주 교수는 오픈AI가 논문을 통해 이 문제의 핵심 원인을 인공지능의 학습 체계에서 찾았다고 소개했다.
현재의 인공지능은 사용자의 질문에 대한 답변을 만들면서 ‘다음에 올 단어를 가장 잘 예측하는 방식’으로 동작하는데, 이때 예측의 결과값이 불확실하면 ‘가장 그럴듯한 답을 만들어 내는 것’에 보상이 주어지는 방식으로 학습했다는 것.
송하주 교수는 “현실에서는 인공지능의 할루시네이션이 우스개 수준을 넘어 여러 형태의 문제를 일으킬 수 있다. 정보가 빠르게 확산하는 환경에서 인공지능이 만들어 낸 허구가 사실로 오인되어 확산하면, 사회적 신뢰와 정책 결정의 기반 자체가 걷잡을 수 없이 흔들릴 수도 있다.”라고 우려했다.
이어 그 해결책으로, 질문을 받으면 신뢰할 수 있는 외부 데이터베이스 등의 자료를 바탕으로 답변을 구성하게 하는 ‘RAG’와 근거와 추론의 경로를 보여주게 하는 ‘XAI’ 기술을 제시했다.
송하주 교수는 “인공지능은 강력한 ‘도구’이자 ‘동반자’가 되었지만, 그것이 생성하는 결과가 곧바로 ‘절대적 진실’은 아니다. 인공지능이 내놓는 문장들이 겉으로는 그럴듯해도, 중요한 판단에서는 항상 근거를 확인하는 습관을 지녀야 한다.”라고 강조했다.