AI문제점1 AI 할루시네이션: 발생 원인부터 해결 전략까지 완벽 정리 AI 할루시네이션이란? AI 할루시네이션(AI hallucination)은 인공지능이 불완전한 정보나 잘못된 추론을 기반으로 부정확하거나 허구적인 결과를 생성하는 현상입니다. 특히 대규모 언어 모델이나 생성형 AI 시스템에서 이러한 현상이 두드러집니다. 이러한 오류는 AI 모델이 자신 있게 정보를 제공하지만, 실제로는 잘못된 내용이거나 존재하지 않는 정보를 만들어내는 경우를 말합니다. 다음은 AI 할루시네이션의 일반적인 예시입니다. - 거짓 정보 생성: 실제로는 존재하지 않는 사실을 응답으로 제공.- 논리적 오류: 질문의 문맥과 어긋나는 답변을 생성.- 허구적인 이름 및 데이터 생성: 없는 인물, 출판물, 데이터 등을 실제로 존재하는 것처럼 제시. AI 할루시네이션은 대부분 모델이 확률 기반으로 응답을 .. 2024. 5. 8. 이전 1 다음