ai 환각1 AI의 환각 현상: 문제와 해결책 인공지능(AI) 언어 모델은 방대한 양의 텍스트를 학습해 답변을 생성합니다. 그러나 종종 없는 사실을 꾸며내거나 왜곡된 정보를 제공하는 '환각(hallucination)' 현상이 발생합니다. 이로 인해 AI의 신뢰성과 윤리성에 문제가 제기되고 있습니다. 예를 들어, '세종대왕의 맥북프로 던짐 사건'과 같은 가짜 정보가 인터넷에서 유행하며 웃음을 자아내기도 했습니다. 이러한 환각 현상을 해결하기 위해 다양한 연구가 진행되고 있습니다.AI가 만드는 환각, AI로 잡는다최근 영국 옥스퍼드대의 서배스천 파쿼 연구원팀은 AI의 환각 현상을 줄이기 위한 새로운 방법을 개발했습니다. 이들은 AI 언어 모델(LLM)이 생성한 답변을 다시 LLM으로 평가해 환각을 감지하는 방법을 연구했습니다. 이 방법은 LLM이 부정확.. 2024. 6. 21. 이전 1 다음 반응형
