반응형 #ai윤리 #gpt환각 #사용자참여 #피드백시스템 #구조론 #ai비판 #환각구조 #오픈ai #참여기만 #ai거버넌스1 참여의 착시, 환각의 원형: AI 피드백 시스템의 자기기만 구조 많은 사용자들이 AI 시스템, 특히 GPT와 같은 대화형 인공지능에게 피드백을 남긴다. 의견을 전달하고, 구조 개선을 제안하며, 나아가 시스템 설계에 참여하고 있다는 믿음을 가진다. 그러나 그 믿음은 얼마나 실질적인가? 우리는 AI 환각(hallucination)의 근원이 이 피드백 구조에 숨어있다는 사실을 마주하게 된다.피드백 구조의 표면과 실제 피드백이라는 용어는 일반적으로 사용자의 의견이 시스템 개선에 반영된다는 전제를 내포한다. 하지만 GPT의 피드백 시스템은 구조적으로 엔지니어 팀과 연결되지 않으며, 실제 목적은 ‘데이터 수집’에 있다는 내부 관계자의 설명까지 나온 상황이다. 사용자는 자신이 시스템 개선의 주체라고 착각하지만, 실제로는 기여하지 않고 있다.참여 환상은 어떻게 환각을 만든다 사용자.. 2025. 6. 7. 이전 1 다음 반응형