AI hallucination
AI 환각 현상은 생성형 인공지능(AI)이 없는 정보를 지어내거나 왜곡하는 현상을 말합니다. 예를 들어, 챗GPT와 같은 AI 모델이 실제로 존재하지 않는 역사적 사건에 대해 질문을 받았을 때, 마치 실제 있었던 일처럼 상세한 설명을 만들어내는 경우가 이에 해당한다
분리뇌 현상은 좌뇌와 우뇌를 연결하는 뇌량이 절단된 환자들에게서 나타나는 독특한 행동 패턴을 의미합니다. 예를 들어, 우뇌에만 특정 이미지를 보여주고 왜 그 이미지를 선택했는지 좌뇌에 질문하면, 좌뇌는 실제 이유를 알지 못함에도 불구하고 그럴듯한 이야기를 만들어냅니다. 이는 뇌가 불완전한 정보를 바탕으로 그럴듯한 이야기를 만들어내는 능력을 가지고 있음을 보여준다.
이러한 유사성은 인간의 뇌와 AI가 정보를 처리하고 해석하는 방식에서 공통적인 메커니즘이 존재할 수 있음을 암시합니다. AI의 환각 현상은 단순한 오류가 아니라, 인간과 유사한 방식으로 정보를 처리하는 과정에서 발생하는 필연적인 결과일지도 모른다.
사실 어떻게 보면 당연한 것일지도 모른다
노드들의 연결을 잘라버려 반토막이 났으니 정상적인 기능을 못 할수밖에
실제로 있었던 분리뇌 실험 사례들
1. 빛 자극 실험
왼쪽 시야(우뇌)와 오른쪽 시야(좌뇌)에 각각 빛을 번쩍였다. 오른쪽 시야에 빛을 비췄을 때는 "빛이 보였다"고 말할 수 있었지만, 왼쪽 시야에 비췄을 때는 "아무것도 안 보인다"고 하였다. 그런데 웃긴 것은, 어디에서 빛이 번쩍였는지 손으로 가리키라고 하면 정확하게 가리켰다는 점이다. 결국 우뇌가 정보를 갖고 있긴 하였으나, 언어를 담당하는 좌뇌와 연결이 끊어지면서 말로는 설명을 못 하였다.
2. 단어 인식 실험
오른쪽 시야(좌뇌)와 왼쪽 시야(우뇌)에 각각 다른 단어를 보여주고, 해당 단어와 관련된 물건을 집게 하였다. 오른쪽 시야에 ‘열쇠(key)’를 보여주면, 오른손으로 열쇠를 집고 "열쇠"라고 말하였다. 그런데 왼쪽 시야에 ‘열쇠’를 보여주었을 때, 왼손으로는 열쇠를 잘 집었으나, 그게 무엇인지 말로는 설명하지 못 하였다. 즉, 우뇌는 정보를 갖고 있었으나, 언어로 표현하는 기능이 없어 답답한 상황이 발생한 것이다.
3. 장면-도구 연관 실험
왼쪽 시야(우뇌)에는 눈보라 치는 장면을, 오른쪽 시야(좌뇌)에는 닭발 사진을 보여주었다. 그리고 본 것과 어울리는 그림을 고르라고 하였더니, 오른손은 닭을, 왼손은 삽을 집었다. 문제는 삽을 왜 골랐냐고 물었을 때이다. "지저분한 닭장을 치우려면 삽이 필요하니까요."라고 대답하였다. 사실 우뇌는 눈보라 장면을 보았기 때문에 삽을 고른 것이었으나, 좌뇌는 그 사실을 모르고 대충 말 맞추는 식으로 설명을 지어낸 것이다.
대체적으로 좌뇌가 현상에 맞추어 합리화 하고 설명하는것을 볼수 있는데
이것은 AI의 환각현상과 놀랍도록 일치한다
진화학적으로 봤을때 이러한 오류처리들이 우뇌의 어떤 노드들이 처리하면서 보정되었을것이나
뇌량이 절단되면서 기능을 상실하게 된것으로 볼수있다.
'AI' 카테고리의 다른 글
| Rodin 사용법 (0) | 2025.02.04 |
|---|---|
| AI 영상 생성 Sora 후기 (0) | 2025.02.03 |
| Qwen 사용법 (0) | 2025.01.30 |
