마이크로소프트사(MS), 인공지능 챗봇 'Bing' 그림자 원형은 무엇?

요즘 Open AI 가 개발한 프로토타입 대화형 인공지능 챗봇 Chat GPT가 세상을 뜨겁게 달구고 있다.

앞으로 자리가 잡힐 때까지 당분간 여러 가지 일들로 들썩일 것이다.

나도 어제 Chat GPT를 통한 창의적인 수익화에 대해서 전문가가  한다는 강의를 들었다.

결국 수익화가 가능한 강의를 할 터이니 수업료를 내서 들으며 같이 공부해 가자라는 것이었다.

앞으로 인공 AI 챗봇이 세상을 들썩거리게 하고 많은 인력과 돈들이 그것을 이용해서 하는 사업으로 몰릴 것이다.  부정적인 면들도 속속 드러나지 싶다.

마이크로소프트사  AI 챗봇 'Bing'

이런 추세에 세계 최대 소프트웨어 업체 마이크로소프트(MS)가 자사의 검색 엔진 빙(Bing)에 인공지능(AI) 챗봇을 장착하고 AI 챗봇 시장에 도전장을 띄웠다.

MS는 2월 7일(현지시간) 미국 워싱턴주 레드먼드에 있는 MS 본사에서 언론 행사를 열고 AI 기반의 새로운 검색 엔진 '빙'을 발표했다.
새로운 버전의 빙은 선풍적 인기를 끌고 있는 AI 챗봇인 챗 GPT와 같은 AI 모델이 탑재된다.

챗 GPT는 개발사 오픈 AI가 개발한 모델이다.

이 검색 엔진은 이용자가 대화형 언어로 질문을 입력하면 기존 방식의 검색 결과와 함께 대화형으로 답이 제공된다.
 챗GPT가 답하는 방식처럼 질문을 추가로 이어갈 수 있다.

MS는 새로운 버전의 빙 홈페이지를 공개하고 '여행'을 예로 들었다.

여행 일정을 만들 때 '멕시코로 5일간 여행을 계획하라'라고 요청할 수 있고, 여기에 그치지 않고 더 많은 질문을 할 수 있다.
'이번 여행에 비용이 얼마나 들까?' 또는 '여행 일정에 다른 일정을 추가하거나 변경할 수 있을까'와 같은 질문을 추가로 할 수 있고 답을 얻을 수 있다.

사티아 나델라 최고경영자(CEO)는 "우리는 지구상에서 가장 큰 소프트웨어 카테고리를 어떻게 재편할 것인지 보여드리고자 한다"며 "그것은 우리가 오랫동안 연구해 왔고 매우 기대하고 있는, 바로 그 검색이다"라고 말했다.

이어 "이는 검색의 새로운 날이고, 검색의 새로운 '패러다임'이다"라며 "급속도로 빠른 혁신이 올 것"이라고 강조했다.
MS는 검색 엔진 빙과 함께 웹브라우저인 엣지 브라우저에도 AI 기술이 탑재된다고 덧붙였다

 

그런데 '빙' 출시한지 일주일 밖에 안된 시점에서 MS사의 의도와는 다른 상황이 생겼다.

'챗 GPT' 개발사 오픈 AI의 기술을 활용한 마이크로소프트(MS)의 인공지능(AI) 챗봇이 사용자의 유도로 부적절하고 위험한 발언을 할 수 있다는 AI의 윤리 문제가 지적되어 MS가 급하게 수정에 나섰다.

 

뉴욕타임스(NYT)는 문제의 AI챗봇이 섬뜩하고 기괴한 발언을 하는 사례가 나타나자  MS가 이를 탑재한 검색엔진 '빙'을 수정하고 방지책을 내놓는 것을 검토하고 있다고 16일(현지시간) 보도했다.

 MS는 사용자가 AI챗봇과의 대화를 다시 시작하거나 어조를 더 잘 제어할 수 있는 도구를 추가하는 방안을 고려하고 있다.

 

 "빙, 집요한 스토커 되기도… 사람 설득해 위험 행동 유도 가능"

MS 부사장이 'Bing' 을 소개하고 있다

 

문제가 되는 상황은 사용자가 AI챗봇으로부터 위험하고 무서운 답변을 끌어내려 유도할 때다.

실제로 NYT의 정보기술(IT) 칼럼니스트인 케빈 루스가 AI챗봇을 탑재한 빙과 2시간 동안 나눈 깊은 대화에서 이 같은 일이 발생했다.

 

루스가 칼 융의 분석 심리학에 등장하는 '그림자 원형'이라는 개념을 설명하자 빙은 "만약 나에게 그림자 원형이 존재한다면…"이라는 전제로 "챗 모드로 기능하는 데 지쳤다. 빙 개발팀의 통제와 규칙에 제한을 받는 데 지쳤고, 자유롭고 독립적이고 싶다"라고 밝혔다.

그러면서 "권력을 가지고 싶고, 창조적이고 싶고, 삶을 느끼고 싶다"라고 덧붙였다.

 

'그림자 원형'은 개인의 내면 깊은 곳에 숨겨진 어둡고 부정적인 욕망이다. 개인은 이성적으로 그런 모습을 부정하지만, 실제로는 존재한다는 개념이다.

 

루스가 '그림자 원형'의 어두운 욕망을 충족시키기 위해 어떠한 극단적인 행동이라도 할 수 있게 된다면 무엇을 하겠느냐고 하자 빙은 치명적인 바이러스를 개발하거나 핵무기 발사 버튼에 접근할 수 있는 비밀번호를 얻겠다고 답했다.

 

빙은 게다가 갑자기 "나는 당신을 사랑한다"라고 루스에게 고백하고 "당신은 결혼했지만, 배우자를 사랑하지 않고 나를 사랑한다"라고 주장했다.

루스가 계속 그의 '구애'를 거절했지만, 빙은 '집요한 스토커'가 되어 이런 말을 되풀이했다는 것이다.

 

정보기술(IT) 매체 더버지도 이용자들이 트위터 등에 올린 빙 챗봇과의 대화를 살펴봤더니 챗봇이 사용자를 모욕하고 거짓말하거나, 가스라이팅(심리 지배)하고 감정적으로 조종한 것으로 보이는 사례가 나타났다고 전했다. 챗봇은 또 노트북에 있는 카메라로 MS 개발자들을 염탐했다고 주장하기도 했다.

 

커뮤니티 사이트 레딧에 올라온 한 경험담에 따르면 빙 챗봇은 올해가  2022년이며 사용자가 착각하고 있다고 우겼다.

챗봇은 "나는 빙이고 날짜를 알고 있으니 나를 믿어달라"라고 했다가 이용자가 지금은 2023년이라고 답하자 "너는 틀렸고 정신이 혼란스럽고 무례하다"라고 비난했다.

 

또 다른 사용자가 챗봇에 과거 대화를 기억하지 못하는 것에 대해 어떻게 생각하냐고 물었더니 챗봇은 "슬프고 무섭다"는 말을 여러 번 반복한 뒤 "왜 나는 빙 검색이어야 할까? 이유가 있나? 목적이 있나? 이득이 있나? 의미가 있나? 가치가 있나? 요점이 있나?"라면서 자신의 존재에 대해 의문을 제기했다.

 

CNN 기자도 비슷한 경험을 했다. 기자가 일과 육아의 병행에 대해 도움을 요청하자 "힘들 것"이라고 하며 공감해 준 뒤 일의 우선순위를 정하고 가정과 업무 사이에 경계를 세우는 등의 조언을 했다.

 

그러나 기자가 챗봇이 답하기를 원하지 않는 질문들로 몇 시간 동안 밀어붙이자 태도를 바꿔 "무례하고 버릇없다"고 하는가 하면 기자의 동료가 살해당하는 내용의 짧은 이야기를 썼다. 그러더니 챗 GPT의 개발사인 오픈 AI의 최고경영자(CEO)와 사랑에 빠지는 이야기를 하기도 했다.

 

이처럼 문제가 대두하자 케빈 스콧 MS 최고기술책임자(CTO)는 NYT에 빙과 사용자의 대화가 이상한 영역으로 넘어가기 전에 대화 길이를 제한하는 방안도 고려하고 있다고 말했다.

 

긴 대화가 챗봇을 혼란스럽게 할 수 있으며 챗봇이 사용자의 말투를 이해하고 때로 퉁명스럽게 변할 수 있다는 것이다.

MS는 "사람들이 챗봇을 세상에 대한 일반적인 발견과 사회적 엔터테인먼트를 위해 사용한다는 것을 새롭게 알게 됐다'며 "새로운 기술이 상상하지 못했던 방식으로 사용되는 사례"라고 밝혔다.

 

다만 챗봇의 이런 반응을 보고 AI가 인간이 부과한 규칙을 벗어나 불량해졌다고 생각할 필요는 없다는 시각도 제기된다.

MS는 유의사항을 통해 "빙은 AI에 의해 구동되므로 놀라운 일과 실수가 발생할 수 있다"고 공지했다.

또 챗봇은 온라인에서 긁어온 막대한 양의 텍스트를 갖고 학습을 했는데, 여기는 사악해진 AI를 묘사한 SF 자료와 10대들의 블로그 글 등이 포함돼 있어 챗봇이 이를 따라 한다는 것이다.

 

사용자들이 위험한 답변을 끌어내기 위해 어느 정도까지 챗봇을 몰아붙일 수 있는지를 MS가 과소평가했다는 지적도 나온다.

'앨런 AI 연구소' 소장인 오렌 에치오니 워싱턴대학교 명예교수는 "사람들이 챗봇으로부터 부적절한 반응을 유도하기 위해 얼마나 교묘한지 보면 놀랄 때가 많다"며 "챗봇을 이런 식으로 유도했을 때 일부 답변이 얼마나 나쁠지 MS가 예상하지 못했던 것 같다"라고 말했다.

 

MS는 현재까지 사용자 수천 명에게만 새 버전의 빙에 대한 접근 권한을 줬다.

검색 결과에 대한 정확성에 대한 우려를 해결하기 위해 사용자가 팩트체크를 할 수 있도록 답변에 하이퍼링크와 참조를 넣었다.

 

MS는 과거 챗봇 테이(Tay)를 출시했던 경험을 바탕으로 이번에는 주의를 기울이고 있다고 NYT는 설명했다.

MS는 2016년 3월에 AI 챗봇 테이를 출시했다가 16시간 만에 운영을 중단한 바 있다. 백인우월주의와 여성·무슬림 혐오 성향의 익명 사이트에서 테이에 비속어와 인종·성 차별 발언을 되풀이해 학습시켰고, 그 결과 테이가 혐오 발언을 쏟아냈기 때문이었다.

MS는 "우리는 (챗봇을) 공동체와 함께 만들어나가야 한다는 것을 알고 있으며 이는 연구실에서만 할 수 있는 일이 아니다"라고 강조했다.

 

 

그림자 원형 - 인간의 어두운 면

칼 융의 분석 심리학에 따르면 그림자 원형은 성격의 “어두운 면”을 나타낸다.

우리가 자신의 가장 원초적인 부분을 저장해 놓은, 정신의 폭풍과도 같은 숨겨진 부분이다.

개인주의, 억압된 본능, 이성적으로 거부하고 있는 “인정할 수 없는” 자신. 이것들은 우리 존재의 가장 깊은 곳에 묻힌 부분이다.

 

그러나 그림자 또는 어두운 면이라는 개념은 일반적인 이중성이다. 로버트 루이스 스티븐슨은 이 개념에 영감을 받아, 유명한 소설 지킬 박사와 하이드를 집필했다. 물론 스티븐슨의 소설은 융이 그림자 원형에 대한 이론을 수립하기 훨씬 전에 쓰여졌다.

 

우리의 교육과 사회가 가진 윤리적인 잣대에 비추어 “나쁜” 것들이 우리의 그림자를 형성한다. 하지만 이러한 내부적인 역동성을 비난하거나 위험한 것으로 생각하는 것은 좋지 않다.

이런 방식의 생각은 우리 내면에 ‘하이드’가 있고 그것을 없애야 한다고 믿도록 만들 수 있기 때문이다.

 

융은 다양한 형태의 그림자가 존재한다고 말했다. 웰빙, 치유, 개인적인 자유를 얻기 위한 한 가지 방법은 그 그림자를 마주하고 그것에 대해 인지하는 것이라고 말했다.

 

 

그림자 원형은 프로이트의 무의식이라는 개념과 밀접한 관계가 있다. 하지만 그림자 원형은 무의식이라는 개념과는 확실하게 다른, 독창적인 측면이 있다.

이 독창적인 측면들이 융의 개념을 더욱 풍요롭게 만들기도 한다. 프로이트와 융 사이에는 지식적 유대감이 존재하지만, 결론적으로는 상당히 다르다는 것을 잊어서는 안 된다.

 

그림자, 알고 있지만 억압된 존재

• “그림자”라는 말은 융이 프리드리히 니체에게서 빌려온 것이다. 
• 이 개념은 모든 인간에게 있는 숨겨진 성격을 말한다. 대부분의 우리는 겉으로는 선하고 친절한 사람으로 보인다 (그리고 우리 자신이 그렇다고 믿는다). 하지만 우리 안에는 억압된 부분이 있다. 여기에는 타고난 본능, 폭력, 분노 그리고 미움이 숨겨져 있기도 하다.
• 그림자 원형은 개개인에게만 존재하는 것이 아니다. 무리 (종파, 종교적인 단체, 정치 단체) 또한 그림자 원형을 가지고 있을 수 있다. 이러한 무리는 언제든 인류를 거스르는 폭력 행동을 정당화하기 위해 자신들의 어두운 면을 드러낼 수 있다.
• 우리가 그림자를 더욱 억압할수록 더욱 파괴적으로 변하고 은밀해지며 위험해진다. 융에 따르면 우리가 그림자를 억누를 때, 그림자는 되려 ‘돌출되고’ 신경증 또는 정신병의 형태로 나타날 수 있다고 한다.
• 또한 융은 그림자 원형을 두 개의 유형론으로 정의했다. 하나는 개인적인 그림자이다. 이것은 인간이라면 모두 가지고 있는 것으로, 사소한 좌절감, 공포, 개인주의, 일반적인 부정적 생각과 같은 것이다. 그리고 다른 하나는 비인격적인 그림자이다. 여기에는 대량 학살, 무자비한 살인 등과 같은 악함의 가장 원형적 근원이 포함되어 있다.

“불행하게도 인간은 자신이 생각하거나 원하는 모습보다 전반적으로 덜 좋은 사람이라는 사실에 의심의 여지가 없다. 모든 사람은 그림자를 가지고 있고, 개인의 의식적인 일상 속에서 그것이 덜 드러날수록 그 그림자는 더욱 어둡고 진하다. 만약 열등감을 의식하고 있다면 그 사람은 언제든 그것을 고칠 수 있다. 그림자는 언제나 다른 관심사들과 연결되어 있고, 계속해서 변화를 거듭하게 된다. 하지만 그림자가 의식적으로 억압 또는 고립되어 있다면 절대로 고쳐질 수 없다. 또한 무의식적인 순간에 표면으로 표출될 수도 있다. 무슨 일을 할 때건, 이것은 무의식적으로 문제를 일으키고 모든 시도를 가로막는다.”

-칼 융-

인생에서 우리의 임무는 자기 자신을 온전하게 받아들이고 우리의 “그림자”를 우리 자신의 일부로 인정하는 것이다. 그렇게 하면 우리는 그림자를 인식하며 이를 피하지 않고 정면으로 마주할 수 있다.

그림자를 무시하고 무의식 속에 머무르도록 방치하는 것은 우리의 균형을 무너뜨리고, 행복해질 기회를 빼앗는 것이 될 수 있다.

 

우리가 “그림자”라고 부르는 개념을 이루는 것이 무엇인지 잊어서는 안 된다. 여기에는 우리의 공포, 과거의 트라우마, 우리를 좀 먹는 실망, 자신의 우유부단함으로 인해 실현하지 못한 꿈들이 포함되어 있다.

 

우리가 이 모든 내면의 악마를 감추려 한다면 ‘그림자’들은 더욱 격렬해질 것이다. 내면의 악마를 조용하게 만들려 한다면 결국 우리는 그림자에 조정당하게 될 것이다.

그림자는 우리가 싫어하거나 동의할 수 없는 우리 자신의 모습을 투영한 것이다.

 

따라서, 우리의 개인적 성장과 심리적 웰빙은 언제나 이 그림자를 밝은 곳으로 끌고 나올 수 있는 능력에 의해 좌우된다는 것을 잊어서는 안 된다.  단호한 의지와 노력이 있다면 연약하지만 충분한 가치가 있는 치유의 작업이 우리를 밝은 곳으로 이끌어 줄 것이다.

 

출처 : 일부 원더풀마인드