인공 지능 시스템에 의식을 부여하는 것은 많은 기술자들의 꿈이다. 대규모 언어 모델은 영리한 기계에 대한 탐구의 최신 사례이며, 일부 사람들은 기계와의 대화에서 희미하나마 의식을 보았다고 주장하고 있다. 기계의 의식은 뜨거운 논쟁거리라는 것이다. 많은 전문가들은 기계 의식이 영원히 공상 과학 소설에 머물 운명이라고 말하지만, 다른 전문가들은 머지않은 미래에 실현될 것이라고 주장한다. MIT Technology Review에서는 신경과학자 Grace Huckins 는 인간의 의식 연구를 통해 AI에 대해 배울 수 있는 점과 AI 의식이 제기할 수 있는 도덕적 문제에 대해 살피고 있다. 펴봅니다. 여기에서 자세히 읽어보세요.
Grace는 인간의 의식을 완전히 이해하지는 못하지만 신경과학자들은 의식이 뇌에서 어떻게 나타나는지에 대한 몇 가지 단서를 가지고 있다고 말하고 있다. 분명하게 말하자면, AI 시스템에는 뇌가 없기 때문에 뇌 활동을 측정하는 전통적인 방법으로 생명의 징후를 파악하는 것은 불가능하다. 그러나 신경과학자들은 AI 시스템의 의식이 어떤 모습일지에 대해 다양한 이론을 가지고 있다. 일부는 의식을 뇌의 ‘소프트웨어’의 기능으로 간주하는 반면, 다른 일부는 의식을 물리적 하드웨어와 더 밀접하게 연관짓기도 한다. 심지어 AI 의식에 대한 테스트를 만들려는 시도도 있었다. 플로리다 애틀랜틱 대학교의 Center for the Future Mind 소장인 Susan Schneider와 프린스턴 대학교의 물리학자 Edwin Turner는 AI 에이전트를 테스트하기 전에 훈련 중에 포착할 수 있는 의식에 대한 정보를 격리하는 테스트를 개발하였다. 이는 대규모 언어 모델처럼 훈련 중에 습득한 의식에 대한 인간아 말하는 것을 앵무새처럼 따라하는 것과 구분할 수 있기 위하여 중요한 단계이다. 그런 다음 AI가 스스로 의식이 있을 때만 대답할 수 있는 질문을 던진다. 엄마와 딸이 몸이 바뀌고 의식이 육체적 자아에서 분리되는 영화 Freaky Friday’의 줄거리를 이해할 수 있을까? 꿈의 개념을 이해하거나 심지어 꿈을 꾸는 것 자체를 보고할 수 있을까? 환생이나 사후 세계를 생각할 수 있을까?
물론 이 테스트가 완벽한 것은 아니다. 피험자가 언어를 사용할 수 있어야 하므로 의식이 있는 존재인 아기와 동물은 이 테스트를 통과하지 못한다. 그리고 언어 기반 AI 모델은 방대한 양의 인터넷 데이터에서 의식이라는 개념에 노출되어 학습을 받았을 것이다. 그렇다면 AI 시스템이 의식이 있는지 어떻게 알 수 있을까? 튜링상 수상자인 Yoshua Bengio를 비롯한 신경과학자, 철학자, AI 연구자 그룹이 여러 분야의 다양한 이론을 바탕으로 AI 의식을 감지하는 실용적인 방법을 제안하는 white paper를 발표했다. 이들은 유연한 목표 추구, 외부 환경과의 상호작용 등 다양한 지표에 대한 일종의 성적표를 제안하며, 이러한 이론이 사실이라면 AI 의식을 나타내는 지표가 될 수 있다고 말하고 다. 오늘날의 어떤 시스템도 어떠한 항목을 통과하지 못하였으며, 앞으로도 그럴 수 있을지는 불투명하다.
우리가 아는 것은 다음과 같다. 대규모 언어 모델은 문장의 다음 단어가 무엇일지 예측하는 데 매우 능숙하다. 또한 사물과 사물을 연결하는 데도 매우 능숙하며, 때로는 우리를 놀라게 하는 방식으로 컴퓨터 프로그램이 다른 무언가를 가지고 있을지도 모른다는 환상을 갖게 한다. 하지만 우리는 AI 언어 모델의 내부 작동 방식에 대해 우리가 아는 것이 매우 적다는 사실이다. 이러한 시스템이 어떻게 그리고 왜 그런 결론에 도달하는지에 대해 정확히 알기 전까지는 모델의 결과가 단순히 멋진 수학이 아니라고 말하기는 어렵다.