인공지능은 의식을 갖게 될까요?
인공지능은 의식을 갖게 될까요?
  • 조송현 조송현
  • 승인 2017.12.14 21:10
  • 업데이트 2017.12.14 00:00
  • 댓글 0
이 기사를 공유합니다

인공지능은 의식을 갖게 될까요?

이론물리학자 로저 펜로즈가 마음의 본질을 탐구한 '마음의 그림자'(승산) 표지. 펜로즈 주장의 핵심은 인간의 마음은 아무리 진보된 컴퓨터로도 결코 시뮬레이션할 수 없다는 것이다.

최근 우리사회에 인공지능(AI)이 화두로 부상한 가운데 인공지능과 의식의 문제를 다룬 전문가의 칼럼이 관심을 끌고 있다. 필자는 인공지능과 신경네트워크, 사이버 보안 분야 전문가인 미국 오클라호마주립대학 전자·컴퓨터공학과 슈브하쉬 카크(Subhash Kak) 교수이다.

기계는 인간처럼 의식을 가질 수 있을까? 카크 교수는 이에 대해 과학자들 간에 엇갈린 답이 나온다면서 이것은 한편으로는 기술의 문제이고 다른 한편으로는 ‘의식이란 무엇인가’와 연관되어 있다고 설명했다.

카크 교수가 소개하는 의식의 양자론적 관점도 흥미롭다. 마음과 물질이 어떻게 상호작용하는가에 대한 답을 양자론에서 찾을 수 있다는 것이다.

양자론의 표준해석인 코펜하겐 해석에 따르면, 관찰자의 의식은 물리적 실체에 영향을 미친다. 즉 의식과 물리적 실체는 상호보완적이다. 여기서 의식은 물리법칙으로 유도되지 않고 원래 주어진 것이다. 코펜하겐 해석에 따른 이 같은 의식은 넓은 의미의 의식이라는 뜻으로 ‘빅C'라고 불린다고 카크 교수는 소개했다.

이에 비해 좁은 의미의 의식, 즉 '리틀C'은 코펜하겐 해석의 대안 해석과 일맥상통한다. 이를테면 다세계 해석이 이에 속한다.

카크 교수는 현대 양자물리학의 의식에 대한 견해가 고대 철학과 유사하다고 설명했다. 빅C는 의식은 실재의 토대이며, 물리적 우주와 동등하다는 인도 베단타 철학의 마음이론과 비슷하고, 리틀C는 의식은 공허함이나 무無에서 생겨난다는 불교철학과 맥을 같이 한다는 것이다.

다음은 지난 8일자 비영리 다국적 언론 The Conversation에 실린 카크 교수의 칼럼 원문과 번역이다.

슈브하쉬 카크 교수. 출처: 오클라호마대학 전자컴퓨터공학과 홈페이지

Will Artificial Intelligence Become Conscious? 인공지능은 의식을 갖게 될까요?

Forget about today’s modest incremental advances in artificial intelligence, such as the increasing abilities of cars to drive themselves. Waiting in the wings might be a groundbreaking development: a machine that is aware of itself and its surroundings, and that could take in and process massive amounts of data in real time. It could be sent on dangerous missions, into space or combat. In addition to driving people around, it might be able to cook, clean, do laundry – and even keep humans company when other people aren’t nearby.

오늘날 인공 지능의 점진적인 발전, 이를테면 자율주행 자동차의 능력향상 등에 대해 잊어버리십시오. 획기적인 발전이 기다리고 있을지 모르니까요. 즉, 그 자신과 주변을 인식하고, 방대한 양의 데이터를 실시간으로 받아들여 처리할 수 있는 기계 같은 것 말입니다. 그런 기계는 우주나 전투 같은 위험한 임무에 투입될 수 있을 것입니다. 그런가 하면 그런 기계는 사람들을 태우고 돌아다니는 일 외에도 요리, 청소, 세탁을 할 수도 있고 심지어 외로운 사람들의 친구가 되어줄 수도 있습니다.

A particularly advanced set of machines could replace humans at literally all jobs. That would save humanity from workaday drudgery, but it would also shake many societal foundations. A life of no work and only play may turn out to be a dystopia.

특별히 진보된 기계 세트는 그야말로 모든 일에서 인간을 대체 할 수 있을 것입니다. 그것은 인류를 단조롭고 힘든 일로부터 구할 것이지만, 많은 사회 기반을 흔들 것입니다. 일하지 않고 놀기만 하는 삶은 디스토피아로 판가름될지 모릅니다.

Conscious machines would also raise troubling legal and ethical problems. Would a conscious machine be a “person” under law and be liable if its actions hurt someone, or if something goes wrong? To think of a more frightening scenario, might these machines rebel against humans and wish to eliminate us altogether? If yes, they represent the culmination of evolution.

의식하는 기계는 또한 법적인 문제와 윤리적 문제를 제기할 것입니다. 의식하는 기계가 법에 의해 ‘사람’이 될 수 있을까요? 또 의식하는 기계가 사람을 해치거나 뭔가 잘못될 경우 책임을 지게 될까요? 더 무서운 시나리오를 생각해 보면, 이들 기계가 인간에 반항하고 우리 모두를 없애려고 할까요? 만약 그렇다면 그들은 진화의 절정을 나타냅니다.

As a professor of electrical engineering and computer science who works in machine learning and quantum theory, I can say that researchers are divided on whether these sorts of hyperaware machines will ever exist. There’s also debate about whether machines could or should be called “conscious” in the way we think of humans, and even some animals, as conscious. Some of the questions have to do with technology; others have to do with what consciousness actually is.

기계 학습과 양자 이론 분야에서 일하는 전자공학 및 컴퓨터 과학 교수로서, 저는 이러한 종류의 하이퍼웨어 머신이 탄생할 것인지에 대해 연구자들은 나뉘어진다고 말할 수 있습니다. 또한 우리가 인간과 심지어 일부 동물들이 의식이 있다고 생각하는 방식으로 기계가 ‘의식이 있는’이라고 불릴 수 있고 불릴지 여부에 대해서도 논란이 있습니다. 그런 의문들은 한편으로는 기술과 관련되어 있고(기술의 문제이고), 또다른 한편으로는 실제로 의식이란 무엇이냐는 것과 관련이 있습니다.

Most computer scientists think that consciousness is a characteristic that will emerge as technology develops. Some believe that consciousness involves accepting new information, storing and retrieving old information and cognitive processing of it all into perceptions and actions. If that’s right, then one day machines will indeed be the ultimate consciousness. They’ll be able to gather more information than a human, store more than many libraries, access vast databases in milliseconds and compute all of it into decisions more complex, and yet more logical, than any person ever could.

대부분의 컴퓨터 과학자들은 의식이란 기술이 발전함에 따라 나타날 어떤 특성이라고 생각합니다. 일부 과학자들은 의식은 새로운 정보의 수용, 오래된 정보의 저장과 회수, 지각과 행동을 처리하는 인지 과정을 수반한다고 믿습니다. 그것이 맞다면 (기술의 발전에 따라) 머신은 언젠가는 궁극의 의식(의식을 가진 존재)이 정말로 될 것입니다. 그들은 인간보다 더 많은 정보를 수집할 수 있고, 도서관보다 더 많이 저장하고, 방대한 데이터베이스를 밀리 초 단위로 액세스하고, 그 어떤 인간이 해낸 것보다 더 복잡하면서도 논리적인 결정에 이르도록 계산해낼 수 있을 것입니다.

On the other hand, there are physicists and philosophers who say there’s something more about human behavior that cannot be computed by a machine. Creativity, for example, and the sense of freedom people possess don’t appear to come from logic or calculations.

다른 한편으로는, 인간의 행동에는 머신에 의해 계산될 수 없는 뭔가가 있다고 주장하는 물리학자와 철학자들도 있습니다. 예를 들어 창조성과 인간이 가진 자유의 감각은 논리나 계산으로부터 생겨나지 않습니다.

Yet these are not the only views of what consciousness is, or whether machines could ever achieve it.

아직 이것들은 의식이 무엇인지, 혹은 머신이 의식을 획득할 수 있을지 여부에 대한 유일한 관점은 아닙니다.

Quantum views 양자론적 관점

Another viewpoint on consciousness comes from quantum theory, which is the deepest theory of physics. According to the orthodox Copenhagen Interpretation, consciousness and the physical world are complementary aspects of the same reality. When a person observes, or experiments on, some aspect of the physical world, that person’s conscious interaction causes discernible change. Since it takes consciousness as a given and no attempt is made to derive it from physics, the Copenhagen Interpretation may be called the “big-C” view of consciousness, where it is a thing that exists by itself – although it requires brains to become real. This view was popular with the pioneers of quantum theory such as Niels Bohr, Werner Heisenberg and Erwin Schrödinger.

의식에 대한 또 다른 관점은 가장 심오한 물리학 이론인 양자론에서 비롯됩니다. 정통 코펜하겐 해석에 따르면, 의식과 물리적 세계는 동일한 실체의 상호보완적인 측면입니다. 인간이 물리적 세계의 어떤 면을 관찰하거나 실험을 시행할 때면, 그 인간의 의식적 상호작용은 식별이 가능할 정도의 변화를 일으킵니다. 의식을 주어진 것으로 수용하고, 물리학(법칙)으로부터 그것을 유도해내려는 시도가 없기 때문에 코펜하겐 해석은 의식에 관해 ‘빅C(넓은 의미의 의식)’ 관점으로 불립니다. 즉 이 관점의 의식은, 비록 의식이 실체로 드러나려면 두뇌가 필요하지만, 그 자체로 존재하는 어떤 것입니다. 이 견해는 닐스 보어, 베르너 하이젠베르크, 에르빈 슈뢰딩거 같은 양자론의 개척자들에게 인기가 있었습니다.

The interaction between consciousness and matter leads to paradoxes that remain unresolved after 80 years of debate. A well-known example of this is the paradox of Schrödinger’s cat, in which a cat is placed in a situation that results in it being equally likely to survive or die – and the act of observation itself is what makes the outcome certain.

의식과 물질 사이의 상호작용은 80년의 논쟁 후에도 해결되지 않은 채 남아 있는 역설들에 이릅니다. 잘 알려진 한 예가 ‘슈뢰딩거의 고양이’의 역설입니다. 여기서는 고양이는 살아 있으면서 똑같은 확률로 죽어 있는 상태인 상황에 놓여 있습니다. 그리고 관찰이라는 행위 자체가 결과를 확실하게 만듭니다.

The opposing view is that consciousness emerges from biology, just as biology itself emerges from chemistry which, in turn, emerges from physics. We call this less expansive concept of consciousness “little-C.” It agrees with the neuroscientists’ view that the processes of the mind are identical to states and processes of the brain. It also agrees with a more recent interpretation of quantum theory motivated by an attempt to rid it of paradoxes, the Many Worlds Interpretation, in which observers are a part of the mathematics of physics.

코펜하겐 해석과 반대되는 관점의 의식은 생물학에서 생겨난다는 것입니다. 마치 생물학 자체가 물리학에서 유래된 화학에서 나온 것처럼 말입니다. 우리는 이처럼 덜 포괄적인 의식의 개념을 ‘리틀C(좁은 의미의 의식)’라고 부릅니다. 이것은 마음의 과정이 두뇌의 상태 및 과정과 동일하다는 신경과학자들의 견해와 일맥상통합니다. 이것은 또한 보다 최근의 양자론 해석인 다세계 해석과 동일합니다. 이 해석은 코펜하겐 해석의 역설을 제거하기 위한 시도에서 만들어졌는데, 여기서는 관찰자가 물리수학의 한 부분이 됩니다.

Philosophers of science believe that these modern quantum physics views of consciousness have parallels in ancient philosophy. Big-C is like the theory of mind in Vedanta – in which consciousness is the fundamental basis of reality, on par with the physical universe.

과학철학자들은 이러한 현대 양자 물리학의 의식에 대한 견해가 고대 철학과 유사하다고 믿습니다. 빅C 관점의 의식은 실재의 토대이며, 물리적 우주와 동등하다는 인도 베단타 철학의 마음 이론과 같습니다.

Little-C, in contrast, is quite similar to Buddhism. Although the Buddha chose not to address the question of the nature of consciousness, his followers declared that mind and consciousness arise out of emptiness or nothingness.

이에 반해 리틀C 관점의 의식은 불교와 매우 유사합니다. 붓다는 의식의 본질에 대한 질문에 대답하지 않았지만, 붓다의 제자들은 마음과 의식은 공허함이나 무(無)에서 생겨난다고 선언했습니다.

Big-C and scientific discovery 빅C와 과학적 발견

Scientists are also exploring whether consciousness is always a computational process. Some scholars have argued that the creative moment is not at the end of a deliberate computation. For instance, dreams or visions are supposed to have inspired Elias Howe‘s 1845 design of the modern sewing machine, and August Kekulé’s discovery of the structure of benzene in 1862.

과학자들은 의식이 항상 계산 과정인지 여부도 탐구하고 있습니다. 일부 학자들은 창조적인 순간은 의도적인 계산 끝에 오는 것만은 아니라고 주장해왔습니다. 예를 들어, 꿈이나 비전이 Elias Howe의 1845년 현대 재봉틀 디자인과 August Kekulé의 1862년 벤젠 구조 발견에 영감을 준 것으로 여겨집니다.

A dramatic piece of evidence in favor of big-C consciousness existing all on its own is the life of self-taught Indian mathematician Srinivasa Ramanujan, who died in 1920 at the age of 32. His notebook, which was lost and forgotten for about 50 years and published only in 1988, contains several thousand formulas, without proof in different areas of mathematics, that were well ahead of their time. Furthermore, the methods by which he found the formulas remain elusive. He himself claimed that they were revealed to him by a goddess while he was asleep.

그 자체로 존재하는 빅C 관점의 의식을 지지하는 극적인 증거는 1920년 32세의 나이로 사망한 독학 수학자 스리니바사 라마누잔(Srinivasa Ramanujan)의 삶입니다. 그의 노트는 50년가량 잊혀졌다가 1988년에 출판되었는데, 수천 개의 공식을 담고 있습니다. 다른 분야의 수학에 대한 증명이 없는 이들 공식은 시대를 앞섰습니다. 더욱이 라마누잔이 이들 공식을 발견한 방법은 숨겨져 있습니다. 그는 잠을 자는 동안 여신에 의해 공식들이 그에게 드러났다고 주장했다.

The concept of big-C consciousness raises the questions of how it is related to matter, and how matter and mind mutually influence each other. Consciousness alone cannot make physical changes to the world, but perhaps it can change the probabilities in the evolution of quantum processes. The act of observation can freeze and even influence atoms’ movements, as Cornell physicists proved in 2015. This may very well be an explanation of how matter and mind interact.

빅C 관점의 의식의 개념은 그것이 물질과 어떻게 연관되어 있는가, 물질과 마음은 어떻게 서로 영향을 미치는가에 대한 질문을 제기합니다. 의식만으로는 세계를 물리적으로 변화시킬 수는 없지만 아마도 양자 과정의 진화에 있어서의 확률을 바꿀 수 있을 것입니다. 관측의 행위는, 코넬대학 물리학자들이 2015년에 증명했듯이, 얼음을 얼게 할 수 있고 원자의 움직임에도 영향을 미칠 수 있습니다. 이것은 물질과 마음이 어떻게 상호 작용하는지에 대한 설명이 될 수 있습니다.

Mind and self-organizing systems 마음과 자기조직화 시스템

It is possible that the phenomenon of consciousness requires a self-organizing system, like the brain’s physical structure. If so, then current machines will come up short.

의식의 현상은 뇌의 물리적 구조와 같은 자기조직화 시스템을 요구할 가능성이 있습니다. 그렇다면 현재 기계는 여기에 미치지 못할 것입니다.

Scholars don’t know if adaptive self-organizing machines can be designed to be as sophisticated as the human brain; we lack a mathematical theory of computation for systems like that. Perhaps it’s true that only biological machines can be sufficiently creative and flexible. But then that suggests people should – or soon will – start working on engineering new biological structures that are, or could become, conscious.

학자들은 적응형 자기조직화 기계가 인간의 뇌만큼 정교하도록 설계될 수 있는지 알지 못합니다. 우리는 그런 시스템을 위한 수학계산 이론이 부족합니다. 아마도 생물학적 기계만이 충분히 창조적이고 유연한 것이 될 수 있다는 것은 사실입니다. 그러나 그러면 그것은 사람들이 의식을 가지고 있거나 의식을 가질 수 있는 새로운 생물학적 구조를 만드는 공학적 작업을 시작해야 해거나 혹은 곧 하게 될 것이라는 사실을 시사합니다.




댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
0 / 400
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.