고전적 조건형성은 종소리와 음식을 연결시킨 파블로프의 실험처럼 특정 자극이 주어지면 그에 부응하는 반응을 보이는 수동성에 기초한 학습방법이다. 반대로 조작적 조건형성은 능동성에 기초한 학습방법이다. 특정 행동이 긍정적인 결과를 낳으면 반복하는 법을 배우고, 그것이 우리에게 해를 끼치면 피하는 법을 배우는 것을 말한다. 좀 더 일반적 용어로 풀면 전자는 조건반사 학습, 후자는 시행착오 학습이라고 부를 수 있을 것이다.
우리의 뇌에서는 이 두 학습 시스템 사이에 줄다리기가 펼쳐지고 있으며, 제한된 시간에 둘 중 하나에만 의존할 수밖에 없다는 새로운 연구결과가 나왔다. 《사이언스 어드밴시스(Science Advances)》에 발표된 이스라엘 텔아비브대 연구진의 논문을 토대로 의학전문매체 메디컬 익스프레스가 최근 보도한 내용이다.
텔아비브대 의대 신경회로 및 후각 연구소의 모셰 파르나스 교수가 이끄는 연구진은 초파리를 대상으로 상반된 두 가지 기억·학습 방식이 충돌할 경우 초파리가 아무런 행동도 하지 못하게 된다는 것을 발견했다. 초파리에게 특정 냄새와 무작위 전기충격(고전적 조건형성)을 연관시키는 동시에 자신의 행동을 냄새 및 충격과 연관시키는 작동 조건형성 훈련을 시키자 초파리는 혼란에 빠져 충경에 대한 명확한 반응을 보이지 못했다.
연구진은 초파리에게 특정 냄새를 전기 충격과 연관시키는 방법을 가르쳤다. 고전적 조건형성이 적용될 경우 초파리는 특정 냄새를 맡으면 얼어붙는 법을 배웠다. 반면 조작적 조건화를 적용될 경우 초파리는 전기 충격을 피하기 위해 냄새를 피하는 법을 배웠다.
연구진은 파리가 두 가지 학습을 함께 배울 수 없으며, 두 가지 학습을 동시에 가르치려고 시도하면 학습이 전혀 이루어지지 않는다는 것을 보여줬다. 또한 한 가지 유형의 학습을 다른 유형보다 우선시하는 뇌 메커니즘을 밝혀냈다.
오랜 세월 과학자들은 고전적 조건형성과 조작적 조건형성이 뇌에서 함께 작용한다고 생각했다. 하지만 두 기억법이 상반된 행동을 지시하면 어떻게 될까? 예를 들어 생쥐는 두 가지 조건화 방법을 모두 사용해 특정 냄새를 두려워하도록 훈련할 수 있지만 기억방법에 따라 반응이 달라진다.
고전적 조건형성이 적용될 경우 생쥐는 제자리에서 얼어붙는다. 반면 조작적 조건형성이 적용될 경우엔 도망친다. 두 기억법이 동시에 존재하면 어떻게 될까? 쥐는 얼어붙을까, 도망칠까 아니면 아무 일도 없었던 것처럼 행동할까?
이런 의문을 갖고 진행된 이번 실험결과는 뇌가 고전적 조건화와 조작적 조건화를 동시에 사용하여 학습할 수 없다는 사실을 보여줬다. 두 가지 유형의 기억법이 동시에 작동하려 할 때 적극적으로 그 두 가지 유형 모두를 억제했다.
파르나스 교수는 “우리의 연구는 뇌가 학습하는 방식에 대해 수십 년 동안 우리가 생각해 온 방식을 완전히 바꿔 놓았다”라고 밝혔다. 그는 “뇌가 ‘정신적 줄다리기’를 한다고 생각할 수 있다”며 “행동을 통해 학습에 집중하면 뇌는 자동 연상이 형성되는 것을 차단한다”고 했다. “이는 혼란을 피하는 데 도움이 되지만 동시에 두 가지를 배울 수 없다는 의미이기도 하다”고 그는 설명했다.
파르나스 교수는 “초파리는 단순한 뇌를 가지고 있어 연구하기 쉽지만 초파리의 뇌는 포유류의 뇌와 놀랍도록 유사하며, 따라서 우리의 뇌와도 유사하다”며 “연구진은 강력한 유전 도구를 사용해 서로 다른 학습 시스템이 ‘뇌의 공간’을 놓고 어떻게 경쟁하는지 깊이 이해하게 됐다”고 말했다. 그는 “연구진은 뇌의 ‘내비게이션 센터’가 특정 순간에 한 가지 유형의 기억만 활성화되도록 개입해 두 시스템 간의 충돌을 방지한다는 사실을 발견했다”며 “이러한 발견은 멀티태스킹을 하면 중요한 세부 사항을 잊어버리는 이유를 이해하는 데 도움이 될 수 있다”고 설명했다.
논문의 주저자인 텔아비브대의 에얄 로젠펠드 박사과정 연구원(생리학 및 약리학)은 “우리 뇌가 혼란을 피하기 위해 서로 다른 학습 시스템 중 하나를 선택한다는 사실은 흥미로운 발견”이라고 지적했다. 그는 이 같은 발견이 “주의력결핍·과잉행동장애(ADHD)나 알츠하이머병과 같은 질환이 있는 사람들의 기억이 어떻게 형성되는지에 대한 이해와 치료법 발견에 도움을 줄 수 있을 것”이라고 했다.
해당 논문은 다음 링크(https://www.science.org/doi/10.1126/sciadv.adq3016)에서 확인할 수 있다.