‘돈 벌면 보상, 잃으면 불이익’ 초파리 뇌에 코인 가르쳤더니…‘가만히 있기’만 배웠다 [초파리 트레이더]

입력 2026-10-04 11:10:00 수정 2026-10-03 19:01:11

초파리 트레이더 (2) 초파리 뇌가 하는 매매에 ‘도파민’ 주입해보니

초파리 뇌 전체의 배선도가 공개되면서 PC 안에 ‘가상 초파리’를 만들어 보는 시도가 해외에서 잇따르고 있다. 가상 초파리에게 게임시키거나 각종 시뮬레이션을 돌려 보는 것이 일종의 유행처럼 번졌다. 헤럴드경제는 기자가 공개된 초파리 뇌를 바탕으로 직접 코인 매매를 맡겨 본 기록을 차례로 싣는다. 매매는 모두 모의 거래로 진행했으며, 특정 투자를 권유하려는 목적이 아님을 밝혀 둔다. [편집자 주]

[헤럴드경제=장윤우 기자] 주식이든 코인이든 자주 사고팔수록 손해라는 말은 국내 연구로도 확인된다. 자본시장연구원이 2021년 국내 4개 대형 증권사 개인투자자 20만4004명의 2020년 3~10월 주식 거래내역을 분석한 결과, 거래회전율이 높고 하루 안에 사고파는 거래와 종목 교체가 잦을수록 시장 대비 수익률이 낮았다.

투자자산 1000만원 이하 소액투자자는 하루 거래회전율이 29.7%에 달했고, 수익률은 거래 비용을 빼기 전 -2.5%에서 뺀 뒤 -13.3%로 낮아졌다. 20대 이하 투자자는 잦은 거래 탓에 수익률 8.1%에 해당하는 거래 비용을 치렀다.

초파리 뇌는 사람들과는 전혀 다른 결과를 냈다. 컴퓨터 속 초파리 뇌에 비트코인 매매로 번 돈과 잃은 돈을 보상과 불이익으로 돌려주는 방식으로 가르치자, 초파리 뇌는 돈을 더 버는 쪽이 아니라 거래를 줄이는 쪽으로 바뀌었다.

초파리 뇌의 학습·기억 중추인 버섯체. 케년 세포 5177개(주황), 도파민 세포 331개(보라), 출력 세포 96개(빨강)를 실제 뇌 배선도 좌표로 그렸다.

같은 조건에서 66회였던 매매는 학습 뒤 8회로 줄었다. 손실은 줄었지만, 비트코인을 들고만 있었을 때의 수익에는 한참 못 미쳤다.

지난번 사용한 초파리 뇌는 가격 차이만 보고 사고판 한 줄짜리 단순 규칙에 수익률이 뒤처졌다. 단순 규칙이 7.86%를 버는 동안 초파리 뇌는 -16.42% 손실을 냈다.

당시 초파리 뇌는 가격 차이에 따라 매수나 매도를 해야 할지 정해진 표에 따라 움직이는 기계 수준이었다. 어떤 신호가 돈이 되는지 초파리 뇌가 스스로 배워 개선해 나가지는 못했다.

초파리도 학습이 가능하다

초파리가 어떤 냄새가 위험 신호인지 배운다는 사실은 50여 년 전 실험으로 드러났다. 미국 캘리포니아공대 시모어 벤저 교수 연구실의 윌리엄 퀸과 윌리엄 해리스는 1974년 초파리에게 특정 냄새를 맡게 하는 동안 전기 충격을 주는 실험 결과를 발표했다.

연구진은 초파리 무리에게 두 가지 냄새를 번갈아 맡게 하고, 그중 한 냄새를 맡을 때만 전기 충격을 줬다. 이후 두 냄새 가운데 하나를 고르게 하자 초파리들은 전기 충격과 함께 맡았던 냄새를 골라 피했다.

현재 많은 연구실이 쓰는 표준 실험법은 1985년 퀸 연구실의 팀 툴리가 고안한 방식이다. 먼저 초파리 약 100마리를 통 안에 넣고 1분 동안 첫 번째 냄새를 흘려보낸다. 그동안 바닥에 깔린 전선으로 전기 충격을 12번 준다. 이어 두 번째 냄새는 충격 없이 맡게 한다.

훈련을 마친 초파리들을 ‘T’자 모양 갈림길 가운데에 풀어 놓는다. 왼쪽 길에는 첫 번째 냄새를, 오른쪽 길에는 두 번째 냄새를 퍼뜨려 둔다. 초파리들이 어느 쪽 길로 더 많이 가는지 세면 학습 정도를 측정할 수 있다.

제대로 배운 초파리들은 충격과 함께 맡았던 첫 번째 냄새 쪽 길을 피해 두 번째 냄새 쪽으로 몰린다.

냄새 6가지에 각각 반응하는 케년 세포를 배선 연결 구조를 바탕으로 재구성한 그림.

이런 학습은 초파리 뇌 속 ‘버섯체’에서 일어난다. 버섯체는 초파리의 학습과 기억을 맡는 부위로 생김새가 버섯을 닮아 이런 이름이 붙었다.

초파리가 더듬이로 맡은 냄새 신호는 버섯체 안의 케년 세포로 전달된다. 케년 세포는 냄새마다 어떤 세포가 켜질지가 달라 일종의 ‘냄새 바코드’처럼 쓰인다.

이 바코드를 버섯체가 읽어 초파리 뇌의 다른 곳으로 전송하게 된다. 버섯체가 보낸 신호에 따라 초파리가 냄새 쪽으로 다가가거나 피하게 된다. 여기에 보상과 불이익을 알리는 도파민 세포가 더해지면 냄새에 따른 행동을 기억하게 된다.

매매 결과를 초파리 뇌에 돌려주는 방식. 냄새 감지 세포→케년 세포→출력 세포→매매→손익→도파민 세포→연결 세기 변경 순으로 돈다.

초파리에게 코인을 가르쳐보니

PC 속에 구현된 가상 뇌의 버섯체에는 도파민 세포 331개가 연결돼 있다. 이 도파민 세포들을 매매 결과와 연결했다.

초파리 뇌가 비트코인을 샀다가 판 순간 이익이 났으면 보상을 알리는 도파민을 보냈고, 손실이 났으면 불이익을 알리는 도파민을 흘려보냈다. 매매를 거듭할수록 수익이 났던 냄새에는 다가가고, 손해 봤던 냄새는 피하도록 가르친 셈이다.

이어 초파리 뇌가 맡는 냄새도 늘렸다. 가격 변동 폭과 거래량 등을 더해 시장 상황을 6가지 냄새로 나눠 넣었다.

냄새를 늘리자 시장 상황에 따라 케년 세포가 켜지는 바코드도 갈렸다. 비슷한 시장 상황끼리는 켜진 세포가 서로 28% 겹쳤지만, 다른 상황끼리는 10%만 겹쳤다. 초파리 뇌가 시장 상황을 서로 구별해 기록하는 데까지는 문제가 없었다는 뜻이다.

보상보다 불이익 피하려고 거래를 안 해

첫 학습 실험은 2025년 7월 1일부터 9월 22일까지의 비트코인 15분봉 자료로 했다. 학습하지 않는 초파리 뇌와 학습하는 초파리 뇌를 같은 조건에서 나란히 돌렸다.

학습하지 않는 초파리는 이 기간 66번(매수와 매도를 합친 횟수) 거래했고 5.37% 손실을 냈다. 학습하는 초파리는 8번만 거래했고 손실은 1.13%로 줄었다. 반면 같은 기간 비트코인을 사서 들고만 있었다면 9.49%를 벌었다.

손실이 줄어든 건 판단이 좋아져서가 아니었다. 학습하는 초파리 뇌가 받은 매매 신호는 4번이었고, 그 가운데 이익은 1번, 손실은 3번이었다.

거래 횟수는 8분의 1로 줄었다. 초파리 뇌의 매수 결정이 원래부터 ‘살까 말까’의 경계선 바로 위에 걸쳐 있었던 탓이다. 매수 신호 조금만 약해도 경계선 아래로 내려가 ‘아무것도 안 하기’로 바뀌었다.

학습 방식을 바꿔 다시 돌려도 결과는 같았다. 냄새를 6가지로 늘리고, 학습 속도를 바꾸고, 판단 사이에 직전 상태를 남겨 두는 등 설정을 달리한 7가지 실험 모두에서 학습한 초파리 뇌는 학습하지 않은 쪽보다 적게 거래했다.

어느 실험에서도 그냥 들고 있기, 무작위 매매 상위 5%, 한 줄 규칙의 수익률을 한꺼번에 넘지는 못했다.

비트코인을 시장가로 한 번 사고팔면 수수료와 호가 차이를 합쳐 거래 금액의 0.116%가 빠져나간다. 반면 15분 뒤 가격이 오를지 내릴지 미리 맞혀서 벌 수 있는 돈은 이 비용의 10분의 1 수준에 그쳤다.

초파리 뇌가 학습 끝에 얻은 답은 ‘덜 거래하기’였다. 손해 본 냄새만 골라 피한 것이 아니라, 몇 번의 손실 뒤 웬만한 냄새에는 다가가지 않게 된 것이다.

다만 가상 뇌의 도파민 학습은 실제 초파리 연구를 참고해 단순화한 것이라 실제 초파리가 같은 방식으로 배운다고 보기는 어렵다. 첫 실험에서 학습이 일어난 횟수도 4번뿐이어서 통계적으로 의미 있는 결과라고 하기도 어렵다.

실시간 시세로 돌린 모의투자에서는 학습이 아예 일어나지 않았다. 지난달 22일부터 사흘 동안 초파리 뇌는 272번 판단해 한 번 샀지만 한 번도 팔지 못했다. 팔지 못하니 손익이 나지 않았고 보상도 학습도 없었다.

한편 초파리 뇌가 학습 끝에 거래를 멈춘 이유가 초파리 뇌의 한계인지, 15분 단위 비트코인 시장에 애초에 먹을 것이 없어서인지는 아직 가려지지 않았다.

이어진 실험에서는 초파리 뇌를 빼고 사람과 AI가 만든 매매 전략으로 같은 시장에 뛰어들었다.

공개된 초파리 뇌로 ‘가상 초파리’를 만들어 직접 코인 매매를 맡겨 본 기록을 4주간 토·일요일 연재합니다.

초파리 트레이더

‘초파리한테 코인 맡겼더니’ 13만 뇌세포 ‘풀가동’했지만…성적표는 ‘참패’ [초파리 트레이더]

[헤럴드경제=장윤우 기자] 증권가에는 눈을 가린 원숭이가 다트를 던져 고른 종목이 전문가 못지않은 성적을 낸다는 오래된 농담이 있다. 시장을 맞히는 일이 그만큼 어렵

https://biz.heraldcorp.com/article/10887955

dbsdn1110@heraldcorp.com