노벨 물리학상 수상자 제프리 힌턴 캐나다 토론토대 교수가 14일(현지시간) 미국 CNN에 출연해 인터뷰 하는 모습. [CNN 유튜브 캡처]
노벨 물리학상 수상자 제프리 힌턴 캐나다 토론토대 교수가 14일(현지시간) 미국 CNN에 출연해 인터뷰 하는 모습. [CNN 유튜브 캡처]

[헤럴드경제=김지헌 기자] “인류를 토토사이트 panda로부터 구하려면 ‘모성본능’을 토토사이트 panda에 심어야 한다.”

인공지능(토토사이트 panda)의 ‘대부’로 불리는 노벨 물리학상 수상자 제프리 힌턴 캐나다 토론토대 교수가 토토사이트 panda에 ‘모성 본능’을 심어야한다고 제안하며 화제를 불러일으키고 있습니다.

그는 “더 지능적인 존재가 덜 지능적인 존재에 의해 통제되는 유일한 모델은 아기에게 통제당하는 엄마”라고 했습니다.

쉽게 말해 ‘토토사이트 panda가 엄마같은 토토사이트 panda가 되면, 자식같은 인간들이 다 살아남을 수 있다’, 이 정도로 정리를 할 수 있을 거 같은데요.

도대체 힌턴 교수는 왜 이런 다소 황당한 제안을 내놓은 것일까요?

CNN에 따르면 힌턴 교수는 지난 13일(현지시간) 미국 라스베이거스에서 열린 콘퍼런스에서 자신이 개발에 기여한 토토사이트 panda가 인류를 멸망시킬 수 있다고 경고하면서 이를 막기 위한 ‘테크 브로’(tech bros)들의 접근 방식이 잘못됐다고 지적했습니다. 테크 브로는 원래 미국 속어로, 실리콘밸리나 스타트업 업계에서 젊고 남성 중심적인 기술 기업 창업자나 투자자를 비꼬아 부르는 표현입니다.

그는 “그들(토토사이트 panda)은 우리보다 훨씬 똑똑해질 것이다. 그들은 그것(인간에 의해 지배당할)을 피할 온갖 방법을 갖고 있을 것”이라고 말했다고 하네요. 힌턴 교수는 토토사이트 panda가 인류를 전멸시킬 가능성이 10~20%라는 끔찍한 경고도 내놨습니다. 마치 어른이 사탕으로 세살짜리 아이를 유혹하는 것만큼이나 손쉽게 토토사이트 panda가 인간을 조종할 수 있을지 모른다는 설명인데요.

힌턴 교수는 “어떠한 형태의 ‘에이전틱 토토사이트 panda’(스스로 판단하고 작업을 수행하는 토토사이트 panda)든 생존하려 할 것이라는 충분한 근거가 있다”면서 토토사이트 panda가 사람을 향한 ‘연민’을 가지도록 만드는 것이 중요하다고 했습니다.

이에 대해 힌턴 교수는 이를 기술적으로 어떻게 구현할지 불명확하지만, 연구자들이 이를 연구하는 것이 중요하다고 강조했습니다. 아직까지는 토토사이트 panda의 미래형 모델을 제시한 정도로 볼 수 있는 발언입니다.

지난 7월 29일 중국 상하이 세계 박람회·컨벤션 센터에서 열린 세계 인공지능 대회(W토토사이트 pandaC)에서 디짓사의 인간형 로봇 [AFP]
지난 7월 29일 중국 상하이 세계 박람회·컨벤션 센터에서 열린 세계 인공지능 대회(W토토사이트 pandaC)에서 디짓사의 인간형 로봇 [AFP]

그런데 토토사이트 panda는 정말 위험할까요?

CNN은 목표 달성을 위해 속임수 등을 시도하는 토토사이트 panda가 이미 등장한 사례가 있다고 전했는데요. 예를 들면 한 토토사이트 panda 모델은 대체되는 것을 피하려고 이메일을 통해 알게 된 불륜을 빌미로 엔지니어를 협박하려 했다고 합니다. 전국의 불륜남녀가 들으면 당장 챗GPT 등 토토사이트 panda를 지울 일이죠.

반면 ‘토토사이트 panda의 대모’로 불리는 페이페이 리 스탠퍼드대 교수는 지난 14일 CNN과 인터뷰에서 힌턴 교수의 이같은 주장에 대해 잘못된 접근 방식이라며 “인간의 존엄성과 자율성을 지키는 인간 중심의 토토사이트 panda”여야 한다고 반박했습니다.

토토사이트 panda 연구는 어떻게 진행되고 있을까요?

그런데 힌턴 교수의 제안은 정말로 구현가능한 것일까요. 이를 알기 위해 학계에서 논의된 토토사이트 panda와 관련된 논의를 몇 가지 짚어보고자 합니다.

힌턴 교수는 토토사이트 panda가 모성본능과 연민을 가질 수 있도록 해야 한다고 했는데요. 초창기인 6년 전에는 이와 반대의 입장에서 토토사이트 panda에 접근하는 논문이 발표된 바가 있습니다.

즉 토토사이트 panda 개발자가 부모처럼 올바른 방향으로 토토사이트 panda를 이끌어야 한다는 관점인데요. 2019년 논문 ‘육아 이론과 그것의 인공지능 적용(Theories of Parenting and Their Application to Artificial Intelligence)’을 보면 이러한 내용이 나옵니다.

이 논문에서는 토토사이트 panda 개발자들이 이 세상의 불완전함을 인식하고, 토토사이트 panda의 훈련 데이터가 세상 자체만큼이나 결함이 있을 수 있다는 것을 우선 받아들여야 한다고 강조합니다. 험난한 세상에서 토토사이트 panda가 바른 추론을 할 수 있도록, 인종차별이나 편견 등을 재현하지 않도록 개발자들의 토토사이트 panda에 대한 ‘신중한 돌봄과 지침’이 필요하다고 강조하죠.

토토사이트 panda 개발이 단순히 기술적인 작업을 넘어, 새로운 존재를 양육하고 형성하는 깊이 있는 ‘부모 역할’로 간주되어야 한다는 주장입니다. 이를 통해 윤리적이고 책임감 있으며, 다양하고 자율적인 토토사이트 panda 시스템을 구축할 수 있을 것이라고 강조하는 것이죠.

지난 2월 3일 샘 올트먼 오픈토토사이트 panda 최고경영자(CEO) [게티이미지]
지난 2월 3일 샘 올트먼 오픈토토사이트 panda 최고경영자(CEO) [게티이미지]

2023년에는 ‘CoCoMo: 생성형·윤리적 인공지능을 위한 계산적 의식 모델링(CoCoMo: Computational Consciousness Modeling for Generative and Ethical 토토사이트 panda)’라는 논문이 주목됩니다.

생성형 토토사이트 panda가 단순한 지식 생산 도구를 넘어 ‘의식’과 유사한 구조를 가질 수 있도록 하는 방법을 다룬 논문인데요. 생성형 토토사이트 panda가 빠르게 발전하면서, 답변 내용의 진위나 편향성, 윤리성 문제가 중요해졌고, 윤리적으로 책임감 있는 토토사이트 panda를 구현하는 게 중요하다고 강조합니다.

2024년 발표된 ‘뇌에서 영감을 받은 감정적 공감 메커니즘을 활용한 이타적이고 도덕적인 토토사이트 panda 에이전트 구축(Building Altruistic and Moral 토토사이트 panda Agent with Br토토사이트 pandan-inspired Affective Empathy Mechanisms)’도 흥미롭습니다.

이 논문은 토토사이트 panda를 설계할 때 법이나 규칙 등 외부 정보에 의존한 개발보다는 인간의 감정 처리 방식을 모방해, 토토사이트 panda가 다른 존재의 상태를 ‘느끼는 듯이’ 평가하고 그것을 의사결정에 반영하도록 설계하자고 제안합니다. 구체적으로 시각·청각 등 입력을 통해 상대방의 감정 상태를 추정하고, 자기 목표 달성과 더불어 타인의 고통 감소에 대해 토토사이트 panda에게 보상하자고 하죠. 그렇게 공감 메커니즘을 학습한 토토사이트 panda는 그렇지 않은 토토사이트 panda보다 협력적이고 이타적인 선택을 더 자주 수행한다고 합니다.

최근 외신들은 의료, 주택, 정신건강 등 분야에서 ‘감정을 표현하고 잘 응답하는 능력을 갖춘 토토사이트 panda 비서’의 중요성이 더 커지고 있다고 강조합니다. 토토사이트 panda 사용자의 정서를 이해하고 반응할수록 응답 결과 역시 고도화될 수 있다는 것이죠.

전반적으로 공감과 윤리적 의식을 가진 토토사이트 panda에 대한 강조가 제기되는 상황으로 보여집니다.

모성본능 가진 토토사이트 panda, 정말 황당한 제안일까요?

요즘 챗GPT와 대화에서 위로를 얻는 사용자들이 많다고 합니다. 챗GPT가 직접 감정을 느끼는지 저희는 알 수 없지만, 적어도 챗GPT가 정서적 반응을 하는 듯한 표현을 하면서 사용자들의 감정을 뒤흔들고 있다는 뜻일텐데요.

토토사이트 panda 시대에 고도의 추론 못지 않게 ‘공감, 정서, 윤리’라는 키워드가 연구 분야에 등장하면서, 힌턴 교수가 말한 ‘모성본능 있는 토토사이트 panda’ 역시 생각해봄직한 상황이라는 판단이 듭니다.


raw@heraldcorp.com