다리오 아모데이(Dario Amodei)는 사회가 인공지능에 대해 숙고할 시간을 갖기를 원한다. 나는 앤트로픽의 수장이 최근 발표한 에세이 「우리는 최전선의 속도를 조절해야 한다(We Must Pace the Frontier)」에서 제시한 제안의 장단점을 판단할 자격은 없다. 그러나 그가 전면에 드러내지는 않은 채 암시하고 있는 보다 근본적인 문제들은 다루고 싶다. 누가 숙고할 것인가? 그리고 누가 판단할 것인가?
아모데이는 AI 개발이 업계 외부의 감독과 책임성을 필요로 한다는 점을 인정한다. 그러나 그러한 감독과 책임성이 어디에서 나와야 하는지에 대한 그의 설명은 면밀한 검토가 필요하다. 아모데이는 우선 미국의 규제를 선호하며, 미국 및 그 동맹국들과는 매우 다른 원칙과 관심사를 지닌 권위주의 체제라고 자신이 인정하는 중국과의 경쟁을 진지하게 받아들인다.
그러나 그의 글에서는 미국, 서구 민주주의 국가들, 그리고 미국의 다른 동맹국들이 충분히 구별되지 않는다. 이들은 서로 다른 이해관계와 의제를 지닌 정치 공동체들이다. 중국을 견제한다는 공통의 이해관계만으로, 예를 들어 미국인과 유럽인이 자국 내에서 기술을 어떻게 통치해야 하며 또 어떻게 통치할 것인지가 결정되는 것은 아니다. 더 나아가 그가 “대중은 무슨 일이 벌어지고 있는지 알 권리가 있다”고 말할 때, 그가 가리키는 “대중”은 과연 누구인가? “공적” 숙의의 성격과 권위는 그가 어느 대중을 말하는지에 따라 크게 달라질 것이다.
아모데이는 또한 민주주의라는 말이 무엇을 뜻하는지 명확히 하지 않는다. 그는 국민에 의한 통치를 특징으로 하는 정치체제를 말하는 것인가? 아니면 그 해석 권한은 전문가들에게 남겨 둔 채, 합의된 일련의 인도주의적 가치들을 의미하는 것인가? 후자는 오늘날 엘리트들의 경건한 신념 속에 자리 잡은 일종의 “신성한 민주주의”로서, 국민에 의한 통치와는 별 관련이 없다. 바로 이 지점에서 미국과 유럽연합(EU) 사이의 차이는 매우 크게 드러난다.
더 나아가 아모데이는 각 AI 기업 안에 독립적인 평가자들을 상주시킬 것을 제안한다. 언뜻 보기에 이 제안은 분명한 장점이 있다. 이해관계에서 벗어나 있다고 여겨지는 제3자가 책임성을 확보하고, 문제를 발견하기 위한 별도의 시각을 제공할 수 있기 때문이다. 그러나 그가 제시한 독립 평가기관, 예컨대 METR(Model Evaluation and Threat Research, 모델 평가 및 위협 연구)은 오히려 문제를 잘 보여준다.
METR은 효과적 이타주의 운동과 연관되어 있는데, 이 운동은 미국의 정치공동체나, 더구나 윤리와 정치에 대한 그리스도교 전통의 성찰보다는 피터 싱어(Peter Singer)의 공리주의 윤리나 오귀스트 콩트(Auguste Comte)의 ‘인류 종교’에서 훨씬 더 많은 영향을 받았다. 그렇다면 시민들과 그 대표자들은 METR과 이와 유사한 평가기관들에 무엇을 요구할 수 있어야 하는가? 누가 그들의 임무 범위를 정하고, 누가 그들의 기준을 판단하며, 누가 그들의 판단에 대한 이의를 심리할 것인가? 누가 평가자들을 평가할 것이며, 또 어떤 권위로 그렇게 할 것인가?
AI의 “정렬(alignment)” 문제를 생각하면 질문은 더욱 늘어난다. 아모데이는 이 문제를 원칙적으로는 이미 해결된 것으로, 단지 유능한 실행만을 필요로 하는 사안처럼 다루는 경향이 있다. 아모데이는 정렬에 실용적인 의미를 부여한다. 즉 모델은 안전하고, 윤리적이며, 유용하고, 회사의 지침을 준수해야 한다는 것이다.
그러나 각각의 경우에 무엇이 안전하고 윤리적이며 유용한 것인지를 결정하려면, 인간의 선(善), 혹은 인간에게 좋은 것들에 대한 판단이 필요하다. 이는 아모데이가 예상하는 범위를 넘어서는 듯하다. 특히 샘 올트먼이나 아모데이 자신과 같은 AI 기업의 지도자들 자체가 어쩌면 ‘잘못 정렬되어 있을지도 모른다’고 의심한다면 이 문제는 더욱 심각해진다.
클로드를 위한 앤트로픽의 헌법은 중요한 인간적 사안들에 관해 의견 불일치가 존재한다는 점을 인정하고, 이에 따라 모델에게 서로 충돌하는 고려사항들을 저울질하도록 요구한다. 그러나 저울질에는 선들의 서열화가 필요하다. 자율성과 복지가 충돌한다면 무엇이 우선해야 하며, 그 이유는 무엇인가? 영적인 선과 영적인 해악도 고려 대상에 포함되는가?
애초에 인간이란 무엇인가? 영혼에는 도움이 되지만 부수적으로 육체에는 해를 끼칠 수 있는 것, 예컨대 사순 시기의 단식과 같은 것은 도움으로 계산되어야 하는가, 아니면 해악으로 계산되어야 하는가? 결국 무엇이 인간에게 도움이 되는지를 설명하려면, 다른 모든 선들이 그 안에서 제자리를 부여받는 최고선(summum bonum)과의 관계 속에서 그것을 다루어야 한다.
정치적 삶의 본성은 또 하나의 어려움을 더한다. 정치는 온갖 우연적 조건들에 의해 형성된, 구체적이고 매개적인 형태들로 인류가 나뉘어 살아가는 현실을 포함한다. 국가는 불완전할 수는 있어도 인류를 정치적으로 매개하는 전적으로 정당한 형태일 수 있으며, 동시에 서로 매우 다를 수 있다. 따라서 두 개의 정당한 국가가 서로 매우 다른 방향으로 이끄는 선들을 추구할 수도 있다.
그렇다고 어느 한쪽이 인간성을 오해하거나 객관적 도덕을 거부해야만 하는 것은 아니다. 각국의 책임과 이해관계는 서로 다른 공동생활 안에서 생겨난다. 하나의 AI 체계가 각 나라의 목적에 충실히 봉사하면서도, 결과적으로 두 나라를 충돌하게 만들 수 있다. 더 성공적인 정렬은 오히려 그들의 의견 불일치를 해소하기보다 더욱 선명하게 만들 수도 있다.
그렇다면 인류 전체와의 정렬은 어떠한가? 프랑스 정치철학자 피에르 마낭은 인류란 하나의 추상 개념이기 때문에 숙의하지도 행동하지도 않는다고 지적한다. 인간은 실제 공동체들을 통해 행동하며, 특히 현대 정치에서는 국가를 통해 행동한다. 국제적 협력은 이러한 실제 정치공동체들이 스스로 책임질 수 있는 의무를 떠맡을 수 있는 능력에 의존한다. 결국 AI의 발전 속도를 어떻게 할 것인지를 결정하고 실제로 행동해야 하는 주체는 국가들이다.
그렇게 할 능력이 있는 것은 더 크고, 더 부유하며, 더 강력한 국가들뿐이다. 아마도 그렇기 때문에 아모데이는 “민주주의 국가들”과 세계 질서에 대해 다소 가볍게 말하면서도, 자주 두 나라로 되돌아온다. 바로 중국과 미국이다. 그 대안은 누구에게도 책임지지 않는 비정부기구(NGO)들의 통치다. 이들이 행사하는 전문성은 기술관료적이고, 세속적이며, 공리주의적인 성격을 띨 가능성이 높다. 더구나 그것은 인간 인격에 대한 그리스도교적 이해와 전통적인 서구의 정치적 자치 개념에 적대적일 수도 있다.
이러한 이유들로 인해, 모호하게 정치적이고 때로는 거의 비정치적으로까지 보이는 아모데이의 에세이는 오늘의 상황이나, 지금 걸려 있는 근본적인 정치적·인간학적 문제의 무게에 충분히 부응하지 못한다. AI 개발을 감시할 시간을 우리에게 더 많이 준다고 해도, 우리가 직면한 인간학적·도덕적·정치적 어려움 자체가 근본적으로 달라지는 것은 아니다.
* 리베르타임즈에서는 '미국 가톨릭 지성(First Things)'의 소식을 오피니언란에 연재합니다. 한국 가톨릭 교회의 변화와 북한 동포를 위해 기도하는 교회가 되기를 소망합니다. - 편집위원실 -
는 사회가 인공지능에 대해 숙고할 시간을 갖기를 원한다. 나는 앤트로픽의 수장이 최근 발표한 에세이 「우리는 최전선의 속도를 조절해야 한다(We Must Pace the Frontier)…');)
![[사설] 대한민국의 비극.. ‘인사가 망사(人事亡事)’](/news/upload/1789859440695_c.jpg)
![[세계의 인권] 뉴욕 티베트인들, 워싱턴까지 200마일 도보 시위](/news/upload/1789819479185_c.jpg)
