한국어
    • 한국어
    • ENGLISH
    • 日本語
    • 中文-繁體
    • Tiếng Việt

    2022.04.28 AI Framework

    AI [Society] Framework | EP03. 윤리적인 인공지능을 향한 노력

    What’s Next for AI Ethics?

    윤리적인 인공지능을 향한 노력

    기술의 발전 속도가 점점 더 빨라지며 인공지능의 영향력은 날로 커져 가고 있습니다. 그에 따른 미래에 대한 기대와 불안은 항상 함께 거론되고 있는데요. 인공지능과 공존하며 발전할 미래를 맞이하기 위해 우리는 어떤 준비가 필요할까요.

    [AI FRAMEWORK]는 인공지능과 인류의 미래를 고민하는 세계적인 석학들의 눈을 통해 ‘AI를 바라보는 새로운 관점’을 제시하는 엔씨의 새로운 콘텐츠 시리즈입니다. 엔씨의 AI Center 설립을 주도하며 첨단 기술의 윤리적 문제를 탐구해 온 윤송이 CSO가 공학, 정치학, 철학 등 각 분야의 리더들을 만나 서로의 생각과 관점을 나눕니다.

    앨리슨 시몬스 교수님에 이어 대화를 나눌 인물은 미국의 철학자이자 MIT의 언어 및 철학과 학과장을 역임한 알렉스 번 교수입니다. 이번 편에서는 앞으로 다가올 인공지능의 혁명 시대를 맞이하여, 윤리적인 인공지능 기술을 위해 우리가 준비해야 하는 것은 무엇인지 그리고 그 과정에서 철학과 철학자의 역할은 무엇인지에 대해 이야기 나눠 보겠습니다.

    AI [Society] Framework

    1. What is the Right Thing to Do?

    옳은 선택은 무엇일까요?

    2. From Human Bias to AI Bias

    편견이 없는 AI가 더 나은 AI일까?

    3. What's Next for AI Ethics?

    윤리적인 인공지능을 향한 노력

    Songyee Yoon

    엔씨소프트의 사장(최고전략책임, CSO)이자 북미 법인(NC West) 최고 경영자로 엔씨의 글로벌 사업 전략을 총괄하고 있다. 엔씨의 AI Center 설립을 주도해 AI와 NLP에 관한 다양한 연구 개발 성과를 기업 경영에 접목하고 있다. 특히 AI가 미치는 사회적 영향과 AI 윤리를 지속적으로 고민하며, 현재 미국 스탠퍼드 인간중심 AI 연구소(Human-Centered AI Institute, HAI) 자문 위원과 메사추세츠 공과대학(MIT) 이사회 이사로 활동 중이다.

    Alex Byrne

    미국 철학자이자 MIT 대학에서 언어 및 철학과 학과장을 역임하고 현재 철학교수로 재직중이다. 오랜 시간 언어학과 철학을 연구하며 심리철학을 바탕으로 자기인식과 현상학에 관심을 가지고 활발한 연구 및 저술 작업을 하고 있다. 2018년 “Transparency and Self-Knowledge”를 2020년 “Are Women Adult Human Females? Philosophical Studies”를 발표했으며 2021년에는” Perception and Probability, Philosophy and Phenomenological Research”를 집필했다.


    Toward a Truly Ethical AI

    인공지능과의 동행을 준비하다

    윤송이   철학자의 관점에서 우리가 현재 마주한 문제들을 어떻게 보시나요? 그리고 그러한 문제들이 과거 인류가 겪었던 문제들과 어떻게 다른가요? 또 교수님의 입장은 어떠신가요? 우리가 이러한 문제들을 헤쳐 나갈 수 있다고 낙관하시나요?

    알렉스 번   그건 정말 넓은 범위의 질문인데요. 우선, 미래에 어떤 일이 벌어질지에 대한 이 질문에 답을 하기엔 저는 자격이 매우 부족합니다. 왜냐하면 제가 90년대에 MIT에 처음 왔을 때, 사무실에서는 초기 형태의 인터넷을 쓰고 있었습니다. 그리고 저는 동료들에게 인터넷이 결코 대중적으로 보급되지 못할 거라고 이야기했었죠. 그러니까 저는 미래 예측에 아주 소질이 없어요.

    사회와 정치에 대한 미래 트렌드 예측과 관련해서도 사람들이 얼마나 형편없는 성과를 거두어 왔는지를 되돌아보면, 이러한 트렌드 예측은 매우 어렵다고 하는 기후 예측이나 코로나 확산 예측보다도 훨씬 어렵습니다. 코로나 예측과 관련해서는 많은 병리학적 모델들도 완전히 틀린 것으로 결과가 드러났죠.

    미래 예측이 특히 어려운 이유 중 하나는 우리가 예상할 수 없는 가까운 미래에 벌어질 인공지능 영역에서의 극적인 발견이나 발전 때문입니다. 왜냐하면 그것들은 우리가 이미 가진 것들로부터 자연스레 발생하는 것이 아니거든요. 누군가가 돌파구를 마련하거나, 트랜지스터의 발전과 같은 새로운 기술이 발견될 겁니다. 인간의 양방향 소통이라는 것은 매우 복잡한 상호 연계된 시스템이라, 항상 예측하기가 굉장히 힘듭니다. 그런데 앞서 말씀드린 상황으로 인해 미래 예측은 더더욱 복잡하고 어려워질 겁니다.

    그래서 저는 미래가 어떻게 될지 정말 잘 모르겠지만, 비관적일 필요는 없다고 생각합니다. 저는 물컵에 물이 반이 없다고 생각하기보다는 반이나 차 있다고 생각하는 편이거든요. 새로운 인공지능 기술은 분명히 긍정적으로 작용할 엄청난 잠재력이 있습니다.

    윤송이   네, 좋은 말씀이네요.

    알렉스 번   사실 저는 송이 님께 이걸 여쭤 보고 싶은데요, 아까 저한테 하신 미래 질문에 대한 송이 님의 답은 무엇인가요?

    윤송이   앞서 말씀하신 것처럼, 저도 미래에 무슨 일이 일어날지에 대해 아이들보다도 나은 답을 알지 못할 거예요. 하지만 저는 20-30년 전의 상황이나 그 당시의 예측보다 훨씬 커진 사회적 영향과 그 의미에 대해 생각해 봐야 한다고 봅니다. 저는 우리 모두가 이러한 문제를 해결하기 위한 정확한 틀을 갖춘 상태에서 답을 할 준비를 하고, 사회적 영향에 대해 염두에 두는 것이 중요하다고 생각해요. 왜냐하면 그것이 엔지니어들이나 기업 경영자들이 갖출 수 있는 하나의 도구이고, 어떠한 알고리즘을 적용하기 전에 그 알고리즘이 미칠 수 있는 사회적 영향에 대해 이야기해야 한다고 생각하기 때문이에요. 그런 이유로 저는 학부생들이 불확실하고 혼란스러운 사회로 나가기 전에 이러한 도구들에 대해 배우는 것이 더욱 중요해지고 있다고 생각합니다. 학생들 스스로 질문을 던지며 보다 책임감 있는 자세로 문제를 해결할 수 있도록 말이죠.

    알렉스 번   그렇게 말씀해 주시니 힘이 나네요. 바로 송이 님 같은 분들이 이러한 문제에 대해 목소리를 내 주셔야 한다고 생각해요.

    Philosophy, AI, and Society

    인공지능 시대, 철학으로 바라보다

    윤송이   오늘 저희는 정답이 없는 문제에 대해 많이 이야기한 것 같아요. 옳은 것과 그른 것을 구별하는 문제처럼 말이죠. 무엇이 편견이고 공정인지와 같은 문제도 그렇고요. 반면 우리는 기계와 알고리즘이 처음부터 그러한 판단력을 갖추기를 기대합니다. 그렇다면 새로운 기술을 개발하고 그 기술로 사회를 발전시키는 전통적인 방식이 바뀌어야 한다는 것을 의미할까요? 우리가 맞이할 미래에 대해 사회적 합의를 이루고 이해도를 높이기 위한 사회적 담화는 무엇이며, 철학자와 윤리학자의 역할은 무엇일까요?

    알렉스 번   맞습니다. 여기서 철학자의 역할이 하나의 문제고, 또 다른 문제는 우리가 얼마나 많은 의사 결정을 인공지능이나 슈퍼컴퓨터에 떠넘기느냐 하는 것인데요. 아시다시피 많은 경우 인공지능은 데이터에서 다양한 패턴을 찾아내거나 데이터를 다양한 차원에 따라 정렬하는 도구로 이용됩니다. 이렇게 수령된 데이터와 관련하여 의사 결정을 내리는 것은 바로 인간이죠. 그러니까 매우 추상적인 문제 하나는 ‘과연 어떠한 상황에서 우리 인간이 기계로 하여금 결정을 내리게 할 것인가’입니다.

    알렉스 번   송이 님이 6개월 실형을 받았다고 가정해 봅시다. 과거 범죄 기록을 토대로 기계는 재범 가능성에 대해 다양한 예측을 합니다. 그렇게 나온 결과를 토대로 인간은 기계의 의견이나 제안을 무조건적으로 따르는 게 아니라 자신만의 결정을 하게 되는 것이죠. 이것이 한 쟁점이고요.

    완전히 다른 또 하나의 쟁점은 ‘이 모든 과정에서 철학자의 역할은 무엇인가.’ 하는 것인데요. 저나 제 동료들이 이러한 주제에 많이 관여하고 있기에 MIT나 슈워츠먼 컴퓨팅 대학(Schwarzman College of Computing)에 대해 뭔가 이야기할 수 있는 좋은 기회인 것 같습니다. 물론 엔씨 여러분 덕분에 NC 펠로우십(NC Ethics of Technology Fellowship)을 운영 중이고, 해당 과목 수강 신청이 정원 초과된 상황입니다. 이러한 쟁점에 대해 학생들이 많은 관심을 갖는다는 것이죠.

    그리고 MIT 철학과는 학과장님께서 후원하시는 또 하나의 기술 윤리학을 가지고 있습니다. 또한 슈워츠먼 컴퓨팅 대학에서 컴퓨팅의 사회적, 윤리적 책임을 다루는 학과인 ‘SERC’의 재정 지원을 받는 세 명의 기술 윤리 전공 박사 후 과정이 더 있습니다. 그러니까 기술 윤리에 대해 MIT에서 진행하고 있는 일은 굉장히 많고 철학 또한 여기서 큰 역할을 하고 있습니다. 그리고 저는 고등교육에서의 이러한 움직임이 전국적, 또 세계적으로 진행되고 있다고 확신합니다. 앞으로 기술 윤리 영역에서 대중이 철학을 접하게 되는 일이 많을 것이라는 것이죠. 게다가 또 다른 중요한 지표인 기술 윤리 영역에서의 일자리 수가 짧은 기간 동안 거의 제로에서 꽤 높은 수로 증가했습니다. 한마디로 철학이 기술 윤리 분야를 포용한다는 사실은 확실하다는 것입니다.

    *각주1) SERC(Social and Ethical Responsibilities of Computing): MIT 슈워츠먼 컴퓨팅 대학의 프로그램으로 컴퓨팅 활동에 대한 사회적, 윤리적, 정책적 과제를 다룬다. 교육, 연구 및 참여 프레임워크를 통해 학생들을 교육하고 컴퓨팅과 관련된 광범위한 문제 해결을 위한 연구를 돕는다.

    윤송이   좋습니다. 사회에 폭넓게 영향을 미칠 수 있는 기술을 도입하는 방식이 변해야 한다고 생각하시나요? 예를 들어, 예상치 못한 결과를 미리 점검하기 위한 윤리적 검토가 필요할까요?

    알렉스 번   네, 물론이죠. 저희는 연구 윤리 위원회 등 이미 모든 종류의 과학 연구에 그런 시스템을 갖추고 있습니다. 제 생각에 기술 영역에 그런 시스템을 도입하는 것은 좋은 아이디어 같아요. 부수적으로 MIT에서는 기술 윤리에 대한 많은 사례 연구를 SERC 웹 사이트에 올려놓았습니다. 해당 연구 결과들은 무료로 이용 가능하며, 계속 추가되고 있습니다. 이런 쟁점들에 대해 더 많은 것을 알고 싶은 분들에게는 유용한 자원일 것입니다.

    윤송이   맞아요, 그래서 저는 이런 주제에 대해 MIT와 협력하는 것이 좋습니다. 그리고 해당 분야가 빠르게 발전하길 바랍니다.

    알렉스 번   지원에 다시 한번 감사드립니다. 진심으로 감사하고 있습니다.

    윤송이   아니요, 저희야말로 노력과 성과에 감사드립니다.

    Source: Photo by Kim Yong Kwan

    *Any endorsements, views, opinions, and appearances shared by the interviewee are made solely in his/her/their personal capacity; MIT does not endorse this organization or its products or services.