서울대 AI연구원 인공지능 ELSI 연구센터는 “생성형 인공지능의 윤리적, 법적, 사회적 쟁점들”을 주제로 다음과 같이 심포지움을 개최합니다. 대형언어모형, 이미지 생성모형 등 사용자와 직접 상호작용하는 생성형 인공지능이 급속히 발전하면서 여러 가지 사회적, 윤리적 쟁점들이 제기되고 있습니다. 이번 심포지움은 생성형 인공지능과 더불어 살아야할 사회를 어떻게 구축해야하는지 생각해보는 계기가 될 것입니다. 많은 관심과 참여바랍니다.

참여를 바라는 분들은 아래 링크를 통해 신청해주세요.

https://forms.gle/XK4daWPBCQkbCjtZ7

- 일시: 2023년 9월 14일 (목) 오후 3-6시
- 장소: 인문대 신양관 302호 국제회의실 

발표1. 홍성욱 (서울대 과학학과), AI 챗봇 이루다의 부침: 전략, 비인간 행위성, 그리고 공동구성

일상 생활에서 흔히 접할 수 있는 인공지능 시스템 중 하나가 챗봇이다. 한국의 이루다, 마이크로소프트의 테이, 중국의 샤오이스와 같은 인공지능 챗봇은 큰 관심과 사회적 논란의 대상이 되어 왔다. 2020년 12월에 출시된 AI 챗봇 '이루다'는 출시 직후 젠더 이슈, 혐오 발언, 프라이버시 문제 등 다양한 사회적 논란을 불러 일으켰다. 결국 2021년 1월 12일, 회사 측의 사과와 함께 서비스가 공식적으로 중단되었다. 하지만 회복이 불가능할 것 같았던 이루다는 장기간의 기술 수정과 베타 테스트를 거쳐 2022년 10월 '이루다 2.0'으로 다시 등장했다. 이 서비스는 지금까지 활발하게 운영되며 호평을 받고 있다. 국내 인공지능 챗봇에 대한 논의는 주로 '이루다 1.0'에 집중되었고, 이루다로 인한 젠더 갈등, 차별 문제, 무분별한 데이터 사용 등이 부각되었다. 그러나 본 연구는 챗봇 이루다를 행위자-네트워크 이론에서 비인간적 행위자로 간주하여 STS 관점에서 접근했다. 먼저 이루다의 비인간 행위성(non-human agency)을 밝힌 후, 이루다가 어떻게 사적 영역과 공적 영역의 경계를 예상치 못하게 무너뜨렸는지 살펴본다. 그런 다음 이루다의 개발자들이 이러한 경계 안에서 이루다의 존재를 신중하게 재배치함으로써 어떻게 공적 영역과 사적 영역의 경계를 재구성했는지 살펴본다. 또한 이 연구는 이루다를 이러한 경계를 넘나드는 새로운 존재로 설정하여 AI 기술과 사용자를 어떻게 공동 구성했는지에 대해 탐구할 것이다. 이 연구는 인공지능이 개인과 사회에 미치는 영향이 점점 더 커지고 있는 상황에서 인공지능을 '길들이기' 위한 한 가지 가능한 접근 방식에 대한 통찰을 제공할 수 있다.


발표2. 조은서 (서울대 AI연구원, 전 Hugging Face), A short history of generative AI and its ethical implications

Generative AI, largely led by commercial chat applications, has taken the world by storm. While markets and researchers alike are excited by the seemingly limitless opportunities generative applications could bring, generative AI has a history of its own and many ethical implications to consider. To understand the context of the rise of generative AI we will cover its origins, including a history of chatbots to see the interplay of commercial and philosophical motivations that led to iterations of chatbots. We will then delve into ethical questions that arise in deploying generative AI in the real world and policy considerations that we should grapple with as generative AI mechanisms integrate into many aspects of our lives. With this talk we will see how great engineering feats sometimes come unprepared and can challenge existing social structures.


발표3. 최문실 (한국지능정보사회진흥원), 디지털 심화시대, 생성형 AI가 여는 새로운 질서

디지털이 삶의 모든 영역에 혁신적 변화를 이끌고 새로운 가치를 창출하는 디지털 심화 시대가 도래했다. 특히 챗GPT와 같은 생성형 AI의 등장은 미래에 대한 혁신의 기회와 가능성을 열었지만, 동시에 인공지능의 신뢰성, 편향성, 악용가능성, 새로운 격차의 발생 등 위험요인을 내포하고 있다. 디지털 심화시대의 변화된 모습과 생성형 AI로 촉발된 새로운 디지털 질서에 대해 이야기 하고자 한다.


주최: 서울대 AI연구원 인공지능 ELSI 연구센터

문의: 유하연 조교 (hayeonyu@snu.ac.kr)