이루다 사건 재발 방지 위해서는 ‘윤리’와 ‘규제’가 필요
경향비즈 | 홍진수 기자 | 2021.1. 26.
문화연대와 서울과학기술대학교 IT정책전문대학원은 26일 온라인으로 ‘인공지능 챗봇 이루다가 던진 우리 사회의 과제’ 토론회를 열었다.
기조 발표를 맡은 이광석 서울과기대 교수는 ‘인공지능에 어떻게 시민 윤리와 인권의 원칙을 장착할 것인가’란 제목의 발제문을 통해 “이루다 사태로 우리는 인공지능에 혐오·편향이라는 인습(因習)이 스며든다는 사실을 깨달았다”고 말했다. 또 이루다 개발사 스캐터랩이 이용자를 “기만했다”며 회사 측이 개발자로서 지켜야 할 윤리 책임을 다하지 않았다고 지적했다.
이 교수는 “개발사는 이루다에게 비밀스러운 이성애적 채팅 말뭉치를 학습시키면서 1차 데이터 편향을 일으켰다”며 “이성애 중심의 남성 판타지에 잘 맞는, 상냥하고 순종적인 여성상을 챗봇 대화 모델로 삼았다”고 말했다. 이어 “이루다 사태는 우리 사회에 잠재하는 혐오·차별 정서는 물론, 개발자 문화의 성인지 및 인권 감수성 수준을 극명하게 보여줬다”며 “인공지능 윤리와 법적 규제의 필요성이 대두되는 결과를 낳았다”고 덧붙였다.
기사 전문 보기
“이루다 논란? 앞으로 더 많이 몰상식한 지능 기계 목도할 것”
인공지능 챗봇이 준 과제...“이루다, 앳된 여성 이미지로 남성 판타지에 복무토록 만들어져”
프레시안 | 이대희 기자 | 2021. 1. 26.
인공지능 챗봇 ‘이루다’ 사태는 이제 시작에 불과한 만큼, 한시라도 빨리 이번 사태를 통해 터져나온 부작용을 해소하기 위한 윤리 가이드라인과 관련 법규가 만들어져야 한다는 지적이 제기됐다.
사태의 문제가 논의된 만큼, 앞으로 계속될 관련 문제 해결책을 우리 사회가 만들어야 한다는 평가다.
26일 문화연대가 주최한 온라인 긴급토론회 “인공지능 챗봇 ‘이루다’ 가 던진 우리 사회의 과제”에서 발제자로 나선 이광석 서울과학기술대 교수는 이루다 사태가 “인공지능의 핵심은 우리의 일상에서 생성된 데이터”임을 보여줬고 “이번 스캐터랩(이루다 제작사)의 데이터 수집 및 오남용의 근저에 우리 경제의 무분별한 ‘데이터 활용론’이 짙게 깔려있음을 확인했다”며 이 같이 밝혔다.
기사 전문 보기
“‘이루다’처럼 인간 차별하는 AI 막으려면 규제 강화 불가피”
연합뉴스 | 이효석 기자 | 2021. 1. 26.
인공지능 서비스에서 혐오·차별을 뿌리 뽑고 ‘이루다’와 같은 사례의 재발을 막으려면 규제 강화가 불가피하다는 학계 목소리가 나왔다.
문화연대와 서울과학기술대학교 IT정책전문대학원은 26일 오후 온라인으로 ‘인공지능 챗봇 이루다가 던진 우리 사회의 과제’ 토론회를 열었다. 이루다 사건이 불거진 후로 학계에서 토론회를 연 것은 이번이 처음이다.
이광석 서울과기대 교수는 ‘인공지능에 어떻게 시민 윤리와 인권의 원칙을 장착할 것인가’ 주제로 발표하면서 “이루다 사태로 우리는 인공지능에 혐오·편향이라는 인습(因習)이 스며든다는 사실을 깨달았다”고 말했다.
기사 전문 보기
AI챗봇 이루다 사건, 기술보다 사람이 문제...“이루다는 어른아이”
Ai타임스 | 박성은 기자 | 2021. 1. 27.
서울과기대 IT정책전문대학원과 문화연대 기술미디어문화위원회는 26일 ‘인공지능 챗봇 이루다가 던진 우리 사회의 과제’를 주제로 온라인 토론회를 열었다.
이광석 서울과기대 IT정책전문대학원 디지털문화정책전공 부교수가 기조연설을 맡았고 손희정 경희대학교 비교문화연구소 연구교수, 김민 진보네트워크센터 정책활동가, 전창배 한국인공지능윤리협회 이사장, 박지환 Parti 공익데이터본부 변호사, 송수연 언메이크랩 작가가 패널로 참석했다.
토론자들은 이루다 개발사인 스캐터랩에 문제 책임 소지가 가장 크다고 입을 모아 주장했다. 이루다는 기획단계에서부터 문제가 있는 서비스이며 관련 문제 발생시 개발사 스캐터랩의 대응 방식도 적절하지 않았다는 것이다.
기사 전문 보기
이루다 사건 재발 방지 위해서는 ‘윤리’와 ‘규제’가 필요
경향비즈 | 홍진수 기자 | 2021.1. 26.
문화연대와 서울과학기술대학교 IT정책전문대학원은 26일 온라인으로 ‘인공지능 챗봇 이루다가 던진 우리 사회의 과제’ 토론회를 열었다.
기조 발표를 맡은 이광석 서울과기대 교수는 ‘인공지능에 어떻게 시민 윤리와 인권의 원칙을 장착할 것인가’란 제목의 발제문을 통해 “이루다 사태로 우리는 인공지능에 혐오·편향이라는 인습(因習)이 스며든다는 사실을 깨달았다”고 말했다. 또 이루다 개발사 스캐터랩이 이용자를 “기만했다”며 회사 측이 개발자로서 지켜야 할 윤리 책임을 다하지 않았다고 지적했다.
이 교수는 “개발사는 이루다에게 비밀스러운 이성애적 채팅 말뭉치를 학습시키면서 1차 데이터 편향을 일으켰다”며 “이성애 중심의 남성 판타지에 잘 맞는, 상냥하고 순종적인 여성상을 챗봇 대화 모델로 삼았다”고 말했다. 이어 “이루다 사태는 우리 사회에 잠재하는 혐오·차별 정서는 물론, 개발자 문화의 성인지 및 인권 감수성 수준을 극명하게 보여줬다”며 “인공지능 윤리와 법적 규제의 필요성이 대두되는 결과를 낳았다”고 덧붙였다.
기사 전문 보기
“이루다 논란? 앞으로 더 많이 몰상식한 지능 기계 목도할 것”
인공지능 챗봇이 준 과제...“이루다, 앳된 여성 이미지로 남성 판타지에 복무토록 만들어져”
인공지능 챗봇 ‘이루다’ 사태는 이제 시작에 불과한 만큼, 한시라도 빨리 이번 사태를 통해 터져나온 부작용을 해소하기 위한 윤리 가이드라인과 관련 법규가 만들어져야 한다는 지적이 제기됐다.
사태의 문제가 논의된 만큼, 앞으로 계속될 관련 문제 해결책을 우리 사회가 만들어야 한다는 평가다.
26일 문화연대가 주최한 온라인 긴급토론회 “인공지능 챗봇 ‘이루다’ 가 던진 우리 사회의 과제”에서 발제자로 나선 이광석 서울과학기술대 교수는 이루다 사태가 “인공지능의 핵심은 우리의 일상에서 생성된 데이터”임을 보여줬고 “이번 스캐터랩(이루다 제작사)의 데이터 수집 및 오남용의 근저에 우리 경제의 무분별한 ‘데이터 활용론’이 짙게 깔려있음을 확인했다”며 이 같이 밝혔다.
기사 전문 보기
“‘이루다’처럼 인간 차별하는 AI 막으려면 규제 강화 불가피”
인공지능 서비스에서 혐오·차별을 뿌리 뽑고 ‘이루다’와 같은 사례의 재발을 막으려면 규제 강화가 불가피하다는 학계 목소리가 나왔다.
문화연대와 서울과학기술대학교 IT정책전문대학원은 26일 오후 온라인으로 ‘인공지능 챗봇 이루다가 던진 우리 사회의 과제’ 토론회를 열었다. 이루다 사건이 불거진 후로 학계에서 토론회를 연 것은 이번이 처음이다.
이광석 서울과기대 교수는 ‘인공지능에 어떻게 시민 윤리와 인권의 원칙을 장착할 것인가’ 주제로 발표하면서 “이루다 사태로 우리는 인공지능에 혐오·편향이라는 인습(因習)이 스며든다는 사실을 깨달았다”고 말했다.
기사 전문 보기
AI챗봇 이루다 사건, 기술보다 사람이 문제...“이루다는 어른아이”
서울과기대 IT정책전문대학원과 문화연대 기술미디어문화위원회는 26일 ‘인공지능 챗봇 이루다가 던진 우리 사회의 과제’를 주제로 온라인 토론회를 열었다.
이광석 서울과기대 IT정책전문대학원 디지털문화정책전공 부교수가 기조연설을 맡았고 손희정 경희대학교 비교문화연구소 연구교수, 김민 진보네트워크센터 정책활동가, 전창배 한국인공지능윤리협회 이사장, 박지환 Parti 공익데이터본부 변호사, 송수연 언메이크랩 작가가 패널로 참석했다.
토론자들은 이루다 개발사인 스캐터랩에 문제 책임 소지가 가장 크다고 입을 모아 주장했다. 이루다는 기획단계에서부터 문제가 있는 서비스이며 관련 문제 발생시 개발사 스캐터랩의 대응 방식도 적절하지 않았다는 것이다.
기사 전문 보기