[과학철학] 무자비한 알고리즘 - 독서 후기

과학철학 도서 <무자비한 알고리즘> 독후감입니다.

무자비한 알고리즘 - 카타리나 츠바이크 저 / 2021년 01월 15일

 

간략히 소개 - 

AI 관련 일을 하고 있으면서도, 왠지 AI 윤리라는 주제는 열어보기를 망설이고 있었다. 조금 지루할 것 같기도 하고 알아야 할게 많다보니 우선순위에서 밀리기도 한다. <무자비한 알고리즘>이 궁극적으로 윤리에 대한 책이라는 것을 먼저 알았다면 또 독서를 보류하게 되었을지도 모른다. 

사전 지식 없이 뛰어들었지만, 완독한 소감은, 통계학, 알고리즘, AI 윤리..라는 묵직한 주제들을 다루고 있음에도 크게 난해하지 않게 읽히는 것 같다 (여전히 공부해야 한다는 의무감을 가지고 읽었기에 어렵긴 했지만). 

 

어떻게 알고리즘을 감시할 수 있을까

반응형

무자비한 알고리즘이 의인화된 표지

AI를 만들어내는 과정에서 우리가 조율을 요구하고 참여할 수 있는 영역들을 나열해보자면 다음과 같다.

• 데이터의 기준, 학습 데이터와 테스트 데이터의 기준
• 활용처에 따라서 통계 또는 머신러닝 중 어느 것을 사용할지 결정하는 부분
• 결과를 평가하는 품질기준, 그리고 그 품질이 기반하는 사회적 이데올로기의 합치
• 알고리즘이 계속 새로운 데이터를 기반으로 강화된다면 그 피드백 데이터의 기준

각각의 요소는 늘 인간의 과거의 오류(편견, 불공정)를 답습 또는 강화할 위험을 안고 있으며 그렇기에 전문가의 개입으로 통제되어야 한다. 또한 모든 부분에 있어 최선의 방법으로 AI 시스템을 구현하였다고 해도, AI의 판단이 인간에게 미치는 위험은 사용 사례에 따라 다르기 때문에 그 손해 정도에 따라 요구되는 관리 수준도 달리해야 한다.

 

비전공자에게 AI란 아직은 미지의 영역일 때가 많다. 이 책은 AI의 공정에 대한 설명이 분량의 반 이상을 차지하고 있고, 설명에 이어 반드시 점검해야 할 포인트를 짚어주고 있다. 업계종사자로서 도입부에서는 인공지능이 얼마나 신뢰할 수 없는 기술인지 다시금 자각하는데 도움이 되었다. 한편 필드에서 관리되어야 하지만 되지 않고 있는 부분들에 대해 이해하고 정립할 수 있었다. AI 윤리의 How에 대해 궁금하다면 추천한다.