(12) 책임감 있는 AI 개발과 ISO의 노력 - IEEE Spectrum

AI의 책임 있는 개발과 사용을 가능하게 하기 위해

국제표준화기구(ISO)는 최근 AI 관리 시스템을 위한 새로운 표준인

ISO/IEC 42001을 발표했습니다. 

 

인공지능은 혁신과 진보에 많은 가능성을 품고 있지만, 동시에 미래에 피해를 초래할 수도 있습니다.

 

AI의 책임 있는 개발과 사용을 가능하게 하기 위해 국제표준화기구(ISO)는

최근 AI 관리 시스템을 위한 새로운 표준인 ISO/IEC 42001을 발표했습니다.

ISO에 따르면, 이 표준은 "기술이 빠르게 발전하는 가운데 AI를 책임 있고 효과적으로 사용하기 위해

조직에게 종합적인 지침을 제공한다"고 합니다.

세계적으로 AI가 빠르게 성숙해지고 광범위하게 도입되면서, 

메타(Meta), 마이크로소프트(Microsoft), 구글(Google)과 같은 대형 AI 기업들 사이에서는 

서로 충돌하는 표준들이 존재해 왔습니다. 

 

(메타는 11월에 책임 있는 AI 그룹을 해체한 것으로 보고되었습니다.) 

 

텍사스 오스틴에 위치한 Responsible AI Institute는 AI의 윤리적 사용과 

응용 프로그램에 대한 자체 평가 및 인증 프로그램을 운영하고 있습니다. 

 

그러나 일관된 표준과 관행을 유지하는 것은 기술의 역사 전반에 걸쳐 고전적인 도전과제입니다.

 ISO와 IEEE와 같은 표준화 기구들은 책임 있는 AI 개발과 사용을 위한 

널리 합의된 매개변수를 제공하기 위한 자연스러운 장소일 수 있습니다.

ISO의 경우, 그들의 표준은 AI 관리 시스템과 관련이 있습니다. 

뉴욕 대학교 조교수이자 Responsible AI Institute 고문인 Umang Bhatt는 

이것이 회사가 사용하는 다양한 AI 시스템의 목록 또는 인벤토리로, 

이러한 시스템이 어떻게, 어디에서, 그리고 왜 사용되고 있는지에 대한 정보입니다. 

 

그리고 표준은 "책임 있는 개발, 제공 또는 사용과 관련하여 정책과 목표를 수립하고 

그 목표를 달성하기 위한 프로세스를 확립하기 위한 것"입니다.

따라서 ISO의 새로운 표준은 책임 있는 AI를 지원하는 구체적인 지침을 제공합니다. 

 

Carnegie Mellon 대학의 Responsible AI Initiative를 공동 주도하는 Hoda Heidari는 

표준이 "시스템이 출시되기 전에 적절한 프로세스가 따라졌고, 

시스템이 모니터링되고 부정적인 결과에 대해 대처할 수 있는 

적절한 프로세스가 있다는 확신을 제공한다"고 말합니다.

한편, IEEE Spectrum의 부모 조직인 IEEE는 기술 분야의 다양한 표준을 유지 및 개발하고 있습니다.

 

현재, IEEE 표준 제작 기구의 광범위한 전 세계적 영향력 내에서 

단적인 노력 중 하나를 알게 되었습니다. 

이는 2020년 AI 개발 및 사용을 위한 권장 사항 표준의 파생물로 보고될 것입니다. 

일부 기술 표준과 마찬가지로 ISO의 표준은 의무적인 것은 아닙니다. 

"기업들이 이 표준을 채택하도록 강제하려면 표준 자체로는 충분하지 않습니다. 

이를 채택할 개발자들에게 이유와 동기가 있어야 합니다"

라고 워싱턴 대학의 책임 있는 AI 센터인 RAISE의 공동 이사인 Chirag Shah는 말합니다. 

 

그는 조직들이 이를 부담스러운 작업으로 볼 것이라고 덧붙였습니다.

뉴욕 대학교의 Umang Bhatt는 이를 

소프트웨어 개발 커뮤니티의 일환으로 자리 잡을 것으로 기대한다고 말합니다.

 

 "이 표준은 사용자가 AI 시스템과 관련된 문제를 추적하는 데 사용하는 

지속적인 모니터링 도구와 매우 유사한 방식으로 적용될 것입니다"라고 그는 말했습니다.

 "이는 소프트웨어 개발 커뮤니티 문화의 일부가 되기를 희망하는 추적 레코드와 같습니다."

구현 이후에도 Heidari는 ISO의 새로운 표준이 

AI 기업과 그들을 만드는 사람들의 마음가짐 변화를 촉진할 것으로 희망합니다. 

 

그녀는 기계 학습 모델을 교육할 때의 설계 선택을 예로 들며

"그 결과 모델이 의사 결정 프로세스 또는 현장에서의 실천을 자동화할 때

그 선택들은 그들이 다루는 기계장치 외의 의미가 없는

또 다른 공학 또는 기술적 결정으로 보일 수 있지만,

'모든 선택은 그 결과 모델이 실제로 사용될 때 결정적인 영향을

미친다는 것을 명심하는 것입니다"라고 말합니다.

 

"이 시스템의 개발자들에게 가장 중요한 것은

그들이 그것을 알고 있든 모르고 있든, 받아들이든 않든

그들이 내린 선택이 실제 세계에 영향을 미치는 경우가 많다는 것을 기억하는 것입니다."

 

*댓글과 공감, 광고 클릭은 계속해서 기록들을 이어나가는데 큰 힘이 됩니다:)

감사합니다