AI 테이블에서 여성이 목소리를 내야 하는 이유

런던에 본사를 둔 Measure Protocol의 제품 마케팅 관리자인 Katya Moskalenko는 인공 지능이 기술 산업의 기존 성별 격차에 부정적인 영향을 미칠 수 있다는 경고를 울리고 있습니다. 그것은 흥미로운 가능성의 세계를 창조하지만, 또한 거의 본질적으로 편견과 배제의 위험도 야기합니다.

그녀는 이러한 함정을 피하려면 "다양한 데이터 세트 보장, 다양한 팀 보장, AI 기반 솔루션에서 윤리적 고려 사항 보장과 같은 일련의 결정과 전략"이 필요하다고 말했습니다.

갈 길이 멀다. Moskalenko는 2021년 세계경제포럼(World Economic Forum) 데이터를 인용하여 데이터 및 AI 직위의 26%만이 여성이 차지하고 있음을 시사합니다. 그 통계가 극적으로 향상되었다고 가정할 이유가 거의 없습니다.

긴 여행이 될 거예요

Katya는 이에 대한 마법의 해결책이 없다고 인정합니다. “모든 것을 한꺼번에 해결할 수는 없습니다.”라고 그녀는 말했습니다. “AI가 모든 개인에게 서비스를 제공할 수 있도록 보장하는 것은 긴 길이 될 것입니다. 보다 균형 잡힌 표현을 통해 AI를 포함한 모든 신기술이 설계상 포용적이고 편견이 없도록 보장할 수 있습니다.”

하지만 이제 시작할 시간입니다. 때때로 크고 작은 모든 회사에는 Adobe, AirBnB부터 소규모 스타트업에 이르기까지 새로운 AI 기반 솔루션을 개발하는 팀이 있는 것처럼 보입니다.

“따라서 가장 먼저 해야 할 일은 다양하고 포용적인 관점을 보장하기 위해 더 많은 여성, 더 많은 유색 인종, 더 많은 소수 집단으로 팀을 다양화하는 것입니다.”라고 그녀는 계속했습니다. "또한 시스템에 공급하고 대규모 언어 모델에 공급할 수 있는 포괄적이고 다양한 데이터 세트가 있는지 확인합시다."

AI 모델, 특히 웹에서 훈련된 모델이 내장된 편견을 개발할 것이라는 우려는 새로운 것이 아닙니다. 그리고 쉬운 해결책은 없습니다. 하지만 Moskalenko는 이 분야의 일부 거대 기업이 문제를 해결하기 위해 노력하고 있음을 인정합니다.

“OpenAI가 좋은 지침을 갖고 있다는 사실에 깊은 인상을 받았습니다. 어떻게 조심해야 하는지, 어떻게 책임을 져야 하는지에 대한 지시를 받았다”고 말했다. “또한 모범 사례를 공유하고 우리가 발견한 약점과 취약성을 공유하는 것도 매우 중요합니다. 의도하지 않은 피해를 줄이는 것이 중요합니다.”

그녀는 사려 깊은 협력을 요청합니다. 우리는 문제가 존재한다는 것을 인정하고 문제를 해결하기 위해 함께 노력해야 합니다. “경제적, 사업적 경쟁이 벌어지고 있는 가운데 우리는 사회 전체, 인류 전체를 생각해야 합니다. 우리는 우리가 쌓아온 인류애와 함께 사회 속에서 살아갈 것입니다. 효과적인 협력이 핵심입니다.”

해당 데이터 세트를 올바르게 가져오기

데이터 전도사이자 MarTech 기고가인 Theresa Kushner도 마찬가지로 AI 분야의 여성에 관한 다양성과 포용성에 막대한 투자를 하고 있습니다. 우리는 그녀에게 팀의 다양성과 다양하고 편견 없는 데이터 세트 간의 관계에 대해 물었습니다.

“성평등 보장은 AI 알고리즘 설계 단계에 들어가기 훨씬 전부터 시작됩니다.”라고 그녀는 강조했습니다. “어떤 데이터를 수집하느냐부터 시작됩니다. 흥미롭게도 대부분의 기업은 성별을 포착하는 것이 필수적이라고 항상 믿지는 않습니다. 따라서 그들은 자신의 데이터가 편향되어 있는지 여부를 실제로 알 수 없습니다. 나는 이름, 대학 소속, 과외 활동 등 수집한 정보로부터 성별을 추론해야 하는 일부 회사와 일한 적이 있습니다. 이것은 성별을 보장하는 좋은 방법은 아니지만 종종 그들이 가진 전부입니다.”

그녀는 AI 알고리즘을 평가하는 다양한 팀이 필요하다는 데 동의합니다. “데이터가 점점 더 제품으로 간주됨에 따라 AI 팀은 사용자와 시장을 고려하는 제품 개발자처럼 생각해야 합니다. 한 엔지니어가 Fitbit과 유사한 제품을 만든 팀에 대해 이야기하는 것을 들었습니다. 여기 모든 신체 기능을 추적하는 도구가 있습니다. 하지만 모두 남성인 디자이너들은 모든 여성이 추적하는 한 가지, 즉 생리 기간을 디자인에서 제외했습니다. 데이터 제품을 만드는 다양한 그룹이 없으면 비슷한 상황이 발생합니다.”

더 자세히 알아보기: 마케팅에서 AI에 관심을 갖는 이유

고용은 물론 유지도 가능

이 공간에서 일하는 팀을 다양화하기 위한 조치를 취하는 데 있어서 다양성을 위한 채용만으로는 충분하지 않습니다. "채용뿐만 아니라 유지도 촉진하는 노력이 있어야 합니다. 불행하게도 여성을 고용하는 것이 임무의 끝이 아니기 때문에 여성이 기술을 향상하고 재기술을 갖추고 성장하는 데 필요한 모든 것을 갖추도록 하는 것도 중요합니다."

한 가지 분명한 것은 생성 AI(그리고 일반적으로 AI와 데이터)에서 남성 근로자의 재교육에 우선순위를 두는 것이 열악한 상황을 더욱 악화시킬 뿐이라는 점입니다.

쿠슈너는 이에 동의하고 이 점을 확장했다. “물론 AI에 대해서도 동등하게 훈련해야 하지만 우리가 걱정해야 할 도구는 아닙니다. IT 분야의 여성이라면 누구나 도구에 쉽게 접근할 수 있어야 합니다. 그러나 우리는 도구와 AI가 만든 알고리즘의 거버넌스에 여성도 참여하도록 해야 합니다. 다양성은 성별과 민족뿐만 아니라 사고와 접근 방식의 다양성이기도 함을 기억하세요. 여성을 포함시키는 것도 종종 그런 종류의 다양성을 제공합니다.”

Women in Tech: 글로벌 운동

Moskalenko는 Women in Tech 운동에 참여함으로써 AI뿐만 아니라 이러한 문제에도 참여했습니다. 그녀는 이유를 설명했습니다.

“저는 매우 전통적인 마케팅 분야, 매우 전통적인 미디어 회사에서 빠르게 변화하는 기술 스타트업의 현실에 이르기까지 흥미로운 길을 걸어왔습니다.”라고 그녀는 말했습니다. (Measure Protocol은 경쟁 정보와 소비자 행동을 추적하는 소프트웨어를 제공합니다.) . "저는 제 경험을 공유하고 다른 여성들이 이 놀랍도록 흥미롭고 활기찬 산업을 탐색할 수 있도록 돕는 것이 중요하다고 느꼈습니다. 그리고 이 편향된 거품을 좀 더 다양하고 포괄적으로 만드는 것입니다."

Women in Tech의 전 세계적인 사명에 대한 자세한 내용은 여기에서 확인할 수 있습니다.

마테크를 만나보세요! 일일. 무료. 받은 편지함에.

비즈니스 이메일 주소

구독하다 처리 중...

약관을 참조하세요.