騷擾虛擬助理沒傷害任何人?現在,「Ta」們也學會拒絕言語暴力。


貼文日期:2022/04/06
貼文網址:https://www.facebook.com/TaiwanGIST/posts/3216209805306250
來源連結:人類虛擬助手如何「學習」對付騷擾和言語辱罵
https://www.bbc.com/zhongwen/trad/world
57466707fbclid=IwAR0_wUtClqzwCiVDo71n0lKdhuossVNdBbPO0LTcVeg2JBnDTThUi7v6TTc


人工智慧(AI)日漸擴展至各種生活層面,包括手機內建的語音助理,以及企業、機關的智慧客服等等。近年來,虛擬助理所受到的言語侵犯問題也逐漸開始受到重視。

#順從、容忍的虛擬女助理可能會強化性別刻板印象

聯合國教科文組織(UNESCO)曾於2019年的報告書中指出,若干企業產製的虛擬助理(如Siri 或Alexa 等)除了皆以女性聲音為預設外,對於性挑逗、性侮辱的言語亦往往採取容忍態度、甚至是以「受到誘惑」的曖昧語調回應。UNESCO 認為這不僅無助於建立不同性別間的健康溝通,更可能會強化性別刻板印象。


#企業更新人工智慧,虛擬助理學會對性騷擾說不

目前已有企業認知到上述情況的嚴重性,並採取積極行動。例如,巴西的布拉德斯科銀行(Bradesco bank)在其AI系統中發現了約9.5萬則暴力、性騷擾的訊息後,決定更新其虛擬助理「Bia」的軟體設定,讓虛擬助理不再只能順從,而是會堅定地拒絕客戶的言語暴力,以此促使客戶進行反思。此舉在該國亦陸續獲得許多企業仿傚。

#虛擬反映現實,科技中的性別平等仍需要繼續深化

即使虛擬助理並非真人,仍須正視「Ta」們遭受的言語侵犯。學者認為,虛擬世界與現實世界彼此密切關連,對虛擬助理的騷擾反映了現實生活中廣泛存在針對女性的暴力。

針對這些情形,除了更新軟體設定,目前更有企業進一步思索藉著「無性別」的AI虛擬助理來避免人工智慧強化性別偏見,這顯示了企業在促進這項科技的性別平等方面大有可為。


想知道更多相關內容嗎?快點來看看。


延伸閱讀:
語音助理的下一步:納入性別視野,更具多元包容性!
https://bit.ly/3oMe56l
AI女聲語音助理,助長了性別偏見?
http://bit.ly/2MABLI7

─────
追蹤科科性別了解科研領域中的性別議題
#科科性別 #人工智慧 #虛擬助理