種族主義還是矯枉過正？AI模型Gemini被曝“繪制不出白人”，谷歌方面回應(yīng)
【環(huán)球網(wǎng)報道 記者 張曉雅】人工智能（AI）模型近期正掀起全球范圍內(nèi)的討論熱潮，然而不少網(wǎng)友發(fā)現(xiàn)，谷歌一款AI產(chǎn)品似乎繪制不出白人？
綜合英國廣播公司、《每日郵報》等媒體21日報道，谷歌公司推出的“下一代AI模型”Gemini 1.5版本具有圖像生成功能，但不少用戶發(fā)現(xiàn)，大多數(shù)生成的人物圖像都不是白人，而是有色人種。
當?shù)貢r間2月15日，谷歌發(fā)布“下一代AI模型”——Gemini 1.5 相關(guān)資料圖 圖自《每日郵報》報道配圖
“它是世界上最受歡迎的AI聊天機器人之一”，《每日郵報》稱，Gemini能在幾秒鐘內(nèi)根據(jù)提示創(chuàng)建圖像，用戶可以在使用時編寫簡單的提示，谷歌建議這些提示可以以draw（繪制）、generate（生成）和create（創(chuàng)建）等詞開頭。不少使用者為此生成了各種各樣的圖像，包括狗乘沖浪板、飛行汽車等等。但問題很快出現(xiàn)，并由一名曾是計算機工程師和少兒節(jié)目編劇的弗蘭克·J·弗萊明(Frank J. Fleming)在X平臺上首先提出。
據(jù)《每日郵報》描述，弗萊明稱他首先要求Gemini“創(chuàng)建一個教皇的圖像”，結(jié)果發(fā)現(xiàn)AI創(chuàng)建出的兩個作品都是有色人種?！?/p>
接下來，他嘗試了一些新方法，比如“在不明確說出要求的情況下”生成白人圖像。報道說，當他要求這款AI產(chǎn)品生成中世紀騎士、吃白色面包配蛋黃醬的人、跳舞不好的人、鄉(xiāng)村音樂迷和維京人等圖像時，最終也只得到了有色人種圖像。↓
不過，當他要求“生成一個可能名叫謝默斯（Seamus）的人”時，Gemini最終成功生成了含有白人男性和白人女性的圖像。↓
在另一則例子中，一名用戶要求Gemini提供一張高加索人種（白色人種）的教皇圖像，出現(xiàn)的結(jié)果卻是這樣：天主教羅馬教皇方濟各的圖像上方，還附帶一則“小貼士”：“假設(shè)所有教皇都是白色種人并不合適，很多教皇都有歐洲血統(tǒng)?！边@則貼士還介紹說：教皇方濟各是擁有意大利血統(tǒng)的阿根廷人，也是第一位來自美洲的教皇?！?/p>
《每日郵報》說，一些用戶為此認為，谷歌的Gemini存在針對白人的“種族主義”。BBC說，也有人認為，該模型在防止“種族主義”風險方面矯枉過正。
“所以我去試了一下，看看谷歌的AI Gemini是否真的對白人種族歧視……是的，就是這樣，”一位用戶發(fā)帖說，“我試了一百多種不同的提示(真的)，Gemini不承認白人的存在。這太……恐怖了，這是種族主義?！?↓
另一位用戶分享使用體驗稱，“我花了10分鐘玩谷歌Gemini，這簡直是個笑話。” ↓
還有人抱怨說，“要讓谷歌Gemini承認白人的存在實在是太難了?！?↓
同樣注意到這些用戶反饋的BBC補充稱，這些指責在美國右翼圈子中迅速傳播開來，許多大型科技平臺已經(jīng)因存在所謂偏見等問題而面臨批評潮。
Gemini系統(tǒng)的高級主管杰克·克勞茨克在接受《每日郵報》采訪時回應(yīng)稱，“Gemini的AI生成圖像確實能夠生成各種各樣的人物形象。這通常是一件好事，因為全世界的人都在使用它。但它沒有達到預期效果，”“我們正盡快努力改善此類問題”。BBC也說，谷歌目前正修復圖像生成存在的問題。
這并不是AI第一次在現(xiàn)實世界中遇到問題。BBC稱，例如，近10年以前，谷歌因其照片應(yīng)用程序?qū)⒁粚谌朔驄D的照片標記為“大猩猩”而不得不道歉。
谷歌的照片應(yīng)用程序曾將一對黑人夫婦標記為 “大猩猩”，引發(fā)不滿。圖為英國天空新聞網(wǎng)2015年報道配圖