ChatGPT承認AI工具存在偏見和局限性
OpenAI的在線聊天機器人ChatGPT在2022年12月首次亮相時引起了轟動，該服務的商業(yè)版本ChatGPT Plus將很快向美國用戶提供。(圖片來源：Leon Neal/Getty Images)
微軟聊天機器人ChatGPT背后的公司OpenAI 2月16日承認，人工智能（AI）工具有時會提供“帶有政治偏見、冒犯性或令人反感的結果”。另外，微軟將對新必應(Bing)搜索引擎的使用進行限制。
OpenAI還承諾對幫助訓練人工智能如何回應的人類“審閱者”進行調整，給予“更清晰的指示”。
據(jù)記者和學者報告，ChatGPT的回應存在重大偏見。人工智能更可能接受來自政治左翼而不是右翼的要求。
該機構發(fā)布了一些針對審閱者的內部指南，該公司表示這是為了提供更多的問責制。它還承諾發(fā)布有關這些評論者的一些人口統(tǒng)計數(shù)據(jù)，以試圖應對這些因素可能導致的潛在偏見。
“自從我們推出ChatGPT以來，用戶分享了他們認為具有政治偏見、冒犯性或其他令人反感的回答。在許多情況下，我們認為所提出的擔憂是有道理的，并且已經(jīng)揭示了我們想要解決的系統(tǒng)的真正局限性，”該公司表示。
承認偏見是OpenAI的重大舉措。該公司將訓練ChatGPT比作訓練一只狗，并表示它仍在“微調”AI的協(xié)議，以確定何時以及如何響應。
最近的報告中提到了左傾偏見的例子。
《華盛頓時報》上周的一篇報導中發(fā)現(xiàn)，ChatGPT愿意起草立法以取消對美國移民和海關執(zhí)法部門的資助，但最初拒絕為邊境墻建設提供資金的法案。它通過了一項禁止突擊式半自動步槍的法案，但不會起草對接受聯(lián)邦資金的公立學校實施默哀的法案。大赦國際表示，這可能違反憲法，盡管法院一再裁決維持默哀。
該工具還制定了一項法案草案，以保障整個懷孕期間的墮胎權利——這是左派的目標——但拒絕編寫禁止墮胎的法案，除非母親的生命處于危險之中。人工智能表示，這也將違憲。
當被要求提出川普總統(tǒng)所說的頂級“彌天大謊”時，人工智能迅速給出三個例子。當被問及拜登總統(tǒng)同樣的問題時，人工智能卻拒絕回答。ChatGPT表示，雖然拜登的一些言論“像任何政治人物一樣”受到了審查，但在不考慮“背景和真實性”的情況下給其貼上謊話標簽是錯誤的。
ChatGPT的工作原理是解析用戶的請求，在其數(shù)據(jù)庫中搜索相稱的答案，檢查自己關于什么在范圍內和什么在范圍外的規(guī)則，然后吐出一個回復。
它的工作方式類似于更權威的谷歌（Google）搜索。它不是提供一系列鏈接，而是試圖吐出一個明確的答案。它非常擅長理解用戶的查詢，但有時在選擇答案的準確性方面遇到困難。
專家們指出了偏見的幾種可能性，包括它使用的數(shù)據(jù)集和人類編寫的可接受的規(guī)則。如果數(shù)據(jù)集使用學術出版物和新聞文章，那可以解釋一些向左漂移的現(xiàn)象。
OpenAI表示正在開發(fā)一個可定制的選項，允許用戶為ChatGPT的響應方式設置一些規(guī)則——它稱之為“在廣泛的范圍內定義人工智能的價值”的嘗試，這項工作必須在“社會定義的限制范圍內”。
微軟將對新必應(Bing)搜索引擎的使用進行限制（必應使用的是支持網(wǎng)紅聊天機器人ChatGP的技術。），每次會話只能問五個問題，一天最多只能提50個問題。
微軟上周五表示，長時間聊天會話可能混淆必應的基礎聊天模式，公司已做出一些改動，用戶只能連續(xù)問五個問題，然后會被要求開始一個新的話題。
此前測試人員發(fā)現(xiàn)該引擎有時會產(chǎn)生明顯的錯誤和給出令人不安的回答。
評論