2月17日消息,熱門聊天機器人ChatGPT背后的AI研究公司OpenAI表示,它正在努力減少系統(tǒng)中存在的偏見和不良行為,并將允許用戶自定義聊天機器人的部分行為。此前,有大量關于ChatGPT與用戶互動不當和結果錯誤的報告。
OpenAI在發(fā)布在其公司網站上的博客文章中承認:”自從推出ChatGPT以來,用戶已經分享了許多他們認為有偏見、冒犯性或其他令人反感的輸出。在許多情況下,我們認可了這些擔憂,它們揭示了我們系統(tǒng)的真正局限性,因此我們希望解決這些問題!
該公司繼續(xù)寫道:“我們正在投資于研究和工程,以減少ChatGPT在回應不同輸入時存在明顯和微妙的偏見。在某些情況下,ChatGPT目前拒絕了它不應該拒絕的輸出。而在其他情況下,在它應該拒絕的時候卻沒有拒絕!
OpenAI此舉旨在回應有關ChatGPT自身存在偏見、結果不準確和不當行為的報道,以及微軟和谷歌對目前正在測試的新AI搜索產品的更廣泛批評。據報道,在周三發(fā)布的博客文章中,微軟詳細介紹了其基于OpenAI技術的新必應聊天工具的局限性,同時谷歌也已要求員工投入更多時間手動改進其Bard系統(tǒng)的答案。
OpenAI還表示,該公司正在加大對ChatGPT的開發(fā)力度,包括允許每個用戶進行有限的定制,以適應他們的品位、風格和視圖。
OpenAI在博文中寫道:“我們認為,AI應該是對每個人都有用的工具,因此每個人都應該可以在社會規(guī)定的限度內進行定制。這將意味著允許其他人(包括我們自己)可能強烈反對的系統(tǒng)輸出。將定制發(fā)揮到極致可能會導致惡意使用我們的技術,或者催生出盲目放大人們現有信念的‘馬屁精式AI’,在這方面取得適當的平衡將是具大的挑戰(zhàn)。因此,系統(tǒng)行為總是需要限制。“