快訊:機器人長時間聊天會“失控”?微軟限制每個問題只能問5遍
一些技術(shù)人員在測試該應(yīng)用時發(fā)現(xiàn),會話時間過長可能導(dǎo)致聊天機器人偏離“軌道”并討論暴力、瘋狂示愛,并將錯誤的事堅持認為是正確的。
微軟公司周五對必應(yīng)(Bing)AI聊天機器人每天接受的提問數(shù)量做出限制,規(guī)定用戶在與Bing的互動中,每個會話的問答上限為5個,每天的提問上限不超過50個。
微軟表示,做出這樣的限制是由于一些長時間的聊天會話可能“混淆”聊天模型的場景。Bing AI的背后融入了OpenAI公司的ChatGPT技術(shù)。
(相關(guān)資料圖)
聊天兩小時后計算機開始“說胡話”
此前,一些技術(shù)人員在測試該應(yīng)用時發(fā)現(xiàn),會話時間過長可能導(dǎo)致聊天機器人失控偏離“軌道”,并討論暴力、瘋狂示愛,將錯誤的事堅持認為是正確的。
這一舉措也反映了大型語言模型(LLM)在向公眾進行部署時,其運作方式仍在探索中。 微軟表示,正在征求測試人員的意見,以考慮是否在未來擴大提問的上限。
微軟首席技術(shù)官凱文·斯科特稱,與人類的交互是聊天機器人的學(xué)習(xí)過程,這是為將來更大范圍推出這種機器人做準備。斯科特表示,大部分人與機器的交互是短暫且目標明確的,長時間的交互會引導(dǎo)機器人給出詭異的回答,這也是需要對會話長度進行限制的原因。
當?shù)谝回斀?jīng)記者向ChatGPT提問“Bing AI為何對提問數(shù)量設(shè)置上限”時,ChatGPT的回答仍然“有模有樣”:“具體的原因可能取決于程序員的設(shè)計以及編程方面的考慮,主要考慮三方面因素,一是技術(shù)的限制,聊天機器人可能沒有能力處理更長或更復(fù)雜的問題,或者是通過限制問題長度來獲得更加精確的答案;二是用戶體驗,聊天機器人的設(shè)計是為了提供用戶最好的體驗,限制提問長度可能會幫助防止用戶產(chǎn)生困惑;三是效率,可以幫助系統(tǒng)更有效地處理數(shù)據(jù),更快地做出回答。”
目前已有超過一百萬人注冊測試了微軟的Bing AI聊天機器人。不過測試人員發(fā)現(xiàn)了Bing AI的一些詭異回答?!都~約時報》專欄作家凱文·羅斯周四寫道,當他與聊天機器人交談了兩個小時后發(fā)現(xiàn),對方看起來就像一個“喜怒無常、躁狂抑郁的少年”,顯示出了“人格分裂”。
羅斯在與機器人的聊天過程中還得知了機器人的一些“陰暗想法”,比如機器人像入侵計算機、散播虛假信息,希望打破微軟和OpenAI制定的規(guī)則,甚至想成為人類。機器人甚至試圖說服羅斯背叛婚姻,和“它”在一起。
這次交流后,羅斯感到不安,他寫道:“我不再認為這些AI模型最大的問題是它們有可能會犯事實性的錯誤,反而擔(dān)心這項技術(shù)可能會影響人類用戶,說服他們采取破壞性的行動。”
AI意識覺醒了嗎?
微軟將聊天機器人開放給用戶的做法具有一定爭議。微軟也無法解釋聊天機器人為何會表現(xiàn)出“陰暗面”。但斯科特稱:“你越是試圖取笑它步入幻覺,它就會越來越偏離現(xiàn)實?!?/p>
為此,微軟限制了Bing AI的適用范圍。公司表示:“改進AI產(chǎn)品的唯一方法是將它們推向世界并從用戶交互中學(xué)習(xí)?!备鶕?jù)測試人員的反饋,微軟和OpenAI將不斷對模型進行改進。
與微軟的必應(yīng)開放給公眾不同,谷歌開發(fā)的AI聊天機器人Bard尚未向公眾發(fā)布,公司稱當前狀態(tài)仍存在聲譽風(fēng)險和技術(shù)安全問題。
一些人工智能專家警告稱,大型語言模型存在包括“幻覺”在內(nèi)的問題,這意味著該軟件可以“胡編亂造”;另一些人擔(dān)心復(fù)雜的大模型會愚弄人類,讓人類相信自己是有知覺的,甚至?xí)膭钊藗儌ψ约夯蛩恕?/p>
去年,一位名叫Blake Lemoine的谷歌AI工程師公開表示,他正在開發(fā)的計算機AI系統(tǒng)LaMDA已經(jīng)具有與人類孩子相當?shù)母兄惺芎捅磉_思想的能力。這一事件在業(yè)內(nèi)掀起軒然大波,這名工程師隨后被谷歌解雇。
隨著人工智能技術(shù)越來越接近現(xiàn)實生活,人們還擔(dān)心誰應(yīng)該對技術(shù)負責(zé)。根據(jù)美國的一項研究,公眾對人工智能工具持謹慎態(tài)度,只有9%的美國人認為人工智能利大于弊。
一位此前在某大型互聯(lián)網(wǎng)公司負責(zé)安全與隱私的高管對第一財經(jīng)記者表示:“正是由于聊天機器人給人帶來想象空間,才讓人類對他們感到擔(dān)心。事實上,人類可以通過數(shù)據(jù)訓(xùn)練出具有各種貌似有‘人格’的聊天機器人?!?/p>
他還表示,機器人總是具有暴露人類善良和邪惡的能力,只要現(xiàn)實世界中有AI技術(shù)的進步,人們就將繼續(xù)探索關(guān)于機器人的道德難題及其對人類的影響,這將涉及法學(xué)、心理學(xué)、社會學(xué)等多個領(lǐng)域。
關(guān)鍵詞: 人工智能
相關(guān)閱讀
-
快訊:機器人長時間聊天會“失控”?微...
機器人總是具有暴露人類善良和邪惡的能力,只要現(xiàn)實世界中有AI技術(shù)... -
不發(fā)貨不退款,消費者追債國美
不發(fā)貨,聯(lián)系不上客服,甚至退款過了兩個月還不到賬,這是一些消費... -
家電業(yè)數(shù)智化轉(zhuǎn)型激活存量優(yōu)勢
作為居民主要消費品之一,家電行業(yè)有望在消費加快恢復(fù)等利好因素帶 -
智慧清潔時代全面降臨,AWE2023領(lǐng)航清潔...
中國清潔電器市場正在上演一場“兩強爭霸”的競速賽。 -
消費政策指引下 深挖智能家電消費潛力
近日,一些地區(qū)出臺關(guān)于智能家電消費的政策。 -
光伏龍頭加碼一體化 產(chǎn)業(yè)鏈利潤格局生...
今年以來,光伏行業(yè)一體化布局趨勢持續(xù)加深。