「機(jī)」言可畏：臺大AI中心團(tuán)隊(duì)研究 成果發(fā)表在頂尖期刊《美國心理學(xué)家》

AI（人工智慧）的話是否全都可信？在日常生活中，人們會(huì)與各種AI對話引擎互動(dòng)，例如語音型智慧助理Google Assistant、Apple Siri、Amazon Alexa，或是文字型聊天機(jī)器人ChatGPT與Google Bard等。這些對話引擎中，有些可能會(huì)從學(xué)習(xí)資料提取到錯(cuò)誤資訊（如網(wǎng)路謠言），而有些可能因生成式AI的特性而會(huì)自己無中生有地產(chǎn)出不實(shí)回應(yīng)。不過，由於人們的記憶力有限，不是所有接受到的資訊都會(huì)成為記憶，而唯有成為記憶的資訊才會(huì)影響日常生活中的決策。因此，即便AI對話引擎會(huì)散播不實(shí)資訊已經(jīng)不是新聞，但這些資訊會(huì)多大程度成為記憶卻從未被量化地研究過。

為了要回答上述問題，臺灣大學(xué)心理學(xué)系副教授黃從仁、研究生鄭羽嵐及美國藝術(shù)與科學(xué)院院士Suparna Rajaram教授，在國科會(huì)「前瞻及應(yīng)用科技處」與臺大「人工智慧與機(jī)器人研究中心」所支持的實(shí)驗(yàn)研究中發(fā)現(xiàn)，「人類在跟會(huì)提供不實(shí)資訊的人型機(jī)器人交流後，會(huì)將約7至8成機(jī)器人所提供的不實(shí)資訊錯(cuò)誤地指認(rèn)為真實(shí)資訊?！怪档米⒁獾氖牵?yàn)槁杽?dòng)資訊本就容易讓人印象深刻，此研究刻意採用不帶情緒或價(jià)值的中性資訊作為實(shí)驗(yàn)材料，但仍觀察到有很高比例的不實(shí)資訊形成假記憶。此研究成果刊登在2023年11月20日出版的頂尖國際期刊《美國心理學(xué)家》American Psychologist，來對大眾與AI對話引擎的開發(fā)者提出警告。

此研究亦發(fā)現(xiàn)，這種從機(jī)器到人的假記憶傳染似乎是很難避免的。在另一組實(shí)驗(yàn)中，機(jī)器人與人類交流前，就曾一次性告知有可能會(huì)提供錯(cuò)誤資訊，或是數(shù)次在提供特定錯(cuò)誤資訊前，做出自己不太確定答案的警告。然而，人們在與機(jī)器人交流過後的記憶測驗(yàn)中，需在曾被數(shù)次特定警告的情況下，整體假記憶的比例才有些微減少。進(jìn)一步的分析釐清這些假記憶的減少是由於人們提高戒心，但是是對機(jī)器人所說的所有內(nèi)容而非是對被警告過的特定資訊。這個(gè)現(xiàn)象的成因是人們普遍相信有完美記憶的機(jī)器人能提供正確的資訊，而且人類有限的記憶容量會(huì)優(yōu)先被用來記住資訊的內(nèi)容而非對資訊的標(biāo)註 （如其內(nèi)容來源或是否有被警告過）?；哆@些成因的普適性，這個(gè)現(xiàn)象也被預(yù)期發(fā)生在其他的人機(jī)互動(dòng)情境，並令人擔(dān)憂ChatGPT介面中的「ChatGPT may produce inaccurate information about people, places, or facts.」是否為脫責(zé)但無效的警語。

根據(jù)這項(xiàng)研究，人們應(yīng)對聊天機(jī)器人的輸出內(nèi)容抱持適度戒心。此外，聊天機(jī)器人應(yīng)儘量不要輸出錯(cuò)誤的資訊。要達(dá)成此目標(biāo)，技術(shù)上有幾種不同的實(shí)作方式，例如透過人工檢核的方式剔除學(xué)習(xí)資料中的錯(cuò)誤資訊，或是讓聊天機(jī)器人透過網(wǎng)路搜尋來先對答案進(jìn)行事實(shí)查核。若機(jī)器人無法確認(rèn)自己答案的真確性，應(yīng)該直接回答不知道而非聊勝於無地回應(yīng)。這些以人為本的設(shè)計(jì)，才能讓人類在使用聊天引擎時(shí)能「役物/誤，而不役於物/誤?！?/p>

期刊原文：https://psycnet.apa.org/fulltext/2024-27566-001.html