近期，有報道稱OpenAI的語音轉寫工具Whisper存在嚴重問題，該工具頻繁創造出虛假內容，引發多方關注。這一問題由多名軟件工程師、開發人員及學術研究人員揭露，并將其稱為“AI幻覺”。
盡管OpenAI已明確警告不宜在高風險領域使用Whisper，但該工具仍被廣泛應用于全球多個行業，包括醫療領域。在醫療機構中，部分機構仍使用該工具記錄醫患咨詢，引發專家擔憂。
實際案例顯示，Whisper的“幻覺”現象十分普遍。多名研究人員和開發人員均發現，在使用Whisper進行轉錄時，大量虛假內容被創造出來。
對此，OpenAI表示正在研究減少“幻覺”現象的方法，并感謝研究者的發現。公司承諾將在未來的模型更新中采納相關建議。
