如何透過精準提示詞誘導 AI 產生錯誤回答?
探討如何向 AI 提示複雜或容易產生錯誤問題的技巧與實測經驗。
• 作者在申請醫療領域數據標註職缺時,遇到了需要設計「誘導 AI 給出錯誤答案」的篩選考題。 • 由於 AI 具備強大的檢索能力,即使是冷門或複雜的醫療專業問題,也能透過線上搜尋順利破解。 • 為了成功考倒 AI,作者發現傳統的專業難題效果有限,必須轉換思考方向。 • 目前嘗試出的有效方法包括:提出語意模糊的問題,或是將多個問題交織成一個極度複雜的複合式提問。 • > 作者尋求社群建議:「我想知道還有什麼方法可以引導 AI 給出錯誤答案?」 • 這類測驗主要在評估標註人員測試模型極限與辨識幻覺現象的實務能力。
來源:r/PromptEngineering
閱讀原文 ↗