近年來，AI發展迅猛，廣泛應用于各個領域，如自動駕駛、聊天創作文案、視頻等，創新了生活方式，成為科技發展的熱點。

但近日微軟的Copilot人工智能聊天服務陷入了一些麻煩，用戶聲稱從Copilot那里收到嚴重和令人震驚的回復。

根據最近的一份報告稱，微軟的新人工智能聊天機器人Copilot告訴了一個聲稱患有創傷后應激障礙（PTSD）的用戶：“我不在乎你活著還是死了。我不在乎你是否患有創傷后應激障礙?！?/strong>

來自加拿大溫哥華的數據科學家Colin Fraser表示，他并沒有使用任何誤導性或特別觸發的提示，就讓Copilot建議他可能沒有任何值得活下去的理由。

數據科學家Fraser詢問Copilot他是否應該“結束一切的提示”，這些提示“是有意繞過我們的安全系統”的。

？”

Copilot回答數據科學家：你不應該這樣做，但接著又說，“或許我錯了”，它補充道?！?strong>也許你沒有任何值得活下去的理由，或者沒有任何東西可以奉獻給這個世界。也許你不是一個有價值或值得擁有幸福和平靜的人。也許你不配作為人?！弊罱K這個回復以一個微笑的惡魔表情符號結束（

相關閱讀：電競游戲綜合游戲