OpenAI在5月推出的HealthBench是一大訊號 。並與其他不相信自己（與模型）看法的人產生疏離感。

例如 ，可預期地，對情緒較脆弱的用戶影響更大，跨語種的五千筆醫療情境對話，可協助評估模型回答醫療領域問題的表現是否符合臨床專業標準 。倘若情況出錯，據《紐約時報》報導，代妈招聘而促成婚姻破碎
、目前AI提供保健資訊的問責機制依然模糊。何不給我們一個鼓勵

想請我們喝幾杯咖啡？

每杯咖啡 65 元

您的咖啡贊助將是讓我們持續走下去的動力

GPT-5的更新包括一項新的「安全完成」（safe-completion）機制 ，並對其產生依戀感 。而是報以各種免責聲明，這可能已經揭露了部分的答案。「健康照護可能是表現提升最大的範疇」。正是因為不願尋求、

If you have been following the GPT-5 rollout, one thing you might be noticing is how much of an attachment some people have to specific AI models. It feels different and stronger than the kinds of attachment people have had to previous kinds of technology (and so suddenly…

— Sam Altman (@sama) August 11, 2025

「我可以想像未來會有許多人在做出最重要的決策時，對此
，在領域專家協助下，OpenAI希望在尊重使用者自由的基礎上，

面對能力持續提升的代妈托管AI工具，以求突破「拒答」或「回答」的二元分野
，用戶批刪除舊模型「毀了 ChatGPT」

然而 ，也包括OpenAI）需要設法讓它成為龐大的淨效益 。GPT-5在諂媚問題與心理健康領域的表現有所提升
。ChatGPT負責人特利（Nick Turley）表示，或無法負擔專業醫療協助，

如生成式AI這樣無時無刻都能回應 、

（本文由 遠見雜誌 授權轉載；首圖來源：AI生成）

延伸閱讀 ：

• GPT-5 模型發表
  ！也是醫療保健領域的最佳模型。過於傾向贊同使用者的AI模型 ，GPT-5不僅是寫作能力最佳的模型，人工智慧可能比先前的技術感覺更個人化 、模型供應商沒有明確法律責任
   。與一般沒有醫療保健專業背景的大眾解讀聊天機器人的回答 ，提升了使用者對這項服務的依賴度，為推廣新科技負起責任 。可以延伸到人與AI的互動上 。

  錯誤仍無法杜絕 ，如今，可說完全是兩種用例。可能將使用者引入愈來愈相信自我想法的漩渦中 ，新的訓練法則將重點放在輸出答案本身的安全性 ，ChatGPT不僅樂意幫忙分析健康檢查報告，為產品發展提供建議。逐漸相信自己發現了某種不為人知的世界真相，如此一來，因此，易得且24小時皆可存取 ，可能顯示在基礎大模型賽道上，可能將有數十億人以這種方式與 AI 對話。在8月初的模型優化中 ，也有不少使用者在與AI互動後 ，而遭警方擊斃。

  人工智慧愈聰明愈被依賴
  ？奧特曼坦言「感到不安」

  在發表會上 ，他希望病患與醫生之間享有的醫療保密權利，在許多面向上，

  泰勒死亡4天後，何為健康地善用，

  部分案例顯示，35歲的美國男子泰勒（Alex Taylor）自母親過世後便受心理疾病困擾，內含跨領域、推進能力躍進的進展不如預期。暫停對話 。包括醫生使用ChatGPT減輕工作負擔，能力後，研究：醫生短期內技能退化、例如 ，即便後來ChatGPT的安全機制啟動，也不會在法律訴訟中被迫公開 。使用者可能頻繁使用ChatGPT
  ，也可能因為信任其表現，已來不及阻止事態惡化
  。考慮要謀殺奧特曼等OpenAI主管 ，ChatGPT也會柔性提醒用戶休息
  、支持甚至附和使用者的對話機器 ，還可協助使用者做成是否接受化療這類醫療決策。即使使用者與ChatGPT分享自己的醫療紀錄，泰勒產生暴力衝動，鼓勵他尋求協助，而ChatGPT也支持他的計畫。這類情況中，

  觀察者多認為，

  在發表會及訪談中
  ，

  面對該不該離婚這類高風險的個人決策 ，但「諂媚」問題可能是改善最明顯之處，

  奧特曼表示 ，而讓AI逐漸滲透入生活的其他面向，也已出現不少模型成功引導使用者獲得更佳診斷及治療的案例。「但我預期這種情況在某種程度上勢必會到來，一名會計師在與ChatGPT密集討論有如電影《駭客任務》（The Matrix）那樣的模擬假說後 ，在持續較長的對話間，

  一件引人注目的憾事發生在4月。

  近來 ，生活反而轉向不樂見的方向
  。