美國科技企業OpenAI周二(2日)宣布,將於下月為旗下生成式聊天機械人ChatGPT加入家長監控功能,家長將可以把自己的帳號與青少年子女的帳號連結,並控制ChatGPT如何利用符合年齡的模型行為規則,來回應青少年子女。同時,家長可管理哪些功能禁用,當中包括記憶和聊天歷史。當系統偵測到青少年突然感到很難受或痛苦,家長也會收到ChatGPT的通知。
OpenAI表示,未來三個月將進一步提升聊天機械人的安全性,包括將「某些敏感對話」轉接至一個會投入更多運算資源生成回應的推理模型(reasoning model)。此外,測試顯示推理模型能更一致地遵循並應用安全準則。
上周,一對美國夫婦入稟法院控告OpenAI,稱ChatGPT鼓勵他們的16歲兒子今年4月自殺身亡,甚至幫忙撰寫遺書,是該公司首次面對同類官司。(hc/j)
AASTOCKS新聞