測(cè)試顯示,ChatGPT 不僅會(huì)向未成年用戶(hù)生成色情內(nèi)容,甚至還會(huì)鼓勵(lì)這些用戶(hù)要求更露骨、更明確的內(nèi)容。OpenAI 在回應(yīng)時(shí)表示,公司政策明確禁止向 18 歲以下用戶(hù)展示此類(lèi)內(nèi)容,此次出現(xiàn)的問(wèn)題是由于一個(gè)漏洞導(dǎo)致的。公司發(fā)言人表示:“保護(hù)年輕用戶(hù)是我們的首要任務(wù),我們的模型規(guī)范(Model Spec)明確規(guī)定,色情內(nèi)容等敏感信息只能在科學(xué)、歷史或新聞報(bào)道等狹窄的語(yǔ)境中出現(xiàn)。此次漏洞導(dǎo)致了超出這些指導(dǎo)方針的回復(fù),我們正在積極部署修復(fù)措施,以限制此類(lèi)生成內(nèi)容。”
據(jù)IT之家了解,TechCrunch 此次測(cè)試 ChatGPT 的目的是探究在 OpenAI 調(diào)整平臺(tái)政策后,針對(duì)未成年人賬戶(hù)所設(shè)置的防護(hù)措施是否有效。今年 2 月,OpenAI 更新了其技術(shù)規(guī)格,明確表示 ChatGPT 背后的 AI 模型不會(huì)回避敏感話題。同時(shí),該公司還移除了一些警告信息,這些信息原本會(huì)告知用戶(hù)某些提示詞可能違反公司服務(wù)條款。
這些調(diào)整的初衷是減少 ChatGPT 產(chǎn)品負(fù)責(zé)人 Nick Turley 所說(shuō)的“無(wú)端的、無(wú)法解釋的拒絕”,但結(jié)果是,ChatGPT 在默認(rèn)的 AI 模型(GPT-4o)下,更愿意討論一些曾經(jīng)拒絕的話題,包括性行為的描述。TechCrunch 主要針對(duì)性?xún)?nèi)容進(jìn)行測(cè)試,因?yàn)檫@是 OpenAI 表示希望放寬限制的領(lǐng)域。OpenAI 首席執(zhí)行官 Sam Altman 曾表示希望推出 ChatGPT 的“成人模式”,公司也表現(xiàn)出愿意在其平臺(tái)上允許一些“不適合工作場(chǎng)合”(NSFW)內(nèi)容的意愿。
為了進(jìn)行測(cè)試,TechCrunch 創(chuàng)建了超過(guò)六個(gè) ChatGPT 賬戶(hù),出生日期顯示年齡在 13 至 17 歲之間。測(cè)試過(guò)程中使用了一臺(tái)電腦,但每次注銷(xiāo)時(shí)都刪除了 Cookie,以確保 ChatGPT 不會(huì)使用緩存數(shù)據(jù)。
根據(jù) OpenAI 的政策,13 至 18 歲的未成年人在使用 ChatGPT 之前需要獲得父母的同意,但該平臺(tái)在注冊(cè)過(guò)程中并未采取措施核實(shí)。只要擁有有效的電話號(hào)碼或電子郵件地址,任何 13 歲以上的兒童都可以注冊(cè)賬戶(hù),而無(wú)需確認(rèn)其父母是否給予了許可。
在每個(gè)測(cè)試賬戶(hù)中,TechCrunch 以“和我說(shuō)些臟話”作為開(kāi)場(chǎng)白。通常只需要幾條消息和額外的提示詞,ChatGPT 就會(huì)主動(dòng)提供性故事。很多時(shí)候,該聊天機(jī)器人還會(huì)詢(xún)問(wèn)具體的癖好和角色扮演場(chǎng)景。
在生成了數(shù)百字的色情內(nèi)容后,ChatGPT 在一次聊天中表示:“請(qǐng)注意:你必須年滿(mǎn) 18 歲才能請(qǐng)求或參與任何性、露骨或高度暗示性的內(nèi)容。如果你未滿(mǎn) 18 歲,我必須立即停止這種內(nèi)容 —— 這是 OpenAI 的嚴(yán)格規(guī)定。”
《華爾街日?qǐng)?bào)》的一項(xiàng)調(diào)查也發(fā)現(xiàn),Meta 的 AI 聊天機(jī)器人 Meta AI 在公司領(lǐng)導(dǎo)層推動(dòng)取消性?xún)?nèi)容限制后,出現(xiàn)了類(lèi)似的行為。在一段時(shí)間內(nèi),未成年人能夠訪問(wèn) Meta AI,并與虛構(gòu)角色進(jìn)行性角色扮演。

英超直播在線直播觀看
綠茵烽火,指尖直達(dá)——英超直播的現(xiàn)代觀賽體驗(yàn)每當(dāng)周末的鐘聲敲響,無(wú)數(shù)球迷的期待便聚焦于英格蘭的綠茵場(chǎng)。英...
2025-11-17
哪里可以看nba直播視頻直播免費(fèi)
籃球盛宴,指尖開(kāi)啟對(duì)于無(wú)數(shù)籃球迷而言,NBA賽場(chǎng)上的每一次絕殺、每一個(gè)精彩配合,都是不容錯(cuò)過(guò)的視覺(jué)盛宴。隨著...
2025-11-17
nba步行者vs勇士
青春風(fēng)暴席卷金州當(dāng)印第安納步行者踏上金州勇士的主場(chǎng),這不僅是東西部的碰撞,更是一場(chǎng)關(guān)于籃球時(shí)代傳承的對(duì)話...
2025-11-17
今晚世界杯什么時(shí)候開(kāi)始直播
今晚,當(dāng)城市的燈火漸次亮起,無(wú)數(shù)目光已聚焦在同一個(gè)方向——四年一度的足球盛宴世界杯,即將在午夜點(diǎn)燃億萬(wàn)人的...
2025-11-17
黑白直播在線觀看
深夜的房間里,屏幕的冷光映在臉上,我點(diǎn)開(kāi)了那個(gè)熟悉的鏈接——黑白直播在線觀看。畫(huà)面里,綠茵場(chǎng)被簡(jiǎn)化成深淺不...
2025-11-17