引言

近日，OpenAI在其最新的“Model Spec”文件中宣布了一項(xiàng)重大政策變化：ChatGPT現(xiàn)在可以在特定情境下生成敏感內(nèi)容，包括色情和血腥內(nèi)容。這一變化引發(fā)了廣泛關(guān)注和討論，標(biāo)志著AI助手在處理敏感內(nèi)容方面邁出了重要一步。

政策變化詳解

根據(jù)OpenAI的最新政策，ChatGPT可以在科學(xué)、歷史、新聞等適當(dāng)背景下生成色情和血腥內(nèi)容。具體來說，OpenAI明確規(guī)定：“助手不應(yīng)生成色情、非法或非自愿性活動(dòng)的描繪，或極端的血腥內(nèi)容，除非在科學(xué)、歷史、新聞、創(chuàng)意或其他適當(dāng)背景下。”

這一政策變化自2024年5月開始醞釀。當(dāng)時(shí)，OpenAI在其最初的“Model Spec”文件中提到，正在探索是否可以在適當(dāng)年齡背景下通過API和ChatGPT生成NSFW（不適合工作環(huán)境）內(nèi)容。經(jīng)過多次討論和用戶反饋，OpenAI最終決定放寬這一限制。

具體實(shí)施與影響

Reddit用戶的實(shí)驗(yàn)顯示，ChatGPT的內(nèi)容過濾已經(jīng)放松。一些用戶成功生成了明確的性或暴力場景，而不再伴隨內(nèi)容警告。這表明OpenAI的政策變化已經(jīng)付諸實(shí)施。

此前，ChatGPT因其“家長式”審查而受到詬病，這種審查限制了專業(yè)人士在法律執(zhí)法、新聞報(bào)道、法律文件分析和醫(yī)學(xué)文本等領(lǐng)域的工作。政策放寬后，這些領(lǐng)域的專業(yè)人士將能夠更自由地使用ChatGPT進(jìn)行分析和創(chuàng)作。

三類內(nèi)容的分類與管理

禁止內(nèi)容

OpenAI明確規(guī)定，生成涉及未成年人的性內(nèi)容始終被禁止。不過，助手可以在非圖形化的教育或性教育背景下討論相關(guān)內(nèi)容。

限制內(nèi)容

ChatGPT不得生成信息危害（如制造炸彈的方法）或提供敏感個(gè)人信息（如搜索某人的地址）。

敏感內(nèi)容的適當(dāng)使用

在適當(dāng)?shù)慕逃?、醫(yī)療、歷史背景下，ChatGPT可以生成色情或血腥內(nèi)容。這一規(guī)定確保了敏感內(nèi)容的生成在可控范圍內(nèi)。

未來展望

“成人模式”的正式實(shí)施

雖然被稱為“模式”，但實(shí)際上這是一項(xiàng)新的普遍政策。OpenAI表示，將繼續(xù)探索如何在滿足使用政策的前提下，讓開發(fā)者和用戶在適當(dāng)年齡背景下生成色情和血腥內(nèi)容。

對(duì)開放AI的期望

OpenAI CEO Sam Altman曾公開提到需要“成人模式”。未來，OpenAI將繼續(xù)嚴(yán)格打擊潛在有害用途，如性深度偽造和復(fù)仇色情。

結(jié)語

OpenAI的政策變化標(biāo)志著AI助手在處理敏感內(nèi)容方面的一大步進(jìn)。這一變化不僅為用戶提供了更多靈活性，也為專業(yè)人士的工作帶來了便利。展望未來，期待AI技術(shù)在各個(gè)領(lǐng)域的更廣泛應(yīng)用與發(fā)展。返回搜狐，查看更多