(資料圖)

ChatGPT熱度不減，但人們逐漸開始關(guān)注到了安全性的問題。4月10日，中國支付清算協(xié)會(huì)發(fā)布了《關(guān)于支付行業(yè)從業(yè)人員謹(jǐn)慎使用ChatGPT等工具的倡議》（以下簡稱《倡議》）。

《倡議》表示，近期，ChatGPT等工具引起各方廣泛關(guān)注，已有部分企業(yè)員工使用ChatGPT等工具開展工作。但是，此類智能化工具已暴露出跨境數(shù)據(jù)泄露等風(fēng)險(xiǎn)。為有效應(yīng)對風(fēng)險(xiǎn)、保護(hù)客戶隱私、維護(hù)數(shù)據(jù)安全，提升支付清算行業(yè)的數(shù)據(jù)安全管理水平，中國支付清算協(xié)會(huì)向行業(yè)發(fā)出三條倡議。

具體看：一是提高思想認(rèn)識(shí)，依法依規(guī)使用；二是不上傳關(guān)鍵敏感信息；會(huì)員單位加強(qiáng)內(nèi)部管理和引導(dǎo)。

《倡議》表示，支付行業(yè)從業(yè)人員要遵守所在地區(qū)的網(wǎng)絡(luò)使用規(guī)定，正確認(rèn)識(shí)ChatGPT等工具的機(jī)遇和風(fēng)險(xiǎn)，全面評估使用ChatGPT等工具處理工作內(nèi)容的風(fēng)險(xiǎn)，依法合規(guī)使用ChatGPT等工具。在使用ChatGPT等工具時(shí)，要嚴(yán)格遵守國家及行業(yè)相關(guān)法律法規(guī)要求，不上傳國家及金融行業(yè)涉密文件及數(shù)據(jù)、本公司非公開的材料及數(shù)據(jù)、客戶資料、支付清算基礎(chǔ)設(shè)施或系統(tǒng)的核心代碼等。

此外，《倡議》還要求會(huì)員單位進(jìn)一步健全信息安全內(nèi)控管理制度，開展有針對性的數(shù)據(jù)風(fēng)險(xiǎn)防控工作，加強(qiáng)宣傳和引導(dǎo)，提升員工的風(fēng)險(xiǎn)防范和數(shù)據(jù)保護(hù)意識(shí)，切實(shí)維護(hù)國家金融及支付清算行業(yè)安全。

值得一提的是，ChatGPT是基于巨大的數(shù)據(jù)集訓(xùn)練出來的，這意味著它在回答問題可能存在偏見和錯(cuò)誤；ChatGPT 以及其他類似的模型可能被用于惡劣的，例如傳播虛假信息和濫用個(gè)人信息。

虎符智庫研究員李建平告訴21世紀(jì)經(jīng)濟(jì)報(bào)道記者，如同其他人工智能模型一樣，ChatGPT是把雙刃劍，既可以是提升效率的工具，同時(shí)也可能被繞過安全機(jī)制，用于實(shí)施有害的活動(dòng)。對于如何規(guī)避ChatGPT所帶來的安全問題，他認(rèn)為，從安全防護(hù)的角度來看，ChatGPT的運(yùn)營機(jī)構(gòu)需采取針對性的應(yīng)對措施。對ChatGPT等類似模型進(jìn)行培訓(xùn)，標(biāo)記惡意的活動(dòng)和惡意代碼，避免其向惡意人員提供；同時(shí)對ChatGPT設(shè)置難以繞過護(hù)欄，提升惡意人員利用其生成惡意內(nèi)容、開展惡意活動(dòng)的門檻。

關(guān)鍵詞：