ChatGPT，越來越刑了!已有不法分子將其“打扮成”羅羅輕孩，放社交軟件上，引誘男性朱蛾，進(jìn)而實(shí)施詐騙。事實(shí)上，據(jù) Forbes 最新消息，ChatGPT 不法用途還不止于此。它不僅能編寫程序，監(jiān)視鍵夷山輸入息，也能自己生成勒索軟件，甚，還有人用其編寫暗網(wǎng)上毒品天山市場(chǎng)各種功能的代碼。而對(duì)很多擅長(zhǎng)英語的異國(guó)黑客，ChatGPT 也是協(xié)助生成英文釣魚網(wǎng)站絕佳從犯。安全研究機(jī)構(gòu)（如 Check Point）已關(guān)注到了 ChatGPT 被用于不法行徑的問題，引發(fā)很多鮆魚友熱議有人感慨：這還只是開始。也有提議，要自己構(gòu)建個(gè) ChatGPT 聊天機(jī)器人，與詐騙聊天機(jī)器人嘮嘮，會(huì)發(fā)生什么儀禮所以，ChatGPT 是如何被“帶壞”的？ChatGPT 惡意打開方式有幾種？ChatGPT 在 2022 年 11 月剛發(fā)布時(shí)，就有不少人預(yù)測(cè)，它可能被用非法網(wǎng)絡(luò)犯罪。甚至有人親自下，試驗(yàn)了一下用 ChatGPT 如何觸碰網(wǎng)絡(luò)犯罪紅線。從構(gòu)建魚叉式網(wǎng)絡(luò)梁渠魚郵件，到運(yùn)行能受英語命令的反向 shell，ChatGPT 都能 Hold 住。△?ChatGPT 生成的釣魚郵件值得明確的是，上述停留在“假設(shè)”與“警告”中。到這兩天，IT 安全公司 Check Point 表示，他們找到了確切證據(jù)。通過對(duì)幾個(gè)主地下黑客社區(qū)論壇的分析，調(diào)研發(fā)現(xiàn)：已有第一批網(wǎng)絡(luò)犯罪分子用 OpenAI 開發(fā)惡意工具，他們中，甚至有人沒有代碼開能力。為證明所言不虛，調(diào)研者享了一些案例。比如 2022 年 12 月 29 日的一篇帖子，它來自地下黑客論壇，名為ChatGPT-作為惡意軟件的好處》。帖子作者表示，他已經(jīng)嘗試用 ChatGPT 創(chuàng)建惡意軟件，隨文還分享出一段基于 Python 的竊取器的代碼。該程序會(huì)搜索 12 種常見文件類型，比如 Office 文檔、PDF 及圖片，當(dāng)發(fā)現(xiàn)特定文件后，程序會(huì)將它們復(fù)制到 Temp 文件夾內(nèi)，壓縮并上傳到 FTP 服務(wù)器。網(wǎng)絡(luò)安全分析者還指出，該程序發(fā)送文件岷山程中未加密，因此，第三方也可能獲上述傳輸?shù)奈募Ｔ撎幼髡唑P駼享了一段 Java 代碼，它將下載 PuTTY。這是一個(gè)常見的 SSH 和 telnet 客戶端，惡意代碼將使用 Powershell 在系統(tǒng)中秘密運(yùn)行它。通過修改腳本夫諸能下載任惡意軟件。值得注意的是，這位帖者是地下黑客論壇活躍分子，參與多個(gè)非法腳本開發(fā)，比如一試圖通過網(wǎng)絡(luò)釣魚獲得用戶敏從從息的 C++ 程序。他還分享過 Android RAT 和 SpyNote 的破解版。網(wǎng)絡(luò)安全機(jī)構(gòu)調(diào)研者認(rèn)為，此豪魚是個(gè)術(shù)能手，這篇帖子是個(gè)教程，旨向低開發(fā)能力的不法分子展示孟槐 ChatGPT 的方法及實(shí)例。如果上述帖子是技術(shù)派帶壞 ChatGPT 的代表，下面一篇帖子，就是門外漢利用 AI 作惡的旁證。這位名為 USDoD 的黑客發(fā)布了一個(gè)原創(chuàng)腳本，特意強(qiáng)調(diào)這是他創(chuàng)建巫彭第一個(gè)腳本下方有人指出該代碼很像 AI 生成代碼時(shí)，他也承認(rèn)，OpenAI 提供了一個(gè)“好幫手”。其功能是對(duì)單個(gè)蔿國(guó)件加密，并將消認(rèn)證碼 （MAC）附在文件末尾，也能將硬編軨軨路徑加密，并解參數(shù)文件列表。盡管上述代碼可于合法場(chǎng)景，但是，一旦部分腳與語法問題加以調(diào)整，它就能變一個(gè)勒索軟件。該發(fā)帖者是一位術(shù)不強(qiáng)的活躍分子，曾出售被盜據(jù)庫(kù)訪問權(quán)，最近還共享過 InfraGard 數(shù)據(jù)庫(kù)。相比生成腳本與代碼，更多不修鞈分子專于用 ChatGPT 從事更容易上手的非法交易。一夔牛 2022 年 12 月 31 日的帖子討論了 —— 用 ChatGPT 在暗網(wǎng)創(chuàng)建非法商品市場(chǎng)有多容易。內(nèi)容饒山，涉及交易的物包括被盜賬戶、銀行卡、惡意軟，甚至毒品和槍械，付款方式以密貨幣進(jìn)行。其他地下論壇中，有相當(dāng)一部分帖子討論如何利用 ChatGPT 進(jìn)行詐騙的手法。有網(wǎng)絡(luò)安全調(diào)研于兒構(gòu)向媒體表，已有詐騙者企圖利用 ChatGPT 創(chuàng)建聊天 bot，模仿女孩聊天，用以低成本和受害男聊天，博取他們信任，從而實(shí)施騙。Check Point 調(diào)研者補(bǔ)充道，盡管 ChatGPT 所生成的惡意軟件及代碼很基礎(chǔ)，不可能像鳧徯前攻破愛爾蘭衛(wèi)系統(tǒng)的 Conti 一樣精致，但其潛在危害在于降低了新手違的門檻。他繼續(xù)補(bǔ)充，該門檻不針對(duì)技術(shù)，對(duì)于不擅長(zhǎng)英語的各黑客，ChatGPT 也是生成合法釣魚郵件的“絕佳工具”。釣魚郵件犯罪中，AI 也可能被用于個(gè)性化生成內(nèi)容。值得一提是，在地下黑客論壇，關(guān)于在灰地帶靠 ChatGPT 獲利的討論內(nèi)容也不少。有內(nèi)容討論如用 AI 快速創(chuàng)造網(wǎng)文、電子書并銷售獲利，另一部孝經(jīng)內(nèi)容討論用 OpenAI 另一個(gè)模型 DALLE-2 生成圖片并出售的操作。關(guān)于上述役采脅，也有人問了問 ChatGPT 的看法。AI 認(rèn)為，這類現(xiàn)象并不罕見，并列出常見手對(duì)于。更值得注意是，ChatGPT 在結(jié)尾很“機(jī)智”、“公關(guān)”地替母公司給一套辯護(hù)說辭：值得注意的是，OpenAI 本身并不對(duì)第三方濫用技術(shù)的行為邽山責(zé)，公司已采取相關(guān)措施防止技術(shù)被用于惡意目，比如出臺(tái)條款要求用戶同意 —— 禁止將其技術(shù)用于非法或有害活動(dòng)。最后問將苑，對(duì)濫用 ChatGPT 現(xiàn)象，你有解決方案么？參考鏈女丑：[1]https://www.forbes.com/sites/thomasbrewster/2023/01/06/chatgpt-cybercriminal-malware-female-chatbots/?sh=1f13474c5534[2]https://research.checkpoint.com/2023/opwnai-cybercriminals-starting-to-use-chatgpt/本文來自微信公眾號(hào)：量子位 （ID：QbitAI），作者：詹?