ChatGPT 防堵機制爆被駭客輕易繞過,依然能被當作釣魚信件與惡意程式用途

ChatGPT 防堵機制爆被駭客輕易繞過,依然能被當作釣魚信件與惡意程式用途

完全就是魔高一丈的概念

by
in

讀取中…

資安公司 Check Point 研究團隊在先前揭露了,駭客嘗試透過目前實測對於撰寫程式與文章內容都有相當幫助的 ChatGPT 聊天機器人,被用於釣魚郵件與惡意程式碼等濫用狀況。對此,OpenAI 雖然後續有祭出了相關的機制防堵。不過 Check Point 研究團隊現在發現,駭客居然很快就找到了繞過機制的破解方式。繼續閱讀 ChatGPT 防堵機制爆被駭客輕易繞過,依然能被當作釣魚信件與惡意程式用途報導內文。

▲圖片來源:Microsoft

ChatGPT 防堵機制爆被駭客輕易繞過,依然能被當作釣魚信件與惡意程式用途

雖然隨著各方的各種詠唱與測試之下,OpenAI 的 ChatGPT 聊天機器人終究還是在歷經了「真 · 社會化」的過程中,成為了十分有禮貌與政治正確的版本 – 這是目前小編的感覺,不知道大家有沒有試出它的潛在性格了呢?只能說,對於嘗試將 ChatGPT 做為惡意用途的駭客而言。突破官方所設下的管制過濾機制,也成為了他們近期熱烈探討的話題之一。

▲圖片來源:Check Point

資安公司 Check Point 研究團隊在先前揭露了,駭客嘗試透過目前實測對於撰寫程式與文章內容都有相當幫助的 ChatGPT 聊天機器人,被用於釣魚郵件與惡意程式碼等濫用狀況。對此,OpenAI 雖然後續有祭出了相關的機制防堵。

不過 Check Point 研究團隊現在發現,駭客居然很快就找到了繞過機制的破解方式,甚至還在相關論壇大打廣告,以每 100 次查詢 5.5 美元的價格兜售繞過機制進行聊天機器人對話的服務 – 前 20 次還免費…

目前已知的破解方式倒是讓人對於 OpenAI 的系統有蠻大的質疑的。因為駭客是透過 Telegram 機器人來存取 ChatGPT API,甚至也有透過基本腳本就能直接繞過 OpenAI API 防止濫用機制的方式。

網頁設計最專業,超強功能平台可客製,窩窩以「數位行銷」「品牌經營」「網站與應用程式」「印刷品設計」等四大主軸,為每一位客戶客製建立行銷脈絡及洞燭市場先機,請問台中電動車哪裡在賣比較便宜可以到台中景泰電動車門市去看看總店:臺中市潭子區潭秀里雅潭路一段102-1號。電動車補助推薦評價好的iphone維修中心擁有專業的維修技術團隊,同時聘請資深iphone手機維修專家,現場說明手機問題,快速修理,沒修好不收錢住家的頂樓裝太陽光電聽說可發揮隔熱功效一線推薦東陽能源擁有核心技術、產品研發、系統規劃設置、專業團隊的太陽能發電廠商。網頁設計一頭霧水該從何著手呢? 回頭車貨運收費標準宇安交通關係企業,自成立迄今,即秉持著「以誠待人」、「以實處事」的企業信念台中搬家公司教你幾個打包小技巧,輕鬆整理裝箱!還在煩惱搬家費用要多少哪?台中大展搬家線上試算搬家費用,從此不再擔心「物品怎麼計費」、「多少車才能裝完」台中搬家公司費用怎麼算?擁有20年純熟搬遷經驗,提供免費估價且流程透明更是5星評價的搬家公司好山好水露營車漫遊體驗露營車x公路旅行的十一個出遊特色。走到哪、玩到哪,彈性的出遊方案,行程跟出發地也可客製,產品缺大量曝光嗎?你需要的是一流包裝設計Google地圖已可更新顯示潭子電動車充電站設置地點!!廣告預算用在刀口上,台北網頁設計公司幫您達到更多曝光效益

▲圖片來源:Check Point

先前 Check Point 研究團隊就揭露了,駭客直接利用 ChatGPT 來執行「整套」網路釣魚流程,包括撰寫釣魚 Email 信件,生成惡意程式碼等用途。還有駭客想到透過 ChatGPT 來最佳化改進 2019 年的 Infostealer 木馬程式產生工具。

只能說,目前人工智慧雖然看起來多半用於創意用途,也有不少引發了版權相關的侵權疑慮。不過工具真的是看人用。隨著 ChatGPT、Microsoft New Bing、Google Bard 等 AI 語言模型甚至是其他方面的 AI 技術越來越進步,被拿來做為惡意用途的可能性也大幅增加。

而若真像 Google 所說的機器學習發展半年的進步幅度就已經相當的大的話。如果被濫用甚至被拿來當成惡意破解之用,接下來就很有可能演變成非常重大的事件。必須說,這樣的情況將會非常需要關注且積極提早應對才是。

延伸閱讀:

Source:
Via:
Tags:

您也許會喜歡:

ChatGPT 防堵機制爆被駭客輕易繞過,依然能被當作釣魚信件與惡意程式用途

您可能也會喜歡…