自ChatGPT進入公眾視野並引起熱議的一年中，外界已經看到了數百種生成式AI工具的出現，這些工具旨在減輕員工的壓力，使工作場所變得更加高效。但隨著生成式人工智慧工具的廣泛興起，與此同時關於人工智慧被用於網路攻擊的報道也在不斷增加，安全和風險問題也隨時受到越來越多的關注。
其中，自動化假冒行為正成為一種日益嚴重的社會問題，不得不承認的是，生成式人工智慧工具在一定程度上幫助了騙子使用假冒的社交媒體賬號，與受害者建立聯繫並獲取其個人敏感資訊。
據悉，安全軟體Avast公司幾天前在其官方渠道發布消息：該公司查獲了一種借用ChatGPT來創建虛假戀情與約會的「戀愛騙局」軟體——LoveGPT。Avast在原文中稱「這個名為「LoveGPT」的最新騙局似乎正在欺騙那些尋找愛情的人。」
根據Avast的最新研究發現，LoveGPT作為一款表面上為了幫助用戶在網上約會時製作更有吸引力的個人資料和進行更動人的對話的工具，但事實上，自從LoveGPT整合了OpenAI的GPT語言模型後，它正在被騙子利用來實施自動化假冒行為。
該公司指出，這種騙局已經存在了十多年，但最新的OpenAI集成將其提升到了一個新的水平，使用者很難分辨自己到底是與一個人還是一個機器人約會。
目前已知受影響的應用程序包括Ashley Madison、Badoo、Bumble、Craigslist、DuyenSo、Facebook Dating、likeyou.vn、MeetMe、OkCupid、Plenty ofFish、Tagged、Tinder和Zoosk等等。
據悉，在約會平台上，騙子們利用LoveGPT的自動化功能，規模化地創建虛假賬號，並以看似真實的語言與受害者互動。這無疑給廣大用戶帶來了新的挑戰，這顯然網路安全問題不容忽視，但對於用戶來說，僅僅保持警惕，提高識別假冒行為的能力似乎還遠遠不夠。
在與用戶進行深入互動的過程中，loveGPT運用了GPT-3和GPT-3.5的高級技術，以生成精準且富有情感的文字，描述個人資料，以及與用戶的對話。這種基於語言模型的交互方式，無疑為這種服務增添了更多的人性化色彩，也更有可能欺騙用戶的信任。
LoveGPT的獨特之處還在於，它可以根據不同的約會平台特點，調整提示詞，以偽裝成不同類型的用戶。例如，在Bumble上，它可能化身為一位詩人，而在Zoosk上，它可能偽裝成一位熱衷於旅行的朋友。再加上它所具備的各種隱藏手段，使得LoveGPT在許多情況下，看起來像一個正常的約會網站用戶。
Avast網路安全專家表示，這一切都使得LoveGPT成為一個需要我們特別關注和警惕的工具。顯然在約會時，對待初識的網友應持有謹慎的態度，即便對話看似真實，也不宜輕易披露個人的敏感資訊，因為對方可能是通過AI操控假冒的身份。
關於LoveGPT對OpenAI強大的語言模型GPT-3/GPT-3.5的應用讓其具有生成自然真實對話的能力，這無疑為欺詐者提供了製造假身份的有力工具，使其有可能在網路約會平台上實施規模化的欺詐行為。因此除了對此加強隱私和資料安全的保護，更重要的是相關網路公司也應重視這種AI輔助欺詐行為，並採取相應的預防措施。
