自chatgpt进入公众视野并引起热议的一年中，外界已经看到了数百种生成式ai工具的出现，这些工具旨在减轻员工的压力，使工作场所变得更加高效。但随着生成式人工智能工具的广泛兴起，与此同时关于人工智能被用于网络攻击的报道也在不断增加，安全和风险问题也随时受到越来越多的关注。
其中，自动化假冒行为正成为一种日益严重的社会问题，不得不承认的是，生成式人工智能工具在一定程度上帮助了骗子使用假冒的社交媒体账号，与受害者建立联系并获取其个人敏感信息。
据悉，安全软件avast公司几天前在其官方渠道发布消息：该公司查获了一种借用chatgpt来创建虚假恋情与约会的“恋爱骗局”软件——lovegpt。avast在原文中称“这个名为“lovegpt”的最新骗局似乎正在欺骗那些寻找爱情的人。”
根据avast的最新研究发现，lovegpt作为一款表面上为了帮助用户在网上约会时制作更有吸引力的个人资料和进行更动人的对话的工具，但事实上，自从lovegpt整合了openai的gpt语言模型后，它正在被骗子利用来实施自动化假冒行为。
该公司指出，这种骗局已经存在了十多年，但最新的openai集成将其提升到了一个新的水平，使用者很难分辨自己到底是与一个人还是一个机器人约会。
目前已知受影响的应用程序包括ashley madison、badoo、bumble、craigslist、duyenso、facebook dating、likeyou.vn、meetme、okcupid、plenty offish、tagged、tinder和zoosk等等。
据悉，在约会平台上，骗子们利用lovegpt的自动化功能，规模化地创建虚假账号，并以看似真实的语言与受害者互动。这无疑给广大用户带来了新的挑战，这显然网络安全问题不容忽视，但对于用户来说，仅仅保持警惕，提高识别假冒行为的能力似乎还远远不够。
在与用户进行深入互动的过程中，lovegpt运用了gpt-3和gpt-3.5的高级技术，以生成精准且富有情感的文字，描述个人资料，以及与用户的对话。这种基于语言模型的交互方式，无疑为这种服务增添了更多的人性化色彩，也更有可能欺骗用户的信任。
lovegpt的独特之处还在于，它可以根据不同的约会平台特点，调整提示词，以伪装成不同类型的用户。例如，在bumble上，它可能化身为一位诗人，而在zoosk上，它可能伪装成一位热衷于旅行的朋友。再加上它所具备的各种隐藏手段，使得lovegpt在许多情况下，看起来像一个正常的约会网站用户。
avast网络安全专家表示，这一切都使得lovegpt成为一个需要我们特别关注和警惕的工具。显然在约会时，对待初识的网友应持有谨慎的态度，即便对话看似真实，也不宜轻易披露个人的敏感信息，因为对方可能是通过ai操控假冒的身份。
关于lovegpt对openai强大的语言模型gpt-3/gpt-3.5的应用让其具有生成自然真实对话的能力，这无疑为欺诈者提供了制造假身份的有力工具，使其有可能在网络约会平台上实施规模化的欺诈行为。因此除了对此加强隐私和资料安全的保护，更重要的是相关网络公司也应重视这种ai辅助欺诈行为，并采取相应的预防措施。
